Susul Indonesia, Malaysia Turut Blokir Grok AI Akibat Potensi Manipulasi Konten Asusila

JawaPos.com - Susul Indonesia, Malaysia resmi menutup akses ke chatbot kecerdasan buatan (AI) Grok, milik Elon Musk, setelah alat tersebut dinilai berpotensi memproduksi deepfake bermuatan seksual.

Grok, fitur AI yang terintegrasi di platform X, memungkinkan pengguna membuat gambar digital. Namun belakangan, teknologi ini disalahgunakan untuk memanipulasi foto individu nyata agar tampak mengenakan pakaian minim atau konten seksual lainnya.

Seperti dilansir dari BBC, kedua negara tersebut menyatakan bahwa Grok berisiko digunakan untuk menciptakan konten pornografi tanpa persetujuan, termasuk yang melibatkan perempuan dan anak-anak. Dengan langkah ini, Malaysia dan Indonesia tercatat sebagai negara pertama di dunia yang melarang penggunaan Grok.

Dorongan untuk melakukan pemblokiran juga menguat di Inggris. Sekretaris teknologi negara itu menyatakan dukungannya terhadap langkah serupa, yang kemudian dibalas Elon Musk dengan tudingan bahwa pemerintah berupaya membungkam kebebasan berekspresi.

Kementerian Komunikasi Malaysia dan Indonesia mengumumkan keputusan masing-masing melalui pernyataan terpisah pada akhir pekan.

Komisi Komunikasi dan Multimedia Malaysia mengungkapkan pada Minggu bahwa mereka telah mengirimkan pemberitahuan kepada X sejak awal tahun, menyusul temuan adanya "penyalahgunaan berulang" Grok untuk memproduksi konten berbahaya.

Namun, regulator menilai tanggapan X tidak menyentuh akar persoalan. Platform tersebut dinilai gagal mengatasi risiko mendasar dari desain layanannya dan justru hanya menitikberatkan pada mekanisme pelaporan pengguna.

Malaysia menegaskan bahwa pemblokiran Grok akan tetap diberlakukan hingga sistem perlindungan yang efektif diterapkan, sekaligus mengimbau masyarakat untuk aktif melaporkan konten daring yang berbahaya.

Di Indonesia, Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid menegaskan bahwa penggunaan Grok untuk membuat konten seksual eksplisit merupakan pelanggaran serius. Ia menyebut praktik tersebut sebagai bentuk pelanggaran terhadap hak asasi manusia, martabat, dan keamanan di ruang digital.

Adapun sejumlah pengguna Grok di Indonesia yang mendapati foto mereka dimanipulasi mengaku merasa marah dan dirugikan.

Salah satunya, Kirana Ayuningtyas, seorang pengguna kursi roda yang rutin membagikan kisah kesehariannya secara daring. Ia menemukan seorang pengguna asing meninggalkan komentar pada fotonya dengan permintaan agar Grok menampilkan dirinya mengenakan bikini.

Ayuningtyas mengaku telah mengubah pengaturan privasi dan menghubungi platform untuk menghapus gambar tersebut serta mencegah manipulasi lebih lanjut. Namun upaya itu tidak membuahkan hasil.

"Sayangnya, semua itu tidak berhasil," ujarnya. Ia juga mengungkapkan kekhawatirannya karena tidak mengetahui apakah gambar-gambar hasil manipulasi tersebut telah disimpan oleh pihak lain.

Ia kemudian meminta bantuan teman-temannya untuk melaporkan akun-akun yang menyebarkan gambar palsu tersebut. Namun langkah itu justru membuat lebih banyak orang melihat gambar hasil editan tersebut, yang menurutnya sangat memalukan.

Kecaman terhadap penggunaan Grok untuk menghasilkan konten seksual juga datang dari sejumlah pemimpin dunia, termasuk Perdana Menteri Inggris Keir Starmer, yang menyebut praktik tersebut sebagai "memalukan" dan "menjijikkan".