Manipulasi Foto Pribadi, Menkomdigi Meutya Hafid Lakukan Pemutusan Akses Sementara pada Grok AI

JawaPos.com - Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid akhirnya buka suara terkait manipulasi konten asusila yang manfaatkan Grok AI. Dia mengungkapkan, kini Kementerian Komunikasi dan Digital (Komdigi) melakukan pemutusan akses sementara pada aplikasi tersebut.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Menkomdigi Meutya kepada wartawan, Sabtu (10/1).

Menurutnya, praktik deepfake seksual nonkonsensual termasuk pada pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.

“Kementerian Komunikasi dan Digital juga juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ungkap dia.

Sebelumnya diberikan, Komdigi terus menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang diduga digunakan untuk membuat dan menyebarluaskan konten bermuatan pornografi. Konten tersebut mencakup manipulasi foto pribadi yang bersifat sensitif dan dilakukan tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi, Alexander Sabar, mengungkapkan bahwa berdasarkan penelusuran awal, Grok AI belum dilengkapi dengan pengaturan yang jelas dan memadai untuk mencegah produksi maupun distribusi konten pornografi berbasis foto nyata warga Indonesia.

Situasi ini dinilai berpotensi melanggar hak privasi serta hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa izin yang sah.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (7/1).