Komdigi Blokir Sementara Grok AI Imbas Maraknya Deepfake Pornografi

Pemerintah menegaskan kebijakan pemutusan akses ini bertujuan melindungi perempuan, anak, serta masyarakat luas dari dampak berbahaya pornografi palsu berbasis AI. Praktik deepfake seksual dinilai berpotensi merugikan korban secara psikologis, sosial, dan hukum, serta memperburuk keamanan ruang digital nasional.

Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan bahwa deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital. Ia menegaskan negara tidak akan mentoleransi penggunaan teknologi yang melanggar hukum dan nilai kemanusiaan. Komdigi juga meminta pihak X untuk hadir memberikan klarifikasi terkait penggunaan Grok dalam pembuatan konten tersebut.

Menurut Komdigi, pemutusan akses ini telah sesuai dengan dasar hukum yang berlaku di Indonesia. Kebijakan tersebut merujuk pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020, yang mewajibkan penyelenggara sistem elektronik untuk mencegah dan menanggulangi penyebaran konten elektronik yang dilarang.

Sementara itu, Grok—chatbot AI milik Elon Musk—mulai membatasi fitur pembuatan dan pengeditan gambar di platform X. Fitur tersebut kini hanya dapat diakses oleh pengguna berbayar, sebagai respons atas meningkatnya kritik global terkait penyalahgunaan teknologi AI untuk membuat deepfake seksual, termasuk manipulasi gambar perempuan dan anak-anak.

Kebijakan pembatasan ini muncul di tengah tekanan internasional terhadap X dan Elon Musk. Sejumlah negara mengancam sanksi dan pembatasan, sementara Komisi Eropa dilaporkan memerintahkan X untuk menyimpan dokumen serta data terkait Grok hingga 2026. Langkah tersebut diambil sebagai bagian dari penyelidikan atas maraknya penyebaran konten seksual berbasis AI di platform media sosial. (*)