MANADOPOST.ID - Kementerian Komunikasi dan Digital (Komdigi) menegaskan akan memberikan sanksi tegas kepada platform X terkait dugaan penyalahgunaan fitur Grok AI untuk pembuatan konten asusila berbasis manipulasi foto pribadi. Pemerintah menilai sistem moderasi Grok AI belum memadai untuk mencegah praktik deepfake pornografi yang merugikan korban.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyatakan bahwa pemerintah telah mencermati maraknya tren penggunaan Grok AI untuk mengedit foto seseorang menjadi konten tidak senonoh tanpa persetujuan pemilik gambar.
“Jika tidak ada langkah perbaikan yang konkret dari penyelenggara sistem elektronik, sanksi dapat dijatuhkan mulai dari tindakan administratif hingga pemutusan akses layanan di Indonesia,” ujar Alexander.
Pemerintah menegaskan bahwa platform digital wajib memiliki sistem pengawasan dan moderasi yang mampu melindungi privasi, keamanan, serta martabat pengguna, terutama dari penyalahgunaan teknologi kecerdasan buatan.
Menurut Komdigi, pembuatan dan penyebaran konten pornografi berbasis manipulasi citra, termasuk deepfake, merupakan pelanggaran serius. Praktik tersebut dinilai berpotensi merusak reputasi dan menimbulkan dampak psikologis bagi korban.
Selain sanksi administratif, Komdigi juga mengingatkan bahwa pelaku pembuatan maupun penyebaran konten pornografi atau manipulasi foto tanpa izin dapat dikenai sanksi pidana sesuai Kitab Undang-Undang Hukum Pidana (KUHP) baru yang resmi berlaku sejak 2 Januari 2026.
Pemerintah berharap penyelenggara platform digital, termasuk X sebagai pengelola Grok AI, segera memperkuat sistem moderasi dan pengamanan guna mencegah penyalahgunaan teknologi AI di ruang digital Indonesia. (*)
Editor : Jasinta Bolang