CARAPANDANG - Kementerian Komunikasi dan Digital (Kemkomdigi) menyoroti temuan awal mengenai potensi penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X untuk memproduksi dan menyebarkan konten pornografi, termasuk manipulasi foto pribadi atau deepfake tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, Rabu (7/1/2026), menyatakan bahwa hasil penelusuran menunjukkan Grok AI belum dilengkapi pengaturan eksplisit dan memadai untuk mencegah pembuatan serta distribusi konten pornografi berbasis foto asli warga Indonesia.
"Kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri, terutama ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah," ujar Alexander seperti dikutip Antaranews.
Dia menegaskan bahwa manipulasi digital terhadap foto pribadi bukan hanya persoalan kesusilaan, melainkan bentuk perampasan kontrol individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.
Sebagai langkah penanganan, Kemkominfo tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan efektif.
Langkah tersebut mencakup penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran.
