Kemkomdigi Usut Dugaan Konten Asusila Terkait Grok AI

Jakarta | MantikNews.com – Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah pembuatan dan distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi tersebut dinilai berpotensi melanggar hak privasi dan hak atas citra diri.

“Belum ada pengaturan spesifik yang mencegah pemanfaatan Grok AI untuk membuat konten pornografi dari foto pribadi. Ini berisiko menimbulkan pelanggaran serius terhadap privasi dan martabat warga,” ujar Alexander di Jakarta, Rabu (7/1/2026).

Kemkomdigi menilai manipulasi foto pribadi bukan sekadar pelanggaran kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visual yang dapat berdampak psikologis, sosial, dan reputasi.

Saat ini, Kemkomdigi berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memperkuat moderasi konten, mencegah pembuatan deepfake asusila, serta memastikan mekanisme penanganan laporan pelanggaran berjalan cepat dan efektif.

Alexander menegaskan seluruh PSE wajib mematuhi peraturan perundang-undangan Indonesia. Ketidakpatuhan dapat berujung pada sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.

Ia juga mengingatkan bahwa sejak berlakunya UU Nomor 1 Tahun 2023 tentang KUHP pada 2 Januari 2026, konten pornografi diatur dalam Pasal 172 dan Pasal 407, dengan ancaman pidana penjara hingga 10 tahun atau denda.

Kemkomdigi mengimbau masyarakat menggunakan teknologi kecerdasan buatan secara bertanggung jawab dan melaporkan setiap pelanggaran privasi atau manipulasi citra pribadi kepada aparat penegak hukum maupun Kemkomdigi.