Kementerian Komunikasi dan Digital (Kemkomdigi) mengawasi dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang digunakan untuk memproduksi dan menyebarkan konten asusila berbasis manipulasi foto pribadi tanpa persetujuan pemiliknya.
Pengawasan tersebut dilakukan menyusul temuan awal bahwa Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto pribadi, yang berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image).
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar mengatakan hasil penelusuran sementara menunjukkan celah pengaturan pada pemanfaatan teknologi kecerdasan buatan di platform tersebut. Kondisi ini dinilai membuka ruang terjadinya penyalahgunaan teknologi untuk kepentingan yang melanggar hukum dan norma.
Baca Juga: Lewat Inovasi JARE, Kemkomdigi Optimalkan Layanan Radio Publik Berbasis AI
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangan tertulis, di Jakarta, Rabu (7/1/2026).
Menurut Alexander, praktik manipulasi foto berbasis kecerdasan buatan tidak hanya menyentuh aspek kesusilaan, tetapi juga berdampak pada kerugian psikologis, sosial, dan reputasi korban. Risiko tersebut dinilai semakin besar seiring meningkatnya kemudahan akses teknologi artificial intelligence oleh publik.
Sebagai tindak lanjut, Kemkomdigi menyatakan telah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE), termasuk pengelola platform X, untuk memastikan tersedianya mekanisme pelindungan yang efektif. Upaya tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta penerapan prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
Baca Juga: Tindak 3,3 Juta Konten Negatif dan Judi Online, DPR Apresiasi Kinerja Tegas Kemkomdigi Jaga Ruang Digital
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Kemkomdigi juga mengingatkan bahwa sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407, yang memuat ancaman pidana penjara dan denda.
Kementerian menegaskan kewajiban seluruh PSE untuk mematuhi peraturan perundang-undangan yang berlaku di Indonesia. Apabila ke depan ditemukan ketidakpatuhan atau sikap tidak kooperatif dalam menangani penyalahgunaan teknologi tersebut, Kemkomdigi membuka peluang penerapan sanksi administratif, termasuk pembatasan hingga pemutusan akses layanan Grok AI dan platform X.
