Fenomena Manipulasi Edit Foto Pakai AI Grok

Badan Reserse Kriminal (Bareskrim) Polri merespons fenomena manipulasi foto pribadi menggunakan fitur kecerdasan buatan (AI) Grok pada platform media sosial X. Teknologi tersebut disalahgunakan oleh pihak tidak bertanggung jawab untuk memproduksi konten asusila atau deepfake tanpa persetujuan pemilik foto.

Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, menegaskan bahwa aksi pengeditan foto menjadi konten asusila tersebut merupakan tindak pidana. Saat ini, penyidik tengah melakukan penyelidikan mendalam terhadap fenomena tersebut.

Himawan juga memastikan kasus ini dapat diproses secara pidana jika terbukti ada manipulasi data elektronik berupa foto orang lain tanpa persetujuan pemiliknya.

Sejalan dengan langkah kepolisian, Kementerian Komunikasi dan Digital (Komdigi) juga telah memberikan peringatan keras. Komdigi memastikan bahwa Grok AI dan platform X dapat dikenakan sanksi administratif hingga pemutusan akses (blokir) jika tidak patuh dan kooperatif terhadap regulasi yang berlaku di Indonesia.
  Baca juga: Heboh Konten AI Tak Senonoh, Prancis dan Malaysia Selidiki Grok
Langkah tegas ini diambil menyusul banyaknya laporan mengenai penyalahgunaan fitur generatif AI yang memproduksi konten pornografi. Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang KUHP pada 2 Januari 2026, aturan mengenai konten pornografi telah diperketat melalui Pasal 172 dan Pasal 407.

Menanggapi fenomena ini, pengamat teknologi Heru Sutadi menilai bahwa meskipun Grok AI mulai melakukan moderasi terhadap prompt yang bersifat negatif, celah penyalahgunaan masih tetap ada. Menurutnya, tanggung jawab utama berada pada pengguna untuk memanfaatkan aplikasi AI untuk hal-hal yang positif.

Heru menambahkan, pemerintah saat ini tengah menyiapkan Peraturan Presiden (Perpres) terkait peta jalan (roadmap) dan etika AI yang ditargetkan meluncur pada kuartal pertama tahun ini. Namun, ia menekankan pentingnya regulasi setingkat Undang-Undang di masa depan untuk mengatur penggunaan AI.

"Kalau ini tidak diatur, kita khawatir bahwa nanti segala macam yang sudah kita bangun mulai dari tata kelola digital, tata kelola pemerintahan, tata kelola keuangan, tata kelola kesehatan, mungkin bisa berubah total dengan kehadiran AI," pungkasnya.