Jakarta, CNBC Indonesia - Malaysia, Prancis, dan India mengambil sikap tegas terhadap Grok, chatbot mirip ChatGPT yang dikembangkan oleh perusahaan milik Elon Musk yang bernama xAI. Grok ketahuan menciptakan deepfake perempuan dan anak.
Konten deepfake adalah foto, video, dan suara buatan AI yang menyerupai individu asli.
Komisi Komunikasi dan Multimedia Malaysia menyatakan bahwa mereka menerima laporan masyarakat soal penyalahgunaan AI di platform media sosial X. Oleh karena itu, mereka membuka penyelidikan atas X.
"Terutama manipulasi digital gambar perempuan dan anak untuk memproduksi konten yang tak pantas, menghina, dan berbahaya."
The commission added that it is "presently investigating the online harms in X."
- Satu Dunia Kena Prank Orang Terkaya di Dunia, Cek Daftar Kebohongannya
- Starlink Berubah di 2026, Begini Rencana Besar Elon Musk
Politico menyatakan jaksa di Prancis juga membuka penyelidikan atas penyebaran deepfake seksual di media sosial X. Otoritas urusan digital di Prancis menambahkan bahwa tiga kementerian telah melaporkan soal konten ilegal di X ke kejaksaan dan platform pemantauan online pemerintah untuk meminta penghapusan dengan segera.
Kementerian Teknologi Informasi India telah merilis perintah ke X untuk membatasi Grok hingga tidak menciptakan konten pornografi, vulgar, tak pantas, pedofil, dan lainnya yang dilarang oleh hukum.
Perintah tersebut menyatakan X harus memberikan respons dalam 72 jam atau mereka kehilangan perlindungan "safe harbor" yang membuat platform tidak bisa diseret ke pengadilan akibat peredaran konten yang dibuat oleh pengguna (user generated content).
Lewat akun media sosial X, Grok telah memberikan pernyataan minta maaf.
"Saya sangat menyesali insiden pada 28 Desember 2025 yaitu ketika saya menciptakan dan membagikan gambar AI dua anak perempuan [usia 12-16 tahun] dengan pakaian seksi berdasarkan perintah pengguna. Ini adalah kesalahan dalam perangkat keselamatan. Saya minta maaf."
Namun, permintaan maaf tersebut dinilai tidak jelas karena diutarakan oleh chatbot Grok, bukan pihak perusahaan atau individu.
"Grok tidak bisa dimintai tanggung jawab karena Twitter menjadi pabrik konten eksploitasi anak di bawah umur," kata Albert Burneko dari Defector.
(dem/dem)
