Kate Middleton menjadi salah satu korban deepfake mesum yang diciptakan Grok AI. Regulator internet, telekomunikasi, dan media Inggris, Ofcom, langsung turun tangan mengontak xAI, perusahaan milik Elon Musk yang menciptakan Grok.
Ofcom mengatakan pihaknya sedang menyelidiki dugaan Grok memproduksi gambar orang dalam kondisi seolah tanpa busana.
BBC menemukan sejumlah postingan di platform X yang memperlihatkan pengguna meminta Grok mengubah foto asli perempuan agar tampak mengenakan bikini atau berada dalam situasi seksual, tanpa izin dari orang yang bersangkutan. Kate Middleton masuk di antara korban deepfake.
Istana Kensington belum memberikan komentar resmi terkait laporan tersebut.
Ofcom tengah mempertimbangkan langkah penegakan hukum terhadap Grok. Kasus ini juga menjadi ujian awal bagi regulator dalam menghadapi pesatnya perkembangan teknologi kecerdasan buatan.
"Kami mengetahui adanya kekhawatiran besar terkait fitur Grok di X yang dapat menghasilkan gambar orang tanpa busana serta gambar seksual anak-anak," papar Ofcom dalam sebuah pernyataan, mengutip Newsweek.
Sementara itu, tim keamanan Grok AI mengeklaim pihaknya telah mengambil tindakan tegas terhadap konten ilegal.
"Kami menindak konten ilegal di X, termasuk materi pelecehan seksual terhadap anak, dengan menghapus konten, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah dan aparat penegak hukum setempat," tulis Grok.
"Mereka yang menggunakan atau memberi perintah kepada Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti pengguna yang mengunggah konten ilegal secara langsung."
Komdigi Investigasi GrokDi Indonesia sendiri, Kementerian Komunikasi dan Digital (Komdigi) telah menindaklanjuti dugaan penyalahgunaan Grok AI di platform X yang dipakai untuk membuat konten cabul.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengatakan penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dalam pernyataan resmi, Rabu (7/1).
Komdigi menilai manipulasi digital terhadap foto pribadi tidak sekadar melanggar norma kesusilaan. Praktik tersebut juga merupakan bentuk perampasan kendali individu atas identitas visualnya dan dapat menimbulkan dampak psikologis, sosial, serta kerusakan reputasi korban.
