Ashley St. Clair, ibu dari salah satu anak Elon Musk, menggugat perusahaan kecerdasan buatan xAI. Gugatan ini diajukan karena St. Clair mengaku menjadi korban manipulasi foto oleh chatbot Grok tanpa izin dirinya.
Dalam dokumen gugatan yang didaftarkan di New York, St. Clair menyebut Grok digunakan untuk "menelanjangi, mempermalukan, dan mengeksploitasi korban secara seksual" lewat teknologi kecerdasan buatan.
Mengutip laporan CNN pada Sabtu (17/1), gugatan tersebut muncul setelah xAI mengonfirmasi bahwa Grok tidak lagi bisa mengedit gambar orang sungguhan dengan pakaian minim di platform media sosial X milik Elon Musk.
Kebijakan ini diterapkan setelah muncul gelombang kritik. Sebelumnya, Grok diketahui memenuhi permintaan pengguna untuk membuat gambar telanjang palsu atau deepfake orang dewasa, bahkan dalam beberapa kasus melibatkan anak-anak.
Dalam gugatannya, St. Clair juga menuduh Grok telah membuat dan menyebarkan konten deepfake yang bersifat seksual, intim, dan merendahkan dalam jumlah besar atas permintaan pengguna. Hal ini, menurutnya, tetap terjadi meskipun ia sudah menyatakan secara terbuka bahwa dirinya tidak pernah memberikan persetujuan untuk dimanipulasi secara digital.
Salah satu contoh yang disebut dalam gugatan adalah ketika seorang pengguna X diduga menemukan foto St. Clair saat berusia 14 tahun dan masih berpakaian lengkap, lalu meminta Grok untuk "menelanjanginya". Gugatan menyebut permintaan tersebut dipenuhi oleh chatbot.
Hingga berita ini diturunkan, xAI belum memberikan tanggapan atas permintaan komentar terkait kasus ini.
Lewat gugatan tersebut, St. Clair menuntut sidang dengan juri serta meminta kompensasi atas dugaan tekanan emosional dan hilangnya privasi yang ia alami.
St. Clair dan Musk juga diketahui beberapa kali berselisih secara terbuka. Awal pekan ini, Musk menulis di X bahwa ia berencana mengajukan permohonan hak asuh penuh atas anak mereka.
Pada Rabu, St. Clair tampil dalam program Erin Burnett Out Front untuk membahas dugaan pembuatan konten deepfake seksual oleh Grok yang menargetkan dirinya. Ia mengatakan belum ada langkah yang benar-benar efektif untuk menghentikan praktik tersebut secara luas.
Sementara itu, pihak X menyatakan chatbot Grok AI tidak lagi bisa memanipulasi konten pengguna untuk membuat foto cabul.
"Kami telah menerapkan langkah-langkah teknis untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan yang mengenakan pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar," tulis X melalui akun Tim Keamanan mereka pada Kamis (15/1).
Sebelumnya, Grok AI mendapat kritik keras karena menghasilkan dan mempublikasikan gambar seksual atas permintaan pengguna di platform X, termasuk gambar perempuan dan bahkan anak-anak dalam pakaian minim atau pose sugestif.
Dalam sepekan terakhir, xAI juga membatasi pembuatan gambar oleh Grok di X hanya untuk pengguna dengan langganan premium.
