JAKARTA (Realita)- Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) secara tegas memutus akses terhadap Grok AI, platform kecerdasan buatan Elon Musk, agar bisa menangkal dugaan produksi dan distribusi konten pornografi berbasis teknologi digital.
Kebijakan ini dilakukan setelah muncul kekhawatiran atas maraknya penyalahgunaan teknologi kecerdasan artifisial, khususnya dalam pembuatan konten manipulatif dan asusila.
Menkomdigi Meutya Hafid membeberkan terkait pemutusan akses sementara tersebut merupakan bagian dari kewajiban negara dalam melindungi masyarakat dari risiko konten berbahaya di ruang digital.
"Penyelenggara Sistem Elektronik (PSE) wajib mematuhi regulasi yang berlaku di Indonesia, termasuk Peraturan Menteri Kominfo Nomor 5 Tahun 2020 yang mewajibkan platform memastikan tidak adanya muatan informasi elektronik yang dilarang," ujar Meutya Hafid dalam keterangan resminya, Minggu (11/1/2025).
Peraih Penghargaan Jurnalistik Elizabeth O'Neill, dari pemerintah Australia ini menegaskan, demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial," tambahnya.
"Kemudian Kementrian Komunikasi dan Digital langsung melakukan pemutusan akses sementara terhadap aplikasi Grok,” ungkapnya.
Dirinya juga merinci, praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
Masih terang Meutya, selain memutus akses platform Grok AI, pemerintah juga telah meminta platform X, yang sebelumnya dikenal sebagai Twitter dan berada dalam satu ekosistem dengan Grok di bawah perusahaan xAI, untuk memberikan klarifikasi terkait dampak negatif penggunaan teknologi tersebut.
"Indikasi manipulasi konten pengguna melalui teknologi AI Grok diketahui telah menuai kecaman di sejumlah negara," jelasnya.
"Di Indonesia, aparat penegak hukum bahkan mengancam akan memproses pidana pengelola Grok setelah Kementerian Komdigi melaporkan dugaan manipulasi foto pribadi atau deepfake bersifat sensitif tanpa persetujuan pemiliknya," imbuhnya.(Ang)
Editor : Redaksi
