Jakarta, CNBC Indonesia - Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok.
Menteri Komunikasi dan Digital (Komdigi) Meutya Hafid mengatakan langkah tersebut diambil demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial
"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," katanya dalam keterangan resmi, Sabtu (10/1/2025).
Kemkomdigi juga juga telah meminta platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.
Adapun tndakan pemutusan akses dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Sebelumnya, Kemkomdigi telah buka suara soal chatbot Grok AI milik X yang digunakan untuk memproduksi dan menyebarkan konten asusila pengguna di dalam platform.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar mengatakan Grok AI belum memiliki pengaturan mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia secara eksplisit serta memadai. Menurutnya, hal ini berpotensi melanggar hak privasi dan citra diri, khususnya saat foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dikutip dari laman resmi Komdigi.
(luc/luc)
