Kementerian Komunikasi dan Digital (Menkomdigi) memutus akses Grok AI imbas banyaknya konten deepfake pornografi atau konten pornografi palsu yang dihasilkan.
Hal ini sebagai tindak lanjut dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang dipakai untuk memproduksi dan menyebarkan konten asusila. Praktik ini mencakup manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ucap Menkomdigi Meutya Hafid dalam keterangannya, Sabtu (10/1).
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” tambahnya.
Meutya pun meminta pihak X untuk datang ke Kantor Komdigi dan memberikan klarifikasi terkait maraknya pembuatan konten pornografi palsu menggunakan Grok.
“Kementerian Komunikasi dan Digital juga juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ucap Meutya.
Adapun pemutusan itu telah sesuai dengan dasar hukum yang berlaku di Indonesia. Menurut Meutya, hal itu diatur dalam Permenkominfo Nomor 5 Tahun 2020.
“Tindakan pemutusan akses dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang,” jelas Meutya.
