Komdigi Putus Akses Sementara Grok AI Akibat Konten Deepfake Pornografi

Kementerian Komunikasi dan Digital (Kemenkomdigi) memutus sementara akses fitur Grok AI di platform X akibat maraknya penyalahgunaan teknologi tersebut untuk menghasilkan konten pornografi palsu.

"Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," ujar Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid dalam keterangannya, Sabtu (10/1).

Menurutnya, langkah ini diambil untuk melindungi perempuan, anak, dan seluruh masyarakat dari dampak negatif berupa konten pornografi palsu yang memanfaatkan kecerdasan buatan.

Pemutusan akses fitur Grok AI didasarkan pada Pasal 9 Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 yang mengatur penyelenggaraan sistem elektronik. Peraturan ini mewajibkan setiap penyelenggara sistem elektronik untuk memastikan bahwa sistem yang dikelola tidak memuat atau menyebarluaskan informasi yang dilarang, termasuk konten pornografi.

Meutya Hafid juga menyampaikan pihaknya telah meminta manajemen dari platform X untuk memberikan klarifikasi mengenai dampak negatif dari penyalahgunaan fitur Grok AI. Permintaan ini bertujuan untuk mendapatkan pemahaman yang lebih mendalam mengenai penyalahgunaan yang terjadi dan langkah yang harus diambil untuk mencegah hal serupa di masa mendatang.

"Kemkomdigi telah meminta X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," ungkap Meutya.

Kemenkomdigi berharap adanya kerja sama yang baik antara pemerintah dan penyedia platform untuk menciptakan lingkungan digital yang lebih aman.

Seperti diketahui, beberapa waktu lalu platform X dipenuhi konten buatan Grok yang berisikan editan foto pornografi. Banyak pengguna X yang meminta Grok untuk menghapus pakaian atau atribut seseorang hingga menjadi konten pornografi.

Setelah pemutusan akses fitur Grok AI, Kemenkomdigi memiliki kewenangan untuk melakukan tindakan lanjutan berupa sanksi administratif atau bahkan pidana bagi penyedia dan pengguna yang terbukti menyalahgunakan teknologi untuk menghasilkan konten pornografi.

Berdasarkan Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana, terdapat ketentuan yang mengatur tentang sanksi bagi pelanggar yang terlibat dalam produksi dan distribusi konten pornografi. Sanksi tersebut termasuk hukuman penjara atau denda, yang mencerminkan keseriusan pemerintah dalam menangani masalah ini.