Kemenkomdigi Putus Sementara Akses Fitur Grok AI di X

JAKARTA, KOMPAS - Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara fitur Grok AI, chatbot kecerdasan buatan generatif yang ada di platform X (dulu Twitter). Kebijakan ini diambil setelah marak kasus penyalahgunaan fitur Grok untuk memproduksi dan mendistribusikan konten pornografi.

”Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, kami melakukan pemutusan akses sementara terhadap fitur Grok AI yang ada di X,” ujar Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid, dalam pernyataan resmi, Sabtu (10/1/2026), di Jakarta.

Pemerintah Indonesia, menurut dia, memandang praktik pemalsuan menggunakan teknologi kecerdasan buatan atau deepfake seksual yang non-konsesual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.

Tindakan pemutusan akses dilakukan berdasarkan kewenangan Kemenkomdigi sebagaimana diatur dalam pasal 9 Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Peraturan ini mewajibkan setiap penyelenggara sistem elektronik (PSE) untuk memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.

Selain memutus sementara akses fitur Grok AI, Meutya menyebut dirinya juga telah meminta manajemen platform X untuk segera hadir. Mereka harus memberikan klarifikasi dampak negatif penyalahgunaan fitur Grok.

Sejak Rabu (7/1/2026), eskalasi kasus penyalahgunaan fitur Grok AI untuk konten pornografi terjadi di berbagai negara. Sejumlah pejabat negara, dari Komisi Eropa, Inggris, India, dan Perancis mengecam X.

Namun, pada saat itu, berbeda dengan sikap pejabat negara lain yang segera mengecam, Kemenkomdigi sempat memberikan pernyataan bahwa temuan awal kementerian menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga.

Meski demikian, Direktur Jenderal Pengawasan Ruang Digital Kemenkomdigi Alexander Sabar yang memberikan pernyataan saat itu mengatakan, pemerintah dapat menjatuhkan sanksi administratif ataupun pidana sesuai dengan ketentuan hukum yang berlaku. Hal itu dilakukan jika penyedia layanan kecerdasan buatan beserta pengguna yang terbukti memproduksi ataupun menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak.

Sejak Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-undang Hukum Pidana (KUHP) berlaku pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.

Bagi yang terbukti melakukan pelanggaran, sebagaimana diatur pada Pasal 407, ancaman pidananya berupa hukuman penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun atau pidana denda sesuai dengan ketentuan.

”Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemenkomdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X,” kata Alexander.

Pemerhati tata kelola internet Bhredipta Socarana, saat dihubungi Sabtu (10/1/2026), berpendapat, penggunaan fitur Grok AI untuk membuat konten pornografi atau memfasilitasi kekerasan berbasis gender daring menunjukan tiga hal. Pertama, urgensi tersedianya safeguards yang efektif terhadap proses generative AI memproduksi outputnya menjadi sangat tinggi.

Kedua, kondisi moralitas pengguna Grok AI di X yang mengedepankan preferensi seksual di muka publik menunjukkan situasi yang mengkhawatirkan. Ketiga, negara perlu evaluasi dan perbaikan menyeluruh baik secara teknologi dan kemampuan SDM pengguna melalui intervensi kebijakan yang tepat.

”Tindakan Kemenkomdigi untuk meminta klarifikasi merupakan langkah awal yang perlu diapresiasi. Namun, problem penyalahgunaan teknologi merupakan cermin dari kondisi masyarakat penggunanya dan kemampuan pengembang teknologinya,” ujar dia.

Bhredipta menambahkan, perbaikan secara sistemik dan terukur soal ekosistem kecerdasan buatan mendesak dilakukan, tetapi harus melibatkan seluruh pemangku kepentingan di industri, alih alih hanya sebatas melakukan pemutusan akses yang bersifat solusi jangka pendek.

Sementara itu, pendiri Indonesia Cyber Security Forum (ICSF) Ardi Sutedja mengatakan, dia sangat setuju dan mendukung upaya pelndungan masyarakat pengguna teknologi digital yang dilakukan oleh Kemenkomdigi. Namun, upaya pelindungan ini jangan berhenti pada hanya pemblokiran.

”Pemerintah harus mengupayakan langkah lain, seperti program literasi digital yang komprehensif dan masif mengenai manfaat serta risiko teknologi,” kata Ardi.