Malaysia menyusul Indonesia memblokir akses ke Grok, chatbot kecerdasan buatan (AI) milik Elon Musk yang terintegrasi dengan platform media sosial X. Hal ini terkait penggunaan platform AI itu untuk mengedit foto, khususnya perempuan, menjadi tidak senonoh dan viral di media sosial.
Grok memungkinkan pengguna menghasilkan dan mengedit gambar. Namun, dalam beberapa waktu terakhir, fitur tersebut banyak digunakan untuk memanipulasi foto orang sungguhan agar tampak mengenakan pakaian minim atau bersifat seksual.
Praktik ini memicu kekhawatiran serius terkait pelanggaran privasi, martabat manusia, dan keselamatan di ruang digital. Malaysia dan Indonesia menjadi negara pertama di dunia yang secara resmi memblokir akses ke Grok. Tekanan serupa juga muncul di Inggris, di mana pemerintah setempat tengah mempertimbangkan langkah pemblokiran setelah muncul kecaman luas terhadap teknologi tersebut.
Melansir BBC (12/1), Kementerian Komunikasi Malaysia melalui Malaysian Communications and Multimedia Commission (MCMC) menyatakan telah mengirimkan sejumlah pemberitahuan kepada X sejak awal tahun ini. Regulator menemukan adanya “penyalahgunaan berulang” Grok untuk menghasilkan konten berbahaya.
Namun, menurut MCMC, respons dari pihak X dinilai tidak memadai karena hanya menekankan mekanisme pelaporan pengguna, tanpa membahas risiko mendasar dari desain platform itu sendiri.
Malaysia menegaskan pemblokiran Grok akan tetap berlaku hingga X menerapkan sistem pengamanan yang efektif.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan penggunaan Grok untuk menghasilkan konten seksual eksplisit merupakan pelanggaran terhadap hak asasi manusia, martabat, dan keamanan digital. Menkomdigi juga telah meminta klarifikasi resmi dari X terkait penggunaan dan pengawasan Grok.
Komdigi memblokir sementara AI Grok merujuk pada Peraturan Menteri Komunikasi dan Informatika atau Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik alias PSE Lingkup Privat.
Pada Pasal 9 misalnya, mewajibkan setiap PSE memastikan sistem elektronik yang dikelola tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Di tingkat global, penggunaan Grok untuk menghasilkan gambar seksual juga menuai kecaman keras. Perdana Menteri Inggris Keir Starmer menyebut praktik tersebut sebagai tindakan memalukan dan menjijikkan.
Menteri Teknologi Inggris Liz Kendall menyatakan siap mendukung regulator Ofcom jika memutuskan memblokir akses ke X di Inggris apabila platform tersebut melanggar Undang-Undang Keamanan Daring (Online Safety Act). Ia menegaskan undang-undang tersebut memberi kewenangan untuk memblokir layanan digital yang tidak patuh terhadap hukum Inggris.
Hingga kini, pihak Grok dan X belum memberikan pernyataan resmi atas pemblokiran di Malaysia dan Indonesia.
