Menjaga Anak dari Predator di Ruang Siber

Di ruang siber, Indonesia—sebagaimana ditegaskan secara imperatif dalam alinea keempat Pembukaan Undang-Undang Dasar Negara Republik Indonesia Tahun 1945—dibentuk untuk “melindungi segenap bangsa Indonesia dan seluruh tumpah darah Indonesia.”

Rumusan ini bukan sekadar deklarasi normatif, melainkan juga mandat konstitusional yang hidup, mengikat, dan menuntut aktualisasi konkret dalam setiap bentuk ancaman terhadap warga negara—termasuk ancaman yang kini bermigrasi ke ruang siber.

Ketika wajah dan identitas anak-anak Indonesia direkayasa oleh kecerdasan buatan menjadi komoditas pornografi sintetis, kegagalan negara untuk bertindak tegas bukan sekadar kelalaian kebijakan, melainkan juga pengingkaran terhadap tujuan fundamental berdirinya negara hukum.

Ancaman ini bukan spekulasi teoritis. Kasus kecerdasan buatan Grok—yang dilaporkan mampu menghasilkan konten seksual non-konsensual berbasis manipulasi wajah dan identitas—menunjukkan bagaimana teknologi generatif dapat dengan mudah melampaui batas etika dan hukum.

Dalam ekosistem digital tanpa sekat yurisdiksi, tidak ada mekanisme yang secara inheren mencegah wajah anak-anak Indonesia menjadi bahan mentah eksploitasi algoritmik. Hari ini korbannya orang dewasa, berikutnya bisa menimpa anak-anak, selama supply demand terjadi.

Ketika sebuah sistem AI mampu memproduksi citra seksual sintetis hanya dari data visual yang tersedia di ruang publik, setiap anak dengan jejak digital minimal sekalipun berada dalam posisi rentan. Negara tidak dapat berkilah bahwa ancaman tersebut berasal dari platform asing; justru di situlah kewajiban konstitusional negara diuji.

Ironisnya, negara terjebak dalam ilusi regulatif—tanpa tindakan teknis preventif—dengan menganggap pengesahan Undang-Undang Pelindungan Data Pribadi (UU PDP) sebagai jawaban final. Padahal, kedaulatan digital Indonesia dibiarkan rapuh, sementara teknologi AI berkembang jauh melampaui daya kejar hukum positif.

Kasus Grok AI menjadi contoh konkret bahwa tanpa ex ante safeguards dan mekanisme pertanggungjawaban yang keras, kecerdasan buatan dapat berfungsi sebagai mesin kekerasan seksual digital. Ketika hukum berjalan lamban dan reaktif, negara secara de facto menyerahkan anak-anak sebagai subjek hukum paling rentan ke dalam mekanisme eksploitasi yang beroperasi secara otomatis dan masif.

Secara normatif, UU PDP telah menempatkan anak sebagai subjek data pribadi spesifik yang memperoleh pelindungan hukum tertinggi. Pasal 52 UU PDP mewajibkan Penyelenggara Sistem Elektronik (PSE) untuk menerapkan pelindungan khusus dalam setiap tahapan pemrosesan data anak. Namun, pengalaman global menunjukkan bahwa kewajiban normatif ini akan runtuh apabila tidak disertai dengan konstruksi yurisprudensial yang tegas.

Dalam konteks teknologi seperti Grok AI, kegagalan PSE untuk membangun filter, pembatasan, dan pengamanan berbasis risiko bukan sekadar pelanggaran administratif, melainkan juga kelalaian sistemik yang berpotensi melahirkan kejahatan seksual terhadap anak.

Oleh karena itu, pembacaan UU PDP harus diarahkan pada penerapan strict liability. PSE—baik yang beroperasi langsung di Indonesia maupun yang layanannya dapat diakses oleh warga negara Indonesia—harus diposisikan sebagai pihak yang bertanggung jawab atas risiko yang melekat pada teknologi yang mereka kelola.

Dalam doktrin liability based on risk, tidak diperlukan pembuktian niat jahat. Cukup ditunjukkan bahwa sistem tersebut secara rasional dapat diprediksi disalahgunakan, sebagaimana telah dibuktikan oleh kasus Grok AI.

Pendekatan ini memperoleh legitimasi kuat dalam Undang-Undang Perlindungan Anak. UU tersebut mewajibkan negara dan setiap pihak untuk melindungi anak dari segala bentuk kekerasan, termasuk kekerasan seksual.

Pornografi sintetis berbasis AI bukan sekadar pelanggaran data, melainkan juga bentuk kekerasan seksual yang menyerang tubuh simbolik dan martabat anak. Dalam konteks ini, data wajah bukan lagi sekadar informasi, melainkan juga representasi tubuh anak itu sendiri. Manipulasinya adalah perbuatan kekerasan.

Yurisprudensi ke depan harus berani mengintegrasikan UU PDP, UU Perlindungan Anak, dan UU Tindak Pidana Kekerasan Seksual (UU TPKS) secara utuh. Aparat penegak hukum tidak boleh terjebak dalam dikotomi antara kejahatan siber dan kejahatan seksual.

Kasus seperti Grok AI menunjukkan bahwa kecerdasan buatan hanyalah medium; substansi kejahatannya tetaplah kekerasan seksual. Oleh karena itu, PSE yang menyediakan atau membiarkan sistem AI beroperasi tanpa pengamanan memadai harus diperlakukan sebagai subjek hukum aktif, bukan sekadar perantara netral.

Di titik inilah peran aparat penegak hukum menjadi krusial. Polisi, jaksa, dan hakim dituntut keluar dari positivisme sempit dan berani menggunakan pendekatan interpretasi progresif.

Prinsip best interests of the child harus menjadi dasar dalam menilai tanggung jawab PSE, termasuk dalam memerintahkan pemblokiran sistem, penghapusan konten secara menyeluruh, dan pembayaran restitusi langsung. Ketidakhadiran otoritas pengawas PDP yang independen tidak boleh dijadikan alasan pembiaran; justru di sinilah fungsi korektif yurisprudensi harus bekerja.

Kelemahan mendasar rezim hukum saat ini adalah ketiadaan mekanisme restitusi otomatis bagi korban anak. Dalam kasus pornografi sintetis berbasis AI, waktu adalah faktor krusial. Setiap detik keterlambatan berarti perpanjangan trauma.

Yurisprudensi harus berani memerintahkan kompensasi punitif terhadap PSE yang lalai, tanpa membebani keluarga korban dengan gugatan perdata yang panjang dan tidak manusiawi.

Pelindungan anak di ruang digital adalah bagian tak terpisahkan dari kewajiban negara untuk “memajukan kesejahteraan umum” dan “mencerdaskan kehidupan bangsa”, sebagaimana ditegaskan dalam Pembukaan UUD 1945.

Anak-anak yang sejak dini menjadi korban eksploitasi algoritmik akan tumbuh dalam bayang-bayang stigma dan ketakutan. Pembiaran terhadap ancaman, seperti Grok AI, bukan hanya kegagalan kebijakan, melainkan juga kegagalan konstitusional.

Sudah saatnya Indonesia mengakhiri era apologetik hukum yang selalu tertinggal dari teknologi. Hukum harus menjadi instrumen pengendali, bukan penonton pasif inovasi yang menyimpang. Dalam konteks ini, yurisprudensi yang berani bukan pilihan, melainkan keharusan.

Hukum harus kembali menjadi pedang yang tajam. Ia harus mengejar setiap penanggung jawab sistem hingga ke batas terjauh yurisdiksi dan teknologi. Karena di balik setiap algoritma yang dibiarkan liar, terdapat anak-anak Indonesia yang masa depannya sedang dipertaruhkan. Dan dalam pertaruhan sebesar ini, negara tidak memiliki hak untuk ragu—apalagi gagal.