Perspektif Hukum Positif terhadap Penggunaan AI dan Ancaman KBGO

Pemanfaatan kecerdasan buatan (Artificial Intelligence/ AI) dalam berbagai platform digital saat ini berkembang semakin pesat dan terintegrasi dalam kehidupan sehari-hari. Namun, perkembangan tersebut juga diikuti oleh munculnya berbagai bentuk persoalan di ruang digital, seperti banyak pengguna melakukan penyalahgunaan fitur AI, seperti memanipulasi foto atau video seseorang menjadi bernuansa seksual tanpa persetujuan pemiliknya (non-consensual sexual deepfake). Fenomena manipulasi tersebut menunjukkan bahwa kemajuan suatu teknologi terkadang tidak selalu berjalan seiring dengan perlindungan terhadap hak dan martabat individu di ruang digital.

Praktik manipulasi konten visual berbasis AI tersebut tidak dapat lagi dipandang semata sebagai persoalan etika. Melainkan telah mencerminkan adanya bentuk kekerasan baru di ranah digital yang berpotensi merugikan korban secara serius, baik dari aspek psikologis, sosial, maupun reputasi. Dalam konteks praktik manipulasi foto atau video tersebut, teknologi AI berpotensi beralih fungsi dari sarana inovasi yang membantu manusia menjadi instrumen Kekerasan Berbasis Gender Online (KBGO), dari permasalahan tersebut, ada beberapa persoalan yang perlu dikaji, yakni 

1. Bagaimana hukum memandang persoalan KBGO dalam konteks penyalahgunaan fitur AI?
2. Sejauh mana peran negara dalam upaya memberikan perlindungan hukum kepada korban?

KBGO pada dasarnya dipahami sebagai tindakan kekerasan yang dilakukan melalui media digital dengan tujuan melecehkan, mengintimidasi, atau merugikan seseorang berdasarkan gender atau seksualitasnya (SAFEnet, 2020). Dalam konteks penyalahgunaan fitur AI, manipulasi foto atau video pribadi tanpa persetujuan jelas memenuhi karakteristik tersebut, karena menjadikan identitas visual korban sebagai objek seksual tanpa kendali dari yang bersangkutan.

Praktik manipulasi tersebut dapat muncul dalam berbagai bentuk, seperti pelecehan daring, pelanggaran privasi, pencemaran nama baik, hingga ancaman penyebaran konten intim secara tidak sah. Meskipun wujudnya beragam, inti persoalannya tetap sama, yaitu tidak adanya persetujuan korban dan adanya eksploitasi seksual terhadap tubuh atau identitas visual seseorang. Dampak yang ditimbulkan pun tidak hanya dirasakan secara pribadi, tetapi juga berpotensi menimbulkan stigma sosial dan kerugian jangka panjang.

Maraknya penyalahgunaan fitur AI juga memperlihatkan kecenderungan normalisasi kekerasan di ruang digital. Sebagian pihak memandang manipulasi berbasis AI sebagai sesuatu yang tidak serius atau sekadar hiburan karena dilakukan melalui teknologi. Cara pandang ini berbahaya, karena membuat kekerasan digital terasa wajar dan tidak dianggap sebagai perbuatan yang merugikan orang lain.

Dalam perspektif hukum, ruang digital tidak pernah terlepas dari prinsip tanggung jawab. Setiap tindakan yang dilakukan melalui teknologi tetap memiliki konsekuensi hukum, terutama ketika tindakan tersebut melanggar hak dan merendahkan martabat individu. Oleh karena itu, anggapan bahwa kekerasan digital bersifat “tidak nyata” tidak dapat dijadikan pembenaran atas perbuatan yang menimbulkan penderitaan bagi korban.

Apabila kita lihat dari hukum positif Indonesia, praktik manipulasi foto atau video bernuansa seksual tanpa persetujuan korban berpotensi melanggar sejumlah ketentuan peraturan perundang-undangan. Konstitusi menjamin perlindungan terhadap martabat manusia, rasa aman, serta hak atas perlindungan diri pribadi sebagai bagian dari hak asasi warga negara (UUD 1945).

Selain itu, UU Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi menegaskan bahwa penggunaan data pribadi, termasuk data biometrik dan identitas visual seperti wajah dan tubuh seseorang, harus didasarkan pada persetujuan yang sah dari subjek data. Manipulasi foto atau video pribadi tanpa persetujuan bertentangan dengan prinsip perlindungan data dan hak subjek data.

Lebih lanjut, UU 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual memperluas pemahaman mengenai kekerasan seksual, termasuk perbuatan yang dilakukan melalui sarana elektronik dan berdampak pada tubuh, hasrat seksual, serta martabat korban. Dalam kerangka ini, penyalahgunaan fitur AI untuk memproduksi konten seksual tanpa persetujuan dapat dipandang sebagai bagian dari kekerasan seksual berbasis teknologi.

Undang-Undang tentang Informasi dan Transaksi Elektronik (ITE) beserta perubahannya juga memberikan dasar hukum untuk menilai perbuatan yang melanggar kesusilaan, mencemarkan nama baik, atau melanggar hak privasi melalui media elektronik. Dengan demikian, secara normatif, hukum Indonesia sebenarnya telah menyediakan dasar untuk menilai dan menindak praktik penyalahgunaan AI yang merugikan korban.

Dari sudut pandang hak asasi manusia (HAM), manipulasi foto atau video seseorang menjadi objek seksual tanpa persetujuan merupakan pelanggaran serius terhadap martabat manusia. Setiap individu memiliki hak untuk menentukan bagaimana dirinya ditampilkan dan dipersepsikan oleh orang lain. Ketika identitas visual seseorang dimanipulasi dan disebarluaskan tanpa izin, hak tersebut tidak lagi berada di tangan korban.

Praktik tersebut juga berkaitan erat dengan pelanggaran hak atas privasi. Hak atas privasi tidak hanya berarti perlindungan dari campur tangan negara, tetapi juga perlindungan dari tindakan sesama warga yang mencampuri atau mengeksploitasi kehidupan personal seseorang. Perubahan konten yang semula bersifat pribadi menjadi konsumsi publik yang merendahkan menunjukkan runtuhnya batas privasi korban di ruang digital.

Fenomena penyalahgunaan fitur AI untuk tujuan seksual menegaskan pentingnya peran negara dalam memastikan bahwa perkembangan teknologi tidak mengorbankan hak dan martabat warga negara. Negara memiliki kewajiban untuk mencegah KBGO, termasuk melalui pengawasan terhadap platform digital, pembentukan kebijakan yang melindungi korban, serta penyediaan mekanisme pelaporan dan pemulihan yang mudah diakses.

Perkembangan teknologi AI memang tidak dapat dihindari, namun penggunaannya harus dibatasi oleh prinsip hukum, etika, dan hak asasi manusia. Tidak semua kemampuan teknologi dapat dibenarkan untuk digunakan tanpa batas. Tanpa kerangka hukum yang jelas dan berpihak pada korban, teknologi Ai justru berisiko memperluas ruang kekerasan di era digital.

Selain itu, kebijakan literasi digital juga menjadi kunci. Masyarakat perlu memahami bahwa tindakan di ruang digital memiliki dampak nyata dan konsekuensi hukum. Tanpa perubahan cara pandang publik, kebijakan yang bersifat represif saja tidak akan cukup untuk menekan angka KBGO.

Perkembangan teknologi AI seharusnya berjalan seiring dengan penguatan perlindungan terhadap hak dan martabat manusia. Penyalahgunaan fitur AI untuk memanipulasi foto atau video pribadi tanpa persetujuan korban perlu dipandang sebagai persoalan hukum dan kemanusiaan yang mendesak. Tanpa pengaturan dan pengawasan yang memadai, kemajuan teknologi AI justru dapat menjauhkan masyarakat dari nilai keadilan dan kemanusiaan yang menjadi dasar negara hukum.