Tak pernah sebelumnya--para pemimpin dunia maupun umat sejagat--berada di titik yang sama. Sama-sama di titik kemarahan, oleh satu pencapaian teknologi. Alih-alih riang-gembira oleh harapan barunya, justru kegeraman yang meluap. Seluruhnya kemudian diikuti pertanyaan: apa tujuan akhir pengembangan teknologi? Dan apa pula batas, yang dapat menghentikan pengembangannya?
Karena dalam realitasnya, justru meletakkannya manusia di pinggir jurang kepunahan eksistensinya. Sekaligus memposisikannya sebagai calon korban manipulasi.
Peristiwanya terjadi di permulaan tahun 2026. Tepatnya, saat fitur Grok mampu memfasilitasi keinginan baru penggunanya. Chatbot bagian media sosial X --yang dikembangkan xAI milik Elon Musk ini-- mendemonstrasikan kecanggihannya: mampu mengubah foto apa pun dan milik siapa pun, lewat editing berbasis large language model (LLM).
Sesungguhnya kemampuan ini bukan hal baru. Di saat sebelumnya Grok telah mampu mengedit tampilan foto, cukup dengan prompt. Foto berubah jadi animasi Ghibli, poster Pixar, Disney. Juga serupa action figure berbagai profesi.
Namun kebaruannya saat ini berbeda. Foto-foto yang dapat dikumpulkan dari siapa pun itu, dapat dimanipulasi sebagai deepfake dalam tampilan porno. Porno lebih dari sekadar ketelanjangan, yang pada kategori ini ada eksploitasi obyek maupun hasrat subyek penikmatnya.
Karenanya, dalam frasa 'siapa pun' dapat mengartikulasikan pikiran cabulnya--maka 'siapa pun' dapat jadi korbannya. Ini mengerikan. Kata mengerikan menemui maknanya, ketika siapa pun dapat jadi korban. Terbukti pekan lalu--diduga terdorong oleh euforia uji coba fitur baru--tampil intensif foto seronok di X. Tampilnya foto editing--yang diduga tanpa izin penggunaan oleh pemiliknya-jadi pembicaran ramai.
Ramai dalam nada khawatir, dan memuncak sebagai kemarahan umat sejagat. Lantaran foto perempuan--yang tak tampak biasa tampil terbuka atau berpose seronok--maupun anak-anak, diubah sebagai deepfake pornografi. Mungkin terdorong oleh kesadaran: hanya soal waktu saja, diri sendiri dapat jadi korban.
Detik, 8 Januari 2026, melalui "Grok AI Dikritik Berbagai Negara Termasuk Gambar Mesum, Ini Pembelaan X", menceritakan kemarahan itu. Disebutkannya, telah terjadi gelombang protes dari berbagai negara terhadap kamajuan Grok AI itu. Perancis, India, Malaysia dan juga Indonesia, mengecamnya. Protes sebagai bentuk kemarahan, diikuti penyelidikan penyalahgunaan penggunaan data maupun peredaran material pornografi yang dilarang di banyak negara. Utamanya pornografi anak di bawah umur.
Belakangan, Pemerintah Indonesia melalui Komdigi, menghentikan akses ke chatbot Grok AI itu. Tindakan sebagai bentuk perlindungan pada warga negara. Detik, 12 Januari 2026, memberitakannya melalui 'Susul Indonesia, Malaysia Juga Blokir Grok AI Terkait Konten Mesum'.
Kemarahan dengan muatan rasa putus asa terhadap perkembangan teknologi semacam di atas, langka kejadiannya. Bahkan tak terlintas sebelumnya: ada kemajuan teknologi yang melahirkan konfirmasi serempak, menolaknya.
Menolak, akibat manusia yang terus tergerus eksistensinya oleh penggunaan berbagai perangkat berbasis artificial intelligence (AI), yang kian mantap menuju singularitas. Tanpa rancangan yang jelas --akan ke mana mitigasi eksistensi manusia dengan tercapainya singularitas- mengubah kemarahan jadi rasa putus asa.
Singularitas merupakan suatu titik, yang terbentuk oleh laju perubahan teknologi yang sangat cepat. Kecepatan yang juga mempengaruhi dampaknya. Penjelasan ini, mengutip pernyataan Ray Kurzweil, 2005, dalam bukunya "The Singularity Is Near: When Humans Transcend Biology". Disebutkannya: laju perubahan yang sangat cepat itu tercapai, ketika pertumbuhan eksponensial kekuatan komputer dan teknologi melampaui kecepatan yang mampu mengubah dunia secara mendasar. Juga peran manusia di dalamnya.
Alih-alih yang terjadi saat itu adalah malapetaka, justru manusia akan terhubung secara neurologis ke komputer. Dalam singularitas, teknologi akan lebih banyak memberikan manfaat daripada kerugian
Namun Kurzweil bukanlah orang pertama, yang melontarkan konsep itu. John von Neumann - Matematikawan dan Fisikawan asal Budapaest, Hongaria yang kemudian menjadi warga negara Amerika Serikat-adalah orang pertama yang melontarkannya. Konteks lontaran Neumann -dengan mengutip Thomas Frey, 2014, dalam "The Singularity and Our Collision Path with the Future"-- merupakan jawaban yang diberikan dalam wawancara dengannya, yang berlangsung pada tahun 1958.
Dia menggambarkan kemajuan teknologi yang terus meningkat, menyebabkan perubahan cara hidup manusia. Perubahan hingga mendekati singularitas esensial. Akibatnya, urusan manusia yang telah berjalan lazim tak lagi dapat ditempuh seperti sedikala. Perubahan yang terjadi sangat mendasar.
Gagasan Neumann itu, mempengaruhi pemikiran Kurzweil. Pernyataan soal singularitas yang temuat dalam bukunya, terinspirasi konsepsi Neumann. Namun dari konsepsi itu, Kurzweil melanjutkan pemikirannya lewat pertanyaan-pertanyaan. Seperti ini: jika perubahan teknologi yang sangat cepat menyebabkan perubahan mendasar struktur kehidupan manusia, lalu: "Apa artinya menjadi manusia?" Dan, "Apa pula batasan pengetahuan manusia?" Terhadap dua pertanyaan itu, jawabannya belum bisa dibayangkan.
Ini lantaran--dengan berpijak pada keadaan hari ini--seluruh struktur kehidupan di masa mendatang belum tergambar. Sedangkan ketika saat menjawabnya telah tiba, strukturnya sudah sangat berbeda. Alam semesta--akibat dipenuhi oleh luapan kecerdasan--bangkit jadi kecerdasan itu sendiri. Keadaannya jadi sangat dekat dengan Tuhan, lebih dari yang dapat dibayangkan.
Karenanya--alih-alih manusia mengkhawatirkan nasibnya sebagai tenaga kerja-- nasib hakikinya sebagai penentu peradaban yang sentral, turut runtuh. Manusia bukan lagi penentu utama peradaban.
Pengetahuan yang dimiliki, juga terlampaui batasnya. Berbagai produksi kecerdasan yang dihasilkan perangkat berbasis AI --oleh kemampuan penyimpanan, pengolahan dan penemuan wawasan barunya- menyisihkan pengetahuan hasil kecerdasan alami manusia. Seluruhnya skenarionya, selaras dengan dua pertanyaan Kurzweil di atas. Dan, jadi realitas yang tak menyenangkan.
Keadaan tak menyenangkan itu, berubah jadi kemarahan. Mitigasi eksitensi manusianya pun tak punya arah yang jelas. Sebab cuma satu yang jelas: negara dalam hasrat dominasi AI --seperti USA maupun China-- juga para industriawannya, terus mengembangkan AI. Untuk tujuan satu dimensinya: meraup kejayaan ekonomi. Dan tampaknya, lewat pencapaian Grok hari ini kemarahan umat sejagat terpantik. Inikah indikasi batas pengembangannya tercapai? Sementara singularitas, belum ada tanda jadinya.
Sedangkan rasa putus asa muncul, terdorong oleh kesadaran: setiap saat siapa pun dapat jadi korban keburukan pemanfaatan teknologi. Ketika media massa membawa penyakit propaganda, dengan korban khalayak berliterasi buruk; media sosial dengan penyakit hoaks dan manipulasi algoritma, dengan korban para penghuni filter bubble; maka AI membawa penyakit deepfake, dengan korban para penyetor data pribadi ke perangkat digital.
Data pribadi ini --dengan fitur semacam chatbot Grok AI-- jadi umpan pikiran cabul sebagian penikmat teknologi. Di waktu mendatang, tentu bukan hanya Grok AI yang mampu memfasilitasi keadaan buruk itu. Akan muncul berbagai fitur perangkat lain, yang mengancam keamanan dan kenyamanan manusia. Lalu apa gunanya pengembangan teknologi, jika membalik harapan menjadi keputusaan? Keadaan utopis yang dicita-citakan, justru jadi bayangan distopia.
Sebagian konsepsi Neumann maupun pemikiran Kurzweil telah tergambar jelas. Walaupun singularitas belum datang, dan dalam posisi data yang berbeda. Di masa media analog, aktivitas manusia berakhir saat ruang dan waktunya berubah.
Sebuah jamuan makan malam berakhir, saat para tamu bubar berganti kegiatan lain Kejadiannya akan terlupakan, kecuali ada yang mencatat. Sedangkan di era media digital, aktivitas pertemuan --ruang, waktu, agenda acara, peserta, topik pembicaraan-tertinggal sebagai jejak digital. Jejak digital ini merupakan bahan penyusunan algoritma, yang menjadi pengetahuan tentang pemilik datanya.
Bahkan saat pemilik datanya pun --tak jarang-- asing dengan peta algoritma dirinya. Runyamnya di era AI, selain semua aktivitas dapat diolah sebagai algoritma dan jadi pengetahuan, pola datanya juga dapat digunakan untuk menciptakan yang artificial.
Deepfake pornografi itu wujudnya. Persoalannya: perkembangan deepfake yang mampu menciptakan realitas tanpa acuan itu, dapat dihasilkan dari kumpulan data yang bahkan tak disadari penyebarannya oleh pemiliknya. Mengandalkan kata 'hati-hati' demi melindungi data, tak cukup lagi mencegah diri jadi obyek manipulasi teknologi. Manipulasi yang menyebabkan gangguan mental korbannya, sepanjang hidup.
Seluruhnya jadi bukti: konsep dari era sebelum perubahan teknologi melaju sangat cepat -termasuk soal hati-hati- telah mengalami perubahan mendasar. Akibat strukturnya tergantikan, bahkan oleh struktur yang belum jelas terbentuk. Dan ketika keadaannya belum jelas: haruskah dunia dihadapi dengan mempertebal dindiing keragu-raguan? Karena risikonya, termanipulasi!
Firman Kurniawan S. Pemerhati Budaya-Komunikasi Digital dan Pendiri LITEROS.org.
(rdp/rdp)
