Pemerintah Cina tengah menyiapkan regulasi baru untuk mengawasi penggunaan layanan kecerdasan buatan alias artificial intelligence (AI) yang dirancang menyerupai manusia dan mampu berinteraksi secara emosional dengan pengguna.
Melansir Reuters (27/12), otoritas siber Cina pada Sabtu waktu setempat merilis rancangan aturan tersebut untuk mendapat masukan publik. Langkah ini disebut sebagai upaya Beijing dalam mengendalikan pesatnya pengembangan dan penerapan AI yang berhadapan langsung dengan konsumen, sekaligus memperkuat aspek keamanan dan etika dalam penggunaannya.
Dalam rancangan aturan itu, regulasi akan berlaku bagi produk dan layanan AI yang tersedia untuk publik di Cina dan menampilkan simulasi kepribadian manusia, pola pikir, serta gaya komunikasi layaknya manusia.
Layanan yang dimaksud mencakup interaksi emosional melalui berbagai medium, seperti teks, gambar, audio, hingga video.
Aturan yang diusulkan mewajibkan penyedia layanan AI untuk memberikan peringatan kepada pengguna agar tidak menggunakan layanan secara berlebihan. Penyedia juga diminta melakukan intervensi jika terdeteksi tanda-tanda kecanduan pada pengguna.
Selain itu, penyedia layanan diwajibkan memikul tanggung jawab keselamatan sepanjang siklus hidup produk. Tanggung jawab ini mencakup kewajiban membangun sistem peninjauan algoritma, menjaga keamanan data, serta melindungi informasi pribadi pengguna.
Regulasi ini juga menyoroti potensi risiko psikologis. Penyedia layanan diharapkan mampu mengidentifikasi kondisi pengguna, menilai emosi, serta tingkat ketergantungan mereka terhadap layanan AI.
Jika pengguna menunjukkan emosi ekstrem atau perilaku adiktif, penyedia diwajibkan mengambil langkah-langkah intervensi yang diperlukan.
Rancangan aturan itu juga menetapkan batasan tegas terkait konten dan perilaku AI. AI dilarang menghasilkan konten yang membahayakan keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan maupun pornografi.
