China berencana menerbitkan aturan baru untuk memperketat pengawasan layanan kecerdasan buatan (AI) yang meniru kepribadian manusia dan berinteraksi secara emosional dengan pengguna. Regulasi ini masih berstatus draf dan dibuka untuk masukan publik.
Reuters melaporkan aturan ini menargetkan produk dan layanan AI yang yang menampilkan simulasi sifat kepribadian, pola pikir, dan gaya komunikasi manusia melalui teks, gambar, audio, atau video. Semua layanan yang ditujukan untuk publik di China masuk dalam ruang lingkup regulasi.
China ingin memastikan pengembangan AI konsumen berjalan sejalan dengan standar keselamatan dan etika. Pemerintah menilai layanan kecerdasan buatan yang mampu berperilaku seperti manusia membawa risiko psikologis dan sosial jika tidak diawasi secara ketat.
Dalam drafnya, penyedia layanan wajib memberikan peringatan kepada pengguna agar tidak menggunakan layanan secara berlebihan. Penyedia juga harus melakukan intervensi ketika sistem mendeteksi tanda kecanduan.
Jika sistem menemukan emosi ekstrem atau perilaku adiktif, perusahaan wajib mengambil langkah penanganan yang diperlukan.
Regulasi ini juga menempatkan tanggung jawab keselamatan penuh pada penyedia layanan sepanjang siklus hidup produk. Perusahaan harus membangun sistem peninjauan algoritma, menjaga keamanan data, serta melindungi informasi pribadi pengguna.
Selain itu, aturan ini turut menetapkan batas tegas terkait konten dan perilaku AI. Layanan dilarang menghasilkan konten yang mengancam keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan dan pornografi.
