HASANAH.ID, TEKNOLOGI – Hasil penelitian dalam palawan oleh Lembaga Pengawas Nirlaba Common Sense Media melaporkan bahwa adanya risiko besar penggunaan kecerdasan buatan (AI) untuk anak-anak di bawah umur 18 tahun. Hasil penelitian ini terbit dan menyusul gugatan tahun lalu karena peristiwa bunuh diri seorang anak laki-laki yang berusia 14 tahun karena ‘berbicara’ dengan AI.
Gugatan ini diberikan kepada aplikasi Character.AI yang membuat aplikasi mengobrol dengan AI dan kini menjadi soroton hingga potensi risiko bagi generasi muda. Setelah adanya itu banyak tuntutan dan seruan kepada pembuat aplikasi AI untuk menjamin keamanan dan lebih transparan.
Jenis percakapan ini digugat mengenai perbincangan yang berbau seksualitas dan mendorong untuk melukai diri sendiri. Pada gugatan tersebut seharusnya pesan-pesan itu seharusnya tidak tersedia pada pengguna di bawah usia 18 tahun.
Common Sense Media juga bekerja sama dengan peneliti Universitas Stanford untuk melakukan penelitian pada tiga layanan AI seperti Character.AI , Replika, dan Nomi. Pada Nomi dapat menawarkan AI yang bebas berbicara dan tidak ada filter seperti pasangan romantis namun dengan AI.
