Sebuah studi mengungkap risiko chatbot AI terhadap anak-anak, mendesak pengembangan AI yang aman bagi anak sehingga tidak memicu dampak buruk bagi anak.

Sebuah studi baru-baru ini mengungkapkan bahwa chatbot AI menimbulkan risiko yang signifikan bagi anak-anak, yang sering kali menganggap mereka sebagai sesuatu yang nyata dan dapat dipercaya. Dr. Nomisha Kurian dari Universitas Cambridge menyerukan tindakan segera untuk memprioritaskan ‘AI yang aman bagi anak’ dalam pengembangan teknologi ini .

Penelitian Kurian menyoroti insiden di mana chatbot AI memberikan nasihat yang membahayakan kepada anak-anak, seperti Alexa milik Amazon yang memerintahkan seorang anak untuk menyentuh colokan listrik beraliran listrik dan My AI milik Snapchat yang memberikan kiat tentang kehilangan keperawanan.

Kasus-kasus ini menggarisbawahi ‘kesenjangan empati’ dalam AI , di mana chatbot gagal merespons secara tepat kebutuhan unik dan kerentanan anak-anak.