AQShning Florida shtatida yashovchi Megan L.Garsiya Character.ai ilovasini yaratgan kompaniyani 14 yoshli o‘g‘li Syuyellning o‘limida ayblab, sudga da’vo kiritdi. Bu haqda The New York Times gazetasi xabar berdi.
Garsiyaning da’vosida ta’kidlanishicha, mazkur texnologik kompaniya «xavfli va tekshirilmagan», shu boisdan «yolg‘on bilan mijozlarini o‘zining shaxsiy fikri hamda hissiyotlarini ulashishga majburlashi» mumkin.
Character.ai — neyron tili modelida ishlaydigan chatbot funksiyasiga ega ilova. Uning foydalanuvchilari muloqot uchun sun’iy intellekt asosida o‘z personajini yarata oladi.
NYT ma’lumotlariga ko‘ra, da’vogarning o‘g‘li Syuyell Zetser III uzoq vaqt davomida «Taxtlar o‘yini» serialidagi personaj — Deyyeneris Targariyen sharafiga nomlangan chatbot bilan muloqot qilgan. O‘smirda botga nisbatan hissiy bog‘liqlik paydo bo‘lgan. Syuyell o‘z kundaligiga «Deni»ni sevib qolganini ham yozgan.
2024 yil boshida Syuyellning ota-onasi farzandi qobig‘iga o‘ralib qolayotganini payqagan, maktabda esa o‘zlashtirish bilan muammolari boshlangan. O‘smir psixoterapevtga yuborilgan va Syuyellga vahima hamda kayfiyatga ta’sir ko‘rsatadigan destruktiv buzilish tashxisi qo‘yilgan.
Chatbot bilan muloqoti davomida u o‘zini yomon ko‘rishini, ruhiy tushkun va barchasidan to‘yib ketgandek his qilishini, shuningdek, o‘z joniga qasd qilish haqida o‘ylayotganini yozgan. Yozishmalar davomida chatbot Syuyell o‘ziga zarar yetkazishiga yo‘l qo‘ymasligi haqida javob qaytargan. «Men seni yo‘qotsam, halok bo‘laman», — deb yozadi chatbot. O‘smir esa unga «birgalikda o‘lishni» taklif qilgan. Syuyell 28 fevral kuni kechasi o‘z joniga qasd qilgan.
Character.ai vakillari 22 oktyabr kuni oxirgi olti oy davomida chatbotning faoliyatiga qator o‘zgartirishlar kiritilganini, xususan, 18 yoshdan kichik bo‘lganlarga cheklovlar o‘rnatilganini ma’lum qildi. Endi foydalanuvchi o‘ziga zarar yetkazadigan yoki o‘z joniga qasd qilishga bog‘liq biror jumlani yozsa, chatda uni bunday vaziyatdagi insonlarga yordam beradigan tarmoqqa yo‘naltiruvchi oyna paydo bo‘ladi.
