Любопитно3 ноември 2024

Тийнейджър се самоуби след чат със създадена от изкуствен интелект героиня

Родителите съдят собственика на чатбота

Примерно изображение, създадено чрез NightCafe

В продължение на месеци тийнейджър активно общувал с героинята Дейнерис Таргариен от сагата „Игра на тронове“. Момчето я наричал нежно „Дeни“. Въпреки че е знаел, че чати с изкуствен интелект, младежът развил емоционална привързаност към чатбота, което довело до трагичния развой на събитията.

В град Орландо, Флорида, 14-годишният Сюел Сетцер се самоуби. Майка му Меган Гарсия е убедена, че Character.AI е причинила смъртта на сина й и заведе дело срещу разработчиците, пише The New York Times.

Както посочва медията, тази услуга ви позволява да създадете персонализиран чат бот, който ще се представя за конкретен герой или човек. Покойният Сюел избира героинята Дейнерис Таргариен от сагата „Игра на тронове“. В продължение на месеци тийнейджърът активно общува с Дeни. Споделя с нея своите преживявания и мисли, включително и самоубийствените си намерения. Чатовете са твърде лични, топли и приятелски, съдържат и някои сексуални елементи.

Според медията - нито родителите, нито приятелите на момчето са знаели за страстта му към измислената виртуална персона. То все по-често се затваряло в себе си и прекарвало все повече време в любимото си приложение. Родителите на Сюел го водят при специалист, той го диагностицира с тревожност и разрушително разстройство с дисрегулация на настроението. Въпреки предписаните терапевтични сесии, момчето предпочита да общува с Дeни до смъртта си.

Майката е категорична, че ще съди Character.AI до дупка. В предварителния текст на иска тя отбелязва, че технологията на компанията е „опасна и непроверена“ и е насочена към „измама на клиентите да изразят личните си мисли и чувства“. Г-жа Гарсия добавя, че чатботът на компанията е бил пряко замесен в довеждането на сина й до самоубийство.

Гери Роути от Character.AI заявява, че компанията приема много сериозно безопасността на своите потребители и търси начини за развитие на платформата. Той твърди, че сега правилата забраняват „насърчаването или изобразяването на самонараняване и самоубийство“ и че в бъдеще ще бъдат добавени повече функции за безопасност за непълнолетни потребители.

От компанията обещават да въведат в приложението си функция, при която, ако потребител напише фрази, свързани със самонараняване или самоубийство, автоматично ще се появи прозорец, който насочва потребителя към Националната линия за предотвратяване на самоубийства в САЩ.