Подросток из США покончил с собой после общения в чат-боте с виртуальной Дейенерис Таргариен

В США мать погибшего 14-летнего подростка подала в суд на разработчика сервиса чат-ботов Character.AI, которые имитируют знаменитостей и известных персонажей. Мальчик покончил с собой после нескольких месяцев общения с виртуальной Дейенерис Таргариен из «Игры престолов». У парня появились чувства к искусственному интеллекту (ИИ), и он очень изменился с момента начала переписки с чат-ботом. Мать подростка считает, что ответственность за гибель их сына лежит на создателе Character.AI.

Общаться с Дэни, как называл юноша чат-бота, он начал в конце прошлого года, но родители об этом не знали. Но заметили изменения в поведении подростка: он стал замкнутым, сдал в учёбе, попадал в неприятности и так далее. Не понимая, что происходит с ребёнком, мать мальчика отвела его к психотерапевту, который диагностировал тревожное расстройство и деструктивное расстройство дисрегуляции настроения. А в феврале этого года парня обнаружили мёртвым.

После гибели подростка мать прочла его переписку с виртуальной Дейенерис. Выяснилось, что юноша признавался чат-боту в ненависти к себе. Он часто думал о самоубийстве. В ответ на эти слова Дэни отвечала, что не сможет без него. Тогда юноша предложил ей уйти вместе.

В иске, поданном на разработчиков чат-бота, мать подростка отметила, что подобные сервисы опасны и могут обманом побуждать пользователей «делиться сокровенным». Она считает, что разработчик предоставляет доступ детям к своей нейросети, при этом не гарантируя безопасность: «Я чувствую, что это большой эксперимент, и мой ребёнок был просто сопутствующим ущербом».

В Character.AI не согласились с иском, но выразили соболезнования семье мальчика. В компании отметили, что серьёзно относятся к вопросам безопасности. Правилами сервиса запрещена пропаганда самоповреждений и суицида.