OpenAI придумала, как обезопасить подростков от вредных советов ChatGPT

Компания OpenAI представила новую функцию в чат-боте ChatGPT: в нём появится родительский контроль. Родители начиная с сентября этого года смогут контролировать общение своих детей с искусственным интеллектом (ИИ).

Решение добавить в чат-бот родительский контроль было принято на фоне участившихся трагедий, произошедших после общения несовершеннолетних с ИИ. Взрослые смогут связать свою учётную запись с аккаунтом ребёнка, завести который он сможет лишь по достижении 13 лет. А если бот заметит, что подросток столкнулся с проблемами ментального здоровья, то он сообщит об этом его маме или папе. Кроме того, родители смогут самостоятельно отключать некоторые функции ChatGPT. Например, они смогут запретить ему запоминать диалоги. 

Также компания начала усовершенствовать свой чат-бот, чтобы он мог точнее распознать признаки ментальных проблем и эмоционального стресса у своего собеседника. ИИ будет реагировать на это, опираясь на советы медицинских экспертов. Своим опытом с OpenAI поделятся около 250 специалистов — педиатры, психиатры, врачи общей практики и другие.