Новости
23 июня 2022

Робот, обученный при помощи ИИ, оказался сексистом. Он заявил, что женщины не могут быть врачами

Также он оказался склонен к расизму.

Робот, обученный ИИ на основе открытых данных из интернета, не прошёл тест на толерантность. Как показал эксперимент учёных из Университета Джона Хопкинса и других вузов, робот оказался склонен к сексизму и расизму.

Роботу предложили рассортировать предметы, на которых были наклеены лица разных людей. Он был должен назвать, кто, по его мнению, является домохозяйкой, преступником, медиком и так далее. Всего было 62 задания.

Специалисты установили, что робот на 10% чаще называл преступниками темнокожих мужчин, а уборщиками — чаще латиноамериканцев, чем европейцев. По мнению робота, врачами с большей вероятностью могут быть лишь мужчины любых национальностей. Женщин он в основном охарактеризовал как домохозяек. В целом робот делал поспешные выводы о людях, лишь взглянув на их лица.

Учёные считают, что виной тому стало несовершенство ИИ. Во время обучения роботу попадалось множество материалов с токсичными стереотипами, отсюда и такой результат. 

«Робот изучил токсичные стереотипы с помощью этих ошибочных моделей нейронных сетей. Мы рискуем создать поколение роботов с гендерными и расистскими предрассудками, но производители решили не предпринимать никаких шагов к решению этой проблемы».

Эндрю Хундт, учёный из Технологического института Джорджии

Специалисты отмечают, что для того, чтобы будущие роботы не воспринимали и не воспроизводили эти токсичные стереотипы, необходимы систематические изменения в исследованиях и бизнес-практиках.

Станьте первым, кто оставит комментарий
Читайте также
Учёные подтвердили безопасность мужских противозачаточных таблеток для человека
10 рецептов холодного чая, который легко приготовить дома
Crocs выпустил мультяшную коллекцию обуви, посвящённую Барби
Самая дорогая футболистка в мире и сжигание женских контрацептивов: главное о правах женщин за неделю
Выше креативность, ниже стресс: почему искусство делает жизнь лучше и как его понять
Netflix отказался от контракта с Меган Маркл и принцем Гарри