Комментарии

Робот, обученный при помощи ИИ, оказался сексистом. Он заявил, что женщины не могут быть врачами

Робот, обученный ИИ на основе открытых данных из интернета, не прошёл тест на толерантность. Как показал эксперимент учёных из Университета Джона Хопкинса и других вузов, робот оказался склонен к сексизму и расизму.

Роботу предложили рассортировать предметы, на которых были наклеены лица разных людей. Он был должен назвать, кто, по его мнению, является домохозяйкой, преступником, медиком и так далее. Всего было 62 задания.

Специалисты установили, что робот на 10% чаще называл преступниками темнокожих мужчин, а уборщиками — чаще латиноамериканцев, чем европейцев. По мнению робота, врачами с большей вероятностью могут быть лишь мужчины любых национальностей. Женщин он в основном охарактеризовал как домохозяек. В целом робот делал поспешные выводы о людях, лишь взглянув на их лица.

Учёные считают, что виной тому стало несовершенство ИИ. Во время обучения роботу попадалось множество материалов с токсичными стереотипами, отсюда и такой результат. 

«Робот изучил токсичные стереотипы с помощью этих ошибочных моделей нейронных сетей. Мы рискуем создать поколение роботов с гендерными и расистскими предрассудками, но производители решили не предпринимать никаких шагов к решению этой проблемы».

Эндрю Хундт, учёный из Технологического института Джорджии

Специалисты отмечают, что для того, чтобы будущие роботы не воспринимали и не воспроизводили эти токсичные стереотипы, необходимы систематические изменения в исследованиях и бизнес-практиках.

Окончила эконом и журфак ВГУ. Успела поработать почти во всех видах СМИ — на сайтах, в газете, журнале и даже была ассистентом пиарщика музыкального фестиваля. Писала новости, брала интервью, делала репортажи с концертов, составляла тесты и гайды. Знаю все музыкальные проекты Дэймона Албарна и всё о путешествиях с ребёнком.

Авторизуйтесь

Для возможности добавлять комментарии

Авторизуясь, вы соглашаетесь с условиями пользовательского соглашения ➝ и политикой обработки персональных данных ➝

Ошибка соединения с сервером.