«Вконтакте» запустит нейросеть для борьбы с сексизмом, гомофобией и расизмом

Самая популярная в России соцсеть «Вконтакте» тестирует технологию, которая будет автоматически распознавать оскорбительные комментарии и тексты с агрессивными высказываниями. Благодаря ей время обработки жалоб будет сокращено и пользователи будут реже сталкиваться с «хейтспичем».

«Нейросеть учится распознавать проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе»

представители «ВКонтакте»

Чтобы помочь разработчикам быстрее обучить нейросеть, пользователям предлагают нажимать на кнопку «Пожаловаться» и выбирать категорию «Враждебные высказывания» каждый раз, когда на глаза попадаются оскорбительные фразы. Так «Вконтакте» сможет точнее откалибровать уже существующие инструменты.

Всего за полгода в соцсети было удалено 520 тысяч материалов, разжигающих вражду и ненависть, заблокировано 1340 аккаунтов и 2470 сообществ. Среди них оказалась и женоневистническая группа «Мужское государство», которую закрыли из-за призывов к насильственным действиям.