Порнографические дипфейки Тейлор Свифт были созданы посетителями портала 4chan в ходе челленджа, сообщает Bloomberg со ссылкой на отчёт компании Graphika, занимающейся анализом соцсетей. Пользователи соревновались в обходе фильтров антипорно, установленных в различных версиях нейросетей. Выяснилось, что, помимо Тейлор Свифт, в качестве объектов для своих экспериментов они выбрали ещё Билли Айлиш, Эмму Уотсон и Ариану Гранде.
Эксперты выяснили, что пользователи интернет-форума 4chan в течение нескольких недель подбирали слова и фразы, чтобы сгенерировать изображения с обнажёнными знаменитыми женщинами. Они восприняли введённый в нейросетях запрет на определённые ключевые слова, мешающий создавать вредоносный контакт, как вызов. В итоге им удалось обойти фильтры и создать подобные инструкции для других. Созданные пользователями дипфейки распространились по сайту 4chan ещё в начале января, а к концу месяца они попали в телеграм и твиттер. Представители интернет-форума пока никак не прокомментировали ситуацию.
Старший аналитик Graphika Кристина Лопес отметила, что на ситуацию обратили внимание после того, как порнографические дипфейки заметили поклонники Тейлор Свифт. При этом певица оказалась далеко не единственной жертвой пользователей 4chan. Более того, она даже не воспринималась ими как целевая фигура. Однако именно с помощью фанатов Тейлор и её положения в обществе на существующую проблему злоупотребления ИИ обратили внимание даже в Белом доме.
В итоге на прошлой неделе группа сенаторов внесла на рассмотрение в Конгресс США законопроект, который криминализирует распространение сексуализированных изображений, созданных с помощью нейросетей. Авторы законопроекта надеются, что он поможет людям, оказавшимся в таком же положении, что и Свифт, добиться привлечения к ответственности человека, распространившего без их согласия дипфейки, на которых они изображены. Причём наказание будет грозить не только тем, кто создал данные изображения, но и тем, кто их сохранил для себя или чтобы растиражировать в дальнейшем.
Станьте первым, кто оставит комментарий