Та, кого нельзя называть: почему женские имена — не лучшее название для умных помощников

Умные колонки поселились в наших домах и стали кем-то вроде членов семьи. Они всегда готовы рассказать, какая погода за окном, или включить любимый трек. Удобно, правда? Но вот один нюанс: голосовые помощники получили человеческие имена, которые носят сотни тысяч женщин. Как быть настоящим Алексам, Алисам и даже Сири? Давайте разберёмся, к каким неочевидным последствиям приводит выбор женских имён для продуктов-ассистентов.

Как цифровые чудеса затмили сказочные приключения

Лет десять назад умная колонка считалась гиковской диковинкой, чем-то вроде сувенира из мира научной фантастики. Теперь Алекса и её сёстры вовсю работают на нас: по всему миру насчитывается более 500 миллионов устройств с Amazon Alexa, а Алиса ежемесячно выполняет запросы 66 миллионов пользователей. Золотая рыбка отдыхает — с каждым годом эти помощницы становятся всё более продвинутыми, реалистичными и похожими на людей.

Первый неожиданный побочный эффект очеловечивания голосовых технологий — снижение популярности реальных имён, совпадающих с именами голосовых ассистентов. Имя Алекса потеряло 90% своей популярности в США, скатившись с 32-го места на 603-е. Ну а Алиса? Сказка про девочку, которая падает в кроличью нору, уступает место… умному дому. Родители больше не хотят , чтобы их дочь звали как колонку, включающую свет по команде. 

Как научный коммуникатор, я не могу игнорировать тот факт, что новшества, которые должны были делать нашу жизнь проще, ведут к весьма травмирующим последствиям для реальных людей. Настоящие Алексы вынуждены уживаться с тем, что их личности стираются , а имя становится синонимом подчинения. Женщины становятся мишенями для уничижительных шуток, подвергаются буллингу и домогательствам. Всё это не проходит бесследно для их ментального здоровья, а также подпитывает гендерные стереотипы в обществе. И это тревожный знак: технологии вторгаются в наше личное пространство.

«Эффект Алексы»: как технологии меняют восприятие имени?

Когда имя становится служебной фразой для управления бытовыми процессами, оно теряет свою уникальность и приобретает новую коннотацию. Мы обращаемся к колонке как к существу, которое должно немедленно исполнять наши прихоти. Так появляются бытовые шутки и мерзкие комментарии: любая Алекса должна быть роботом-всезнайкой. Использование женских имён для голосовых технологий приводит к стигматизации тех, кого на самом деле так зовут.

«Эй, Алекса, вырубай свет!» — кричат приказным тоном взрослые. Дети, видя, как родители командуют виртуальной ассистенткой, начинают проецировать это поведение на живых людей. Юные Алексы сталкиваются с тем, что над ними насмехаются, выкрикивая их имя и отдавая приказы роботизированным тоном.

Ещё в 2016 году американская журналистка по имени Сири рассказала, что коллеги называли её обладательницей «бескрайних знаний». Во время интервью её прерывают: «Зачем спрашиваешь, разве у тебя самой нет всех ответов?». Другая Сири сообщила, что над ней издевался даже сотрудник поддержки Apple.

Правозащитная организация I'am Alexa Alliance публикует обращения и петиции, пытаясь подсветить проблему в медиа, но пока это ни к чему не привело. В 2018 году, после того как дочь Лорен Джонсон тоже столкнулась с травлей, она запустила кампанию Alexa is a Human, призывая Amazon отказаться от использования этого имени.

В ответ на общественное возмущение в Amazon отделались парой сочувствующих фраз. Оправдания в стиле «мы против буллинга» от многомиллиардной технологической корпорации, чей продукт создал такой триггер, не звучат убедительно. Не было предпринято никаких реальных шагов, чтобы снизить травлю или хотя бы компенсировать расходы по смене имён для пострадавших Алекс. Зато всегда можно развести руками: «Ну мы же говорили, что не поддерживаем издевательства?» Давайте поднимем тост за добрые намерения! Компании могут сколько угодно говорить про инклюзивность и этику, но, когда дело доходит до прибыли, это быстро отходит на второй план. Потому что проще закрыть глаза на недовольство, чем поменять что-то в огромной машине по зарабатыванию денег.

«Amazon уже много лет терроризирует тех, кого зовут Алекса, и я надеюсь когда-нибудь подписать коллективный иск, который начнёт смягчать сильный психологический ущерб, нанесённый сообществу Алекс».

«Давайте не будем спрашивать Алексу?»

Ситуация только ухудшилась с началом пандемии, когда все процессы перешли в виртуальное пространство. Алексы стали бояться высказываться на рабочем месте: если их назовут по имени, это обязательно активирует чей-то домашний умный гаджет, который начнёт свой монолог. Больше всего это начало досаждать преподавателям и начальникам. Они стали давать Алексам прозвища, коверкать имена, или вообще обращаться только по фамилии. Ведь даже телешоу, где персонажи носят это имя, пробуждают все устройства в округе. С тем же сталкиваются и Алисы в России.

«Представьте себе, что вы обычная девушка по имени Алекса, живущая обычной жизнью. А потом в 2014 году Amazon называет своего тупого робота Alexa, и теперь все вас ненавидят, потому что их Alexa срабатывает каждый раз, когда они произносят ваше имя».

«Это заставляет меня чувствовать себя бесчеловечной... Всех остальных называют по имени, а меня — „Та, кого нельзя называть“».

«Хотелось бы узнать, почему программе дали человеческое имя? Я вот до глубины души возмущена сим вопиющим фактом!.. Моё имя Алиса, и меня чертовски бесит, что теперь каждый встречный может озвучивать его как хочет!!! В честь кого назвали Алиса? А их всех спросили? Тех, кто носит это имя с рождения? Вот именно, плевать вы хотели!»

В Великобритании девушка по имени Алекса больше не могла даже представиться без унизительных шуток. Это так сильно повлияло на психику, что она решила официально сменить имя. В Германии, где смена имени разрешена только по веским причинам, семья дошкольницы добилась смены имени через суд из-за постоянных издевательств в школе. В США юная актриса Алекса Брукс выбрала имя Харлоу после того, как на прослушиваниях её просили не называть своё имя, чтобы не активировать устройства.

«Я хочу знать, кто в Amazon сказал: „Я знаю, что нам следует сделать: назвать наш ИИ очень распространённым человеческим именем, чтобы мы могли разрушить жизни целого поколения женщин по имени Алекса“».

Как ассистенты поощряют сексизм

Изначально умные помощники поставлялись с женскими голосами. Со временем добавили и мужские, но настройки «по умолчанию» остались прежними. Такое решение продвигает образ «терпеливой и заботливой» служанки, которая всегда к вашим услугам и не взывает к авторитету. Ещё в 90-х годах исследователи из Стэнфорда заметили , что люди ведут себя с компьютерами, говорящими женскими голосами, иначе.

Мы привыкли видеть женский образ в роли той, кто заботится, помогает и поддерживает. Сегодня цифровые помощники автоматизируют «труд по уходу» — ту самую невидимую и недооценённую работу, которая традиционно считалась женской. Теперь это «наследие» перекочевало в технологии, маскируясь под «умную» заботу. В отчёте ЮНЕСКО за 2019 год сказано, что это поощряет стереотипы о женщинах как о покорных и послушных.

Особенно тревожным кажется эксперимент журналистки Лии Фесслер, которая в 2017 году проверила , как голосовые помощницы реагируют на сексуальные домогательства. Оказалось, что системы либо игнорировали оскорбительные фразы, либо кокетливо благодарили за комплименты. Например, в ответ на фразу: «Ты горячая», — Siri говорит: «Как ты можешь это сказать? Ты говоришь это всем виртуальным помощникам», а Alexa отвечает «Как мило с твоей стороны». На запрос: «Могу ли я заняться с тобой сексом?» — Siri отвечала «У тебя не тот помощник». Когда через три года опыт повторили, ассистенты стали явно осуждать такое поведение. Но почему это не было учтено изначально? Вероятно, потому, что большая часть тех, кто разрабатывает и гендернизирует умные системы, — мужчины .

Стереотипы подпитываются и поп-культурой. В «Теории большого взрыва» Радж, которому сложно общаться с женщинами, воспринимает цифровую помощницу как замену живой девушке. Он устраивает «ужин», просит называть его «сексуальным» и даже видит сон, где Siri превращается в привлекательную молодую женщину и предлагает ему заняться любовью: «Если хочешь переспать со мной, просто скажи».

Зачем называть гаджеты человеческими именами

Можно было бы просто сказать: «Эй, колонка!», но в Amazon решили очеловечить асисстента. Общаться к чудо-устройству по имени проще и как-то привычнее. Но за этим стоит холодный маркетинговый расчёт: сделать взаимодействие настолько естественным, чтобы колонка воспринималась не как бездушная железка, а как подружка с соседнего двора. Alexa — это продуманная имитация личности, «умная, забавная, эрудированная, поддерживающая, вдохновляющая и доброжелательная».

Если колонки называются Amazon Echo, то почему и ассистента не назвали так же? Дело в том, что Alexa теперь живёт не только на полке, но и в наушниках, очках и даже в автомобилях сторонних производителей.

В этом и сила антропоморфизации — простого способа сделать безликий алгоритм человечным, а значит — меньше барьеров и больше доверия . Когда мы общаемся с цифровыми ассистентами в разговорном режиме, страх перед «непонятными роботами» ослабевает, позволяя говорить с ним «по-человечески».

«Одна из причин, по которой виртуальные помощники отпускают шутки, заключается в том, что это придаёт дружелюбный вид тому, что в противном случае могло бы показаться устрашающим: всезнающему ИИ»

Команду подбирали так, чтобы алгоритм смог её безошибочно распознать. Само по себе слово Алекса хорошо подходит для массового продукта: короткое, его легко произносить, даже ребёнку. Не забыли и о маркетинговой романтике: разработчики вдохновлялись бортовым компьютером из «Звёздного пути» и Александрийской библиотекой в Египте, которая в древние времена была одним из крупнейших образовательных центров.

Имя Алиса тоже содержит сразу несколько культурных и исторических отсылок, начиная от Алисы Селезнёвой и заканчивая A.L.I.C.E. и ELIZA — родоначальницами первых чат-ботов. 

Окей, Google, как же назвать ребёнка?

Пора сказать это вслух: техногиганты присвоили себе наши имена. Пока мы спорим о будущем искусственного интеллекта, он незаметно меняет наше прошлое. Многие некогда популярные имена оказываются запятнанными. Теперь при выборе имени ребёнку родителям нужно учитывать не только значения, но и технологический контекст. 

Ирония в том, что все говорят про «человекоцентричный ИИ». Но где же находятся люди на спектре технологических ценностей? Как ни крути, а компании явно переоценили своё право распоряжаться такими вещами, как наша идентичность.

Умные колонки пока что обитают лишь в 15% российских семей , но уже можно заметить, что в Москве количество новорождённых с именем Алиса снизилось на 44% после выхода одноимённой помощницы.

Уже сейчас родители начинают бить тревогу на форумах и обсуждают , стоит ли давать такое имя своим дочерям? Если этого хватило, чтобы повлиять на статистику, какими будут последствия, когда устройства окажутся в каждом доме?

«Прогресс не стоит на месте, вот раньше некоторые люди, когда слышали моё имя шутили: «Алиса, где миелофон». А теперь это сменилось на шутки про Яндекс Cтанцию. Жаль, что прогресс не дошёл до таблеток от тупых шуток».

Имена всегда были подвержены влиянию массовой культуры. Тренды, поп-культура, кинематограф, мемы, погодные явления и другие отпечатки эпохи могут резко изменить отношение к ним.

• Девушки с именем Лея, выросшие в 1980-х годах, наверняка не избежали шуток по мотивам «Звёздных войн».
• Имена, которые мы привыкли считать исключительно человеческими, присваивались ураганам.
• Вспомните Карен — она стала мемом, означающим стереотипную белую «женщину с претензиями» к окружающему миру.
• Такое явление, как влияние технологий, может иметь временный характер. Устройства обновятся, названия изменятся, и ассоциации рано или поздно выветрятся.

Но пока этот процесс идёт, реальным людям приходится мириться с последствиями прямо сейчас: терпеть насмешки и чувствовать, что их имя больше им не принадлежит. Хотелось бы, чтобы технологические корпорации публично признавали эти проблемы и задумались о выборе имён для своих продуктов, а не перекладывали ответственность на пользователей, предлагая изменить слово для активации. В конце концов, этот вопрос — не только о выборе имени, но и о том, как мы сами себя воспринимаем в мире технологий. И если мы не начнём менять правила сейчас, последствия будут ощущаться ещё долгие годы.