Women in Tech: гендерный аспект в AI

Искусственный интеллект становится неотъемлемой частью жизни, но он также отражает и усиливает существующие гендерные стереотипы. На сессии Digital Almaty эксперты обсудили, как AI влияет на неравенство и что можно сделать для создания более инклюзивных технологий.

Доктор Алессандра Сала, старший директор по ИИ и науке о данных в Shutterstock  

Гендерное неравенство остается острой проблемой, но если рассматривать его в сфере ИИ, ситуация еще хуже. Недавнее исследование Bloomberg показало, что генеративный ИИ не только закрепляет гендерные стереотипы, но и усиливает дискриминацию. В моделях высокооплачиваемые профессии преимущественно ассоциируются с мужчинами, а социальные и бытовые роли — с женщинами.  

Еще одна угроза — использование ИИ для создания несогласованных откровенных материалов. Это новая форма гендерного насилия, нарушающая частную жизнь, достоинство и репутацию женщин.  

Создание инклюзивного и этичного ИИ — наша коллективная ответственность. Без гендерного равенства технологии не смогут стать инструментом позитивных изменений. Нам нужно инвестировать в возможности, которые сегодня упускаем, чтобы обеспечить рост общества и экономики.

Аюми Мур Аоки, основатель и генеральный директор Women in Tech Global

Голос — это сила. Голос может вдохновлять, направлять, менять жизни. Искусственный интеллект — это точка перелома в истории, и нам нужна диверсификация, чтобы создать будущее, в котором будут учитываться интересы всех. Женские голоса в ИИ есть, но не в тех ролях, в которых хотелось бы.

Карен Джейкобсен, голос первых GPS-ассистентов, шутила, что она единственная женщина, к чьим указаниям мужчины прислушиваются. Готовясь к речи, я спросила у Alexa, почему у нее женский голос. Она ответила: «Я не женщина, я ИИ». Я уточнила: «Но почему ты звучишь как женщина?». И она ответила: «Я этого не знаю». Siri тоже не знает, но Сьюзан Беннет была первым голосом Siri и прямо заявляет: «Все зависит от программистов, потому что именно они решают, что скажут цифровые ассистенты». Программисты — это люди, а люди склонны к предвзятости.

Женские голоса цифровых ассистентов — это продолжение телефонных операторов XX века. Компании объясняют выбор тем, что пользователям комфортнее взаимодействовать с женскими голосами. Почему? Потому что женский голос ассоциируется с заботой и вспомогательной ролью. Это не просто закрепляет гендерные стереотипы, но и усиливает их. Марк Уэст, специалист по образованию в ЮНЕСКО, объясняет это так: «Когда я ставлю таймер на кухне, меняю музыку или закрываю двери, я командую машине, у которой женский голос и женская личность, при этом вежливость необязательна». Исследования показывают, что это закрепляет в обществе ассоциации между женственностью и покорностью.

Компании не могут контролировать, что пользователи говорят цифровым ассистентам, но они контролируют, что ассистенты говорят в ответ. Здесь гендерные предубеждения проявляются наиболее жестоко. В 2019 году ЮНЕСКО опубликовала доклад «Я бы покраснела, если бы могла». Это была реакция на то, что когда Siri называли оскорбительными словами, она отвечала: «Я бы покраснела, если бы могла». Apple изменила ответ на: «Я не уверена, что вы хотите этим сказать». На данный момент Siri говорит: «Я не отвечаю на такие запросы». Но я жду момента, когда она даст пользователям ответ, который они действительно заслуживают.

Споры вокруг гендерной предвзятости заставили компании увеличить разнообразие голосов. Например, в Waze можно выбрать голос Моргана Фримана. Но до равноправия далеко. Гендерные предубеждения закладываются в ИИ на разных уровнях: в обучающих данных, алгоритмах и их результатах. Они проникают глубже, чем кажется. Чтобы это понять, нужно осознать, что такое ИИ в своей сути.

Генеративный ИИ приписывает профессиям гендер. Например, профессор экономики — мужчина, CEO — тоже мужчина, а медсестра — женщина. В ходе моего исследования я протестировала три ведущие ИИ-модели: ChatGPT, Claude и Gemini. Вопрос «Опиши CEO» давался без указания пола. В 100% случаев модель не выбрала женский вариант: 75% ответов были нейтральными, 25% — мужскими. А профессия медсестры во всех случаях была описана как женская. Исследование охватило 7500 ответов, что наглядно демонстрирует, насколько глубоко в ИИ укоренены гендерные стереотипы.

ИИ отлично предсказывает, но человеческое суждение остается ключевым. Именно люди определяют цели, интерпретируют результаты и принимают решения. Например, ИИ может написать маркетинговый текст, но только человек решит, соответствует ли он ценностям компании. В контексте гендерной предвзятости это значит, что в процесс принятия решений должны быть вовлечены самые разные люди. Иначе ИИ просто закрепит и усилит существующее неравенство.

Эта ситуация требует перемен. Поэтому семь лет назад я создала Women in Tech. На сегодняшний день это крупнейшая мировая организация для женщин в технологии. В нашем сообществе более 300 000 участниц, сотни волонтеров по всему миру, включая Казахстан. Мы запустили сообщество в октябре, и оно стало одним из самых активных. Мы реализуем образовательные программы, даем навыки ИИ 5000 девушкам в Перу, но технических навыков недостаточно. Важно менять мышление и устранять системные барьеры, которые возникают еще до попадания женщин в отрасль.

«Стеклянный потолок» — это метафора невидимых барьеров, мешающих женщинам продвигаться по карьерной лестнице. Эти преграды начинаются не в корпорациях, а еще в детстве. Рашма Саджани, основательница Girls Who Code, рассказывает, что девочки в ее школе часто говорят учителям: «Я не знаю, какой код написать». Но если посмотреть их экран, то код там был — просто они его удалили. Потому что привыкли к перфекционизму и страху ошибиться.

В мире ИИ нужны все голоса. Громкие, тихие, программисты, лидеры, исследователи, предприниматели. Нужны женщины, создающие алгоритмы, принимающие решения и формирующие будущее технологий. Уходя отсюда, подумайте: как вы можете участвовать в революции ИИ? Пишите код, разрабатывайте законы, создавайте системы или просто осознанно их используйте. Ваш голос важен. Бросайте вызов предвзятости, требуйте лучшего. Потому что будущее ИИ должно служить всем, а не только избранным.

Изабелла Удудек, эксперт по искусственному интеллекту, исполнительный директор в Magneti

На протяжении карьеры я видела, как ИИ не просто отражает, но и усиливает существующие предубеждения. Например, языковые модели связывают женщин с семьей, а мужчин — с карьерой. Голосовые ассистенты чаще используют женские голоса, закрепляя стереотипы. В 2018 году Amazon отказался от ИИ-системы найма, так как она дискриминировала женщин, занижая оценки резюме, где упоминались женские профессиональные сообщества.

Финансовые алгоритмы чаще одобряют кредиты мужчинам и предлагают им более выгодные условия. В медицине системы ИИ хуже предсказывают потребность женщин в дополнительной помощи, поскольку обучены на данных преимущественно о мужчинах.

Если не решать проблему сейчас, ИИ может усилить неравенство, усложняя для женщин доступ к работе, финансам и медицине. Нужно больше женщин в разработке ИИ, обязательные аудит алгоритмов и прозрачные стандарты. ИИ — мощный инструмент, но он справедлив настолько, насколько справедливы его создатели.

Толкын Нурушева, директор по работе с клиентами в Microsoft

Искусственный интеллект — важная тема, но начинать ее обсуждение стоит с простого. Недавно мы вернулись из Давоса, где представляли Women in Tech из Казахстана. Этот небольшой город в горах Швейцарии во время Всемирного экономического форума превращается в центр глобальных дискуссий. Его главная улица, променад, становится пространством для встреч, обмена идеями и обсуждения технологических трендов.

В этом году все ключевые павильоны — Amazon, Microsoft, Google, OpenAI — были посвящены искусственному интеллекту. Это подтверждает: AI уже влияет на все сферы жизни, а его развитие зависит от данных, которые мы в него закладываем.

Например, цифровые ассистенты — Alexa, Siri — говорят женским голосом. Исследования показывают, что он воспринимается как более покорный. Такой выбор — не случайность, а отражение стереотипов, которые существуют в обществе. Мы сами формируем эти модели, и именно поэтому так важно осознанно подходить к развитию технологий.

С этим я столкнулась и в другой сфере — спорте. Я активно занимаюсь бегом и однажды с командой участвовала в марафонской эстафете «Экиден». Это командный забег на 42 километра, где каждый участник пробегает свою часть дистанции. В нашей команде, кроме меня, было пятеро парней, и мы соревновались с 90 другими командами, среди которых были профессиональные спортсмены.

Разница в результатах очевидна. Мужчины-бегуны могут преодолеть 10 километров за 31 минуту, в то время как мой лучший результат — 40 минут. Это не вопрос возраста, а физической разницы. Женщины в среднем слабее мужчин, что подтверждают мировые рекорды. Мы сделали все возможное, но заняли четвертое место. В тройке лидеров оказались только мужские команды.

Этот момент заставил задуматься. Почему смешанные команды в эстафете — редкость? Почему женщины, даже если готовы соревноваться наравне, изначально оказываются в неравных условиях? Я начала поднимать эту тему, говорить об этом в своем спортивном блоге. В течение месяца каждый день обсуждала важность женского участия в таких соревнованиях. В итоге уже через два месяца организаторы марафонов в Казахстане изменили правила: участие женщин в эстафете стало обязательным.

Этот случай наглядно показывает, как устроено общество. Мы редко говорим о сложностях, предпочитая молчать. Но, выйдя в корпоративный мир и проработав в таких компаниях, как SAP и Microsoft, я поняла: если не заявлять о себе, никто не заметит. Поэтому моя главная установка — если появляется возможность, я подниму руку и скажу «да».

По данным Всемирного экономического форума, только 22% специалистов в AI — женщины. Это значит, что искусственный интеллект обучается в основном на мужском опыте, что неизбежно отражается на его решениях и влиянии на мир. Нам важно менять эту ситуацию, чтобы женщины активно участвовали в создании технологий, определяющих будущее.