Согласно результатам исследований и данным, опубликованным в понедельник, системы искусственного интеллекта воспроизводят гендерные стереотипы, могут усиливать риски цифрового насилия и непропорционально влиять на занятость женщин в сфере труда. ООН Женщины.
В преддверии Глобального диалога ООН по управлению искусственным интеллектом и саммита «Искусственный интеллект во благо», запланированных на июль в Женеве, организация собрала данные о гендерном неравенстве, которое пронизывает разработку, использование и регулирование этих технологий.
Среди цитируемых исследований — анализ 133 систем искусственного интеллекта, выявивший гендерную предвзятость в 44% из них. В 26% случаев предвзятость сочетала в себе гендерные и расовые различия.
Основные языковые модели, все чаще используемые для создания текстов, изображений и рекламных кампаний, как правило, связывают женщин с домом, семьей и детьми, а мужчин — с бизнесом, руководящими должностями, заработной платой и карьерным ростом.
Кроме того, почти каждый пятый ответ, полученный этими моделями при завершении предложений, начинающихся с указания пола человека, воспроизводил сексистские или женоненавистнические установки, включая представления о женщинах как о сексуальных объектах или собственности своих мужей.
Для организации «ООН-женщины» риск заключается не в том, что искусственный интеллект создаст предрассудки с нуля, а в том, что он воспроизведет и усилит с высокой скоростью и в больших масштабах неравенство, присутствующее в данных, на которых он был обучен.
Решения, касающиеся женщин, принимаются без участия женщин в обсуждении.
Генеративный искусственный интеллект быстро внедряется в работу предприятий, СМИ и рекламных агентств. По данным, собранным организацией «ООН-женщины», в Великобритании 88% рекламных и медиа-агентств уже используют эту технологию в той или иной форме.
Эти инструменты все чаще участвуют в принятии решений о том, какие лица появятся в рекламной кампании, какие истории будут рассказаны и как будут представлены люди. Однако только 51% специалистов по маркетингу используют человеческий контроль для проверки созданного ИИ креативного контента перед его публикацией.
Отсутствие гендерного аспекта отражается и в государственной политике. Из 138 проанализированных стран только 24 упоминают гендерный аспект в своих национальных стратегиях в области искусственного интеллекта, и лишь 18 стран содержат существенные положения, ориентированные на гендерный вопрос.
В то же время женщины составляют лишь 30% мировой рабочей силы, связанной с искусственным интеллектом. Эта недостаточная представленность ограничивает их участие в принятии решений о том, как проектируются, обучаются, внедряются и регулируются системы, которые повлияют на миллиарды людей.
Цифровое насилие усиливается с помощью новых инструментов.
Женщины и девушки уже сейчас сталкиваются с повышенным риском домогательств и насилия в интернете, а новые инструменты искусственного интеллекта могут привести к увеличению числа случаев злоупотреблений.
Почти каждая четвертая женщина-правозащитница прав человекаОпрошенные активисты и журналисты сообщили о случаях насилия в интернете, совершаемого с использованием искусственного интеллекта. Двенадцать процентов сообщили о случаях несанкционированного распространения личных изображений, включая интимный или откровенно сексуальный контент.
Шесть процентов сообщили, что стали объектом целенаправленных действий. deepfakesИспользованы обработанные изображения или видео, создающие впечатление, будто человек сказал или сделал что-то, чего никогда не было. Более четверти участников также получали нежелательные сексуальные предложения через цифровые сообщения.
Организация "ООН-женщины" отмечает, что deepfakes Они являются одним из наиболее наглядных проявлений злоупотреблений в отношении женщин и девочек, осуществляемых с помощью искусственного интеллекта, а именно: содействие созданию фальшивого интимного контента, преследованиям и клеветническим кампаниям против журналистов, правозащитников и общественных деятелей.
Наиболее уязвимые профессии
Экономическая трансформация, вызванная искусственным интеллектом, затронет не всех в равной степени. Женщины, работающие вне технологического сектора, почти вдвое чаще, чем мужчины, занимают должности, подверженные высокому риску автоматизации.
По данным организации «ООН-женщины», это неравенство усугубляется, когда оно пересекается с такими факторами, как раса, инвалидность, экономический статус или место жительства. Сообщества, которые и без того недостаточно представлены в СМИ, на рынке труда и в органах принятия решений, рискуют еще больше отстать.
Организация призвала к тому, чтобы права, опыт и знания женщин и девочек учитывались на протяжении всего жизненного цикла искусственного интеллекта, от проектирования и разработки систем до их внедрения и управления.
Как заявляет агентство, искусственный интеллект также может использоваться для выявления стереотипов, расширения представленности различных групп населения и повышения доступности. Однако его влияние будет зависеть от решений правительств, компаний и разработчиков, а также от того, насколько они будут учитывать голоса и опыт женщин и девочек из разных социальных слоев.