«Искусственный интеллект не только преобразует наш мир, он совершает в нем революцию», — заявил в четверг Генеральный секретарь ООН , отметив, что задачи, которые когда-то требовали многолетней человеческой экспертизы, теперь выполняются мгновенно. Однако он предупредил, что «риски огромны».
Антонио Гутерриш принял участие в министерских дебатах Совета Безопасности по вопросам искусственного интеллекта, модератором которых выступил госсекретарь США Энтони Блинкен, чья страна в настоящее время председательствует в этом директивном органе.
Гутерриш упомянул о стремительном развитии этих технологий, предупредив, что оно опережает возможности управления ими, что поднимает фундаментальные вопросы об ответственности, равенстве, безопасности и защите.
«Что касается роли человечества в процессе принятия решений, то искусственный интеллект без человеческого контроля ослепит мир, и, возможно, это будет еще опаснее и безрассуднее в сфере глобального мира и безопасности», — отметил он.
Автоматизированное принятие решений
Он утверждал, что в будущем технологии будут развиваться быстрее, чем сегодня, ссылаясь на рекордные инвестиции, которые делают искусственный интеллект все более мощным, универсальным и доступным с каждым днем, а также автоматизируют принятие решений.
Он также подчеркнул непредвиденные последствия этих систем и заявил, что каждое усовершенствование порождает новые и невообразимые уязвимости.
В этом контексте он упомянул об опасности, с которой сталкиваются права человека , достоинство и верховенство права в связи с системами, которые варьируются «от автономного пограничного наблюдения до прогнозирующего наблюдения и далее».
Гутерриш предупредил, что гонка вооружений, основанная на искусственном интеллекте, создает благодатную почву для недопонимания и просчетов, и что кибератаки, осуществляемые с помощью этих технологий, могут парализовать критически важную инфраструктуру страны и основные службы.
«Наиболее серьезная проблема заключается в том, что искусственный интеллект подрывает фундаментальный принцип человеческого контроля над применением силы », — отметил он, упомянув выбор целей с помощью алгоритмов для принятия решений, от которых зависит жизнь или смерть.
Искусственный интеллект и ядерное оружие
Глава ООН выразил особую тревогу по поводу интеграции искусственного интеллекта с ядерным оружием , которая может иметь «потенциально катастрофические последствия», и призвал «избегать этого любой ценой».
«Судьба человечества никогда не должна оставаться в руках „черного ящика“ алгоритма », — подчеркнул он, добавив, что люди всегда должны сохранять контроль над принятием решений, руководствуясь международным правом и этическими принципами.
Человечество создало искусственный интеллект и должно направлять его развитие , добавил он.
Конфиденциальность — важнейшая часть обработки персональных данных искусственным интеллектом.
Управление и справедливое развитие искусственного интеллекта
В этой связи он вновь призвал государства-члены ООН создать систему управления искусственным интеллектом, соответствующую принципам Организации Объединенных Наций.
Гутерриш также выступал за создание глобальной рамочной программы, которая бы способствовала справедливому развитию искусственного интеллекта и подчеркивала необходимость поддержки развивающихся стран во избежание разрыва в доступе к этим технологиям, который привел бы к миру, где есть богатые и бедные.
«Я также вновь призываю к запрету летального автономного оружия . Мы должны установить новые запреты и ограничения на системы автономного оружия к 2026 году», — подчеркнул он.
Гутерриш указал, что ни одна страна не должна разрабатывать, внедрять или использовать военные приложения искусственного интеллекта в вооруженных конфликтах, нарушающих международное право, гуманитарное право и права человека, включая отказ от использования искусственного интеллекта для автономного выбора или нанесения ударов по целям.
Совет Безопасности должен подавать пример
«Члены этого Совета должны подавать пример и обеспечивать, чтобы конкуренция в сфере новых технологий не дестабилизировала международный мир и безопасность. Я призываю вас объединить усилия для построения безопасного, надежного и инклюзивного будущего для искусственного интеллекта», — подчеркнул он.
«Наши дальнейшие действия будут иметь решающее значение, и выбор, который мы сделаем сейчас, определит будущее для всех», — заявил Гутерриш.
«Каждая задержка в создании международного механизма управления искусственным интеллектом увеличит риски для всех», — настаивал он, добавив, что для этого потребуется беспрецедентное глобальное сотрудничество , способное справиться с возникающими вызовами.
Государственный сектор должен возглавить прогресс и управление
Фэй-Фэй Ли, профессор кафедры кибернаук Стэнфордского университета, также принимала участие в заседании Совета Безопасности и сочла крайне важным, чтобы государственный сектор возглавил развитие и управление искусственным интеллектом.
«Государственный сектор, занимающийся искусственным интеллектом, должен обеспечить широкое распространение его преимуществ и их соответствие общественным интересам », — заявил Ли, который также является членом Научно-консультативного совета ООН, — правительствам необходимо предпринять решительные действия.
Ученый призвал правительства рассматривать искусственный интеллект «не просто как технологию, подлежащую регулированию, а как стратегический актив для инвестиций, что означает финансирование фундаментальных исследований, поддержку образования и развития трудовых ресурсов, а также создание инклюзивных платформ для глобального сотрудничества».
По словам Ли, только устойчивые государственные инвестиции могут гарантировать, что искусственный интеллект будет отражать разнообразные потребности и ценности человечества.