“A inteligência artificial não está apenas transformando o nosso mundo, está revolucionando-o”, disse o Secretário-Geral da ONU na quinta-feira, observando que tarefas que antes exigiam anos de conhecimento humano agora são concluídas em um instante. No entanto, ele alertou: “os riscos são enormes”.
António Guterres participou de um debate ministerial do Conselho de Segurança sobre inteligência artificial, moderado pelo Secretário de Estado dos EUA, Antony Blinken, cujo país detém a presidência rotativa do órgão decisório.
Guterres referiu-se ao rápido crescimento dessas tecnologias, alertando que este ultrapassa a capacidade de governá-las, levantando questões fundamentais sobre responsabilidade, igualdade, segurança e proteção.
“E quanto ao papel da humanidade no processo de tomada de decisões, a inteligência artificial sem supervisão humana deixaria o mundo às cegas, e talvez de forma ainda mais perigosa e imprudente na esfera da paz e segurança globais”, observou ele.
Tomada de decisão automatizada
Ele afirmou que a tecnologia avançará mais rapidamente no futuro do que hoje, citando investimentos recordes que estão tornando a inteligência artificial mais poderosa, versátil e acessível a cada dia, e que automatizaram a tomada de decisões.
Ele também enfatizou as consequências imprevistas desses sistemas e afirmou que cada avanço dá origem a novas e inimagináveis vulnerabilidades.
Nessa linha de raciocínio, ele aludiu ao perigo que os direitos humanos , a dignidade e o Estado de Direito enfrentam com sistemas que variam "da vigilância autônoma de fronteiras à vigilância preditiva e além".
Guterres alertou que a corrida armamentista baseada em inteligência artificial cria um terreno fértil para mal-entendidos e erros de cálculo; e que os ciberataques possibilitados por essas tecnologias podem paralisar a infraestrutura crítica e os serviços essenciais de um país.
“A questão mais grave é que a inteligência artificial está corroendo o princípio fundamental do controle humano sobre o uso da força ”, observou ele, mencionando a seleção de alvos por meio de algoritmos para tomar decisões de vida ou morte.
Inteligência artificial e armas nucleares
O chefe da ONU expressou particular alarme com a integração da inteligência artificial às armas nucleares , o que teria "consequências potencialmente desastrosas", e pediu que isso seja "evitado a todo custo".
“O destino da humanidade jamais deve ser deixado nas mãos da ‘caixa preta’ de um algoritmo ”, enfatizou, acrescentando que os humanos devem sempre manter o controle sobre a tomada de decisões, guiados pelo direito internacional e pelos princípios éticos.
A humanidade criou a inteligência artificial e deve ser ela a guiá-la , acrescentou.
A privacidade é uma parte crucial do processamento de dados pessoais pela inteligência artificial.
Governança e desenvolvimento equitativo da inteligência artificial
A este respeito, ele instou mais uma vez os Estados-membros da ONU a estabelecerem uma governança da inteligência artificial que esteja em conformidade com a estrutura dos princípios das Nações Unidas.
Guterres também defendeu a criação de uma estrutura global que promova o desenvolvimento equitativo da inteligência artificial e enfatize o apoio aos países em desenvolvimento para evitar uma disparidade no acesso a essas tecnologias, o que levaria a um mundo de ricos e pobres.
“Reitero também meu apelo pela proibição de armas autônomas letais . Devemos estabelecer novas proibições e restrições aos sistemas de armas autônomas até 2026”, enfatizou.
Guterres indicou que nenhum país deve conceber, desenvolver, implantar ou usar aplicações militares de inteligência artificial em conflitos armados que violem o direito internacional, o direito humanitário e os direitos humanos, o que inclui não depender da inteligência artificial para selecionar ou atacar alvos de forma autônoma.
O Conselho de Segurança deve dar o exemplo
“Os membros deste Conselho devem dar o exemplo e garantir que a competição por tecnologias emergentes não desestabilize a paz e a segurança internacionais. Exorto-vos a unirem esforços para construir um futuro seguro, protegido e inclusivo para a inteligência artificial”, sublinhou.
Nossas próximas ações serão cruciais e as escolhas que fizermos agora definirão o futuro de todos, afirmou Guterres.
“Cada atraso no estabelecimento de uma governança internacional para a inteligência artificial aumentará o risco para todos”, insistiu ele, acrescentando que isso exigirá uma cooperação global sem precedentes , à altura dos desafios.
O sector público deve liderar o progresso e a governação
Fei-Fei Li, professora do Departamento de Ciência Cibernética da Universidade de Stanford, também participou da sessão do Conselho de Segurança e considerou imprescindível que o setor público lidere o avanço e a governança da inteligência artificial.
“O setor público da inteligência artificial deve garantir que seus benefícios sejam amplamente distribuídos e alinhados ao interesse público ”, disse Li, que também é membro do Conselho Consultivo Científico da ONU, acrescentando que os governos devem tomar medidas ousadas.
O acadêmico instou os governos a encararem a inteligência artificial “não apenas como uma tecnologia a ser regulamentada, mas como um ativo estratégico no qual investir, o que significa financiar pesquisa básica, apoiar a educação e o desenvolvimento da força de trabalho e criar plataformas inclusivas para a colaboração global”.
Segundo Li, só o investimento público sustentado pode garantir que a inteligência artificial reflita as diversas necessidades e valores da humanidade.