O Painel Científico Internacional Independente das Nações Unidas sobre Inteligência Artificial — o primeiro órgão global desse tipo — está se preparando para realizar sua primeira cúpula presencial.
Com o objetivo de abordar a complexa relação entre inovação e ética, este grupo de especialistas de renome mundial inicia um estudo histórico sobre as forças que estão transformando a vida moderna.
"Não nos concentramos apenas na IA como um campo matemático ou algorítmico: também nos preocupamos em garantir que os humanos sejam fundamentais na tomada de decisões", afirma Menna El-Assady, professora adjunta do Instituto Federal Suíço de Tecnologia (ETH) de Zurique.
El-Assady é um dos membros fundadores do painel independente, recomendado pelo Secretário-Geral da ONU .
De nacionalidade egípcia, ela é uma dos 40 membros formalmente nomeados pela Assembleia Geral em fevereiro. Eles vêm de diversas áreas, incluindo academia, setor privado, sociedade civil, organizações governamentais e internacionais e a comunidade técnica, e possuem experiência em conhecimento técnico essencial de IA; IA aplicada, segurança e infraestrutura; e política, ética e impacto da IA.
Inteligência aumentada
"Um humano na máquina" é uma expressão frequentemente usada em relação ao uso de IA. Refere-se à ideia de que um humano deve sempre estar envolvido nas decisões tomadas por ferramentas de IA.
“Estamos tentando determinar quando devemos confiar nos humanos e em sua experiência e quando as coisas podem ser automatizadas”, diz ele. “Precisamos entender a ligação entre a IA e os modelos humanos — o que é conhecido como ciclo de coadaptação — e a evolução que ocorre sempre que os humanos recebem novas informações, ou quando a IA o faz.”
Em Zurique, El-Assady desenvolveu o conceito de "inteligência aumentada", que utiliza IA para aprimorar as capacidades humanas em vez de substituir completamente as pessoas, e incentiva a cooperação entre IA e pessoas em diversas áreas.
Essa experiência é particularmente útil para o trabalho do Painel, que está examinando as maneiras pelas quais o uso da IA está afetando diferentes áreas da sociedade, como o mercado de trabalho e o sistema de saúde.
El-Assady defende uma "infraestrutura digital pública", para que qualquer pessoa que queira desenvolver IA tenha os recursos necessários.
"Precisamos também estudar como incorporar diferentes culturas e idiomas nos modelos de IA para que eles não fiquem limitados a um pequeno número de países", acrescenta.
Confiança, ética e marcas d'água
A criação do painel refletiu as crescentes preocupações com os riscos da IA não regulamentada, particularmente dentro da ONU.
Em setembro de 2025, o Secretário-Geral da ONU, António Guterres, alertou o Conselho de Segurança de que "o destino da humanidade não pode ser deixado nas mãos de um algoritmo", enquanto Volker Türk, Alto Comissário da ONU para os Direitos Humanos, afirmou em fevereiro que os desenvolvedores de IA que criam modelos sem compreender os princípios sociais e éticos fundamentais correm o risco de criar um "monstro de Frankenstein".
El-Assady concorda que a ética e a confiança são cruciais para o setor, assim como a consciência das limitações dos modelos de IA.
Marca d'água de IA
Uma possível solução proposta por El-Assady é a " marca d'água por IA ", que deixaria claro se o conteúdo foi criado por humanos ou gerado por IA, e como distinguir entre os dois.
Estes são exemplos dos tipos de tópicos que poderão ser incluídos no primeiro relatório do Painel Científico, cuja publicação está prevista para o Diálogo Global sobre Governança da IA, que ocorrerá nos dias 6 e 7 de julho em Genebra.
O Painel Científico Internacional Independente sobre IA
O Painel Científico Internacional Independente sobre IA é o primeiro órgão científico do mundo dedicado à inteligência artificial (IA), reunindo os maiores especialistas para avaliar como a IA está transformando nossas vidas.
• O Painel tem o mandato de produzir um relatório anual com avaliações cientificamente sólidas e baseadas em evidências sobre as oportunidades, os riscos e os impactos da inteligência artificial, a ser apresentado no Diálogo Global das Nações Unidas sobre Governança da IA.
• O Painel não é um órgão regulador e não estabelecerá regras, imporá normas ou prescreverá políticas. Ele fornecerá a análise rigorosa, baseada em evidências, relevante para as políticas, mas não prescritiva, necessária para a tomada de decisões informadas.
• Saiba mais sobre o trabalho do Painel aqui