Het Onafhankelijk Internationaal Wetenschappelijk Panel van de Verenigde Naties over AI – het eerste wereldwijde orgaan in zijn soort – bereidt zich voor op zijn eerste fysieke topbijeenkomst.
Met als doel de complexe relatie tussen innovatie en ethiek te onderzoeken, start deze groep wereldberoemde experts een historisch onderzoek naar de krachten die het moderne leven transformeren.
"We richten ons niet alleen op AI als een wiskundig of algoritmisch vakgebied: we vinden het ook belangrijk dat mensen een centrale rol spelen in de besluitvorming," zegt Menna El-Assady, adjunct-hoogleraar aan de Zwitserse Federale Technische Hogeschool (ETH) Zürich.
El-Assady is een van de oprichters van het onafhankelijke panel, dat is aanbevolen door de secretaris-generaal van de VN .
Als Egyptische staatsburger is zij een van de 40 leden die in februari formeel door de Algemene Vergadering zijn benoemd . Zij komen uit diverse achtergronden, waaronder de academische wereld, de private sector, het maatschappelijk middenveld, overheids- en internationale organisaties en de technische gemeenschap, en beschikken over expertise op het gebied van fundamentele AI-technische kennis; toegepaste AI, beveiliging en infrastructuur; en AI-beleid, -ethiek en -impact.
Augmented intelligence
"Een mens in de machine" is een uitdrukking die vaak wordt gebruikt in verband met het gebruik van AI. Het verwijst naar het idee dat een mens altijd betrokken moet zijn bij de beslissingen die door AI-tools worden genomen.
"We proberen te bepalen wanneer we op mensen en hun expertise moeten vertrouwen en wanneer dingen geautomatiseerd kunnen worden", zegt hij. "We moeten de link tussen AI en menselijke modellen begrijpen – wat bekend staat als de co-adaptatielus – en de evolutie die plaatsvindt wanneer mensen nieuwe informatie ontvangen, of wanneer AI dat doet."
In Zürich heeft El-Assady het concept van 'augmented intelligence' ontwikkeld, waarbij AI wordt gebruikt om menselijke capaciteiten te versterken in plaats van mensen volledig te vervangen, en waarbij samenwerking tussen AI en mensen op diverse gebieden wordt aangemoedigd.
Deze ervaring is bijzonder nuttig voor het werk van het panel, dat onderzoekt hoe het gebruik van AI verschillende maatschappelijke gebieden beïnvloedt, zoals de arbeidsmarkt en de gezondheidszorg.
El-Assady pleit voor een "publieke digitale infrastructuur", zodat iedereen die AI wil ontwikkelen over de nodige middelen beschikt.
"We moeten ook onderzoeken hoe we verschillende culturen en talen in AI-modellen kunnen integreren, zodat ze niet beperkt blijven tot een klein aantal landen," voegt hij eraan toe.
Vertrouwen, ethiek en watermerken
De oprichting van het panel weerspiegelde de groeiende bezorgdheid over de risico's van ongereguleerde AI, met name binnen de VN.
VN-secretaris-generaal António Guterres waarschuwde de Veiligheidsraad in september 2025 dat "het lot van de mensheid niet in de handen van een algoritme mag worden gelegd", terwijl Volker Türk, de Hoge Commissaris voor de Mensenrechten van de VN, in februari verklaarde dat AI-ontwikkelaars die modellen creëren zonder fundamentele sociale en ethische principes te begrijpen, het risico lopen een "Frankenstein-monster" te creëren.
El-Assady is het ermee eens dat ethiek en vertrouwen cruciaal zijn voor de sector, evenals het besef van de beperkingen van AI-modellen.
AI-watermerk
Een mogelijke oplossing die El-Assady voorstelt, is " AI-watermerken ". Dit zou duidelijk maken of content door mensen is gemaakt of door AI is gegenereerd, en hoe de twee van elkaar te onderscheiden zijn.
Dit zijn voorbeelden van onderwerpen die in het eerste rapport van het Wetenschappelijk Panel zouden kunnen worden opgenomen. Dit rapport zal naar verwachting worden gepubliceerd in het kader van de Global Dialogue on AI Governance, die op 6 en 7 juli in Genève plaatsvindt.
Het Onafhankelijke Internationale Wetenschappelijke Panel over AI
• Het Independent International Scientific Panel on AI is 's werelds eerste wetenschappelijke instantie die zich volledig richt op kunstmatige intelligentie (AI). Het brengt topdeskundigen samen om te beoordelen hoe AI ons leven verandert.
• Het panel heeft de opdracht een jaarlijks rapport op te stellen met wetenschappelijk onderbouwde, op bewijs gebaseerde beoordelingen van de kansen, risico's en gevolgen van kunstmatige intelligentie, dat zal worden gepresenteerd tijdens de mondiale dialoog van de Verenigde Naties over AI-governance.
• Het panel is geen regelgevende instantie en zal geen regels vaststellen, normen handhaven of beleid voorschrijven. Het zal de rigoureuze, op bewijs gebaseerde, beleidsrelevante maar niet-voorschrijvende analyse leveren die nodig is voor weloverwogen besluitvorming.
• Lees hier meer over het werk van het panel.