„Künstliche Intelligenz verändert nicht nur unsere Welt, sie revolutioniert sie“, sagte der UN -Generalsekretär am Donnerstag und merkte an, dass Aufgaben, die einst jahrelange menschliche Expertise erforderten, nun im Handumdrehen erledigt würden. Er warnte jedoch: „Die Risiken sind enorm.“
António Guterres nahm an einer Ministerdebatte des Sicherheitsrates zum Thema künstliche Intelligenz teil, die vom US-Außenminister Antony Blinken moderiert wurde. Die USA haben derzeit den Vorsitz des Entscheidungsgremiums inne.
Guterres sprach von dem rasanten Wachstum dieser Technologien und warnte davor, dass dieses die Fähigkeit, sie zu steuern, übersteige, was grundlegende Fragen der Rechenschaftspflicht, der Gleichheit, der Sicherheit und des Schutzes aufwerfe.
„Und was die Rolle der Menschheit im Entscheidungsprozess betrifft, so würde künstliche Intelligenz ohne menschliche Aufsicht die Welt blind machen, und zwar vielleicht noch gefährlicher und rücksichtsloser im Bereich des globalen Friedens und der Sicherheit“, bemerkte er.
Automatisierte Entscheidungsfindung
Die Technologie werde sich in Zukunft schneller weiterentwickeln als heute, behauptete er und verwies auf Rekordinvestitionen, die künstliche Intelligenz jeden Tag leistungsfähiger, vielseitiger und zugänglicher machten und die Entscheidungsfindung automatisiert hätten.
Er hob auch die unvorhergesehenen Folgen dieser Systeme hervor und behauptete, dass jeder Fortschritt neue und unvorstellbare Schwachstellen mit sich bringe .
In diesem Sinne wies er auf die Gefahr hin, der Menschenrechte , Menschenwürde und Rechtsstaatlichkeit durch Systeme ausgesetzt sind, die „von der autonomen Grenzüberwachung bis hin zur vorausschauenden Überwachung und darüber hinaus“ reichen.
Guterres warnte davor, dass das auf künstlicher Intelligenz basierende Wettrüsten einen fruchtbaren Boden für Missverständnisse und Fehlkalkulationen schaffe und dass durch diese Technologien ermöglichte Cyberangriffe die kritische Infrastruktur und die wesentlichen Dienstleistungen eines Landes lahmlegen könnten.
„Das gravierendste Problem ist, dass künstliche Intelligenz das Grundprinzip der menschlichen Kontrolle über den Einsatz von Gewalt untergräbt “, bemerkte er und erwähnte die Auswahl von Zielen durch Algorithmen, um Entscheidungen über Leben und Tod zu treffen.
Künstliche Intelligenz und Atomwaffen
Der UN-Chef äußerte sich besonders besorgt über die Integration von künstlicher Intelligenz in Atomwaffen , die „potenziell katastrophale Folgen“ hätte, und forderte, dies „um jeden Preis zu vermeiden“.
„Das Schicksal der Menschheit sollte niemals in die Hände der ‚Black Box‘ eines Algorithmus gelegt werden “, betonte er und fügte hinzu, dass die Menschen stets die Kontrolle über die Entscheidungsfindung behalten müssten, geleitet vom Völkerrecht und ethischen Grundsätzen.
„Die Menschheit hat künstliche Intelligenz geschaffen und sollte sie auch lenken“ , fügte er hinzu.
Datenschutz ist ein wesentlicher Bestandteil der Verarbeitung personenbezogener Daten durch künstliche Intelligenz.
Governance und gerechte Entwicklung künstlicher Intelligenz
In diesem Zusammenhang forderte er die UN-Mitgliedstaaten erneut nachdrücklich auf, eine Governance für künstliche Intelligenz zu etablieren, die dem Rahmen der Prinzipien der Vereinten Nationen entspricht.
Guterres sprach sich außerdem für die Schaffung eines globalen Rahmens aus, der die gerechte Entwicklung künstlicher Intelligenz fördert und die Unterstützung von Entwicklungsländern betont , um eine Kluft beim Zugang zu diesen Technologien zu vermeiden, die zu einer Welt der Reichen und Armen führen würde.
„Ich wiederhole auch meine Forderung nach einem Verbot letaler autonomer Waffensysteme . Wir müssen bis 2026 neue Verbote und Beschränkungen für autonome Waffensysteme einführen“, betonte er.
Guterres wies darauf hin, dass kein Land militärische Anwendungen künstlicher Intelligenz in bewaffneten Konflikten entwickeln, einsetzen oder nutzen sollte, die gegen internationales Recht, humanitäres Recht und Menschenrechte verstoßen. Dazu gehört auch, sich nicht auf künstliche Intelligenz zu verlassen, um Ziele autonom auszuwählen oder anzugreifen.
Der Sicherheitsrat muss ein Beispiel geben
„Die Mitglieder dieses Rates müssen mit gutem Beispiel vorangehen und sicherstellen, dass der Wettbewerb um neue Technologien den internationalen Frieden und die Sicherheit nicht gefährdet. Ich appelliere an Sie, Ihre Kräfte zu bündeln, um eine sichere und inklusive Zukunft für künstliche Intelligenz zu gestalten“, betonte er.
„Unsere nächsten Schritte werden entscheidend sein, und die Entscheidungen, die wir jetzt treffen, werden die Zukunft für alle bestimmen“, betonte Guterres.
„Jede Verzögerung bei der Etablierung einer internationalen Governance für künstliche Intelligenz erhöht das Risiko für alle“, betonte er und fügte hinzu, dass dies eine beispiellose globale Zusammenarbeit erfordere , die den Herausforderungen gerecht werde.
Der öffentliche Sektor muss Fortschritt und Governance vorantreiben
Fei-Fei Li, Professorin am Department of Cyber Science der Stanford University, nahm ebenfalls an der Sitzung des Sicherheitsrats teil und hielt es für unerlässlich, dass der öffentliche Sektor die Weiterentwicklung und Steuerung der künstlichen Intelligenz vorantreibt.
„Der öffentliche Sektor der künstlichen Intelligenz muss sicherstellen, dass ihre Vorteile breit gestreut und mit dem öffentlichen Interesse in Einklang gebracht werden “, sagte Li, der auch Mitglied des wissenschaftlichen Beirats der Vereinten Nationen ist. Regierungen müssten mutige Maßnahmen ergreifen.
Der Wissenschaftler forderte die Regierungen auf, künstliche Intelligenz „nicht nur als eine zu regulierende Technologie zu betrachten, sondern als strategisches Gut, in das es zu investieren gilt, was die Finanzierung der Grundlagenforschung, die Unterstützung von Bildung und Arbeitskräfteentwicklung sowie die Schaffung inklusiver Plattformen für die globale Zusammenarbeit bedeutet.“
Laut Li können nur nachhaltige öffentliche Investitionen sicherstellen, dass künstliche Intelligenz die vielfältigen Bedürfnisse und Werte der Menschheit widerspiegelt.