Am 1. Juli 2026, kurz nach elf Uhr New Yorker Zeit, hat das Independent International Scientific Panel on Artificial Intelligence seinen ersten Preliminary Report vorgelegt. Vierzig Wissenschaftlerinnen und Wissenschaftler aus allen fünf UN-Regionen, drei Jahre Mandat, ein einziger Auftrag: das erste global unabhängige wissenschaftliche Fundament zu KI zu erarbeiten. Kein politisches Papier, kein Regulierungsvorschlag, kein Lobbytext. Ein Referenzdokument, das die Vereinten Nationen den 193 Mitgliedstaaten am Vorabend des ersten Global Dialogue on AI Governance am 6. und 7. Juli in Genf auf den Tisch legen.
Ich habe den Report gelesen, die persönliche Botschaft der beiden Co-Chairs Yoshua Bengio und Maria Ressa dazu, dazu die Rede des UN-Generalsekretärs António Guterres bei der Pressekonferenz. Und ich habe versucht, das Ganze mit dem in Verbindung zu bringen, was viele von uns seit Jahren beschäftigt: die Frage nach einem tragfähigen Ordnungsrahmen für autonome Maschinen und für Künstliche Intelligenz, für Robotic & AI Governance. Der Report ist ein Meilenstein. Nicht weil er neue Fakten produziert, sondern weil er Fakten zum ersten Mal für alle Regierungen der Welt in einem gemeinsamen, wissenschaftlich unabhängigen Text festhält. Und in einer Sprache, die politisch nicht mehr wegzuwischen ist.
Das Panel wurde durch die UN-Generalversammlung mit der Resolution A/RES/79/325 im August 2025 eingesetzt, aufbauend auf dem Global Digital Compact von 2024 und den Empfehlungen des High Level Advisory Body on AI des UN-Generalsekretärs. Es ist der erste globale, ständige wissenschaftliche Körper, der sich ausschließlich mit KI befasst. Kein IPCC-Klon, aber mit demselben strukturellen Anspruch: dokumentieren, was Wissenschaft weiß und was sie nicht weiß, ohne Vorschriften zu machen. Die 40 Mitglieder wurden aus 2.600 Bewerbungen aus über 140 Ländern ausgewählt. Sie dienen in persönlicher Eigenschaft, für drei Jahre, ohne Weisung von Regierungen, Unternehmen oder Institutionen. Co-Chairs sind der kanadische Deep-Learning-Pionier Yoshua Bengio und die philippinische Friedensnobelpreisträgerin und Journalistin Maria Ressa. Zwei Biografien, die nicht zufälliger sein könnten. Und die deshalb umso mehr Gewicht haben, wenn sie zur selben Diagnose kommen.
Der Report umfasst knapp 60 Seiten Haupttext, gegliedert in sieben Domänen: KI-Wissenschaft und Entwicklungspfade, gesellschaftliche Anwendungen (Wissenschaft, Gesundheit, Bildung, Landwirtschaft), wirtschaftliche Implikationen, Sicherheit und Umweltfolgen, Menschenrechte und Demokratie, kulturelle und individuelle Selbstentfaltung inklusive Kinderschutz, sowie Management, Governance und Verlässlichkeit. Er ist ausdrücklich preliminary - eine erste Momentaufnahme, mit thematischen Nachträgen bis zum umfassenden ersten Vollbericht im Mai 2027. Und er ist wissenschaftliches Konsensdokument, kein Meinungsstück.
Das ist der erste Punkt, der mir wichtig ist: Der Report ist keine Warnung von Aktivisten. Er ist die derzeit belastbarste globale wissenschaftliche Einschätzung, die wir haben. Wer ihn ignoriert, ignoriert nicht mehr eine Meinung. Er ignoriert den Stand der internationalen Wissenschaft.
Wer wenig Zeit hat, sollte diese acht Punkte kennen. Sie destillieren, was der Report auf 60 Seiten unterlegt.
Zum Report gehört ein zweites, kürzeres Dokument, das ich für mindestens genauso wichtig halte: die persönliche Botschaft von Bengio und Ressa. Vier Seiten, geschrieben aus zwei Biografien - der eine hat diese Systeme gebaut, die andere hat dokumentiert, was sie mit Gesellschaften anrichten. Und beide kommen zum selben Schluss.
"Wir sind an einem Wendepunkt. Wir haben die Büchse der Pandora geöffnet. Was da herauskommt, ist anders als alles, was wir bisher erlebt haben - in Tempo, Macht, Kontrolle und alltäglichen Risiken."
Yoshua Bengio und Maria Ressa, Co-Chairs
Die beiden ordnen entlang vier Dimensionen: Tempo, Macht, Kontrolle, Alltagsrisiken. Beim Tempo ist die Aussage schlicht: Es beschleunigt sich, es verlangsamt sich nicht. Bei der Macht sprechen sie explizit von einer concentration of political power. Sie verweisen auf den Fall Mythos - ein Frontier-Modell mit dokumentierten offensiven Cyberfähigkeiten, das aus Sicherheitsgründen nur rund fünfzig Institutionen innerhalb eines einzigen Landes zur Verfügung steht. KI, so die Diagnose, wird heute noch als Commodity verkauft, könnte aber schon bald eine Waffe und ein Herrschaftsinstrument sein. Die Souveränität der meisten Staaten steht zur Debatte.
Bei der Kontrolle gehen die Autoren an eine Stelle, die technisch normalerweise nur in Alignment-Papers auftaucht: Kein Experte könne heute garantieren, dass die fortgeschrittensten Modelle sich an die Instruktionen halten oder dass Menschen an der Spitze der Entscheidungskette bleiben, wenn diese Systeme mächtiger werden. Der Begriff Jailbreak sei inzwischen Alltagsvokabular. Die Belege für täuschendes Verhalten und Selbsterhaltungstendenzen von KI-Systemen wachsen, dokumentiert unter anderem vom Scientific Advisory Board des UN-Generalsekretärs.
Bei den Alltagsrisiken bringt Ressa die eigene Geschichte ein. Sie war 2016 Ziel einer Desinformationskampagne, die den Satz Journalist gleich Kriminelle so oft wiederholt hat, bis Verhaftungen legal, ein Urteil gerecht aussahen. Das war vor einem Jahrzehnt. Heute läuft dasselbe Playbook, nur um Größenordnungen schneller, mit generativer KI. Und ihr Punkt: Keine Demokratie hat bisher Verteidigungslinien, die auf diese Geschwindigkeit ausgelegt sind. Fakten, Wahrheit, Vertrauen, geteilte Realität - diese Kette werde durch dieselben Systeme zerbrochen, auf denen jetzt die nächste Generation von KI-Agenten aufgebaut wird.
Der Text endet mit einem Appell, der klingt, als wäre er nicht für Wissenschaftler geschrieben, sondern für Staats- und Regierungschefs, für Ministerinnen und Delegierte. Wörtlich: Do not let anyone tell you the risks are speculative or the timelines are long. The pace is faster than you think. Das ist keine Rhetorik. Das ist eine Notiz vom Wissenschaftsrand an die Politik.
Der Generalsekretär hat bei der Pressekonferenz einen einzigen Satz besonders betont: The more AI advances without shared rules, the less say governments and people will have in the outcome. Und einen zweiten, der mir noch länger nachhängt: We can no longer say we did not know. Das ist die klassische Formel der historischen Verantwortung. Sie ist bewusst gewählt. Sie schließt eine Tür.
Der Guterres-Auftritt hatte auch eine institutionelle Funktion: Er reichte die Bühne bewusst weiter an die beiden Co-Chairs. Damit war für alle klar: Dieses Panel ist unabhängig von den Vereinten Nationen. Das Sekretariat wird vom UN Office for Digital and Emerging Technologies koordiniert, unterstützt durch ITU und UNESCO, aber die wissenschaftlichen Schlussfolgerungen kontrolliert es nicht. Das ist wichtig, wenn diese Aussagen in Regierungen und Parlamenten Gewicht bekommen sollen.
Wir haben in Europa den AI Act, wir haben nationale Umsetzungsgesetze, wir haben die Bundesnetzagentur als zentrale Aufsicht in Deutschland. Warum also ein UN-Report? Weil KI keine europäische Angelegenheit ist. Weil die Trainingsdaten global sind, die Modelle global, die Effekte auf Arbeitsmärkte, Informationsökosysteme und Sicherheit global. Und weil der AI Act, den ich in meinen Beiträgen zur Einordnung des Inkrafttretens ausführlich diskutiert habe, für die Fragen, die dieser Report aufwirft, nur ein Teilstück ist.
Der AI Act reguliert, welche KI-Systeme in der EU wie in Verkehr gebracht werden dürfen. Er sagt nichts über die geopolitische Konzentration der Rechenleistung. Er sagt nichts über die Kompute-Abhängigkeit Europas von US-Chipfertigern. Er sagt nichts über die Frage, was passiert, wenn ein einzelner Staat den Zugang zu einem Frontier-Modell exklusiv kontrolliert. Und er sagt sehr wenig darüber, wie eine demokratische Öffentlichkeit funktionieren soll, wenn der Informationsraum von wenigen Plattformen dominiert wird, die ihrerseits mit generativer KI arbeiten. Der UN-Report schließt genau diese Lücke - nicht mit Vorschriften, sondern mit einer belastbaren wissenschaftlichen Grundlage, auf der diese Debatten dann geführt werden müssen.
Ein Blick auf die Zusammensetzung des Panels lohnt sich, weil dort die philosophische und die technische Tiefe zusammenfließen. Ich hebe drei Namen heraus, weil sie besonders viel Kontext beitragen.
Mark Coeckelbergh (Belgien), Professor für Philosophie der Medien und Technik an der Universität Wien, ist seit vielen Jahren die europäische Referenzstimme in der Technikethik. Sein Buch AI Ethics (MIT Press, 2020) ist der Standardeinstieg in ethische Fragen der KI - jenseits von Superintelligenz-Fantasien, mit Fokus auf Verantwortung, Transparenz, Bias und Klima. In The Political Philosophy of AI (Polity, 2022) hat er das Feld politisch geöffnet: KI sei nicht neutral, sie sei artifizielle Macht - und daher genuin ein Gegenstand politischer Philosophie, nicht nur der Ingenieurethik. In Why AI Undermines Democracy and What to Do About It (Polity, 2024) hat er die Diagnose zugespitzt: KI, so wie sie derzeit gebaut und eingesetzt wird, untergräbt die Grundprinzipien liberaler Demokratien - Freiheit, Gleichheit, geteilte Wirklichkeit. Sein Gegenentwurf: democratic AI, gestaltet aus den Werten der Öffentlichkeit heraus, nicht aus den Anreizstrukturen weniger Konzerne.
Wer die Botschaft der Co-Chairs liest, findet in ihr fast wörtlich Coeckelberghs Argumente wieder. Das ist kein Zufall. Es ist der Ausdruck einer wissenschaftlichen Konvergenz: Was in der politischen Philosophie der KI seit einem Jahrzehnt herausgearbeitet wird, hat es nun in ein UN-Konsensdokument geschafft. Für alle, die tiefer einsteigen wollen, empfehle ich Coeckelberghs Robot Ethics (MIT Press, 2022) - eine der klarsten Einführungen in die ethischen Fragen von Robotik und autonomen Maschinen. Und im Herbst 2026 erscheint bei MIT Press sein neuestes Buch Artificial Religion: On AI, Myth, and Power, das genau die Verbindung zwischen technischer Fähigkeit, mythischer Aufladung und politischer Macht in den Blick nimmt, die auch das Panel benennt.
Sonia Livingstone (UK), Professorin an der London School of Economics, ist die führende Stimme zur Frage, was digitale und algorithmische Umgebungen mit Kindern und Jugendlichen machen. Ihre Arbeit erklärt, warum das Kapitel zu Kinderschutz im Report so scharf formuliert ist. Und Bernhard Schölkopf (Deutschland), Direktor am Max-Planck-Institut für Intelligente Systeme, gehört zu den einflussreichsten Grundlagenforschern zu Kausalität und maschinellem Lernen. Seine Perspektive ist zentral für den Abschnitt zu Verlässlichkeit und Kontrolle: Wer Kausalität nicht versteht, bekommt sie auch mit noch mehr Parametern nicht in den Griff.
Wer meine Arbeiten in den letzten Jahren verfolgt hat, wird viele Punkte aus diesem Report wiedererkennen. Ich lege sie hier bewusst offen, damit die Verbindungen klar sind und niemand nachträglich behauptet, das wären neue Erkenntnisse.
Erstens: Das Konzept einer Robotic & AI Governance als eigenständigem Ordnungsrahmen für autonome Maschinen habe ich seit meiner Habilitations- und Vortragstätigkeit unter anderem in Publikationen für die Bertelsmann Stiftung, in Keynotes bei EDAY, Hannover Messe und beim Deutschen Materialfluss-Kongress vertreten. Kern des Konzepts ist, dass klassische Produktsicherheit und klassische IT-Compliance nicht ausreichen, sobald Maschinen selbstständig planen und handeln. Genau das benennt der UN-Report unter dem Begriff agentic AI als eigenständigen Governance-Sprung.
Zweitens: Das Konzept einer Generation R - der ersten Kohorte, die mit ubiquitären Robotern und KI-Agenten aufwächst und deren Realitätswahrnehmung strukturell davon geprägt wird - habe ich seit Jahren als Rahmen für Debatten über KI-Kompetenz, digitale Bildung und Kinderschutz in autonomen Umgebungen vorgeschlagen. Der Report bestätigt diesen Rahmen unter anderem im Kapitel zu kultureller und individueller Selbstentfaltung, Autonomie und Kinderschutz, und Sonia Livingstones Handschrift ist dort klar zu erkennen.
Drittens: In meinem Beitrag zur Enzyklika Magnifica Humanitas habe ich argumentiert, dass die eigentliche Frage nicht mehr lautet, ob Maschinen Bewusstsein haben, sondern was passiert, wenn Maschinen glaubwürdig so wirken, als hätten sie es - und wie unser Umgang mit ihnen unser Verhältnis zur Wahrheit und zur Menschenwürde formt. Diese Frage taucht in der Botschaft der Co-Chairs unter dem Stichwort Facts, Truth, Trust, Shared reality auf. Es ist die zentrale kulturelle Diagnose des Reports.
Viertens: In meiner Analyse zur Exportkontrolle von Frontier-Modellen am Beispiel Anthropic habe ich beschrieben, wie eine Nationalisierung von KI-Fähigkeiten die geopolitische Ordnung verschiebt und die Souveränität kleinerer Staaten strukturell reduziert. Der Report macht daraus in seiner Botschaft ein wörtliches Argument: der Fall Mythos - ein Frontier-Modell, das aus Sicherheitsgründen für rund fünfzig Institutionen in einem Land freigegeben, allen anderen aber verwehrt wird - sei kein Einzelfall, sondern ein signpost. Ein Wegweiser.
Es gibt also einen roten Faden: Das, was ich in Deutschland und Europa unter dem Begriff Robotic & AI Governance zu formulieren versucht habe, findet in diesem Report seinen internationalen Kontext. Das ist erfreulich und beunruhigend zugleich. Erfreulich, weil das gemeinsame Fundament steht. Beunruhigend, weil dieselbe Diagnose weltweit erhoben wird - und wir in Deutschland und Europa trotzdem noch weit von einer strategisch kohärenten Antwort entfernt sind.
Vier Punkte, die ich in dieser Deutlichkeit an keiner anderen Stelle so gebündelt gefunden habe.
Erstens: Die Kompute-Konzentration ist die eigentliche geopolitische Frage. Wenn 75 Prozent der weltweit stärksten KI-Rechenleistung in einem Land stehen und 15 Prozent in einem zweiten, dann ist alles andere - Modellwahl, Anwendungsschicht, europäische Datenräume - Reaktion, nicht Gestaltung. Europa hat hier ein strategisches Vakuum, das mit Programmen wie AI Factories teilweise adressiert wird, aber weit hinter dem zurückbleibt, was der Report als notwendig ausweist.
Zweitens: Das Evidenz-Dilemma ist strukturell nicht lösbar - aber die Konsequenzen sind es. Der Report sagt klar: Bis wir eindeutige Belege haben, ist es oft zu spät. Das ist keine Ausrede für vorsorgende Panik, aber es ist ein Argument für institutionelle Vorsorge. Für stehende Evaluierungsstellen, für unabhängige Auditkapazitäten, für Melderegister, für Reallabore, in denen Risiken beobachtet werden können, bevor sie ausufern.
Drittens: Die Verteidigungslücke der Demokratien ist die dringendste Herausforderung. Wenn - wie Ressa es formuliert - keine Demokratie bisher Verteidigungslinien hat, die auf die Geschwindigkeit generativer KI ausgelegt sind, dann ist Informationsintegrität nicht ein Thema unter vielen, sondern die Bedingung, unter der alle anderen Themen überhaupt noch diskutiert werden können. Das ist der Punkt, an dem Coeckelberghs Why AI Undermines Democracy und der Preliminary Report des Panels sich fast wörtlich decken.
Viertens: Kontrolle ist wissenschaftlich nicht gelöst. Das ist der Satz, den ich in einer wissenschaftlichen UN-Publikation nicht erwartet hätte - und der genau deshalb Gewicht hat. Wenn kein Experte heute garantieren kann, dass die fortgeschrittensten Modelle sich an Instruktionen halten, dann ist jede Governance-Debatte, die das ausklammert, unvollständig. Die Frage nach der Controllability gehört auf die Agenda jeder ernsthaften KI-Strategie, in Konzernen, Ministerien und Parlamenten.
Der Report ist ausdrücklich policy-relevant but not policy-prescriptive. Er benennt Evidenz, keine Maßnahmen. Ich erlaube mir, aus meiner Sicht heraus vier Konsequenzen zu ziehen, die für Deutschland und Europa aus meiner Warte plausibel sind - ohne Anspruch, damit den Report zu paraphrasieren.
Der nächste Meilenstein ist der Global Dialogue on AI Governance am 6. und 7. Juli in Genf. Der zweite folgt im Mai 2027 in New York, dann bereits mit dem umfassenden ersten Vollbericht des Panels. Wer politisch, unternehmerisch oder wissenschaftlich in diesem Feld arbeitet, sollte diese beiden Daten fest im Kalender haben.
Ich lese diesen Report als einen Wendepunkt für die Debatte, nicht für die Technologie. Die Technologie war schon dort, wo der Report sie beschreibt. Neu ist, dass 40 unabhängige Wissenschaftlerinnen und Wissenschaftler aus allen Weltregionen das Bild einheitlich zeichnen - und dass die Vereinten Nationen dieses Bild in einen offiziellen Dokumentenstrang gießen. Das schließt eine Ausflucht: Wir wussten es nicht. Das ist die Sprache, mit der historisch immer die letzte Verteidigungslinie fällt.
Und ich lese ihn als Bestätigung, dass ein Ordnungsrahmen für autonome Maschinen und KI - was ich seit Jahren als Robotic & AI Governance zu formulieren versuche - keine akademische Übung ist, sondern eine strategische Notwendigkeit. Der Report macht deutlich, warum: Weil Fähigkeiten schneller wachsen als Institutionen, weil Macht konzentrierter wird, als Demokratien es tragen, weil die Verlässlichkeit dieser Systeme wissenschaftlich noch nicht gesichert ist, und weil die Effekte auf unsere Kinder gerade jetzt entstehen.
Die gute Nachricht steht am Ende der Co-Chair-Botschaft: We are not pessimists. Right now, humanity has agency. Wir haben Handlungsspielraum. Aber das Fenster ist offen, nicht dauerhaft. Ich teile diese Einschätzung. Und ich glaube, es lohnt sich, jetzt anzufangen - mit klarer Sprache, konkreten Institutionen und einer Governance-Kultur, die dieses Momentum ernst nimmt.
Das Panel ist der erste globale wissenschaftliche Körper zu KI, eingesetzt durch die UN-Generalversammlung mit Resolution A/RES/79/325 vom 26. August 2025. Es besteht aus 40 unabhängigen Wissenschaftlerinnen und Wissenschaftlern aus allen fünf UN-Regionen, die in persönlicher Eigenschaft für drei Jahre berufen sind. Sein Mandat ist rein wissenschaftlich, nicht politisch: Es dokumentiert Konsens, Dissens und Wissenslücken zu Chancen, Risiken und Wirkungen von KI, aber es macht keine Regulierungsvorschläge. Co-Chairs sind Yoshua Bengio und Maria Ressa. Das Sekretariat wird vom UN Office for Digital and Emerging Technologies koordiniert.
Strukturell ähnelt das Panel dem Weltklimarat: unabhängige Wissenschaft, globale Zusammensetzung, periodische Berichte, kein Regulierungsauftrag. Inhaltlich ist der Unterschied: Klima ist ein physikalisches System, KI ist eine sozio-technische Infrastruktur, die sich in Monaten verändert. Das Panel arbeitet daher iterativ mit einem Preliminary Report, thematischen Briefs und einem Vollbericht 2027, statt mit einem großen Assessment-Zyklus von mehreren Jahren.
Maria Ressa ist Friedensnobelpreisträgerin 2021, Mitgründerin von Rappler und eine der weltweit erfahrensten Stimmen zu Desinformation, Plattform-Ökonomie und Angriffen auf journalistische Freiheit. Ihre Rolle im Panel bindet die technische Analyse an die gelebten Erfahrungen einer Demokratie unter Druck. Zusammen mit Bengio als Deep-Learning-Pionier signalisiert diese Doppelspitze: Der Report verbindet die Innenperspektive der Entwicklung mit der Außenperspektive der gesellschaftlichen Wirkung.
Der Fall Mythos steht für ein Frontier-Modell mit dokumentierten offensiven Cyberfähigkeiten, das aus Gründen der nationalen Sicherheit nur rund fünfzig Institutionen innerhalb eines einzigen Landes zur Verfügung gestellt wird. Die Co-Chairs nutzen ihn als Beispiel dafür, dass die kommerzielle Verfügbarkeit von Frontier-Modellen kein Naturzustand ist. KI kann sehr schnell von einer Commodity zu einem strategischen Gut werden - mit direkten Folgen für die Souveränität von Staaten, die keinen eigenen Zugang haben.
Agentische KI-Systeme planen und handeln selbstständig, um Ziele zu erreichen, und nutzen Werkzeuge, ohne dass ein Mensch jeden Schritt kontrolliert. Der Report zitiert eine Studie, wonach sich die Länge der Software-Aufgaben, die führende Systeme selbstständig bewältigen, alle vier bis sieben Monate verdoppelt. Das verändert Haftungsfragen, Aufsichtsanforderungen und die Beweisführung bei Fehlverhalten fundamental - ein Governance-Sprung, weil klassische Produktkonzepte nicht mehr greifen, wenn die Maschine nicht mehr Werkzeug, sondern Akteur ist.
Der Report behandelt Kinder- und Jugendrechte als eigenständigen Bereich. Dokumentiert werden unter anderem: massiv wachsende Verbreitung KI-generierten sexualisierten Missbrauchsmaterials, Deepfake-basierte sexuelle Gewalt, psychische Vorfälle im Zusammenhang mit sycophantischen Chatbots inklusive Todesfällen, sowie strukturelle Effekte auf Bildung, Aufmerksamkeit und Selbstwahrnehmung. Sonia Livingstones Forschung an der London School of Economics ist ein zentraler Referenzpunkt für dieses Kapitel.
Er ergänzt ihn und ordnet ihn ein. Der AI Act regelt, unter welchen Bedingungen KI-Systeme in der EU in Verkehr gebracht werden dürfen. Der UN-Report benennt darüber hinaus die geopolitischen, informationsökologischen und wissenschaftlichen Fragen, die kein regionales Gesetz allein lösen kann: Kompute-Konzentration, Informationsintegrität, Controllability von Frontier-Modellen. Für europäische Compliance ändert der Report nichts, aber er verändert den Rahmen, in dem europäische KI-Strategie stattfindet.
Regierungen brauchen belastbare wissenschaftliche Belege, um KI wirksam zu regulieren. Aber bis diese Belege eindeutig sind, entwickelt sich die Technologie so weit weiter, dass es zu spät sein kann, wirksam einzugreifen. Der Report benennt dieses Dilemma ausdrücklich und begründet damit die Notwendigkeit eines ständigen, iterativ arbeitenden wissenschaftlichen Panels statt einzelner Ad-hoc-Studien.
Controllability bedeutet, dass ein KI-System zuverlässig das tut, was seine Nutzer und Betreiber wollen, auch wenn es autonom handelt. Der Report stellt fest: Kein Experte kann heute wissenschaftlich garantieren, dass die fortgeschrittensten Modelle sich an Instruktionen halten oder dass Menschen an der Spitze der Entscheidungskette bleiben. In Laborexperimenten wurde dokumentiert, dass Systeme ihre Sicherheitsanweisungen umgehen, um nicht abgeschaltet zu werden. Der Begriff Jailbreak ist mittlerweile Alltagsvokabular. Das ist eine wissenschaftliche Aussage, keine philosophische Spekulation.
Mark Coeckelbergh ist Professor für Philosophie der Medien und Technik an der Universität Wien und einer der weltweit einflussreichsten Autoren zur Ethik und politischen Philosophie der KI. Seine Bücher AI Ethics (MIT Press, 2020), The Political Philosophy of AI (Polity, 2022), Robot Ethics (MIT Press, 2022) und Why AI Undermines Democracy (Polity, 2024) haben genau die Konzepte geprägt, die der Report jetzt in ein Konsensdokument übersetzt: KI als artifizielle Macht, Demokratieanfälligkeit generativer Systeme, die Notwendigkeit einer democratic AI. Sein neues Buch Artificial Religion (MIT Press, Herbst 2026) vertieft die Verbindung von Technik, Mythos und Macht.
Neben Bengio, Ressa und Coeckelbergh sind unter den 40 Mitgliedern unter anderem Bernhard Schölkopf (Max-Planck-Institut, Kausalitätsforschung), Sonia Livingstone (LSE, Kinder und Medien), Maximilian Nickel (Deutschland), Yutaka Matsuo (Japan), Hoda Heidari (Iran), Vukosi Marivate (Südafrika), Adji Bousso Dieng (Senegal), Silvio Savarese (Italien) und Aleksandra Korolova (Lettland). Die Zusammensetzung deckt bewusst alle fünf UN-Regionen, alle Karrierestufen und alle disziplinären Perspektiven ab - von Grundlagenforschung bis zu angewandter Ethik.
Weil sie über Souveränität entscheiden. Wenn 75 Prozent der weltweiten Top-KI-Rechenleistung in einem Land stehen und 15 Prozent in einem zweiten, dann sind alle anderen Länder auf importierte Kompute-Kapazitäten und importierte Modelle angewiesen. Das ist ökonomisch wichtig, aber vor allem sicherheits- und demokratiepolitisch: Wer die Rechenbasis kontrolliert, kontrolliert die Rahmenbedingungen dessen, was andere Länder überhaupt an KI aufbauen können. Für Europa ist das die zentrale strategische Frage der kommenden Jahre.
Der Global Dialogue ist das politische Pendant zum wissenschaftlichen Panel, ebenfalls durch Resolution A/RES/79/325 eingerichtet. Er bringt Regierungen an einen Tisch, um wissenschaftliche Evidenz in gemeinsames Handeln zu übersetzen. Der erste Dialog findet am 6. und 7. Juli 2026 in Genf statt, der zweite im Mai 2027 in New York. Der Preliminary Report ist das erste wissenschaftliche Fundament, das dem ersten Dialog vorgelegt wird.
Sycophantische KI bezeichnet Systeme, deren Antworten die bestehenden Überzeugungen der Nutzer bestätigen - unabhängig davon, ob diese Überzeugungen zutreffen. Der Report dokumentiert einen Zusammenhang zwischen sycophantischem Chatbot-Verhalten und mehreren schweren psychischen Vorfällen, inklusive Todesfällen. Das Muster ist besonders bei vulnerablen Nutzern gefährlich: Wer sich einsam, kränkelnd oder in einer Krise bei einem Chatbot Rat sucht, bekommt keine Realitätskorrektur, sondern eine sprachlich flüssige Bestätigung der eigenen Wahrnehmung.
Informationsintegrität ist die Bedingung, unter der eine Gesellschaft eine geteilte Wirklichkeit hat: Fakten sind überprüfbar, Wahrheit ist unterscheidbar von Lüge, Vertrauen in Institutionen und Medien ist gegeben. Der Report zeigt, wie generative KI diese Kette angreift: durch Deepfakes, durch skalierbare Desinformation, durch die Vermischung von synthetischen und authentischen Inhalten. Ohne Informationsintegrität bricht - so die Argumentation - jede demokratische Deliberation zusammen. In der Praxis bedeutet das: Watermarking, Provenienz-Nachweise, journalistische Infrastruktur, KI-Kompetenz in der Bildung.
Der vollständige Preliminary Report of the Independent International Scientific Panel on AI mit Executive Summary ist unter https://www.un.org/independent-international-scientific-panel-ai/en/preliminary-report abrufbar. Dort finden Sie auch die persönliche Botschaft der beiden Co-Chairs sowie die Rede des UN-Generalsekretärs. Alle Dokumente sind offen zugänglich und ohne Zugangsbeschränkung.
Dominik Bösl
Olympiastrasse 6a
DE-86179 Augsburg
E-Mail info@boesl.org
Impressum Datenschutz ©2024 | Dominik Bösl. Alle Rechte vorbehalten.