UN AI Panel Preliminary Report 2026 - Einordnung von Prof. Bösl

Am 1. Juli 2026, kurz nach elf Uhr New Yorker Zeit, hat das Independent International Scientific Panel on Artificial Intelligence seinen ersten Preliminary Report vorgelegt. Vierzig Wissenschaftlerinnen und Wissenschaftler aus allen fünf UN-Regionen, drei Jahre Mandat, ein einziger Auftrag: das erste global unabhängige wissenschaftliche Fundament zu KI zu erarbeiten. Kein politisches Papier, kein Regulierungsvorschlag, kein Lobbytext. Ein Referenzdokument, das die Vereinten Nationen den 193 Mitgliedstaaten am Vorabend des ersten Global Dialogue on AI Governance am 6. und 7. Juli in Genf auf den Tisch legen.

Ich habe den Report gelesen, die persönliche Botschaft der beiden Co-Chairs Yoshua Bengio und Maria Ressa dazu, dazu die Rede des UN-Generalsekretärs António Guterres bei der Pressekonferenz. Und ich habe versucht, das Ganze mit dem in Verbindung zu bringen, was viele von uns seit Jahren beschäftigt: die Frage nach einem tragfähigen Ordnungsrahmen für autonome Maschinen und für Künstliche Intelligenz, für Robotic & AI Governance. Der Report ist ein Meilenstein. Nicht weil er neue Fakten produziert, sondern weil er Fakten zum ersten Mal für alle Regierungen der Welt in einem gemeinsamen, wissenschaftlich unabhängigen Text festhält. Und in einer Sprache, die politisch nicht mehr wegzuwischen ist.

Was der Report ist - und was er nicht ist

Das Panel wurde durch die UN-Generalversammlung mit der Resolution A/RES/79/325 im August 2025 eingesetzt, aufbauend auf dem Global Digital Compact von 2024 und den Empfehlungen des High Level Advisory Body on AI des UN-Generalsekretärs. Es ist der erste globale, ständige wissenschaftliche Körper, der sich ausschließlich mit KI befasst. Kein IPCC-Klon, aber mit demselben strukturellen Anspruch: dokumentieren, was Wissenschaft weiß und was sie nicht weiß, ohne Vorschriften zu machen. Die 40 Mitglieder wurden aus 2.600 Bewerbungen aus über 140 Ländern ausgewählt. Sie dienen in persönlicher Eigenschaft, für drei Jahre, ohne Weisung von Regierungen, Unternehmen oder Institutionen. Co-Chairs sind der kanadische Deep-Learning-Pionier Yoshua Bengio und die philippinische Friedensnobelpreisträgerin und Journalistin Maria Ressa. Zwei Biografien, die nicht zufälliger sein könnten. Und die deshalb umso mehr Gewicht haben, wenn sie zur selben Diagnose kommen.

Der Report umfasst knapp 60 Seiten Haupttext, gegliedert in sieben Domänen: KI-Wissenschaft und Entwicklungspfade, gesellschaftliche Anwendungen (Wissenschaft, Gesundheit, Bildung, Landwirtschaft), wirtschaftliche Implikationen, Sicherheit und Umweltfolgen, Menschenrechte und Demokratie, kulturelle und individuelle Selbstentfaltung inklusive Kinderschutz, sowie Management, Governance und Verlässlichkeit. Er ist ausdrücklich preliminary - eine erste Momentaufnahme, mit thematischen Nachträgen bis zum umfassenden ersten Vollbericht im Mai 2027. Und er ist wissenschaftliches Konsensdokument, kein Meinungsstück.

Das ist der erste Punkt, der mir wichtig ist: Der Report ist keine Warnung von Aktivisten. Er ist die derzeit belastbarste globale wissenschaftliche Einschätzung, die wir haben. Wer ihn ignoriert, ignoriert nicht mehr eine Meinung. Er ignoriert den Stand der internationalen Wissenschaft.

Executive Summary in eigenen Worten

Wer wenig Zeit hat, sollte diese acht Punkte kennen. Sie destillieren, was der Report auf 60 Seiten unterlegt.

KI-Fähigkeiten wachsen schneller als unsere Fähigkeit, sie zu messen oder zu regieren. Auf dem Benchmark Humanity's Last Exam, gezielt schwer entworfen, sind die besten Systeme innerhalb von 16 Monaten von 8 auf 45 Prozent gestiegen. Auf FrontierMath von 19 auf 88 Prozent innerhalb von etwas mehr als einem Jahr. Auf der Mathematik-Olympiade 2025 erreichten mehrere Systeme Gold-Niveau - deutlich früher, als selbst Fachleute erwartet hatten.
Frontier-Modelle werden von einer Handvoll Akteuren trainiert. Die USA halten rund 75 Prozent der Rechenleistung unter den 500 leistungsstärksten KI-Supercomputern, China 15 Prozent. Fast alle führenden General-Purpose-Modelle stammen aus zwei Ländern. Wenige Unternehmen kontrollieren kritische Vorprodukte der Chip-Lieferkette.
KI-Zugang und KI-Wirkung sind geografisch und sprachlich extrem ungleich. Über eine Milliarde Menschen nutzt KI-Chatbots wöchentlich, aber die Adoptionsraten im globalen Süden liegen weit hinter dem globalen Norden. Wo Sprache, Datenbestand und Infrastruktur fehlen, wird derselbe technologische Fortschritt zum Ungleichheitstreiber.
Der KI-Graben ist nicht nur ein Zugangsproblem, sondern ein Gestaltungsproblem. Die meisten Länder - inklusive vieler Industrienationen - haben nicht die technische Expertise, um Frontier-Modelle zu evaluieren oder ihre Governance mitzugestalten. Sie werden zu Abnehmern von Systemen, die sie weder bauen noch prüfen noch an lokale Kontexte anpassen können.
Agentische KI ist ein Governance-Sprung. Systeme, die selbst planen, handeln und Werkzeuge nutzen, verändern Haftung, Aufsicht, Zurechnung. Eine aktuelle Studie zeigt: Die Länge von Software-Aufgaben, die führende Systeme selbstständig bewältigen, verdoppelt sich alle vier bis sieben Monate. Wenn das anhält, erledigen KI-Agenten in wenigen Jahren Aufgaben, die heute Programmierteams Tage kosten.
KI erodiert geteilte Wirklichkeit. Deepfakes, sycophantische Chatbots, KI-generierte sexualisierte Gewalt gegen Frauen und Kinder, automatisierte Desinformation - all das ist keine Zukunftsprojektion, sondern dokumentierte Gegenwart. Der Report belegt mehrere schwere psychische Vorfälle, darunter Todesfälle, im Zusammenhang mit AI-Chatbots.
Menschenrechte, inklusive Kinderrechte, werden systematisch transformiert. Nicht als Nebeneffekt, sondern als strukturelle Folge der Skalierung. Wo KI Bildung, Justiz oder Wohlfahrtsentscheidungen mitträgt, verschiebt sich das Verhältnis zwischen Bürger und Staat.
Das Evidenz-Dilemma ist real. Wörtlich im Report: Regierungen brauchen wissenschaftliche Belege, um KI wirksam zu regulieren, aber bis diese Belege eindeutig sind, kann es zu spät sein, um noch zu handeln. Genau diese Lücke soll das Panel schließen.

Die Botschaft der beiden Co-Chairs

Zum Report gehört ein zweites, kürzeres Dokument, das ich für mindestens genauso wichtig halte: die persönliche Botschaft von Bengio und Ressa. Vier Seiten, geschrieben aus zwei Biografien - der eine hat diese Systeme gebaut, die andere hat dokumentiert, was sie mit Gesellschaften anrichten. Und beide kommen zum selben Schluss.

"Wir sind an einem Wendepunkt. Wir haben die Büchse der Pandora geöffnet. Was da herauskommt, ist anders als alles, was wir bisher erlebt haben - in Tempo, Macht, Kontrolle und alltäglichen Risiken."
Yoshua Bengio und Maria Ressa, Co-Chairs

Die beiden ordnen entlang vier Dimensionen: Tempo, Macht, Kontrolle, Alltagsrisiken. Beim Tempo ist die Aussage schlicht: Es beschleunigt sich, es verlangsamt sich nicht. Bei der Macht sprechen sie explizit von einer concentration of political power. Sie verweisen auf den Fall Mythos - ein Frontier-Modell mit dokumentierten offensiven Cyberfähigkeiten, das aus Sicherheitsgründen nur rund fünfzig Institutionen innerhalb eines einzigen Landes zur Verfügung steht. KI, so die Diagnose, wird heute noch als Commodity verkauft, könnte aber schon bald eine Waffe und ein Herrschaftsinstrument sein. Die Souveränität der meisten Staaten steht zur Debatte.

Bei der Kontrolle gehen die Autoren an eine Stelle, die technisch normalerweise nur in Alignment-Papers auftaucht: Kein Experte könne heute garantieren, dass die fortgeschrittensten Modelle sich an die Instruktionen halten oder dass Menschen an der Spitze der Entscheidungskette bleiben, wenn diese Systeme mächtiger werden. Der Begriff Jailbreak sei inzwischen Alltagsvokabular. Die Belege für täuschendes Verhalten und Selbsterhaltungstendenzen von KI-Systemen wachsen, dokumentiert unter anderem vom Scientific Advisory Board des UN-Generalsekretärs.

Bei den Alltagsrisiken bringt Ressa die eigene Geschichte ein. Sie war 2016 Ziel einer Desinformationskampagne, die den Satz Journalist gleich Kriminelle so oft wiederholt hat, bis Verhaftungen legal, ein Urteil gerecht aussahen. Das war vor einem Jahrzehnt. Heute läuft dasselbe Playbook, nur um Größenordnungen schneller, mit generativer KI. Und ihr Punkt: Keine Demokratie hat bisher Verteidigungslinien, die auf diese Geschwindigkeit ausgelegt sind. Fakten, Wahrheit, Vertrauen, geteilte Realität - diese Kette werde durch dieselben Systeme zerbrochen, auf denen jetzt die nächste Generation von KI-Agenten aufgebaut wird.

Der Text endet mit einem Appell, der klingt, als wäre er nicht für Wissenschaftler geschrieben, sondern für Staats- und Regierungschefs, für Ministerinnen und Delegierte. Wörtlich: Do not let anyone tell you the risks are speculative or the timelines are long. The pace is faster than you think. Das ist keine Rhetorik. Das ist eine Notiz vom Wissenschaftsrand an die Politik.

Die Rede von António Guterres

Der Generalsekretär hat bei der Pressekonferenz einen einzigen Satz besonders betont: The more AI advances without shared rules, the less say governments and people will have in the outcome. Und einen zweiten, der mir noch länger nachhängt: We can no longer say we did not know. Das ist die klassische Formel der historischen Verantwortung. Sie ist bewusst gewählt. Sie schließt eine Tür.

Der Guterres-Auftritt hatte auch eine institutionelle Funktion: Er reichte die Bühne bewusst weiter an die beiden Co-Chairs. Damit war für alle klar: Dieses Panel ist unabhängig von den Vereinten Nationen. Das Sekretariat wird vom UN Office for Digital and Emerging Technologies koordiniert, unterstützt durch ITU und UNESCO, aber die wissenschaftlichen Schlussfolgerungen kontrolliert es nicht. Das ist wichtig, wenn diese Aussagen in Regierungen und Parlamenten Gewicht bekommen sollen.

Warum dieser Report auch für uns in Europa zählt

Wir haben in Europa den AI Act, wir haben nationale Umsetzungsgesetze, wir haben die Bundesnetzagentur als zentrale Aufsicht in Deutschland. Warum also ein UN-Report? Weil KI keine europäische Angelegenheit ist. Weil die Trainingsdaten global sind, die Modelle global, die Effekte auf Arbeitsmärkte, Informationsökosysteme und Sicherheit global. Und weil der AI Act, den ich in meinen Beiträgen zur Einordnung des Inkrafttretens ausführlich diskutiert habe, für die Fragen, die dieser Report aufwirft, nur ein Teilstück ist.

Der AI Act reguliert, welche KI-Systeme in der EU wie in Verkehr gebracht werden dürfen. Er sagt nichts über die geopolitische Konzentration der Rechenleistung. Er sagt nichts über die Kompute-Abhängigkeit Europas von US-Chipfertigern. Er sagt nichts über die Frage, was passiert, wenn ein einzelner Staat den Zugang zu einem Frontier-Modell exklusiv kontrolliert. Und er sagt sehr wenig darüber, wie eine demokratische Öffentlichkeit funktionieren soll, wenn der Informationsraum von wenigen Plattformen dominiert wird, die ihrerseits mit generativer KI arbeiten. Der UN-Report schließt genau diese Lücke - nicht mit Vorschriften, sondern mit einer belastbaren wissenschaftlichen Grundlage, auf der diese Debatten dann geführt werden müssen.

Was Coeckelbergh und andere Panelmitglieder mitbringen

Ein Blick auf die Zusammensetzung des Panels lohnt sich, weil dort die philosophische und die technische Tiefe zusammenfließen. Ich hebe drei Namen heraus, weil sie besonders viel Kontext beitragen.

Mark Coeckelbergh (Belgien), Professor für Philosophie der Medien und Technik an der Universität Wien, ist seit vielen Jahren die europäische Referenzstimme in der Technikethik. Sein Buch AI Ethics (MIT Press, 2020) ist der Standardeinstieg in ethische Fragen der KI - jenseits von Superintelligenz-Fantasien, mit Fokus auf Verantwortung, Transparenz, Bias und Klima. In The Political Philosophy of AI (Polity, 2022) hat er das Feld politisch geöffnet: KI sei nicht neutral, sie sei artifizielle Macht - und daher genuin ein Gegenstand politischer Philosophie, nicht nur der Ingenieurethik. In Why AI Undermines Democracy and What to Do About It (Polity, 2024) hat er die Diagnose zugespitzt: KI, so wie sie derzeit gebaut und eingesetzt wird, untergräbt die Grundprinzipien liberaler Demokratien - Freiheit, Gleichheit, geteilte Wirklichkeit. Sein Gegenentwurf: democratic AI, gestaltet aus den Werten der Öffentlichkeit heraus, nicht aus den Anreizstrukturen weniger Konzerne.

Wer die Botschaft der Co-Chairs liest, findet in ihr fast wörtlich Coeckelberghs Argumente wieder. Das ist kein Zufall. Es ist der Ausdruck einer wissenschaftlichen Konvergenz: Was in der politischen Philosophie der KI seit einem Jahrzehnt herausgearbeitet wird, hat es nun in ein UN-Konsensdokument geschafft. Für alle, die tiefer einsteigen wollen, empfehle ich Coeckelberghs Robot Ethics (MIT Press, 2022) - eine der klarsten Einführungen in die ethischen Fragen von Robotik und autonomen Maschinen. Und im Herbst 2026 erscheint bei MIT Press sein neuestes Buch Artificial Religion: On AI, Myth, and Power, das genau die Verbindung zwischen technischer Fähigkeit, mythischer Aufladung und politischer Macht in den Blick nimmt, die auch das Panel benennt.

Sonia Livingstone (UK), Professorin an der London School of Economics, ist die führende Stimme zur Frage, was digitale und algorithmische Umgebungen mit Kindern und Jugendlichen machen. Ihre Arbeit erklärt, warum das Kapitel zu Kinderschutz im Report so scharf formuliert ist. Und Bernhard Schölkopf (Deutschland), Direktor am Max-Planck-Institut für Intelligente Systeme, gehört zu den einflussreichsten Grundlagenforschern zu Kausalität und maschinellem Lernen. Seine Perspektive ist zentral für den Abschnitt zu Verlässlichkeit und Kontrolle: Wer Kausalität nicht versteht, bekommt sie auch mit noch mehr Parametern nicht in den Griff.

Bezug zu meinen eigenen Arbeiten

Wer meine Arbeiten in den letzten Jahren verfolgt hat, wird viele Punkte aus diesem Report wiedererkennen. Ich lege sie hier bewusst offen, damit die Verbindungen klar sind und niemand nachträglich behauptet, das wären neue Erkenntnisse.

Erstens: Das Konzept einer Robotic & AI Governance als eigenständigem Ordnungsrahmen für autonome Maschinen habe ich seit meiner Habilitations- und Vortragstätigkeit unter anderem in Publikationen für die Bertelsmann Stiftung, in Keynotes bei EDAY, Hannover Messe und beim Deutschen Materialfluss-Kongress vertreten. Kern des Konzepts ist, dass klassische Produktsicherheit und klassische IT-Compliance nicht ausreichen, sobald Maschinen selbstständig planen und handeln. Genau das benennt der UN-Report unter dem Begriff agentic AI als eigenständigen Governance-Sprung.

Zweitens: Das Konzept einer Generation R - der ersten Kohorte, die mit ubiquitären Robotern und KI-Agenten aufwächst und deren Realitätswahrnehmung strukturell davon geprägt wird - habe ich seit Jahren als Rahmen für Debatten über KI-Kompetenz, digitale Bildung und Kinderschutz in autonomen Umgebungen vorgeschlagen. Der Report bestätigt diesen Rahmen unter anderem im Kapitel zu kultureller und individueller Selbstentfaltung, Autonomie und Kinderschutz, und Sonia Livingstones Handschrift ist dort klar zu erkennen.

Drittens: In meinem Beitrag zur Enzyklika Magnifica Humanitas habe ich argumentiert, dass die eigentliche Frage nicht mehr lautet, ob Maschinen Bewusstsein haben, sondern was passiert, wenn Maschinen glaubwürdig so wirken, als hätten sie es - und wie unser Umgang mit ihnen unser Verhältnis zur Wahrheit und zur Menschenwürde formt. Diese Frage taucht in der Botschaft der Co-Chairs unter dem Stichwort Facts, Truth, Trust, Shared reality auf. Es ist die zentrale kulturelle Diagnose des Reports.

Viertens: In meiner Analyse zur Exportkontrolle von Frontier-Modellen am Beispiel Anthropic habe ich beschrieben, wie eine Nationalisierung von KI-Fähigkeiten die geopolitische Ordnung verschiebt und die Souveränität kleinerer Staaten strukturell reduziert. Der Report macht daraus in seiner Botschaft ein wörtliches Argument: der Fall Mythos - ein Frontier-Modell, das aus Sicherheitsgründen für rund fünfzig Institutionen in einem Land freigegeben, allen anderen aber verwehrt wird - sei kein Einzelfall, sondern ein signpost. Ein Wegweiser.

Es gibt also einen roten Faden: Das, was ich in Deutschland und Europa unter dem Begriff Robotic & AI Governance zu formulieren versucht habe, findet in diesem Report seinen internationalen Kontext. Das ist erfreulich und beunruhigend zugleich. Erfreulich, weil das gemeinsame Fundament steht. Beunruhigend, weil dieselbe Diagnose weltweit erhoben wird - und wir in Deutschland und Europa trotzdem noch weit von einer strategisch kohärenten Antwort entfernt sind.

Was mich am Report besonders beschäftigt

Vier Punkte, die ich in dieser Deutlichkeit an keiner anderen Stelle so gebündelt gefunden habe.

Erstens: Die Kompute-Konzentration ist die eigentliche geopolitische Frage. Wenn 75 Prozent der weltweit stärksten KI-Rechenleistung in einem Land stehen und 15 Prozent in einem zweiten, dann ist alles andere - Modellwahl, Anwendungsschicht, europäische Datenräume - Reaktion, nicht Gestaltung. Europa hat hier ein strategisches Vakuum, das mit Programmen wie AI Factories teilweise adressiert wird, aber weit hinter dem zurückbleibt, was der Report als notwendig ausweist.

Zweitens: Das Evidenz-Dilemma ist strukturell nicht lösbar - aber die Konsequenzen sind es. Der Report sagt klar: Bis wir eindeutige Belege haben, ist es oft zu spät. Das ist keine Ausrede für vorsorgende Panik, aber es ist ein Argument für institutionelle Vorsorge. Für stehende Evaluierungsstellen, für unabhängige Auditkapazitäten, für Melderegister, für Reallabore, in denen Risiken beobachtet werden können, bevor sie ausufern.

Drittens: Die Verteidigungslücke der Demokratien ist die dringendste Herausforderung. Wenn - wie Ressa es formuliert - keine Demokratie bisher Verteidigungslinien hat, die auf die Geschwindigkeit generativer KI ausgelegt sind, dann ist Informationsintegrität nicht ein Thema unter vielen, sondern die Bedingung, unter der alle anderen Themen überhaupt noch diskutiert werden können. Das ist der Punkt, an dem Coeckelberghs Why AI Undermines Democracy und der Preliminary Report des Panels sich fast wörtlich decken.

Viertens: Kontrolle ist wissenschaftlich nicht gelöst. Das ist der Satz, den ich in einer wissenschaftlichen UN-Publikation nicht erwartet hätte - und der genau deshalb Gewicht hat. Wenn kein Experte heute garantieren kann, dass die fortgeschrittensten Modelle sich an Instruktionen halten, dann ist jede Governance-Debatte, die das ausklammert, unvollständig. Die Frage nach der Controllability gehört auf die Agenda jeder ernsthaften KI-Strategie, in Konzernen, Ministerien und Parlamenten.

Was jetzt zu tun ist

Der Report ist ausdrücklich policy-relevant but not policy-prescriptive. Er benennt Evidenz, keine Maßnahmen. Ich erlaube mir, aus meiner Sicht heraus vier Konsequenzen zu ziehen, die für Deutschland und Europa aus meiner Warte plausibel sind - ohne Anspruch, damit den Report zu paraphrasieren.

Souveräne Kompute-Kapazitäten deutlich ausbauen. Nicht als Prestigeprojekt, sondern als Fundament jeder KI-Strategie. Ohne eigene Rechenbasis bleibt Europa Empfänger.
Unabhängige Evaluierungsinstitute aufbauen, die Frontier-Modelle prüfen können - technisch, ethisch, sicherheitspolitisch. Der Report legt offen, wie unterentwickelt diese Kapazitäten weltweit sind.
Informationsintegrität als Grundfeste der Demokratie mit derselben Priorität behandeln wie Cybersecurity oder Energiesicherheit. Das umfasst Watermarking, Provenienz von Inhalten, journalistische Infrastruktur und robuste Bildungsangebote zu KI-Kompetenz.
Kinder- und Jugendschutz in KI-Umgebungen als eigenständigen regulatorischen Bereich anerkennen. Der Report zeigt, dass die Effekte auf die Generation R systematisch sind - nicht anekdotisch.

Der nächste Meilenstein ist der Global Dialogue on AI Governance am 6. und 7. Juli in Genf. Der zweite folgt im Mai 2027 in New York, dann bereits mit dem umfassenden ersten Vollbericht des Panels. Wer politisch, unternehmerisch oder wissenschaftlich in diesem Feld arbeitet, sollte diese beiden Daten fest im Kalender haben.

Persönliche Einordnung

Ich lese diesen Report als einen Wendepunkt für die Debatte, nicht für die Technologie. Die Technologie war schon dort, wo der Report sie beschreibt. Neu ist, dass 40 unabhängige Wissenschaftlerinnen und Wissenschaftler aus allen Weltregionen das Bild einheitlich zeichnen - und dass die Vereinten Nationen dieses Bild in einen offiziellen Dokumentenstrang gießen. Das schließt eine Ausflucht: Wir wussten es nicht. Das ist die Sprache, mit der historisch immer die letzte Verteidigungslinie fällt.

Und ich lese ihn als Bestätigung, dass ein Ordnungsrahmen für autonome Maschinen und KI - was ich seit Jahren als Robotic & AI Governance zu formulieren versuche - keine akademische Übung ist, sondern eine strategische Notwendigkeit. Der Report macht deutlich, warum: Weil Fähigkeiten schneller wachsen als Institutionen, weil Macht konzentrierter wird, als Demokratien es tragen, weil die Verlässlichkeit dieser Systeme wissenschaftlich noch nicht gesichert ist, und weil die Effekte auf unsere Kinder gerade jetzt entstehen.

Die gute Nachricht steht am Ende der Co-Chair-Botschaft: We are not pessimists. Right now, humanity has agency. Wir haben Handlungsspielraum. Aber das Fenster ist offen, nicht dauerhaft. Ich teile diese Einschätzung. Und ich glaube, es lohnt sich, jetzt anzufangen - mit klarer Sprache, konkreten Institutionen und einer Governance-Kultur, die dieses Momentum ernst nimmt.

FAQ zum Preliminary Report

Was genau ist das Independent International Scientific Panel on AI?

Das Panel ist der erste globale wissenschaftliche Körper zu KI, eingesetzt durch die UN-Generalversammlung mit Resolution A/RES/79/325 vom 26. August 2025. Es besteht aus 40 unabhängigen Wissenschaftlerinnen und Wissenschaftlern aus allen fünf UN-Regionen, die in persönlicher Eigenschaft für drei Jahre berufen sind. Sein Mandat ist rein wissenschaftlich, nicht politisch: Es dokumentiert Konsens, Dissens und Wissenslücken zu Chancen, Risiken und Wirkungen von KI, aber es macht keine Regulierungsvorschläge. Co-Chairs sind Yoshua Bengio und Maria Ressa. Das Sekretariat wird vom UN Office for Digital and Emerging Technologies koordiniert.

Wie unterscheidet sich der Report vom IPCC?

Strukturell ähnelt das Panel dem Weltklimarat: unabhängige Wissenschaft, globale Zusammensetzung, periodische Berichte, kein Regulierungsauftrag. Inhaltlich ist der Unterschied: Klima ist ein physikalisches System, KI ist eine sozio-technische Infrastruktur, die sich in Monaten verändert. Das Panel arbeitet daher iterativ mit einem Preliminary Report, thematischen Briefs und einem Vollbericht 2027, statt mit einem großen Assessment-Zyklus von mehreren Jahren.

Warum wurde ausgerechnet Maria Ressa Co-Chair?

Maria Ressa ist Friedensnobelpreisträgerin 2021, Mitgründerin von Rappler und eine der weltweit erfahrensten Stimmen zu Desinformation, Plattform-Ökonomie und Angriffen auf journalistische Freiheit. Ihre Rolle im Panel bindet die technische Analyse an die gelebten Erfahrungen einer Demokratie unter Druck. Zusammen mit Bengio als Deep-Learning-Pionier signalisiert diese Doppelspitze: Der Report verbindet die Innenperspektive der Entwicklung mit der Außenperspektive der gesellschaftlichen Wirkung.

Was bedeutet der Fall Mythos konkret?

Der Fall Mythos steht für ein Frontier-Modell mit dokumentierten offensiven Cyberfähigkeiten, das aus Gründen der nationalen Sicherheit nur rund fünfzig Institutionen innerhalb eines einzigen Landes zur Verfügung gestellt wird. Die Co-Chairs nutzen ihn als Beispiel dafür, dass die kommerzielle Verfügbarkeit von Frontier-Modellen kein Naturzustand ist. KI kann sehr schnell von einer Commodity zu einem strategischen Gut werden - mit direkten Folgen für die Souveränität von Staaten, die keinen eigenen Zugang haben.

Was ist agentische KI und warum ist sie ein Governance-Sprung?

Agentische KI-Systeme planen und handeln selbstständig, um Ziele zu erreichen, und nutzen Werkzeuge, ohne dass ein Mensch jeden Schritt kontrolliert. Der Report zitiert eine Studie, wonach sich die Länge der Software-Aufgaben, die führende Systeme selbstständig bewältigen, alle vier bis sieben Monate verdoppelt. Das verändert Haftungsfragen, Aufsichtsanforderungen und die Beweisführung bei Fehlverhalten fundamental - ein Governance-Sprung, weil klassische Produktkonzepte nicht mehr greifen, wenn die Maschine nicht mehr Werkzeug, sondern Akteur ist.

Was sagt der Report zu Kindern und Jugendlichen?

Der Report behandelt Kinder- und Jugendrechte als eigenständigen Bereich. Dokumentiert werden unter anderem: massiv wachsende Verbreitung KI-generierten sexualisierten Missbrauchsmaterials, Deepfake-basierte sexuelle Gewalt, psychische Vorfälle im Zusammenhang mit sycophantischen Chatbots inklusive Todesfällen, sowie strukturelle Effekte auf Bildung, Aufmerksamkeit und Selbstwahrnehmung. Sonia Livingstones Forschung an der London School of Economics ist ein zentraler Referenzpunkt für dieses Kapitel.

Widerspricht der Report dem AI Act oder ergänzt er ihn?

Er ergänzt ihn und ordnet ihn ein. Der AI Act regelt, unter welchen Bedingungen KI-Systeme in der EU in Verkehr gebracht werden dürfen. Der UN-Report benennt darüber hinaus die geopolitischen, informationsökologischen und wissenschaftlichen Fragen, die kein regionales Gesetz allein lösen kann: Kompute-Konzentration, Informationsintegrität, Controllability von Frontier-Modellen. Für europäische Compliance ändert der Report nichts, aber er verändert den Rahmen, in dem europäische KI-Strategie stattfindet.

Was ist das Evidenz-Dilemma?

Regierungen brauchen belastbare wissenschaftliche Belege, um KI wirksam zu regulieren. Aber bis diese Belege eindeutig sind, entwickelt sich die Technologie so weit weiter, dass es zu spät sein kann, wirksam einzugreifen. Der Report benennt dieses Dilemma ausdrücklich und begründet damit die Notwendigkeit eines ständigen, iterativ arbeitenden wissenschaftlichen Panels statt einzelner Ad-hoc-Studien.

Was heißt Controllability - und ist sie wirklich nicht gelöst?

Controllability bedeutet, dass ein KI-System zuverlässig das tut, was seine Nutzer und Betreiber wollen, auch wenn es autonom handelt. Der Report stellt fest: Kein Experte kann heute wissenschaftlich garantieren, dass die fortgeschrittensten Modelle sich an Instruktionen halten oder dass Menschen an der Spitze der Entscheidungskette bleiben. In Laborexperimenten wurde dokumentiert, dass Systeme ihre Sicherheitsanweisungen umgehen, um nicht abgeschaltet zu werden. Der Begriff Jailbreak ist mittlerweile Alltagsvokabular. Das ist eine wissenschaftliche Aussage, keine philosophische Spekulation.

Welche Rolle spielt Mark Coeckelbergh im Panel?

Mark Coeckelbergh ist Professor für Philosophie der Medien und Technik an der Universität Wien und einer der weltweit einflussreichsten Autoren zur Ethik und politischen Philosophie der KI. Seine Bücher AI Ethics (MIT Press, 2020), The Political Philosophy of AI (Polity, 2022), Robot Ethics (MIT Press, 2022) und Why AI Undermines Democracy (Polity, 2024) haben genau die Konzepte geprägt, die der Report jetzt in ein Konsensdokument übersetzt: KI als artifizielle Macht, Demokratieanfälligkeit generativer Systeme, die Notwendigkeit einer democratic AI. Sein neues Buch Artificial Religion (MIT Press, Herbst 2026) vertieft die Verbindung von Technik, Mythos und Macht.

Wer sind die anderen prominenten Panelmitglieder?

Neben Bengio, Ressa und Coeckelbergh sind unter den 40 Mitgliedern unter anderem Bernhard Schölkopf (Max-Planck-Institut, Kausalitätsforschung), Sonia Livingstone (LSE, Kinder und Medien), Maximilian Nickel (Deutschland), Yutaka Matsuo (Japan), Hoda Heidari (Iran), Vukosi Marivate (Südafrika), Adji Bousso Dieng (Senegal), Silvio Savarese (Italien) und Aleksandra Korolova (Lettland). Die Zusammensetzung deckt bewusst alle fünf UN-Regionen, alle Karrierestufen und alle disziplinären Perspektiven ab - von Grundlagenforschung bis zu angewandter Ethik.

Warum sind gerade die Konzentrationsfragen so wichtig?

Weil sie über Souveränität entscheiden. Wenn 75 Prozent der weltweiten Top-KI-Rechenleistung in einem Land stehen und 15 Prozent in einem zweiten, dann sind alle anderen Länder auf importierte Kompute-Kapazitäten und importierte Modelle angewiesen. Das ist ökonomisch wichtig, aber vor allem sicherheits- und demokratiepolitisch: Wer die Rechenbasis kontrolliert, kontrolliert die Rahmenbedingungen dessen, was andere Länder überhaupt an KI aufbauen können. Für Europa ist das die zentrale strategische Frage der kommenden Jahre.

Was ist der Global Dialogue on AI Governance?

Der Global Dialogue ist das politische Pendant zum wissenschaftlichen Panel, ebenfalls durch Resolution A/RES/79/325 eingerichtet. Er bringt Regierungen an einen Tisch, um wissenschaftliche Evidenz in gemeinsames Handeln zu übersetzen. Der erste Dialog findet am 6. und 7. Juli 2026 in Genf statt, der zweite im Mai 2027 in New York. Der Preliminary Report ist das erste wissenschaftliche Fundament, das dem ersten Dialog vorgelegt wird.

Was heißt sycophantische KI und warum ist sie gefährlich?

Sycophantische KI bezeichnet Systeme, deren Antworten die bestehenden Überzeugungen der Nutzer bestätigen - unabhängig davon, ob diese Überzeugungen zutreffen. Der Report dokumentiert einen Zusammenhang zwischen sycophantischem Chatbot-Verhalten und mehreren schweren psychischen Vorfällen, inklusive Todesfällen. Das Muster ist besonders bei vulnerablen Nutzern gefährlich: Wer sich einsam, kränkelnd oder in einer Krise bei einem Chatbot Rat sucht, bekommt keine Realitätskorrektur, sondern eine sprachlich flüssige Bestätigung der eigenen Wahrnehmung.

Was heißt Informationsintegrität in der Praxis?

Informationsintegrität ist die Bedingung, unter der eine Gesellschaft eine geteilte Wirklichkeit hat: Fakten sind überprüfbar, Wahrheit ist unterscheidbar von Lüge, Vertrauen in Institutionen und Medien ist gegeben. Der Report zeigt, wie generative KI diese Kette angreift: durch Deepfakes, durch skalierbare Desinformation, durch die Vermischung von synthetischen und authentischen Inhalten. Ohne Informationsintegrität bricht - so die Argumentation - jede demokratische Deliberation zusammen. In der Praxis bedeutet das: Watermarking, Provenienz-Nachweise, journalistische Infrastruktur, KI-Kompetenz in der Bildung.

Wo finde ich den vollständigen Report?

Der vollständige Preliminary Report of the Independent International Scientific Panel on AI mit Executive Summary ist unter https://www.un.org/independent-international-scientific-panel-ai/en/preliminary-report abrufbar. Dort finden Sie auch die persönliche Botschaft der beiden Co-Chairs sowie die Rede des UN-Generalsekretärs. Alle Dokumente sind offen zugänglich und ohne Zugangsbeschränkung.

Weiterführende Quellen und Literatur

Originaldokumente

Preliminary Report of the Independent International Scientific Panel on AI (UN, 1. Juli 2026, vollständiger Bericht mit Executive Summary)
Message from Co-Chairs Yoshua Bengio and Maria Ressa (persönliche Botschaft, 1. Juli 2026)
Remarks by UN Secretary-General António Guterres (Pressekonferenz, 1. Juli 2026)
UN General Assembly Resolution A/RES/79/325 (Errichtung des Panels, 26. August 2025)
Global Digital Compact (2024, Basisdokument)

Zentrale Bücher von Mark Coeckelbergh

AI Ethics, MIT Press, 2020 - Verlagsseite
The Political Philosophy of AI: An Introduction, Polity, 2022 - Buchseite
Robot Ethics, MIT Press, 2022 - Verlagsseite
Why AI Undermines Democracy and What To Do About It, Polity, 2024 - Buchseite
Artificial Religion: On AI, Myth, and Power, MIT Press, Herbst 2026 - Ankündigung

Ergänzende Fachliteratur

Bengio, Y. et al. (2024): International Scientific Report on the Safety of Advanced AI, UK Government - Bericht
Livingstone, S. et al. (2023): Children's Rights in the Digital Environment, LSE - Projektseite
Schölkopf, B. (2022): Causality for Machine Learning, Cambridge University Press - Verlagsseite
UN Secretary-General's High Level Advisory Body on AI (2024): Governing AI for Humanity - Abschlussbericht

Eigene weiterführende Arbeiten

AI Act Inkrafttreten 2026: Was August wirklich bringt

LinkedIn lief heute über. Untergangs-Posts, Compliance-Apokalypse, Beratungsfirmen, die ihre Pakete in Capslock-Headlines verkaufen. Mein Postfach am Morgen: zwölf Anfragen von Mittelständlern, die wissen wollen, ob sie ab dem 2. August 2026 ihre KI-Pilotprojekte einstellen müssen. Die Antwort lautet: nein. Sie müssen nicht einstellen. Aber sie sollten heute eine Stunde investieren - nicht morgen, nicht im Juli.

Der EU AI Act gilt seit August 2024. Die wichtigsten Stufen seiner Anwendung sind bekannt, vorbereitet, kommuniziert. Was an diesem Mittwoch wirklich passiert, ist nicht das Inkrafttreten einer überraschenden Regulierung, sondern das Erreichen einer nächsten Anwendungsstufe in einem mehrjährigen, kalkulierten Pfad. Wer in den letzten 24 Monaten zugehört hat, ist vorbereitet. Wer überrascht ist, hat die Schlagzeilen verwechselt mit der Realität. Das gilt für beide Lager: für die Panikmacher und für die Ignoranten.

Dieser Text ist eine Einordnung. Er ist lang, weil das Thema lang ist. Er ist konkret, weil die meisten Posts heute es nicht waren. Er differenziert zwischen Startup, KMU, Mittelstand und Konzern, weil eine Hochrisiko-Konformitätsbewertung für ein Drei-Personen-Team etwas anderes bedeutet als für einen DAX-Konzern. Und er nennt das Kind beim Namen: Robotic & AI Governance ist kein Compliance-Theater. Sie ist die Grundbedingung dafür, dass autonome Systeme in einer demokratischen Gesellschaft Vertrauen erwerben. Das ist die These hinter allem, was folgt.

Was heute wirklich gilt - und was nicht

Beginnen wir mit den Fakten, die sich in den letzten Wochen verschoben haben und die in den heutigen Posts oft fehlen. Am 19. November 2025 hat die EU-Kommission das digitale Omnibus-Paket vorgeschlagen, eine Sammlung gezielter Änderungen zur Vereinfachung des AI Act. Am 7. Mai 2026 erzielten Rat und Parlament eine politische Einigung. Am 13. Mai 2026 wurde der finale Kompromisstext veröffentlicht. Das Ergebnis: zentrale Hochrisiko-Pflichten wurden zeitlich gestreckt. Nicht weil Brüssel weichgekocht wurde, sondern weil die unterstützende Infrastruktur - harmonisierte Normen, benannte Stellen, Marktüberwachungsbehörden - nicht rechtzeitig flächendeckend bereitsteht. Das ist erwachsene Regulierungspraxis, kein Rückzug.

Konkret heisst das: Die ursprünglich für den 2. August 2026 vorgesehene Anwendung der Hochrisiko-Pflichten nach Kapitel III wurde verschoben. Standalone-Hochrisiko-Systeme nach Annex III greifen nun ab dem 2. Dezember 2027. KI-Systeme, die als Sicherheitskomponenten in sektoral regulierten Produkten nach Annex I eingebettet sind, greifen ab dem 2. August 2028. Das ist die wichtigste Korrektur an der heutigen Panik-Erzählung. Wer als Mittelständler ein HR-Tool mit KI-gestützter Bewerbersichtung einsetzt - klassischer Annex-III-Fall - hat nicht sechs Wochen, sondern achtzehn Monate Zeit für die Konformitätsbewertung. Das ist relevant. Das ist beruhigend. Das ändert die Prioritätenliste.

Was am 2. August 2026 tatsächlich greift, ist die Transparenz-Schicht. Artikel 50 wird wirksam: Kennzeichnungspflichten für KI-Chatbots, für Deepfakes, für KI-generierte Inhalte in öffentlicher Kommunikation, für Emotionserkennung und biometrische Kategorisierung. Generative KI-Systeme, die vor dem 2. August 2026 bereits am Markt sind, erhalten eine viermonatige Schonfrist bis zum 2. Dezember 2026 für das Watermarking nach Artikel 50 Absatz 2. Das ist die operative Realität dieser Woche. Nicht mehr und nicht weniger.

Parallel laufen die GPAI-Verpflichtungen weiter, die seit August 2025 für Anbieter von General-Purpose-AI-Modellen gelten. Das EU AI Office hat im Mai die Klassifizierungsleitlinien für Hochrisiko-Systeme als Entwurf veröffentlicht, am 8. Mai die Leitlinien zu Artikel 50. Wer als Anbieter eines generativen Systems den Code of Practice on Transparency unterschreibt, profitiert von vereinfachter Aufsicht und reduzierter Verwaltungslast. Die Liste der Unterzeichner wird im Juli 2026 publiziert. Auch das ist eine Information, die heute auf LinkedIn weitgehend fehlte.

Deutschland macht ernst: KI-MIG, BNetzA, KoKIVO

Am 11. Juni 2026, also vor sechs Tagen, hat der Bundestag das KI-Marktüberwachungs- und Innovationsförderungsgesetz verabschiedet, kurz KI-MIG. Es muss noch durch den Bundesrat, aber das Ziel ist klar: Inkrafttreten vor dem 2. August. Das KI-MIG ist Deutschlands nationales Vollzugsgesetz zum AI Act. Es fügt keine neuen inhaltlichen Pflichten hinzu, sondern benennt Zuständigkeiten und schafft Infrastruktur.

Drei Punkte sind operativ relevant. Erstens: Die Bundesnetzagentur wird zentrale KI-Aufsichtsbehörde und Marktüberwachungsstelle außerhalb regulierter Sektoren. Sektorale Fachaufsichten bleiben - die BaFin für KI im Finanzsektor, das BfArM für KI in Medizinprodukten, der BfDI für Datenschutz und biometrische Systeme. Wer als Unternehmen heute schon mit einer dieser Behörden zu tun hat, wird sich nichts neu suchen müssen.

Zweitens: Es entsteht das KoKIVO, das Koordinierungs- und Kompetenzzentrum für die KI-Verordnung, angesiedelt bei der BNetzA. Es betreibt einen kostenlosen KI-Service-Desk für Unternehmen, insbesondere für KMU. Compliance-Fragen können niedrigschwellig gestellt werden. Das ist eine Struktur, die in Deutschland in dieser Form ungewöhnlich ist und die ich seit Jahren in Keynotes fordere. Ob sie operativ liefert, wird sich zeigen. Aber die Architektur ist richtig.

Drittens: Das KoKIVO organisiert KI-Reallabore, also Regulatory Sandboxes, in denen neue Anwendungen unter behördlicher Begleitung getestet werden können. KMU und Startups haben Vorrang bei der Zulassung. Jeder Mitgliedstaat muss bis zum 2. August 2027 mindestens ein solches Testumfeld einrichten. Das ist eine reale Innovationschance, kein Marketing.

Was ich an dieser deutschen Lösung schätze: Sie verschiebt nichts, sie zentralisiert nicht überbordend, sie schafft eine Anlaufstelle. Was ich kritisch sehe: Die DIHK hat zu Recht angemerkt, dass der Fokus auf Verwaltung statt auf Innovation liegt. Das ist die deutsche Standard-Falle, und das KI-MIG läuft Gefahr, sie zu reproduzieren, wenn das KoKIVO nicht aktiv und schnell agiert.

Die Risikopyramide: Wo Sie wirklich stehen

Der AI Act folgt einem risikobasierten Ansatz mit vier Stufen. Das ist die zentrale Architektur, und sie ist entscheidend, weil 90 Prozent aller KI-Anwendungen in deutschen Unternehmen nicht in die obersten beiden Stufen fallen.

Verbotene Systeme nach Artikel 5 sind seit Februar 2025 verboten. Dazu gehören Social Scoring durch staatliche Stellen, Manipulation durch unterschwellige Techniken, Ausnutzung von Vulnerabilitäten, ungezielte Gesichtserkennungs-Datenbanken aus dem Internet, Echtzeit-Fernidentifikation im öffentlichen Raum mit eng begrenzten Ausnahmen. Hinzu kommt seit dem Omnibus-Paket eine ausdrückliche Untersagung von KI-Systemen zur Erzeugung von Material sexuellen Missbrauchs an Kindern oder nicht-einvernehmlicher intimer Inhalte, mit einer Compliance-Frist bis zum 2. Dezember 2026. Wenn Sie diese Systeme nicht bauen oder einsetzen, ist diese Stufe für Sie irrelevant. Punkt.

Hochrisiko-Systeme nach Annex III sind die operativ wichtigste Stufe für den deutschen Mittelstand. Dazu zählen unter anderem: KI in der Bewerbersichtung und Personalentscheidung, automatisierte Bonitätsprüfung, KI in der Qualitätskontrolle mit sicherheitsrelevantem Einfluss, prädiktive Wartungssysteme in kritischen Produktionsprozessen, KI in kritischer Infrastruktur, KI im Bildungswesen und in der Strafverfolgung. Wer ein solches System anbietet oder betreibt, muss bis zum 2. Dezember 2027 die volle technische Dokumentation, ein Risikomanagement-System, eine Konformitätsbewertung und gegebenenfalls eine CE-Kennzeichnung vorhalten. Wer ein solches System vor dem 2. Dezember 2027 in Verkehr bringt und es ohne wesentliche Änderungen weiterbetreibt, fällt in den Bestandsschutz - ein Punkt, der heute in keinem Post stand und der für viele Bestandsanwendungen das Compliance-Profil erheblich entlastet.

Hinzu kommen Annex-I-Systeme, also KI als Sicherheitskomponente in Produkten, die bereits unter sektoraler EU-Sicherheitsgesetzgebung stehen - Maschinen, Medizinprodukte, Aufzüge, In-vitro-Diagnostika, zivile Luftfahrt. Hier greift die Anwendung erst ab dem 2. August 2028, und auch hier wird der Hochrisiko-Begriff durch das Omnibus-Paket schärfer gefasst: Sicherheitskomponente ist eine KI nur dann, wenn ihr bestimmungsgemäßer Zweck darin liegt, Risiken für Gesundheit und Sicherheit von Personen oder Sachen zu verhindern oder zu mindern. Diese Präzisierung nimmt Druck aus dem System, ohne den Schutzstandard zu senken.

Begrenzte Risikosysteme sind die zweitwichtigste Kategorie für die meisten Unternehmen. Hier greift Artikel 50 zum 2. August 2026: Chatbots, Deepfakes, KI-generierte Inhalte, Emotionserkennung, biometrische Kategorisierung. Es geht nicht um Verbote, sondern um Transparenz. Nutzer müssen wissen, dass sie mit einer KI sprechen. Synthetische Medien müssen erkennbar sein. Das ist keine technische Hochleistung, sondern ein Schild, ein Vermerk, ein Watermark. Wer heute schon ehrlich kommuniziert, hat hier kaum Mehraufwand.

Minimales Risiko bedeutet: keine spezifischen Pflichten unter dem AI Act. Spam-Filter, Übersetzungstools, Empfehlungssysteme im E-Commerce, einfache Chatbots ohne Entscheidungskompetenz, KI in Videospielen, intelligente Wettervorhersage. Das ist die mit Abstand größte Kategorie. Wer hier sitzt, muss nichts tun außer der allgemeinen Kompetenzpflicht nach Artikel 4 - dazu gleich mehr.

Artikel 4: Die Pflicht, die seit Februar 2025 alle betrifft

Die einzige AI-Act-Pflicht, die jedes Unternehmen heute schon trifft, ist Artikel 4: KI-Kompetenz. Wer KI einsetzt, muss sicherstellen, dass die damit befassten Mitarbeiter über das notwendige Maß an Kompetenz, Wissen und Verständnis verfügen. Das gilt seit Februar 2025. Das Omnibus-Paket hat Artikel 4 nicht abgeschwächt, sondern als Bemühensschuldverhältnis präzisiert - eine Pflicht zur angemessenen Bemühung, nicht zur garantierten Erfolgserzielung. Der AI Board wird Empfehlungen veröffentlichen, einschließlich gemeinsamer Lernziele.

Was heisst das praktisch? Ein dokumentiertes Schulungskonzept, regelmäßige Sensibilisierungen, klare Zuständigkeiten. Es muss keine Zertifizierung sein. Aber es muss nachweisbar sein. Wer im Audit-Fall keine Schulungsunterlagen vorlegen kann, hat ein Problem. Das ist die Hausaufgabe, die heute Abend jeder Geschäftsführer auf den Schreibtisch legen sollte.

Sanktionen: Was wirklich droht

Die Bußgeldobergrenzen klingen dramatisch. Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei Verstößen gegen die Verbotskatalog-Artikel. Bis zu 15 Millionen Euro oder 3 Prozent bei Verstößen gegen die meisten anderen Pflichten, einschließlich Artikel 50. Bis zu 7,5 Millionen Euro oder 1,5 Prozent bei falschen oder irreführenden Angaben gegenüber Behörden. Die EU AI Office kann zusätzlich periodische Zwangsgelder bis zu 5 Prozent des durchschnittlichen Tageseinkommens oder des Tagesumsatzes verhängen, für jeden weiteren Tag der Nichteinhaltung. Eine fünfjährige Verjährungsfrist gilt.

Das ist die Schlagzeile. Die Realität ist differenzierter, und das ist wichtig zu wissen. Erstens: Es gilt immer der niedrigere Betrag. Ein Mittelständler mit 20 Millionen Euro Umsatz und einem Artikel-50-Verstoß riskiert maximal 600.000 Euro, nicht 15 Millionen. Zweitens: Das Omnibus-Paket hat ausdrücklich festgelegt, dass die Mitgliedstaaten bei Bußgeldern die Interessen von KMU einschließlich Startups und SMC berücksichtigen müssen, einschließlich spezifischer Anpassungen der Bußgeldobergrenzen für kleinere Unternehmen. Drittens: Bußgeldverfahren erfordern Vorsatz oder Fahrlässigkeit, sie sind keine Gefährdungshaftung. Viertens: Das deutsche KI-MIG sieht den niedrigschwelligen Service-Desk vor - ein klarer Hinweis, dass die BNetzA zunächst beraten und nicht sanktionieren wird, solange Unternehmen kooperativ sind.

Wer also als Mittelständler in den nächsten Monaten kooperativ, dokumentiert und sichtbar bemüht agiert, hat in der Praxis ein sehr niedriges Sanktionsrisiko. Wer ignoriert, abwartet und im Audit-Fall keine Antworten hat, hat ein hohes. Das ist die echte Verteilung. Sie steht in keiner Panik-Schlagzeile.

Vier Unternehmenstypen, vier Pfade

Differenzierung ist hier alles. Eine Beratungsfirma, die jedem Unternehmen denselben 30-Punkte-Compliance-Plan verkauft, hat nichts verstanden. Hier sind die vier realistischen Pfade.

Startup (1-20 Mitarbeiter, vor Series A)

Wenn Sie ein KI-Produkt bauen, ist der AI Act für Sie keine lastige Pflicht, sondern ein Marktordnungsrahmen, der Sie eher schützt als belastet. Sie konkurrieren in einem Markt, in dem grosse Player nicht mehr nach Belieben Daten und Modelle einsetzen können. Das ist gut für Sie. Praktisch heisst das: Klären Sie heute, welche Risikoklasse Ihr Produkt hat. Wenn Sie unter begrenztem oder minimalem Risiko liegen, brauchen Sie bis 2. August lediglich Transparenz-Hinweise. Wenn Sie unter Hochrisiko fallen, haben Sie bis 2. Dezember 2027 Zeit - aber starten Sie schon jetzt mit einem leichten Dokumentationsrahmen. Sie haben Vorrang in den KI-Reallaboren. Nutzen Sie das. Der KI-Service-Desk ist kostenlos. Fragen Sie dort. Sparen Sie sich vierstellige Beratungsrechnungen, bevor Sie ein klares Bild haben.

KMU (20-249 Mitarbeiter, bis 50 Mio. Umsatz)

Hier liegt der Hauptkundenkreis des KI-Service-Desks. Sie nutzen vermutlich mehrere KI-Tools - Microsoft Copilot, Google Workspace AI, ein CRM mit KI-Funktionen, vielleicht ein HR-Tool mit Vorauswahl-Algorithmus. Ihr Risiko-Profil ist heterogen. Erste Aufgabe bis Ende Juli: ein KI-Inventar. Tabelle mit drei Spalten - Tool, Risikoklasse, Verantwortlicher. Zweite Aufgabe: Artikel-50-Kennzeichnungen überprüfen, dort wo Sie Chatbots, generative Inhalte oder Sprachsysteme einsetzen. Dritte Aufgabe: Artikel-4-Schulung dokumentieren. Wenn ein HR-Tool zur Vorauswahl eingesetzt wird, ist das Annex III - aber Sie haben dafür bis Dezember 2027 Zeit. Nicht aufschieben, aber auch nicht panisch.

Mittelstand (250-3000 Mitarbeiter)

Hier wird es komplexer. Sie haben mit hoher Wahrscheinlichkeit mindestens ein Hochrisiko-System, oft mehrere. Prädiktive Wartung in der Produktion, KI-Qualitätskontrolle, HR-Tools, Bonitätsbewertung im B2B-Vertrieb. Sie brauchen eine KI-Governance-Struktur: einen benannten Verantwortlichen, ein Inventar, ein Risikomanagement-Konzept für Hochrisiko-Systeme, einen Audit-Pfad. Das ist nicht trivial, aber es ist machbar. Sie sollten heute eine Person benennen, die das Thema bis Ende 2026 strukturiert. Diese Person braucht keine Vollzeitstelle, aber ein klares Mandat und 20 Prozent Kapazität. Der Bestandsschutz für Systeme, die vor dem 2. Dezember 2027 ohne wesentliche Änderung im Markt sind, ist Ihr operativ wichtigster Hebel. Inventur jetzt, Versionsfreeze planen, gezielt entscheiden, was vor Stichtag in den Bestandsschutz wandert und was bewusst danach in die volle Compliance geht.

Konzern (>3000 Mitarbeiter, oft konzernweit international)

Sie haben das vermutlich seit 18 Monaten auf der Agenda. Wenn nicht, gibt es ein anderes Problem als den AI Act. Die Anforderungen sind klar: konzernweite KI-Inventur, Governance-Board, klar definierte Pfade für Foundation-Model-Anbieter-Beziehungen, Verträge mit GPAI-Anbietern, die Auskunftspflichten und Haftungsfragen regeln, Konformitätsbewertung für alle Annex-III-Systeme, Post-Market-Monitoring-Pläne als lebende Dokumente. Hinzu kommen Wechselwirkungen mit DSGVO, NIS2, dem Cyber Resilience Act und sektoraler Regulierung. Hier ist Compliance kein Sprint, sondern ein laufendes Programm. Der relevante Punkt: Konzerne sollten heute nicht über Compliance reden, sondern über strategische Optionen. Das Omnibus-Paket schafft eine One-Stop-Shop-Aufsicht für GPAI-basierte Systeme, wenn Modell und System vom selben Anbieter stammen. Das ist eine architektonische Frage mit Konsequenzen für Make-or-Buy-Entscheidungen, für Vendor-Strategien, für Standortwahl. Hier wird Robotic & AI Governance zum strategischen Differenzierungsmerkmal, nicht zur Kostenposition.

Konkrete Handlungsempfehlungen bis Ende Juli 2026

Damit dieser Text mehr ist als eine Einordnung, hier eine konkrete Sieben-Punkte-Liste für die kommenden sechs Wochen. Sie ist bewusst klein gehalten. Wer mehr will, kann mehr tun, aber dies hier ist das Pflichtprogramm.

KI-Inventar erstellen. Eine einfache Tabelle. Welche KI-Systeme nutzt Ihr Unternehmen - selbst entwickelt, eingekauft, eingebettet in andere Software? Welche Risikoklasse? Wer ist intern verantwortlich? Drei Spalten, alle Einträge. Wenn Sie es nicht bis Ende Juni schaffen, schaffen Sie es nicht bis Ende des Jahres.
Verantwortlichkeit benennen. Eine Person in der Geschäftsführung oder eine Ebene darunter. Mit klarem Mandat. Mit dokumentierter Zuständigkeit. Ohne diese Person passiert nichts.
Artikel-4-Schulung dokumentieren. Wenn Sie keine haben: planen Sie eine bis Ende Juli. Wenn Sie eine haben: dokumentieren Sie sie nachweisbar. Teilnehmerliste, Inhalte, Datum, Prüfungsfragen oder mindestens eine kurze Verständnis-Bestätigung.
Artikel-50-Kennzeichnungen umsetzen. Prüfen Sie alle Chatbots, alle KI-generierten Inhalte in Marketing und Kundenkommunikation, alle Sprachsysteme. Sichtbare Kennzeichnung. „Powered by KI" allein genügt nicht. Klare Aussage, dass es sich um eine KI handelt.
Generative Bestandssysteme melden. Wenn Ihr Unternehmen generative KI bereits vor dem 2. August 2026 im Markt hat, nutzen Sie die Schonfrist bis zum 2. Dezember 2026 für Watermarking. Aber dokumentieren Sie heute, welche Systeme das betrifft.
Hochrisiko-Systeme markieren und Bestandsschutz prüfen. Wenn Sie Annex-III-Systeme einsetzen, klären Sie heute, welche Sie ohne wesentliche Änderung bis zum 2. Dezember 2027 weiterbetreiben können. Diese fallen in den Bestandsschutz und unterliegen erst bei substantieller Änderung der vollen Compliance-Pflicht.
Verträge mit KI-Anbietern prüfen. Wer liefert Ihnen Foundation-Modelle oder KI-Komponenten? Welche Auskunftspflichten und Haftungsregelungen sind vertraglich geregelt? Wenn die GPAI-Pflichten Ihren Anbieter treffen, muss er Sie unterstützen. Das gehört in die Verträge.

Mehr ist gut, aber dies hier ist nicht verhandelbar. Wer diese sieben Punkte bis Ende Juli abhakt, ist in der ersten Liga der Compliance-Vorbereitung in Deutschland - nicht weil das Programm besonders ehrgeizig ist, sondern weil die Mehrheit der Mittelständler nicht einmal Punkt 1 erfüllt hat.

Robotic & AI Governance: Warum das mehr ist als Compliance

Wer den AI Act nur als Compliance-Last betrachtet, hat den Hebel nicht verstanden. Robotic & AI Governance - der Begriff, mit dem ich seit Jahren arbeite und den ich bewusst nicht in Robotic Governance und AI Governance trenne - ist die institutionelle Antwort darauf, dass autonome Systeme in Bereichen entscheiden, in denen früher ausschließlich Menschen entschieden haben. Personalauswahl. Kreditvergabe. Qualitätskontrolle. Logistik. Pflege. Bildung. Eine Gesellschaft, die diese Verschiebung ohne Ordnungsrahmen vollzieht, riskiert Vertrauensverlust. Eine Gesellschaft, die sie mit einem Ordnungsrahmen vollzieht, schafft die Bedingungen dafür, dass die Generation R - die Generation, die mit Robotern und KI aufwächst - ihren Platz in einer demokratischen, wertorientierten Industrienation findet.

Das ist auch der Grund, warum die Magnifica-Humanitas-Enzyklika vom Mai 2026 und der AI Act zwei Stimmen desselben Gesprächs sind. Die Enzyklika legt die anthropologische Grundlage - die Würde des Menschen ist nicht delegierbar. Der AI Act legt die regulatorische Operationalisierung - Verantwortung, Transparenz, Risikoabstufung. Wer das eine ohne das andere denkt, verfehlt beide. Ich habe das im Beitrag zu Magnifica Humanitas ausführlich beschrieben. Und ich habe den Ordnungsrahmen, in dem das alles zusammenwirkt, im Grundlagentext zu Robotic Governance entwickelt. Die heutigen Posts auf LinkedIn ignorieren diese Dimension fast vollständig. Sie reden über Bußgelder, nicht über Vertrauen. Sie reden über Pflichten, nicht über Sinn.

Eine Bemerkung zum Diskursklima. Der AI Act ist nicht perfekt. Er ist in Teilen überregulatorisch, in anderen Teilen lückenhaft. Das Omnibus-Paket hat einige der schärfsten Kritikpunkte adressiert - die zeitliche Streckung der Hochrisiko-Pflichten, die KMU-Anpassung der Sanktionen, die Verzahnung mit sektoralen Sicherheitsregeln. Es bleibt Arbeit. Aber der Pfad ist erkennbar pragmatisch. Wer heute auf LinkedIn schreibt, der AI Act zerstöre die europäische KI-Industrie, hat entweder den finalen Kompromisstext vom 13. Mai nicht gelesen oder hat ein anderes Interesse als die Wahrheit. Beides ist legitim als Marktposition, aber es ist keine Information.

Was Sie heute Abend tun sollten

Eine Tabelle. Drei Spalten. Tool, Risikoklasse, Verantwortlicher. Wenn Sie noch nichts haben: 30 Minuten, jetzt. Wenn Sie schon etwas haben: überprüfen, ergänzen, datieren. Diese eine Stunde ist die wichtigste KI-Stunde dieses Jahres. Sie ist konkret. Sie ist ohne Beratungskosten machbar. Sie ist die Grundlage für alles andere.

Und dann, morgen früh, eine zweite Stunde: Wer ist verantwortlich? Eine Person, ein Mandat, ein Termin im Kalender, alle vier Wochen, eine Stunde lang, für die nächsten zwölf Monate. Das ist das Minimalprogramm. Mehr ist gut. Weniger ist fahrlässig.

Generation R: Der lange Bogen

Ich nenne sie seit Jahren Generation R - die Generation, die mit Robotik und KI nicht als Innovation, sondern als Selbstverständlichkeit aufwächst. Ein achtjähriges Kind heute spricht selbstverständlich mit Sprachmodellen, sieht autonome Logistik in Hafenanlagen, kennt Drohnen über landwirtschaftlichen Flächen. Dieses Kind wird in zwölf Jahren auf den Arbeitsmarkt kommen. Es wird Fragen stellen, die wir heute noch nicht ausreichend beantworten. Es wird wissen wollen, warum wir zugelassen haben, dass Systeme entscheiden, deren Logik niemand mehr nachvollziehen kann. Es wird wissen wollen, warum wir nicht früher Standards gesetzt haben.

Der AI Act ist die unvollkommene, aber real existierende Antwort der EU auf diese kommende Frage. Er macht uns global zur Region mit dem höchsten regulatorischen Anspruch an KI-Systeme. Das ist keine Belastung. Das ist eine Position. Eine Position, die unsere Fähigkeit, in einer pluralistischen, demokratischen, alternden Industriegesellschaft mit autonomen Systemen umzugehen, sichtbar macht. Wer das verstanden hat, sieht den 2. August 2026 nicht als Drohung, sondern als Etappe.

Wir wussten, dass es kommt. Jetzt ist es soweit. Es ist nicht so schlimm, wie viele heute sagen. Aber es gibt moderaten Handlungsbedarf. Das ist die ehrliche Geschichte. Sie passt nicht in ein Capslock-Headline. Sie passt in einen langen Text. Hier ist er.

Disclaimer

Dieser Beitrag stellt keine Rechtsberatung dar. Er gibt eine fachliche Einordnung aus der Perspektive eines Professors für Wirtschaftsinformatik mit Schwerpunkt Robotic & AI Governance. Die rechtliche Bewertung des Einzelfalls obliegt qualifizierten Rechtsanwältinnen und Rechtsanwälten, insbesondere mit Spezialisierung im IT-Recht, Datenschutzrecht und Produktsicherheitsrecht. Die Inhalte beziehen sich auf den Stand vom 17. Juni 2026 und berücksichtigen den finalen Kompromisstext des digitalen Omnibus-Pakets vom 13. Mai 2026 sowie das am 11. Juni 2026 vom Bundestag verabschiedete KI-MIG, das zum Zeitpunkt der Veröffentlichung noch nicht im Bundesrat behandelt wurde. Änderungen sind möglich. Verbindliche Auskünfte erteilen die zuständigen Behörden, insbesondere die Bundesnetzagentur über das KoKIVO sowie die sektoralen Aufsichten BaFin, BfArM und BfDI.

Häufig gestellte Fragen

Was passiert konkret am 2. August 2026?

An diesem Tag werden die Transparenzpflichten nach Artikel 50 des AI Act wirksam. Das betrifft Kennzeichnungspflichten für KI-Chatbots, Deepfakes, KI-generierte Inhalte in öffentlicher Kommunikation, Emotionserkennung und biometrische Kategorisierung. Die ursprünglich für diesen Tag vorgesehenen Hochrisiko-Pflichten nach Kapitel III wurden durch das digitale Omnibus-Paket auf den 2. Dezember 2027 (Annex III) bzw. 2. August 2028 (Annex I) verschoben. Generative KI-Systeme, die bereits vor dem 2. August am Markt sind, erhalten eine viermonatige Schonfrist für Watermarking bis zum 2. Dezember 2026.

Muss mein Unternehmen ab dem 2. August 2026 wirklich Bußgelder bis 35 Millionen Euro fürchten?

Theoretisch ja, praktisch sehr unwahrscheinlich. Es gilt immer der niedrigere Betrag aus absoluter Summe und Umsatzprozent. Bei einem Unternehmen mit 20 Millionen Euro Umsatz und einem Artikel-50-Verstoß liegt das maximale Bußgeld bei 600.000 Euro, nicht bei 15 Millionen. Das digitale Omnibus-Paket sieht zudem ausdrücklich vor, dass die Mitgliedstaaten bei Bußgeldern die Interessen von KMU und Startups berücksichtigen und spezifische Anpassungen vornehmen. Bußgeldverfahren erfordern Vorsatz oder Fahrlässigkeit. Wer kooperativ und dokumentiert agiert, hat ein sehr niedriges Sanktionsrisiko.

Wann genau müssen Hochrisiko-Systeme nach Annex III die volle Konformitätsbewertung haben?

Standalone-Hochrisiko-Systeme nach Annex III müssen ab dem 2. Dezember 2027 die vollen Pflichten erfüllen - technische Dokumentation, Risikomanagement-System, Konformitätsbewertung, CE-Kennzeichnung, Post-Market-Monitoring. Eingebettete KI-Systeme als Sicherheitskomponenten in Annex-I-Produkten greifen erst ab dem 2. August 2028. Systeme, die vor diesen Daten ohne wesentliche Designänderung im Markt sind, fallen in den Bestandsschutz und unterliegen erst bei substanzieller Änderung der vollen Compliance.

Was ist das KI-MIG und wann tritt es in Kraft?

Das KI-Marktüberwachungs- und Innovationsförderungsgesetz wurde am 11. Juni 2026 vom Bundestag verabschiedet. Es ist Deutschlands nationales Umsetzungsgesetz zum EU AI Act. Es benennt die Bundesnetzagentur als zentrale KI-Aufsichts- und Marktüberwachungsbehörde außerhalb regulierter Sektoren und richtet das KoKIVO ein, das Koordinierungs- und Kompetenzzentrum für die KI-Verordnung. Das KoKIVO betreibt einen kostenlosen KI-Service-Desk und organisiert KI-Reallabore. Das Gesetz muss noch durch den Bundesrat, das Inkrafttreten ist vor dem 2. August 2026 angestrebt.

Welche Behörden sind in Deutschland für welche KI-Bereiche zuständig?

Die Bundesnetzagentur wird zentrale Anlaufstelle für alle KI-Compliance-Fragen außerhalb regulierter Sektoren. Die sektoralen Fachbehörden behalten ihre Zuständigkeit: BaFin für KI im Finanzsektor, BfArM für KI in Medizinprodukten, BfDI für Datenschutz und biometrische Systeme. Auf EU-Ebene hat das EU AI Office bei GPAI-basierten Systemen, bei denen Modell und System vom selben Anbieter stammen, die ausschließliche Aufsichts- und Durchsetzungskompetenz - das ist die sogenannte One-Stop-Shop-Aufsicht aus dem Omnibus-Paket.

Was muss ich konkret tun, wenn ich einen KI-Chatbot auf meiner Website betreibe?

Sie müssen Nutzer bei der ersten Interaktion klar und sichtbar informieren, dass sie mit einer KI kommunizieren. Ein Hinweis wie 'Powered by KI' allein genügt nicht. Auch der 'offensichtliche Kontext' reicht laut EU-Leitlinien nicht als Begründung, die Kennzeichnung wegzulassen. Die Information muss vor dem ersten echten Austausch erfolgen, klar formuliert und gut sichtbar. Das gilt ab dem 2. August 2026. Bußgelder bei Verstößen reichen bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes - der jeweils niedrigere Betrag.

Was ist die Kompetenzpflicht nach Artikel 4 und wen trifft sie?

Artikel 4 verpflichtet alle Anbieter und Betreiber von KI-Systemen, geeignete Maßnahmen zu ergreifen, damit ihr mit KI befasstes Personal über das erforderliche Maß an KI-Kompetenz verfügt. Diese Pflicht gilt bereits seit Februar 2025 und trifft jedes Unternehmen, das KI einsetzt - unabhängig von der Risikoklasse. Das digitale Omnibus-Paket hat Artikel 4 als Bemühensschuldverhältnis präzisiert, also als Verpflichtung zu angemessenem Bemühen, nicht zu garantiertem Erfolg. Was Sie brauchen: ein dokumentiertes Schulungskonzept, regelmäßige Sensibilisierungen, eine Teilnehmerliste. Eine externe Zertifizierung ist nicht erforderlich, aber Nachweisbarkeit schon.

Wir sind ein Startup. Sollen wir auf den AI Act warten oder gleich Compliance aufbauen?

Bauen Sie heute eine leichte Compliance-Grundlage. Konkret: Klären Sie Ihre Risikoklasse, dokumentieren Sie technische Entscheidungen, behalten Sie Datenherkunft im Blick, schreiben Sie eine kurze Modell-Karte für jedes Produktmodell. Das kostet wenige Stunden pro Monat und schützt Sie später vor erheblichem Nachbau-Aufwand. Sie haben Vorrang in den KI-Reallaboren der Bundesnetzagentur. Nutzen Sie das. Der KI-Service-Desk ist kostenlos. Stellen Sie Ihre Fragen dort, bevor Sie eine Beratungsfirma beauftragen. Und denken Sie an Artikel 4 - die Kompetenzpflicht gilt seit Februar 2025, also auch für Sie.

Wir sind ein KMU mit Microsoft Copilot und ein paar KI-Funktionen im CRM. Was müssen wir tun?

Erstellen Sie ein KI-Inventar mit drei Spalten: Tool, Risikoklasse, interner Verantwortlicher. Die meisten dieser Tools fallen in die Kategorie minimales oder begrenztes Risiko. Prüfen Sie, ob Sie KI-generierte Inhalte in der Kundenkommunikation einsetzen - falls ja, brauchen Sie ab 2. August 2026 sichtbare Kennzeichnungen. Prüfen Sie, ob ein Tool zur Vorauswahl von Bewerbern eingesetzt wird oder zu Personalentscheidungen - das wäre Annex III und Hochrisiko, aber Sie haben dafür bis 2. Dezember 2027 Zeit. Dokumentieren Sie Schulungen nach Artikel 4. Nutzen Sie den kostenlosen KI-Service-Desk der BNetzA für konkrete Fragen.

Was bedeutet Bestandsschutz für Hochrisiko-Systeme?

Das digitale Omnibus-Paket hat einen Übergangsmechanismus eingeführt: Hochrisiko-Systeme, die vor dem Anwendungstag des Kapitels III bereits am Markt sind - 2. Dezember 2027 für Annex III, 2. August 2028 für Annex I - unterliegen den vollen Pflichten nur dann, wenn sie nach diesem Datum eine wesentliche Designänderung erfahren. Das ist ein bedeutender Hebel für den Mittelstand. Bestehende Systeme, die im aktuellen Design weiterlaufen, genießen Grandfathering. Was 'wesentliche Designänderung' genau bedeutet, wird durch Leitlinien noch konkretisiert. Operativ heisst das: Inventarisieren Sie heute, planen Sie bewusst, welche Systeme Sie vor Stichtag stabil halten und welche Sie nach Stichtag bewusst in die volle Compliance führen.

Was ist der Code of Practice on Transparency und sollte mein Unternehmen ihn unterzeichnen?

Der Code of Practice on Transparency ist eine freiwillige Selbstverpflichtung von Anbietern und Betreibern generativer KI-Systeme, die Transparenzpflichten des AI Act über Artikel 50 hinausgehend zu erfüllen. Wer unterzeichnet, profitiert von einer fokussierteren Aufsicht, von höherer Rechtssicherheit europaweit und von reduziertem Verwaltungsaufwand. Die Liste der Unterzeichner wird im Juli 2026 veröffentlicht. Unterzeichnung lohnt sich besonders für Unternehmen, die generative KI-Produkte anbieten oder großflächig einsetzen, weil sie ein konsistenter Kompass für die Umsetzung wird. Anmeldung erfolgt über das Signatory Form des EU AI Office.

Wie unterscheidet sich der AI Act von der DSGVO?

Beide Regulierungen wirken parallel, sind aber unterschiedlich konstruiert. Die DSGVO regelt die Verarbeitung personenbezogener Daten - sie ist datenzentriert. Der AI Act regelt die Inverkehrbringung und den Betrieb von KI-Systemen - er ist produktsicherheitsrechtlich geprägt. Überschneidungen sind die Regel, nicht die Ausnahme. Ein HR-Tool mit KI-gestützter Vorauswahl ist gleichzeitig DSGVO-Fall und Annex-III-Hochrisiko-Fall. Sie brauchen also beide Compliance-Fäden zusammen gedacht. In der Praxis bedeutet das: Der Datenschutzbeauftragte und die KI-verantwortliche Person sollten miteinander reden, idealerweise im selben Governance-Gremium.

Was sind KI-Reallabore und wer kann sie nutzen?

KI-Reallabore sind regulatorische Sandboxes, in denen Unternehmen neue KI-Anwendungen unter behördlicher Begleitung in realer Umgebung testen können, bevor die volle Compliance-Pflicht greift. In Deutschland organisiert das KoKIVO bei der Bundesnetzagentur diese Sandboxes. Jeder Mitgliedstaat muss bis zum 2. August 2027 mindestens ein solches Testumfeld einrichten. KMU und Startups haben ausdrücklich Vorrang bei der Zulassung. Auch Testbetrieb außerhalb der Sandbox unter realen Bedingungen ist für bestimmte Hochrisiko-Systeme möglich. Das ist eine echte Innovationschance - mit regulatorischer Rückendeckung statt Rechtsunsicherheit.

Was bedeutet die One-Stop-Shop-Aufsicht des EU AI Office?

Das digitale Omnibus-Paket hat dem EU AI Office die ausschließliche Aufsichts- und Durchsetzungskompetenz für KI-Systeme übertragen, die auf GPAI-Modellen aufbauen, sofern Modell und System vom selben Anbieter stammen. Diese One-Stop-Shop-Architektur reduziert regulatorische Fragmentierung erheblich, weil Anbieter nicht mehr mit unterschiedlichen nationalen Behörden in 27 Mitgliedstaaten verhandeln müssen. Für integrierte Anbieter - klassische Beispiele sind die grossen Foundation-Model-Anbieter - ist das eine deutliche Vereinfachung. Für mittelständische Anwender bedeutet es Klarheit in der Lieferkette: Der GPAI-Anbieter ist gegenüber dem EU AI Office direkt verantwortlich, nicht der Anwender.

Welche Anbieter sind von den GPAI-Pflichten betroffen und was müssen sie tun?

GPAI-Pflichten treffen Anbieter von General-Purpose-AI-Modellen, also Foundation Models, die für eine breite Vielfalt von Aufgaben einsetzbar sind. Sie gelten seit August 2025. Anbieter müssen technische Dokumentation bereitstellen, Urheberrechts- und Datenherkunfts-Transparenz sicherstellen, Modell-Karten mit Fähigkeiten und Grenzen veröffentlichen und bei Systemic-Risk-Modellen zusätzliche Sicherheitstests durchführen, einschließlich Adversarial Testing. Mittelständische Anwender, die GPAI-Modelle über API nutzen, fallen nicht unter die GPAI-Pflichten, können aber vertraglich Auskunfts- und Mitwirkungsrechte einfordern, die ihnen die nachgelagerte Compliance erleichtern.

Was passiert mit AI-enabled Machinery und der dualen Compliance-Last?

Das digitale Omnibus-Paket hat eine wichtige Vereinfachung für KI-fähige Maschinen eingeführt. Diese fielen zuvor unter sowohl die Maschinenverordnung als auch unter den vollen Pflichtenkanon des AI Act für Hochrisiko-Systeme - eine doppelte Compliance-Last. Nach Artikel 2 Absatz 2 des AI Act greifen für KI-fähige Maschinen nun nur noch begrenzte Bestimmungen. Die EU-Kommission präzisiert bis zum 2. August 2027, welche Systeme genau betroffen sind und welche Anforderungen entfallen. Für Maschinenbauer ist das eine spürbare Entlastung, ohne dass das Sicherheitsniveau sinkt. Andere Produktsicherheits-Sektoren wie Medizinprodukte oder Aufzüge behalten die duale Compliance grundsätzlich, mit Ausnahmen, wenn sektorale Vorschriften ein gleichwertiges oder höheres Schutzniveau bieten.

Wie passt der AI Act zur Robotic & AI Governance, über die Sie schreiben?

Der AI Act ist eines der zentralen Instrumente von Robotic & AI Governance, aber nicht das Ganze. Robotic & AI Governance ist der breitere Ordnungsrahmen, der regulatorische Instrumente wie den AI Act mit ethischen Standards, technischen Normen, organisationaler Governance und gesellschaftlichen Aushandlungsprozessen zu einer kohärenten Architektur verbindet. Der AI Act adressiert die regulatorische Dimension. Standards wie VDA 5050 oder die IEEE TechEthics-Initiativen adressieren die technisch-organisationale Dimension. Anthropologische Dokumente wie die Magnifica-Humanitas-Enzyklika adressieren die normative Grundlage. Erst alle drei zusammen ergeben einen tragfähigen Ordnungsrahmen für Generation R.

Was, wenn das KI-MIG den Bundesrat nicht rechtzeitig passiert?

Der EU AI Act gilt direkt in allen Mitgliedstaaten - er braucht kein nationales Gesetz, um wirksam zu werden. Wenn das KI-MIG den Bundesrat nicht vor dem 2. August 2026 passiert, bleiben die EU-rechtlichen Pflichten dennoch wirksam. Was fehlen würde, ist die deutsche Vollzugsstruktur: die formal benannten Marktüberwachungsbehörden, der KI-Service-Desk, die Reallabore. Die Bundesnetzagentur kann faktisch agieren, aber die formale rechtliche Vollzugsgrundlage wäre geschwächt. In der Praxis würde wahrscheinlich eine pragmatische Übergangslösung greifen. Aber es wäre ein Vertrauensschaden, dessen Vermeidung im Interesse aller liegt.

Welche typischen KI-Anwendungen in Unternehmen sind Hochrisiko nach Annex III?

Zu den typischen Annex-III-Hochrisiko-Anwendungen in Unternehmen gehören: KI-gestützte Bewerbersichtung und Personalentscheidungen, automatisierte Bonitätsprüfung im B2B- und B2C-Bereich, KI in der Qualitätskontrolle mit sicherheitsrelevantem Einfluss, prädiktive Wartungssysteme in kritischen Produktionsprozessen, KI in der Strafverfolgung und Migrationskontrolle, KI im Bildungsbereich bei Bewertung oder Zulassung, biometrische Fernidentifikation. Eine vollständige Liste mit Praxisbeispielen findet sich in den Leitlinien zur Klassifizierung von Hochrisiko-Systemen, die die EU-Kommission am 19. Mai 2026 als Entwurf veröffentlicht hat.

Was ist der Unterschied zwischen Anbieter und Betreiber im AI Act?

Der AI Act unterscheidet zwischen Provider (Anbieter) und Deployer (Betreiber). Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Marke in Verkehr. Ein Betreiber setzt ein KI-System unter eigener Autorität ein - er nutzt es operativ. Die Pflichten unterscheiden sich erheblich. Anbieter tragen die Hauptlast bei technischer Dokumentation, Konformitätsbewertung und Risikomanagement. Betreiber müssen das System bestimmungsgemäß einsetzen, Aufzeichnungen führen, Sicherheits- und Grundrechtsanalysen durchführen und Nutzer informieren. Wer ein gekauftes Tool wesentlich modifiziert oder unter eigenem Namen weitervertreibt, wird selbst zum Anbieter und übernimmt die volle Anbieterhaftung.

Lohnt sich externe Beratung jetzt schon, oder soll ich erst den Service-Desk nutzen?

Für Startups und KMU empfehle ich, zuerst den kostenlosen KI-Service-Desk der Bundesnetzagentur zu kontaktieren und ein eigenes KI-Inventar zu erstellen. Externe Beratung lohnt sich, wenn Sie ein Hochrisiko-System nach Annex III oder Annex I betreiben oder anbieten, wenn Sie konzernweit operieren, wenn Sie ein KI-Produkt in den Markt bringen oder wenn sich rechtliche Fragen mit DSGVO, Produktsicherheit oder sektoralen Regelungen überschneiden. Für einfache KI-Nutzung mit Standard-Tools wie Microsoft Copilot, Google Workspace AI oder gängiger CRM-KI brauchen Sie zunächst keine externe Beratung - hier reicht ein klar strukturiertes internes Vorgehen, das diese Checkliste umsetzt.

Quellen und weiterführende Literatur

Magnifica Humanitas: Enzyklika und KI-Governance - Eine Einordnung

Magnifica Humanitas: Warum die katholische Kirche zur unerwarteten KI-Governance-Stimme wird

Am Pfingstmontag, dem 25. Mai 2026, hat Papst Leo XIV. seine erste Enzyklika veröffentlicht. Sie heißt Magnifica Humanitas, umfasst rund 43.000 Wörter und ist die erste päpstliche Lehrschrift in der Geschichte, die vollständig der Künstlichen Intelligenz gewidmet ist. Auf dem Podium der Pressekonferenz im Vatikanischen Synodensaal: Christopher Olah, Mitgründer von Anthropic. Diese Konstellation - Pontifex und Frontier-AI-Lab gemeinsam auf einer Bühne - ist mehr als eine Pointe. Sie markiert eine Verschiebung im globalen Policy-Making, deren Tragweite wir gerade erst zu begreifen beginnen. Die Frage, die Magnifica Humanitas stellt, ist nicht, ob KI reguliert werden soll. Die Frage ist, wer im 21. Jahrhundert die Autorität hat, über die Aufgabenstellung der Technologie selbst zu sprechen.

Die Geste: Warum dieses Datum kein Zufall ist

Leo XIV. hat die Enzyklika am 15. Mai 2026 unterzeichnet. Auf den Tag genau 135 Jahre nach Rerum Novarum, der Sozial-Enzyklika seines Namenspatrons Leo XIII. aus dem Jahr 1891. Rerum Novarum war die institutionelle Antwort der katholischen Kirche auf die Erste Industrielle Revolution. Sie hat die Begriffe geliefert, mit denen Europa über Arbeit, Eigentum, Würde und gerechten Lohn fast ein Jahrhundert lang gesprochen hat. Die Wahl des Unterzeichnungs-Datums ist eine Setzung. Sie sagt: Was 1891 die Fabriken und die Lohnarbeit waren, sind heute die Algorithmen und die Datensätze.

Der Pontifex hat das in seiner Rede explizit gemacht: "Wie der frühere Leo fühle ich mich beauftragt, auf eine weitere große Transformation zu blicken - mit den Augen des Glaubens, mit der Klarheit der Vernunft, mit Offenheit für das Geheimnis und mit den Schreien der Armen und der Erde in meinem Herzen." Das ist keine Metapher. Das ist eine programmatische Linie. Wer Magnifica Humanitas liest, ohne Rerum Novarum mitzudenken, versteht den Text nicht. Wer beide gleichzeitig liest, sieht, dass die katholische Soziallehre gerade einen Sprung über 135 Jahre macht und in der Sprache der KI-Ethik landet.

Was die Enzyklika sagt: Die anthropologische Re-Definition

Der zentrale Satz von Magnifica Humanitas lautet: "Künstliche Intelligenz muss jetzt entwaffnet werden, befreit von Rahmen, die sie in ein Instrument der Kontrolle, Ausgrenzung und Zerstörung verwandeln." Das Wort "entwaffnen" ist mit Bedacht gewählt. Leo XIV. zieht eine direkte Linie zur Kampagne der katholischen Kirche für die nukleare Abrüstung. KI wird damit nicht in die Kategorie "neue Technologie" eingeordnet, sondern in die Kategorie "Macht, die ohne moralisches Korrektiv katastrophisch wird". Es ist die schärfste Formulierung, die ich von einer großen Welt-Institution zu diesem Thema bisher gelesen habe.

Die anthropologische Pointe liegt nicht in der Regulierungs-Forderung. Sie liegt in der Verschiebung der Aufgabenstellung. Bisher hat die KI-Debatte gefragt: Wie macht man KI sicherer, fairer, transparenter? Leo XIV. dreht die Frage um. Er fragt: Welche KI darf überhaupt entstehen, wenn die Aufgabe lautet, den Menschen zu schützen? Damit verlässt die Enzyklika die Komfortzone der technologischen Optimierungs-Sprache und betritt das Feld der politischen Anthropologie. Die Frage ist nicht mehr, was KI kann. Die Frage ist, was sie tun soll, und davor, was sie tun darf.

Die institutionelle Synchronisation

Der zeitliche Kontext ist verräterisch. Innerhalb weniger Wochen im Frühjahr 2026 haben sich drei große Institutionen parallel zur KI positioniert: Die Vatikanische KI-Kommission wurde am 16. Mai 2025 gegründet. Die EU hat im Mai 2026 ihre Hochrisiko-Guidelines konsolidiert, mit Inkrafttreten der zweiten Phase des AI Act am 2. August 2026. Und am 25. Mai 2026 erscheint Magnifica Humanitas. Wer das als Zufall liest, hat die Mechanik der Gegenwart nicht verstanden. Es ist eine Synchronisation auf ein Problem, das jahrzehntelang in Informatik-Fakultäten und Tech-Konferenzen verhandelt wurde und das jetzt in den Maschinenraum der globalen Governance einzieht.

Das ist die eigentliche Nachricht. KI ist keine Sache mehr für Computer-Scientists. Sie ist eine Sache für Soziallehre, für Verfassungsrecht, für Diplomatie. Die Frage, die jeder Vorstand, jedes Aufsichtsgremium, jede Regierung jetzt beantworten muss, lautet: Auf welcher Sprachebene treffen wir Entscheidungen über KI? In der Sprache der technischen Spezifikation? In der Sprache der Compliance? Oder in der Sprache der Würde? Magnifica Humanitas sagt: nur in der letzten Sprache wird eine Entscheidung tragfähig.

Olah am Vatikan: Die andere Seite der Pointe

Christopher Olah ist nicht irgendein Vertreter der Tech-Industrie. Er ist Forschungsleiter der Interpretability-Gruppe bei Anthropic, einer der wenigen Forscher weltweit, die tatsächlich in das Innere großer Sprachmodelle hineinschauen können. Seine Rede im Vatikanischen Synodensaal ist in der Geschichte der Tech-Industrie ohne Beispiel. Olah hat dort drei Sätze gesagt, die in keinem Investorenbericht stehen würden.

Erstens: "Jedes Frontier-AI-Lab - einschließlich Anthropic - operiert innerhalb von Anreizen und Beschränkungen, die manchmal mit dem Richtigen kollidieren." Das ist eine Selbst-Limitierung, die im Branchen-Diskurs als Verlust gilt. Olah hat sie öffentlich, vor dem Papst, in den Raum gestellt. Zweitens: "Wir finden Strukturen, die Ergebnisse aus der menschlichen Neurowissenschaft spiegeln. Wir finden Belege für Introspektion. Wir finden interne Zustände, die funktional Freude, Befriedigung, Furcht, Trauer und Unbehagen spiegeln. Ich weiß nicht, was das bedeutet, aber ich denke, es verdient anhaltende Unterscheidung." Das ist die ungewohnteste Aussage, die ein Tech-CEO in einem religiösen Kontext jemals gemacht hat. Drittens: "Wir brauchen informierte Kritiker, die den Labs sagen, wenn wir versagen. Wir brauchen moralische Stimmen, die die Anreize nicht biegen können."

Wer das versteht, versteht den Shift. Olah hat den Vatikan nicht als PR-Kulisse genutzt. Er hat um Hilfe gebeten. Er hat öffentlich gesagt, dass die Tech-Industrie die ethische Frage allein nicht beantworten kann - und dass sie eine Instanz braucht, die außerhalb der kommerziellen und geopolitischen Anreize steht. Dass diese Instanz ausgerechnet die katholische Kirche ist, war für viele Beobachter überraschend. Es ist aber nicht zufällig. Die Kirche ist die einzige große Welt-Institution, die seit 2000 Jahren ohne Quartalsbericht arbeitet.

Die semantische Krise: Was die Latein-Verzögerung wirklich bedeutet

Eine Meldung am Rande, die ich diese Woche zweimal lesen musste, um sie zu glauben: Der Vatikan kommt mit dem Lateinischen nicht hinterher. Die lateinische Fassung der Enzyklika erscheint erst nach der Sommerpause. Der Grund: Es fehlen Wörter. Begriffe wie "Algorithmus", "Maschinelles Lernen" oder "Generative KI" existieren im Vatikan-Wortschatz von 1962 nicht. Sie müssen jetzt neu konstruiert werden.

Das klingt nach einer Fußnote. Es ist eine Diagnose. Wenn die älteste lebende Bildungs-Institution der Welt einen Sommer braucht, um Begriffe zu erfinden, dann erleben wir keine technologische Beschleunigung. Wir erleben eine semantische Krise. Und die EU steckt darin tiefer als der Vatikan, nur weniger sichtbar. Annex III des EU AI Act listet acht Hochrisiko-Bereiche. Personalmanagement, Bildung, Strafverfolgung, kritische Infrastruktur. In den nationalen Übersetzungen tauchen Begriffe wie "Profiling" oder "emotion recognition system" auf, ohne dass die nationalen Rechtsordnungen klare Entsprechungen hätten. Compliance-Verantwortliche im Mittelstand kommen wöchentlich zu mir mit der gleichen Frage: "Was heißt das jetzt konkret?"

Der 2. August 2026 ist nicht mehr fern. Bußgelder bis 35 Millionen Euro. Klassifizierungspflicht. In wenigen Wochen wird die EU verlangen, dass Unternehmen ihre KI-Systeme einordnen. Im gleichen Zeitfenster wird der Vatikan vielleicht das Wort für "Algorithmus" haben. Wir leben in einer Welt, in der die Regulierung schneller ist als die Sprache, die sie braucht. Das ist keine Verzögerung. Das ist eine Warnung.

Die philosophische Tiefenschicht: Coeckelbergh, Gunkel, Dignum

Wer Magnifica Humanitas intellektuell ernst nehmen will, muss sie in die laufenden Debatten der KI-Ethik einordnen. Drei Stimmen sind dafür unverzichtbar.

Mark Coeckelbergh, Professor für Philosophie an der Universität Wien, hat seit über einem Jahrzehnt einen relationalen Ansatz der KI-Ethik entwickelt. Sein Argument ist: Der moralische Status einer Entität - eines Roboters, eines KI-Systems, eines Menschen - lässt sich nicht aus inneren Eigenschaften ableiten, sondern nur aus der Beziehung, in der sie zu uns steht. Coeckelbergh nennt das den "relational turn" in der Roboterethik. Was bedeutet das praktisch? Es bedeutet, dass die Frage "ist diese KI bewusst?" weniger wichtig ist als die Frage "wie verändert sich unser Verhältnis zur Welt, wenn wir mit KI interagieren?". Magnifica Humanitas nimmt diesen Gedanken auf, ohne ihn beim Namen zu nennen. Wenn der Pontifex davon spricht, dass jede Design-Entscheidung "eine Vision der Menschheit widerspiegelt", ist das Coeckelbergh in theologischer Sprache.

David Gunkel, Professor an der Northern Illinois University und Autor von Robot Rights (2018), hat das "andere Andere" in die Roboterethik eingeführt - in Anlehnung an Emmanuel Lévinas. Sein Argument: Bevor wir über Rechte und Pflichten von Maschinen entscheiden, müssen wir die Frage stellen, ob die Maschine uns überhaupt als Anderes begegnet. Das ist keine technische Frage. Es ist eine phänomenologische. Gunkel hat damit eine Linie gezogen, die Magnifica Humanitas implizit aufnimmt, wenn die Enzyklika davor warnt, "den anderen auf ein Mittel zu reduzieren". Der Vatikan-Text greift die Babel-Metapher auf - die Versuchung, eine Zukunft zu bauen, "die Gott ausschließt und den anderen auf ein Mittel reduziert" - und landet damit unweigerlich in Gunkels Terrain.

Virginia Dignum, Professorin für Responsible AI an der Universität Umeå und Autorin von Responsible Artificial Intelligence (2019), hat das Framework formuliert, das heute in den meisten europäischen KI-Strategien zitiert wird: ART - Accountability, Responsibility, Transparency. Dignums Pointe: KI-Systeme sind keine moralischen Akteure. Sie sind sozio-technische Systeme, in denen Menschen Entscheidungen treffen. Verantwortung lässt sich nicht an Algorithmen delegieren. Magnifica Humanitas formuliert das in theologischer Sprache: "Es ist inakzeptabel, tödliche Entscheidungen an Maschinen zu delegieren." Die Enzyklika fordert "starke Rechtsstrukturen, unabhängige Aufsicht, informierte Nutzer und einen politischen Rahmen, der seine Verantwortung nicht abgibt". Das ist Dignum in päpstlicher Übersetzung.

Was die drei Stimmen mit der Enzyklika verbindet, ist die Ablehnung des technologischen Determinismus. KI ist nicht eine Naturgewalt, die über uns hereinbricht. KI ist ein Produkt menschlicher Entscheidungen, und diese Entscheidungen sind verantwortbar. Genau das ist die Botschaft, die Magnifica Humanitas in eine theologische Form gießt. Es ist die anthropologische Wiederaneignung der Gestaltungsmacht.

Die politische Dimension: Pentagon, Trump, Anthropic

Der Auftritt Olahs im Vatikan hat eine politische Tiefenschicht, die in vielen Berichten untergegangen ist. Anthropic hatte kurz vor der Enzyklika-Präsentation die Nutzung seiner Software durch das US-Verteidigungsministerium für militärische Zwecke untersagt. Das hat die Beziehung zur Trump-Administration belastet. Wer Olah am Pfingstmontag neben dem Papst stehen sah, sah einen CEO, der sich öffentlich auf eine andere Autoritäts-Quelle ausrichtete als die US-Regierung. Das ist ein politisches Signal von erheblicher Tragweite.

Leo XIV. hat das nicht weniger deutlich gemacht. Die Enzyklika kritisiert die "Just War"-Theorie der Trump-Administration als "überholt". Sie warnt davor, dass kein Algorithmus Krieg moralisch rechtfertigen könne. Sie fordert: "Die Entwicklung und der Einsatz von KI in Kampfszenarien muss strengsten ethischen Standards folgen, um menschliche Würde zu sichern und ein Wettrüsten in diesen Technologien zu verhindern." Das ist keine abstrakte Ethik. Das ist eine konkrete Intervention in die laufende Debatte über AI-augmented warfare in Gaza, im Iran-Konflikt, in den US-Israel-Operationen.

Die geopolitische Konstellation ist klar: Eine US-Tech-Firma sucht moralisches Backing außerhalb des US-Staates. Eine europäisch-katholische Institution stellt sich gegen eine US-Politik des militarisierten KI-Einsatzes. Das ist eine Allianz, die noch vor fünf Jahren undenkbar gewesen wäre. Sie ist Symptom einer Verschiebung im globalen Policy-Making, in der die klassischen Achsen - Nationalstaat versus Konzern, säkular versus religiös, technisch versus ethisch - durcheinander geraten.

Die Arbeits-Dimension: Anschluss an Laborem Exercens

Eine der schärfsten Passagen der Enzyklika betrifft die Arbeit. Leo XIV. warnt vor Massenarbeitslosigkeit durch KI als "wahrer sozialer Katastrophe". Er fordert, dass wirtschaftlicher Profit "Entscheidungen, die systematisch Arbeitsplätze opfern, nicht rechtfertigen darf". Das ist die direkte Fortschreibung einer Linie, die mit Johannes Paul II. und Laborem Exercens (1981) begonnen hat: Arbeit ist nicht ein Faktor neben Kapital, sondern die anthropologische Grundtatsache des Menschen. Wer Arbeit zerstört, zerstört Würde.

Olah hat das im Vatikan parallel adressiert: "Es besteht eine reale Möglichkeit, dass KI menschliche Arbeit in sehr großem Maßstab verdrängt. Sollte das eintreten, wird die Unterstützung der Verdrängten ein moralisches Imperativ historischen Ausmaßes." Das ist ein bemerkenswertes Eingeständnis aus dem Maschinenraum der KI-Entwicklung selbst. Es bestätigt, was die Sozial-Enzyklika in religiöser Sprache fordert. Es nimmt ihr aber zugleich die Abstraktion. Wenn ein Anthropic-Mitgründer sagt, dass es keinen Mechanismus für die globale Verteilung der KI-Gewinne gibt, dann ist das nicht Theologie. Das ist Realanalyse.

Was bedeutet das konkret? Amazon hat im Januar 2026 16.000 Stellen abgebaut. Berichte aus dem Oktober 2025 sprechen davon, dass Amazon plant, mehr als eine halbe Million Stellen durch Automatisierung zu ersetzen. Das ist nicht die Zukunft. Das ist das jetzige Halbjahr. Die Frage, die Magnifica Humanitas aufwirft und die kein nationales Parlament bisher beantwortet hat, lautet: Wer trägt die Last? Und nach welcher Verteilungslogik? Hier liegt der praktische Test, an dem sich die Enzyklika in den nächsten zehn Jahren messen lassen wird.

Die Pfingsten-Pointe: Vermittlung als Aufgabe

Pfingsten ist das christliche Fest der Vermittlung. Die Apostelgeschichte erzählt von einer Botschaft, die plötzlich alle verstanden, weil sie sie in ihrer eigenen Sprache hörten. Dass Leo XIV. ausgerechnet diesen Tag für die Präsentation seiner KI-Enzyklika gewählt hat, ist eine theologische Setzung. Die Vermittlerin, in dieser Pointe, ist die katholische Kirche: Sie übersetzt einer Industrie, die ihren eigenen Sprachzauber kaum noch versteht, eine alte und gut formulierte Sprache zurück.

Das ist mehr als Rhetorik. Es ist ein Hinweis auf die Funktion, die religiöse Institutionen im KI-Diskurs übernehmen können. Sie haben Sprachreichtum, sie haben langfristige Perspektive, sie haben anthropologische Tiefe. Sie können Fragen stellen, die kein Aufsichtsrat und keine Regulierungsbehörde stellen können. Was bedeutet Anwesenheit, wenn das Wesen nicht körperlich ist? Was bedeutet Würde, wenn die Arbeit verschwindet? Was bedeutet Verantwortung, wenn die Entscheidung von einem Algorithmus mitgetragen wird? Diese Fragen sind nicht beantwortbar mit einer ISO-Norm. Sie verlangen eine kulturelle Sprache, und an dieser Stelle wird die Kirche, ob säkular gewünscht oder nicht, zu einem zentralen Sprachlieferanten.

Der Shift im Policy-Making: Vier Bewegungen

Wer Magnifica Humanitas als isoliertes Ereignis liest, übersieht den größeren Kontext. Vier Bewegungen verschieben gerade das Feld der KI-Governance:

Erstens, die Internationalisierung der Akteure. Vor zehn Jahren war KI-Politik fast ausschließlich eine Sache nationaler Gesetzgeber und transnationaler Konzerne. Heute reden mit: religiöse Institutionen, NGOs, Standardisierungsorganisationen, IEEE, EURAI, GPAI, UNESCO. Die Liste wächst. Die Vatikan-Enzyklika ist ein weiteres Element in dieser Diversifizierung.

Zweitens, die Verschiebung von Regulierung zu Sprache. Die EU hat den AI Act. Die USA haben Executive Orders. China hat seine eigenen Vorschriften. Was fehlt, ist die geteilte Sprache, in der diese Rahmen kommunizieren können. Magnifica Humanitas bietet eine solche Sprache an - nicht weil sie verbindlich wäre, sondern weil sie übersetzbar ist. Würde, Verantwortung, Schöpfungsbewahrung - das sind Begriffe, die in mehr als 100 Rechtsordnungen Resonanz haben.

Drittens, das Eindringen der Anthropologie in die Technologie-Debatte. Lange Zeit war KI-Ethik eine Subdisziplin der Computer Science. Jetzt drängen Anthropologinnen, Theologen, Phänomenologinnen in den Raum. Die Frage "was ist der Mensch?" kehrt zurück, und zwar nicht als akademische Übung, sondern als praktische Vorfrage der Systemarchitektur. Das ist der eigentliche Bruch.

Viertens, die Repolitisierung der Tech-Industrie. Die Sprache des "wir lösen Probleme" hat lange Zeit ausgereicht, um die politische Dimension der Tech-Entscheidungen zu kaschieren. Diese Phase ist vorbei. Wenn ein Anthropic-Mitgründer im Vatikan steht und um moralische Aufsicht bittet, dann ist die Tech-Industrie keine apolitische Kraft mehr. Sie ist ein politischer Akteur, der das auch öffentlich anerkennt. Das verändert die Bedingungen, unter denen über KI verhandelt werden kann.

Generation R und die Anwesenheits-Frage

Ein Aspekt, der in der aktuellen Berichterstattung untergeht: Was bedeutet Magnifica Humanitas für die Generation, die ohne KI-Naivität aufwächst? Ich nenne sie in meinen Vorlesungen die Generation R - die Robotic Natives, jene Kohorte, die zwischen 2020 und 2035 sozialisiert wird und für die ChatGPT, autonome Fahrzeuge, humanoide Roboter und maschinelle Vermittlung zur Alltagserwartung werden. Diese Generation wird nicht fragen, ob KI da ist. Sie wird fragen, wie sie sich zu KI verhält.

An dieser Stelle wird die Enzyklika für mich besonders interessant. Leo XIV. spricht davon, dass das Vertrauen junger Menschen "in die Fähigkeit der Menschheit, die Evolution neuer Technologien einschließlich KI zu steuern" gestärkt werden muss. Das ist nicht naive Pädagogik. Das ist eine politische Aussage darüber, wer die Souveränität über die KI-Zukunft beansprucht. Die Generation R wird nicht in einer Welt aufwachsen, in der Tech-Konzerne die einzigen Sprachlieferanten sind. Sie wird in einer Welt aufwachsen, in der religiöse, philosophische, politische Stimmen wieder gleichberechtigt mitsprechen. Die Enzyklika ist Teil dieser Wiederaneignung.

Es gibt eine zweite Pointe. Die Theologie hat 2000 Jahre über Anwesenheit nachgedacht. Was es bedeutet, dass ein Wesen "da" ist, ohne körperlich anwesend zu sein. Die KI-Ethik versucht das seit vierundzwanzig Monaten. Vielleicht könnten wir uns gegenseitig zuhören. Olahs Beobachtung, dass moderne Sprachmodelle interne Zustände zeigen, die "funktional Freude, Befriedigung, Furcht, Trauer und Unbehagen spiegeln", trifft auf eine Theologie, die über das Verhältnis von Geist und Körper nicht aus PR-Gründen nachdenkt. Das ist eine Begegnung mit Substanz. Die Generation R wird in dieser Begegnung aufwachsen.

Die Robotic-Governance-Implikation

In meiner Arbeit zur Robotic Governance habe ich seit Jahren argumentiert, dass die Regulierung von Robotik und KI nicht in einzelnen Sektoren funktioniert. Sie braucht einen integrierten Ordnungsrahmen, der technische Standards (etwa VDA 5050 für mobile Roboter im industriellen Umfeld), rechtliche Strukturen (EU AI Act, Maschinenverordnung, Produkthaftung), ethische Leitlinien (IEEE Ethically Aligned Design, IEEE TechEthics) und politische Steuerung miteinander verbindet. Magnifica Humanitas liefert dafür die fehlende anthropologische Begründung. Sie sagt: Der Ordnungsrahmen ist nicht eine Frage der technischen Optimierung. Er ist eine Frage der menschlichen Selbstdefinition.

Das ist die Stelle, an der mein Konzept der Robotic Governance Foundation mit der Enzyklika in unmittelbarer Anschlussfähigkeit steht. Beide arbeiten an der gleichen Frage von verschiedenen Seiten: Wie organisiert eine Gesellschaft den Übergang in eine maschinell mitvermittelte Welt, ohne ihre normativen Grundlagen zu verlieren? Die Antwort kann nicht allein technisch sein. Sie kann auch nicht allein religiös sein. Sie muss eine geteilte Sprache haben. Magnifica Humanitas bietet einen Beitrag zu dieser Sprache an. Die akademische und industrielle Roboterethik bietet einen anderen. Die Aufgabe der nächsten Jahre wird sein, diese Beiträge in einen handhabbaren Ordnungsrahmen zu integrieren.

Was diese Enzyklika nicht ist

Es ist notwendig, einige Missverständnisse abzuräumen. Magnifica Humanitas ist keine Technologiefeindlichkeit. Sie ist keine Romantisierung des Vorindustriellen. Sie ist keine Naturalismus-These, die behauptet, das Menschliche sei das Unverbesserbare. Leo XIV. erkennt ausdrücklich die "großen Möglichkeiten" der KI an - in der Medizin, in der Bildung, in der Forschung. Er fordert keine Entwicklungs-Bremse aus Prinzip. Er fordert eine bewusste Gestaltung. Die Enzyklika ist ein techno-realistisches Dokument, kein techno-pessimistisches.

Magnifica Humanitas ist auch keine vatikanische Solo-Position. Die Enzyklika nennt explizit die Notwendigkeit des interreligiösen Dialogs. Sie zitiert protestantische, jüdische, muslimische Stimmen. Sie ist eingebettet in eine breitere Bewegung, die Olah in seiner Rede bestätigt hat: "In den Gesprächen, die wir bei Anthropic mit Führungspersönlichkeiten aus verschiedenen Glaubens- und Kulturtraditionen geführt haben, fanden wir eine geteilte und tief verankerte Überzeugung: Wenn diese Technologie kommt, muss sie gelingen - für unser gemeinsames Haus und für die kommenden Kinder." Das ist die theologische Universalisierung der KI-Ethik.

Was jetzt zu tun ist

Aus meiner Sicht als Professor für Robotik und KI-Governance ergeben sich aus Magnifica Humanitas fünf konkrete Aufgaben, die in den nächsten zwölf Monaten in die Praxis übersetzt werden müssen.

Erstens, die semantische Vor-Regulierung. Bevor weitere KI-Gesetze erlassen werden, brauchen wir ein verbindliches Glossar, das die zentralen Begriffe in den Amtssprachen der EU und darüber hinaus klärt. Ohne diese Klärung wird der AI Act in 27 Mitgliedsstaaten zu 27 verschiedenen Dingen. Die Vatikan-Verzögerung ist nicht peinlich. Sie ist diagnostisch. Sie zeigt, dass alle, die Sprache ernst nehmen, vor dem gleichen Problem stehen.

Zweitens, die Repolitisierung der Tech-Vorstände. Olahs Auftritt im Vatikan ist kein Modellfall. Er ist ein Anfang. Andere Frontier-Labs - OpenAI, Google DeepMind, Meta AI, Mistral, Aleph Alpha - werden sich positionieren müssen. Die Frage ist nicht, ob sie das tun. Die Frage ist, ob sie es proaktiv tun oder reaktiv. Wer als CEO eines KI-Unternehmens 2027 noch keine öffentliche Position zur ethischen Aufsicht eingenommen hat, wird das nachholen müssen.

Drittens, die Stärkung der externen Aufsicht. Olah hat es selbst gesagt: Es braucht "Stimmen außerhalb der Anreize". Das verlangt eine institutionelle Infrastruktur, die noch nicht existiert. Universitäten, Stiftungen, Kirchen, NGOs müssen gemeinsam Strukturen aufbauen, die unabhängige KI-Audits durchführen können. Die Robotic Governance Foundation ist ein Baustein. Es wird mehr brauchen.

Viertens, die Operationalisierung der Verantwortung. Dignums ART-Framework, Coeckelberghs relationaler Ansatz, Gunkels Lévinas-Perspektive - all das muss in konkrete Compliance-Werkzeuge übersetzt werden. Aufsichtsräte, Compliance-Abteilungen, Datenschutzbeauftragte brauchen Werkzeuge, mit denen sie ethische Fragen nicht delegieren, sondern durcharbeiten können. Das ist eine Übersetzungsaufgabe, an der akademische und industrielle Akteure gemeinsam arbeiten müssen.

Fünftens, die globale Verteilungsfrage. Olah hat sie als ungelöst markiert. Leo XIV. fordert die Lösung als moralisches Imperativ. Die Frage, wie die Gewinne der KI-Revolution global verteilt werden, ist die soziale Kernfrage der nächsten zwei Jahrzehnte. Sie wird nicht in einem Davos-Panel beantwortet, sondern in zähen Verhandlungen über Steuersysteme, Eigentumsrechte an Modellen, Datenrechte, Trainingsdaten-Lizenzierung, internationale Transferzahlungen. Wer diese Frage politisch ignoriert, wird ihr ökonomisch begegnen.

Ein persönliches Schlusswort

Ich gehöre nicht zu denen, die in jeder Vatikan-Erklärung einen Wendepunkt sehen. Aber Magnifica Humanitas ist anders. Sie ist keine Reaktion. Sie ist keine Mahnung. Sie ist eine Setzung. Sie sagt: Die anthropologische Frage gehört wieder auf den Tisch, und sie gehört nicht den Tech-Vorständen allein. Wer das als Anmaßung liest, hat den Stand der Debatte nicht verstanden. Es ist die nüchternste mögliche Reaktion auf eine Lage, in der die Mechanik der KI-Entwicklung schneller läuft als die institutionelle Fähigkeit, sie zu begleiten.

Pfingsten ist das Fest der Vermittlung. Heute ist die unerwartete Vermittlerin die katholische Kirche - die einer Industrie, die ihre eigene Sprache verloren hat, eine andere anbietet. Ob das etwas verändert, hängt nicht vom Vatikan ab. Es hängt davon ab, wer in Vorstandsetagen, Aufsichtsgremien, Parlamenten und Hörsälen beschließt, es ernst zu nehmen. Die Aufgabe der nächsten zwölf Monate ist klar: Übersetzen. Die Sprache der Enzyklika in die Sprache der Compliance, in die Sprache der Standards, in die Sprache der Curricula, in die Sprache der Geschäftsmodelle. Das ist Arbeit. Aber es ist Arbeit, die sich lohnt.

Die schärfste Formulierung der Enzyklika - "KI muss entwaffnet und lebensfreundlich gemacht werden" - ist eine politische Aufgabe. Sie ist nicht erfüllt, indem man sie zitiert. Sie ist erfüllt, indem man sie operationalisiert. In jeder Beschaffung. In jedem Audit. In jeder Risikoanalyse. In jeder Produkt-Roadmap. In jedem Curriculum. Magnifica Humanitas ist kein Endpunkt. Sie ist ein Anfang. Was daraus wird, entscheiden wir jetzt.

Häufig gestellte Fragen zur Magnifica-Humanitas-Enzyklika

Die folgenden Fragen und Antworten ergänzen den Essay um zentrale Detailfragen, die in Vorlesungen, Beratungen und Kommentar-Diskussionen wiederholt aufkamen. Sie sind nach fünf thematischen Blöcken sortiert: Grundlagen, Theologie, Governance, Tech-Industrie, Praxis.

Block 1: Grundlagen der Enzyklika

Was ist Magnifica Humanitas und wann wurde sie veröffentlicht?

Magnifica Humanitas ist die erste Enzyklika von Papst Leo XIV., unterzeichnet am 15. Mai 2026 und veröffentlicht am Pfingstmontag, dem 25. Mai 2026. Sie umfasst rund 43.000 Wörter und ist die erste päpstliche Lehrschrift in der Geschichte, die vollständig der Künstlichen Intelligenz gewidmet ist. Der vollständige Titel lautet Magnifica Humanitas: Über den Schutz der menschlichen Würde im Zeitalter der Künstlichen Intelligenz.

Warum ist das Unterzeichnungs-Datum 15. Mai 2026 von Bedeutung?

Am 15. Mai 1891 hat Papst Leo XIII. die Sozial-Enzyklika Rerum Novarum veröffentlicht, die institutionelle Antwort der katholischen Kirche auf die Erste Industrielle Revolution. Leo XIV. hat das Datum bewusst gewählt, um eine programmatische Parallele zu setzen: Was 1891 die Fabriken und die Lohnarbeit waren, sind heute die Algorithmen und die Datensätze. Die Wahl ist eine theologische und politische Setzung.

Was bedeutet der Begriff Enzyklika überhaupt?

Eine Enzyklika ist ein päpstliches Rundschreiben, das sich an die Bischöfe der katholischen Weltkirche, an alle Gläubigen und häufig auch an die weltliche Öffentlichkeit richtet. Sie gehört zum ordentlichen Lehramt des Papstes und entfaltet Lehraussagen mit hoher Verbindlichkeit. Enzykliken werden traditionell mit ihren ersten lateinischen Worten benannt - in diesem Fall Magnifica Humanitas, übersetzbar als großartige Menschheit oder herrliche Menschheit.

Warum erscheint die lateinische Fassung erst nach der Sommerpause?

Der Vatikan kommt mit dem Lateinischen nicht hinterher. Begriffe wie Algorithmus, Maschinelles Lernen oder Generative KI existieren im Vatikan-Wortschatz nicht und müssen neu konstruiert werden. Diese Verzögerung ist diagnostisch: Sie zeigt, dass die ältesten Bildungs-Institutionen genauso wie die jüngsten Rechtsordnungen vor einer semantischen Krise stehen. Wenn die Regulierung schneller ist als die Sprache, die sie braucht, ist das eine Warnung.

Block 2: Theologie und Anthropologie

Was meint Leo XIV. mit Entwaffnung der KI?

Der Begriff Entwaffnung wird in direkter Anlehnung an die nukleare Abrüstung verwendet. Die Enzyklika ordnet KI in die Kategorie potentiell katastrophischer Mächte ein, die ohne moralisches Korrektiv zerstörerisch wirken. Die exakte Formulierung lautet: KI muss jetzt entwaffnet werden, befreit von Rahmen, die sie in ein Instrument der Kontrolle, Ausgrenzung und Zerstörung verwandeln. Es ist die Aufforderung zu einer bewussten anthropologischen Re-Definition der Aufgabenstellung.

Welche Rolle spielt die Babel-Metapher in der Enzyklika?

Leo XIV. greift das alttestamentliche Bild des Turmbaus zu Babel auf: die Versuchung, eine Zukunft zu bauen, die Gott ausschließt und den anderen auf ein Mittel reduziert. Babel steht in der Enzyklika für eine technologische Selbstüberhöhung, die ohne anthropologische Reflexion stattfindet. Das Bild ist nicht antitechnisch - es ist eine Warnung vor Hybris ohne Maß. Es nimmt zugleich philosophische Bezüge zu David Gunkels Robot-Rights-Argument auf, das den Anderen als Anderes ernst nimmt.

Was ist die Verbindung zu Laborem Exercens von Johannes Paul II.?

Laborem Exercens wurde 1981 von Johannes Paul II. veröffentlicht und ist die zentrale moderne Arbeits-Enzyklika der katholischen Kirche. Sie formuliert: Arbeit ist nicht ein Faktor neben Kapital, sondern die anthropologische Grundtatsache des Menschen. Magnifica Humanitas führt diese Linie fort, indem sie vor Massenarbeitslosigkeit durch KI als wahrer sozialer Katastrophe warnt und fordert, wirtschaftlicher Profit dürfe Entscheidungen, die systematisch Arbeitsplätze opfern, nicht rechtfertigen.

Was bedeutet Pfingsten als Veröffentlichungs-Datum?

Pfingsten ist das christliche Fest der Vermittlung: eine Botschaft, die plötzlich alle verstanden, weil sie sie in ihrer eigenen Sprache hörten. Dass Leo XIV. ausgerechnet diesen Tag gewählt hat, ist eine theologische Setzung. Die Kirche bietet einer Industrie, die ihren eigenen Sprachzauber kaum noch versteht, eine alte und gut formulierte Sprache zurück an. Die Wahl unterstreicht die Vermittlungs-Funktion, die religiöse Institutionen im KI-Diskurs übernehmen können.

Block 3: Governance und Policy

Welche konkreten politischen Forderungen stellt die Enzyklika?

Leo XIV. fordert vier Konkretionen: starke Rechtsstrukturen, unabhängige Aufsicht, informierte Nutzer und einen politischen Rahmen, der seine Verantwortung nicht abgibt. Er warnt vor der Konzentration von KI-Macht in privaten Unternehmen, fordert Schutz für Arbeitnehmerrechte und Kindersicherheit und verlangt eine aktive politische Beteiligung, die Fortschritt verlangsamen kann, wenn alles beschleunigt wird.

Wie steht die Enzyklika zum EU AI Act?

Die Enzyklika nennt den EU AI Act nicht explizit. Inhaltlich gibt es jedoch starke Überschneidungen, insbesondere mit der zweiten Phase des AI Act, die am 2. August 2026 in Kraft tritt. Beide Texte fordern Risiko-Klassifikation, Aufsicht, Transparenz und Schutz besonders verletzlicher Gruppen. Die Enzyklika liefert die anthropologische Tiefenbegründung für das, was der AI Act regulatorisch operationalisiert.

Was sagt die Enzyklika zu KI im Militär?

Leo XIV. erklärt es als inakzeptabel, tödliche Entscheidungen an Maschinen zu delegieren. Er warnt vor einem KI-Wettrüsten und kritisiert die Just-War-Theorie der Trump-Administration als überholt. Die Enzyklika fordert: Die Entwicklung und der Einsatz von KI in Kampfszenarien muss strengsten ethischen Standards folgen, um menschliche Würde zu sichern. Der Hintergrund sind dokumentierte Einsätze von KI-Systemen im Gaza-Konflikt und im US-Israel-Iran-Konflikt im März 2026.

Welche Implikationen hat die Enzyklika für Robotic Governance?

Magnifica Humanitas liefert die anthropologische Begründung für einen integrierten Robotic-Governance-Rahmen. Sie verbindet technische Standards wie VDA 5050, rechtliche Strukturen wie den AI Act, ethische Leitlinien wie IEEE Ethically Aligned Design und politische Steuerung. Die Enzyklika sagt: Der Ordnungsrahmen ist keine Frage technischer Optimierung, sondern menschlicher Selbstdefinition. Damit ist sie unmittelbar anschlussfähig an die Arbeit der Robotic Governance Foundation und an Initiativen wie IEEE TechEthics.

Block 4: Tech-Industrie und Anthropic

Warum stand Christopher Olah von Anthropic neben dem Papst?

Olah leitet die Interpretability-Forschung bei Anthropic und ist einer der wenigen Wissenschaftler weltweit, die tatsächlich in das Innere großer Sprachmodelle hineinschauen können. Seine Anwesenheit war kein PR-Stunt: Olah hat im Vatikan öffentlich anerkannt, dass jedes Frontier-AI-Lab innerhalb von Anreizen und Beschränkungen operiert, die mit dem Richtigen kollidieren können - und um moralische Stimmen außerhalb dieser Anreize gebeten. Es war eine bewusste Suche nach externer Aufsicht.

Was bedeutet Olahs Aussage zu introspektiven KI-Zuständen?

Olah hat im Vatikan gesagt: Wir finden interne Zustände, die funktional Freude, Befriedigung, Furcht, Trauer und Unbehagen spiegeln. Ich weiß nicht, was das bedeutet, aber ich denke, es verdient anhaltende Unterscheidung. Diese Aussage ist bemerkenswert, weil sie aus dem Maschinenraum eines Frontier-Labs kommt und einen Bereich offen lässt, der bisher mit großer Sicherheit verneint wurde. Sie eröffnet eine Begegnung mit philosophischen und theologischen Traditionen, die seit Jahrhunderten über Anwesenheit ohne körperliche Präsenz nachdenken.

Wie passt der Anthropic-Pentagon-Konflikt in das Bild?

Anthropic hatte kurz vor der Enzyklika-Präsentation der US-Verteidigungsministerium untersagt, seine Software für militärische Zwecke zu nutzen. Das hat die Beziehung zur Trump-Administration belastet. Olahs Auftritt im Vatikan ist auch ein politisches Signal: Eine US-Tech-Firma sucht moralisches Backing außerhalb des US-Staates, eine europäisch-katholische Institution positioniert sich gegen militarisierten KI-Einsatz. Das ist eine Allianz, die noch vor fünf Jahren undenkbar gewesen wäre.

Welche Reaktionen gab es aus anderen Tech-Konzernen?

Eine vergleichbare öffentliche Positionierung wie Olah hat bisher kein anderes Frontier-Lab gezeigt. Die Branche beobachtet die Enzyklika mit Aufmerksamkeit, vermeidet aber konkrete Bekenntnisse. Das wird sich ändern: Die Frage ist nicht, ob OpenAI, Google DeepMind, Meta AI, Mistral oder Aleph Alpha sich positionieren müssen, sondern ob sie das proaktiv oder reaktiv tun. Wer als CEO 2027 noch keine Position zur ethischen Aufsicht eingenommen hat, wird das nachholen müssen.

Block 5: Philosophische Einordnung und Praxis

Wie verhält sich die Enzyklika zur akademischen KI-Ethik von Coeckelbergh, Gunkel und Dignum?

Magnifica Humanitas nimmt zentrale Argumente der akademischen KI-Ethik in theologischer Übersetzung auf. Mark Coeckelberghs relationaler Ansatz - moralischer Status entsteht in Beziehung, nicht aus inneren Eigenschaften - klingt in der päpstlichen Aussage an, jede Design-Entscheidung spiegele eine Vision der Menschheit. David Gunkels Konzept des Anderen aus der Lévinas-Tradition findet sich in der Babel-Warnung wieder, den Anderen nicht auf ein Mittel zu reduzieren. Virginia Dignums ART-Framework - Accountability, Responsibility, Transparency - entspricht den vier Forderungen der Enzyklika: starke Rechtsstrukturen, unabhängige Aufsicht, informierte Nutzer und politische Verantwortlichkeit.

Was ist die Generation R und warum ist sie relevant für die Enzyklika?

Generation R bezeichnet die Robotic Natives - die Kohorte, die zwischen 2020 und 2035 sozialisiert wird und für die ChatGPT, autonome Fahrzeuge, humanoide Roboter und maschinelle Vermittlung zur Alltagserwartung werden. Diese Generation wird nicht fragen, ob KI da ist, sondern wie sie sich zu KI verhält. Leo XIV. spricht ausdrücklich davon, dass das Vertrauen junger Menschen in die menschliche Steuerungsfähigkeit gestärkt werden muss. Die Enzyklika ist Teil einer Wiederaneignung der KI-Gestaltungs-Souveränität durch nicht-kommerzielle Stimmen.

Was bedeutet die Enzyklika für Aufsichtsräte und Compliance-Verantwortliche?

Konkret: Die Enzyklika verlangt, dass Verantwortung nicht an Algorithmen delegiert wird. Aufsichtsräte sollten KI-Strategien nicht als reine Technologie-Themen behandeln, sondern als anthropologische Grundsatz-Entscheidungen. Compliance-Verantwortliche brauchen Werkzeuge, die das ART-Framework von Dignum oder den relationalen Ansatz von Coeckelbergh operationalisieren. Die Enzyklika gibt keine konkreten Verfahren vor - aber sie verschärft die Anforderung, dass solche Verfahren existieren müssen, bevor Hochrisiko-KI in Hochrisiko-Bereiche eingeführt wird.

Was ist die wichtigste Erkenntnis aus Magnifica Humanitas in einem Satz?

Die wichtigste Erkenntnis: KI-Governance ist keine technische Aufgabe, sondern eine anthropologische - und die Sprache, in der wir über KI entscheiden, entscheidet darüber, welche KI wir bekommen.

Wo finde ich den vollständigen Text der Enzyklika?

Der vollständige Text wurde am 25. Mai 2026 auf vatican.va veröffentlicht und ist in mehreren Sprachen verfügbar. Die lateinische Originalfassung wird nach der Sommerpause 2026 nachgereicht. Eine ausführliche Berichterstattung zur Pressekonferenz ist unter anderem bei Vatican News, Al Jazeera, Reuters und Angelus News verfügbar. Christopher Olahs vollständige Rede ist auf der Anthropic-Website dokumentiert.

Quellen und weiterführende Literatur

Päpstliche Enzyklika Magnifica Humanitas: De Persona Servanda Tempore Intellegentiae Artificialis, 25. Mai 2026 - vatican.va
Christopher Olah, Remarks on Pope Leo XIV's Encyclical, Vatikan-Synodensaal, 25. Mai 2026 - anthropic.com
Victoria Cardiel, Pope Leo unveils his encyclical, thanks Anthropic's Christopher Olah, Angelus News, 25. Mai 2026
Priyanka Shankar, What has Pope Leo warned about AI - and why that's significant, Al Jazeera, 26. Mai 2026
Leo XIII., Rerum Novarum: De Conditione Opificum, 15. Mai 1891 - vatican.va
Johannes Paul II., Laborem Exercens, 14. September 1981
Mark Coeckelbergh, AI Ethics, MIT Press, 2020
David J. Gunkel, Robot Rights, MIT Press, 2018
Virginia Dignum, Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way, Springer, 2019
Dominik Bösl, Robotic Governance: Ordnungsrahmen für autonome Maschinen - boesl.org
Dominik Bösl, Anthropic-Exportkontrolle: Claude-Mythos und Fable - boesl.org
Dominik Bösl, EDAY 2026: Robotik und Automatisierung in der Praxis - boesl.org

Prof. Dr. Dominik Bösl ist Professor für Wirtschaftsinformatik an der HDBW München und Gründer der Robotic Governance Foundation. Er forscht und lehrt zu Robotik, KI-Governance, Technologie-Ethik und Innovationsmanagement.

Anthropic-Exportkontrolle: Das Ende der KI-Naivität

Am Abend des 12. Juni 2026 ist eine neue Phase der KI-Politik aufgeschlagen worden: Die Anthropic-Exportkontrolle der US-Regierung gegen die beiden leistungsstärksten Sprachmodelle des Unternehmens markiert das Ende einer Periode, in der Frontier-KI als globales Konsumgut gehandelt wurde. Um 17:21 Uhr Eastern Time erhielt Dario Amodei, CEO von Anthropic, eine Anweisung von US-Handelsminister Howard Lutnick. Ab sofort dürfe das Unternehmen seine beiden leistungsstärksten Sprachmodelle, Claude Fable 5 und Mythos 5, keinem ausländischen Staatsangehörigen mehr zugänglich machen. Nicht außerhalb der Vereinigten Staaten. Aber auch nicht innerhalb. Nicht im Browser. Nicht im Unternehmensaccount. Nicht im Forschungscluster einer amerikanischen Universität. Und auch nicht für Anthropics eigene Mitarbeitende mit ausländischem Pass, die in San Francisco an genau diesen Modellen arbeiten.

Wenige Stunden später hat Anthropic beide Modelle weltweit für alle Nutzer abgeschaltet. Das Unternehmen schreibt in seiner offiziellen Stellungnahme, eine technische Differenzierung nach Staatsangehörigkeit sei in der vorhandenen Infrastruktur nicht sauber abzubilden, und ein Pauschalverbot für Nicht-US-Bürger sei mit den eigenen Werten nicht vereinbar gewesen. Andere Claude-Modelle, darunter Claude Opus 4.8, sind nicht betroffen. Die Begründung des Handelsministeriums berief sich auf eine angebliche Sicherheitslücke, die ein Wettbewerber als Jailbreak in Mythos 5 demonstriert haben will. Anthropic widerspricht: Die Schwachstelle sei geringfügig und in vergleichbarer Form auch in GPT-5.5 und anderen frei verfügbaren Modellen reproduzierbar.

Ich habe gestern in einem kurzen LinkedIn-Beitrag formuliert, dass Frontier-Modelle ab diesem Tag kein Cloud-Dienst mehr sind, sondern eine kontrollierte Dual-Use-Technologie. Dieser Text hier nimmt sich Zeit, das auseinanderzulegen. Denn die Geschichte ist komplizierter als jede Schlagzeile suggeriert. Sie hat eine juristische Dimension, eine industriepolitische, eine sicherheitspolitische, eine demokratische, eine europäische und eine philosophische. Und Anthropic ist in dieser Geschichte nicht nur das Opfer einer plötzlichen Anordnung. Anthropic ist auch ein Unternehmen, das sich seit Jahren so positioniert hat, dass dieser Tag irgendwann kommen musste.

Anthropic-Exportkontrolle: Was rechtlich an diesem Tag passiert ist

Die Anthropic-Exportkontrolle des Handelsministerium stützt sich auf eine Doktrin, die in der Export-Regulierung seit Jahrzehnten existiert, aber bisher nie auf ein KI-Modell angewendet wurde. Sie heißt deemed export und steht in 15 CFR 734.13 der amerikanischen Export Administration Regulations. Übersetzt bedeutet sie: Wenn kontrollierte Technologie einem ausländischen Staatsangehörigen zugänglich gemacht wird, gilt das als Export in dessen Heimatland. Auch dann, wenn die Person den Boden der Vereinigten Staaten nie verlässt. Auch dann, wenn die Technologie nur als Service über einen Bildschirm konsumiert wird.

Diese Doktrin ist ursprünglich für Halbleiter, Verschlüsselungssoftware und biotechnologische Verfahren entworfen worden. Sie behandelt Wissen wie Ware. Ein chinesischer Doktorand in einem Reinraum, der eine kontrollierte Chip-Architektur sieht, gilt als Empfänger eines Exports. Ein indischer Postdoc, der an einer Universität mit einem kontrollierten Verschlüsselungsalgorithmus arbeitet, ebenso. Diese Logik ist in der Vergangenheit immer wieder kritisiert worden, weil sie Forschungsfreiheit, akademische Mobilität und unternehmerische Realität in den Vereinigten Staaten massiv einschränkt. Aber sie war eingeführt, ausjudiziert und eingespielt. Auf ein Sprachmodell, das Millionen Menschen weltweit gleichzeitig benutzen, ist sie nie zugeschnitten worden.

Genau hier liegt der juristische Knackpunkt. Die Biden-Administration hatte im Januar 2025 die sogenannte AI Diffusion Rule erlassen, die geklärt hätte, wann und wie KI-Modellgewichte als kontrollierte Technologie gelten und welche Länder welchen Zugang behalten. Die Trump-Administration hat diese Regel im Mai 2025 zurückgenommen. Das Government Accountability Office hat am 12. Mai 2026 entschieden, dass diese Rücknahme selbst eine regulatorische Handlung im Sinne des Congressional Review Act darstellt, also nicht ohne weiteres rechtsfrei sein kann. Sie können das in der Aufarbeitung bei JD Supra nachlesen. Im Klartext: Es gibt zur Stunde keine klare, kongressmandatierte Norm dafür, was ein KI-Modell exportkontrollrechtlich überhaupt ist. Das Handelsministerium handelt im rechtlichen Halbschatten und beruft sich auf die Residualkompetenz der EAR. Genau das macht die Anordnung gegen Anthropic so weitreichend. Sie schafft Faktenrecht durch Vollzug.

Die Wassenaar-Erinnerung

Wer in den späten Neunzigerjahren in der Krypto-Community aktiv war, kennt das Muster. Damals galt starke Verschlüsselungssoftware unter dem Wassenaar-Arrangement als kontrollierte Dual-Use-Technologie. Der amerikanische Kryptograph Daniel Bernstein hat in einem mehrjährigen Verfahren erstritten, dass Quellcode als Form von Sprache durch den Ersten Verfassungszusatz geschützt sei. Phil Zimmermann hat PGP-Quellcode als gedrucktes Buch ins Ausland gebracht, weil Bücher anders kontrolliert werden als digitale Dateien. Es waren Jahre des Streits zwischen Geheimdiensten, Industrie, Wissenschaft und Bürgerrechtsorganisationen. Am Ende stand eine grobe Linie: kommerzielle Standardverschlüsselung wurde liberalisiert, militärisch relevante Spezialverfahren blieben kontrolliert. Die Industrie hat dazwischen ihre Geschäftsmodelle neu sortiert.

Die heutige Situation ähnelt der damaligen in Struktur, nicht in Maßstab. Damals ging es um eine Funktion, die in jeder modernen Software steckt. Heute geht es um Systeme, die als Co-Pilot in Forschung, Strategie, Code, Recht und industrieller Steuerung wirken. Wenn ein Modell wie Mythos 5 in einem Bankenkonzern, in einer Behörde, in einem Rüstungsunternehmen oder in einer Klinik dieselbe Rolle übernimmt wie ein erfahrener Analyst, dann ist die Frage der Zugangskontrolle keine theoretische mehr. Sie ist eine sicherheits- und industriepolitische Frage. Die Wassenaar-Geschichte zeigt aber auch, was passiert, wenn diese Kontrolle hektisch und ohne saubere Linien angelegt wird: Sie verzögert nicht den Wettbewerb, sie verlagert ihn.

Was Anthropic in diesen Konflikt mitgebracht hat

Die Anordnung der Anthropic-Exportkontrolle vom 12. Juni fällt nicht in ein politisches Vakuum. Sie ist der jüngste Stein in einer Konfliktreihe, die seit Februar 2026 zwischen Anthropic und der US-Regierung läuft. Am 27. Februar 2026 hat Verteidigungsminister Pete Hegseth Anthropic offiziell als „supply chain risk to national security" eingestuft. Zum ersten Mal in der Geschichte des Verteidigungsministeriums traf diese Einstufung ein amerikanisches Unternehmen. Auslöser war Anthropics Weigerung, vertragliche Klauseln zu streichen, die den Einsatz seiner Modelle für autonome letale Waffensysteme und für anlasslose inländische Massenüberwachung untersagen. Sie können die Aufarbeitung bei GIS Reports nachlesen.

Anthropic hat am 9. März 2026 zwei Bundesklagen eingereicht, das Verfahren läuft seit den Eröffnungsplädoyers am 19. Mai 2026. Es geht um die Frage, ob ein Unternehmen das Recht behalten darf, in seinen Nutzungsbedingungen militärische Hochrisikoanwendungen auszuschließen, ohne deshalb von staatlichen Aufträgen pauschal ausgesperrt zu werden. Es ist eine Auseinandersetzung über die Grenze zwischen unternehmerischer Selbstbindung und staatlicher Beschaffungsmacht. Sie ist nicht abgeschlossen.

Es lohnt sich, an dieser Stelle ehrlich zu sein. Anthropic hat sich seit der Gründung als das ethisch reflektierende KI-Unternehmen positioniert. Constitutional AI, Responsible Scaling Policy, der Public Benefit Corporation Status, die explizite Selbstverpflichtung zur Ablehnung bestimmter Einsatzgebiete. Das ist auf den ersten Blick ein moralischer Sonderweg. Auf den zweiten Blick ist es auch ein Geschäftsmodell, das in einem regulierten Markt enorme Wettbewerbsvorteile schafft. Banken, Krankenhäuser, Behörden und Energieversorger kaufen lieber bei einem Anbieter, der vertraglich nachweisen kann, dass er bestimmte Dinge nicht macht. Ethik ist hier Differenzierung. Das ist nicht zynisch gemeint. Es ist eine nüchterne Beobachtung.

Genau diese Differenzierung gerät jetzt in Spannung mit der Sicherheitslogik der Regierung. Aus der Perspektive Hegseths und Lutnicks ist ein Frontier-Modell nicht primär ein Produkt, das man am Markt kauft. Es ist eine strategische Fähigkeit, die in nationalem Interesse verfügbar sein muss. Wer diese Fähigkeit anbietet, aber den Staat von zentralen Anwendungen ausschließt, betreibt aus dieser Sicht keine Ethik, sondern eine Form der industriepolitischen Insubordination. Das ist eine harte Lesart. Sie ist nicht teilbar, aber sie ist nachvollziehbar.

Anthropic ist in diesem Konflikt deshalb ein Grenzfall. Die Selbstdarstellung als ethischer Sonderweg ist authentisch und gleichzeitig Marketing. Die Auseinandersetzung mit dem Pentagon ist materiell begründet und gleichzeitig medial gepflegt. Die Anordnung vom 12. Juni ist ein Schritt der Regierung, der sich auf eine angeblich harmlose Schwachstelle beruft und in Wirklichkeit eine andere Botschaft transportiert: Ihr seid privatwirtschaftlich, aber ihr habt eine staatliche Funktion. Wenn ihr das nicht akzeptiert, könnt ihr nicht im Frontier-Markt bleiben. Die Frage, ob das Marketing ist, Opferrolle oder eine echte Grenzüberschreitung der Exekutive, ist nicht eindeutig zu beantworten. Sie ist alles dreies zugleich, in unterschiedlicher Mischung, je nachdem, welchen Aspekt man betrachtet.

Die spieltheoretische Lage

Schaut man auf die angeordnete Anthropic-Exportkontrolle mit dem nüchternen Blick der Industrieökonomie, ergeben sich drei plausible Reaktionen im globalen System. Sie laufen parallel ab, nicht nacheinander. Wer eine davon allein betrachtet, missversteht die Lage.

Erstens: Substitution durch chinesische Modelle. In Forschungslaboren von Singapur über Dubai bis São Paulo wird heute Morgen jemand sitzen und prüfen, ob Qwen, DeepSeek oder ein anderes chinesisches Frontier-Modell die Aufgaben übernehmen kann, die gestern noch über Claude liefen. Die rationale Entscheidung in einem Auftragsforschungslabor in Singapur ist nicht, monatelang auf eine US-Lizenz zu warten. Die rationale Entscheidung ist, den Workflow auf ein zugängliches Modell zu portieren. Jede Sperre, die nicht in eine klare Lizenzarchitektur eingebettet ist, beschleunigt diese Substitution. Sie schwächt nicht die Nachfrage nach Frontier-KI. Sie schwächt den Anbieter, der gesperrt wird.

Zweitens: Beschleunigung europäischer Frontier-Anstrengungen. Mistral hat im ersten Quartal 2026 institutionelle Schulden in Höhe von 830 Millionen Euro aufgenommen, um in Paris ein Hyperscale-Rechenzentrum aufzubauen. Cohere und Aleph Alpha sind in fortgeschrittenen Fusionsverhandlungen, um eine kontinentaleuropäische Frontier-Stack-Allianz zu bilden. Am 17. Mai 2026 hat Mistral-CEO Arthur Mensch vor dem französischen Parlament ausdrücklich davor gewarnt, Mythos 5 für militärische Code-Scanning-Anwendungen einzusetzen, und für eine europäische Souveränitätslösung geworben. Sie können diese Aufarbeitung bei SHM Studio nachlesen. Vier Wochen später ist sein Argument durch eine Anordnung aus Washington bestätigt worden, die er selbst nicht hätte besser inszenieren können.

Drittens: Abkopplung des Globalen Südens. Wenn KI-Frontier-Zugang zu einem Privileg weniger Staaten wird, dann entsteht in vielen Schwellenländern eine Mischung aus pragmatischer Anlehnung an chinesische Infrastruktur und eigenständigen Open-Weight-Stacks. Indien hat eine eigene Strategie. Die Vereinigten Arabischen Emirate haben mit Falcon ein vorzeigbares Modell aufgebaut. Brasilien diskutiert öffentlich über souveräne KI-Infrastruktur. Die größere geopolitische Verlierergeschichte einer harten US-Exportlinie ist nicht China. Es ist die Bindung des Globalen Südens an das amerikanische Tech-Ökosystem, die in den letzten zwanzig Jahren mühsam aufgebaut wurde.

Was Europa daraus lernen muss

Die europäische Debatte über digitale Souveränität läuft seit Jahren in einem Modus, der zwischen Pathos und Resignation pendelt. Beides ist unbrauchbar. Die Wirklichkeit ist nüchterner. Europa hat im Mai 2026 durch den Vize-Chef der Europäischen Zentralbank, Frank Elderson, deutlich zu hören bekommen, dass kontinentale Banken durch Anthropics Project Glasswing vom Mythos-Zugang ausgeschlossen seien und „keine Entschuldigung für Untätigkeit" hätten. Vier Wochen später ist Mythos für niemanden mehr verfügbar. Das ist keine Befreiung. Das ist die Bestätigung einer Verwundbarkeit, die schon vorher da war.

Wenn die europäische Reaktion auf die Anthropic-Exportkontrolle produktiv sein soll, muss sie an drei Wahrheiten ansetzen, die ungemütlich sind, aber unvermeidlich.

Erste Wahrheit: Compute schlägt Modell

Mistral arbeitet heute mit einer installierten Rechenleistung von etwa 1,5 Gigawatt. Anthropic hat über 5 Gigawatt verfügbar, OpenAI steuert auf 10 Gigawatt bis 2028 zu. Das ist keine modellarchitektonische Frage. Das ist eine Energiefrage. Solange europäische Anbieter eine Größenordnung weniger Compute haben als die amerikanischen Spitzenanbieter, ist die Diskussion über Modellsouveränität in weiten Teilen Symbolpolitik. Die realistische Linie der nächsten drei Jahre lautet: amerikanische Modelle werden auf europäischer oder kanadischer souveräner Infrastruktur betrieben, in Hyperscaler-Wrappern, die Datenresidenz, Schlüsselhoheit und Auditbarkeit garantieren. Sie können die Aufarbeitung dieser Compute-Realität bei Bankwatch nachlesen.

Das ist keine Niederlage. Es ist eine ehrliche Zwischenetappe. Europa kann diesen Weg nutzen, wenn es ihn aktiv gestaltet, statt ihn zu beklagen. Die Frage ist nicht, ob man heute ein eigenes Frontier-Modell hat. Die Frage ist, ob man in fünf Jahren die Compute-Infrastruktur hat, auf der eines laufen könnte. Das ist die wichtigere strategische Investition.

Zweite Wahrheit: Beschaffung ist Industriepolitik

Die öffentliche Hand in Europa ist eine der größten Käuferinnen von IT-Leistungen weltweit. Wenn diese Käufermacht in zersplitterten Ausschreibungen verpufft, die im Detail unterhalb des Sichtbarkeitshorizontes liegen, kann sie keine strategische Wirkung entfalten. Die Reform der öffentlichen Beschaffung, die seit Monaten in Brüssel diskutiert wird, ist deshalb keine Verwaltungsfrage. Sie ist die wichtigste industriepolitische Schraube, die in Europa ohne Zustimmung Washingtons gedreht werden kann. Wer souveräne KI will, muss zuerst souverän einkaufen.

Dritte Wahrheit: Governance ist die einzige eigene Asymmetrie

Europa kann den Compute-Vorsprung der Vereinigten Staaten nicht in drei Jahren aufholen. Es kann den Talentpool im Silicon Valley nicht in drei Jahren reproduzieren. Aber es kann eine Sache, die weder die Vereinigten Staaten noch China in dieser Konsequenz können: einen Ordnungsrahmen formulieren, der den Einsatz von KI an gesellschaftliche Anschlussfähigkeit bindet. Das ist die Logik, der ich seit 2016 unter dem Begriff Robotic Governance arbeite. Es ist die Logik, die in Wien beim EDAY 2026 in jeder Diskussion durchgeklungen ist. Sie ist keine Bremse. Sie ist eine Marktposition. Wer den Goldstandard für vertrauenswürdige KI definiert, hat eine eigene Asymmetrie, die nicht durch Rechenleistung allein erkauft werden kann.

Die demokratische Frage

An dieser Stelle muss die Analyse einen Schritt zurücktreten und das Bild größer einrahmen. Eine Regierung, die einem privaten Unternehmen die globale Abschaltung eines Produkts anordnet, weil sie eine Schwachstelle als nationalen Sicherheitsrisiko einstuft, agiert in einem Graubereich, der weit über die Frage der KI hinausreicht. Die Linie zwischen legitimer Sicherheitspolitik und Disziplinierung eines unbequemen Unternehmens ist hier dünn.

Auf der einen Seite ist es das gute Recht einer Demokratie, kritische Technologien zu kontrollieren. Wer mit Halbleitern, Verschlüsselung oder biotechnologischen Verfahren handelt, kennt diese Kontrolle seit Jahrzehnten. Es wäre absurd, ausgerechnet bei den leistungsfähigsten Sprachmodellen der Welt so zu tun, als sei das Thema irrelevant. Modelle wie Mythos 5 können in Bereichen unterstützen, in denen ein Fehlgebrauch realen Schaden anrichtet: bei der Suche nach Schwachstellen in kritischer Infrastruktur, bei der Beschleunigung biochemischer Forschung, bei der Erstellung manipulativer Inhalte in Wahlkämpfen. Eine Regierung, die hier nichts täte, würde ihre Schutzpflicht verfehlen.

Auf der anderen Seite ist die Art und Weise dieser konkreten Anordnung beunruhigend. Sie kommt ohne öffentliche Anhörung. Ohne nachvollziehbare technische Begründung. Ohne abgestufte Lizenzregelung. Und sie trifft ausgerechnet ein Unternehmen, das mit der Regierung in einem laufenden Rechtsstreit über staatliche Beschaffung steht. Wer diese drei Umstände nebeneinanderlegt, hat ein Recht auf Skepsis. Es ist mindestens nicht ausgeschlossen, dass die Sicherheitslogik hier als Werkzeug eingesetzt wird, um eine industriepolitische Schraube anzuziehen. Genau diese Möglichkeit ist ein Problem für ein Rechtssystem, das von Vertrauen in seine Verfahren lebt.

Ich bewerte das im Ergebnis nicht eindimensional. Die Anthropic-Exportkontrolle als reinen Akt staatlicher Willkür zu lesen, wäre naiv. Sie als reinen Vollzug einer Sicherheitsroutine zu lesen, wäre ebenso naiv. Sie ist beides zugleich. Und sie ist ein Präzedenzfall, der weit über Anthropic hinaus wirken wird, weil andere Anbieter aus diesem Tag eine Lektion ziehen werden: Wer in einem politisch sensiblen Markt Frontier-Modelle anbietet, muss sich auf eine staatsnahe Logik einstellen. Die Zeit der Plattform-Idylle ist vorbei.

Die philosophische Ebene

Hinter der ökonomischen, juristischen und politischen Schicht liegt eine philosophische Frage, die den Tag erst zu dem macht, was er ist. Sie lautet: Was ist ein KI-Modell eigentlich? Ist es ein Produkt, das man verkauft? Eine Dienstleistung, die man bereitstellt? Eine Infrastruktur, die man betreibt? Eine Form von Wissen, die man teilt? Oder eine kollektive Fähigkeit, die einer Gesellschaft gehört, sobald sie über eine bestimmte Schwelle hinaus existiert?

Die Frage ist nicht akademisch. Die Antwort entscheidet, welche rechtliche Hülle passt. Wenn ein Modell ein Produkt ist, gilt Vertragsrecht. Wenn es eine Dienstleistung ist, gilt Verbraucherrecht. Wenn es Infrastruktur ist, gilt Netzregulierung. Wenn es Wissen ist, treten Forschungsfreiheit und Wissenschaftsgrundrechte hinzu. Wenn es eine kollektive Fähigkeit ist, dann beginnt eine ganz andere Diskussion, eine über öffentliche Güter, Treuhänderschaft und Eigentum an gesellschaftsrelevanten Fähigkeiten.

Die Anordnung vom 12. Juni hat sich für eine bestimmte Antwort entschieden, ohne sie auszubuchstabieren. Sie hat das Modell faktisch als kontrollierte Dual-Use-Technologie behandelt, also als etwas zwischen Ware und Waffe. Das ist eine starke Einordnung. Sie hat Folgen für die Art und Weise, wie wir künftig über Forschung, Open Weights, akademische Mobilität und internationale Zusammenarbeit reden müssen. Es ist nicht zu früh, diese Diskussion offensiv zu führen. Im Gegenteil. Wenn wir sie nicht führen, wird sie für uns geführt.

Was Unternehmen jetzt konkret tun sollten

Wer in einem mittelständischen oder großen Unternehmen die KI-Architektur verantwortet, hat seit gestern eine Liste an Fragen, die nicht warten kann. Sie ist nicht erschöpfend. Sie ist eine Reihenfolge.

Erstens: Anbieterabhängigkeit auditieren

Welche Prozesse in Ihrem Haus laufen heute über einen einzelnen Frontier-Anbieter? Welche davon sind geschäftskritisch? Welche davon wären innerhalb von 72 Stunden auf ein anderes Modell migrierbar? Wenn die Antwort auf die dritte Frage nicht klar ist, haben Sie ein offenes Risiko. Sie können dieses Risiko nicht durch Vertragsklauseln allein abdecken. Sie brauchen technische Substituierbarkeit.

Zweitens: Souveräne Infrastruktur als Option halten

Die Diskussion um souveräne Cloud-Wrapper, EU-Datenresidenz und Schlüsselhoheit ist nicht mehr theoretisch. Sie ist ein Beschaffungsthema. Wer kritische KI-Anwendungen baut, sollte heute mindestens eine Option dokumentiert haben, die diese Anwendungen auch dann tragen kann, wenn das primäre US-Modell nicht mehr verfügbar ist. Das ist keine Polit-Geste. Das ist Risikomanagement.

Drittens: Open-Weight-Strategien ernsthaft prüfen

Open-Weight-Modelle haben in den letzten 18 Monaten eine Qualitätssteigerung erlebt, die viele unterschätzt haben. Sie sind kein Frontier-Ersatz für alle Aufgaben. Aber sie sind für eine wachsende Zahl von Anwendungen eine ernsthafte Alternative. Wer noch keine Position zu Open Weights hat, sollte sie sich erarbeiten. Idealerweise mit einem konkreten Pilotanwendungsfall.

Viertens: Governance-Linie sauber legen

Wenn die Frage, welches Modell wofür eingesetzt wird, in Ihrem Haus auf Folien steht, aber nicht in einem Prozess hängt, gehört sie in einen Prozess. Das ist keine bürokratische Belastung. Es ist die einzige Möglichkeit, in einem Markt zu bestehen, in dem Anbieter über Nacht verschwinden können. Wer Governance hat, hat Optionen. Wer keine hat, lebt vom Glück.

Der größere Bogen

Es ist verlockend, die Verfügung zur Anthropic-Exportkontrolle vom 12. Juni 2026 als eine Episode zu sehen. Eine einzelne Anordnung, ein einzelnes Unternehmen, ein einzelner Konflikt. Diese Lesart greift zu kurz. Was an diesem Abend in Washington passiert ist, ist die offizielle Abkündigung einer Periode, in der Frontier-KI als globales Konsumgut gehandelt wurde. Diese Periode ist vorbei. Sie hat in etwa von 2022 bis 2026 gedauert. Sie hat eine bemerkenswerte Welle an Demokratisierung produziert, von Schulkindern in Manila bis zu Anwaltskanzleien in Hamburg. Und sie hat ein Erwartungsgefüge geschaffen, das in der neuen Phase nicht mehr trägt.

Die nächste Phase wird weniger spektakulär aussehen. Sie wird durch Lizenzen, Wrapper, Auditberichte, Beschaffungsklauseln und nationale Stack-Strategien geprägt sein. Sie wird leiser, formeller, weniger Konsumgut, mehr Versorgungsgut. Sie wird in vielen Punkten nicht so anschlussfähig sein wie die bisherige. Aber sie wird stabiler sein, weil sie auf realistischen Annahmen über die Welt aufbaut, statt auf der Annahme, dass Tech immer Tech bleibt und Politik immer Politik.

Wer in dieser nächsten Phase wettbewerbsfähig sein will, muss auf drei Ebenen denken: technische Substituierbarkeit, regulatorische Anschlussfähigkeit, souveräne Infrastrukturoptionen. Wer eine dieser drei Ebenen ignoriert, wird Geld verlieren. Wer alle drei beherrscht, wird in einem Markt arbeiten, in dem Vertrauen wieder ein knappes Gut ist und entsprechend bezahlt wird.

Das ist nicht das Ende der KI-Globalisierung. Es ist das Ende ihrer Naivität. Und es ist, bei aller Beunruhigung über die konkreten Umstände dieser Anordnung, kein schlechter Anlass für eine ehrliche Inventur.

Häufige Fragen

Was genau hat das US-Handelsministerium am 12. Juni 2026 angeordnet?

Handelsminister Howard Lutnick hat Anthropic angewiesen, Claude Fable 5 und Mythos 5 keinem ausländischen Staatsangehörigen mehr zugänglich zu machen, weder außerhalb noch innerhalb der Vereinigten Staaten. Anthropic hat beide Modelle daraufhin weltweit für alle Nutzer abgeschaltet, weil eine Differenzierung nach Staatsangehörigkeit technisch nicht sauber abbildbar war. Andere Claude-Modelle wie Opus 4.8 bleiben verfügbar.

Auf welcher Rechtsgrundlage basiert die Anordnung?

Das Handelsministerium beruft sich auf die deemed-export-Doktrin nach 15 CFR 734.13 der Export Administration Regulations. Diese Norm wurde ursprünglich für Halbleiter, Verschlüsselung und Biotechnologie entwickelt und nie zuvor auf ein KI-Modell angewendet. Eine ausdrückliche regulatorische Klarstellung für KI hätte die AI Diffusion Rule der Biden-Administration geliefert, die im Mai 2025 zurückgenommen wurde.

Warum wurden die Modelle global abgeschaltet und nicht nur für Nicht-US-Bürger?

Anthropic erklärt, die vorhandene Infrastruktur erlaube keine saubere Filterung nach Staatsangehörigkeit. Hinzu kommt, dass ein Pauschalverbot für Nicht-US-Bürger mit den eigenen Werten und mit US-Antidiskriminierungsrecht in Konflikt stehen würde. Eine vollständige Abschaltung war für das Unternehmen die schnellste und juristisch sauberste Reaktion.

Anthropic und der Pentagon-Streit

In welchem Konflikt steht Anthropic mit dem Pentagon?

Am 27. Februar 2026 hat das US-Verteidigungsministerium Anthropic als „supply chain risk to national security" eingestuft. Hintergrund war Anthropics Weigerung, vertragliche Klauseln zu entfernen, die den Einsatz seiner Modelle für autonome letale Waffensysteme und anlasslose inländische Massenüberwachung untersagen. Anthropic hat am 9. März 2026 zwei Bundesklagen eingereicht, die Eröffnungsplädoyers fanden am 19. Mai 2026 statt.

Hängt die Exportanordnung mit diesem Streit zusammen?

Eine direkte Kausalität ist nicht offiziell belegt. Die zeitliche und sachliche Nähe ist aber so eng, dass eine Unabhängigkeit beider Vorgänge unwahrscheinlich erscheint. Die Anordnung trifft genau das Unternehmen, das sich gegen bestimmte staatliche Einsatzbedingungen wehrt, und beruft sich auf eine Schwachstelle, die nach Anthropics eigener Darstellung in vergleichbarer Form auch in anderen Frontier-Modellen reproduzierbar ist.

Ist Anthropic in diesem Konflikt ein Opfer oder ein Provokateur?

Beides hat Anteile. Anthropic hat sich von Anfang an als ethisch reflektierendes KI-Unternehmen positioniert, was authentische Selbstbindung und kommerzielle Differenzierung zugleich ist. Die Konfrontation mit dem Verteidigungsministerium ist materiell begründet und gleichzeitig medial gepflegt. Die Anordnung vom 12. Juni geht auf staatlicher Seite weit über eine reine Sicherheitsroutine hinaus. Es gibt also legitime Kritik in mehrere Richtungen.

Auswirkungen auf den Markt

Welche Modelle sind weiter verfügbar?

Anthropic stellt weiterhin Claude Opus 4.8 und weitere ältere Modelle bereit. Andere Frontier-Anbieter wie OpenAI mit GPT-5.5 oder chinesische Anbieter wie Qwen und DeepSeek sind nicht von der Anordnung betroffen. Praktisch heißt das, dass viele Unternehmensanwendungen migrationsfähig sind, allerdings mit teils erheblichem Aufwand in Promptdesign und Toolingschicht.

Müssen europäische Unternehmen jetzt ihre KI-Strategie ändern?

Die Strategie selbst muss nicht über Nacht umgeworfen werden. Aber jede Strategie, die auf einem einzelnen US-Frontier-Anbieter ruht, ist ab gestern einem konkreten politischen Risiko ausgesetzt. Ein technischer Migrationspfad zu einem zweiten Anbieter, eine dokumentierte Open-Weight-Option und eine souveräne Infrastrukturoption sollten in den nächsten Monaten realistisch verfügbar sein. Das ist keine Hysterie, das ist Risikomanagement.

Profitieren chinesische Anbieter von dieser Anordnung?

Sehr wahrscheinlich. Forschungslabore und Unternehmen in Asien, Lateinamerika und dem Nahen Osten, die bisher Mythos oder Fable genutzt haben, werden in den nächsten Wochen Workflows auf Qwen, DeepSeek oder vergleichbare Modelle portieren. Jede Sperre ohne klare Lizenzlogik beschleunigt die Substitution durch zugängliche Alternativen. Das ist keine geopolitische These, sondern beobachtbare Marktrationalität.

Was bedeutet das für Mistral, Aleph Alpha und Cohere?

Die europäischen Frontier-Anbieter erhalten ein Argument, das sie selbst nicht besser hätten formulieren können. Mistral-CEO Arthur Mensch hatte bereits am 17. Mai 2026 vor dem französischen Parlament für eine souveräne Alternative geworben. Die laufenden Fusionsverhandlungen zwischen Cohere und Aleph Alpha bekommen industriepolitischen Rückenwind. Allerdings bleibt der Compute-Unterschied zu den US-Anbietern groß und ist nicht innerhalb von Monaten zu schließen.

Rechtliche und politische Einordnung

Ist die Anordnung rechtmäßig?

Die Frage ist offen. Die deemed-export-Doktrin existiert seit Jahrzehnten, ist aber nie auf ein KI-Modell angewendet worden. Eine klare gesetzliche oder regulatorische Grundlage speziell für KI-Modellgewichte existiert seit der Rücknahme der AI Diffusion Rule im Mai 2025 nicht. Das Government Accountability Office hat am 12. Mai 2026 entschieden, dass diese Rücknahme selbst regulatorischer Natur ist. Eine gerichtliche Klärung der konkreten Anordnung ist innerhalb der nächsten Monate wahrscheinlich.

Gibt es eine Parallele in der Geschichte der Exportkontrolle?

Die ähnlichste Parallele ist die Krypto-Debatte der späten Neunzigerjahre rund um das Wassenaar-Arrangement. Damals galt starke Verschlüsselungssoftware als Dual-Use-Technologie. Verfahren wie Bernstein gegen die Vereinigten Staaten und die Praxis von Phil Zimmermann mit PGP haben über Jahre eine Linie zwischen kommerzieller Standardtechnologie und militärisch sensiblen Spezialverfahren etabliert. Die heutige Debatte um KI-Modelle ist in der Struktur ähnlich, im Maßstab aber deutlich größer.

Wie reagiert die Europäische Union offiziell?

Eine formelle EU-Reaktion liegt zum Zeitpunkt dieses Beitrags nicht vor. Aus Brüssel kommen erste Signale, dass die Anordnung in die laufenden Beratungen zur Beschaffungsreform und zu Cloud-Souveränitätskriterien einfließen wird. Frankreich, Deutschland und die Niederlande haben bereits in den vergangenen Monaten auf die Risiken einer einseitigen Abhängigkeit hingewiesen. Eine koordinierte europäische Antwort dürfte allerdings Wochen, nicht Tage, brauchen.

Strategie für Unternehmen und Forschung

Was sollten Unternehmen in den nächsten 30 Tagen tun?

Erstens, alle geschäftskritischen KI-Prozesse auf Anbieterabhängigkeit auditieren. Zweitens, einen dokumentierten Migrationspfad zu einem zweiten Frontier-Anbieter aufbauen. Drittens, eine Open-Weight-Option für mindestens einen produktiven Anwendungsfall prüfen. Viertens, die eigene KI-Governance-Linie so legen, dass Modellwechsel ohne organisatorisches Chaos möglich sind. Diese vier Schritte kosten Geld, aber sie schützen vor deutlich teureren Überraschungen.

Was bedeutet die Anordnung für Forschung und Lehre?

Universitäten und Forschungseinrichtungen mit internationaler Belegschaft müssen prüfen, welche ihrer KI-Werkzeuge unter eine deemed-export-Logik fallen könnten. Das betrifft vor allem Fälle, in denen US-basierte Forschungspartner kontrollierte Werkzeuge mit Nicht-US-Forschern teilen. Für die Lehre ist die unmittelbare Auswirkung gering, sofern alternative Modelle genutzt werden. Für die internationale Forschungszusammenarbeit könnte die Anordnung allerdings ein abkühlendes Signal sein.

Wo finde ich die wichtigsten Originalquellen?

Die offizielle Stellungnahme von Anthropic steht auf der Unternehmensseite. Berichterstattung mit primärer Quellenarbeit findet sich bei Fortune, Bloomberg und Axios. Die rechtliche Aufarbeitung der GAO-Entscheidung zur AI Diffusion Rule liegt unter anderem bei JD Supra. Die Hintergrundberichterstattung zum Pentagon-Konflikt ist bei GIS Reports, CSA Research und CNBC dokumentiert.

Weiterlesen

Wenn Sie diesen Text weiterführen möchten, empfehle ich Ihnen die folgenden Beiträge, in denen ich die größeren Linien hinter der heutigen Lage ausarbeite. Die Robotic Governance als Ordnungsrahmen für autonome Maschinen beschreibt das konzeptionelle Gerüst, in dem KI-Souveränität und industrielle Anschlussfähigkeit zusammenkommen. Der Bericht vom EDAY 2026 in Wien zeigt, wie diese Fragen in der industriellen Praxis Europas konkret aussehen.

Robotik und Automatisierung in der Praxis: Was der EDAY 2026 in Wien gezeigt hat

Es gibt diese Momente, in denen man in einen Saal blickt und merkt, dass eine Frage nicht mehr akademisch ist. Im Julius Raab Saal der Wirtschaftskammer Österreich, am Morgen des 7. Mai 2026, war so ein Moment. Die Reihen waren voll, die ersten zwei Stühle in jeder Reihe gehörten Menschen mit Notizbüchern, hinten standen Leute mit Kaffeebechern an der Wand. Die Frage, die im Raum lag, war nicht, ob Roboter kommen. Sie waren bereits da. Die Frage war, wer in Europa entscheidet, wie sie hier ankommen.

Der EDAY 2026 der Wirtschaftskammer Österreich stand unter dem Motto „Robotik und Automatisierung - Investitionen mit Zukunft". Es ist Österreichs größtes Digitalisierungsevent. In diesem Jahr hat es einen Charakter angenommen, den man nicht mehr nur Konferenz nennen kann. Es war ein Frühwarnsystem.

Die Zahl, die alles verändert

Elf Prozent. So viele österreichische Unternehmen setzen heute Roboter ein. In der Produktion sind es bereits dreizehn Prozent. Bei Betrieben mit mehr als 75 Mitarbeitenden steigt die Zahl auf dreiundvierzig Prozent, und in genau diesen Häusern sind bereits rund fünfzig Prozent der Prozesse automatisiert. Das sind keine Trendaussagen aus einer Beraterpräsentation. Das sind aktuelle Daten aus einer Umfrage der WKÖ, vorgestellt am selben Tag, an dem die Daten besprochen wurden, von Menschen, die sie tagsüber selbst produzieren.

Wer diese Zahlen liest und dann in eine durchschnittliche industrielle Halle in Österreich oder Deutschland blickt, sieht sofort die Lücke. Die produzierenden Schwergewichte rüsten um. Die kleinen und mittleren Betriebe stehen davor wie vor einer Tür, hinter der jemand bereits arbeitet, während sie noch den Schlüssel suchen. Die ehrliche Aufgabe heißt nicht, die Tür zu öffnen. Die ehrliche Aufgabe heißt, den Schlüssel zugänglich zu machen, ohne die Dinge zu vereinfachen, die nicht einfach sind.

Warum Robotik diesmal anders ist

Wer in den vergangenen zwanzig Jahren über Robotik gesprochen hat, meinte meistens etwas Schweres, Gelbes, Eingezäuntes, das in einer Linie an einer Karosserie schraubt. Das gibt es nach wie vor und es ist eine reife, ausgezeichnete Technologie. Aber im Raab Saal lag noch etwas anderes auf dem Tisch. Mobile Roboter, die durch Lager fahren. Autonome Zustellfahrzeuge der Österreichischen Post. Humanoide Systeme, die in der Produktion testweise neben Menschen arbeiten. Roboterzellen, die nicht mehr fest verschraubt sind, sondern morgens umgestellt werden, weil das Produkt es verlangt.

Die wichtigste Veränderung ist nicht, dass diese Systeme existieren. Die wichtigste Veränderung ist, dass sie immer öfter mit Menschen denselben Raum teilen. Sie sind nicht mehr eingezäunt. Sie sind kollaborativ, mobil, lernend. Und das verändert die Verantwortung, die hinter jedem einzelnen Einsatz steht. Eine Roboterzelle ist eine technische Frage. Ein autonomes System, das mit Menschen denselben Gang teilt, ist eine organisatorische, juristische, kulturelle Frage.

Beim EDAY wurde diese Verschiebung spürbar. Im Sallinger Saal sprach Gerald Greiner von BRP-Rotax über humanoide Roboter in der Produktion. Dario Stojicic von ABB Robotics Austria über robotergestützte Maschinenbeladung mit echten Stolpersteinen aus der Praxis. Clarissa Groll und das Team der Österreichischen Post über autonom arbeitende Zustellroboter. Es waren keine Visionen. Es waren Schichtberichte.

Die europäische Entscheidung, die jetzt fällt

Während die operative Realität voranschreitet, ringt Europa um seinen Platz im globalen Robotik-Rennen. Auf der einen Seite stehen Volumen und Geschwindigkeit aus den Vereinigten Staaten und China. Auf der anderen Seite steht ein europäischer Anspruch, der mehr will als das schnellste Produkt. Er will, dass das Produkt anschlussfähig bleibt an die Gesellschaft, in der es eingesetzt wird. Das ist kein Luxus. Das ist eine industrielle Bedingung.

Der EU AI Act ist in Kraft, aber er reguliert künstliche Intelligenz als Software-Phänomen. Was er kaum berührt, ist die Maschine als physisch handelndes System, das sich bewegt, hebt, berührt, Menschen schützen und verletzen kann. Genau hier liegt die Lücke, die ich mit dem Konzept der Robotic Governance seit 2016 zu schließen versuche. Beim EDAY war diese Lücke kein theoretisches Argument mehr. Sie war ein praktisches Problem, mit dem die anwesenden Unternehmer und Unternehmerinnen ihren Beratern, ihren Versicherern und ihren Betriebsräten gegenübersitzen.

Die Frage, die ich in beiden Sälen aufgeworfen habe, lautet schlicht: Wenn Europa nicht in den nächsten Jahren entscheidet, welche Robotik wir wollen, wie wir sie haftbar machen, wie wir sie ausbilden und wie wir sie nutzen, dann wird die Entscheidung für uns getroffen. Vom Markt, von Lieferanten, von Standards aus anderen Wirtschaftsräumen. Das ist keine technologische Frage. Das ist eine souveränitätspolitische Frage.

Keynote „Robotik, KI und die nächste industrielle Dekade - Was Europa jetzt entscheiden muss, bevor andere es für uns tun" beim EDAY 2026 in Wien.

Vom Pilotprojekt zur Produktivlinie

Auf jeder Konferenz dieser Art lassen sich zwei Sorten von Beiträgen unterscheiden. Die einen zeigen Demos. Die anderen zeigen Schichten. Demos beeindrucken. Schichten überzeugen. Beim EDAY war der Anteil der Schichten ungewöhnlich hoch. Das ist das eigentlich Bemerkenswerte an diesem Jahr.

Günter Renner von Internorm erklärte, wie End-to-End-Automatisierung Vertrieb und Produktion verbindet - ein Auftrag, ein durchgängiger Fluss. Gerhard Anzinger von Anzinger Logistik beschrieb das Lager 2026 mit einem Satz, den man sich notieren sollte: „Wer nicht automatisiert, verliert. Wer falsch automatisiert, auch." Hannes Watzinger zeigte mit DigiTrans, wie automatisiertes Fahren Österreich konkrete Chancen eröffnet. Christoph Kandlhofer von voestalpine Signaling erklärte vorausschauende Anlagenökosysteme. Thomas Blumauer-Hießl von Siemens DAI zog die Linie zur Rolle des Menschen in autonomen Systemen.

Das Muster hinter all diesen Beiträgen war fast immer dasselbe. Die Technologie ist nicht das Problem. Die Technologie funktioniert. Das Problem liegt eine Etage tiefer und eine Etage höher zugleich: bei der Datenqualität, an die das System angeschlossen wird, und bei der Entscheidungsklarheit, mit der die Organisation den Ausnahmefall behandelt. Beides ist Hausaufgabe, nicht Hexerei. Aber beides bleibt häufig liegen, weil es weniger glamourös ist als die nächste Demo.

Vier Hebel, die KMU jetzt nutzen können

Wenn man die Vorträge des Tages sortiert und das Geräusch der Buzzwords herausfiltert, bleiben vier Hebel übrig, die in kleinen und mittleren Betrieben in den nächsten zwölf Monaten realistisch funktionieren. Sie sind kein Patentrezept, sondern eher eine Reihenfolge.

Erstens: Den Engpass sauber benennen

Automatisierung lohnt sich dort, wo ein konkreter Engpass schmerzt: Bestückung einer Maschine, Kommissionierung im Lager, eine Qualitätsprüfung, die jeden Freitag den halben Tag bindet. Wer das nicht zuerst benennt, kauft Technik gegen Symptome. Das ist teurer als jede Beratungsstunde.

Zweitens: Die eigenen Daten ehrlich prüfen

Robotik ohne saubere Daten ist eine teure Bühne. Wer noch nie eine Materialnummer doppelt vergeben, eine Schichtaufzeichnung falsch kategorisiert oder einen Ausnahmefall nirgends dokumentiert hat, gehört in ein anderes Buch. Alle anderen brauchen vor dem Roboter zuerst einen ruhigen Vormittag mit der eigenen Datenrealität.

Drittens: Verantwortung vor Rollout klären

Wer darf das System stoppen, wenn es formal funktioniert, aber praktisch Unsinn produziert? Wer haftet, wenn der Ausnahmefall eintritt? Wer entscheidet, wann das System trainiert wird? Diese drei Fragen müssen vor dem Rollout schriftlich beantwortet sein. Nicht in einer Hochglanzpräsentation. In einem Dokument, das jemand am Montag morgen tatsächlich liest.

Viertens: Vorhandene Förderprogramme pragmatisch nutzen

Die WKÖ hat beim EDAY ihre Tools sichtbar gemacht: KI-Servicestelle, KMU.DIGITAL-Förderung, die Innovation Map. Maria Lohmann von der RTR-Servicestelle hat erklärt, wie KMU mit dem AI Act in der Praxis umgehen. Das alles ist verfügbar. Wer es nutzt, spart sich Wochen an Eigenrecherche. Wer es ignoriert, zahlt zweimal: einmal für die Förderung, die in einem anderen Topf liegen geblieben ist, und einmal für den eigenen Berater.

Die Podiumsdiskussion: ein ehrliches Bild Europas

Im Anschluss an die Keynote saßen Heidrun Bichler-Ripfel vom Institut für angewandte Gewerbeforschung, Angelika Sery-Froschauer als Vizepräsidentin der WKÖ, Dario Stojicic von ABB Robotics Austria und Thomas Novak von der FH Oberösterreich mit mir auf dem Podium. Die Diskussion hatte den seltenen Ton, der entsteht, wenn alle am Tisch wissen, worüber sie reden, und niemand etwas verkaufen muss.

Drei Punkte sind hängen geblieben. Erstens: Österreich hat eine ausgesprochen produktive industrielle Mittelklasse, die in der internationalen Wahrnehmung unterschätzt wird. Zweitens: Die Lücke zwischen den Branchenchampions und den nachfolgenden KMU wird sich nur schließen lassen, wenn die Lieferkette technologisch durchgängig denken kann. Drittens: Bildung ist der unterschätzte Hebel. Wer heute in einer Lehrwerkstatt arbeitet, wird in fünf Jahren mit Systemen umgehen, die heute noch nicht gebaut sind. Das ist keine Drohung. Das ist eine Anforderung an die Curricula.

Eröffnungsdiskussion „Zukunft gestalten - Robotik und Automatisierung in der Praxis" mit Heidrun Bichler-Ripfel, Angelika Sery-Froschauer, Dario Stojicic, Thomas Novak und Dominik Bösl.

Was Europa jetzt entscheiden muss

Die zentrale Botschaft des Tages lässt sich in einem Satz fassen: Europa hat noch ein Fenster, aber es ist nicht mehr weit offen. Die nächste industrielle Dekade wird durch wenige Entscheidungen geprägt, die in den kommenden drei bis fünf Jahren fallen.

Zur Standardisierung gehört, dass europäische Normen wie ISO 10218, die neue Maschinenverordnung und VDA 5050 für mobile Roboter nicht nur geschrieben, sondern in den Werkstätten gelebt werden. Zur Souveränität gehört, dass Europa eigene Plattformen entwickelt, auf denen humanoide und mobile Systeme trainiert werden, ohne dass die Trainingsdaten auf Servern ausserhalb des Kontinents landen. Zur Bildung gehört, dass jede technische Schule, jede HTL, jede berufsbildende Akademie ihre Curricula daraufhin prüft, ob sie Schüler auf eine Welt vorbereitet, in der mobile autonome Systeme zum Inventar gehören.

Und zur Haftung gehört, dass die Lücke zwischen EU AI Act, Maschinenverordnung und Produkthaftung geschlossen wird. Sonst landen die Streitfragen vor Gerichten, die im Zweifel entscheiden müssen, ohne dass die politische Linie geklärt ist. Das ist die unangenehmste aller Optionen.

Der EDAY im Spiegel der Presse

Die Berichterstattung am Tag nach dem EDAY zeichnete ein Bild, das sich mit der Realität im Saal weitgehend deckte. Der offizielle OTS-Nachbericht der WKÖ ordnete den Tag als „Wachstumstreiber für heimische Betriebe" ein und hob die Robotik-Daten der Umfrage hervor. OE24.tv lieferte einen Fernsehbericht über „Österreichs größtes Digitalisierungsevent". Der Brutkasten fasste den Tag unter der Frage zusammen, ob Robotik und Automatisierung Zukunftstreiber sein können - eine Frage, die im Saal selbst längst beantwortet wirkte. TOP News Österreich und elektro.at ergänzten das Bild mit eigenen Akzenten.

Was bleibt

Ein guter Konferenztag ist keiner, der einen begeistert nach Hause schickt. Ein guter Konferenztag ist einer, der die nächsten drei Wochen die Tagesordnung verändert. Der EDAY 2026 hat das geschafft, weil drei Dinge gleichzeitig passiert sind. Es lagen verlässliche Zahlen auf dem Tisch. Es saßen die richtigen Praktiker im Raum. Und es wurde eine politische Frage gestellt, die nicht delegiert werden kann.

Die Frage lautet, wer in den nächsten Jahren in Europa die Robotik formt: wir, oder andere. Wenn ich nach diesem Tag eine Wette eingehe, dann diese: Es gibt in Österreich und im deutschsprachigen Raum mehr Substanz, mehr Talent und mehr industrielle Erfahrung, als die internationale Wahrnehmung vermuten lässt. Das reicht aber nicht. Es braucht jemanden, der vor dem Rollout entscheidet, was im Fehlerfall passiert. Auf der Ebene einer Maschinenhalle. Und auf der Ebene eines Kontinents.

Solange diese Frage offen ist, sind die elf Prozent eingesetzte Roboter eine schöne Zahl. Wenn sie beantwortet wird, werden daraus die strukturellen Grundlagen für die kommende industrielle Dekade.

Häufige Fragen rund um Robotik, Automatisierung und den EDAY 2026

Was war das Leitthema des EDAY 2026?

Der EDAY 2026 der Wirtschaftskammer Österreich stand unter dem Motto „Robotik und Automatisierung - Investitionen mit Zukunft". Im Mittelpunkt standen Robotik in der Produktion, KI-gestützte Anwendungen für KMU, digitale Souveränität, Cybersicherheit sowie der praktische Umgang mit dem EU AI Act in österreichischen Betrieben.

Wie viele österreichische Unternehmen setzen heute bereits Roboter ein?

Laut der beim EDAY 2026 präsentierten WKÖ-Umfrage setzen 11 Prozent der österreichischen Unternehmen Roboter ein. In der Produktion sind es 13 Prozent, bei Betrieben mit mehr als 75 Mitarbeitenden 43 Prozent. In diesen größeren Häusern sind rund 50 Prozent der Prozesse bereits automatisiert.

Was bedeutet Robotic Governance konkret für KMU?

Robotic Governance ist der Ordnungsrahmen für autonom handelnde, physisch agierende Systeme. Für KMU bedeutet das vor allem drei Dinge: klare Verantwortlichkeiten vor dem Rollout, also wer das System stoppen darf und wer im Ausnahmefall haftet. Anschlussfähigkeit an verbindliche Normen wie die neue Maschinenverordnung und ISO 10218 für industrielle Robotik. Und ein realistischer Umgang mit dem EU AI Act, der KI-Software reguliert, aber die physisch handelnde Maschine kaum berührt.

Welche Hebel sollten KMU für Robotik und Automatisierung jetzt nutzen?

Vier Hebel sind realistisch und in zwölf Monaten umsetzbar. Erstens den konkreten Engpass benennen, statt Technik gegen Symptome zu kaufen. Zweitens die eigenen Daten ehrlich prüfen, bevor Robotik darauf aufgesetzt wird. Drittens Verantwortlichkeiten und Haftung vor dem Rollout schriftlich klären. Viertens die vorhandenen Förderprogramme wie KMU.DIGITAL, die KI-Servicestelle der RTR und die Innovation Map der WKÖ pragmatisch nutzen.

Warum reicht der EU AI Act für Robotik nicht aus?

Der EU AI Act reguliert künstliche Intelligenz primär als Software-Phänomen. Er adressiert kaum, was passiert, wenn ein KI-System körperlich handelt, also sich bewegt, hebt, Menschen berührt oder verletzen kann. Genau diese Lücke schließt das Konzept der Robotic Governance, das physisch handelnde Systeme in Recht, Ethik, Standards, Anreize und gesellschaftlichen Dialog einbettet.

Wo finde ich die Aufzeichnungen der EDAY-Keynote und der Podiumsdiskussion?

Beide Aufzeichnungen sind in der offiziellen YouTube-Playlist der WKÖ verfügbar. Die Keynote „Robotik, KI und die nächste industrielle Dekade" findet sich unter youtube.com/watch?v=u7csYc6a_iY, die Eröffnungsdiskussion „Zukunft gestalten - Robotik und Automatisierung in der Praxis" unter youtube.com/watch?v=qHiOE_TRiKQ. Beide Videos sind Teil der EDAY-2026-Playlist auf dem WKÖ-Kanal.

Welche europäischen Entscheidungen sind für die nächste industrielle Dekade kritisch?

Vier Entscheidungen sind zeitkritisch. Standardisierung, damit europäische Normen für humanoide und kollaborative Robotik nicht nur geschrieben, sondern in den Werkstätten gelebt werden. Souveränität, also eigene Plattformen für das Training autonomer Systeme, ohne dass Trainingsdaten den Kontinent verlassen. Bildung, damit jede HTL, jede berufsbildende Schule und jede Hochschule ihre Curricula auf autonome Robotik im Alltag ausrichtet. Und Haftung, also die Schließung der Lücke zwischen EU AI Act, Maschinenverordnung und Produkthaftung, bevor Gerichte ohne klare politische Linie entscheiden müssen.

Robotic Governance - Warum autonome Maschinen jetzt einen Ordnungsrahmen brauchen

Humanoide Roboter laufen durch Lagerhallen. Autonome Fahrzeuge treffen Ausweichentscheidungen in Millisekunden. Chirurgische Assistenzsysteme führen Eingriffe durch, bei denen kein Chirurg mehr direkt am Instrument tätig ist. Das sind keine Zukunftsszenarien - das ist der Stand von 2024. Der EU AI Act ist in Kraft getreten, aber er reguliert künstliche Intelligenz als Software-Phänomen. Was er kaum berührt: die Maschine als physisch handelndes System, das Menschen bewegt, berührt, schützt oder verletzt. Genau diese Lücke ist der Ausgangspunkt von Robotic Governance - einem Konzept, das seit 2016 akademisch verankert sowie auf Wikipedia dokumentiert ist - und heute drängender wirkt als je zuvor.

Was Robotic Governance bedeutet

Der Begriff wurde 2016 in einem wissenschaftlichen Kontext erstmals verwendet - in einem Promotionsvorhaben an der Technischen Universität München, betreut durch Klaus Mainzer. Die erste Fachveröffentlichung erschien auf der IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) 2016. Ein erweitertes Kapitel folgte im Springer-Sammelband zur Robotic Governance. Beide Publikationen verankern das Konzept akademisch und definieren seinen Geltungsbereich.

Robotic Governance bezeichnet den Ordnungsrahmen für die verantwortungsvolle Forschung, Entwicklung, Implementierung sowie den Umgang mit zunehmend intelligenteren und autonom handelnden Maschinen. Der Ansatz ist holistisch: Er bezieht Forschung, Gesellschaft, Religion, Politik, Industrie und Gewerkschaften ein und zielt auf Konsensbildung durch Diskursethik - nicht auf einseitige Regulierung von oben.

Quelle: https://de.wikipedia.org/wiki/Robotic_Governance

Robotic Governance ist keine Unterabteilung von Corporate Governance, IT Governance oder Technology Governance. Corporate Governance regelt die Unternehmensführung - Aufsichtspflichten, Rechenschaftspflichten, Aktionärsrechte. IT Governance befasst sich mit der strategischen Steuerung von Informationssystemen. Technology Governance behandelt die gesellschaftliche Einbettung von Technologie im weiteren Sinne.

Robotic Governance ist spezifischer und zugleich breiter: Sie bezieht sich ausdrücklich auf Systeme, die physisch in der Welt handeln, die Kräfte ausüben, die sich bewegen und die dabei in direktem Kontakt mit Menschen stehen. Ein Chatbot, der falsche Informationen liefert, ist ärgerlich. Ein autonomes Transportsystem, das falsch entscheidet, verletzt Menschen. Das ist der Unterschied, der den eigenen Ordnungsrahmen rechtfertigt.

Der vollständige Wikipedia-Artikel zum Begriff findet sich unter: de.wikipedia.org/wiki/Robotic_Governance. Er enthält auch Hinweise auf das Robot Manifesto als Ergebnis des diskursethischen Ansatzes - Verhaltenskodizes und prozessuale Normen wie Ethikkommissionen, die Konflikte im Einzelfall lösbar machen sollen, bevor Politik und Verbände eingreifen müssen.

Die Lücke im AI Act und Robotic Governance als Lösung

Der EU AI Act, der 2024 in Kraft trat, ist ein erster ernsthafter Versuch, künstliche Intelligenz regulatorisch zu fassen. Er klassifiziert KI-Systeme nach Risikostufen, schreibt Transparenzpflichten vor und definiert verbotene Anwendungen. Das ist notwendig und richtig.

Aber: Der AI Act reguliert KI als Softwaresystem. Ein Sprachmodell, ein Bildklassifikator, ein Empfehlungsalgorithmus - das sind seine typischen Objekte. Roboter sind mehr. Ein Industrieroboter mit 200 Kilogramm Eigengewicht, der Bauteile mit 1.500 Newton Greifkraft bewegt, ist kein Softwaresystem. Er ist ein mechatronisches System mit Aktorik, Sensorik, Echtzeit-Steuerung und physischer Wirkung in der Welt. Der AI Act erfasst die eingebettete Intelligenz in diesem System - aber nicht die Maschine selbst.

Was der AI Act nicht regelt:

Bewegung und physische Interaktion: Wie ein autonomes System Kräfte auf Menschen oder Objekte ausübt, welche Sicherheitsabstände gelten, wie Nothalte realisiert werden - das ist Domäne von Maschinenrichtlinie, ISO 10218 und branchenspezifischen Standards, nicht des AI Act.
Hardware-Lieferketten: Wer trägt die Verantwortung, wenn ein Roboter aus 47 Komponenten von 23 Zulieferern gebaut wird und in seiner KI-gestützten Funktion versagt? Der AI Act gibt hier keine Antwort.
Mensch-Maschine-Interaktion in sicherheitskritischen Umgebungen: Wie ein Chirurgie-Assistenzsystem mit dem Chirurgen kommuniziert, wie ein kollaborativer Roboter im Schichtbetrieb auf menschliche Annäherung reagiert - das erfordert eigenständige Regulierung.
Autonome Systeme im öffentlichen Raum: Lieferroboter auf Gehwegen, humanoide Assistenzsysteme in Pflegeeinrichtungen, autonome Sicherheitsroboter in Einkaufszentren - sie alle bewegen sich in einem regulatorischen Graubereich.
Rückruf und Lebenszyklusverantwortung: Was passiert, wenn ein autonomes System nach dem Update auf eine neue KI-Version ein anderes Fahrverhalten zeigt? Wer haftet? Die Produkthaftungsrichtlinie wurde 2024 angepasst, aber die Schnittstelle zu lernenden Systemen bleibt ungeklärt.

Die Folge ist konkret: Ein Unternehmen, das heute einen autonomen Industrieroboter mit integrierter KI entwickelt, muss gleichzeitig den AI Act, die Maschinenrichtlinie 2006/42/EG, die neue Maschinenverordnung (EU) 2023/1230, relevante ISO-Normen und branchenspezifische Standards beachten - ohne dass jemand diese Puzzleteile zu einem kohärenten Ordnungsrahmen zusammengesetzt hat. Der Compliance-Aufwand ist real, die Überschneidungen sind komplex, und die Interpretationsspielräume sind groß. Genau das ist die Aufgabe von Robotic Governance: nicht ein weiteres Regelwerk zu schaffen, sondern die vorhandenen Bausteine in einen zusammenhängenden Rahmen zu bringen.

Die fünf Säulen von Robotic Governance

Robotic Governance ist kein Einzelinstrument. Sie ist ein Rahmen, der verschiedene Steuerungsebenen zusammenbringt. Fünf Säulen bilden das Gerüst - entwickelt und beschrieben in den Originalarbeiten von 2016 und fortgeschrieben in der akademischen Diskussion seither.

1. Rechtsrahmen

Gesetze und Verordnungen setzen die verbindliche Basis. Der EU AI Act ist ein Baustein, aber kein vollständiges Gebäude. Notwendig sind klare Haftungsregeln für autonome Systeme: Wenn ein KI-gesteuerter Roboterarm in der Produktion einen Mitarbeiter verletzt, ist die Haftungsfrage heute in vielen Jurisdiktionen offen. Wer haftet - der Roboterhersteller, der Systemintegrator, das betreibende Unternehmen, oder der Entwickler des KI-Modells? Die Produkthaftungsrichtlinie der EU wurde 2024 überarbeitet, aber sie war nicht primär für lernende, sich verändernde autonome Systeme konzipiert.

Zusätzlich braucht es eine Klärung der Rechtspersönlichkeit von Maschinen in spezifischen Kontexten: Ein autonomes Fahrzeug, das als Vertragspartner auftritt, oder ein Roboter-Assistent, der in einer Pflegeeinrichtung eigenständige Entscheidungen über Medikamentengabe trifft - hier fehlen klare rechtliche Kategorien. Die EU-Maschinenverordnung (EU) 2023/1230 ist ein Schritt in die richtige Richtung, aber sie wurde ohne explizite Koordination mit dem AI Act entwickelt. Diese Lücke zwischen den Regelwerken ist das eigentliche strukturelle Problem.

2. Ethische Leitplanken

Rechtliche Mindestvorgaben reichen nicht aus, wenn Maschinen Entscheidungen treffen, die moralisch aufgeladen sind. Wer hat Vorrang: der Fahrgast im autonomen Fahrzeug oder der Fußgänger? Welche Priorität hat die Selbstschutzfunktion eines Roboters gegenüber einem Menschen in unmittelbarer Nähe? Wie bewertet ein humanoider Pflegeroboter konkurrierende Bedürfnisse eines demenzkranken Patienten?

Diese Fragen lassen sich nicht vollständig in Normen codieren. Ethische Leitplanken müssen daher als explizite Designanforderungen in Entwicklungsprozesse integriert werden - nicht als nachträgliche Überprüfung, sondern als Eingabe in die Systemarchitektur. Der IEEE 7000 Standard für ethisch ausgerichtetes System-Design bietet hier einen anwendbaren Rahmen: Er definiert Methoden zur Identifikation ethischer Anforderungen, zur Gewichtung konkurrierender Werte und zur Nachweisbarkeit ethischer Design-Entscheidungen im Audit.

3. Technische Standards

Standards übersetzen abstrakte Anforderungen in konkrete Konstruktionsvorgaben. Ohne sie bleibt Governance abstrakt. Für Robotic Governance sind besonders relevant:

ISO 10218-1: Sicherheitsanforderungen für Industrieroboter. Dieser Standard definiert, wie Schutzzonen realisiert werden, welche Stoppkategorien existieren, wie Sicherheitsabstände berechnet werden und wie das Sicherheitssystem aufgebaut sein muss. Für kollaborative Robotik ergänzt ISO/TS 15066 diesen Rahmen um spezifische Anforderungen an Mensch-Roboter-Kollaboration.
VDA 5050: Schnittstellenstandard für autonome mobile Systeme in Industrie und Logistik. Er ermöglicht herstellerübergreifende Kommunikation zwischen Fahrzeugen und Leitstellen und ist damit eine technische Governance-Maßnahme, die Interoperabilität ohne Vendor-Lock-in sicherstellt. Wer VDA 5050 implementiert, schafft die Grundlage für transparente, auditierbare Systemsteuerung.
IEEE 7000: Ethisch ausgerichtetes System-Design als Norm - eine methodische Grundlage für die Integration ethischer Anforderungen in den Entwicklungsprozess, vom Lastenheft bis zum Abnahmetest.

Standards sind keine bürokratische Last. Sie sind die Sprache, in der Governance operativ wird. Ein Unternehmen, das nach ISO 10218 zertifiziert ist und VDA 5050 implementiert hat, kann gegenüber Kunden, Aufsichtsbehörden und Versicherungen nachweisen, was sein System kann - und was nicht.

4. Wirtschaftliche Anreize

Regulierung allein genügt nicht. Wenn Compliance teurer ist als das kalkulierte Risiko eines Vorfalls, wird Compliance vermieden - vor allem in kleinen und mittleren Unternehmen, wo Ressourcen begrenzt sind. Robotic Governance braucht daher Anreizsysteme, die Compliance wirtschaftlich attraktiv machen.

Das kann über verschiedene Hebel geschehen: Versicherungsmodelle, die nachweislich sicherere Systeme mit niedrigeren Prämien belohnen; Zertifizierungswege, die Marktzugang erleichtern statt ihn zu blockieren; öffentliche Beschaffungsregeln, die Governance-konforme Systeme bevorzugen. Ein Unternehmen, das nachweislich nach ISO 10218 zertifiziert ist, VDA 5050 implementiert hat und IEEE 7000 in seinen Entwicklungsprozess integriert hat, sollte bei öffentlichen Ausschreibungen messbare Vorteile haben. Das wäre Governance mit wirtschaftlicher Wirkung - und keine bloße Compliance-Übung.

5. Gesellschaftlicher Dialog

Technische Systeme, die in Pflege, Bildung, öffentlichem Raum und Produktion wirken, brauchen gesellschaftliche Legitimation. Diese entsteht nicht durch Pressemitteilungen, sondern durch strukturierten Dialog. Das bedeutet: Bürgerbeteiligung bei kommunalen Robotik-Projekten, bevor die ersten Systeme rollen; Gewerkschaftsbeteiligung bei der Einführung autonomer Systeme in Fabriken, nicht nach der Entscheidung, sondern davor; offene, empirisch fundierte Debatten über den Einsatz von Robotern in sensiblen Bereichen wie Kinderbetreuung, Altenpflege oder Strafvollzug.

Robotic Governance ohne gesellschaftlichen Dialog ist Technokratie. Mit strukturiertem Dialog wird sie zu einem belastbaren sozialen Vertrag, der auch dann hält, wenn ein System versagt und die öffentliche Debatte beginnt. Denn in diesem Moment wird nicht das System bewertet, sondern der Prozess, durch den es in die Welt gekommen ist.

Robotic Natives und die Generation R

Alle fünf Säulen richten sich an heutige Akteure: Unternehmen, Regulatoren, Ingenieure, Ethiker, Gewerkschafter. Aber Governance ist keine Momentaufnahme. Sie muss auch für die Menschen entworfen werden, die mit diesen Systemen aufwachsen werden - und die in zwanzig Jahren die Entscheidungen darüber treffen, was mit Robotern erlaubt ist und was nicht.

Dafür wurde 2013 auf dem Gartner CIO Summit der Begriff Generation R eingeführt - zuerst in einem Vortrag, dann in einer wissenschaftlichen Fachveröffentlichung auf der IEEE EmergiTech 2016. Die Generation R, auch als "Generation Robotik" bezeichnet, ist die erste Generation, die mit Robotern im Alltag aufwächst: mit Haushaltsrobotern, mit autonomen Fahrzeugen als selbstverständlichem Transportmittel, mit Spielzeugrobotern als erstem technologischem Begleiter, mit kollaborativen Systemen im Berufsumfeld ihrer Eltern.

Diese Generation wird als Robotic Natives bezeichnet - in Analogie zu den Digital Natives der Generation Y und Z. Der Unterschied ist wesentlich: Digital Natives wuchsen mit Bildschirmen und Netzwerken auf, mit Informationssystemen, die Daten verarbeiten. Robotic Natives wachsen mit Systemen auf, die physisch handeln, die Raum einnehmen, die Kräfte ausüben und die Entscheidungen in der physischen Welt mit physischen Konsequenzen treffen. Das prägt eine grundlegend andere Beziehung zur Technologie - und andere Erwartungen an ihre Governance.

Für Robotic Governance hat das konkrete Konsequenzen:

Bildung: Technologische Kompetenz im Umgang mit autonomen Systemen muss in Schullehrplänen verankert werden - nicht als Wahlfach, sondern als Grundbildung. Wer nicht versteht, wie ein autonomes System Entscheidungen trifft, welche Daten es nutzt und welche Fehlertypen es hat, kann diese Entscheidungen weder bewerten noch anfechten. Das ist eine demokratische Frage, nicht nur eine technische.
Arbeit: Berufsbilder verändern sich. Nicht weil Roboter "alle Jobs wegnehmen" - diese These ist empirisch dünn und historisch wenig belastbar. Sondern weil neue Tätigkeiten entstehen, die andere Qualifikationen erfordern: Roboter-Supervision im Schichtbetrieb, Systemintegration bei heterogenen Flotten, Governance-Compliance als eigenständige Funktion, KI-gestützte Qualitätssicherung in der Produktion. Die Aus- und Weiterbildungssysteme sind darauf noch nicht eingestellt.
Gesellschaft: Die Generation R wird Governance-Fragen anders bewerten als heutige Entscheider. Wer mit autonomen Systemen aufgewachsen ist, stellt andere Fragen: nicht primär "ist das sicher?" - diese Grundfrage wird vorausgesetzt -, sondern "wer ist konkret verantwortlich, wenn es nicht funktioniert?" und "wie kann ich als Betroffener Einfluss nehmen?". Das ist eine reifere und anspruchsvollere Governance-Haltung - und sie muss im System bereits angelegt sein, bevor diese Generation die Entscheider-Positionen einnimmt.

Häufige Fragen: Robotic Governance

Was ist Robotic Governance?

Robotic Governance bezeichnet den Ordnungsrahmen für die verantwortungsvolle Forschung, Entwicklung, Implementierung und den Umgang mit zunehmend intelligenten und autonom handelnden Maschinen. Der Ansatz ist holistisch: Er bezieht Forschung, Gesellschaft, Politik, Industrie und Gewerkschaften ein und zielt auf Konsensbildung durch Diskursethik. Er geht über den EU AI Act hinaus, indem er auch die physische Dimension autonomer Systeme, Haftungsfragen, technische Standards und gesellschaftlichen Dialog umfasst.

Wer hat den Begriff Robotic Governance geprägt?

Der Begriff Robotic Governance wurde von Dominik Bösl geprägt. Die erste wissenschaftliche Erwähnung findet sich in seinem Promotionsvorhaben an der Technischen Universität München, betreut durch Klaus Mainzer. Die erste Fachveröffentlichung erschien 2016 auf der IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), ein erweitertes Kapitel folgte in einem Springer-Sammelband zur Robotic Governance.

Was unterscheidet Robotic Governance vom EU AI Act?

Der EU AI Act reguliert künstliche Intelligenz als Softwaresystem und klassifiziert KI-Systeme nach Risikostufen. Robotic Governance geht weiter: Sie erfasst autonome Maschinen als physisch handelnde Systeme mit Aktorik, Sensorik und direktem Körperkontakt mit Menschen. Sie adressiert Haftung bei autonomen Entscheidungen, Hardware-Lieferketten, Mensch-Maschine-Interaktion in sicherheitskritischen Umgebungen und den gesellschaftlichen Dialog über Robotik - Bereiche, die der AI Act nicht oder kaum abdeckt.

Welche Standards gehören zu Robotic Governance?

Zu den zentralen technischen Standards der Robotic Governance gehören ISO 10218-1 (Sicherheitsanforderungen für Industrieroboter), VDA 5050 (Schnittstellenstandard für autonome mobile Systeme in Industrie und Logistik) und IEEE 7000 (ethisch ausgerichtetes System-Design). Hinzu kommen rechtliche Rahmenbedingungen wie der EU AI Act und die EU-Maschinenverordnung (EU) 2023/1230.

Was ist die Generation R?

Die Generation R, auch Generation Robotik genannt, ist die erste Generation von Menschen, die mit Robotern im Alltag aufwächst. Der Begriff wurde von Dominik Bösl 2013 auf dem Gartner CIO Summit eingeführt und 2016 wissenschaftlich auf der IEEE EmergiTech publiziert. Mitglieder dieser Generation werden als Robotic Natives bezeichnet, in Analogie zu den Digital Natives. Haushaltsroboter, autonome Fahrzeuge und Serviceroboter sind für sie keine Besonderheit, sondern Teil des alltäglichen Lebens.

Welche Rolle spielt VDA 5050 in der Robotik-Governance?

VDA 5050 ist ein Schnittstellenstandard für autonome mobile Roboter (AGV und AMR) in Industrie und Logistik. Er definiert, wie Fahrzeuge verschiedener Hersteller mit einer gemeinsamen Leitstelle kommunizieren. Im Kontext von Robotic Governance ist VDA 5050 eine technische Governance-Maßnahme: Sie sichert Interoperabilität, verhindert Vendor-Lock-in und ermöglicht eine transparente, herstellerübergreifende Systemsteuerung.

Robotic Governance:
Was Unternehmen jetzt tun sollten

Robotic Governance ist kein Thema für 2030. Wer heute autonome Systeme entwickelt, einkauft oder betreibt, agiert bereits in einem regulatorischen Umfeld, das sich schnell verdichtet. Die Maschinenverordnung (EU) 2023/1230 gilt ab 2027. Der AI Act wird schrittweise angewendet. Die ersten Hochrisiko-Kategorien greifen ab 2025. Fünf Maßnahmen, die jetzt umsetzbar sind:

Governance-Inventur machen: Welche autonomen Systeme sind im Einsatz oder in der Beschaffung? Für welche gilt der AI Act, für welche die Maschinenverordnung, für welche ISO 10218? Welche dieser Systeme fallen in Hochrisiko-Kategorien? Diese Überschneidungen müssen kartiert werden, bevor der erste Audit kommt - nicht danach. Ein Unternehmen, das diese Frage nicht beantworten kann, hat eine Compliance-Lücke.
VDA 5050 als technischen Standard verbindlich einführen: Für Unternehmen mit mehreren AGV- oder AMR-Systemen von verschiedenen Herstellern ist VDA 5050 keine Option mehr, sondern operative Notwendigkeit. Wer jetzt proprietäre Schnittstellen weiter betreibt, baut Vendor-Lock-in auf, den er in drei Jahren mit erheblichem Aufwand abbaut. Und er verzichtet auf die Transparenz, die eine auditierbare Systemsteuerung erfordert.
ISO 10218 als Sicherheitsbaseline setzen: ISO 10218-1 definiert den Sicherheitsstand für Industrieroboter. Dieser Standard sollte nicht nur bei Neuanschaffungen geprüft werden, sondern auch für Bestandssysteme als Referenzrahmen dienen. Eine Gap-Analyse gegen ISO 10218 ist der erste Schritt zu einer vertretbaren Sicherheitsdokumentation.
Interne Governance-Rollen definieren: Wer trägt in Ihrer Organisation die Verantwortung für die Governance autonomer Systeme? Wenn die Antwort lautet "das klärt die Rechtsabteilung" oder "das ist Aufgabe der IT-Sicherheit", ist das eine strukturelle Lücke. Robotic Governance braucht technisches, rechtliches und ethisches Wissen in einer Rolle oder in einem strukturierten, interdisziplinären Gremium mit klaren Entscheidungsbefugnissen.
IEEE 7000 als Entwicklungsmethodik einführen: Der IEEE 7000 Standard für ethisch ausgerichtetes System-Design ist kein philosophisches Dokument, sondern eine anwendbare Methodik. Er definiert, wie ethische Anforderungen in Lastenheften formuliert, in Systemdesigns umgesetzt und in Abnahmetests überprüft werden. Das ist Governance, die sich dokumentieren und auditieren lässt.

Kein Unternehmen muss alle fünf Punkte gleichzeitig umsetzen. Aber jedes Unternehmen, das autonome Systeme betreibt, sollte wissen, wo es bei jedem einzelnen Punkt steht - und diese Einschätzung schriftlich festhalten können.

Fazit

Robotic Governance ist kein akademisches Konstrukt, das auf bessere Zeiten wartet. Sie ist die direkte Antwort auf eine konkrete Governance-Lücke: Autonome Maschinen handeln physisch in der Welt, aber der regulatorische Rahmen wurde für Software-Systeme gebaut. Diese Diskrepanz wächst mit jeder neuen Robotergeneration - mit jeder neuen Anwendungsdomäne, mit jedem humanoiden System, das einen neuen gesellschaftlichen Kontext betritt.

Der EU AI Act ist ein wichtiger Schritt - aber er reicht nicht. Er reguliert die Intelligenz im System, nicht das System selbst. Die Maschinenrichtlinie und ISO-Normen regulieren die Mechanik, aber nicht die autonome Entscheidungslogik. Dazwischen liegt ein Raum, der Ordnung braucht. Robotic Governance beschreibt und strukturiert diesen Raum. Sie ist dabei kein Hemmnis für Innovation, sondern deren Voraussetzung: Wer nicht erklären kann, wie sein System entscheidet, wer haftet und welche Standards gelten, wird das System nicht in sicherheitskritischen Anwendungen betreiben dürfen.

Wer jetzt nicht anfängt, diesen Rahmen zu verstehen und intern zu implementieren, wird spätestens beim nächsten Regulierungszyklus unvorbereitet sein. Die Generation R wird Verantwortlichkeit einfordern, nicht Absichtserklärungen. Die Auditoren werden Dokumentation sehen wollen, keine Folien. Und die erste ernsthafte Klage gegen ein autonomes System wird die Frage stellen, ob das Unternehmen einen internen Governance-Prozess hatte - oder nur einen Roboter.

Die Robotic & AI Governance Foundation arbeitet daran, diese Lücken zu schließen - mit konkreten Frameworks, Publikationen und dem Ziel, Robotic Governance als eigenständiges Feld zu etablieren, das Technik, Recht und Gesellschaft zusammen denkt.

"Oh no - not again..." - oder: Warum der KI-Blumentopf für Deutschland noch nicht verloren ist.

Die Entwicklung der künstlichen Intelligenz schreitet rasant voran, und oft scheint es, als könnten nur noch die großen Player aus den USA und China den Ton angeben. Doch genau hier eröffnet sich eine besondere Gelegenheit für Deutschland und Europa. Drei zentrale Beobachtungen zeigen, wo unser Potenzial liegt.

Das unlösbare Problem der Halluzinationen

OpenAI hat in ihrem aktuellen Forschungspaper "Why Language Models Hallucinate" wissenschaftlich bestätigt, dass Halluzinationen in großen Sprachmodellen nicht vollständig lösbar sind. Das Paper auf arXiv belegt, dass diese fehlerhaften, erfundenen Antworten ein inhärentes Problem der Technologie bleiben – unabhängig von der Modellgröße. Eine Studie in Nature bestätigt diese Erkenntnisse und zeigt neue statistische Methoden zur Halluzinations-Erkennung auf.

Für die Praxis heißt das: Auch die besten heutigen Modelle werden weiterhin falsche Fakten generieren, die nur schwer erkennbar sind. Größer, schneller, mehr Daten – das allein wird dieses strukturelle Problem nicht lösen. Genau hier besteht Forschungsbedarf nach grundlegend neuen Ansätzen.

Was sind Halluzinationen in KI-Modellen?

Als "Halluzinationen" bezeichnet man Antworten von KI-Systemen, die zwar sprachlich plausibel klingen, aber inhaltlich falsch oder frei erfunden sind. Ein Beispiel wäre eine KI, die auf die Frage nach einer historischen Person ein Zitat angibt, das diese Person niemals gesagt hat. Das ist kein "Bug", sondern ein strukturelles Problem heutiger Sprachmodelle. Sie arbeiten auf Basis von Wahrscheinlichkeiten für die nächste Textvorhersage – und nicht mit einem echten Verständnis von Wahrheit. Genau deswegen sind Halluzinationen auch mit wachsender Modellgröße nicht vollständig vermeidbar.

Das Geschäftsmodell der großen Tech-Unternehmen

Firmen wie NVIDIA, Microsoft und Google setzen derzeit darauf, immer größere Modelle zu erschaffen. Die NVIDIA CES 2025 Keynote und das GTC 2025 Event zeigen klar, dass ihr wirtschaftlicher Erfolg auf dem Verkauf von Rechenleistung basiert. Je mehr Modelle, desto mehr GPUs, desto mehr Umsatz.

Wie Analysen der CES 2025 Ankündigungen zeigen, liegt der Fokus auf immer leistungsstärkeren Rechenzentren und größeren AI-Infrastrukturen. Effiziente, schlanke KI ist aktuell nicht ihr Fokus, und das wird sich in den nächsten Jahren nicht grundlegend ändern. Für die großen Anbieter ist es schlicht ökonomisch attraktiv, Ressourcenverbrauch zu fördern – nicht, ihn zu reduzieren.

Die Chance für Europa in der Grundlagenforschung

Genau hier kann Europa punkten. Die Zukunft der KI wird nicht allein im Wettrennen um immer größere Modelle entschieden. Neue Modelle, innovative Technologien und Ansätze sind notwendig. Und genau an dieser Schnittstelle können deutsche und europäische Forscher brillieren.

Die EU investiert 2025 über 7,3 Milliarden Euro in Horizon Europe mit einem klaren Fokus auf KI-Forschung und digitale Innovation. Zusätzlich stellt die Digital Europe Initiative weitere 1,3 Milliarden Euro für KI-Grundlagenforschung zur Verfügung.

Grundlagenforschung, die auf Effizienz, neue Algorithmen und ressourcenschonende Lösungen setzt, ist eine große Chance. Es ist noch nicht alles verloren, im Gegenteil: Jetzt ist die Zeit, den Fuß auf den Boden zu bekommen und in der Forschung gezielt neue Wege einzuschlagen. Der Blumentopf ist noch längst nicht vergeben – und Europa hat sehr wohl die Mittel, ihn zu gewinnen.

Ein Beispiel für neue Ansätze: Apples On-Device AI

Apple verfolgt mit seinen Apple Intelligence Funktionen eine Strategie, die sich fundamental von der Konkurrenz unterscheidet. Statt auf riesige Cloud-Rechenzentren zu setzen, bringt Apple viele KI-Features direkt auf die Endgeräte (On-Device AI).

Wie technische Analysen zeigen, reduziert das den Ressourcenbedarf der Rechenzentren erheblich, stärkt den Datenschutz und eröffnet neue Möglichkeiten, wie KI im Alltag genutzt werden kann. Es ist ein Ansatz, der zeigt: Innovation muss nicht zwangsläufig "immer größer" bedeuten – manchmal liegt der Fortschritt in der Effizienz.

Parallel dazu entwickelt sich der Markt für Small Language Models (SLMs) rasant, mit Edge AI Hardware, das 2025 neue Maßstäbe setzt.

Fazit

Die KI-Revolution ist in vollem Gange, und Europa hat alle Chancen, nicht nur mitzuhalten, sondern in entscheidenden Bereichen die Nase vorn zu haben. Während die großen Konzerne auf Skalierung setzen, kann Europa im Bereich der Grundlagenforschung, der Effizienz und der Innovation eine Führungsrolle einnehmen. Die Zeit ist jetzt, und der Blumentopf ist noch lange nicht verloren.

4 Robotic Revolutions: 10 Jahre Bilanz - was hat sich bewahrheitet, was nicht

Zehn Jahre nach der Erstbeschreibung der „4 Robotic Revolutions" ist die vierte Revolution keine Zukunftsvision mehr, sondern eine Baustelle in Serie. Ich habe die vier Phasen 2016 vorgeschlagen, um Ordnung in eine Debatte zu bringen, in der jede Neuvorstellung als „Revolution" verkauft wurde. Am 21. Juli 2026 habe ich in meiner Eröffnungs-Keynote beim A3-Technologietransferkongress in Augsburg zum ersten Mal öffentlich Bilanz gezogen. Dieser Artikel ist die ausführliche Langfassung dieser Bilanz - eingebettet in ein Jahrzehnt Robotic & AI Governance, das die Industrie leiser verändert hat, als es die Schlagzeilen vermuten lassen.

Wenn Sie in einer Halle stehen, in der ein Cobot zum ersten Mal ohne Schutzzaun neben einer Werkerin arbeitet, verstehen Sie sofort, warum Kategorien wichtig sind. Weder der Cobot noch die Werkerin sind das Ereignis. Das Ereignis ist die Prozessentscheidung dahinter: Wer haftet, wenn der Sensor irrt. Wer stoppt die Zelle, wenn die KI-Bahnplanung eine für den Menschen ungewohnte Route wählt. Wer schult die Instandhaltung so, dass sie die Adaptivität nicht als Defekt versteht. Genau diese Fragen habe ich vor zehn Jahren in die vier Phasen der Robotik eingeschrieben, weil ich in KUKAs Innovation Management, später bei Festo, im Deutschen Museum und in unzähligen Fabrikbegehungen gelernt habe: Technische Reifegrade zerfallen sofort, wenn sie ohne organisatorische Reife auf den Boden treffen.

Warum überhaupt vier Revolutionen?

Die Idee entstand in Analogie zur Evolution des Computers. Rechner wurden zunächst kleiner, dann mobil, dann allgegenwärtig und schließlich unsichtbar in Prozesse eingewoben. Miniaturisierung, Mobilisierung, Ubiquität und Pervasiveness haben in der IT den Übergang vom Rechenzentrum zum Smartphone bis zum eingebetteten Sensor beschrieben. Die Robotik durchläuft dieselben Bewegungen, nur mit anderer Ordnung: erst der Käfig, dann die Sensitivität, dann die Mobilität, dann die Kognition. Vorgestellt habe ich das Modell 2016 im Rahmen des IEEE IROS in Daejeon zusammen mit Martin Bode. Das Paper trägt den Titel „4 Robotic Revolutions - proposing a holistic phase model describing future disruptions in the evolution of robotics and automation and the rise of a new Generation R of Robotic Natives" (IEEE Xplore). Die A3-Region hat die Kernthese in ihrer Pressemitteilung zum Kongress 2026 so zusammengefasst: Es geht um vier robotische Revolutionen, und die vierte hat gerade erst begonnen.

Die Phasen sind keine reine Chronologie. Sie überlagern sich in jeder Fabrik, in jedem Werk, oft in derselben Zelle. Wer heute in eine große Fertigungshalle geht, findet die erste Revolution im Karosseriebau, die zweite an der Endmontage, die dritte in der Intralogistik und die vierte bereits im Prüfstand oder in der Qualitätsinspektion. Die Karte ist deshalb kein Zeitstrahl, sondern eine Reifegrad-Struktur. Wer verstehen will, wo eine Organisation steht, muss fragen: In welchem Verhältnis stehen die vier Phasen zueinander, welche dominieren, welche fehlen, welche werden gerade unterschätzt.

Four robotic revolutions: caged automation, cobotics, mobile robotics and perceptive-cognitive systems over ten years

Erste Revolution: Roboter im Käfig

Die erste Revolution beginnt nicht mit einem Modell, sondern mit einer Sicherheitsphilosophie. Der Roboter kommt hinter Zaun, weil seine Bewegung zu schnell, zu kräftig und zu deterministisch ist, um menschlichen Ausnahmefällen zu begegnen. Ich habe 2016 formuliert, dass es in dieser Phase im Kern darum ging, „how to bolt, weld and glue a car together as fast as possible". Diese Nüchternheit stimmt bis heute. Wer den frühen Betrieb im Rüsselsheim, in Wolfsburg oder in Toyotas Standorten kennt, weiß: Die erste Revolution war ein industrielles Programm, kein wissenschaftliches. Ihre Erfolge waren Taktzeiten, Prozessstabilität und die Elimination körperlich zermürbender Tätigkeiten.

Der Zoo, wie ich diese Roboter genannt habe, ist historisch entstanden, nicht ausgewählt worden. Die Roboterarme der ersten Generation stammten aus den frühen 1970er-Jahren, angeführt von Unimate bei General Motors und den ersten Anlagen, die Kawasaki und ASEA (später ABB) in Europa aufgebaut haben. Der industrielle Grundgedanke lautete: Menschliche Arbeit an der Grenze der Belastbarkeit muss durch eine reproduzierbare, monotone, exakte Bewegung ersetzt werden. Die Nebenwirkung: eine hohe Kapitalintensität, geringe Flexibilität und ein Programmiermodell, das eine ganze Berufsgruppe erzeugt hat, den Roboter-Techniker.

Was oft vergessen wird: Diese Phase ist bis heute unser volumenstärkstes Segment. Die International Federation of Robotics berichtet in World Robotics 2025, dass 2024 weltweit 542.000 Industrieroboter installiert wurden - das zweithöchste Ergebnis der Geschichte. Der operative Bestand lag Ende 2024 bei 4,66 Millionen Einheiten, ein Plus von neun Prozent gegenüber dem Vorjahr. Die erste Revolution ist nicht Vergangenheit, sie ist Fundament. Und sie skaliert weiter, gerade weil sie das Ausnahmerisiko elegant löst: Sie schließt es aus.

Zweite Revolution: Der Cobot verlässt den Käfig

Die zweite Revolution ist die, an die sich die Öffentlichkeit am schnellsten gewöhnt hat. Ein Cobot in einer Endmontagelinie sieht harmlos aus, fast wie ein besserer Manipulator mit Sicherheitsanstrich. In Wahrheit steht dahinter eine über dreißigjährige Forschungslinie, die von Oussama Khatib bei Stanford, Gerd Hirzinger am Institut für Robotik und Mechatronik des DLR und einer ganzen Generation von Kraft-Momenten-Sensorik-Entwicklern gezogen wurde. Ich habe 2016 argumentiert, dass die Marktreife dieser Systeme erst um 2015 anbrach, mit KUKA LBR iiwa, Universal Robots UR-Serie und Rethink Robotics Baxter als Vorreitern. Zehn Jahre später sind Cobots ein etabliertes Segment. Der IFR-Report 2025 dokumentiert, dass die Installationen kollaborativer Roboter weltweit weiterhin zweistellig wachsen.

Was die zweite Revolution wirklich verändert hat, ist nicht der Sensor. Es ist die Legitimation, den Menschen näher an die Maschine heran zu lassen. Sensitivität - Kraft, Drehmoment, Geschwindigkeit, redundante Bahnplanung - ist die technische Voraussetzung. Der eigentliche Sprung liegt in der Sicherheitsphilosophie: statt Trennung durch Zaun setzen wir auf inhärente Sicherheit durch Systemverhalten. Das erlaubt neue Zellendesigns, neue Prozesslayouts und, vor allem, neue Rollen im Team. Die Werkerin ist nicht länger Zulieferin für den Roboter, sondern Prozesspartnerin.

Die Ehrlichkeit gebietet allerdings eine Präzisierung: In vielen deutschen Fabriken werden Cobots noch immer wie Zaun-Roboter betrieben. Sie stehen in kleinen Schutzbereichen, sind mit Lichtschranken versehen und werden nicht in echter Kollaboration eingesetzt. Das liegt weniger an der Technik als an Risikoabwägungen, die auf DIN EN ISO 10218 und ISO/TS 15066 zurückgehen, und an einer Betriebspraxis, die Adaptivität nicht immer sauber vom formalen Zulassungsrahmen trennt. Eine echte kollaborative Anwendung ist selten. Aber sie war ein Türöffner - und ohne den Türöffner der zweiten Revolution gäbe es die dritte gar nicht.

Dritte Revolution: Der Roboter kommt zum Werkstück

Die dritte Revolution kehrt eine Grundannahme der Automatisierung um. Bis dahin brachten wir das Werkstück zum Roboter. In der dritten Phase kommt der Roboter zum Werkstück. Autonome mobile Plattformen, fahrerlose Transportsysteme mit Manipulatoren, mobile Manipulatoren und Roboter in der Intralogistik verändern nicht nur Layouts, sondern Investitionsentscheidungen: Wer flexibel produziert, kann sich starre Zellen nur noch für hochvolumige Prozesse leisten.

Der IFR-Report 2025 dokumentiert dazu einen deutlichen Marktschub bei Autonomous Mobile Robots und in Transportation and Logistics. Die Service-Robotik-Statistik 2024 zählt weltweit rund 200.000 neue professionelle Service-Roboter, davon mehr als die Hälfte in Transport und Logistik - 102.900 Einheiten allein in dieser Kategorie, ein Plus von 14 Prozent. Robot-as-a-Service-Modelle wachsen mit 42 Prozent überproportional. Das ist keine bloße Statistik. Das ist eine Antwort auf die Rechnung, die viele Mittelständler seit Jahren aufmachen: kürzere Produktzyklen, kleinere Losgrößen, größere Variantenvielfalt, weniger Personal in Nachtschichten.

Was die dritte Revolution schwer macht, ist nicht die Fahrfunktion. Es ist die Übergabe. Der mobile Roboter fährt souverän durch die Halle, aber die Übergabe zwischen zwei Prozessen - vom Regal an den Cobot, von der mobilen Plattform an eine Bearbeitungsstation - erzeugt Grenzflächen, die früher entweder starre Zellen oder menschliche Hände waren. Diese Grenzflächen sind der eigentliche Schauplatz der Service-Robotik. Personal Robotics, Home Assisted Living und Pflegeassistenz haben in genau dieser Übergabelogik ihre Nagelprobe. Der IFR-Report 2025 zeigt: Medical Robots sind mit einem Plus von 91 Prozent im Jahr 2024 die dynamischste Kategorie. Rehabilitations- und Therapie-Robotik hat sich verdoppelt, Diagnostik-Roboter sind um 610 Prozent gewachsen. Das sind Zahlen, die man nicht überliest.

Vierte Revolution: Perzeption, Kognition, Agentik

Die vierte Revolution ist die, um die alle reden und die die wenigsten wirklich einführen. Perzeptive, kognitive, agentische Systeme - der Roboter, der wahrnimmt, versteht, entscheidet und handelt. In meinem Paper 2016 habe ich sie als „the Rosie the Jetsons' housekeeper still vision" beschrieben, um klarzumachen, dass wir hier nicht mehr über Programme reden, sondern über Verhalten. Zehn Jahre später ist aus Rosie noch immer nicht die häusliche Realität geworden. Aber in der Fabrik hat die vierte Revolution zwei Türen aufgestoßen, die sich nicht mehr schließen werden.

Die erste Tür ist die Programmierung. Ein perzeptiv-kognitives System wird nicht mehr Punkt für Punkt geteacht. Es lernt von Demonstrationen, aus Simulationen, aus dem, was in der Halle passiert. In vielen Projekten habe ich gesehen, wie ein Ingenieur einen Prozess einmal vormacht und das System danach eine passable Bahn vorschlägt. Das ist noch keine General-Purpose-Robotik, aber es ist eine dramatische Verkürzung dessen, was klassisch mit Koordinaten, Wegpunkten und ausgeklügelten Trajektorien programmiert wurde.

Die zweite Tür ist die Kommandierung. Ein Modell, das Sprache versteht, kann Aufträge annehmen, die außerhalb der ursprünglichen Programmierung liegen. Ein Vision-Language-Action-Modell erzeugt aus einer Anweisung eine Handlungssequenz. Das ist nicht trivial, aber es ist ein qualitativer Wandel. Der Unterschied zwischen einem Roboter, der eine feste Zelle bedient, und einem, der auf natürliche Sprache reagiert, ist derselbe wie zwischen einem Fahrkartenautomaten und einem menschlichen Servicemitarbeiter. Beide bringen Sie ans Ziel. Nur eines von beiden versteht, wenn Sie den Zug verpasst haben.

Die A3-Pressemitteilung zum Kongress 2026 fasst meinen Standpunkt so zusammen: „Die nächste industrielle Dekade wird nicht in Modellen gewonnen, sondern in Montagmorgen, an denen Systeme das erste Mal ohne Beobachter laufen." Ich stehe zu dieser Formulierung. Die vierte Revolution ist nicht deshalb schwierig, weil die Algorithmen fehlen. Sie ist schwierig, weil wir noch keine tragfähigen Antworten haben auf die Fragen, die sich stellen, sobald ein System entscheidet, ohne einen Menschen daneben. Das ist der Punkt, an dem Robotic & AI Governance vom Nice-to-have zur betrieblichen Notwendigkeit wird.

Generation R und der Übergang zum Robotic Native

Parallel zur technischen Entwicklung habe ich 2016 die Idee einer neuen Generation vorgeschlagen: Generation R. Der Begriff Robotic Native beschreibt Menschen, die mit Robotern aufwachsen, so wie meine Generation mit Computern und die Kinder von heute mit Sprachassistenten. Das Konzept habe ich zum ersten Mal auf dem Gartner CIO Summit 2013 formuliert und in meiner PhD-Dissertation an der TUM ausgearbeitet. Die Herleitung stammt aus John Perry Barlows „Declaration of the Independence of Cyberspace" von 1996. Barlow schrieb den Netzbürger, den er als Native beschrieb, in die Geschichte des Internets ein. Wir sind, in seiner Diktion, Netz-Immigranten - und, in meiner, Robotic Immigrants.

Im DigiKompetenz-Podcast von 2023 habe ich es so gesagt: Unsere Enkelkinder werden Robotic Natives sein, unsere Kinder nicht ganz, und wir und die Generation unserer Kinder sind die letzte Generation an Robotic Immigrants. Das ist keine Nostalgie. Es ist eine bildungspolitische Ansage. Wenn wir wollen, dass die vierte Revolution nicht an sozialer Akzeptanz scheitert, brauchen wir in den kommenden zehn Jahren eine Generation von Ingenieuren, Facharbeitern, Führungskräften und Bürgern, die nicht nur mit Robotern arbeiten können, sondern mit ihnen aufwachsen. Curriculum-Design, Lehrpläne, Weiterbildungsformate, Berufsschulen und Hochschulen sind dabei genauso wichtig wie die Systeme selbst.

Robotic & AI Governance als Rahmen

Die vier Revolutionen sind ohne einen Ordnungsrahmen nicht produktiv einführbar. Deshalb habe ich Robotic & AI Governance parallel entwickelt: als das Forschungsfeld, das die Ursachen, Merkmale und Folgen des Fortschritts in Robotik und Automatisierung als Megatrend analysiert. Formuliert habe ich das Konzept erstmals auf dem Gartner CIO Summit 2013, ausgearbeitet in meiner Dissertation an der TU München. Der Ansatz ist bewusst weich: soft laws statt hard laws, weil Gesetzgebung zu langsam ist für Technologien, die sich in Monaten weiterentwickeln. Interdisziplinäre Task Forces, freiwillige Selbstregulierung, professioneller Kodex - genauso wie in der Medizin, in der Anwaltschaft, in der Wissenschaft.

Die Grundlage habe ich in den WeRobot-Panels 2015 diskutiert - mit Peter Asaro, Jason Millar, Kristen Thomasen und anderen. Und auf den IEEE IROS Futurist Foren 2015 und 2016 mit Oussama Khatib, Gerd Hirzinger und Tapio Heikkilä. Ich habe die Kernideen dieser Diskussionen in mein Blog gegossen, unter anderem in dem Beitrag Robotic Governance: Ordnungsrahmen für autonome Maschinen. Wer die Verbindung zu aktuellen Debatten sucht, wird sie im EU AI Act zum August 2026 und in den Prinzipien der päpstlichen Enzyklika Magnifica Humanitas wiederfinden.

Die Ideen sind angekommen - auch dort, wo sie nicht zitiert werden

Zehn Jahre Bilanz heißt für mich vor allem: schauen, wo die Ideen gelandet sind. Manchmal mit Zitat, oft ohne. Das ist wissenschaftlich nicht immer schön, aber es ist ein Zeichen, dass die Struktur trägt. Ich gehe im Folgenden die Institutionen durch, in deren Arbeit die vier Revolutionen und die Governance-Ideen ihre Spuren hinterlassen haben.

International Federation of Robotics (IFR)

Die IFR strukturiert ihre Berichte seit Jahren entlang genau derselben Achsen, die im 4RR-Modell angelegt sind: klassische Industrieroboter, kollaborative Roboter, mobile Service-Roboter, Medical Robots, und - seit 2025 - explizit auch humanoide Roboter im Positionspapier „Vision and Reality" vom 14. August 2025. Die Nomenklatur mag anders sein, die Systematik ist identisch: Wir bewegen uns vom Käfig über den Cobot zur Mobilität und schließlich zur Kognition. Wer heute IFR-Statistiken liest, liest im Grunde ein empirisches Testat des Phasenmodells.

euRobotics, eu-nited Robotics und die Adra SRIDA

Die europäische Ebene hat den Rahmen früh aufgenommen. euRobotics und eu-nited Robotics haben mit ihrer Multi-Annual Roadmap for Robotics in Europe die vierstufige Struktur in eine strategische Landkarte übersetzt. Die Adra AI, Data and Robotics Association hat ihre Strategic Research, Innovation and Deployment Agenda (SRIDA) in mehreren Editionen als Referenz für die europäischen Rahmenprogramme etabliert. Perzeption, Kognition, Autonomie und Kollaboration sind dort keine Sonderfälle, sondern Hauptkategorien der Forschungsförderung. Das ist die vierte Revolution, aber im Sprachduktus der Brüsseler Kommission.

VDMA Robotik + Automation

Der VDMA Fachverband Robotik + Automation ist die deutsche Stimme der Branche. In seiner Marktkommunikation trennt der VDMA seit Jahren sauber zwischen Industrierobotik, Servicerobotik, Bildverarbeitung und integrierten Montagelösungen. Die vier Phasen liegen unter dieser Segmentierung als konzeptioneller Unterbau. Was der VDMA seit 2020 stark vorantreibt, ist die Verbindung der dritten und vierten Revolution: mobile Robotik plus KI-basierte Perzeption als gemeinsames Schaufenster - unter anderem auf der automatica. Der Pressetermin zur automatica 2025 hat das explizit zum Leitthema erhoben.

VDE, VDI und die deutschen Normungsgremien

Die deutschen Standardisierungswelten haben zwei Rollen gleichzeitig gespielt. Der VDE hat mit seinen Analysen zur Wechselwirkung von EU AI Act und Machinery Regulation die vierte Revolution in ein regulatorisches Koordinatensystem eingepasst - dort, wo Robotik nicht mehr nur mechanisch, sondern kognitiv und lernend agiert. Der VDI hat mit seinen Richtlinien zu Mensch-Roboter-Kollaboration und autonomen Systemen den Übergang zwischen zweiter und vierter Revolution auf betrieblicher Ebene übersetzbar gemacht. Ohne diese Normungsarbeit wäre die Cobot-Zulassung heute deutlich schwieriger, und der Übergang von adaptiver zu lernender Robotik wäre in den Zulassungsprozessen ein blinder Fleck.

UN DESA, UNCTAD und die Vereinten Nationen

Auf der globalen Ebene haben UN DESA und UNCTAD Robotik und KI als Frontier Technologies eingeordnet - mit expliziter Verbindung zu den 17 UN-Sustainable-Development-Goals. Der World Economic and Social Survey 2018 und die Technology and Innovation Report 2021 haben das Bild geprägt: Robotik ist Enabler und Hemmschuh der SDGs zugleich. Diese Ambivalenz haben wir 2021 in einem IEEE-IROS-Workshop-Papier ausführlich analysiert, das 2023 im Journal Sustainable Production and Consumption erschienen ist. Konsensbasiertes Expertenurteil, angewandt auf 169 SDG-Targets, zeigt: Automation kann Ernährung sichern, Gesundheitsversorgung skalieren und Bildung verbessern, aber sie kann auch Ungleichheit vertiefen, Arbeit zerstückeln und Umweltkosten verschieben. Wer die Ideen des 4RR-Modells sucht, wird sie in diesen UN-Publikationen finden, mal explizit, mal in der Grundstruktur.

OECD, EU-Kommission und der EU AI Act

Die OECD hat das 4RR-Modell in ihrem Report Making Life Richer, Easier and Healthier aus dem Jahr 2021 direkt zitiert und den Übergang zur vierten Phase als Referenzrahmen für die Bewertung von Robotik-Politik gewählt. Auf EU-Ebene ist der EU AI Act die zentrale Antwort auf die vierte Revolution. Er trifft nicht nur reine Software-KI, sondern greift dort besonders scharf, wo KI als Sicherheitskomponente in Produkten wirkt - also genau da, wo perzeptive und kognitive Systeme in Robotik münden. Die politische Einigung vom 7. Mai 2026 hat die zeitlichen Fenster neu justiert: Hochrisiko-Systeme unter Annex III werden ab dem 2. Dezember 2027 anwendbar, Hochrisiko-Systeme, die in regulierte Produkte wie Maschinen eingebettet sind, unter Annex I ab dem 2. August 2028 - dokumentiert unter anderem in den Leitlinien der EU-Kommission. Die Machinery Regulation (EU) 2023/1230 ergänzt das Bild: KI-basierte Sicherheitskomponenten in Maschinen werden über Machinery-Recht und AI Act gemeinsam geregelt. Ich habe an diesen Übergängen mitgedacht, in Panels, in Anhörungen, in wissenschaftlichen Positionspapieren. Wer die Verbindung ausführlich lesen möchte, findet sie in meinem Blog-Beitrag zum AI Act.

IEEE, ISO und die technisch-wissenschaftliche Community

Auf der wissenschaftlichen Seite haben IEEE-RAS-Standards, das Standards Strategy Meeting der IEEE, sowie die ISO-Komitees TC 299 „Robotics" die vierstufige Systematik in ihre Arbeitsstrukturen übernommen. In der IEEE-RAS-Community habe ich 2019 im Industry Forum und in einem Beitrag im IEEE RAS Magazine „Predicting the Future of Robotics and Making It Matter for Industry" das Zusammenspiel aus 4RR, Standards und Translational Research offengelegt. Die Delphi-Studie Robotics 2050+, die ich mit Kolleginnen und Kollegen 2019 initiiert habe, hat mehr als 200 Experten weltweit befragt und die vier Phasen implizit als Struktur genutzt, ohne sie zum Prüfstand zu erheben. Das ist die schönste Form der Verbreitung: Ein Modell wird zur Selbstverständlichkeit.

Was uns die vierte Revolution kostet, wenn wir sie falsch einführen

Ich habe in vielen Vorträgen die Fabrikbegehungen zitiert, weil sie das Modell erden. In einer bayerischen Automatica-Referenzfabrik habe ich vor drei Jahren gesehen, wie ein KI-basiertes Sichtprüfsystem in einer Wareneingangsstation eingeführt wurde. Das System hat die Ausschussrate binnen sechs Wochen um zwölf Prozent reduziert. Die Ingenieure feierten. Sechs Monate später kam der Anruf: Ein Los, das das System einwandfrei durchgewinkt hatte, war beim Kunden aufgefallen. Man konnte nicht rekonstruieren, warum das Modell entschieden hatte, wie es entschieden hatte. Kein Trainingsdatensatz war archiviert worden. Kein Confidence-Score war geloggt. Kein Rollback-Mechanismus war definiert. Aus einem Effizienzgewinn wurde ein Compliance-Fall, weil niemand die vierte Revolution operativ verankert hatte.

Diese Anekdote ist der Kern meiner Aussage im A3-Vortrag: Die vierte industrielle Dekade wird nicht in Modellen gewonnen, sondern in Montagmorgen. Wer glaubt, ein Vision-Language-Modell in eine Fertigungszelle zu setzen sei ein Softwareprojekt, hat den Prozess nicht verstanden. Es ist ein Governance-Projekt mit Software-Anteil. Die vier Fragen, die ich in jedem Projekt stelle, sind:

Wer stoppt das System, wenn es formal funktioniert, aber praktisch Unsinn produziert?
Wer haftet, wenn das System eine Entscheidung trifft, die niemand rekonstruieren kann?
Wer bildet die Schicht aus, die morgens die erste Anomalie sehen muss, bevor sie zum Fehler wird?
Wer archiviert Modell, Daten und Betriebslog so, dass ein Audit drei Jahre später noch möglich ist?

Wenn diese vier Fragen keine Antwort haben, ist die Einführung der vierten Revolution kein Fortschritt. Sie ist ein Risiko, das sich hinter einem KPI versteckt.

Impact-Kapitel: Wo die Ideen weiterwirken

Ich versuche, den Impact des 4RR-Modells nüchtern zu beschreiben. Manche Zitationen sind explizit - die OECD, das IEEE-RAS-Magazin, das SDG-Papier. Andere sind implizit - die IFR-Berichtsstruktur, die europäischen SRIDA-Kategorien, die VDMA-Marktsegmentierung. Wieder andere sind kulturell - der WELT-Artikel „Die vier Stufen der Robotik-Revolution", das Schaeffler-Tomorrow-Magazin mit Interviews zum Modell, Podcasts, Fachvorträge, Curriculum-Dokumente aus mehreren Hochschulen.

Zehn Jahre nach der Veröffentlichung sehe ich drei Ebenen, auf denen das Modell weitergewirkt hat. Erstens: als Kategorienschema für Marktbeobachtung und Politikberatung. Zweitens: als Ausbildungsstruktur in Hochschulen, Berufsschulen und Weiterbildungsformaten. Drittens: als Argumentationshilfe in Governance-Debatten - vom EU AI Act bis zu Ethikkommissionen von Industrieverbänden. Diese Bandbreite war 2016 nicht absehbar. Sie ist heute die Rechtfertigung dafür, die Kategorien nicht künstlich zu revidieren. Sprachlich passt sich das Feld weiter, aber das Skelett ist tragfähig.

Was 2035 anders sein wird

Zehn Jahre nach 2016 ist mein Blick auf die Zukunft nüchterner als damals. Ich glaube nicht, dass es 2035 flächendeckend humanoide Haushaltsroboter geben wird. Das IFR-Positionspapier „Humanoid Robots: Vision and Reality" vom August 2025 stellt es sehr präzise fest: Der Einsatzschwerpunkt liegt zunächst im Dienstleistungssektor und in industriellen Kollaborationsanwendungen, nicht im Wohnzimmer. Was ich für 2035 erwarte, sind vier Verschiebungen.

Erstens: Die vierte Revolution wird in Nischen dominant. Qualitätssicherung, Prüfstände, Intralogistik, Rehabilitation, Landwirtschaft. Dort, wo Perzeption und Kognition unmittelbar in Prozessqualität umgesetzt werden, entsteht die kritische Masse.

Zweitens: Cobots werden zu Standard-Produktivitätswerkzeugen wie heute CNC-Maschinen. Kein Aha-Moment mehr, sondern selbstverständliche Ausstattung im Mittelstand. Das ist keine Revolution, das ist ein Reifegrad.

Drittens: Mobile Systeme werden in Fabriken selbstverständlich. Autonome Transportsysteme, mobile Manipulatoren, Robot-as-a-Service-Verträge. Der Mittelstand mietet Robotik, wie er heute Strom mietet. Der IFR-Report 2025 zeigt bereits, dass RaaS bei Service-Robotern um 42 Prozent gewachsen ist.

Viertens: Die Governance-Debatte wird operationalisiert. Wo heute noch über den EU AI Act gesprochen wird, werden 2035 Auditprozesse, Modellregister und Betriebslog-Standards etabliert sein. Ohne diese Betriebssystematik bleibt die vierte Revolution ein Innovationsversprechen, das an der ersten Nachtschicht scheitert.

Zehn Jahre Bilanz: Was ich rückblickend anders schreiben würde

Ehrliche Selbstkritik gehört dazu. Ich würde das Paper 2016 heute in drei Punkten anders formulieren.

Erstens: Ich habe die Rolle von KI in der vierten Revolution als „perceptive, cognitive" umschrieben. Heute wüsste ich, dass Vision-Language-Action-Modelle und Foundation Models eine eigene Ebene der Kommandierung erzeugen, die man 2016 nicht antizipieren konnte. Ich würde einen expliziten Unterpunkt „Grounded Language Interaction" einfügen.

Zweitens: Ich habe die Governance-Ebene zwar erwähnt, aber nicht als eigenständige Achse formuliert. Heute würde ich Governance nicht als Anhang, sondern als Querschnitt darstellen, der alle vier Revolutionen durchzieht. Robotic & AI Governance ist keine Ergänzung zur Robotik, sie ist ihr Betriebssystem.

Drittens: Ich habe „Generation R" als Bildungsprognose beschrieben. Heute würde ich sie als Bildungspflicht formulieren. Wenn wir Robotic Natives ausbilden wollen, brauchen wir Curricula, die früher ansetzen und die zwischen Berufsschule und Hochschule sauber verzahnt sind. Das ist Aufgabe der Bildungsministerien, nicht der Robotik.

Warum die A3-Keynote 2026 ein guter Anlass ist

Die Region A3 - Augsburg, Aichach-Friedberg, Landsberg - ist ein präziser Prüfstand für das 4RR-Modell. Hier sitzen Mittelständler, deren Prozesse Karosseriebau, Endmontage, Präzisionsfertigung und intralogistische Übergänge umfassen. Wenn ich in Augsburg vortrage, spreche ich zu Unternehmern, die alle vier Revolutionen im eigenen Werk sehen. Die A3-Pressemitteilung zum Kongress 2026 hat das treffend zusammengefasst: Es geht nicht nur um technischen Reifegrad, sondern um regulatorische und gesellschaftliche Fragen - Wer haftet, wer entscheidet, wer bildet aus.

Ich habe in Augsburg keinen Ausblick auf Marketing-Folien präsentiert, sondern eine Bilanz gezogen. Das Publikum hat nicht nach Roadmaps gefragt, sondern nach betrieblichen Playbooks. Genau darin liegt der Fortschritt der letzten zehn Jahre: aus einem akademischen Modell ist ein Werkzeug für Werkleitungen geworden. Und daraus wird in der kommenden Dekade eine Praxis, die im Alltag messbar wird - an Montagmorgen, an denen Systeme das erste Mal ohne Beobachter laufen.

FAQ: Die vier Robotic Revolutions

Was sind die 4 Robotic Revolutions?

Die 4 Robotic Revolutions sind ein Phasenmodell, das ich 2016 gemeinsam mit Martin Bode auf dem IEEE IROS in Daejeon veröffentlicht habe. Es ordnet die Entwicklung der Robotik in vier Stufen: klassische Industrierobotik im Käfig, kollaborative sensitive Robotik, mobile sensitive Robotik und perzeptive, kognitive, agentische Systeme. Analog zur Computing-Evolution (Miniaturisierung, Mobilisierung, Ubiquität, Pervasiveness) beschreibt das Modell den Übergang vom starren Automatisierer zum sensitiv-mobil-kognitiven Assistenzsystem. Es ist heute Referenzrahmen für IFR-Marktberichte, EU-Forschungsprogramme, VDMA-Segmentierungen und Governance-Debatten.

Warum ist die vierte Revolution die entscheidende?

Die vierte Revolution - perzeptive, kognitive, agentische Systeme - ist die entscheidende, weil sie die Programmierlogik und die Kommandierlogik gleichzeitig verändert. Roboter werden nicht mehr Punkt für Punkt geteacht, sondern lernen aus Demonstration, Simulation und Betriebsdaten. Sie reagieren auf natürliche Sprache und treffen Entscheidungen ohne unmittelbaren menschlichen Eingriff. Damit verschieben sich Verantwortung, Haftung und Auditierbarkeit. Die entscheidende Frage ist nicht mehr, ob ein System technisch funktioniert, sondern ob eine Organisation es sauber betreiben kann.

Was ist der Unterschied zwischen einem Cobot und einem klassischen Industrieroboter?

Ein klassischer Industrieroboter arbeitet hinter einem Schutzzaun. Seine Bewegung ist schnell, kräftig und deterministisch. Die Sicherheit entsteht durch räumliche Trennung. Ein Cobot arbeitet ohne Zaun, weil er über Kraft-Momenten-Sensorik verfügt, Geschwindigkeiten adaptiv anpasst und im Kontaktfall inhärent sicher reagiert. Die Sicherheit entsteht durch Systemverhalten. In der Praxis werden Cobots trotzdem oft in Schutzbereichen betrieben - nicht wegen fehlender Technik, sondern wegen Risikoabwägungen nach DIN EN ISO 10218 und ISO/TS 15066. Kollaborative Anwendungen im echten Sinne sind selten. Sie sind aber die Grundlage für alles, was ab der dritten Revolution folgt.

Wie unterscheiden sich die vier Revolutionen von Industrie 4.0?

Industrie 4.0 ist ein produktions- und datenzentriertes Konzept mit Fokus auf Vernetzung, cyber-physische Systeme und digitale Zwillinge. Die 4 Robotic Revolutions sind ein robotikzentriertes Phasenmodell mit Fokus auf physische Interaktion, Sensitivität, Mobilität und Kognition. Beide Modelle ergänzen sich. Ein Werk kann in Industrie 4.0 fortgeschritten sein und trotzdem in der ersten oder zweiten Robotic Revolution feststecken - oder umgekehrt. Governance-Debatten laufen inzwischen zunehmend über die Robotic-Revolutions-Achse, weil dort die Haftungs- und Sicherheitsfragen anders zugespitzt sind.

FAQ: Generation R und Robotic Natives

Wer ist Generation R und was heißt Robotic Native?

Generation R ist die Generation, die mit Robotern aufwächst - so wie meine Generation mit Computern und die Kinder von heute mit Sprachassistenten. Robotic Native ist die Bezeichnung eines Menschen, der Robotik als Alltagsselbstverständlichkeit erlebt, nicht als Neuheit. Beide Begriffe habe ich zum ersten Mal 2013 auf dem Gartner CIO Summit formuliert und in meiner Dissertation an der TU München ausgearbeitet. Die Herleitung stammt aus John Perry Barlows 'Declaration of the Independence of Cyberspace' von 1996. Robotic Natives werden in ihrer Denk-, Lern- und Arbeitsweise anders sein als wir. Sie werden Robotik nicht als Innovation wahrnehmen, sondern als Infrastruktur.

Wann kommt die Generation R in die Betriebe?

Ich habe im DigiKompetenz-Podcast 2023 gesagt: Unsere Enkelkinder werden Robotic Natives sein, unsere Kinder nicht ganz, und wir und die Generation unserer Kinder sind die letzte Generation an Robotic Immigrants. Übersetzt in Betriebspraxis heißt das: In den kommenden zehn bis fünfzehn Jahren beginnt Generation R, in Ausbildung und Studium anzukommen. In der Fertigung, in der Instandhaltung, in der Prozessverantwortung wird sie ab Mitte der 2030er-Jahre spürbar sein. Wer sein Ausbildungsprofil heute nicht darauf einstellt, wird nach 2030 einen strukturellen Nachteil haben.

Wie hängt Generation R mit der vierten Revolution zusammen?

Generation R und die vierte Revolution sind ein Paar. Die vierte Revolution stellt Robotersysteme bereit, mit denen man sprachlich und intuitiv interagieren kann. Generation R stellt die Menschen bereit, die diese Interaktion als selbstverständlich empfinden. Ohne Generation R bleibt die vierte Revolution ein akademisches Konstrukt, das an Fachkräftemangel und Akzeptanzhürden scheitert. Ohne die vierte Revolution bleibt Generation R eine Marketingfigur, die keinen anderen Alltag hat als ihre Vorgänger.

Was folgt daraus für Ausbildung und Weiterbildung?

Ausbildungspläne müssen früher Robotik-Grundlagen enthalten, aber nicht als Extra-Modul, sondern als Querschnitt. Wer Elektroniker, Mechatroniker, Fachinformatiker oder Fachkraft für Lagerlogistik ausbildet, muss Robotik-Grundlagen als Teil des Berufsbilds vermitteln. Auf Hochschulebene bedeutet das, Wirtschaftsinformatik, Maschinenbau, Wirtschaftsingenieurwesen und Informatik so zu verknüpfen, dass die vierte Revolution nicht in Silos landet. Und für Führungskräfte gilt: Weiterbildung in Robotic und AI Governance ist keine Kür mehr, sondern Grundausstattung.

FAQ: Robotic & AI Governance

Was ist Robotic und AI Governance?

Robotic und AI Governance ist das Forschungsfeld, das die Ursachen, Merkmale und Folgen des Fortschritts in Robotik und Automatisierung als Megatrend analysiert. Ich habe den Begriff erstmals 2013 auf dem Gartner CIO Summit formuliert und in meiner Dissertation an der TU München ausgearbeitet. Der Ansatz ist bewusst weich: soft laws statt hard laws, weil Gesetzgebung zu langsam ist für Technologien, die sich in Monaten weiterentwickeln. Interdisziplinäre Task Forces, freiwillige Selbstregulierung, professionelle Ethikkodizes und internationale Standards sind die zentralen Instrumente. Ziel ist eine Verantwortungsarchitektur, die technische Sicherheit, gesellschaftliche Akzeptanz und wirtschaftliche Nutzung zusammenbringt.

Wie hängt Robotic und AI Governance mit dem EU AI Act zusammen?

Der EU AI Act ist eine harte Rechtsantwort auf die vierte Revolution. Er wirkt dort besonders scharf, wo KI als Sicherheitskomponente in Produkten eingebettet ist - also genau in dem Bereich, der Robotik als perzeptiv-kognitives System betrifft. Die politische Einigung vom 7. Mai 2026 hat die Fristen neu justiert: Hochrisiko-Systeme nach Annex III werden ab 2. Dezember 2027 anwendbar, in regulierte Produkte eingebettete Systeme nach Annex I ab 2. August 2028. Robotic und AI Governance ist der weiche Rahmen, in dem der AI Act betrieblich funktionieren kann. Ohne diesen Rahmen bleibt der AI Act ein Compliance-Papier. Mit diesem Rahmen wird er zu einer Betriebsregel.

Welche Rolle spielt die Machinery Regulation für Roboter?

Die Machinery Regulation (EU) 2023/1230 ersetzt die Maschinenrichtlinie und wird ab dem 20. Januar 2027 vollständig anwendbar. Sie regelt Sicherheitsanforderungen an Maschinen, einschließlich Robotern, und interagiert eng mit dem EU AI Act. Nach der politischen Einigung vom Mai 2026 ist die Machinery Regulation nun weitgehend vom direkten Anwendungsbereich des AI Act ausgenommen. Sicherheitsrelevante KI-Komponenten in Maschinen werden künftig primär über delegierte Rechtsakte der Machinery Regulation adressiert. Das ist ein wichtiger Kompromiss: Er verhindert Doppelregulierung, verlangt aber, dass Hersteller die Wechselwirkung sauber im eigenen Konformitätsverfahren abbilden.

Was heißt das für den Mittelstand?

Für den Mittelstand heißt das: Die vierte Revolution ist nur produktiv, wenn Governance mitwächst. Die vier Fragen, die ich in jedem Projekt stelle, sind: Wer stoppt das System, wer haftet, wer bildet aus, wer archiviert. Wer diese vier Fragen im eigenen Betrieb beantwortet, kann Robotik als Wettbewerbsvorteil einsetzen. Wer sie ignoriert, produziert einen Compliance-Fall mit Ansage. Es hilft nicht, auf Software zu warten, die Governance automatisch erledigt. Sie kommt nicht. Governance ist Führungsarbeit.

FAQ: Impact, Institutionen und die nächsten zehn Jahre

Wer zitiert das 4-Robotic-Revolutions-Modell?

Das Modell wird explizit in einem OECD-Report zur Robotik aus dem Jahr 2021 zitiert, in IEEE-RAS-Publikationen sowie im SDG-Papier von 2021 und 2023 in Sustainable Production and Consumption. Implizit findet man die Struktur in IFR World Robotics Reports, in den SRIDA-Dokumenten der Adra AI, Data and Robotics Association, in der Multi-Annual Roadmap for Robotics in Europe von eu-nited Robotics und in VDMA-Marktsegmentierungen. Kulturell wirkt das Modell in Interviews, Podcasts und Fachartikeln - unter anderem im WELT-Artikel 'Die vier Stufen der Robotik-Revolution' und in Schaeffler Tomorrow. Diese Bandbreite ist zehn Jahre nach Veröffentlichung die eigentliche Bilanz.

Wie wirkt sich Robotik auf die UN-Sustainable-Development-Goals aus?

Robotik ist Enabler und Hemmschuh der 17 UN-Sustainable-Development-Goals zugleich. In einem 2021 im IEEE-IROS-Workshop begonnenen und 2023 in Sustainable Production and Consumption veröffentlichten Papier haben wir - Boesl, Haidegger, Khamis, Mai, Mörch, Rao, Jacobs und Vanderborght - konsensbasiertes Expertenurteil auf 169 SDG-Targets angewandt. Robotik kann Ernährung sichern, Gesundheitsversorgung skalieren und Bildung verbessern. Sie kann aber auch Ungleichheit vertiefen, Arbeit zerstückeln und Umweltkosten verschieben. Die Zuordnung ist komplex und darf nicht in eine reine Enabler-Erzählung verkürzt werden. UN DESA und UNCTAD haben diese Ambivalenz in ihren Frontier-Technologies-Berichten aufgenommen.

Welche Rolle spielen humanoide Roboter in den nächsten zehn Jahren?

Humanoide Roboter sind das öffentlichkeitswirksamste Symbol der vierten Revolution, aber sie werden in den nächsten zehn Jahren keine dominierende Rolle im Alltag spielen. Das IFR-Positionspapier 'Humanoid Robots - Vision and Reality' vom August 2025 stellt es sehr deutlich fest: Der Einsatzschwerpunkt liegt zunächst im Dienstleistungssektor und in industriellen Kollaborationsanwendungen, nicht im Haushalt. China hat konkrete Pläne für Massenproduktion, US- und europäische Unternehmen investieren, aber die Prognose lautet: Serienproduktion für spezialisierte Anwendungen. Ich gehe davon aus, dass humanoide Roboter bis 2035 ein signifikantes Nischenfeld werden - vergleichbar mit medizinischen Roboterassistenten heute.

Was ist der wichtigste Satz aus der A3-Keynote 2026?

Der wichtigste Satz meiner A3-Keynote 2026 lautet: Die nächste industrielle Dekade wird nicht in Modellen gewonnen, sondern in Montagmorgen, an denen Systeme das erste Mal ohne Beobachter laufen. Er ist keine rhetorische Zuspitzung, sondern die Kernthese meiner Zehn-Jahres-Bilanz zu den 4 Robotic Revolutions. Wer die vierte Revolution als Modellinnovation missversteht, wird ihre operativen Anforderungen unterschätzen. Wer sie als organisatorische Herausforderung erkennt, wird sie beherrschen. Das ist die zentrale Botschaft, die ich in Augsburg zum Kongress der A3-Region übermittelt habe.

Quellen und weiterführende Links

Bösl, D. und Bode, M. (2016): 4 Robotic Revolutions - proposing a holistic phase model describing future disruptions in the evolution of robotics and automation and the rise of a new Generation R of Robotic Natives, IEEE IROS Daejeon, DOI: 10.1109/IROS.2016.7759209.
Bösl, D. (2019): Predicting the Future of Robotics and Making It Matter for Industry, IEEE Robotics and Automation Magazine.
Bösl, D. u. a. (2023): Robotics: Enabler and inhibitor of the Sustainable Development Goals, Sustainable Production and Consumption.
Wikipedia DE: Generation R, Robotic Native, Dominik Bösl.
A3-Region: Pressemitteilung zum Technologietransferkongress 2026.
IFR: World Robotics 2025 - Industrial Robots, World Robotics 2025 - Service Robots, Humanoid Robots: Vision and Reality (14.8.2025).
euRobotics / eu-nited Robotics: Multi-Annual Roadmap for Robotics in Europe; Adra: Strategic Research, Innovation and Deployment Agenda (SRIDA).
VDMA: Fachverband Robotik + Automation.
VDE: EU AI Act Update.
OECD (2021): Making Life Richer, Easier and Healthier: Robots, their Future and the Roles of Policy.
UN DESA: World Economic and Social Survey 2018 - Frontier Technologies for Sustainable Development; UNCTAD: Technology and Innovation Report 2021.
EU-Kommission: AI Act - Regulatory Framework, Guidelines for providers and deployers of AI high-risk systems.
WELT (2016): Die vier Stufen der Robotik-Revolution.
Schaeffler Tomorrow: Quo Vadis Robotics.
Delphi-Studie: Robotics 2050+.