Robotic Governance - Warum autonome Maschinen jetzt einen Ordnungsrahmen brauchen

Humanoide Roboter laufen durch Lagerhallen. Autonome Fahrzeuge treffen Ausweichentscheidungen in Millisekunden. Chirurgische Assistenzsysteme führen Eingriffe durch, bei denen kein Chirurg mehr direkt am Instrument tätig ist. Das sind keine Zukunftsszenarien - das ist der Stand von 2024. Der EU AI Act ist in Kraft getreten, aber er reguliert künstliche Intelligenz als Software-Phänomen. Was er kaum berührt: die Maschine als physisch handelndes System, das Menschen bewegt, berührt, schützt oder verletzt. Genau diese Lücke ist der Ausgangspunkt von Robotic Governance - einem Konzept, das seit 2016 akademisch verankert sowie auf Wikipedia dokumentiert ist - und heute drängender wirkt als je zuvor.

Was Robotic Governance bedeutet

Der Begriff wurde 2016 in einem wissenschaftlichen Kontext erstmals verwendet - in einem Promotionsvorhaben an der Technischen Universität München, betreut durch Klaus Mainzer. Die erste Fachveröffentlichung erschien auf der IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) 2016. Ein erweitertes Kapitel folgte im Springer-Sammelband zur Robotic Governance. Beide Publikationen verankern das Konzept akademisch und definieren seinen Geltungsbereich.

Robotic Governance bezeichnet den Ordnungsrahmen für die verantwortungsvolle Forschung, Entwicklung, Implementierung sowie den Umgang mit zunehmend intelligenteren und autonom handelnden Maschinen. Der Ansatz ist holistisch: Er bezieht Forschung, Gesellschaft, Religion, Politik, Industrie und Gewerkschaften ein und zielt auf Konsensbildung durch Diskursethik - nicht auf einseitige Regulierung von oben.

Quelle: https://de.wikipedia.org/wiki/Robotic_Governance

Robotic Governance ist keine Unterabteilung von Corporate Governance, IT Governance oder Technology Governance. Corporate Governance regelt die Unternehmensführung - Aufsichtspflichten, Rechenschaftspflichten, Aktionärsrechte. IT Governance befasst sich mit der strategischen Steuerung von Informationssystemen. Technology Governance behandelt die gesellschaftliche Einbettung von Technologie im weiteren Sinne.

Robotic Governance ist spezifischer und zugleich breiter: Sie bezieht sich ausdrücklich auf Systeme, die physisch in der Welt handeln, die Kräfte ausüben, die sich bewegen und die dabei in direktem Kontakt mit Menschen stehen. Ein Chatbot, der falsche Informationen liefert, ist ärgerlich. Ein autonomes Transportsystem, das falsch entscheidet, verletzt Menschen. Das ist der Unterschied, der den eigenen Ordnungsrahmen rechtfertigt.

Der vollständige Wikipedia-Artikel zum Begriff findet sich unter: de.wikipedia.org/wiki/Robotic_Governance. Er enthält auch Hinweise auf das Robot Manifesto als Ergebnis des diskursethischen Ansatzes - Verhaltenskodizes und prozessuale Normen wie Ethikkommissionen, die Konflikte im Einzelfall lösbar machen sollen, bevor Politik und Verbände eingreifen müssen.

Die Lücke im AI Act und Robotic Governance als Lösung

Der EU AI Act, der 2024 in Kraft trat, ist ein erster ernsthafter Versuch, künstliche Intelligenz regulatorisch zu fassen. Er klassifiziert KI-Systeme nach Risikostufen, schreibt Transparenzpflichten vor und definiert verbotene Anwendungen. Das ist notwendig und richtig.

Aber: Der AI Act reguliert KI als Softwaresystem. Ein Sprachmodell, ein Bildklassifikator, ein Empfehlungsalgorithmus - das sind seine typischen Objekte. Roboter sind mehr. Ein Industrieroboter mit 200 Kilogramm Eigengewicht, der Bauteile mit 1.500 Newton Greifkraft bewegt, ist kein Softwaresystem. Er ist ein mechatronisches System mit Aktorik, Sensorik, Echtzeit-Steuerung und physischer Wirkung in der Welt. Der AI Act erfasst die eingebettete Intelligenz in diesem System - aber nicht die Maschine selbst.

Was der AI Act nicht regelt:

• Bewegung und physische Interaktion: Wie ein autonomes System Kräfte auf Menschen oder Objekte ausübt, welche Sicherheitsabstände gelten, wie Nothalte realisiert werden - das ist Domäne von Maschinenrichtlinie, ISO 10218 und branchenspezifischen Standards, nicht des AI Act.
• Hardware-Lieferketten: Wer trägt die Verantwortung, wenn ein Roboter aus 47 Komponenten von 23 Zulieferern gebaut wird und in seiner KI-gestützten Funktion versagt? Der AI Act gibt hier keine Antwort.
• Mensch-Maschine-Interaktion in sicherheitskritischen Umgebungen: Wie ein Chirurgie-Assistenzsystem mit dem Chirurgen kommuniziert, wie ein kollaborativer Roboter im Schichtbetrieb auf menschliche Annäherung reagiert - das erfordert eigenständige Regulierung.
• Autonome Systeme im öffentlichen Raum: Lieferroboter auf Gehwegen, humanoide Assistenzsysteme in Pflegeeinrichtungen, autonome Sicherheitsroboter in Einkaufszentren - sie alle bewegen sich in einem regulatorischen Graubereich.
• Rückruf und Lebenszyklusverantwortung: Was passiert, wenn ein autonomes System nach dem Update auf eine neue KI-Version ein anderes Fahrverhalten zeigt? Wer haftet? Die Produkthaftungsrichtlinie wurde 2024 angepasst, aber die Schnittstelle zu lernenden Systemen bleibt ungeklärt.

Die Folge ist konkret: Ein Unternehmen, das heute einen autonomen Industrieroboter mit integrierter KI entwickelt, muss gleichzeitig den AI Act, die Maschinenrichtlinie 2006/42/EG, die neue Maschinenverordnung (EU) 2023/1230, relevante ISO-Normen und branchenspezifische Standards beachten - ohne dass jemand diese Puzzleteile zu einem kohärenten Ordnungsrahmen zusammengesetzt hat. Der Compliance-Aufwand ist real, die Überschneidungen sind komplex, und die Interpretationsspielräume sind groß. Genau das ist die Aufgabe von Robotic Governance: nicht ein weiteres Regelwerk zu schaffen, sondern die vorhandenen Bausteine in einen zusammenhängenden Rahmen zu bringen.

Die fünf Säulen von Robotic Governance

Robotic Governance ist kein Einzelinstrument. Sie ist ein Rahmen, der verschiedene Steuerungsebenen zusammenbringt. Fünf Säulen bilden das Gerüst - entwickelt und beschrieben in den Originalarbeiten von 2016 und fortgeschrieben in der akademischen Diskussion seither.

1. Rechtsrahmen

Gesetze und Verordnungen setzen die verbindliche Basis. Der EU AI Act ist ein Baustein, aber kein vollständiges Gebäude. Notwendig sind klare Haftungsregeln für autonome Systeme: Wenn ein KI-gesteuerter Roboterarm in der Produktion einen Mitarbeiter verletzt, ist die Haftungsfrage heute in vielen Jurisdiktionen offen. Wer haftet - der Roboterhersteller, der Systemintegrator, das betreibende Unternehmen, oder der Entwickler des KI-Modells? Die Produkthaftungsrichtlinie der EU wurde 2024 überarbeitet, aber sie war nicht primär für lernende, sich verändernde autonome Systeme konzipiert.

Zusätzlich braucht es eine Klärung der Rechtspersönlichkeit von Maschinen in spezifischen Kontexten: Ein autonomes Fahrzeug, das als Vertragspartner auftritt, oder ein Roboter-Assistent, der in einer Pflegeeinrichtung eigenständige Entscheidungen über Medikamentengabe trifft - hier fehlen klare rechtliche Kategorien. Die EU-Maschinenverordnung (EU) 2023/1230 ist ein Schritt in die richtige Richtung, aber sie wurde ohne explizite Koordination mit dem AI Act entwickelt. Diese Lücke zwischen den Regelwerken ist das eigentliche strukturelle Problem.

2. Ethische Leitplanken

Rechtliche Mindestvorgaben reichen nicht aus, wenn Maschinen Entscheidungen treffen, die moralisch aufgeladen sind. Wer hat Vorrang: der Fahrgast im autonomen Fahrzeug oder der Fußgänger? Welche Priorität hat die Selbstschutzfunktion eines Roboters gegenüber einem Menschen in unmittelbarer Nähe? Wie bewertet ein humanoider Pflegeroboter konkurrierende Bedürfnisse eines demenzkranken Patienten?

Diese Fragen lassen sich nicht vollständig in Normen codieren. Ethische Leitplanken müssen daher als explizite Designanforderungen in Entwicklungsprozesse integriert werden - nicht als nachträgliche Überprüfung, sondern als Eingabe in die Systemarchitektur. Der IEEE 7000 Standard für ethisch ausgerichtetes System-Design bietet hier einen anwendbaren Rahmen: Er definiert Methoden zur Identifikation ethischer Anforderungen, zur Gewichtung konkurrierender Werte und zur Nachweisbarkeit ethischer Design-Entscheidungen im Audit.

3. Technische Standards

Standards übersetzen abstrakte Anforderungen in konkrete Konstruktionsvorgaben. Ohne sie bleibt Governance abstrakt. Für Robotic Governance sind besonders relevant:

• ISO 10218-1: Sicherheitsanforderungen für Industrieroboter. Dieser Standard definiert, wie Schutzzonen realisiert werden, welche Stoppkategorien existieren, wie Sicherheitsabstände berechnet werden und wie das Sicherheitssystem aufgebaut sein muss. Für kollaborative Robotik ergänzt ISO/TS 15066 diesen Rahmen um spezifische Anforderungen an Mensch-Roboter-Kollaboration.
• VDA 5050: Schnittstellenstandard für autonome mobile Systeme in Industrie und Logistik. Er ermöglicht herstellerübergreifende Kommunikation zwischen Fahrzeugen und Leitstellen und ist damit eine technische Governance-Maßnahme, die Interoperabilität ohne Vendor-Lock-in sicherstellt. Wer VDA 5050 implementiert, schafft die Grundlage für transparente, auditierbare Systemsteuerung.
• IEEE 7000: Ethisch ausgerichtetes System-Design als Norm - eine methodische Grundlage für die Integration ethischer Anforderungen in den Entwicklungsprozess, vom Lastenheft bis zum Abnahmetest.

Standards sind keine bürokratische Last. Sie sind die Sprache, in der Governance operativ wird. Ein Unternehmen, das nach ISO 10218 zertifiziert ist und VDA 5050 implementiert hat, kann gegenüber Kunden, Aufsichtsbehörden und Versicherungen nachweisen, was sein System kann - und was nicht.

4. Wirtschaftliche Anreize

Regulierung allein genügt nicht. Wenn Compliance teurer ist als das kalkulierte Risiko eines Vorfalls, wird Compliance vermieden - vor allem in kleinen und mittleren Unternehmen, wo Ressourcen begrenzt sind. Robotic Governance braucht daher Anreizsysteme, die Compliance wirtschaftlich attraktiv machen.

Das kann über verschiedene Hebel geschehen: Versicherungsmodelle, die nachweislich sicherere Systeme mit niedrigeren Prämien belohnen; Zertifizierungswege, die Marktzugang erleichtern statt ihn zu blockieren; öffentliche Beschaffungsregeln, die Governance-konforme Systeme bevorzugen. Ein Unternehmen, das nachweislich nach ISO 10218 zertifiziert ist, VDA 5050 implementiert hat und IEEE 7000 in seinen Entwicklungsprozess integriert hat, sollte bei öffentlichen Ausschreibungen messbare Vorteile haben. Das wäre Governance mit wirtschaftlicher Wirkung - und keine bloße Compliance-Übung.

5. Gesellschaftlicher Dialog

Technische Systeme, die in Pflege, Bildung, öffentlichem Raum und Produktion wirken, brauchen gesellschaftliche Legitimation. Diese entsteht nicht durch Pressemitteilungen, sondern durch strukturierten Dialog. Das bedeutet: Bürgerbeteiligung bei kommunalen Robotik-Projekten, bevor die ersten Systeme rollen; Gewerkschaftsbeteiligung bei der Einführung autonomer Systeme in Fabriken, nicht nach der Entscheidung, sondern davor; offene, empirisch fundierte Debatten über den Einsatz von Robotern in sensiblen Bereichen wie Kinderbetreuung, Altenpflege oder Strafvollzug.

Robotic Governance ohne gesellschaftlichen Dialog ist Technokratie. Mit strukturiertem Dialog wird sie zu einem belastbaren sozialen Vertrag, der auch dann hält, wenn ein System versagt und die öffentliche Debatte beginnt. Denn in diesem Moment wird nicht das System bewertet, sondern der Prozess, durch den es in die Welt gekommen ist.

Robotic Natives und die Generation R

Alle fünf Säulen richten sich an heutige Akteure: Unternehmen, Regulatoren, Ingenieure, Ethiker, Gewerkschafter. Aber Governance ist keine Momentaufnahme. Sie muss auch für die Menschen entworfen werden, die mit diesen Systemen aufwachsen werden - und die in zwanzig Jahren die Entscheidungen darüber treffen, was mit Robotern erlaubt ist und was nicht.

Dafür wurde 2013 auf dem Gartner CIO Summit der Begriff Generation R eingeführt - zuerst in einem Vortrag, dann in einer wissenschaftlichen Fachveröffentlichung auf der IEEE EmergiTech 2016. Die Generation R, auch als "Generation Robotik" bezeichnet, ist die erste Generation, die mit Robotern im Alltag aufwächst: mit Haushaltsrobotern, mit autonomen Fahrzeugen als selbstverständlichem Transportmittel, mit Spielzeugrobotern als erstem technologischem Begleiter, mit kollaborativen Systemen im Berufsumfeld ihrer Eltern.

Diese Generation wird als Robotic Natives bezeichnet - in Analogie zu den Digital Natives der Generation Y und Z. Der Unterschied ist wesentlich: Digital Natives wuchsen mit Bildschirmen und Netzwerken auf, mit Informationssystemen, die Daten verarbeiten. Robotic Natives wachsen mit Systemen auf, die physisch handeln, die Raum einnehmen, die Kräfte ausüben und die Entscheidungen in der physischen Welt mit physischen Konsequenzen treffen. Das prägt eine grundlegend andere Beziehung zur Technologie - und andere Erwartungen an ihre Governance.

Für Robotic Governance hat das konkrete Konsequenzen:

• Bildung: Technologische Kompetenz im Umgang mit autonomen Systemen muss in Schullehrplänen verankert werden - nicht als Wahlfach, sondern als Grundbildung. Wer nicht versteht, wie ein autonomes System Entscheidungen trifft, welche Daten es nutzt und welche Fehlertypen es hat, kann diese Entscheidungen weder bewerten noch anfechten. Das ist eine demokratische Frage, nicht nur eine technische.
• Arbeit: Berufsbilder verändern sich. Nicht weil Roboter "alle Jobs wegnehmen" - diese These ist empirisch dünn und historisch wenig belastbar. Sondern weil neue Tätigkeiten entstehen, die andere Qualifikationen erfordern: Roboter-Supervision im Schichtbetrieb, Systemintegration bei heterogenen Flotten, Governance-Compliance als eigenständige Funktion, KI-gestützte Qualitätssicherung in der Produktion. Die Aus- und Weiterbildungssysteme sind darauf noch nicht eingestellt.
• Gesellschaft: Die Generation R wird Governance-Fragen anders bewerten als heutige Entscheider. Wer mit autonomen Systemen aufgewachsen ist, stellt andere Fragen: nicht primär "ist das sicher?" - diese Grundfrage wird vorausgesetzt -, sondern "wer ist konkret verantwortlich, wenn es nicht funktioniert?" und "wie kann ich als Betroffener Einfluss nehmen?". Das ist eine reifere und anspruchsvollere Governance-Haltung - und sie muss im System bereits angelegt sein, bevor diese Generation die Entscheider-Positionen einnimmt.

Häufige Fragen: Robotic Governance

Robotic Governance:
Was Unternehmen jetzt tun sollten

Robotic Governance ist kein Thema für 2030. Wer heute autonome Systeme entwickelt, einkauft oder betreibt, agiert bereits in einem regulatorischen Umfeld, das sich schnell verdichtet. Die Maschinenverordnung (EU) 2023/1230 gilt ab 2027. Der AI Act wird schrittweise angewendet. Die ersten Hochrisiko-Kategorien greifen ab 2025. Fünf Maßnahmen, die jetzt umsetzbar sind:

• Governance-Inventur machen: Welche autonomen Systeme sind im Einsatz oder in der Beschaffung? Für welche gilt der AI Act, für welche die Maschinenverordnung, für welche ISO 10218? Welche dieser Systeme fallen in Hochrisiko-Kategorien? Diese Überschneidungen müssen kartiert werden, bevor der erste Audit kommt - nicht danach. Ein Unternehmen, das diese Frage nicht beantworten kann, hat eine Compliance-Lücke.
• VDA 5050 als technischen Standard verbindlich einführen: Für Unternehmen mit mehreren AGV- oder AMR-Systemen von verschiedenen Herstellern ist VDA 5050 keine Option mehr, sondern operative Notwendigkeit. Wer jetzt proprietäre Schnittstellen weiter betreibt, baut Vendor-Lock-in auf, den er in drei Jahren mit erheblichem Aufwand abbaut. Und er verzichtet auf die Transparenz, die eine auditierbare Systemsteuerung erfordert.
• ISO 10218 als Sicherheitsbaseline setzen: ISO 10218-1 definiert den Sicherheitsstand für Industrieroboter. Dieser Standard sollte nicht nur bei Neuanschaffungen geprüft werden, sondern auch für Bestandssysteme als Referenzrahmen dienen. Eine Gap-Analyse gegen ISO 10218 ist der erste Schritt zu einer vertretbaren Sicherheitsdokumentation.
• Interne Governance-Rollen definieren: Wer trägt in Ihrer Organisation die Verantwortung für die Governance autonomer Systeme? Wenn die Antwort lautet "das klärt die Rechtsabteilung" oder "das ist Aufgabe der IT-Sicherheit", ist das eine strukturelle Lücke. Robotic Governance braucht technisches, rechtliches und ethisches Wissen in einer Rolle oder in einem strukturierten, interdisziplinären Gremium mit klaren Entscheidungsbefugnissen.
• IEEE 7000 als Entwicklungsmethodik einführen: Der IEEE 7000 Standard für ethisch ausgerichtetes System-Design ist kein philosophisches Dokument, sondern eine anwendbare Methodik. Er definiert, wie ethische Anforderungen in Lastenheften formuliert, in Systemdesigns umgesetzt und in Abnahmetests überprüft werden. Das ist Governance, die sich dokumentieren und auditieren lässt.

Kein Unternehmen muss alle fünf Punkte gleichzeitig umsetzen. Aber jedes Unternehmen, das autonome Systeme betreibt, sollte wissen, wo es bei jedem einzelnen Punkt steht - und diese Einschätzung schriftlich festhalten können.

Fazit

Robotic Governance ist kein akademisches Konstrukt, das auf bessere Zeiten wartet. Sie ist die direkte Antwort auf eine konkrete Governance-Lücke: Autonome Maschinen handeln physisch in der Welt, aber der regulatorische Rahmen wurde für Software-Systeme gebaut. Diese Diskrepanz wächst mit jeder neuen Robotergeneration - mit jeder neuen Anwendungsdomäne, mit jedem humanoiden System, das einen neuen gesellschaftlichen Kontext betritt.

Der EU AI Act ist ein wichtiger Schritt - aber er reicht nicht. Er reguliert die Intelligenz im System, nicht das System selbst. Die Maschinenrichtlinie und ISO-Normen regulieren die Mechanik, aber nicht die autonome Entscheidungslogik. Dazwischen liegt ein Raum, der Ordnung braucht. Robotic Governance beschreibt und strukturiert diesen Raum. Sie ist dabei kein Hemmnis für Innovation, sondern deren Voraussetzung: Wer nicht erklären kann, wie sein System entscheidet, wer haftet und welche Standards gelten, wird das System nicht in sicherheitskritischen Anwendungen betreiben dürfen.

Wer jetzt nicht anfängt, diesen Rahmen zu verstehen und intern zu implementieren, wird spätestens beim nächsten Regulierungszyklus unvorbereitet sein. Die Generation R wird Verantwortlichkeit einfordern, nicht Absichtserklärungen. Die Auditoren werden Dokumentation sehen wollen, keine Folien. Und die erste ernsthafte Klage gegen ein autonomes System wird die Frage stellen, ob das Unternehmen einen internen Governance-Prozess hatte - oder nur einen Roboter.

Die Robotic & AI Governance Foundation arbeitet daran, diese Lücken zu schließen - mit konkreten Frameworks, Publikationen und dem Ziel, Robotic Governance als eigenständiges Feld zu etablieren, das Technik, Recht und Gesellschaft zusammen denkt.