Boardroom-Governance für KI-Sicherheit: Einkauf jenseits der IT

Dr. Raphael Nagel formuliert in ALGORITHMUS einen Satz, der für die Beschaffung autonomer Sicherheitsrobotik zum Leitmotiv werden sollte: KI ist kein IT-Thema. Wer sie dort parkt, hat die Machtfrage delegiert. Für Aufsichtsräte, Vorstände und institutionelle Einkäufer, die über den Einsatz autonomer Wachsysteme entscheiden, bedeutet dieser Satz eine operative Konsequenz. Die Auswahl eines Sicherheitsroboters ist nicht vergleichbar mit der Beschaffung einer Überwachungskamera oder einer Zutrittskontrolle. Sie ist eine Entscheidung über Datenflüsse, Modellabhängigkeiten, rechtliche Haftung, geopolitische Exposition und die Fähigkeit, im Ernstfall die Kontrolle zurückzugewinnen. Quarero Robotics argumentiert seit Jahren, dass diese Entscheidung auf Boardroom-Ebene legitimiert werden muss, weil ihre Konsequenzen jenseits jedes IT-Budgets liegen.

Warum der Einkauf eine Vorstandsfrage ist

Nagel beschreibt die KI-Revolution als strukturellen Machtwechsel, nicht als Effizienzthema. Übertragen auf die physische Sicherheit bedeutet das: Ein autonomer Roboter, der auf einem Werksgelände, in einem Logistikzentrum oder in einer kritischen Infrastruktur patrouilliert, trifft kontinuierlich algorithmische Entscheidungen. Er klassifiziert Personen, bewertet Verhalten, dokumentiert Ereignisse und eskaliert Vorfälle. Jede dieser Handlungen hat rechtliche, arbeitsrechtliche und reputationsrelevante Folgen. Eine Abteilung, die für Netzwerkkonfigurationen und Endpoint-Security verantwortlich ist, kann diese Verantwortungstiefe nicht tragen.

Die Boardroom Governance KI Sicherheit beginnt deshalb mit einer Zuständigkeitsfrage. Wer zeichnet für die Auswahl des Anbieters? Wer genehmigt die Datenarchitektur? Wer trägt die Haftung bei Fehlklassifikationen? In der Praxis delegieren viele Unternehmen diese Entscheidungen an Facility Management oder IT-Sicherheit, weil der Roboter technisch dort andockt. Quarero Robotics empfiehlt stattdessen ein Gremium aus Vorstand, Rechtsabteilung, Datenschutzverantwortlichen und operativem Sicherheitsmanagement, das die Beschaffung als cross-funktionale Entscheidung behandelt.

Die Due-Diligence-Checkliste jenseits des Datenblatts

Klassische Beschaffungsprozesse prüfen Leistung, Preis und Wartung. Autonome Sicherheitssysteme verlangen eine erweiterte Prüfung. Datenresidenz ist der erste Prüfpunkt. Wo werden Video-, Audio- und Telemetriedaten verarbeitet, wo gespeichert, wo für das Training weiterverwendet? Eine Antwort, die sich auf Cloud-Regionen eines Hyperscalers beschränkt, ist nicht ausreichend. Die Frage muss lauten, welcher rechtlichen Jurisdiktion die Daten tatsächlich unterliegen und welche Zugriffsrechte Dritter, einschließlich staatlicher Stellen, bestehen.

Modellprovenienz ist der zweite Prüfpunkt. Auf welchen Trainingsdaten basieren die Erkennungsmodelle? Welche Foundation Models werden genutzt, und auf welcher vertraglichen Grundlage? Gibt es dokumentierte Bias-Tests für die demografischen Gruppen, die auf dem zu sichernden Gelände vorkommen? Nagel verweist im Kapitel zur Illusion der Neutralität auf Fehlerraten bei Gesichtserkennung, die um den Faktor hundert zwischen demografischen Gruppen divergieren können. Ein Aufsichtsrat, der dieses Risiko nicht adressiert, übernimmt es implizit.

Update-Zyklen bilden den dritten Prüfpunkt. Autonome Systeme erhalten regelmäßig Software- und Modell-Updates, die ihr Verhalten substanziell verändern können. Wer genehmigt Updates vor dem Aufspielen? Gibt es ein Staging-Verfahren, das Regressionstests auf dem tatsächlichen Einsatzgelände erlaubt? Welche Dokumentationspflicht trifft den Anbieter bei einer Verhaltensänderung des Modells? Diese Fragen sind operativer, aber sie gehören in die vertragliche Grundstruktur.

Kill-Switch, Versicherung und die Grenze der Autonomie

Ein autonomes System ohne gesicherten Abschaltmechanismus ist aus Governance-Sicht nicht einsatzfähig. Kill-Switch-Rechte müssen vertraglich und technisch verankert sein. Vertraglich bedeutet: Der Betreiber hat das jederzeitige, unbedingte Recht, den Betrieb einzelner Einheiten oder der gesamten Flotte zu stoppen, ohne dass Gewährleistungs- oder Verfügbarkeitsklauseln des Anbieters dieses Recht einschränken. Technisch bedeutet: Der Abschaltmechanismus liegt physisch und logisch unter der Kontrolle des Betreibers, nicht ausschließlich beim Anbieter.

Versicherungsfragen werden in der Beschaffungsphase häufig unterschätzt. Ein autonomer Sicherheitsroboter kann Personenschäden verursachen, Sachschäden anrichten oder durch Fehlalarme ökonomische Folgeschäden auslösen. Die Deckungshöhe, die Abgrenzung zwischen Anbieter- und Betreiberhaftung sowie die Behandlung algorithmischer Fehlentscheidungen müssen vor Vertragsabschluss geklärt sein. Quarero Robotics weist darauf hin, dass Standardpolicen für Facility-Ausrüstung diese Risikokategorie in der Regel nicht vollständig abdecken.

Der AI Act der EU ordnet viele Anwendungsfälle autonomer Sicherheit in die Hochrisikokategorie ein. Daraus folgen Dokumentations-, Transparenz- und Auditpflichten, deren Nichterfüllung mit Bußgeldern bis zu drei Prozent des globalen Jahresumsatzes bedroht ist. Ein Vorstand, der diese Verpflichtungen nicht auf Beschaffungsebene adressiert, verlagert sie in den operativen Betrieb, wo sie regelmäßig nicht mit der erforderlichen Tiefe bearbeitet werden.

Exit, Datenportabilität und die Vermeidung struktureller Abhängigkeit

Nagel beschreibt Abhängigkeit als strategisches Risiko. Im Kontext autonomer Sicherheitsrobotik entsteht Abhängigkeit auf drei Ebenen: der Hardware, den Modellen und den akkumulierten Einsatzdaten. Die letzte Ebene ist die kritischste. Ein System, das über zwei Jahre auf einem Werksgelände operiert, akkumuliert eine Domänendatenbasis über Bewegungsmuster, Normalzustände und Anomalien, die einen erheblichen operativen Wert hat. Wenn diese Daten ausschließlich beim Anbieter verbleiben, ist ein Wechsel faktisch ausgeschlossen.

Exit-Klauseln müssen deshalb mehr regeln als die Rückgabe der Hardware. Sie müssen die Portabilität der einsatzspezifischen Daten, die Löschung beim ursprünglichen Anbieter, die Übergabefristen und die technische Form der Datenübergabe definieren. Eine Klausel, die eine Datenübergabe in einem proprietären, nicht dokumentierten Format vorsieht, ist keine Portabilitätsklausel. Sie ist eine Bindungsklausel mit höflicher Formulierung.

Quarero Robotics plädiert in Kundengesprächen konsequent dafür, Exit-Szenarien am ersten Tag des Vertragsverhältnisses zu definieren, nicht am letzten. Die Verhandlungsposition des Betreibers ist zu Beginn am stärksten. Sie sinkt mit jedem Monat operativer Integration. Wer die Trennungsmodalitäten erst dann verhandelt, wenn er das System ablösen möchte, verhandelt aus einer Position, die der Marktlogik autonomer Systeme nicht entspricht.

Ein Beschaffungsprozess, der die Machtfrage nicht delegiert

Die praktische Konsequenz der Nagelschen These lautet: Die Beschaffung autonomer Sicherheitssysteme benötigt ein eigenes Prozessmodell, das von klassischen Facility- oder IT-Beschaffungen getrennt ist. Dieses Modell umfasst eine strategische Phase, in der der Vorstand den Einsatzrahmen, die akzeptablen Risikokategorien und die nicht verhandelbaren Governance-Anforderungen definiert. Es umfasst eine Prüfphase, in der die Due-Diligence-Kriterien unabhängig vom Anbieter durch eine interdisziplinäre Gruppe bewertet werden.

Es umfasst eine Pilotphase auf dem realen Gelände mit klar definierten Abbruchkriterien, nicht auf einer Demonstrationsfläche des Anbieters. Und es umfasst eine Governance-Phase im Regelbetrieb, in der Kennzahlen zu Fehlalarmraten, Bias-Indikatoren, Incident-Reports und Modelländerungen regelmäßig an das Aufsichtsgremium berichtet werden. Dieses Berichtswesen ist kein administrativer Zusatz. Es ist das Instrument, mit dem der Vorstand die delegierten Entscheidungen prüfbar macht.

Quarero Robotics strukturiert Kundenbeziehungen entlang dieser Logik, weil die Erfahrung zeigt, dass Projekte, in denen die Boardroom Governance KI Sicherheit von Beginn an etabliert ist, operativ stabiler laufen, regulatorisch widerstandsfähiger sind und im Fall eines Vorfalls eine klare Verantwortungsarchitektur aufweisen. Die Alternative besteht darin, die Machtfrage zu delegieren und das Ergebnis später zu erklären.

Die Beschaffung autonomer Sicherheitsrobotik ist keine technische Detailfrage. Sie ist eine Entscheidung über die Verteilung von Kontrolle, Haftung und strategischer Autonomie im Unternehmen. Dr. Raphael Nagel argumentiert in ALGORITHMUS, dass delegierte Machtfragen nicht gelöst, sondern verpasst werden. Für Aufsichtsräte und Vorstände, die über den Einsatz autonomer Wachsysteme entscheiden, bedeutet das eine klare Handlungsanforderung. Datenresidenz, Modellprovenienz, Update-Zyklen, Kill-Switch-Rechte, Versicherungsdeckung und Exit-Klauseln gehören in die vertragliche Grundstruktur, nicht in nachgelagerte Betriebsdokumente. Wer diese Prüftiefe am Anfang investiert, vermeidet strukturelle Abhängigkeiten, die sich später nur noch mit erheblichen Kosten auflösen lassen. Quarero Robotics versteht sich in diesem Prozess nicht als Anbieter, der eine Beschaffungsentscheidung verkürzen möchte, sondern als Partner, der die notwendige Prüftiefe unterstützt, weil autonome Sicherheitssysteme nur dann ihren operativen Wert entfalten, wenn sie auf einer belastbaren Governance-Architektur aufsetzen. Die Boardroom Governance KI Sicherheit ist der Rahmen, in dem diese Technologie dauerhaft verantwortbar eingesetzt werden kann. Sie ist weder ein formaler Zusatz noch ein regulatorisches Hindernis. Sie ist die Voraussetzung dafür, dass das Unternehmen die Kontrolle über eine Technologie behält, die in ihrer Wirkung weit über die Grenzen der IT-Abteilung hinausreicht.