# Spart es wirklich Geld, KI-Governance zu kürzen?

> KI-Governance zu kürzen, um schneller zu liefern, wirkt billig, bis Datenleck, Bußgeld oder Projektabbruch kommen. Was schwache Aufsicht laut Belegen kostet.

URL: https://www.clarityailab.com/de/insights/profit-or-peril-cutting-ai-governance-billion-dollar-mistake/

KI-Governance zu kürzen, um schneller zu liefern, ist eine Scheinersparnis. Die Rechnung für schwache Aufsicht kommt später, als Datenleck, Haftung, Bußgeld oder aufgegebenes Projekt, und aktuelle Belege zeigen, dass jede davon groß genug ist, um die gesparte Zeit eines Teams aufzuzehren.

Dieser Artikel richtet sich an Führungskräfte, die Prüfungen, Tests und Aufsicht zurückfahren sollen, um KI-Produkte schneller auf den Markt zu bringen. Er stellt die Kosten beider Seiten dar und einen schlanken Weg, Governance zu behalten, ohne langsamer zu werden.

## Warum gibt es Druck, KI-Governance zu kürzen?

KI-Werkzeuge ändern sich schnell, Wettbewerber starten zügig, und Prüfungen fühlen sich wie Reibung an. Governance gilt leicht als Kostenstelle: Menschen, Dokumente und Freigaben, die einen Start verzögern. Das Argument fürs Kürzen beruht auf einer Annahme: dass die Risiken, die sie steuert, unwahrscheinlich oder billig seien. Die folgenden Belege prüfen diese Annahme.

## Was kostet schwache KI-Governance?

**Datenlecks.** IBMs [Cost of a Data Breach Report 2026](https://www.ibm.com/think/x-force/2026-cost-of-a-data-breach-ai-adversaries-enterprise-risk) beziffert die globalen Durchschnittskosten eines Datenlecks auf einen Rekord von 4,99 Millionen Dollar, 12 % mehr als im Vorjahr. KI-gestützte Angriffe nahmen um 56 % zu und erhöhten die Kosten im Schnitt um 1 Million Dollar pro Leck. Bei Vorfällen mit eigenen KI-Modellen oder -Anwendungen einer Organisation führten Prompt-Injection-Angriffe zu durchschnittlichen Verlusten von 5,89 Millionen Dollar.

**Haftung.** 2024 [verurteilte das Civil Resolution Tribunal von British Columbia Air Canada zur Entschädigung eines Kunden](https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416), nachdem der Chatbot auf der Website falsche Auskunft zu Trauerfall-Tarifen gegeben hatte. Die Airline argumentierte, der Chatbot sei „eine eigenständige juristische Person, die für ihr eigenes Handeln verantwortlich ist“. Das Tribunal nannte das „ein bemerkenswertes Vorbringen“ und befand, Air Canada habe „nicht angemessen dafür gesorgt, dass sein Chatbot korrekt ist“. Die Entschädigung war klein, 812 Dollar; das Prinzip ist es nicht. Ein Unternehmen haftet für das, was seine KI Kunden sagt.

**Bußgelder.** Nach [Artikel 99 des EU AI Act](https://artificialintelligenceact.eu/article/99/) kann eine verbotene KI-Praxis bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens kosten, je nachdem, welcher Betrag höher ist. Für andere Verstöße gelten niedrigere, aber immer noch empfindliche Obergrenzen.

**Gescheiterte Projekte.** Gartner sagte im Juli 2024 voraus, dass [mindestens 30 % der Projekte mit generativer KI](https://www.gartner.com/en/newsroom/press-releases/2024-07-29-gartner-predicts-30-percent-of-generative-ai-projects-will-be-abandoned-after-proof-of-concept-by-end-of-2025) bis Ende 2025 nach dem Proof of Concept aufgegeben würden, wegen schlechter Datenqualität, unzureichender Risikokontrollen, steigender Kosten oder unklaren Geschäftswerts. Zwei dieser vier Gründe sind genau das, wofür Governance da ist.

## Bremst KI-Governance?

Sie schafft früh Arbeit und spart später welche. *Analyse:* Die meisten der oben genannten Kosten entstehen aus Entscheidungen, die nie ausdrücklich getroffen wurden: welche Daten ein Modell nutzen darf, was es Kunden sagen darf, wer seine Ergebnisse prüft und wer es abschalten kann. Diese Entscheidungen vor dem Start zu treffen, dauert Tage. Sie danach zu entdecken, kann ein Datenleck oder ein Urteil kosten.

Das [AI Risk Management Framework des NIST](https://www.nist.gov/itl/ai-risk-management-framework), im Januar 2023 zur freiwilligen Nutzung veröffentlicht, bietet eine gemeinsame Struktur. Sein [Kern](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf) hat vier Funktionen:

- **Govern:** wer verantwortlich ist, mit welchen Richtlinien; gilt über den gesamten Lebenszyklus.
- **Map:** wofür das System da ist, wo es eingesetzt wird und was schiefgehen könnte.
- **Measure:** wie Risiken getestet und verfolgt werden.
- **Manage:** was gegen sie getan wird und wann.

Teams mit einem gemeinsamen Rahmenwerk streiten bei jedem neuen Projekt weniger über den Prozess.

## Was hat die Seite der Kürzer richtig erkannt?

Manche Governance ist Theater: lange Dokumente, die niemand liest, Freigaben ohne Kriterien und dieselbe Prüfung für ein internes Werkzeug mit geringem Risiko wie für ein kundennahes System. Das bremst Teams, ohne Risiken zu senken. Die Antwort ist Verhältnismäßigkeit, nicht Abschaffung: leichte Prüfungen für risikoarme Anwendungen, gründlichere, wo KI Kunden, Geld, Kinder oder personenbezogene Daten berührt.

## Wie behalten Führungskräfte Governance, ohne Tempo zu verlieren?

1. **Anwendungen nach Risiko einordnen.** Festlegen, welche KI-Anwendungen geringes, mittleres oder hohes Risiko haben, und die Prüfung daran anpassen.
2. **Eine verantwortliche Person benennen.** Jedes KI-System mit Kundenkontakt braucht jemanden, der für sein Sagen und Tun einsteht.
3. **Bekannte Angriffe testen.** Prompt Injection und Datenabfluss vor dem Start prüfen, nicht nach dem ersten Vorfall.
4. **Grenzen aufschreiben.** Festhalten, welche Daten jedes System nutzen darf und was es nie tun darf; das ist schneller, als es später neu herauszufinden.
5. **Ein öffentliches Rahmenwerk nutzen.** Die vier NIST-Funktionen sind ein kostenloser Ausgangspunkt, den Aufsicht und Partner kennen.

Bei ClarityAILab veröffentlichen wir die Governance hinter unseren eigenen Produkten; siehe unsere [Governance-Richtlinien](/governance/). Wie Architekturentscheidungen das KI-Risiko verändern, lesen Sie in [Ein großes KI-Modell oder viele Agenten?](/insights/the-monolith-is-dead-why-your-2026-ai-strategy-must-be-a-hive-mind/).

### Bremst KI-Governance die Produktentwicklung?

Sie schafft anfangs Arbeit, kann aber später Zeit sparen. Gartner nannte unzureichende Risikokontrollen als einen der Gründe, warum mindestens 30 % der Projekte mit generativer KI nach dem Proof of Concept aufgegeben werden sollten. Risiken früh zu klären, vermeidet Nacharbeit und gestoppte Projekte.

### Welche Strafen sieht der EU AI Act vor?

Für verbotene KI-Praktiken können Bußgelder bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes des Vorjahres betragen, je nachdem, welcher Betrag höher ist. Für andere Verstöße gelten niedrigere Obergrenzen.

### Haftet ein Unternehmen für das, was sein Chatbot sagt?

Das kann es. 2024 verurteilte ein kanadisches Tribunal Air Canada zur Entschädigung eines Kunden, nachdem der Chatbot auf der Website falsche Auskunft zu Trauerfall-Tarifen gegeben hatte, und wies das Argument der Airline zurück, der Chatbot sei eine eigenständige juristische Person.

### Was ist das AI Risk Management Framework des NIST?

Ein freiwilliges Rahmenwerk, das das US-amerikanische National Institute of Standards and Technology im Januar 2023 veröffentlicht hat. Es gliedert das KI-Risikomanagement in vier Funktionen: Govern, Map, Measure und Manage.