KI-Risikomanagement: Risiken systematisch bewerten

Ein Chatbot erfindet Produktzusagen, ein Prognosetool benachteiligt systematisch bestimmte Kundengruppen, ein Mitarbeiter lädt Konstruktionsdaten in ein öffentliches KI-Tool: KI-Risiken sind keine theoretischen Szenarien, sondern Alltagsfälle. Trotzdem behandeln viele Unternehmen KI-Tools wie gewöhnliche Software — und übersehen, dass sich KI-Systeme grundlegend anders verhalten: Sie liefern statistische Ergebnisse statt deterministischer, sie verändern sich mit den Daten, und ihre Fehler sind schwer vorherzusagen.

Dieser Artikel zeigt, wie ein KI-Risikomanagement praktisch aufgebaut wird: welche Risikokategorien zu betrachten sind, wie der Bewertungsprozess nach ISO 31000 und ISO/IEC 23894 abläuft, wie eine Risikomatrix für KI-Fälle konkret aussieht und welche Fehler sich vermeiden lassen. Stand: September 2026.

Warum KI ein eigenes Risikomanagement braucht

Klassisches IT-Risikomanagement fragt: Fällt das System aus? Werden Daten gestohlen? Bei KI kommen Risikoarten hinzu, die diese Brille nicht erfasst:

• Qualitätsrisiken: KI-Ergebnisse sind Wahrscheinlichkeitsaussagen. Sprachmodelle halluzinieren, Prognosemodelle altern, wenn sich die Datenlage ändert (Modell-Drift). Ein System, das bei Einführung gut funktionierte, kann ein Jahr später systematisch falsch liegen — ohne Fehlermeldung.
• Bias und Diskriminierung: Trainingsdaten transportieren historische Verzerrungen. Ein Auswahlmodell, das aus alten Einstellungsentscheidungen lernt, reproduziert deren Muster — mit rechtlichen Folgen bis hin zu AGG-Ansprüchen.
• Datenrisiken: Eingaben in externe KI-Tools können personenbezogene Daten (DSGVO) oder Geschäftsgeheimnisse betreffen. Manche Anbieter nutzen Eingaben für das Training weiter — dann sind vertrauliche Daten faktisch unwiederbringlich draußen.
• Transparenz- und Nachvollziehbarkeitsrisiken: Wenn niemand erklären kann, warum das System entschieden hat, lassen sich Entscheidungen weder verteidigen noch korrigieren.
• Rechts- und Reputationsrisiken: Verstöße gegen die KI-Verordnung, Urheberrechtsfragen bei generierten Inhalten, öffentlich gewordene KI-Pannen.

Diese Risiken entstehen zudem an einer ungewohnten Stelle: nicht nur beim Betrieb eigener Systeme, sondern vor allem bei der Nutzung fremder Tools durch die eigenen Mitarbeitenden. Ein KI-Risikomanagement muss deshalb beim Nutzungsverhalten ansetzen, nicht nur bei der Technik.

Der Rahmen: ISO 31000, ISO/IEC 23894 und ISO/IEC 42001

Für KI-Risikomanagement muss niemand das Rad neu erfinden. Drei Normen bilden zusammen den Werkzeugkasten:

Das Zusammenspiel: ISO/IEC 42001 verlangt, dass ein Unternehmen KI-Risiken systematisch beurteilt und behandelt — ISO/IEC 23894 beschreibt, wie das methodisch sauber geht. Wer bereits ein Risikomanagement nach ISO 9001 (risikobasiertes Denken) oder ISO 27001 (ISMS-Risikoanalyse) betreibt, kann dessen Methodik erweitern statt parallel neu aufzubauen.

Auch der EU AI Act verlangt für Hochrisiko-Systeme in Art. 9 ein Risikomanagementsystem über den gesamten Lebenszyklus — die Pflichten greifen nach der Fristverschiebung durch die Digital-Omnibus-Verordnung ab 2. Dezember 2027 (Anhang III) beziehungsweise 2. August 2028 (Anhang I). Die Denkweise ist dieselbe wie in den Normen; wer sie früh etabliert, erfüllt die gesetzliche Anforderung später fast nebenbei.

Der Prozess in fünf Schritten

Ein praxistaugliches KI-Risikomanagement für KMU läuft in fünf Schritten ab:

1. Kontext und Kriterien festlegen: Was ist der Bewertungsgegenstand (jedes KI-System einzeln, aus dem KI-Inventar)? Welche Schutzinteressen zählen (Kunden, Mitarbeitende, Geschäftsgeheimnisse, Rechtskonformität)? Welche Risikoakzeptanzschwelle gilt? Ohne definierte Kriterien wird jede Bewertung beliebig.
2. Risiken identifizieren: Pro System systematisch durch die Risikokategorien gehen: Qualität, Bias, Daten, Transparenz, Recht, Sicherheit. Gute Leitfragen: Was passiert, wenn das Ergebnis falsch ist und niemand es merkt? Wer könnte durch das System benachteiligt werden? Welche Daten fließen hinein — und wohin?
3. Risiken analysieren und bewerten: Je Risiko Eintrittswahrscheinlichkeit und Schadensausmaß einschätzen, klassisch auf einer Skala von 1 bis 5, und in einer Risikomatrix verorten. Bei KI gehört zur Analyse immer die Frage nach der Entdeckbarkeit: Ein seltener, aber unbemerkt bleibender Fehler wiegt schwerer als ein häufiger, sofort sichtbarer.
4. Risiken behandeln: Vier Optionen wie im klassischen Risikomanagement — vermeiden (Tool nicht einsetzen oder Anwendungsfall ausschließen), reduzieren (menschliche Prüfung, Datenfilter, Zugriffsbeschränkung), übertragen (vertragliche Zusicherungen des Anbieters), akzeptieren (dokumentiert, mit Begründung).
5. Überwachen und wiederholen: KI-Risiken sind nicht statisch. Die Bewertung gehört wiederholt bei jeder wesentlichen Änderung — neues Modell, neuer Anwendungsfall, neue Datenquelle — und turnusmäßig mindestens jährlich. Stichprobenkontrollen der Ergebnisqualität liefern die Datenbasis dafür.

Der Aufwand pro System liegt bei der Erstbewertung realistisch zwischen einer Stunde (Standardtool mit unkritischen Daten) und mehreren Tagen (System mit Kundenwirkung).

Bewertung konkret: Beispiele aus der Risikomatrix

So sieht das Ergebnis in der Praxis aus — vier typische Fälle aus einem mittelständischen Dienstleistungsunternehmen, bewertet auf einer 5er-Skala (Wahrscheinlichkeit × Auswirkung):

Zwei Beobachtungen daraus: Erstens liegt das größte Risiko selten im spektakulären KI-Versagen, sondern im ungeregelten Alltagsgebrauch. Zweitens ist „akzeptieren" eine völlig legitime Option — Risikomanagement heißt nicht, jedes Risiko auf null zu drücken, sondern bewusst zu entscheiden und das nachweisen zu können.

Risikobeurteilung und Folgenabschätzung: zwei Instrumente, zwei Blickwinkel

ISO/IEC 42001 verlangt neben der Risikobeurteilung ein zweites Instrument, das viele Unternehmen aus dem Datenschutz kennen: die Folgenabschätzung (AI Impact Assessment, Kapitel 6.1.4 und Control-Bereich A.5). Der Unterschied ist der Blickwinkel:

• Die Risikobeurteilung fragt aus Sicht des Unternehmens: Welche Schäden drohen uns — finanziell, rechtlich, operativ, reputativ?
• Die Folgenabschätzung fragt aus Sicht der Betroffenen: Welche Auswirkungen hat das System auf Einzelpersonen und Gruppen — auf Bewerber, Kunden, Mitarbeitende, gegebenenfalls die Gesellschaft?

Ein Beispiel macht den Unterschied greifbar: Bei einem Kreditvergabe-Modell sieht die Risikobeurteilung vor allem Ausfallquoten und Rechtsrisiken. Die Folgenabschätzung fragt, ob bestimmte Personengruppen systematisch schlechteren Zugang zu Krediten bekommen — auch wenn das dem Unternehmen kurzfristig gar nicht schadet. Genau diese Betroffenenperspektive verlangt später auch die Grundrechte-Folgenabschätzung nach Art. 27 der KI-Verordnung für bestimmte Hochrisiko-Betreiber.

Praktisch lassen sich beide Instrumente in einem Dokument je System zusammenführen: erst die Systembeschreibung, dann die Unternehmensrisiken, dann die Betroffenenfolgen, am Ende Maßnahmen und Freigabeentscheidung. Für die meisten Standardtools bleibt die Folgenabschätzung kurz — wichtig ist, dass sie gestellt und beantwortet wurde.

Die fünf häufigsten Fehler — und wie Sie sie vermeiden

Aus Audits und Projekten kristallisieren sich wiederkehrende Muster heraus:

1. Bewertung ohne Inventar: Wer nicht weiß, welche Tools im Einsatz sind, bewertet nur die Spitze des Eisbergs. Die Schatten-KI der Fachabteilungen bleibt unbewertet — und ist oft der riskanteste Teil. Erst das Inventar, dann die Bewertung.
2. Einmalige Bewertung statt Prozess: Eine Excel-Tabelle von 2025 ist 2026 wertlos, wenn das Modell dahinter zweimal gewechselt hat. Ohne Anlass- und Turnusregel veraltet jede Bewertung.
3. Nur Technikrisiken betrachten: Die größten Schäden entstehen durch Nutzungsfehler: falsche Eingaben, blindes Vertrauen in Ergebnisse, fehlende Freigaben. Das Risikomanagement muss Verhaltensregeln und Schulung einschließen.
4. Scheingenauigkeit: Risikoscores mit zwei Nachkommastellen suggerieren Präzision, die es bei KI-Risiken nicht gibt. Eine grobe, ehrlich begründete 5er-Skala mit klaren Konsequenzen je Stufe ist belastbarer als eine pseudoexakte Formel.
5. Keine Konsequenzen definiert: Eine Bewertung ohne hinterlegte Regel („ab Stufe rot: Geschäftsführungsentscheidung, ab gelb: Maßnahmenpflicht") ist Dokumentationstheater. Jede Risikostufe braucht eine definierte Reaktion.

Der Lackmustest für ein funktionierendes KI-Risikomanagement ist einfach: Kann das Unternehmen für jedes eingesetzte System in fünf Minuten zeigen, welche Risiken bewertet wurden, wer die Entscheidung getroffen hat und wann die nächste Überprüfung ansteht? Wenn ja, steht das Fundament — für interne Sicherheit ebenso wie für ein späteres Audit nach ISO/IEC 42001.

Häufige Fragen

Thomas KowollInhaber und Leitung Zertifizierung bei KCERT. Auditiert Managementsysteme nach ISO 9001, 14001, 45001, 27001 und 50001. Mehr über KCERT

Begriffe in diesem Artikel

Verwandte Beiträge