Hochrisiko-KI-System: Ein Hochrisiko-KI-System ist ein KI-System, das nach Art. 6 der KI-Verordnung erhöhte Risiken für Gesundheit, Sicherheit oder Grundrechte birgt — entweder als Sicherheitsbauteil regulierter Produkte (Anhang I) oder wegen seines Einsatzbereichs (Anhang III), etwa Personalauswahl oder Kreditvergabe.
Die KI-Verordnung kennt zwei Wege in die Hochrisiko-Einstufung. Erstens über Anhang I: KI, die als Sicherheitsbauteil in Produkten unter EU-Harmonisierungsrecht steckt oder selbst ein solches Produkt ist — etwa in Maschinen, Medizinprodukten, Aufzügen oder Fahrzeugen. Zweitens über Anhang III, der acht eigenständige Einsatzfelder auflistet:
- Biometrie (z. B. Fernidentifizierung)
- Kritische Infrastruktur
- Bildung (z. B. Prüfungsbewertung, Zulassung)
- Beschäftigung und Personalmanagement (z. B. Bewerbervorauswahl)
- Zugang zu wesentlichen Leistungen (z. B. Kreditwürdigkeitsprüfung, Risikobewertung bei Lebens- und Krankenversicherungen)
- Strafverfolgung
- Migration und Grenzkontrolle
- Rechtspflege und demokratische Prozesse
Anbieter von Hochrisiko-KI müssen unter anderem ein Risikomanagementsystem betreiben, Daten-Governance sicherstellen, technische Dokumentation und Protokollierung vorhalten, menschliche Aufsicht ermöglichen und eine Konformitätsbewertung mit CE-Kennzeichnung durchlaufen. Betreiber trifft Art. 26: Sie müssen das System bestimmungsgemäß verwenden, Eingabedaten kontrollieren, den Betrieb überwachen und geschultes Personal einsetzen.
Wichtig für die Planung (Stand: September 2026): Der Digital Omnibus (Verordnung (EU) 2026/1744) hat die Anwendbarkeit dieser Pflichten verschoben — auf den 2. Dezember 2027 für Anhang-III-Systeme und den 2. August 2028 für eingebettete KI nach Anhang I. Eine Ausnahme von der Einstufung gibt es zudem für Anhang-III-Systeme ohne erhebliches Risiko, etwa bei rein vorbereitenden Aufgaben (Art. 6 Abs. 3).
Relevanz für die Zertifizierung
Für Unternehmen ist die erste Pflicht ein ehrlicher Blick ins eigene KI-Inventar: Läuft dort ein System aus Anhang III — etwa Bewerber-Screening im HR-Bereich? Dann sollten Risikomanagement und Dokumentation deutlich vor Dezember 2027 stehen. Ein KI-Managementsystem nach ISO/IEC 42001 liefert dafür das Gerüst und lässt sich zertifizieren, etwa durch KCERT im nicht akkreditierten Bereich. Das Zertifikat ersetzt jedoch nicht die Konformitätsbewertung, die die KI-Verordnung für Hochrisiko-Systeme selbst vorschreibt.
Häufige Fragen zu Hochrisiko-KI-System
Sehr wahrscheinlich ja, wenn die KI Bewerbungen filtert, bewertet oder Auswahlentscheidungen beeinflusst — Beschäftigung ist ein Anhang-III-Bereich. Keine Hochrisiko-Einstufung greift, wenn das System nur vorbereitende oder eng begrenzte Hilfsaufgaben erfüllt und kein erhebliches Risiko für die Betroffenen schafft (Art. 6 Abs. 3); das muss dokumentiert begründet werden. Als reiner Betreiber treffen Sie geringere Pflichten als den Anbieter, aber Überwachung und geschultes Personal bleiben Ihre Aufgabe.
Nach dem Digital Omnibus (in Kraft seit 27. Juli 2026) gelten die Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III ab dem 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I ab dem 2. August 2028. Stand: September 2026. Die ursprüngliche Frist 2. August 2026 wurde damit kurz vor Ablauf verschoben. Inhaltlich wurde nichts gestrichen — wer betroffen ist, gewinnt Zeit, nicht Entlastung.
Anbieter ist, wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt — ihn treffen die vollen Hochrisiko-Pflichten inklusive Konformitätsbewertung. Betreiber ist, wer ein System in eigener Verantwortung beruflich verwendet, also die meisten Anwenderunternehmen. Vorsicht: Wer ein Hochrisiko-System wesentlich verändert oder unter eigener Marke anbietet, kann rechtlich zum Anbieter werden — mit allen Folgepflichten.