Anhang III: welche KI-Systeme als Hochrisiko gelten
Gilt ab dem 2. Dezember 2027
Ursprünglich für August 2026 vorgesehen, durch den Digital Omnibus verschoben. Für KMU sind von den acht Bereichen im Wesentlichen zwei relevant. Und es gibt eine Ausnahmeregel, die viele Systeme aus der Hochrisiko-Klasse herausnimmt.
Die acht Bereiche
Anhang III der KI-Verordnung listet Anwendungsbereiche auf, in denen KI-Systeme als hochriskant gelten:
- Biometrie, soweit überhaupt zulässig, etwa biometrische Fernidentifizierung oder Kategorisierung
- Kritische Infrastruktur, etwa Sicherheitskomponenten in Wasser-, Gas-, Strom- oder Verkehrsnetzen
- Allgemeine und berufliche Bildung, etwa Zugangsentscheidungen, Bewertung von Lernergebnissen, Prüfungsüberwachung
- Beschäftigung und Personalmanagement, etwa Bewerberauswahl, Beförderungs- und Kündigungsentscheidungen, Aufgabenzuweisung, Leistungsüberwachung
- Zugang zu grundlegenden Diensten, etwa Kreditwürdigkeitsprüfung, Risikobewertung in der Lebens- und Krankenversicherung, Priorisierung bei Notrufen, Vergabe von Sozialleistungen
- Strafverfolgung
- Migration, Asyl und Grenzkontrolle
- Rechtspflege und demokratische Prozesse
Die Bereiche sechs bis acht betreffen Behörden. Bereich eins und zwei betreffen sehr spezielle Anwendungen. Für ein normales Unternehmen bleiben drei, vier und fünf.
Was davon KMU tatsächlich trifft
Bereich 4, Beschäftigung. Das ist der mit Abstand häufigste Fall. Wer Bewerbungen automatisch vorsortiert, Lebensläufe von KI bewerten lässt, Stellenanzeigen zielgerichtet ausspielt oder Leistung softwaregestützt überwacht, ist hier. Ausführlich im Beitrag zu KI im Bewerbungsprozess.
Bereich 5, Zugang zu Diensten. Relevant für Finanzdienstleister, Versicherungsvermittler und alle, die Bonität automatisiert bewerten. Auch ein Onlineshop, der Zahlungsarten anhand eines KI-Scorings freischaltet, sollte hier genau hinsehen.
Bereich 3, Bildung. Betrifft Bildungsanbieter, Weiterbildungsinstitute und Unternehmen mit eigener Ausbildungsprüfung.
Was nicht darunterfällt: ChatGPT für Textentwürfe, Copilot in der Entwicklung, Belegerkennung in der Buchhaltung, Übersetzung, Transkription, ein Kundenchatbot ohne Entscheidungsbefugnis. Das sind die Systeme, die die meisten KMU tatsächlich einsetzen, und sie sind kein Hochrisiko.
Die Ausnahme, die kaum jemand kennt
Ein System fällt nicht automatisch in die Hochrisiko-Klasse, nur weil es in einem der acht Bereiche eingesetzt wird. Art. 6 Abs. 3 nimmt Systeme aus, die kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte bergen. Das ist der Fall, wenn das System
- eine eng begrenzte Verfahrensaufgabe erfüllt, etwa Dokumente sortieren oder Dubletten erkennen,
- das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit lediglich verbessert, etwa Formulierungen glättet,
- Entscheidungsmuster erkennt, ohne die menschliche Bewertung zu ersetzen, oder
- eine reine Vorbereitungsaufgabe übernimmt.
Zwei Einschränkungen dazu. Erstens: Sobald das System ein Profiling natürlicher Personen vornimmt, greift die Ausnahme nie. Zweitens: Wer sich auf die Ausnahme beruft, muss die Einschätzung dokumentieren, bevor das System in Verkehr kommt. Ein stilles Nichtstun genügt nicht.
Praktisch heisst das: Eine KI, die eingehende Bewerbungen nur nach Eingangsdatum sortiert und Dubletten entfernt, dürfte unter die Ausnahme fallen. Eine KI, die Bewerber nach Eignung reiht, fällt nicht darunter. Der Unterschied liegt darin, ob die Software die Bewertung vorbereitet oder vorwegnimmt.
Welche Pflichten dann gelten
Ist ein System Hochrisiko und Sie sind Betreiber, gelten ab Dezember 2027 unter anderem:
- Verwendung gemäss der Anbieter-Betriebsanleitung
- menschliche Aufsicht durch Personen mit der nötigen Kompetenz und Befugnis
- Überwachung des Betriebs und Meldung schwerwiegender Vorfälle
- Aufbewahrung der automatisch erzeugten Protokolle
- Information der betroffenen Personen, etwa der Bewerber
- Sicherstellung, dass die Eingabedaten für den Zweck geeignet und repräsentativ sind
Als Anbieter, also wenn Sie ein solches System selbst entwickeln oder unter eigenem Namen anbieten, kommt deutlich mehr hinzu: Risikomanagementsystem, Datenqualität, technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung und Registrierung in der EU-Datenbank. Ein wichtiger Fallstrick: Wer ein zugekauftes System wesentlich verändert oder unter eigenem Namen weitergibt, kann rechtlich zum Anbieter werden.
Was jetzt zu tun ist
- Register führen. Ohne Liste keine Einstufung. Kostenlose Vorlage.
- Jedes System gegen die acht Bereiche prüfen. In den meisten KMU bleibt kein einziges übrig, und das ist ein Ergebnis, das man festhalten sollte.
- Bei Treffern die Ausnahme nach Art. 6 Abs. 3 prüfen und die Prüfung schriftlich festhalten.
- Anbieterunterlagen anfordern. Wer Ihnen bis heute keine Angaben zur Einstufung machen kann, wird es bis 2027 vermutlich auch nicht.
- Wiedervorlage auf Anfang 2027 setzen. Sechzehn Monate klingen nach viel und sind es nicht, wenn ein Anbieterwechsel nötig wird.
Häufige Fragen
Wir nutzen nur ChatGPT. Sind wir Hochrisiko? Nein, nicht durch die Nutzung selbst. Entscheidend ist der Zweck. Wer ChatGPT allerdings Bewerbungen bewerten lässt, hat den Anwendungsfall aus Bereich 4 geschaffen, unabhängig davon, welches Werkzeug dahintersteckt.
Wer stuft ein, wir oder der Anbieter? Der Anbieter stuft sein Produkt ein. Sie müssen aber beurteilen, ob Ihr konkreter Einsatz darunterfällt, weil dieselbe Software je nach Verwendung unterschiedlich zu bewerten ist.
Gilt Anhang III auch für interne Systeme ohne Kundenkontakt? Ja. Bereich 4 betrifft ausdrücklich das eigene Personal.
Was passiert, wenn wir falsch einstufen? Eine dokumentierte, nachvollziehbar begründete Einstufung, die sich später als zu optimistisch erweist, ist etwas völlig anderes als gar keine Einstufung. Dokumentieren Sie die Begründung, nicht nur das Ergebnis.
In einer Minute prüfen, ob Anhang III Sie betrifft
Der Selbsttest fragt die relevanten Anwendungsfälle ab und sagt Ihnen, ob der Dezember 2027 für Sie ein Termin ist oder nicht.
Zum KI-CheckFünf Fragen, ohne Anmeldung.