Hochrisiko – und die Ausnahme
Zwei Wege führen in die Hochrisiko-Klasse: Anhang I über die Produktsicherheit und Anhang III über acht Anwendungsbereiche. Aus Anhang III gibt es einen Ausweg, der aber eigene Pflichten mitbringt.
Die acht Bereiche des Anhangs III
1. Biometrie
Biometrische Fernidentifizierung, Kategorisierung nach sensiblen Merkmalen, Emotionserkennung.
2. Kritische Infrastruktur
Sicherheitsbauteile für digitale Infrastruktur, Straßenverkehr, Wasser, Gas, Wärme, Strom.
3. Bildung und Berufsbildung
Zugang und Zulassung, Bewertung von Lernergebnissen, Zuweisung von Bildungsniveaus, Überwachung bei Prüfungen.
4. Beschäftigung und Personalmanagement
Bewerberauswahl und -filterung, Beförderung, Kündigung, Aufgabenzuweisung, Leistungsüberwachung.
5. Wesentliche private und öffentliche Dienste
Sozialleistungen, Kreditwürdigkeitsprüfung, Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen, Notrufklassifizierung.
6. Strafverfolgung
Risikobewertungen, Beweiswürdigung, Profiling zur Aufdeckung von Straftaten.
7. Migration, Asyl und Grenzkontrolle
Risikobewertung bei der Einreise, Prüfung von Asyl-, Visa- und Aufenthaltsanträgen.
8. Rechtspflege und demokratische Prozesse
Unterstützung von Justizbehörden bei Rechtsanwendung, Beeinflussung von Wahlen oder Wahlverhalten.
Für den Mittelstand sind vor allem zwei Bereiche relevant: Nummer 4 – jedes Werkzeug, das bei Einstellung, Beförderung, Aufgabenzuweisung oder Leistungsüberwachung hilft – und Nummer 5 mit der Kreditwürdigkeitsprüfung. Wer eine Bewerbervorauswahl automatisiert, ist mitten drin.
Der Ausweg aus Art. 6 Abs. 3
Ein System aus Anhang III ist trotzdem kein Hochrisiko-System, wenn es kein erhebliches Risiko birgt, weil einer dieser vier Gründe zutrifft:
- Es erfüllt eine eng gefasste Verfahrensaufgabe.
- Es verbessert das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit.
- Es erkennt Entscheidungsmuster oder Abweichungen davon, ohne die menschliche Bewertung ohne angemessene Überprüfung zu ersetzen.
- Es erfüllt eine vorbereitende Aufgabe für eine Bewertung im Sinne des Anhangs III.
Das ist keine Formalie. Ein System, das Bewerbungen nur nach formalen Kriterien vorsortiert und die Entscheidung vollständig dem Menschen überlässt, kann unter (a) oder (d) fallen. Eines, das Kandidaten in eine Rangfolge bringt, nicht.
Profiling hebelt jede Ausnahme aus
Der letzte Unterabsatz des Art. 6 Abs. 3 ist der wichtigste Satz der ganzen Vorschrift: Führt das System ein Profiling natürlicher Personen durch, bleibt es immer Hochrisiko-System – ganz gleich, welcher Ausnahmegrund vorliegt.
Profiling ist dabei weit zu verstehen: jede automatisierte Verarbeitung personenbezogener Daten, um persönliche Aspekte einer natürlichen Person zu bewerten. Wer Eignung, Leistung, Zuverlässigkeit oder Verhalten einschätzt, macht Profiling – auch dann, wenn am Ende ein Mensch entscheidet.
Die Ausnahme ist kein Freibrief
Wer sich auf Art. 6 Abs. 3 beruft, muss die Bewertung vor dem Inverkehrbringen oder der Inbetriebnahme dokumentieren und unterliegt der Registrierungspflicht nach Art. 49 Abs. 2. Die zuständige Behörde kann die Dokumentation jederzeit anfordern.
Die Ausnahme tauscht also einen großen Pflichtenkatalog gegen einen kleinen – sie beseitigt ihn nicht. Wer sie nutzt und nichts dokumentiert, steht schlechter da als jemand, der sie gar nicht erst beansprucht.
Ob dein Fall unter Anhang III fällt und ob die Ausnahme trägt, prüft der Pflichtenrechner.
Frist mit dem eigenen Datum rechnen
Der Fristenrechner zählt Werktage, überspringt die Feiertage deines Bundeslandes und wendet § 193 BGB an.
Zum Fristenrechner