Prüfschema für BAUER GROUP Produkte
Vorgehen
Bei jeder neuen Produktentwicklung oder wesentlichen Änderung eines bestehenden Produkts mit KI-Komponente ist folgende Prüfung durchzuführen:
Schritt 1: Art. 5 Schnellprüfung
Für jeden der acht Verbotsgründe: Kann das Produkt bei bestimmungsgemäßem Einsatz ODER bei vorhersehbarem Missbrauch unter diesen Verbotsgrund fallen?
| # | Verbotsgrund | Ja/Nein | Begründung |
|---|---|---|---|
| 1 | Unterschwellige Manipulation | ||
| 2 | Ausnutzung von Schwächen | ||
| 3 | Social Scoring | ||
| 4 | Kriminalitätsprognose (nur Profiling) | ||
| 5 | Ungezieltes Gesichtserkennungs-Scraping | ||
| 6 | Emotionserkennung (Arbeit/Bildung) | ||
| 7 | Biometr. Kategorisierung (sensible Daten) | ||
| 8 | Echtzeit-Fernidentifikation (öffentl. Raum) |
Schritt 2: Ergebnis
- Alle "Nein": Produkt nicht von Verboten betroffen → weiter mit Risikoklassifizierung
- Mindestens ein "Ja": Produktentwicklung stoppen oder KI-Komponente so modifizieren, dass der Verbotsgrund entfällt
Schritt 3: Dokumentation
Prüfergebnis archivieren mit Datum, Verantwortlichem und Produktkennung.
Vorhersehbarer Missbrauch
Die Prüfung muss auch den vorhersehbaren Missbrauch berücksichtigen. Ein KI-System, das bei bestimmungsgemäßem Einsatz unbedenklich ist, aber leicht für verbotene Zwecke umfunktioniert werden kann, erfordert technische Schutzmaßnahmen.