Dieses Dokument befindet sich in aktiver Entwicklung und ist noch nicht finalisiert.
Skip to content

Prüfschema für BAUER GROUP Produkte ​

Vorgehen ​

Bei jeder neuen Produktentwicklung oder wesentlichen Änderung eines bestehenden Produkts mit KI-Komponente ist folgende Prüfung durchzuführen:

Schritt 1: Art. 5 Schnellprüfung ​

Für jeden der acht Verbotsgründe: Kann das Produkt bei bestimmungsgemäßem Einsatz ODER bei vorhersehbarem Missbrauch unter diesen Verbotsgrund fallen?

#VerbotsgrundJa/NeinBegründung
1Unterschwellige Manipulation
2Ausnutzung von Schwächen
3Social Scoring
4Kriminalitätsprognose (nur Profiling)
5Ungezieltes Gesichtserkennungs-Scraping
6Emotionserkennung (Arbeit/Bildung)
7Biometr. Kategorisierung (sensible Daten)
8Echtzeit-Fernidentifikation (öffentl. Raum)

Schritt 2: Ergebnis ​

  • Alle "Nein": Produkt nicht von Verboten betroffen → weiter mit Risikoklassifizierung
  • Mindestens ein "Ja": Produktentwicklung stoppen oder KI-Komponente so modifizieren, dass der Verbotsgrund entfällt

Schritt 3: Dokumentation ​

Prüfergebnis archivieren mit Datum, Verantwortlichem und Produktkennung.

Vorhersehbarer Missbrauch

Die Prüfung muss auch den vorhersehbaren Missbrauch berücksichtigen. Ein KI-System, das bei bestimmungsgemäßem Einsatz unbedenklich ist, aber leicht für verbotene Zwecke umfunktioniert werden kann, erfordert technische Schutzmaßnahmen.

Dokumentation lizenziert unter CC BY-NC 4.0 · Code lizenziert unter MIT