Verbotene KI-Praktiken – Art. 5
Überblick
Seit 2. Februar 2025 sind bestimmte KI-Praktiken in der EU verboten. Verstöße werden mit Geldbußen bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes geahndet (je nachdem, welcher Betrag höher ist).
Verbotskatalog
Art. 5 verbietet KI-Systeme, die:
- Unterschwellige Manipulation einsetzen, um das Verhalten von Personen wesentlich zu beeinflussen und ihnen Schaden zuzufügen
- Schwächen ausnutzen — aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Lage
- Social Scoring durchführen — Bewertung natürlicher Personen aufgrund ihres Sozialverhaltens, die zu ungerechtfertigter Benachteiligung führt
- Kriminalitätsprognosen allein auf Basis von Profiling erstellen (ohne konkrete Verdachtsmomente)
- Gesichtserkennungsdatenbanken durch ungezieltes Scraping aus dem Internet oder Überwachungskameras aufbauen
- Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen einsetzen (Ausnahmen: medizinische/sicherheitsrelevante Zwecke)
- Biometrische Kategorisierung nach sensiblen Merkmalen (Rasse, politische Meinung, Gewerkschaftszugehörigkeit, sexuelle Orientierung, Religion) durchführen
- Echtzeit-Fernidentifikation in öffentlich zugänglichen Räumen für Strafverfolgungszwecke nutzen (enge Ausnahmen: vermisste Personen, Terrorabwehr, schwere Straftaten)
BAUER GROUP Relevanz
Bewertungsergebnis
Keines der aktuellen oder geplanten BAUER GROUP Produkte fällt unter den Verbotskatalog des Art. 5. Die BAUER GROUP entwickelt keine Social-Scoring-Systeme, keine Emotionserkennungssoftware für den Arbeitsplatz, keine biometrischen Kategorisierungssysteme und keine Echtzeit-Überwachungstechnologie.
Dieses Ergebnis wird jährlich und bei jeder neuen Produktentwicklung mit KI-Komponente überprüft.