Die Antidiskriminierungsbeauftragte des Bundes, Ferda Ataman, warnt vor einer neuen Form von Diskriminierung, wenn öffentliche und private Stellen zunehmend Entscheidungen durch automatisierte Systeme und sogenannte „Künstliche Intelligenz“ (KI) treffen lassen.
Angesichts von Regelungslücken müsse die Bundesregierung die Reform des Allgemeinen Gleichbehandlungsgesetzes (AGG) nutzen, um vor digitaler Diskriminierung zu schützen, sagte sie der Essener Funke-Mediengruppe. „Digitalisierung, künstliche Intelligenz und Algorithmen machen vieles leichter – leider auch Diskriminierung. Wir dürfen die Gefahren digitaler Diskriminierung auf keinen Fall unterschätzen“, so Ataman.
Zweifelhate KI-Entscheidungen
„Menschen müssen darauf vertrauen können, dass sie durch KI nicht benachteiligt werden – und sich wehren können, wenn es doch passiert“, sagt die Antidiskriminierungsbeauftragte. Immer öfter würden automatisierte Systeme oder Künstliche Intelligenz über Fragen entscheiden, die für Menschen im Alltag wichtig seien, etwa bei Bewerbungsverfahren, Bankkrediten, Versicherungen oder staatlichen Leistungen.
Gutachten sieht Rechtslücken
Ataman verwies in dem Gespräch mit der Mediengruppe auf ein von ihr in Auftrag gegebenes Rechtsgutachten, das große Lücken im deutschen Recht aufzeige. Das Gutachten warnt vor der Fehleranfälligkeit algorithmischer Entscheidungssysteme und spricht von einem „unumstrittenen Diskriminierungspotenzial.“ Bislang sei das Allgemeine Gleichbehandlungsgesetz den Herausforderungen „nur bedingt gewachsen“ – obwohl der Einsatz solcher Systeme nahezu alle Bereiche des privaten und öffentlichen Lebens umfasse.
Anzeige
NEU: Verordnung der EU zur Künstlichen Intelligenz
Anwendungsbeispiele für die künftige EU-Regelung
Mehr erfahren >>> juristische-fachbuchhandlung
Problematisch seien etwa die Zuschreibung von Gruppenmerkmalen, die Wahrscheinlichkeitsaussagen über Personen ermögliche und zu „Diskriminierung durch Statistik“ führen könne. Bei mangelnder Datenqualität sei das Diskriminierungspotenzial bereits im System selbst angelegt, ohne dass Nutzer und Betroffene dies nachvollziehen könnten. Der technologische Fortschritt mache diskriminierende Datensätze unkontrollierbar in der Weitergabe und Verwendung.
Für Betroffene sei es aber mangels Ressourcen unmöglich, den Ursachen einer Benachteiligung auf die Spur zu kommen. Das Gutachten empfiehlt unter anderem, den Anwendungsbereich des Antidiskriminierungsgesetzes zu erweitern, umfassende Auskunfts- und Untersuchungsrechte zu automatisierten Entscheidungssystemen zu verankern und eine Schlichtungsstelle einzurichten.
.
Quelle: dts
