Ob bei Jobbewerbungen oder Kreditanträgen: Immer öfter würden automatisierte Systeme über Fragen entscheiden, die im Alltag wichtig seien, sagt Ferda Ataman in SWR2. Die Antidiskriminierungsbeauftragte des Bundes fordert mehr Transparenz und eine Auskunftspflicht für Betreiber*innen von KI.
Wird die KI mit Vorurteilen gefüttert?
Bei Bewerbungen und Kreditanträgen entschieden oft nicht die Sachbearbeiter, sondern Algorithmen, ob man überhaupt in Frage komme.
„Ein lernendes System bekommt sehr viele Daten und soll auswerten, was „ gut“ und was „schlecht“ ist. Da kommt es darauf an, was der KI als Option vorgegeben wird“, sagt Ataman. Es könne sein, dass sie bestehende Vorurteile einfach reproduziert.
„Wir müssen das deutsche Antidiskriminierungsrecht verbessern“
Ferda Ataman fordert deshalb mehr Transparenz und eine Auskunftspflicht für Betreibende von Künstlicher Intelligenz. „Menschen wissen oft nicht, dass ein Algorithmus benutzt wird. Dass sie es nicht mit einer Person, sondern mit einem Computer zu tun haben.“
Ataman fordert, dass Betreiber von KI-Systemen vor Gericht beweisen müssen, dass diese nicht zu Benachteiligungen führen. Zur Zeit müssen Betroffene die Diskriminierung nachweisen – was ohne Kenntnis der Funktionsweise der KI nicht möglich sei.
Atamans Fazit: „Wir müssen das deutsche Antidiskriminierungsrecht verbessern. Im Moment sind Menschen dieser digitalen Diskriminierung ausgeliefert.“
Chancen und Risiken von KI
Die künstlich intelligente Gesellschaft (4/10) Kollege Algorithmus
Künstliche Intelligenz schafft mehr Jobs als sie vernichtet. Zumindest vorerst. Langfristig könnte sich der Trend umkehren.
Chancen und Risiken von KI Autorin Helga Nowotny zu Künstlicher Intelligenz: „Wir müssen lernen, damit zu leben“
Die Menschheit könne sich dem Fortschritt der Künstlichen Intelligenz nicht entziehen, meint Helga Nowotny, die ein Sachbuch zum Thema geschrieben hat. „Wir müssen lernen, damit zu leben. Es gibt kein Rezept, wie wir die Entwicklung stoppen können.“
