Ungleichheit durch Algorithmen (Foto: Imago, imago images / Ikon Images)

Faire und unfaire Daten

Wieviel Gerechtigkeit steckt in Algorithmen?

STAND
AUTOR/IN
ONLINEFASSUNG

Entscheidungen, die durch einen Algorithmus oder Künstliche Intelligenz getroffen werden, können auch ungerecht sein. Wie kann man dem entgegensteuern?

Der US-Konzern Amazon entwickelte vor einigen Jahren ein automatisches System für die Bewertung von Bewerbungen. Bewerberinnen und Bewerber bekamen je nach Eignung ein bis fünf Sterne - etwa so wie Produkte in der Kundenbewertung bei Amazon. Das System hatte aber ein Problem: Es mochte keine Frauen.

In der Vorauswahl schlug es vor allem männliche Bewerber vor. Die Erklärung dafür liegt in den Daten, mit denen das System trainiert wurde. Mithilfe von maschinellem Lernen wertete es aus, welche Bewerbungen in den zehn Jahren zuvor im Unternehmen erfolgreich waren. Und da Amazon vor allem Männer eingestellt hatte, kam die Künstliche Intelligenz zum Schluss, Bewerbungen von Frauen seien schlechter zu bewerten.

Daten können zu Diskriminierung führen

Fast alle der 500 umsatzstärksten Unternehmen in den USA setzen bei der Bewerbungsauswahl inzwischen auf Algorithmen. Aber Bewerbungen sind nur ein Beispiel, wie Daten zu Diskriminierung führen können.

Auch bei der Kreditvergabe können maschinell lernende Systeme, also Künstliche Intelligenz, die Entscheidung beeinflussen. Der Algorithmus kann aber nur so fair sein wie seine Schöpfer beziehungsweise Schöpferinnen. Und bestehende gesellschaftliche Vorurteile entwickeln sich so unter Umständen in der Künstlichen Intelligenz einfach weiter.

Bundestag: Gesetzliche Regeln gelten auch für KI-Systeme

Mit derartigen Fragen hat sich die Enquete-Kommission KI des Bundestags beschäftigt und hat in ihrem Abschlussbericht festgehalten, dass gesetzliche Regeln gegen Diskriminierung auch für KI-Systeme gelten. Aber dort heißt es auch: Für eine belastbare ethische und rechtliche Bewertung müsse man genügend darüber wissen, wie und auf welcher Datengrundlage ein selbst lernendes System funktioniert. Die meisten Unternehmen aber erklären ihre Algorithmen zum Betriebsgeheimnis.

Gerade deshalb plädiert die Stuttgarter Bundestagsabgeordnete Anna Christmann (Grüne) für Künstliche Intelligenz 'Made in Europe':

"Wir haben in Europa sowieso ganz andere Voraussetzungen als China und die USA, und das ist auch gut so. Und darauf können wir uns auch ein Stück weit verlassen. (...) Wenn wir eine Technologie wie Künstliche Intelligenz bei uns einsetzen, dann wird das nach unseren Werten geschehen."

Aber auch bei größtmöglicher Transparenz gibt es Befürchtungen, dass die von den Maschinen ausgerechneten Entscheidungen immer weniger von Menschen nachvollzogen werden können, wie das Beispiel eines aufsehenerregenden Gerichtsprozesses in den USA zeigt, bei dem Künstliche Intelligenz das Urteil beeinflusste.

Audio herunterladen (26,1 MB | MP3)

Mehr zum Thema

Boom bei Sprachassistenzsystemen Was Alexa und Co ihnen nicht sagen

Die Zahl der Sprachassistenzsysteme weltweit hat sich innerhalb von zwei Jahren etwa verdoppelt. Neben ihren vielen Vorteilen hat diese KI-Technologie aber auch Schattenseiten, von denen viele nichts wissen.  mehr...

Wie handeln Algorithmen bei Unfällen? Autonomes Fahren - Zukunftsvision mit Fragezeichen

Automatisiertes Fahren und Künstliche Intelligenz gelten als Schlüsseltechnologien in der Autobranche. Aber der KI kann man nur begrenzt Verantwortung zuweisen, sagt Bestsellerautor David Precht.  mehr...

Die Grenzen des technisch Machbaren KI zwischen Medizin und Überwachungstechnologie

Die Künstliche Intelligenz findet immer mehr Einsatzmöglichkeiten. Vor allem zwei Bereiche stellen die Wissenschaftler vor Probleme, die sie alleine nicht lösen können.  mehr...

Vom Freund zum Feind Super-Intelligenzen - Technomärchen oder echte Bedrohung?

Die Idee, dass eines Tages eine Superintelligenz entsteht, klingt wie reine Science-Fiction. Aber es gibt Forschungsprojekte, die sich mit dieser Frage beschäftigen - auch in Baden-Württemberg.  mehr...

STAND
AUTOR/IN
ONLINEFASSUNG