Störfall Mensch

Künstliche Intelligenz – Das trojanische Pferd

STAND
AUTOR/IN
Jürgen Wertheimer

In seinem Vortrag geht der Tübinger Literaturwissenschaftler Jürgen Wertheimer der Frage nach, wer denn nun wen kontrolliert: Wir die KI oder doch schon die KI uns?

Audio herunterladen (26,2 MB | MP3)

Die Geister, die wir riefen

Goethe beschreibt auf prophetische Weise in seinem „Zauberlehrling“ die heutige Situation ganz gut:

„Sein Befund, dass es nicht gerade einfach ist, die Geister, die man rief, wieder loszuwerden, trifft zu. Das Mittel dagegen nur bedingt.

Ein schlichtes 'In die Ecke, Besen, Besen' wird nicht mehr genügen, um den eingetretenen Störfall abzustellen. Man kann nicht mehr einfach den Stecker ziehen, wenn man selbst am Stromnetz hängt.

Und genau das tut man, wenn man, ohne den Übergang so recht bemerkt zu haben, vom Subjekt zum Objekt jener Macht geworden ist, die man einst wachrief." (Jürgen Wertheimer)

Roboter (Foto: Getty Images, Thinkstock -)
Thinkstock -

Wir sind die Schwachstelle

„Die Schwachstelle bei dem gewagten Spiel sind nämlich in Wirklichkeit wir. Und zwar in dem Maße, wie wir alle unsere ohnehin limitierten intellektuellen Kapazitäten in die Perfektionierung digitaler Systeme stecken – statt an uns selbst zu arbeiten.

Während sie lernen, legen wir uns in die Hängematte der Passivität und warten ab oder gehen mental in Urlaub. Und gewöhnen uns im Banne der neuen Technologien präventiv das autonome Denken und Handeln ab."

Wir müssen den Gefahren ins Auge sehen

„Nur wenn wir wirklich begreifen und begreifen wollen, welche verhängnisvollen und dann nicht mehr reversiblen Prozesse buchstäblich 'vor den Toren stehen', um im Namen der seit 2000 Jahren ungeliebten Seherin Kassandra zu sprechen, werden wir fähig sein, unsere Wahrnehmung so zu stärken, damit sie den neuen Herausforderungen gewachsen ist.

Das ist schwierig, weil wir immer wieder dazu verführt werden, Verantwortung abzugeben und uns blind den Möglichkeiten perfekt organisierter Systeme anzuvertrauen.“

Prof. Dr. Jürgen Wertheimer (Foto: SWR, SWR -)
SWR -

Mehr zum Thema

Die künstlich intelligente Gesellschaft (10/10) Denkende Computer und menschliche Dummheit

Computer können Texte lesen, Befehle ausführen, Autos steuern. Aber Gefühle und menschliche Schwächen können sie nur simulieren.

 

SWR2 Wissen: Spezial SWR2

Roboterethik – Haben Maschinen Moral?

Maschinen, die mit künstlicher Intelligenz gesteuert werden, werden immer selbstständiger und autonomer. Doch können und dürfen Maschinen überhaupt moralisch handeln?

SWR2 Wissen: Aula SWR2

Die künstlich intelligente Gesellschaft (1/10) Die Geschichte vom denkenden Computer

Seit über 60 Jahren ist von künstlicher Intelligenz die Rede. Heute können Computer und Roboter zwar viel, aber können sie auch denken?

SWR2 Wissen: Spezial SWR2

Digitalisierung

Aula Digitalisierung verstehen (1/2)

Der Soziologe Prof. Armin Nassehi fragt: Wie muss eine Gesellschaft ticken, die bereitwillig die Digitalisierung vieler Lebensbereiche zulässt? Ein Gespräch mit Ralf Caspary.

SWR2 Wissen: Aula SWR2

Aula Digitalisierung verstehen (2/2)

Die Digitalisierung hat die Datenanalyse perfektioniert. Der Soziologe Professor Armin Nassehi zeigt, warum die Digitalisierung keine Revolution darstellt. Ein Interview in zwei Teilen.

SWR2 Wissen: Aula SWR2

STAND
AUTOR/IN
Jürgen Wertheimer