STAND

Die Idee, dass eines Tages eine Superintelligenz entsteht, klingt wie reine Science-Fiction. Aber es gibt Forschungsprojekte, die sich mit dieser Frage beschäftigen - auch in Baden-Württemberg.

Bisher gelten alle Regulierungsideen der "schwachen KI". Darunter versteht man Software, die mit maschinellem Lernen kognitive Fähigkeiten entwickelt, die bisher nur Menschen hatten, und die lernt, Aufgaben selbständig zu lösen.

Die "starke KI" geht weit darüber hinaus und begegnet uns immer wieder in bekannten Filmen und Büchern, wie zum Beispiel "Terminator" oder "Blade Runner." Diese KI übertrifft menschliche Fähigkeiten, kann selbständig planen und entscheiden und sich auf alle Veränderungen einstellen, um ein übergeordnetes strategisches Ziel zu verfolgen. Bislang ist das nur Science Fiction.

Kann eine Superintelligenz Bewusstsein entwickeln?

Aber die Forschung ist da schon weiter. Im Institut für Technikfolgenabschätzung am KIT in Karlsruhe leitet Professor Karsten Wendland ein vom Bundesforschungsministerium gefördertes Projekt mit dem klangvollen Titel "Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz". Darin geht er mit wissenschaftlicher Systematik ganz unterschiedlichen Ansätzen nach, um die Frage zu klären, ob eine Superintelligenz tatsächlich jemals Bewusstsein entwickeln könnte.

"Ich wäre überrascht, wenn wir es in zwanzig Jahren nicht mit einer Superintelligenz zu tun hätten - irgendetwas wird kommen, das ist jetzt schon absehbar, weil der technische Fortschritt einfach vorangeht. Die Gefahr besteht darin, dass wir einer Künstlichen Intelligenz Zielszenarien vorgeben, die sie irgendwie erreichen soll. (...) Da kann es sein, dass die ganz andere Wege einschlägt, als wir erwarten, und dabei auch sehr unerwünschte Nebeneffekte eintreten."

Karsten Wendland, Professor am KIT

Ein Käfig für die Künstliche Intelligenz

Damit das nicht passiert, müssten die Menschen Schutzmaßnahmen ergreifen, betont Wendland. "Ich sage ja ganz gerne, man sollte die Künstliche Intelligenz in einem Käfig halten, so dass die nicht irgendwann ausbüchst, mit solchen Gedanken, dass sie plötzlich scheinbar macht, was sie will, weil sie eben Ziele erreichen möchte und dabei Wege einschlägt, die wir nicht für wünschenswert halten."

Aber die Wissenschaftler beschäftigen sich nicht nur mit dem Thema Sicherheit. Sie stellen auch ethische Überlegungen an, wie zum Beispiel: Sollte man Künstliche Intelligenz programmieren, die die Fähigkeit hat, unglücklich zu sein?

Informatikerausbildung grundlegend erweitern

Damit man Antworten auf diese Fragen formulieren kann, reicht es nicht, dass Ethikkommissionen viele Leitlinien formulieren, meint Wendland. Er plädiert deshalb dafür, dass Informatiker schon in der Ausbildung ihre berufliche Tätigkeit reflektieren müssen.

"Momentan ist es eher so, dass vielfach sehr stark fachlich ausgebildet wird, und dann muss irgendwann der Ethiker dazu, damit der die Techniker irgendwie auf den Pfad der Tugend zurückholt."

Karsten Wendland, Professor am KIT

KI-Experten sehen noch eine andere Gefahr: Dass zum Beispiel in der Arbeitswelt Menschen zunehmend daran gemessen werden, was intelligente Maschinen alles können. Mehr dazu im Podcast.

Audio herunterladen (27,2 MB | MP3)

Mehr zum Thema

Boom bei Sprachassistenzsystemen Was Alexa und Co ihnen nicht sagen

Die Zahl der Sprachassistenzsysteme weltweit hat sich innerhalb von zwei Jahren etwa verdoppelt. Neben ihren vielen Vorteilen hat diese KI-Technologie aber auch Schattenseiten, von denen viele nichts wissen.  mehr...

Faire und unfaire Daten Wieviel Gerechtigkeit steckt in Algorithmen?

Entscheidungen, die durch einen Algorithmus oder Künstliche Intelligenz getroffen werden, können auch ungerecht sein. Wie kann man dem entgegensteuern?  mehr...

Wie handeln Algorithmen bei Unfällen? Autonomes Fahren - Zukunftsvision mit Fragezeichen

Automatisiertes Fahren und Künstliche Intelligenz gelten als Schlüsseltechnologien in der Autobranche. Aber der KI kann man nur begrenzt Verantwortung zuweisen, sagt Bestsellerautor David Precht.  mehr...

Die Grenzen des technisch Machbaren KI zwischen Medizin und Überwachungstechnologie

Die Künstliche Intelligenz findet immer mehr Einsatzmöglichkeiten. Vor allem zwei Bereiche stellen die Wissenschaftler vor Probleme, die sie alleine nicht lösen können.  mehr...

STAND
AUTOR/IN