Künstlerische Darstellung einer menschlichen Hand, die eine Roberthand hält (Foto: IMAGO, Panthermedia)

Verhaltensforschung

Einsatz von KI macht uns risikofreudiger

Stand
AUTOR/IN
Anja Braun
Anja Braun, Reporterin und Redakteurin SWR Wissen aktuell. (Foto: SWR, Christian Koch)
ONLINEFASSUNG
Leila Boucheligua
Lena Schmidt

Künstliche Intelligenz kann das Risikoverhalten beeinflussen - unabhängig davon, ob die KI tatsächlich zum Einsatz kommt. Diesen Placebo-Effekt zeigt eine neue Studie.

Audio herunterladen (2,5 MB | MP3)

An Technologien, die unsere menschlichen Fähigkeiten verbessern sollen, werden hohe Erwartungen gestellt. Das liegt auch am aktuellen Hype um Künstliche Intelligenz. Dadurch werden die Erwartungen jedoch manchmal auch überhöht, das Können einer KI überschätzt.

Ein internationales Forschungsteam hat nun herausgefunden, dass die Risikobereitschaft deutlich steigt, sobald man glaubt, von einer künstlichen Intelligenz unterstützt zu werden. Die Probandinnen und Probanden waren schneller bereit, ein Risiko einzugehen. Und das unabhängig davon, ob die KI tatsächlich zum Einsatz kam. In der Studie reichte es aus, zu erwarten, dass die KI unterstützt - ein klassischer Placebo-Effekt.

Scheinbare Unterstützung durch KI erhöhte Risikobereitschaft

Die Forschenden von der LMU München, der HU Berlin und der finnischen Aalto University haben den Placebo-Effekt untersucht, indem sie einer Gruppe von Menschen zugesichert haben, eine Künstliche Intelligenz würde sie bei einem virtuellen Kartenspiel unterstützen.

Die scheinbare Unterstützung bestand aus einer Gehirn-Computer-Schnittstelle, die angeblich so koordiniert war, dass sie nicht hörbare Geräusche abspielt, welche die kognitiven Funktionen der einzelnen Spielenden steigern sollten. Tatsächlich wurden keine Geräusche abgespielt - es gab also keine Unterstützung durch eine Künstliche Intelligenz. Trotzdem zeigten die Spielenden eine deutlich höhere Risikobereitschaft, sobald sie glaubten, von der KI zu profitieren.

Ein Mann, der eine VR-Brille trägt (Foto: IMAGO, Mario Aurich)
Die Verbesserung menschlicher Fähigkeiten durch Technologien wird als "Human Augmentation“ bezeichnet. Das können beispielsweise Exoskelette, aber auch Augmented-Reality-Brillen sein.

Das Problem: Der Placebo-Effekt durch die KI

Die Autoren der Studie begründen die erhöhte Risikobereitschaft durch den Placebo-Effekt der KI. Er ist in ähnlicher Form wie ein Placebo-Effekt bei Medikamenten nachweisbar. Doch dieser Effekt kann auch negative Folgen haben: Eine erhöhte Risikobereitschaft könnte Menschen dazu bringen, sich in Gefahr zu begeben. Zum Beispiel wenn jemand glaubt, durch Künstliche Intelligenz in riskanten Aktiengeschäften unterstützt zu werden und damit Erfolg zu haben - sich dann aber völlig verschuldet. 

Albrecht Schmidt, Informatikprofessor an der Uni München und Co-Autor der Studie, sagt, in Zukunft sollten solche möglichen Placebo-Effekte eingepreist werden. Gerade beim Einsatz von Künstlicher Intelligenz, die eingesetzt wird, um menschliche Fähigkeiten zu verbessern, sei mit diesen Placebo-Effekten zu rechnen. Was wiederum Entscheidungen beeinflussen kann - vor allem wenn Menschen unsicher sind.

Denkt man dieses Szenario weiter, kann das auch für die Gesamtgesellschaft zu Sicherheitslücken und anderen kritischen Entwicklungen führen. Deshalb fordern die Forschenden, dass die KI-Forschung - ähnlich wie in den Bereichen Psychologie und Medizin - in Zukunft eine Placebokontrolle durchführen soll.

Mehr zum Thema KI:

München

Physiker und Philosoph Stefan Bauberger | 25.5.2023 Wie viel KI ist gut für unsere Gesellschaft?

ChatGPT & Co. verändern unser Leben. Künstliche Intelligenz hilft in der Medizin, im Alltag, in der Arbeit. Doch wo sind die Grenzen?

Leute SWR1 Baden-Württemberg

Gespräch Kann Künstliche Intelligenz ein Bewusstsein haben?

Der Hype um Chat-GPT hat eine neue Welle der Faszination für Künstliche Intelligenz ausgelöst. Immer wieder dreht sich die Diskussion um eine Frage: Hat KI ein Bewusstsein?

Stuttgart

Einsatz von KI im Bildungssystem ChatGPT an Unis: So bewertet ein Experte den Einsatz

Ist der Chatbot ChatGPT nützlich oder gefährlich an Schulen und Unis? Diese Frage stellt sich für den Stuttgarter Forscher Jürgen Seitz nicht mehr. Denn KI werde längst genutzt.

SWR Aktuell am Morgen SWR Aktuell

Mannheim

Wissenschaft im Gespräch KI - Risiken und Chancen: Diskussion an der Uni Mannheim

Künstliche Intelligenz (KI) begegnet uns täglich - etwa in den sozialen Netzwerken. Über Chancen und Risiken haben Forscher der Uni Mannheim mit 200 Interessierten diskutiert.

SWR4 BW aus dem Studio Mannheim SWR4 BW aus dem Studio Mannheim

Wie KI in der Medizin hilft

Künstliche Intelligenz kann uns bei Untersuchungen und Operationen helfen. Dennis Horn zeigt an Beispielen, wie.

Planet Schule: Dennis Digital - Dennis und die Künstliche Intelligenz WDR Fernsehen

Darf Künstliche Intelligenz alles? KI und Ethik

Roboter "Alfie" beantwortet Dennis seine moralischen Fragen. Geht das gut?

Planet Schule: Dennis Digital - Dennis und die Künstliche Intelligenz WDR Fernsehen

Stand
AUTOR/IN
Anja Braun
Anja Braun, Reporterin und Redakteurin SWR Wissen aktuell. (Foto: SWR, Christian Koch)
ONLINEFASSUNG
Leila Boucheligua
Lena Schmidt