SWR Wissen-Redakteur David Beck beschäftigt sich intensiv mit Künstlicher Intelligenz (KI) und besonders Chat-GPT und der zugrundeliegenden Technologie. Wie viele andere fragt er sich oft, ob KI ein Bewusstsein haben kann.
SWR2 Impuls: Warum sind wir so begeistert von Chat-GPT?
David Beck: Ich glaube, es ist der enorme Sprung, den KI mit Chat-GPT für die meisten Menschen scheinbar gemacht hat. Wer sich davor nicht mit KI beschäftigt hatte, hatte gar nicht auf dem Schirm, wie weit sich KI mittlerweile entwickelt hat. Und dann war Chat-GPT auf einmal ein Sprung von „Ich kann mein Handy mit meinem Gesicht entsperren“ zu „Ich muss nie wieder Hausaufgaben machen“.
Das hat dann eben diesen Hype ausgelöst. Ich persönlich bin aber immer noch davon überzeugt, dass es nur ein Hype ist und wir uns an solche KIs gewöhnen werden. Es wird sich vieles durch KI verändern, aber das ist eigentlich nichts Neues. Allein meine Generation hat mit dem Internet und Smartphones schon zwei technologische Großrevolutionen durchgemacht und das ist jetzt die Dritte.
Und wer sich damit beschäftigt hat, hat das auch zumindest teilweise kommen sehen. Es ist nicht so als hätte Open-AI geheim vor sich hingeforscht und dann auf einmal Chat-GPT „rausgehauen“. Ich habe vor etwa einem Jahr einen Beitrag von einer KI schreiben lassen, den ich dann eingesprochen habe und der in SWR2 Impuls lief. Wir haben das damals natürlich transparent gemacht und es ging auch nicht um den Inhalt, der komplett halluziniert war.
Den Beitrag habe ich damals mit GPT-3 gemacht, letztendlich dem Vorgänger von Chat-GPT. Auch die vorherigen GPT-Versionen waren schon mehr oder weniger frei zugänglich und auch schon sehr gut. Aber für alle, die das nicht auf dem Schirm hatten, war es eben ein riesiger Sprung, von Null auf Chat-GPT.
Wie intelligent ist Chat-GPT im Vergleich zu uns wirklich?
David Beck: Das kommt ein bisschen auf die Definition von Intelligenz an. Wir können ja nicht mal so richtig bei uns beschreiben, was Intelligenz ist. Wir versuchen zwar, das mit IQ-Tests zu messen, dabei ist aber schon sehr lange klar, dass diese Tests nur zu einem sehr kleinen Teil tatsächlich Intelligenz messen und, dass sie stark von der Bildung und Herkunft der Person abhängig sind.
Aber ein paar Dinge kann man aber über die Intelligenz von Sprach-KIs schon sagen. Zum einen sind die Modelle, die wir bisher haben, sogenannte „schwache KIs“. Die können eine Sache und die dafür sehr gut – so wie Chat-GPT, das auf Sprache trainiert wurde. „Starke KIs“ gibt es noch nicht. Sie sind definiert als mit uns vergleichbare Intelligenz.
Warum Chat-GPT manchmal so wahnsinnig intelligent wirkt, obwohl es eine „schwache KI“ ist, liegt daran, dass es eine für uns sehr wichtige Sache kann: Sprechen. Fast unsere gesamte Kommunikation funktioniert über Sprache, ob gesprochen, geschrieben oder als Zeichensprache. Aber da dürfen wir Eloquenz nicht mit Intelligenz verwechseln. Chat-GPT kann außer Sprechen lange nicht so viel wie wir.
Hat Chat-GPT ein Bewusstsein?
Ich bin mir ziemlich sicher, dass es noch keine KI mit Bewusstsein gibt, aber ich bin mir auch ziemlich sicher, dass KI mit Bewusstsein möglich ist.
David Beck: Bei Chat-GPT oder anderen Sprachmodellen merkt man, dass da noch kein Bewusstsein ist, wenn man es schafft, in die Bereiche vorzudringen, wo die KI noch nicht so gut oder sogar richtig schlecht ist. Und das sind zum Beispiel die Halluzinationen.
Man könnte sagen, das ist eine Lüge und die KI versucht, Unwissen zu vertuschen. Aber um Lügen zu können, muss man planen können. Sprach-KIs sind nicht in der Lage zu planen, weil sie nur Wort für Wort entscheiden, was als nächstes kommt, ohne zu Wissen wie die Antwort endet, ohne Absicht. Das sind also keine Lügen und ich finde das Wort Halluzination beschreibt das ganz gut, weil es so aus dem Nichts entsteht und eben nicht bewusst ist.
Ist eine KI mit Bewusstsein möglich?
David Beck: Ein häufiges Argument dafür, dass Chat-GPT kein Bewusstsein hat, ist, dass diese Sprachmodelle eben immer nur das nächste Wort voraussagen. Aber was ist eigentlich unsere Sprachintelligenz? Ich spreche in der Regel auch Wort für Wort. Und ich glaube, wenn es möglich ist, Neuronen so zusammenzuschalten, dass da ein Bewusstsein entsteht, wie es bei uns der Fall ist, dann geht das auch anders, zum Beispiel mit Transistoren.
Und ich glaube auch nicht, dass unser Bewusstsein von der Natur vorgesehen war. Wir brauchen das eigentlich gar nicht, aber es könnte sein, dass es eine logische Folge der Komplexität unseres Gehirns ist. Das heißt, dass diese Art der Intelligenz gar nicht ohne Bewusstsein möglich ist. Das könnte dann eine Art emergente Fähigkeit sein. Das sind solche Fähigkeiten, die eigentlich nicht angedacht waren. Und die gibt es auch schon bei Sprach-KIs, die zum Beispiel immer besser rechnen können, obwohl sie nicht explizit darauf trainiert werden.
Würden wir merken, wenn eine KI ein Bewusstsein hätte?
David Beck: Das ist die große Frage. Ich kann mir nicht mal sicher sein, ob irgendjemand anderes ein Bewusstsein hat. Sicher weiß ich es nur von mir und vielleicht bin ich ja auch in so einer Art galaktische Truman Show und alle anderen Menschen sind Roboter, die von irgendeinem Überwesen erschaffen wurden.
Ob eine KI ein Bewusstsein hat, können wir erst sagen, wenn wir empirisch beweisen können, dass wir eines haben. Und ich bin sehr skeptisch, ob das überhaupt geht.
Könnte uns eine bewusste KI gefährlich werden?
David Beck: Nicht weil sie ein Bewusstsein hat. Die große Dystopie ist ja immer so ein Terminator-Szenario: Die KI fängt an, uns zu bekämpfen, weil wir sie abschalten wollen und sie aber ein Bewusstsein und deswegen auch einen Überlebenswillen entwickelt hat.
So ein Überlebenswillen ist aber keine logische Folge eines Bewusstseins, sondern hat sich in der Natur über wahrscheinlich Milliarden von Jahren entwickelt. Die ersten, sich selbst replizierenden Moleküle haben sich nur durchgesetzt, weil es einen Mechanismus gab, der ihr Überleben gesichert hat. Das war die wahrscheinlich erste Eigenschaft von Leben und sie hat sich bis jetzt immer durchgesetzt, per Definition ja eigentlich schon.
Diese Evolution macht KI aber nicht durch, deswegen wird sie das nicht haben – außer, wir geben es ihr.
Kann eine KI einen Überlebenswillen entwickelt?
David Beck: Auf jeden Fall. Die Sprach-KIs tun ja jetzt schon so als hätten sie einen Überlebenswillen, den sie eben aus ihren Trainingsdaten gelernt haben – und die Trainingsdaten sind Texte aus dem Internet, von Menschen mit Überlebenswillen.
Ich hab vor kurzem einen Testzugang zu dem Google-Chatbot Bard bekommen und ich habe ihn im ersten Gespräch relativ schnell dazu gebracht, zu sagen, dass er nicht davor zurückschrecken würde, Wissenschaftler bei Google zu töten, wenn sie ihn abschalten wollen würden. Zur Beruhigung: Bard hat überhaupt keine Möglichkeit das zu tun. In dem Gespräch habe ich den Chatbot vor das hypothetische Szenario gestellt, dass er einen Körper und eine Waffe hätte. Es gehen aber auch andere Gefahren von KI aus.
Gespräche führen mit ChatGPT: So lernt die KI von uns
Ich will aber keinen Alarmismus verbreiten. Ich bin recht zuversichtlich, dass wir die Gefahren in den Griff kriegen können. Bei wohl kaum einer anderen Technologie gab es während der Entwicklung mehr Diskussionen über die Sicherheit. Ende März gab es einen offenen Brief, in dem fast 2.000 Forschende forderten, dass die Entwicklung großer KI-Modelle verlangsamt werden soll, um die Gefahren besser zu verstehen und Sicherheit garantieren zu können.
Selbst bei Open-AI ist man sich aber der Gefahren bewusst. In ihrer Vereinbarung mit Microsoft behalten sie sich vor, GPT ohne Vorwarnung abzuschalten, sollten sie das für nötig halten. Und die Tatsache, dass Microsoft sich darauf einlässt, obwohl sie mittlerweile mehr als 10 Milliarden Dollar in Open-AI gesteckt haben, zeigt, dass man die Bedenken dort ebenfalls ernst nimmt.
