Wie gefährlich das System ist und warum Verbote in Schulen nicht weiterhelfen, erklärt Doris Weßels im SWR1 Interview. Sie ist Professorin für Wirtschaftsinformatik an der Fachhochschule in Kiel.
SWR1: Haben Sie ChatGPT schon benutzt?
Doris Weßels: Selbstverständlich. Ich habe es das erste Mal am zweiten Dezember ausprobiert und war, wie so viele andere auch, wirklich sehr überrascht von der Leistungsstärke dieses KI-Systems.
Foto: Andreas Diekötter
SWR1: Wenn ChatGPT Informationen aus dem Netz holt, dann müsste es auch alle Fehler und Falschmeldungen, die da zu finden sind, übernehmen. Oder kontrolliert das jemand?
Weßels: Die jetzige Version ist noch eine sogenannte halluzinierende Version. Das heißt, sie nimmt das, was sie in ihren Trainingsdaten hat, also sehr viel aus Wikipedia. Die Trainingsdaten reichen auch nur bis ins Jahr 2021 zurück. Sie remixt das Ganze, puzzelt sich aus diesem Bestand die Antworten zurecht. Das System kann gar nicht unterscheiden zwischen wahr und falsch. Das heißt nicht, dass alles veraltet ist. Das heißt auch nicht, dass alles falsch ist. Aber wir können heute auf den ersten Blick nicht wirklich erkennen, was ist wahr, was ist falsch. Sondern wir müssen das eben sehr gewissenhaft prüfen.
SWR1: Wie gefährlich ist es, dieses System einfach so zu nutzen?
Weßels: Ich würde mal behaupten, wer die Mechanismen nicht kennt, der nimmt das für bare Münze, was dieses System generiert. Denn das System formuliert sehr eloquent. Da sind kaum Zeichensetzungsfehler drin, da sind keine Rechtschreibfehler drin, die Grammatik ist gut. Alles liest sich einfach sehr klug. Wir vermuten dahinter natürlich dann einen klugen Kopf. Wir vermenschlichen das tragischerweise auch sehr stark. Bevor wir das weiterreichen oder auch veröffentlichen unter unserem Namen müssen wir alles sehr gewissenhaft prüfen.
SWR1: Das erste, was ich dazu gehört habe, war, dass diese künstliche Intelligenz für Schüler Hausaufgaben machen und Referate schreiben kann. Muss man so etwas verbieten? In den USA ist das ja teilweise passiert.
Weßels: Ich bin gegen eine solche Verbotskultur. Ich glaube, selbst wenn wir es wollten, werden wir ein Verbot nicht durchsetzen können, weil diese Technologie auf jedem Handy beheimatet ist. Wir wollen und sollten versuchen, solche Techniken in den Unterricht in sinnvoller Art und Weise mitzuintegrieren.
SWR1: Die Versuchung ist aber groß, es nicht sinnvoll zu machen, sondern einfach die Faulheit zu unterstützen.
Weßels: Ja, da müssen wir sowohl die Lernenden wie die Lehrenden aufklären über diese Werkzeuge. Wo kann man sie einsetzen? Wo sind Sie auch sinnvoll und unterstützen uns? Wo sind Sie wenig sinnvoll, vielleicht sogar gefährlich?
Das Gespräch führte Michael Lueg.
