Wie zuverlässig ist Künstliche Intelligenz? Algorithmus versus Arzt

AUTOR/IN

Mediziner nutzen Algorithmen etwa bei der Suche nach Krebs. Doch ein Experte ist überzeugt, dass ein Großteil der Künstlichen Intelligenz schummelt.

Dauer

Ein Arzt, ein Patient, und: ein Algorithmus. Er soll er auf der Intensivstation des Deutschen Herzzentrums in Berlin eine Vorhersage machen: eine Vorhersage auf das Leben des Patienten. Er sucht nach Anzeichen drohender Komplikationen, noch weit bevor der Arzt sie erkennt. Wann drohen dem Schwerkranken Komplikationen wie etwa Nierenversagen oder Blutungen? Der Mediziner und Informatiker Alexander Meyer hat die Software mit unendlich vielen Daten von mehr als 50.000 Patienten gefüttert: "Wir sammeln hier wahnsinnig viele Daten in Echtzeit. Das können ganz schnell 500 Variablen sein. Sie werden pro Sekunde aktualisiert, manchmal sogar noch häufiger. Und das von einer Vielzahl von Patienten." Effizient damit arbeiten lässt sich damit nur mithilfe von technologischer Unterstützung. So wurden diese Informationen der letzten 17 Jahre statistisch bearbeitet. Und inzwischen ist der Algorithmus in der Lage, diese Muster bei neuen Patienten zu erkennen.

Algorithmus erkennt Komplikationen sehr früh

Der Algorithmus hat gelernt, was er zu tun hat: Symptome drohender Komplikationen schneller und effizienter zu erkennen als Ärzte oder Pfleger. Alexander Meyer erklärt: "Zum Beispiel lässt sich die Wahrscheinlichkeit, dass sich eine postoperative Blutung entwickelt, bemessen und auf der anderen Seite die Wahrscheinlichkeit, inwiefern sich innerhalb der nächsten sieben Tage ein Nierenversagen entwickelt." Das System wird immer präziser, es lernt weiter, mit Hilfe immer neuer Daten. Allerdings: Wie genau der Algorithmus zu seinen Entscheidungen kommt, das weiß selbst der Informatiker nicht.

Ein Algorithmus in einem Computer, , im Hintergrund ein Licht und Schwärze. (Foto: Getty Images, Thinkstock -)
Nicht einmal ihre Entwickler können immer nachvollziehen, wie Algorithmen arbeiten Thinkstock -

Wie entscheiden Algorithmen?

Dem 'Innenleben' der Algorithmen will Klaus-Robert Müller auf die Schliche kommen. Der Professor für Maschinelles Lernen an der TU Berlin ist einer der führenden deutschen Forscher auf diesem Gebiet. Er hat das gleiche Problem wie Alexander Meyer und viele weitere Wissenschaftler: Er weiß oft nicht, nach welchen Kriterien Algorithmen Entscheidungen treffen. "Es gibt die Algorithmen, die das Problem vernünftig und gut lösen und es gibt andere, die schummeln", sagt Müller. Es könne durchaus sein, dass 50 Prozent der Aussagen falsch seien. Was im Zusammenhang mit medizinischer Diagnostik ein großes Problem ist.

Warum schummeln Algorithmen?

Klaus-Robert Müller hat eine Software entwickelt, die sichtbar macht, wie beispielsweise Algorithmen in der Bilderkennung arbeiten. Er hat herausgefunden, dass es Lernprogramme geben kann, die nicht richtig funktionieren: Wenn ein Programm bestimmte Bildinhalte nicht korrekt erfasst, kann ein Algorithmus seine eigentliche Aufgabe - nämlich einen bestimmten Inhalt aufgrund bestimmter Umrisse zu deklarieren - nicht erfüllen. "In keiner Disziplin wie in der Medizin ist es so wichtig, dass man sicher sein kann, dass die Algorithmen, die man nutzt, auch genau das tun was sie versprechen", betont Müller.

MRT-Bilder am Monitor (Foto: SWR, SWR -)
In allen Bereichen der modernen Medizin spielt inzwischen die Auswertung durch Computersysteme eine Rolle SWR -

Die Zukunft der Algorithmen in der Medizin

Alexander Meyer im Deutschen Herzzentrum Berlin überprüft seinen Algorithmus immer wieder und will ihn in Zukunft als Medizinprodukt zertifizieren lassen. Er werde aber weder Arzt noch Pfleger ersetzen, betont Meyer. Der Informatiker versteht den Algorithmus schlichtweg als ein neues Mittel für die Diagnostik: "Der Ultraschall hat uns neue Wege eröffnet, das MRT und so jetzt auch die Künstliche Intelligenz. Wir haben ein neues Werkzeug, um Informationen zu extrahieren." Algorithmen, Ärzte und Pfleger arbeiten dann nicht gegeneinander, sondern Hand in Hand.

AUTOR/IN
STAND