Medizin-Robotik

Die Grenzen von Robotik und KI im OP

STAND
AUTOR/IN
ONLINEFASSUNG

Für die Entwicklung von Robotern und anderen KI-Systemen im OP braucht es jede Menge Patientendaten. Wie verlässlich ist maschinelles Lernen mit Big Data? Der Blick in die nahe Zukunft zeigt: Wir müssen wachsam sein.

Beim Einsatz von selbstlernenden Systemen und „KI“ in der Medizin sollten wir alle ganz genau hinschauen. Medizin-Ethikerin Alena Buyx rät zu Besonnenheit.

„Da ist viel Begeisterung bei diesen Technologien und Mediziner sind natürlich technologieaffin, gerade die Chirurgen.“

Alena Buyx kennt ihre Pappenheimer gut, hat sie doch selbst eine vollständige medizinische Ausbildung durchlaufen. Seit 2016 ist die Münchner Professorin für „Ethik der Medizin und Gesundheitstechnologien“ Mitglied des Deutschen Ethikrates. Sehr genau beobachtet und bewertet sie die Entwicklungen auf dem sich schnell entfaltenden Feld der selbstlernenden Systeme und welche Folgen dies hat für den Fortschritt der Medizin und damit verbunden: für uns alle.

„Wir dürfen da jetzt aber nicht Hals über Kopf vorpreschen!“

Bei allen Vorzügen und Vorteilen, die selbstlernende Systeme gerade im Bereich der Medizin mit sich bringen, mahnt Alena Buyx ein gehöriges Maß von Vorsicht und Akkuratesse an. Mit Blick auf die Fehler der Vergangenheit, die insbesondere den Datenschutz betreffen aber auch auf den Umstand, dass noch längst nicht für jede Technologie deren Sinnhaftigkeit und messbare medizinische Verbesserung erwiesen sind, warnt sie vor zu viel Euphorie:

„Das muss langsam und schrittweise eingeführt werden, wir sollten von Anfang an mitbeobachten (...): Wie stellen sich die Patienten dazu? Was macht das mit der ärztlichen Arbeit? Das sollten wir von Anfang an mitdenken.“

Geht es dem Patienten wirklich besser?

Tatsächlich sind angesichts der Rasanz der technischen Entwicklungen noch viele medizinische, ethische und nicht zuletzt rechtliche Fragen offen. Insbesondere gilt das für Roboter-Systeme, die nach Vision ihrer Entwickler schon bald vollständig autonom medizinische Entscheidungen treffen und operieren. Alena Buyx fordert weiterhin sorgfältige medizinische Studien, die lange im Vorfeld eines breiten Einsatzes die Evidenz selbstlernender Systeme zweifelsfrei klären müssen:

„Da ist also die Frage des Nutzens für den Patienten: Können wir unter Einsatz dieser neuen Technologie tatsächlich bessere Ergebnisse produzieren? Erst wenn das wirklich der Fall ist, können wir damit weiter machen.“

Hinzu komme, dass aus Sicht der Medizin-Ethikerin gerade die Situation der Patienten noch nicht genau genug unter die Lupe genommen wurde:

„Da brauchen wir noch sehr viel Forschung, um zu verstehen, ob Patienten das insgesamt wollen und auch, wie viel sie davon wissen wollen, wie sehr wir sie aufklären wollen, ob sie da eine Wahl haben sollten.“  

Wer trägt die Verantwortung?

Auch der ärztliche Alltag selbst könnte sich mit dem Einsatz von immer weiter entwickelten selbstlernenden und autonomen Systemen grundlegend verändern - bis hin zu dem Punkt, an dem das medizinische Personal die Entscheidungsketten und Ausführungen des Roboters nicht mehr nachvollziehen kann - vielleicht weil das System dies zum Beispiel wegen eines Betriebsgeheimnisses aktiv verhindert.

Alena Buyx sieht in der Intransparenz der Algorithmen eines der Kernprobleme - vor allem dann, wenn Fehler passieren. In so einem Falle gehe es schnell um die Frage der juristischen Verantwortung, die zumindest momentan noch bei der Ärzteschaft liegt:

„Wenn es zu einer Zusammenarbeit kommt muss sich die Ärztin auf diesen Algorithmus verlassen können. Und dann werden genau solche Fragen entstehen, ob der Hersteller dafür verantwortlich sein sollte oder der Programmierer. Und das wird im Moment tatsächlich von den Juristen ganz aktuell ausgearbeitet. Das ist noch nicht entschieden.“

 „KI“ - der Untergang des Abendlandes?

Alena Buyx sieht die Entwicklung der „Künstlichen Intelligenz“ noch auf einem langen Weg. Vollständig autonom entscheidende und operierende Systeme wird es ihrer Ansicht nach vorerst nicht geben. Dennoch hält sie der Technik im OP einen Platz in der Zukunft der Medizin frei, „als immer perfekteres Werkzeug für die verantwortliche Person, als ein verlässliches, möglichst fehlerfreies Assistenz-System, das auf die jeweiligen Operateure trainiert werden kann und bei dem immer klar ist, dass die wichtigen Entscheidungen beim Operateur bleiben“.

Bei allen Diskussionen, die momentan um den Einsatz selbstlernender Systeme im OP geführt werden, ruft Alena Buyx zu Besonnenheit auf:

„Etwas, das ich mir wünschen würde, wäre, dass wir weder einem Hype aufsitzen, noch in so eine Angststarre fallen. Sondern, dass man das ganze einfach evidenzbasiert und ein bisschen auch gelassen anschaut. Also man sollte sich nicht treiben lassen davon, dass das alles so sexy und so cool und so aufregend klingt, aber man sollte auch nicht glauben: Das ist jetzt der Untergang des Abendlandes.

Wir haben in der Medizin immer neue Technologien eingeführt, das ist etwas, das wir seit langer Zeit tun. Wir wissen auch wie man das macht, wir haben die regulatorischen und ethischen Voraussetzungen geschaffen. Die müssen wir jetzt für diese neuen Technologien weiterentwickeln.“

Linktipp

Die Stellungnahme des Deutschen Ethikrates zu Big Data und Gesundheit.

STAND
AUTOR/IN
ONLINEFASSUNG