Operiert zu werden von einem Roboter oder ein Algorithmus, der entscheidet, wer das letzte Bett auf der Intensivstation bekommt? Manche Dinge möchte man vielleicht doch lieber in Menschenhand wissen. Für Professorin Karen Joisten an der RPTU in Kaiserslautern ist es deshalb wichtig darüber zu diskutieren, wie wir beispielsweise Künstliche Intelligenz (KI) im Gesundheitsbereich einsetzen wollen. Diesen Samstag spricht sie dazu beim Saarländischen Ethiktag in Saarbrücken. SWR Aktuell hat vorab mit ihr gesprochen.
SWR Aktuell: Frau Joisten, ist KI im Gesundheitswesen problematisch oder doch eine Chance?
Professorin Karen Joisten: Es gibt eine Vielzahl an Chancen, die KI im Gesundheitswesen haben kann. Es gibt aber auch Risiken. Ich sehe die Chancen vor allem im Pflegebereich, weil es da zum Beispiel möglich ist, Service-Roboter einzusetzen, die bestimmte Aufgaben übernehmen. Also zum Beispiel jemanden Getränke zu bringen oder zu erinnern, Tabletten einzunehmen. Die KI-Systeme können bisher noch nicht die Pflegekraft selbst ersetzen. Es geht vielmehr um eine Entlastung. Dadurch hätten die Pflegenden dann auch mehr Zeit für die Menschen, die sie pflegen.
SWR Aktuell: Sie sagen KI soll den Menschen nicht ersetzen. Haben Sie Bedenken, dass die Beziehung zwischen Arzt und Patient durch digitale Technik zukünftig weniger wird?
Karen Joisten: Bisher ist das ja noch nicht der Fall. Man muss nur schauen, dass die Technik nicht davongaloppiert und die ethische Reflexion hinterherhinkt. Ich glaube, es ist eine Kernaufgabe der Ethik, dass diese Technologien kritisch und konstruktiv bei der Anwendung begleitet werden. Also, es ist ja durchaus denkbar, dass irgendwann bestimmte Tätigkeiten von solchen KI-Systemen ausgeführt werden. Aber, wenn sich das in einer Weise entwickelt, dass der Mensch ersetzt wird, dann halte ich das für hochproblematisch.
Ich sage ja auch nicht, dass mein Mixer autonom ist, auch wenn er weniger Funktionen hat als ein digitales Gerät.
SWR Aktuell: Sie befassen sich auch mit der Frage, ob unsere bisherigen Moralvorstellungen für die neuen Technologien ausreichen und sprechen von einer Ethik der Digitalisierung. Was meinen Sie damit?
Karen Joisten: Eine Ethik der Digitalisierung soll durchaus die traditionellen Ansätze der Ethik integrieren. Es ist aber wichtig darauf zu achten, welche ethischen Probleme mit der Technik einhergehen. Denn auch ein Algorithmus kann voreingenommen sein. Das heißt, dass Wertvorstellungen der Programmierenden sich in diesem Algorithmus zeigen, ohne, dass es zunächst auffällt. Deshalb ist es wichtig in der Programmierungsphase schon mit der Ethik zusammenzuarbeiten. Damit auch eine Mensch-Maschine-Interaktion entsteht, die wirklich für die Gesundheit des Menschen förderlich ist.
SWR Aktuell: Stichwort Algorithmus. Kann dieser wirklich die Einschätzung eines Arztes ersetzen, wenn es beispielsweise darum geht, wer das letzte Bett auf der Intensivstation bekommt?
Karen Joisten: Ich plädiere dafür, dass die Verantwortung immer noch bei den Ärzten liegt. Wenn der Algorithmus diese Verantwortung übernimmt und wir nicht mehr wissen, wie er entscheidet, dann wird es ethisch problematisch. Dann fangen wir an, Technologien zu vertrauen, ohne genau zu wissen, wie sie eigentlich funktionieren.
SWR Aktuell: Da stellt man sich die Frage, ob Maschinen auch Fehler machen und wenn ja, wer trägt dann am Ende die Verantwortung dafür?
Karen Joisten: Moralisch verantwortlich sind diejenigen, die die KI einsetzen. Aber die Frage ist, wer übernimmt rechtlich die Verantwortung. Das sind schwierige Fragen, an denen man nach wie vor arbeitet. Wir leben in einer Zeit, wo die Gefahr besteht, dass die Technik vermenschlicht wird. Wir sagen, dass Technologien autonom sind. Sie haben aber keine Würde. Ich sage ja auch nicht, dass mein Mixer autonom ist, auch wenn er weniger Funktionen hat als ein digitales Gerät. Wir übertragen hier menschliche Eigenschaften auf KI-Systeme. Vor dieser Vermenschlichung der Technik müssen wir uns hüten, weil wir sonst zu viel an Maschinen delegieren, die eigentlich nur optimierte Handwerksmittel sind.
Vor der Vermenschlichung der Technik müssen wir uns hüten.
SWR Aktuell: Das heißt, Sie sehen das durchaus kritisch, wenn der Saugroboter zuhause beim Namen gerufen wird?
Karen Joisten: Wenn jemand sich gut dabei fühlt, kann er das gerne machen. Ich habe jetzt aber gehört, dass dieser Pflege-Roboter, "Robbe Paro", für demenzkranke Menschen auch für die Sterbebegleitung eingesetzt werden soll. Die Vorstellung, dass jemand, der im Sterben liegt, jetzt eine Robbe an die Seite gelegt bekommt und die einfühlsame Hand eines Menschen fehlt – das wirft ethische Fragen auf. Was für ein Menschenbild haben wir? Wie wollen wir miteinander umgehen? Am besten wäre es, wir würden während dem Entstehungsprozess von neuen Technologien diese Fragen diskutieren, um dann Technologien zu haben, die zum Gemeinwohl beitragen.
News aus dem Westen der Pfalz ++ Liveblog: Stadtatelier Kaiserslautern zieht in die Mall, Digitalisierung von Verwaltung stockt, Sport in der Westpfalz ++
Was ist los im Großraum Kaiserslautern, Pirmasens, Zweibrücken, Kusel und Donnersberg? In unserem neuen Liveblog erfahren Sie es.
