ueberwachungsmonitore-in-einer-klinik (Foto: dpa Bildfunk, picture alliance/dpa/XinHua | Gil Cohen Magen)

Die Grenzen des technisch Machbaren

KI zwischen Medizin und Überwachungstechnologie

STAND
AUTOR/IN
ONLINEFASSUNG

Die Künstliche Intelligenz findet immer mehr Einsatzmöglichkeiten, zum Beispiel in der Medizin oder der Kriminalitätsbekämpfung. Aber wer entscheidet, was gemacht werden darf?

In Mannheim gibt es einen bundesweit einmaligen Pilotversuch mit intelligenten Kameras: Sie sollen erkennen, wenn eine Straftat begangen wird. 70 Kameras wurden dafür an sogenannten Kriminalitätsbrennpunkten der Stadt installiert, denn nur dort erlaubt die Rechtslage den Einsatz von Videoüberwachung.

Die Daten aus den Kameras werden nach 72 Stunden gelöscht. Das Interesse an den Ergebnissen des Pilotprojekts sei groß - national wie international, sagt Polizeidirektor Klaus Pietsch:

"Es wartet alles gespannt darauf, welche Erfolge wir tatsächlich erzielen, und das kann ich auch gut verstehen, weil wir hier eben einen völlig anderen Ansatz fahren, als man es bisher von der intelligenten Videoüberwachung kennt."

So spiele die Gesichtserkennung keine Rolle. Das System solle vielmehr "gefährliche Bewegungsabläufe" erkennen, wie zum Beispiel Schlagen oder Treten, so Pietsch. Er sieht aber die Grenzen des Systems dann erreicht, wenn es "in den unmittelbaren persönlichen Lebensbereich der Menschen" eingreift.

Pietsch räumt ein, dass es auch einen grundsätzlichen Unterschied macht, ob ein Polizeibeamter einen Vorgang in seinem Gedächtnis abspeichert oder die Daten vieler intelligenter Kameras gespeichert und vernetzt werden.

Diskriminierung durch biometrische Gesichtserkennung

Auch in anderen Ländern wird immer wieder über den Einsatz intelligenter Überwachungstechnologie diskutiert: So verbot etwa die US-Stadt San Francisco den städtischen Behörden aus Sorge vor diskriminierenden Effekten den Einsatz von Gesichtserkennungssoftware. 33 Studien hatten bei verschiedenen Softwares großer US-Konzerne wie Microsoft oder Amazon Probleme festgestellt, Frauen oder Menschen mit dunkler Hautfarbe richtig zu erkennen.

Umgang mit den Daten ausschlaggebend

Entscheidend ist aber nicht nur die Programmierung einzelner Algorithmen, sondern auch der verantwortungsvolle Umgang mit den gesammelten Daten. Die von der Bundesregierung eingesetzte Datenethik-Kommission sieht deshalb besonderes Missbrauchspotenzial in der Vernetzung einzelner Teilsysteme, wodurch Daten und Analyseerkenntnisse aus ganz unterschiedlichen Sach- und Lebensbereichen zusammengeführt werden. Dies führe zu einer erheblichen Verdichtung der Überwachung.

Medizin-Roboter ersetzen Ärzte

Ein Bereich, in dem die Künstliche Intelligenz schon gute Dienste leistet, ist die Medizin. Ob es um die Erkennung von Hautkrebs geht oder die Unterscheidung eines Hustens durch Corona von einem anderen Husten - immer wieder machen derartige Leistungen der KI Schlagzeilen.

In OP-Sälen könnten intelligente Medizinroboter künftig vielleicht wichtige Assistenzaufgaben übernehmen und damit Ärzte entlasten, z.B. eine Minikamera im Körper so zu führen, dass der Chirurg immer das bestmögliche Bild hat - eine Chance, dem zunehmenden Ärztemangel und der Überalterung der Gesellschaft zu begegnen, sagt Franziska Mathis-Ullrich. Die Forscherin für Medizinrobotik am Institut für Anthropomatik und Robotik des Karlsruher Instituts für Technologie sieht aber auch eine Gefahr.

"Inwieweit lernen junge Chirurginnen und Chirurgen gar nicht mehr die Aufgaben, die sie später vielleicht können müssten? Auf der anderen Seite wird sich die Medizin, wie alle anderen Bereiche, natürlich auch verändern. Und wenn Roboter standardmäßig als Werkzeuge eingesetzt werden, vielleicht können wir in zwanzig Jahren viel, viel mehr in der Medizin und in der Chirurgie bewirken als das, was wir heute können."

Aber wenn technisch immer mehr machbar ist, wer entscheidet dann, was gemacht werden darf? Wieviel Verantwortung überträgt der Menschen auf die Maschine? Dazu unser Podcast.

Audio herunterladen (31 MB | MP3)

Mehr zum Thema

Boom bei Sprachassistenzsystemen Was Alexa und Co ihnen nicht sagen

Die Zahl der Sprachassistenzsysteme weltweit hat sich innerhalb von zwei Jahren etwa verdoppelt. Neben ihren vielen Vorteilen hat diese KI-Technologie aber auch Schattenseiten, von denen viele nichts wissen.  mehr...

Faire und unfaire Daten Wieviel Gerechtigkeit steckt in Algorithmen?

Entscheidungen, die durch einen Algorithmus oder Künstliche Intelligenz getroffen werden, können auch ungerecht sein. Wie kann man dem entgegensteuern?  mehr...

Wie handeln Algorithmen bei Unfällen? Autonomes Fahren - Zukunftsvision mit Fragezeichen

Automatisiertes Fahren und Künstliche Intelligenz gelten als Schlüsseltechnologien in der Autobranche. Aber der KI kann man nur begrenzt Verantwortung zuweisen, sagt Bestsellerautor David Precht.  mehr...

Vom Freund zum Feind Super-Intelligenzen - Technomärchen oder echte Bedrohung?

Die Idee, dass eines Tages eine Superintelligenz entsteht, klingt wie reine Science-Fiction. Aber es gibt Forschungsprojekte, die sich mit dieser Frage beschäftigen - auch in Baden-Württemberg.  mehr...

STAND
AUTOR/IN
ONLINEFASSUNG