Bild vom Icon der SkinDoc AI. Das Icon ist ein Roboter-Kopf. Das DFKI in Kaiserslautern arbeitet an transpatenten KI-Anwendungen.

KI-Innovation

Transparente KI-Anwendungen des DFKI in Kaiserslautern

Stand
Autor/in
Michael Lang
Bild von SWR Multimediareporter Michael Lang aus dem Regionalbüro Bad Neuenahr-Ahrweiler
Onlinefassung
Richard Kraft
Constanze Fett
Profilbild der Volontärin Constanze Fett

Wie genau ein KI-Modell eine Entscheidung trifft, ist sehr oft nicht nachvollziehbar. So stellt sich der Einsatz in der Medizin oder der Justiz als schwierig heraus. Dazu forscht das neue Zentrum DFKI in Kaiserslautern. 

KI-Modelle können immer komplexere Aufgaben lösen. Doch bei vielen KI-Anwendungen besteht das Problem, dass Entscheidungen nicht nachvollzogen werden können. Die Rede ist von einer Art Blackbox. Verarbeitet Künstliche Intelligenz Informationen, bleibt der Weg hin zur Lösung fast immer ein Geheimnis.  

Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) hat deswegen zusammen mit der Deutschen Akademie der Technikwissenschaften ein neues Innovationszentrum eröffnet, das deutsche KI-Innovations- und Qualitätszentrum in Kaiserslautern. Hier wollen sie KI transparenter machen und verlässliche Qualitätsstandards entwickeln. 

Schwerpunkt neuer KI-Projekte soll eine stärkere Transparenz sein 

Ein wichtiger Bestandteil der Forschung ist es, KI-Anwendungen zu entwickeln, die transparent arbeiten. "Die Ergebnisse so zu erklären, dass sie annehmbar werden als Zweitmeinung, ist ganz essenziell", erklärt Andreas Dengel, geschäftsführender Direktor am DFKI in Kaiserslautern.  

Ein aktuelles Projekt des DFKI entwickelt eine Technologie, um satellitengestützte Ernte-Vorhersagen durch eine KI zu treffen. Dafür wertet sie Wetterdaten, Daten zur Bodenbeschaffenheit, agronomische Informationen zu Pflanzenwachstumsphasen und digitale Höhenmodelle aus. So will das Forschungsteam eine möglichst präzise Vorhersage ermöglichen. 

Ein Mann hält ein Handy in seiner Hand. Er hat eine App geöffnet, mit der er, mithilfe von KI, Hauterkrankungen erkannen soll. Das DFKI in Kaiserslautern arbeitet an transpatenten KI-Anwendungen.
Damit KI-Anwendungen von möglichst vielen Menschen genutzt werden, arbeitet das DFKI an KI-Anwendungen die leicht zu bedienen sind.

Vorhersagen von KI sollen bei Krisenbewältigung und Ertragssteigerung helfen 

Die Vorhersagen ermöglichen es, vorausschauende Landwirtschaft zu betreiben und präventive Maßnahmen zur Erntesteigerung oder Krisenbewältigung zu ergreifen. Landwirte könnten dadurch die Bewässerung, Düngung oder den Pflanzenschutz besser anpassen. Gleichzeitig würden genaue Ernte-Vorhersagen die wirtschaftliche Planung erleichtern. 

Eine genaue Abwägung der Maßnahmen erfordert allerdings, dass die Vorhersagen transparent sind. Ohne den Entscheidungsprozess nachvollziehen zu können, könnten Landwirte nicht feststellen, weshalb ein möglicher Ernteausfall droht. Die bildliche Analyse der KI lässt sich deshalb auch manuell überprüfen und die Entscheidungen sind besser nachvollziehbar. 

Medizinische KI-Anwendungen unterstützen schon jetzt bei der Diagnostik 

Daneben findet KI auch in der Medizin Anwendung. Am Uniklinikum in Mainz hilft Künstliche Intelligenz bereits jetzt, Krebs besser zu erkennen. Anhand von Gewebeproben der Schilddrüse kann die KI erkennen, ob es sich um einen Tumor handelt oder nicht. Das ist besonders dann von Vorteil, wenn gesundes Gewebe nur schwer von krankhaft verändertem Gewebe abgegrenzt werden kann.  

Ein Forscher sitzt vor einem Bildschirm und schaut sich Gewebeproben einer Schilddrüse an. KI kann verwendet werden, um Krebs besser zu erkennen. Das DFKI in Kaiserslautern arbeitet an transpatenten KI-Anwendungen.
Mithilfe von KI sollen Gewebeproben untersucht und Krebs besser erkannt werden. Die Technik soll Ärztinnen und Ärzten als Unterstützung dienen.

KI kann so eine wertvolle Unterstützung bieten, jedoch ist gerade im medizinischen Bereich wichtig, dass eine Entscheidung der KI nachvollzogen und überprüft werden kann. Gleichzeitig lassen sich die digitalen Ergebnisse auch mit anderen Kliniken vergleichen und so besser überprüfen. Jedoch fehlt bislang noch eine Möglichkeit, den Entscheidungsprozess genau nachzuvollziehen. 

DFKI arbeitet an einer Erkennungs-App für Hautkrankheiten  

Bei einem weiteren Projekt hilft KI bei der Erkennung von Hautkrebs und anderen Hauterkrankungen. Das DFKI hat dafür eine App entwickelt, die Hauterkrankungen erkennen soll. Den Entwicklern ist es wichtig, dass die App leicht zu bedienen ist. Außerdem besteht die Möglichkeit weiter Symptome, wie Rötungen oder Schwellungen, anzugeben. 

Eine Analyse der KI stellt dann auf Basis dieser Daten eine Diagnose und liefert Erklärungen für die Entscheidung. So sollen die Ergebnisse nachvollziehbar sein und an medizinische Standards überprüfen werden. Damit kann das medizinische Personal auch potenzielle Fehldiagnosen erkennen. 

KI-Anwendung soll für Beweisführung und Justizvollzug genutzt werden 

Vertrauen und Sicherheit sind zum Beispiel dann entscheidend, wenn die Polizei KI nutzt, um auf Festplatten nach Beweisen zu suchen. Sind die Daten allerdings nicht auslesbar, soll KI dabei helfen, Fragmente von Dateien zusammenzufügen. Dafür arbeitet das dfki mit dem Landeskriminalamt und dem Bundeskriminalamt zusammen. 

Eine Software mit der Teile von gelöschten Dateien wieder hergestellt werden können. Das DFKI in Kaiserslautern arbeitet an transpatenten KI-Anwendungen.
Bei der digitalen Spurensuche kann KI verwendet werden, um gelöschte Dateien wiederherzustellen.

Dem DFKI zufolge soll es schon in einem Jahr der Polizei möglich sein, Bilddateien auf zerstörten Festplatten wiederherzustellen. Diese könnten dann vor Gerichten verwendet werden, allerdings nur wenn jeder Schritt der KI nachvollziehbar ist. Der Entscheidungsprozess muss also reproduzierbar sein und zum selben Ergebnis führen. 

KI „Made in Germany”  

Die Forschenden in Kaiserslautern wollen auch Prüfkriterien für KI-Anwendungen entwickeln, analog zu einem TÜV-Siegel. So sollen KI-Anwendungen am Ende ein entsprechendes Gütesiegel bekommen. Das Ziel des DFKI in Kaiserslautern ist dabei: vertrauenswürdige KI „Made in Germany“. 

Durch kontinuierliche Forschung entstehen in Kaiserslautern Standards für vertrauenswürdige KI-Anwendungen. Ziel ist die Entwicklung einer Prüfplattform mit Werkzeugen, die es Herstellern und Einrichtungen ermöglicht, die Qualität und Vertrauenswürdigkeit von KI zu prüfen und festzustellen. 

Im Zuge der “Mission KI” ist das DFKI das erste von zwei geplanten Zentren für die KI-Forschung. Das Projekt wurde von der Bundesregierung mit einem Gesamtbudget von 32 Millionen Euro unterstützt. Damit will der Bund die Entwicklung neuer, vertrauenswürdiger Künstlicher Intelligenzen vorantreiben. 

Mehr zu KI

Landwirtschaft der Zukunft Uni Kaiserslautern-Landau testet selbstfahrenden Traktor

In Zukunft sollen Traktoren selbstständig über den Acker fahren können. Damit sie sich auf dem unwegsamen Gelände zurechtfinden, kommt auch KI zum Einsatz.

SWR Aktuell Rheinland-Pfalz SWR RP

Psychologie KI und Chatbots: Viel Potenzial in der Psychotherapie

Künstliche Intelligenz (KI) wird in der Psychotherapie wichtiger werden. KI und Chatbots könnten Therapien in Zukunft sinnvoll ergänzen und Betroffene im Alltag unterstützen.

Impuls SWR Kultur

Stand
Autor/in
Michael Lang
Bild von SWR Multimediareporter Michael Lang aus dem Regionalbüro Bad Neuenahr-Ahrweiler
Onlinefassung
Richard Kraft
Constanze Fett
Profilbild der Volontärin Constanze Fett