Autonomes Fahren Selbstfahrende Autos lassen sich irritieren

AUTOR/IN

Autonome Autos müssen Hindernisse zuverlässig erkennen. Die Technik, die dahintersteckt, lässt sich allerdings durch kleine Farbmuster verwirren.

Es ist ein Fehler beim Ausspielen des Players aufgetreten.

Es ist ein komisches Bild, das derzeit im Netz kursiert: Vier Männer im gleichen schwarzen T-Shirt stehen nebeneinander auf der Straße. Direkt vor einem heranfahrenden Auto. Auf dem T-Shirt der Männer: ein bunter Farbfleck. Der ist nicht zufällig beim Paintballspielen drauf gekommen, sondern die vier Männer sind Wissenschaftler am Max Planck Institut für Intelligente Systeme in Tübingen. Und den Farbfleck auf ihrem T-Shirt haben sie gezielt draufgedruckt: Denn er ist der Beweis, dass bestimmte Farbmuster die Kamerasysteme autonom fahrender Autos der neuesten Generation ziemlich einfach stören können.

Farbmuster auf T-Shirt verursacht Störsignal

Wenn eine Fußgängerin über einen Zebrastreifen oder ein Kind plötzlich vor das Auto läuft, reagieren autonom fahrende Autos in der Regel sofort. Der Bordcomputer eines autonomen Autos muss die Situation als Gefahr einschätzen. Doch solche Autopilotsysteme und die dahinterstehenden Algorithmen, mit der autonome Autos ihre Umwelt wahrnehmen, sind immer wieder fehleranfällig.

In Experimenten konnte das Forschungsteam aus Tübingen die Technik schon mit kleinen Farbmustern irritieren. Kamerasysteme der neusten Generation könnten die Situation dann falsch einschätzen. Das Farbmuster wird dann zum Störsignal – der Bordcomputer im Auto kann seine Umwelt nicht mehr fehlerfrei einschätzen.

Laborexperiment mit Farbmustern (Foto: Pressestelle, MPI  für intelligente Systeme Tübingen)
Laborexperiment mit Farbmustern. Die Person wird in der Bildreihe unten nicht erkannt. Das Farbmuster "verwirrt" das System. Pressestelle MPI für intelligente Systeme Tübingen

Technik lässt sich leicht verwirren

Durch das Farbmuster kann der Computer sich bewegende Objekte schwerer erfassen. Der Autopilot könnte dann zum Beispiel ohne Grund eine Vollbremsung hinlegen oder vor lauter Störsignalen einen Fahrradfahrer nicht erkennen. Und das alles nur wegen eines Farbmusters. Dabei handelt es natürlich nicht um einen beliebigen Farbfleck. Die Wissenschaftler des Max-Planck-Instituts für Intelligente Systeme haben ein bestimmtes Farbmuster am Computer berechnet – in nur vier Stunden. Die Wissenschaftler aus Tübingen waren selbst überrascht, wie leicht sie die Technik verwirren konnten.

In den Experimenten reichte schon ein kleines Farbmuster aus, um die Technik lahmzulegen. Bei größeren Farbmustern beobachten die Wissenschaftler sogar einen Totalausfall.

Ein vom Computer berechnetes Muster kann autonome Systee verwirren. (Foto: Pressestelle, MPI für intelligente Systeme, Tübingen)
Ein vom Computer berechnetes Muster kann autonome Systeme verwirren. Pressestelle MPI für intelligente Systeme, Tübingen

Autohersteller wurden vorsichtshalber informiert

Wie genau ein autonom fahrendes Auto auf das Farbmuster reagiert, haben die Wissenschaftler aber noch nicht untersucht. Die Tübinger konnten die Schwächen bisher nur im Labor nachweisen. Trotzdem haben die Wissenschaftler die Automobilhersteller informiert – zur Sicherheit. Die Forscher glauben aber nicht, dass aktuell autonom fahrende Autos auf dem Markt betroffen sind.

Die Schwäche betrifft wahrscheinlich nur moderne Systeme, die sich bewegende Objekte rund um das Auto erfasst. Nach Informationen des Deutschen Forschungszentrums für Künstliche Intelligenz werden die modernen Systeme bisher bei serienfreien Autos nur selten eingesetzt. Doch das moderne System werde in Zukunft immer wichtiger. Die Systeme müssen also noch weiterentwickelt werden. Vor allem die Algorithmen sind bisher fehleranfällig. Schon kleine Störsignale wie ein Farbmuster bringen die Technik an ihre Grenzen. Eine Technik, die später im Straßenverkehr zuverlässiger arbeiten muss.

Ein Auto fährt auf einer Autobahn, ohne dass der Fahrer die Hände am Steuer hat (Foto: dpa Bildfunk, picture alliance/Daniel Naupold/dpa)
Autonome Fahrzeuge müssen möglichst sicher sein. Ganz fehlerfrei arbeitet die Technik derzeit noch nicht. picture alliance/Daniel Naupold/dpa
AUTOR/IN
STAND
ONLINEFASSUNG