Fünf Zentimeter Klebeband überlisten Tesla – Autopilot beschleunigt auf 130 km/h in der 50er-Zone

Forscher der Cybersicherheitsfirma McAfee haben zwei autonom fahrende Tesla mit ein bisschen Klebeband dazu gebracht, die erlaubte Höchstgeschwindigkeit vorsätzlich zu missachten.

Statt den erlaubten 35 Meilen pro Stunde (56 km/h) deutete der Autopilot in zwei verschiedenen Tesla-Modellen aus dem Jahr 2016 das manipulierte Verkehrsschild als 85 Meilen pro Stunde-Begrenzung (136 km/h) und beschleunigte das Auto auf Autobahngeschwindigkeit.

Glauben Sie keinem Verkehrsschild, das Sie nicht selbst beklebt haben

Steve Povolny und Shivangee Trivedi vom Advanced Threat Research Team von McAfee forschen seit über einem Jahr daran, ob und wie man künstliche Intelligenz austricksen kann. Nach Laborversuchen gelang es ihnen nun, ihre Forschung in die reale Welt zu übertragen.

Im McAfee-Blog schreiben Sie: „Wir wussten, [dass Kameras] von einigen Fahrzeugen verwendet werden, um die erlaubte Höchstgeschwindigkeit zu bestimmen, sie auf dem Head-up-Display (HUD) anzuzeigen und diese Geschwindigkeitsbeschränkung möglicherweise sogar auf bestimmte Funktionen des Autos zu übertragen, die sich auf das autonome Fahren beziehen.“

Während die Software autonomer Fahrzeuge Verkehrsschilder auch dann erkennt, wenn sie zum Beispiel durch Äste teilweise verdeckt sind, bekommt die Software Schwierigkeiten, wenn Aufkleber das Schild „zieren“.

In einem früheren Versuch zeigten Povolny und Trivedi, dass das Mobileye EyeQ3 Kamerasystem ein Stoppschild mit zwei Aufklebern als „Erweiterung der Fahrbahn um eine Fahrspur“ deutete. Nach Angaben des Kameraherstellers verbaute Tesla das System von September 2014 bis Oktober 2016 in Fahrzeugen der Modelle S und X.

Neuere Mobileye-Kameras wären für diesen Fehler „nicht direkt anfällig“, so die Forscher. Zudem verwenden spätere Tesla-Modelle andere Hardware.

Wie viele (wenige) Aufkleber braucht es, um einen Tesla auszutricksen?

Um das Stoppschild zu manipulieren, erdachten sich die Forscher zwei Aufkleber, deren Farbe, Muster und Reflexivität exakt abgestimmt war. Auch die Positionierung auf dem Verkehrsschild musste stimmen.

Dieses Wissen wandten sie anschließend auf die Schilder zur Geschwindigkeitsbegrenzung an. Anfangs irritierten vier Spezialaufkleber die Software und erzeugten eine Fehldeutung. Zum Schluss reichten „etwa 5 cm schwarzes Isolierband“ um das Auto glauben zu lassen, es wäre auf der Autobahn.

Mit zwei Tesla von McAfee-Mitarbeitern testen sie ihr Schild auf einem Parkplatz. Beide Tesla, Baujahr 2016, erkannten die Geschwindigkeit „mit hoher Reproduzierbarkeit“ falsch und beschleunigten das Fahrzeug weit über die erlaubte Höchstgeschwindigkeit. Bei etwa 80 km/h stoppte der Fahrer den Versuch mit dem Bremspedal.

Wie der „MIT Technology Review“ berichtet, verharmloste ein Mobileye-Sprecher die Forschungen. Er sagte, dieses Zeichen würde auch einen Menschen dazu verleiten, 85 zu lesen. Tesla hingegen bestätigte die Ergebnisse von McAfee, wies aber darauf hin, dass die Probleme in dieser Hardware-Generation nicht behoben werden. Fahrzeuge mit der ersten Version der Hardware könnten nicht auf neuere Hardware aufgerüstet werden.

„Wir versuchen nicht, Angst zu verbreiten“, sagte Povolny abschließend. Und wir sagen nicht, „dass, wenn man dieses Auto fährt, es durch eine Barriere hindurch beschleunigt.“ Ziel der Forscher ist es, sowohl Verbraucher als auch Hersteller auf die Schwachstellen hinzuweisen, in der Hoffnung, dass die Fehler behoben werden.