{"id":11220,"date":"2019-10-24T13:29:05","date_gmt":"2019-10-24T13:29:05","guid":{"rendered":"https:\/\/cyber-valley.de\/news\/farbfleck-koennte-autonom-fahrende-fahrzeuge-verwirren\/"},"modified":"2026-07-15T14:44:24","modified_gmt":"2026-07-15T14:44:24","slug":"farbfleck-koennte-autonom-fahrende-fahrzeuge-verwirren","status":"publish","type":"news","link":"https:\/\/cyber-valley.de\/de\/news\/farbfleck-koennte-autonom-fahrende-fahrzeuge-verwirren\/","title":{"rendered":"Farbfleck k\u00f6nnte autonom fahrende Fahrzeuge verwirren"},"content":{"rendered":"\n

Ein Forscherteam aus T\u00fcbingen zeigt, dass auf tiefen neuronalen Netzen basierende optische Flussalgorithmen \u2013 eine wahrscheinliche Komponente zuk\u00fcnftiger autonomer Fahrzeuge \u2013 anf\u00e4llig f\u00fcr Hackerangriffe sind. Die Experten f\u00fcr Maschinelles Sehen und Lernen warnen die Automobilindustrie, dass ein einfaches Farbmuster ausreichen k\u00f6nnte, die Autopiloten in selbstfahrenden Fahrzeugen zu verwirren.<\/strong><\/p>\n\n\n\n

T\u00fcbingen \u2013 Ein Farbmuster auf einem T-Shirt, als Heckscheibenaufkleber oder als Emblem auf einer Einkaufst\u00fcte k\u00f6nnte f\u00fcr selbstfahrende Autos ein Problem darstellen \u2013 ein kleines Muster, das so viele St\u00f6rsignale ausl\u00f6st, dass es zum Sicherheitsrisiko wird. \u201eWir haben drei, vielleicht vier Stunden gebraucht, um das Muster zu erstellen \u2013 das ging ganz schnell,\u201c sagt Anurag Ranjan, Doktorand in der Abteilung f\u00fcr Perzeptive Systeme am Max-Planck-Institut f\u00fcr Intelligente Systeme (MPI-IS) in T\u00fcbingen. Er ist der Erstautor der Publikation \u201eAttacking Optical Flow\u201c, ein gemeinsames Forschungsprojekt der Abteilung f\u00fcr Perzeptive Systeme<\/a> und der Forschungsgruppe f\u00fcr Autonomes Maschinelles Sehen<\/a> am MPI-IS und der Universit\u00e4t T\u00fcbingen. Die Publikation ist auf arXiv<\/a> verf\u00fcgbar und wird bei der f\u00fchrenden internationalen Konferenz im Bereich Maschinelles Sehen pr\u00e4sentiert, der International Conference on Computer Vision ICCV<\/a>, die am 27. Oktober in Seoul beginnt.<\/p>\n\n\n\n

<\/a><\/p>\n\n\n\n

Die Gefahr, dass aktuell auf dem Markt verf\u00fcgbare Serienfahrzeuge betroffen sind, ist\u00a0 gering. Dennoch informierten die Forscher vorsichtshalber einige Automobilhersteller, die derzeit selbstfahrende Modelle entwickeln. Sie setzten sie von dem Risiko in Kenntnis, damit sie bei Bedarf zeitnah reagieren k\u00f6nnen.<\/p>\n\n\n\n

In ihrer Forschungsarbeit pr\u00fcften Anurag Ranjan und seine Kollegen Joel Janai, Andreas Geiger und Michael J. Black die Robustheit einer Reihe verschiedener Algorithmen zur Bestimmung des sogenannten optischen Flusses. Derartige Systeme werden in selbstfahrenden Autos, in der Robotik, Medizin, bei Videospielen und in der Navigation verwendet, um nur einige wenige Einsatzbereiche zu nennen. Der optische Fluss beschreibt die Bewegung in einer Szene, die von den Bordkameras erfasst wird. J\u00fcngste Fortschritte im Bereich des maschinellen Lernens haben zu schnelleren und besseren Verfahren beim Berechnen von Bewegung gef\u00fchrt. Die Forschung der T\u00fcbinger Wissenschaftler zeigt jedoch, dass derartige Verfahren anf\u00e4llig sind, wenn St\u00f6rsignale im Spiel sind: zum Beispiel ein einfaches, buntes Muster, das in die Szene platziert wird. Selbst wenn sich das Muster nicht bewegt, kann es dazu f\u00fchren, dass tiefe neuronale Netze, wie sie heute in gro\u00dfem Ma\u00dfe zur Flussberechnung eingesetzt werden, falsch rechnen: das Netzwerk kalkuliert pl\u00f6tzlich, dass sich gro\u00dfe Teile der Szene in die falsche Richtung bewegen.<\/p>\n\n\n\n

Mehrmals haben Forscher*innen in der Vergangenheit bereits gezeigt, dass selbst winzige Muster neuronale Netze verwirren k\u00f6nnen. Zum Beispiel wurden dadurch Objekte wie Stoppschilder falsch klassifiziert. Die neue T\u00fcbinger Forschungsarbeit zeigt erstmals, dass auch Algorithmen zur Bestimmung der Bewegung von Objekten anf\u00e4llig f\u00fcr derartige Angriffe sind. Bei der Verwendung in sicherheitskritischen Anwendungen wie in autonomen Fahrzeugen m\u00fcssen diese Systeme jedoch hinsichtlich derartiger Angriffe \u201erobust\u201c bzw. zuverl\u00e4ssig und sicher sein.<\/p>\n\n\n\n

Selbst ein kleiner Fleck erzeugt gro\u00dfe Wirkung<\/b><\/h3>\n\n\n\n

Ranjan und seine Kollegen arbeiten seit M\u00e4rz vergangenen Jahres an dem Projekt \u201eattacking optical flow\u201c. Im Zuge ihrer Forschungsarbeit waren sie \u00fcberrascht, dass selbst ein kleiner Fleck gro\u00dfes Chaos ausl\u00f6sen kann. Es reicht eine Gr\u00f6\u00dfe von weniger als 1 % des Gesamtbilds aus, um das System anzugreifen. Die kleinste St\u00f6rung verursachte, dass das System schwere Fehler bei seinen Berechnungen machte, die die H\u00e4lfte des Bildbereichs betrafen (siehe Abbildung). Je gr\u00f6\u00dfer der Fleck, desto verheerender die Auswirkungen. \u201eDies ist bedenkliche, da das Flow-System in vielen F\u00e4llen die Bewegung der Objekten in der gesamten Szene gel\u00f6scht hat,\u201c erkl\u00e4rt Ranjan und weist auf ein Video<\/a> hin, in dem das angegriffene System zu sehen ist. Man kann sich leicht vorstellen, welchen Schaden ein lahmgelegter Autopilot eines selbstfahrenden Autos bei hoher Geschwindigkeit verursachen kann.<\/p>\n\n\n\n

<\/a><\/p>\n\n\n\n

Wie einzelne selbstfahrende Autos funktionieren ist ein wohl-geh\u00fctetes Geheimnis der jeweiligen Hersteller. Daher k\u00f6nnen Computer Vision Grundlagenforscher nur mutma\u00dfen. \u201eUnsere Arbeit soll die Hersteller von selbstfahrender Technologie wachr\u00fctteln, sie vor der potenziellen Bedrohung warnen. Wenn sie davon wissen, k\u00f6nnen sie ihre Systeme so trainieren, dass sie gegen\u00fcber derartigen Angriffen robust sind,\u201c sagt Michael J. Black, Direktor der Abteilung f\u00fcr Perzeptive Systeme am Max-Planck-Institut f\u00fcr Intelligente Systeme.<\/p>\n\n\n\n

M\u00f6glicherweise ebenso wichtig wie der Hackerangriff selbst ist, dass es den Entwicklerteams der Automobilindustrie zeigt, wie man unter Verwendung einer sogenannten \u201ezero flow\u201c-Pr\u00fcfung bessere optische Flussalgorithmen entwickeln kann. \u201eWenn wir dem System zwei identische Bilder zeigen und es keinerlei Bewegung zwischen den beiden gibt, sollte sich der optische Flussalgorithmus farblich \u00fcberhaupt nicht ver\u00e4ndern. Dies ist jedoch oft nicht der Fall, selbst ohne einen Angriff. Schon da fangen also die Probleme an. Hier m\u00fcssen wir ansetzen, um zu beheben, was das Netz falsch macht\u201c, erl\u00e4utert Ranjan. Er und sein Team hoffen, dass ihre Forschungsarbeit dazu beitr\u00e4gt, das Bewusstsein f\u00fcr die Problematik zu st\u00e4rken, und dass Automobilhersteller derartige Angriffe ernst nehmen und ihre Systeme entsprechend anpassen, um sie weniger st\u00f6ranf\u00e4llig zu machen.<\/p>\n\n\n\n