Advertisements

Des voitures autonomes piégées par des projections en 2D

Spread the love
Des voitures autonomes piégées par des projections en 2D

Selon une équipe d’universitaires, il est possible de tromper les voitures intelligentes modernes qui roulent en mode pilotage automatique et de leur faire faire des actions non désirées – comme freiner ou changer de direction – en projetant simplement des images en 2D sur la route, sur le bord des chaussées ou en intégrant certains “déclencheurs” dans les panneaux d’affichage vidéo.

Ces nouveaux travaux, publiés la semaine dernière, ont étudié comment les systèmes avancés d’aide à la conduite (ADAS) et les technologies de pilotage automatique réagissent aux objets en 2D (également appelés objets sans profondeur, ou fantômes) qui sont projetés sur la trajectoire d’une voiture en mouvement et sur les capteurs de son pilote automatique.

Pour leur recherche, intitulée “Phantom of the ADAS : Phantom Attacks on Driving Assistance Systems”, les chercheurs ont étudié seulement deux technologies : le Mobileye 630 PRO (utilisé dans les voitures Honda, Mazda et Renault) et le système de pilotage automatique Tesla Model X HW 2.5.

publicité

Vrai panneau ou projection ?

Les chercheurs ont trouvé plusieurs scénarios dans lesquels ces systèmes pensent que les projections en 2D sont des éléments liés à la circulation. Par exemple, les voitures reconnaissent des projections en 2D d’êtres humains projetées sur une route, et le pilote automatique enclenche le frein pour ralentir ou arrêter le véhicule. Dans un autre cas, l’équipe de recherche a projeté de nouvelles lignes sur la route, faisant croire à la voiture qu’elle devait tourner ou ajuster sa trajectoire, une ruse qui a conduit à faire entrer le véhicule dans une voie voisine, mettant en danger la vie de ses passagers.

Mais la ruse a fonctionné même au-delà de la projection d’objets en 2D sur la route. Par exemple, la projection d’images de panneaux de signalisation sur des surfaces en bord de route comme des murs ou des arbres fonctionne tout aussi bien, et les systèmes de pilotage automatique testés n’ont pas fait la différence entre les projections et les véritables panneaux de signalisation.

Par ailleurs, les objets en 2D n’ont pas toujours besoin d’être projetés. L’équipe de recherche affirme que l’intégration d’un objet plat en 2D dans un autre support fonctionne parfaitement, comme par exemple une publicité vidéo diffusée sur un panneau d’affichage. Dans leur expérience, ils ont intégré un panneau routier à l’intérieur d’une publicité, trompant la voiture qui se trouvait dans une zone de vitesse élevée.

Des projections de courte durée suffisent à troubler les systèmes de pilotage automatique

Les chercheurs affirment que les objets peuvent être projetés de différentes manières, en utilisant même des projecteurs bon marché à 300 dollars disponibles sur Amazon. Ils peuvent être tenus à la main ou installés sur des drones volants.
En outre, l’équipe de recherche affirme que ces projections n’ont pas besoin d’être visibles pendant de longues périodes, quelques centaines de millisecondes suffisent. Bien que ces projections de courte durée soient invisibles pour l’œil humain, elles sont bien visibles et captées par les puissants capteurs et caméras vidéo utilisés par les systèmes ADAS et de pilotage automatique.

Ces expérimentations ouvre la porte à des scénarios réels où la voiture pourrait freiner soudainement ou prendre la route à contresens. Ces observations sont importantes car la plupart des constructeurs automobiles conseillent aux conducteurs de n’utiliser les pilotes automatiques que sous surveillance directe. Ils expliquent que ces systèmes sont là pour aider les conducteurs pendant la conduite, mais qu’il faut toujours garder les mains sur le volant et les yeux sur la route. Ce type de projections pouvant ne durer que quelques millisecondes, les conducteurs ne respectant pas ces règles seraient incapables de réagir à temps.

Les systèmes pour l’instant inchangés

L’équipe de recherche a déclaré avoir informé Mobileye et Tesla de ses découvertes, mais les constructeurs automobiles n’ont pas encore apporté d’améliorations à leurs systèmes.

L’une des raisons est qu’il n’existe aucun moyen pour un logiciel de détecter la différence entre un panneau routier projeté sur les feuilles d’un arbre et un panneau routier légitime attaché à un arbre (ou à un mur), où l’on s’attend à trouver certains panneaux routiers. De même pour différencier les projections de marquages routiers du réel marquage au sol.

Cependant, les systèmes de pilotage automatique devraient être capables de distinguer les projections des humains et des voitures de la réalité. Il faudrait pour ça que le pilote automatique et les autres systèmes ADAS soient capables de reconnaître des objets en 2D sans profondeur de champ, comme certains systèmes de reconnaissance faciale peuvent détecter des photos d’un visage humain et empêcher l’authentification.

Source : ZDNet.com

Advertisements

Leave a Reply