J'avais envie de vous mettre cette photo en illustration pour dire que cette mauvaise appréciation, pourrait très bien demain être suite à un piratage du système. Et bien... On a pas fini d'en avoir des voitures dans la mer au port de Marseille...

Une simple modification pour tromper l'IA.

En ciblant le MobilEye EyeQ3, les chercheurs se sont focalisés sur un algorithme en particulier. Or, ce dernier permet de détecter et de classifier les panneaux de signalisation présents sur la route. Les experts ont cherché à comprendre s'il était possible de perturber cet algorithme traitant les informations des caméras à l'avant du véhicule. Il est ici question de “model hacking”, autrement dit un empoisonnement des données.

Les 5 passagers ont survécus - accident en Allemagne - Tesla Model S.

Tromper un algorithme n'est pas nouveau. En 2019, des chercheurs belges ont induit une IA en erreur à l'aide de simples pancartes. Toutefois, McAfee désirait trouver des failles dans les limitations de vitesse des véhicules autonomes. Selon McAfee, il s'agit d'aider les entreprises à corriger ce genre de faille. Ainsi, les résultats de l'expérience ont été transmis à la société Mobileye fabriquant le EyeQ3. Ces recherches sont plutôt bienvenues à l'heure où de plus en plus d'accidents impliquent des véhicules Tesla en mode Autopilot.

Les 5 passagers ont survécus - accident en Allemagne - Tesla Model S.