- Le manque de compréhension de la technologie dans l'industrie et le gouvernement est choquant, et la connaissance des voitures équipées de la technologie IA doit être généralisée.
- Le mode de défaillance de l'IA est difficile à prédire, et personne ne peut garantir qu'une telle machine ne fera jamais d'erreurs.
- Les pirates ont de nombreuses façons de vous faire crasher: attaques par malware, attaques de l'homme du milieu, attaques par déni de service, attaques par ransomware.
- La réglementation de l'intelligence artificielle automobile n'a pas encore commencé, et les voitures équipées d'IA ont encore un long chemin à parcourir.
La technologie de l'IA est désormais largement utilisée dans les voitures autonomes, avec des capteurs, caméras, radars, etc., pour se déplacer entre les destinations sans intervention humaine. Les entreprises qui développent et/ou testent des véhicules autonomes comprennent Audi, BMW, Ford, Google, General Motors, Tesla, Volkswagen et Volvo. Génial ! Le conducteur peut libérer ses mains et se laisser conduire ! Mais est-ce vraiment le cas ?
L'idée que l'IA peut être un risque ainsi qu'un avantage est débattue depuis longtemps. Je pense que cela est particulièrement vrai pour les voitures et les véhicules.
Dans une certaine mesure, l'IA offre des avantages significatifs en éliminant l'erreur humaine de l'équation de conduite. Mais qu'en est-il lorsque cela tourne mal ?
Voici 4 raisons pour lesquelles je pense que l'IA ne vaut pas la peine:
- Un faux sentiment de sécurité distrait les conducteurs.
- Mauvais jugement de l'IA
- Attaques de pirates
- Absence de réglementation sur la reconnaissance des accidents
Veuillez attacher votre ceinture, la voiture sans IA va partir !
Préoccupation n° 1: Un faux sentiment de sécurité
Mary (Missy) L. Cummings, membre émérite de l'IEEE et professeure au Duke Institute for Brain Sciences (DIBS) de l'Université Duke, a demandé en 2016 à la commission du Sénat américain sur le commerce, la science et les transports de réglementer l'utilisation de l'intelligence artificielle dans les automobiles. Mais ni les appels de Mary (Missy) L. Cummings ni la mort de Brown n'ont pu inciter le gouvernement à agir. Le manque de compréhension de la technologie dans l'industrie et le gouvernement est choquant.
Maintenant, la question à considérer est la suivante: si les voitures autonomes se généralisent, l'erreur humaine dans la conduite est remplacée par l'erreur humaine dans le codage. Est-ce une échappatoire au tueur de la route ?
Les partisans des voitures autonomes affirment souvent que plus tôt nous nous débarrasserons des conducteurs, plus nous serons en sécurité sur la route. Citant des statistiques de la National Highway Traffic Safety Administration, ils affirment que 94 % des accidents sont causés par des conducteurs humains. Mais cette statistique a été sortie de son contexte et est inexacte.
De plus, les affirmations selon lesquelles les voitures autonomes seront plus sûres que les voitures conduites par des humains ignorent ce que toute personne ayant travaillé dans le développement de logiciels sait trop bien: le code logiciel est très sujet aux erreurs, et le problème ne fera qu'empirer à mesure que les systèmes deviennent plus complexes.
Il y a eu l'accident d'octobre 2021 d'une voiture autonome Pony contre un panneau, l'accident d'avril 2022 d'un camion TuSimple contre une barrière en béton, l'accident de juin 2022 d'un robotaxi Cruise qui s'est arrêté brusquement en tournant à gauche, et l'accident de mars 2023 d'une autre voiture Cruise qui a embouti un bus.
Lire aussi: Les conducteurs Volkswagen sont sur le point de rejoindre la conversation ChatGPT
Préoccupation n° 2: Le système IA s'active quand il ne devrait pas
Un scénario à considérer est si le système IA s'active quand il ne devrait pas (s'arrête brusquement lorsqu'il détecte une « ombre » d'un obstacle devant), ou ne répond pas quand il le devrait. Dans quelle situation seriez-vous ?
Certes, le mode de défaillance de l'IA est difficile à prédire, et personne ne peut garantir qu'une telle machine ne fera jamais d'erreurs.
Un LLM devine quels mots et expressions apparaîtront ensuite en se référant à une archive recueillie à partir de données existantes pendant l'entraînement. Le module de conduite autonome interprète la scène sur la base d'une base de données d'images étiquetées (voici une voiture, ceci est un piéton, ceci est un arbre) et fait des suppositions similaires pour décider comment naviguer autour des obstacles. Ces images étiquetées ont également été fournies pendant l'entraînement. Mais toutes les possibilités ne peuvent pas être modélisées, donc de nombreux modes de défaillance sont très difficiles à prévoir.
Un mode de défaillance qui n'avait pas été anticipé auparavant est le freinage fantôme. Sans raison apparente, un véhicule autonome freine brusquement, pouvant provoquer une collision par l'arrière avec le véhicule qui le suit et les autres véhicules derrière. En mai 2022, la NHTSA a envoyé une lettre à Tesla indiquant que l'agence avait reçu 758 plaintes concernant le freinage fantôme dans les véhicules Model 3 et Y. En mai, le journal allemand Handelsblatt a rapporté 1 500 plaintes concernant des problèmes de freinage dans les voitures Tesla et 2 400 concernant des accélérations soudaines.
Il apparaît maintenant que le taux de collisions arrière des voitures autonomes est environ deux fois supérieur à celui des voitures conduites par des humains. Watson, basé sur l'IA d'IBM, le précurseur des LLM actuels, était bon pour deviner mais n'avait aucune connaissance réelle, surtout lorsqu'il s'agissait de porter des jugements dans l'incertitude et de décider des actions sur la base d'informations incomplètes.
Les LLM d'aujourd'hui ne font pas exception: les modèles sous-jacents ne peuvent tout simplement pas faire face au manque d'informations, ni n'ont la capacité d'évaluer si leurs estimations sont suffisamment bonnes dans ce contexte.
Ces problèmes sont courants dans le domaine de la conduite autonome. L'accident de juin 2022 impliquait un robotaxi Cruise lorsqu'il a décidé de faire un grand virage à gauche entre deux véhicules. Comme détaillé dans un rapport d'accident par l'expert en sécurité automobile Michael Woon, la voiture a correctement pris une trajectoire viable, mais au milieu du virage, elle a freiné brusquement et s'est arrêtée au milieu de l'intersection. Elle a supposé qu'une voiture arrivant en face dans la voie de droite allait tourner, même si tourner était physiquement impossible à la vitesse à laquelle la voiture roulait.
Cette incertitude a semé la confusion chez Cruise et a conduit aux pires décisions possibles. Une Prius venant en sens inverse n'a pas tourné et a percuté la Cruise, blessant les occupants des deux véhicules.
Quiz rapide
Pour les batteries au lithium, quelle est la meilleure température de fonctionnement ?
A. 30 degrés Celsius
B. 50 degrés Celsius
C. 60 degrés Celsius
D. 70 degrés Celsius
La réponse se trouve en bas de cet article.
Préoccupation n° 3: Attaques de piratage
À l'ère de l'innovation pilotée par l'IA, l'avènement des voitures autonomes apporte non seulement des promesses de mobilité accrue, mais soulève également des préoccupations éthiques critiques.
M. Ratan Bajaj, fondateur et PDG de MindWell AI
Dès 2019, le nouveau modèle Tesla Model 3 a été piraté en seulement quelques minutes. Les pirates Amat Cama et Richard Zhu ont exploité des faiblesses du système « infodivertissement » pour accéder à l'un des ordinateurs de la voiture (le monde physique).
Une fois réussis, Amat Cama et Richard Zhu ont pu exécuter leurs propres lignes de code. Vous pouvez les voir faire la démonstration de l'attaque dans la vidéo.
Voici quelques exemples antérieurs, je ne dis pas de bêtises.
Attaque par malware
En 2011, la Chevrolet Malibu est devenue le premier véhicule à intrusion à distance que les attaquants ont pu contrôler. Les pirates ont « exploité une faiblesse de la pile Bluetooth pour manipuler la radio du véhicule et insérer un code malveillant en synchronisant le téléphone avec la radio » (Attaques sur les voitures autonomes et leurs contre-mesures: enquête). Une fois inséré avec succès, le code peut envoyer un message à l'ECU de la voiture et verrouiller les freins.
Attaques de l'homme du milieu (MiTM)
Dans une attaque de l'homme du milieu, un pirate peut manipuler les communications entre deux entités et prendre le contrôle d'un ECU ou d'une unité routière d'infrastructure (RSU) en écoutant, en rejouant et en modifiant les messages envoyés entre les entités.
Attaque par déni de service (DoS)
Le DoS est l'une des attaques les plus dangereuses qui peuvent survenir sur les voitures autonomes; elles peuvent entraîner des accidents graves ou la mort. Les attaquants peuvent utiliser des attaques DoS pour « empêcher les caméras, le LiDAR et le radar de détecter les objets, les routes et les panneaux de sécurité » (Attaques sur les voitures autonomes et leurs contre-mesures: enquête). Une attaque DoS peut également affecter le système de freinage, provoquant l'arrêt soudain de la voiture ou son incapacité à s'arrêter, ce qui entraîne un dysfonctionnement du système de freinage.
Attaque par ransomware
Ce type d'attaque peut être très dangereux pour les véhicules commerciaux. En 2017, Honda Motor Company a été frappée par une importante attaque de ransomware WannaCry dans laquelle les attaquants « exigeaient de grandes quantités de cryptomonnaies pour fournir des clés de déchiffrement » (Attaques sur les voitures autonomes et leurs contre-mesures: enquête).
Bien que l'attaque n'ait pas visé les voitures autonomes, elle a tout de même empêché de nombreuses voitures autonomes de Honda de recevoir des mises à jour logicielles pendant l'attaque. Ce type d'attaque est probablement plus courant que les autres car les pirates réussissent très bien à exécuter des attaques par ransomware.
Qu'est-ce qui rend les voitures autonomes vulnérables ?
Les voitures autonomes sont des cibles tentantes pour les cybercriminels qui peuvent « tenter de voler les données financières d'un conducteur ou de lancer des attaques terroristes avancées en transformant le véhicule en arme ».
En plus des menaces involontaires telles que la défaillance soudaine des systèmes d'IA, il existe des attaques intentionnelles conçues pour compromettre spécifiquement les fonctions critiques de sécurité des systèmes d'IA. Par exemple, peindre les routes pour tromper les systèmes de navigation, ou mettre des autocollants sur les panneaux d'arrêt pour empêcher leur identification.
Le LiDAR (Light Detection and Ranging) est un système de caméra et de télémétrie à impulsions laser qui constitue les « yeux » d'un véhicule autonome, fournissant des informations sur la scène de conduite et l'environnement à un modèle informatique CNN pour prendre des décisions telles que les ajustements de vitesse et les corrections de direction. Malheureusement, les CNN peuvent facilement être piratés en « ajoutant de minuscules changements au niveau des pixels aux images d'entrée qui ne sont pas visibles à l'œil nu ». Malheureusement, cette vulnérabilité pourrait permettre à des acteurs malveillants d'attaquer les voitures autonomes (Le Phare).
Le diagnostic embarqué (OBD) est l'une des parties les plus vulnérables des véhicules autonomes; le code malveillant peut être inséré dans une unité de commande électronique (ECU) via un OBD. Le malware inséré peut modifier et reprogrammer l'ECU. Les ECU infectés peuvent ne pas être en mesure de communiquer avec les autres composants de l'unité embarquée (OBU), tels que le LiDAR, les caméras et les radars, ce qui peut compromettre la sécurité des véhicules autonomes.
Conclusion: pour obtenir plusieurs méthodes de contrôle automatique de la conduite d'une voiture
- Accès à distance via Internet
- Accès à distance via Bluetooth
- Insérer la porte dérobée dans la voiture autonome par le biais du constructeur automobile (chaîne d'approvisionnement)
- Des dispositifs spéciaux sont implantés dans le véhicule
- Perturber les sens du véhicule
Veuillez y réfléchir:
Scénarios de piratage et conséquences imprévues: que se passe-t-il si les voitures autonomes sont victimes d'un piratage qui leur fait perdre le contrôle, ou pire, provoque un accident ?
Dilemmes moraux: qui porte la responsabilité ? La question de la responsabilité est primordiale lorsque les voitures autonomes sont compromises.
Assurer l'avenir de la conduite autonome: en examinant les exigences éthiques, nous nous penchons sur les mesures nécessaires pour protéger les véhicules autonomes des menaces de piratage. Quel rôle les réglementations devraient-elles jouer dans l'application de normes de cybersécurité strictes ?
Vie humaine, aléa moral: lorsque nous confions le volant à l'IA, les enjeux sont élevés, surtout en ce qui concerne les questions de vie et de sécurité. Comment la société peut-elle s'assurer que les considérations éthiques guident le développement de la technologie des voitures autonomes pour prévenir les accidents liés au piratage ?
Préoccupation n° 4: Absence de réglementation
L'IA a des implications au niveau du système qui ne peuvent être ignorées.
Les voitures autonomes dépendent de la connectivité sans fil pour rester conscientes de la route, mais que se passe-t-il lorsque cette connexion est perdue ? Un conducteur a trouvé sa voiture coincée parmi 20 véhicules Cruise qui avaient perdu le contact avec le centre d'opérations à distance, provoquant un embouteillage majeur.

Lire aussi: Cruise lance la première voiture accessible aux fauteuils roulants
Les attitudes envers les voitures autonomes à San Francisco, pourtant férue de technologie, autrefois optimistes, ont pris une tournure négative alors que la ville connaît une multitude de problèmes. Si une voiture autonome interceptée entraîne la mort d'une personne qui ne peut pas se rendre à l'hôpital à temps, ce sentiment pourrait éventuellement amener le public à rejeter la technologie.
Alors, qu'est-ce que l'expérience des voitures autonomes signifie pour la réglementation de l'IA au sens large ? Non seulement les entreprises doivent s'assurer de comprendre les implications plus larges de l'IA au niveau du système, mais elles ont également besoin de supervision - et elles ne devraient pas se laisser s'autoréguler.
L'IA a encore un long chemin à parcourir dans les voitures et les camions. Je ne demande pas l'interdiction des voitures autonomes. Il y a des avantages évidents à utiliser l'IA, et il est irresponsable de la part des gens d'appeler à son interdiction, voire à un moratoire sur son utilisation. Mais nous avons besoin de plus de supervision gouvernementale pour éviter les prises de risque inutiles.
Cependant, la réglementation de l'IA dans les voitures n'a pas encore commencé. Cela peut être attribué en partie aux demandes et pressions excessives de l'industrie, mais aussi à un manque de capacité de la part des régulateurs. L'Union européenne a été plus proactive dans la réglementation de l'intelligence artificielle, en particulier des voitures autonomes.
La bonne réponse au quiz est A. 30 degrés Celsius.






