Polytechnique Montréal : des partenariats pour sécuriser les outils d’IA embarquée

En laissant le volant sous le contrôle d’une intelligence artificielle (IA) embarquée, les concepteurs de véhicules autonomes ouvrent la voie à une série de vulnérabilités qui pourraient compromettre tant la sécurité des occupants du véhicule que celle des personnes qui se trouvent tout autour. Gabriela Nicolescu, professeure au Département de génie informatique et génie logiciel à Polytechnique Montréal, protège le code de ces véritables ordinateurs ambulants.

Une voiture incapable de reconnaître un panneau d’arrêt obligatoire au coin de la rue. Une autre pour qui un piéton est devenu invisible. Un camion qui accélère à la vue d’un feu de signalisation au rouge.

Ces mises en situation hypothétiques pourraient devenir réalité si des pirates informatiques s’attaquaient au code informatique embarqué d’un véhicule autonome. Comme chaque entreprise conçoit ses propres outils, il est impératif de veiller à ce que ceux-ci n’offrent aucune brèche.

Voilà notamment le travail dont se charge Pre Gabriela Nicolescu. Spécialisée en cybersécurité de l’Internet des objets, Pre Nicolescu collabore notamment avec un géant américain du logiciel-matériel pour garantir la sécurité de ses outils destinés aux véhicules autonomes.

« Les véhicules autonomes fonctionnent avec des ressources limitées, notamment en termes de puissance de calcul, ce qui force les concepteurs à compresser et simplifier le plus possible le code des outils d’IA embarquée », explique Pre Nicolescu. « Et en adaptant ce code, on crée éventuellement des vulnérabilités. »

Modifications malicieuses ou injection de code, vol de données, extraction de la propriété intellectuelle : voilà seulement quelques-unes des menaces qui planent sur l’IA embarquée des véhicules autonomes. Des menaces particulièrement importantes pour le système de vision par ordinateur des véhicules, selon Pre Nicolescu.

« En attaquant l’algorithme de ce système, les pirates peuvent faire en sortes que l’IA ne soit plus capable de reconnaître les panneaux ou les feux de circulation, par exemple », dit-elle. « Les conséquences pourraient être dramatiques. »

Des raisons de concurrence sont aussi en jeu, ajoute la spécialiste en cybersécurité de Polytechnique Montréal. « Les enjeux de propriété intellectuelle sont importants parce qu’un algorithme qui requiert très peu de puissance de calcul aura beaucoup de valeur pour celui qui le possède », explique-t-elle.

Dans le cadre d’un autre projet impliquant un partenaire industriel, l’équipe de Pre Nicolescu travaille à sécuriser un outil d’aide à la décision qui supervise en temps réel les déplacements effectués par les autobus d’une même flotte. Un outil qui surveille aussi le trajet emprunté par des utilisateurs en gare afin de faciliter la fluidité de leurs déplacements.

« Notre rôle ici est moins un enjeu de cybersécurité que de sureté, confie la spécialiste. Les circuits des bornes peuvent être sujets à des défaillances, alors on s’assure de bien surveiller le niveau d’énergie de chacune, leur température, etc. pour détecter les problèmes avant qu’ils nuisent au bon fonctionnement du système. »

« Ces outils d’IA fonctionnent grâce à des capteurs qui génèrent énormément de données », ajoute-t-elle. « Le travail ici consiste surtout à optimiser le code pour réduire la consommation globale d’énergie du système et détecter les défaillances de ces systèmes embarqués. »

Fiche d’expertise de Pre Gabriela Nicolescu >>>

Ce contenu partenaire a été produit dans le cadre du projet En route! – La destination carrières en transports électriques et intelligents.