Quand l’intelligence artificielle devient une cible
L’essor fulgurant de l’intelligence artificielle s’accompagne d’un revers majeur : la sécurité. Chaque nouvelle technologie introduit son lot de vulnérabilités, et les IA génératives ne font pas exception. Google Gemini, l’assistant présenté comme le successeur de Google Assistant, vient d’en faire les frais. Des chercheurs en cybersécurité de Tenable ont mis au jour trois failles graves, surnommées le « Gemini Trifecta ». Ces failles exposaient directement les données personnelles des utilisateurs et pouvaient transformer Gemini en véritable arme numérique entre les mains de pirates.
Le « Gemini Trifecta » expliqué
Les trois failles identifiées touchent différents modules de Gemini, chacun représentant un maillon faible exploitable par des cybercriminels. Ensemble, elles révèlent à quel point une IA peut être vulnérable si elle n’est pas sécurisée dès sa conception.
Première faille : Gemini Cloud Assist
La première vulnérabilité concerne Gemini Cloud Assist, un outil intégré à Google Cloud pour assister les utilisateurs dans la gestion de leurs services. Un pirate pouvait injecter discrètement une instruction malveillante dans les journaux cloud. Invisible pour l’utilisateur, cette commande était ensuite interprétée par Gemini, qui générait des résumés contenant du contenu piégé. Ces résumés pouvaient inclure des liens de phishing, c’est-à-dire des redirections vers des sites frauduleux imitant des pages légitimes pour dérober des informations sensibles.
Au-delà de cette manipulation, les pirates pouvaient aussi utiliser cette faille pour interagir avec Google Cloud Platform et siphonner des bases de données ou encore accéder à des configurations réseau confidentielles. Une attaque de ce type aurait pu mettre en danger des entreprises entières dépendantes de l’écosystème Google.
Deuxième faille : la personnalisation de la recherche
La deuxième vulnérabilité se nichait dans le système de personnalisation de Gemini, destiné à adapter les réponses en fonction de l’historique de navigation et des préférences de l’utilisateur. Ici encore, les pirates pouvaient exploiter une technique d’injection de commandes.
Concrètement, il suffisait qu’un internaute consulte un site malveillant conçu spécialement. Le site insérait alors des requêtes dans l’historique de recherche, que Gemini consultait pour personnaliser ses réponses. Résultat : l’IA obéissait à la demande de l’attaquant, pouvant aller jusqu’à transmettre des données sensibles, comme des informations de localisation. Une telle attaque démontre la fragilité du lien entre personnalisation et confidentialité.
Troisième faille : le navigateur intégré
La dernière faille touchait directement le navigateur de Gemini, un module permettant d’afficher et de résumer des pages web. Là encore, les pirates pouvaient insérer des commandes invisibles dans une page conçue de toutes pièces. Dès qu’un utilisateur ouvrait cette page via Gemini, le module de résumé lisait la commande cachée et l’exécutait. L’IA pouvait ainsi être amenée à exfiltrer des données personnelles ou des informations de navigation sans que l’utilisateur n’en ait conscience.
Cette vulnérabilité illustre un danger plus global : en donnant à une IA la capacité de parcourir et d’interpréter le web, on lui ouvre également une porte vers des contenus malveillants qui peuvent détourner son fonctionnement.
Une IA transformée en vecteur d’attaque
Le point le plus préoccupant du Gemini Trifecta est qu’il démontre que l’IA n’est pas seulement une victime potentielle, mais qu’elle peut elle-même devenir un vecteur d’attaque. Contrairement aux logiciels traditionnels, l’IA interprète et génère du contenu, ce qui la rend vulnérable aux manipulations dites d’« injections de prompt ». Dans ces scénarios, l’attaquant ne cherche pas à pénétrer directement un système, mais à influencer le comportement de l’IA pour l’amener à exécuter des actions nuisibles.
La réaction de Google
Alerté par Tenable, Google a réagi rapidement pour colmater ces brèches. Parmi les mesures prises, on note la désactivation des hyperliens dans les résumés générés par Gemini Cloud Assist. L’IA n’insère plus de liens cliquables, ce qui limite les risques de redirections vers des sites frauduleux.
Google affirme également avoir renforcé les protections contre les commandes cachées. Ces correctifs visent à éviter que des pirates ne puissent manipuler Gemini pour accéder à des données confidentielles. Toutefois, comme l’ont souligné les chercheurs, ces problèmes ne sont pas propres à Gemini : ils concernent la majorité des IA génératives actuelles.
Un enjeu pour toutes les intelligences artificielles
Ce cas souligne un défi majeur : la sécurité doit évoluer au même rythme que l’innovation. Les IA génératives comme Gemini, ChatGPT ou d’autres modèles similaires, traitent des volumes massifs de données personnelles. Elles sont donc une cible privilégiée pour les pirates.
À mesure que l’IA s’intègre dans nos outils quotidiens – moteurs de recherche, assistants vocaux, services cloud, télévisions connectées – les risques augmentent. Chaque nouvelle fonctionnalité, chaque intégration dans un service, crée une surface d’attaque supplémentaire. Le cyberespace devient alors un terrain de jeu où l’IA peut être utilisée comme une arme numérique.
Comment protéger l’avenir de l’IA ?
Les leçons tirées du Gemini Trifecta montrent qu’il est indispensable de renforcer les défenses de ces technologies. Plusieurs pistes se dessinent :
- intégrer la cybersécurité dès la conception des IA, et non après coup ;
- développer des mécanismes de détection automatique des injections de prompt ;
- instaurer une collaboration internationale entre chercheurs, entreprises et gouvernements pour partager rapidement les découvertes de failles ;
- sensibiliser les utilisateurs afin qu’ils ne fassent pas aveuglément confiance aux réponses des IA.
En parallèle, les entreprises devront accepter que les IA ne sont pas infaillibles et prévoir des mécanismes de surveillance continue. De la même façon que les antivirus ont accompagné l’essor de l’informatique, de nouveaux outils spécialisés verront probablement le jour pour protéger les systèmes basés sur l’intelligence artificielle.
