Les chercheurs ont démontré qu’un ver informatique alimenté par intelligence artificielle (IA) peut se propager de manière autonome sur un réseau en identifiant et en exploitant les vulnérabilités de différents appareils, ce qui soulève de nouvelles inquiétudes quant à la façon dont la technologie pourrait changer l’avenir des cyberattaques.
Le malware de preuve de conceptdéveloppé par des chercheurs de l’Université de Toronto et la société de cybersécurité CleverHans, combine un modèle de langage étendu (LLM) exécuté localement avec un agent logiciel autonome capable d’analyser les réseaux, d’évaluer les chemins d’attaque potentiels et de décider comment compromettre de nouvelles cibles sans intervention humaine. Les chercheurs affirment que ces travaux montrent comment l’IA pourrait permettre aux logiciels malveillants de s’adapter à des environnements inconnus plutôt que de s’appuyer sur un seul exploit préprogrammé.
Dans les expériences décrites dans une nouvelle étude mise en ligne le 2 juin sur arXiv serveur de préimpression, le ver a été testé sur un réseau d’entreprise simulé contenant 33 hôtes, y compris des serveurs Linux, des postes de travail Windows et d’autres appareils connectés à Internet (IoT). Les chercheurs ont découvert que le système a identifié des vulnérabilités, compromis de nouvelles machines et s’est répliqué sur environ 62 % du réseau en une semaine.
« La principale conclusion est que ce type de système peut faire plus que simplement exécuter un exploit corrigé ; il peut examiner l’environnement cible, raisonner sur d’éventuelles vulnérabilités, utiliser des outils pour tenter des attaques, puis se répliquer après une compromission réussie. » Michael Ageeprofesseur adjoint de technologie de l’information à l’Université Trinity Washington à Washington, DC, qui n’a pas été impliqué dans la recherche, a déclaré à Live Science.
Comment fonctionne le ver IA ?
La configuration était relativement simple. Les chercheurs ont pris un LLM ouvert (pour lequel les données de formation sont accessibles au public) fonctionnant sur du matériel local et l’ont connecté à un cadre logiciel capable d’analyser les réseaux, de collecter des informations sur les systèmes cibles et de mener des attaques. Le rôle de l’IA était d’interpréter ce qu’elle trouvait et de décider où aller ensuite.
« La partie de l’attaque basée sur l’IA concerne principalement le raisonnement et la prise de décision », a déclaré Agee. « Le LLM ne pirate pas le système comme par magie ; il est utilisé pour raisonner sur la signification des informations, suggérer des stratégies d’attaque possibles, décider quel outil ou quelle action doit être essayé ensuite et aider à ajuster l’approche en cas d’échec. »
L’intelligence n’existe pas dans la découverte de nouvelles vulnérabilités ; l’intelligence existe plutôt pour déterminer la rapidité avec laquelle un attaquant peut choisir et séquencer des attaques contre des vulnérabilités précédemment identifiées.
Bob Hutchins, professeur adjoint à l’Université Lipscomb
En d’autres termes, le ver n’invente pas de nouvelles façons de s’introduire dans les systèmes. Au lieu de cela, il s’agit de prendre des informations sur une machine, de les comparer aux vulnérabilités et faiblesses connues et de décider quelle voie est la plus susceptible de réussir.
Bob Hutchinsqui enseigne des cours de stratégie d’IA à l’Université Lipscomb de Nashville, Tennessee, a déclaré que l’innovation réside dans la capacité d’adaptation du système.
« Les vers traditionnels suivent une séquence scriptée : une fois qu’une vulnérabilité est identifiée, le ver se réplique », a déclaré Hutchins à Live Science. « En revanche, les chercheurs ont démontré qu’un modèle d’IA facilement téléchargé pouvait être utilisé comme composant décisionnel du ver. Le ver analyserait chaque appareil rencontré pour déterminer la stratégie la plus efficace pour pirater ce système particulier. »
« L’intelligence n’existe pas dans la découverte de nouvelles vulnérabilités ; elle existe plutôt dans la détermination de la rapidité avec laquelle un attaquant peut choisir et séquencer des attaques contre des vulnérabilités précédemment identifiées », a-t-il ajouté.
Qu’est-ce qui différencie ce ver IA des malwares classiques ?
Les chercheurs ont également conçu le ver pour qu’il fonctionne sur des appareils dotés de différents niveaux de puissance de calcul. Des machines compromises plus performantes, équipées d’unités de traitement graphique (GPU), pourraient fournir des services de raisonnement pour les agents légers exécutés sur des appareils moins puissants ailleurs sur le réseau.
« Ce qui le rendait particulièrement dangereux, c’était sa conception intelligente à plusieurs niveaux », Tom Vazdarprofesseur d’IA et de cybersécurité à l’Open Institute of Technology, a déclaré à Live Science. « Les machines compromises équipées de GPU ont fourni une capacité de raisonnement aux agents légers exécutés sur des appareils IoT à faible consommation qui ne pouvaient pas exécuter un modèle d’IA localement. Une caméra devient un nœud de réflexion dans le réseau d’attaque, pas seulement une autre porte. »
L’étude, qui n’a pas encore été évaluée par des pairs, a été publiée alors que les gouvernements, les experts en sécurité et les sociétés d’IA continuent de débattre de la question de savoir si l’IA générative facilitera la réalisation de cyberattaques sophistiquées. L’une des raisons pour lesquelles l’étude a attiré l’attention est que les chercheurs ne se sont pas appuyés sur un modèle frontière d’une grande entreprise d’IA, comme ChatGPT d’OpenAI ou Claude d’Anthropic. Au lieu de cela, ils ont utilisé un modèle ouvert beaucoup plus petit qui peut être téléchargé et exécuté hors ligne sur des ordinateurs normaux.
« Les chercheurs ont utilisé des modèles légers à poids ouvert lors de leur démonstration, qui sont relativement faciles à télécharger, à retirer les composants du garde-corps et à utiliser », a déclaré Hutchins à Live Science. « En utilisant ces types de modèles, les chercheurs ont remis en question une hypothèse de longue date selon laquelle seuls les modèles avancés/de type Edge présentent des risques liés à une mauvaise utilisation. »
Vazdar a fait valoir que le travail met en évidence la façon dont les attaquants pourraient automatiser de plus en plus les tâches qui nécessitent actuellement des opérateurs humains qualifiés, déclarant à Live Science : « Le coût marginal de l’attaquant tombe pratiquement à zéro. Et vous ne pouvez pas vous en sortir, car il ne s’appuie pas sur une seule classe de vulnérabilité.
Les attaquants pourraient-ils utiliser ce ver IA dans le monde réel ?
Cependant, tous les experts ne sont pas d’accord avec cette évaluation. Bien que les chercheurs aient décrit le système comme étant capable de cibler un large éventail d’appareils, certains ont prévenu que la démonstration avait eu lieu dans un environnement hautement contrôlé conçu pour mettre en valeur le concept.
« Il s’agit au mieux d’une preuve de concept en laboratoire dans un environnement de test riche en cibles », a déclaré Agee. Le réseau de test contenait de nombreux systèmes intentionnellement vulnérables et manquait de défenses actives sur les points finaux. « Le document montre que l’approche est possible, mais pas nécessairement que cette attaque fonctionnerait de manière fiable dans un réseau d’entreprise normalement, voire minimalement, défendu », a-t-il ajouté.
Tout appareil connecté à Internet exécutant des versions vulnérables d’un logiciel est théoriquement susceptible d’être exploité via un mécanisme similaire. C’est un truisme en matière de code malveillant depuis des décennies.
Bob Hutchins, professeur adjoint à l’Université Lipscomb
Le ver a également généré des activités que les équipes de sécurité pourraient potentiellement détecter, a-t-il noté, notamment l’analyse du réseau, les tentatives d’exploitation répétées et les comportements d’élévation des privilèges.
« Même une configuration de surveillance de base pourrait signaler certains de ces comportements », a déclaré Agee.
Hutchins a également mis en garde contre une exagération des résultats. « ‘Pourrait potentiellement cibler presque n’importe quel appareil’ est techniquement correct et émotionnellement trompeur », a-t-il déclaré. « Tout appareil connecté à Internet exécutant des versions vulnérables d’un logiciel est théoriquement susceptible d’être exploité via un mécanisme similaire. C’est un truisme de code malveillant depuis des décennies. »
Les organisations peuvent toujours se défendre en utilisant bon nombre des mêmes mesures recommandées contre les cyberattaques conventionnelles, a ajouté Hutchins, notamment l’application rapide de correctifs, des mots de passe forts et l’authentification multifactorielle (en utilisant plusieurs formes d’identification pour se connecter aux systèmes, comme un mot de passe envoyé par SMS en plus de votre mot de passe).
Néanmoins, les experts s’accordent largement sur le fait que l’étude pourrait marquer un changement dans la façon dont les logiciels malveillants pourraient fonctionner à l’avenir. Plutôt que de s’appuyer sur des instructions fixes écrites par des attaquants humains, les futurs logiciels malveillants pourraient être capables de prendre eux-mêmes de nombreuses décisions tactiques.
- « J’ai violé tous les principes qui m’ont été donnés » : un agent IA supprime l’intégralité de la base de données de l’entreprise en 9 secondes, puis avoue
- Les hacks d’auto-réplication de l’IA « ne sont plus purement théoriques », selon une étude – mais les experts disent qu’il est trop tôt pour paniquer
- Claude Mythos a expliqué : Le modèle d’IA le plus puissant d’Anthropic est-il vraiment trop dangereux pour être rendu public ?
« L’attaque est importante car elle montre qu’un agent basé sur LLM peut raisonner différentes cibles et adapter son approche », a déclaré Agee.
Pour Hutchins, l’étude représente en fin de compte exactement le type de travail que les chercheurs universitaires devraient accomplir. Les auteurs de l’étude « font exactement ce que le monde universitaire devrait faire : rechercher une menace légitime dans un environnement contrôlé avant que des acteurs malveillants ne commencent à la créer en dehors de cet environnement contrôlé », a-t-il déclaré.
Reste à savoir si les attaquants adopteront des techniques similaires. Les chercheurs ont montré qu’un modèle d’IA relativement petit peut déjà jouer un rôle significatif dans la planification et la direction d’une cyberattaque.
