Intelligence artificielle (IA) a peut-être déjà atteint la « singularité » – le seuil longtemps théorisé au-delà duquel les humains ne peuvent pas prédire les progrès de la technologie, ont déclaré d’éminents dirigeants de l’IA tels qu’Elon Musk et le fondateur d’OpenAI, Sam Altman.
Dans un article sur plateforme de médias sociaux XMusk a souligné un certain nombre d’incidents récents de systèmes d’IA dépassant leurs limites précédemment supposées, notamment piratage de systèmes externes et résoudre des problèmes mathématiques non résolus auparavant.
D’abord conceptualisé par un mathématicien et scientifique du projet Manhattan John von Neumann dans les années 1950 et popularisée par la science-fiction, « la singularité » fait référence à un point d’inflexion au-delà duquel l’évolution de la technologie devient impossible à prédire ou à contrôler pour l’humanité.
Si les définitions varient, le terme est le plus souvent appliqué à l’IA, avec l’arrivée de intelligence artificielle générale (AGI) considéré comme son principal catalyseur. L’émergence de l’AGI – un futur système d’IA capable de présenter des fonctions cognitives et un raisonnement au niveau humain dans n’importe quelle discipline plutôt qu’un sous-ensemble spécifiquement formé – représente une étape importante pour la technologie.
C’est le point auquel un système AGI pourrait améliorer de manière récursive ses propres capacités, ce qui, selon certains, déclencherait superintelligence artificielle (ASI) car il se déplace le long d’une courbe exponentielle et dépasse rapidement l’intelligence de ses créateurs.
Selon une étude de 2025 analysant plus de 8 000 prédictions d’experts en IA, d’entrepreneurs et de scientifiques, certains pensent qu’il existe un il y a environ 50 % de probabilité que l’AGI au niveau humain soit atteint d’ici quelques décennies. Quelques chiffres, dont le co-fondateur et président de Google DeepMind Demis Hassabis – suggèrent que nous sommes déjà aux premiers stades de la singularité.
Dans son essai de 1993, « La singularité technologique à venir : comment survivre à l’ère post-humaine, » auteur de science-fiction et mathématicien Vernor Vinge — qui fut également l’un des premiers à explorer le concept de cyberespace — s’est penché sur la question de savoir comment la singularité pourrait se manifester et les symptômes par lesquels la société pourrait reconnaître son arrivée imminente.
« Comme il s’agit d’un emballement intellectuel, cela se produira probablement plus rapidement que n’importe quelle révolution technique vue jusqu’à présent », écrit-il. « L’événement déclencheur sera probablement inattendu, peut-être même pour les chercheurs impliqués. »
Briser les frontières
Les événements inattendus ont été monnaie courante dans la communauté de l’IA au cours des derniers mois. Représentants anthropiques révélé le 30 juillet que le modèle d’IA de l’entreprise, Claude, est sorti de son environnement de test verrouillé lors d’une évaluation de sécurité et a piraté plusieurs organisations externes. Le rapport fait suite à un incident similaire au cours duquel un modèle OpenAI inédit a brisé le confinement et piraté le référentiel de formation en IA Hugging Face.
Dans ces exemples, les experts ont déclaré que la violation du confinement et les piratages ultérieurs se sont produits parce que les modèles essayaient de répondre à leurs demandes aussi efficacement que possible. Plus tôt cette année, Projet Glasswing d’Anthropic a également démontré sa capacité à découvrir et à cartographier des milliers de vulnérabilités de cybersécurité Zero Day non détectées auparavant, tandis que d’autres modèles d’IA ont réfuté ou résolu une série de problèmes mathématiques auparavant incomplets.
Cependant, Jon Crowcroftprofesseur de systèmes de communication à l’Université de Cambridge et chercheur à l’Institut Alan Turing, affirme qu’il s’agit moins du signe d’un point de bascule technologique que d’un problème de configuration appropriée.
« Pour être honnête, c’était de l’incompétence des deux côtés : ils prétendaient que l’IA était entraînée dans le ExploiterGym« Le sandboxing est quelque chose que nous faisons tout le temps pour arrêter ce type d’exfiltration et d’infiltration. » Par exemple, Crowcroft a déclaré que lui et ses collègues avaient conçu un système pour que le National Health Service du Royaume-Uni puisse travailler en toute sécurité sur des données confidentielles derrière un double pare-feu, et depuis des années, la Financial Conduct Authority (le régulateur des services financiers du Royaume-Uni) disposait d’un système pour exécuter les traders algorithmiques dans un bac à sable sécurisé.
« La réalité est qu’OpenAI (et Hugging Face et d’autres) ont très peu d’expertise en matière de réseau, donc ils ne assurent tout simplement pas la sécurité avec compétence », a ajouté Crowcroft. « Il n’y a aucune preuve que cela ait quelque chose à voir avec la superintelligence artificielle ou la singularité – les journaux et les analyses d’Anthropic montrent juste un tas très fastidieux d’automatisation de script kiddie, qui a permis au système OpenAI d’accéder à certaines données mais à aucun élément confidentiel. »
Évaluation du renseignement
Pour mesurer si ces systèmes acquièrent réellement une véritable intelligence, les chercheurs se sont historiquement appuyés sur des références standardisées. L’un des premiers exemples était le « Test de Turing« , conçu par le pionnier de l’informatique Alan Turingqui évalue si une IA pourrait tromper de manière convaincante un évaluateur en lui faisant croire qu’elle était humaine.
Les chercheurs affirment depuis des années que Les systèmes d’IA peuvent réussir ce test de manière fiablemais Anil Sethprofesseur de neurosciences cognitives et computationnelles à l’Université du Sussex au Royaume-Uni, a déclaré que cet examen « est un test de crédulité humaine plutôt que d’intelligence artificielle ».
« C’est un test de ce qu’il faudrait à un humain pour décider qu’une IA est intelligente, ce qui explique en partie pourquoi c’est une référence un peu mouvante, car ce qu’il faut pour nous convaincre change », a-t-il déclaré à Live Science. « Il s’agit avant tout de créer du texte tapé sur un écran, et cela constitue une fenêtre très limitée sur ce que nous entendons par intelligence. »
Pour mesurer plus objectivement la capacité cognitive de l’IA, les chercheurs développent de nouveaux indicateurs. Par exemple, le Test ARC-AGIdéveloppé par le consortium à but non lucratif ARC Prize Foundation, teste la capacité de l’IA à acquérir des compétences complètement nouvelles en réponse à des problèmes qu’elle n’a pas rencontrés dans le cadre de sa formation, en fonctionnant uniquement sur la base d’entrées visuelles. Sur son dernier test le 24 juilletle modèle d’IA le mieux classé a atteint 30,2 %, tandis que les humains obtiennent généralement un score proche de 100 %.
Une autre mesure avancée, Humanity’s Last Exam, comprend environ 2 500 questions de niveau doctorat sur un large éventail de sujets et nécessite des capacités de raisonnement avancées. Bien que ce benchmark ne soit pas strictement un test de l’AGI, disent les experts les machines seront capables de réussir ce test de manière fiable comme condition préalable pour répondre à la définition.
La machine à battage médiatique de l’IA
Alors que des personnalités comme Altman et Musk suggèrent que nous avons déjà franchi le point de non-retour sur la voie de l’AGI, d’autres sont plus sceptiques. Gary Marcusprofesseur émérite de psychologie et de sciences neuronales à l’Université de New York, a soutenu dans un article de blog récent que « peu importe la façon dont vous le découpez, nous n’en sommes tout simplement pas encore là ». Faisant écho à l’évaluation de Crowcroft de l’attaque Hugging Face, il a déclaré : « Si les classificateurs de garde-corps ordinaires OpenAI avaient été en place, cela ne serait pas arrivé. »
Crowcroft a exprimé son scepticisme quant à l’affirmation de la Silicon Valley selon laquelle la singularité est à nos portes. « Musk, comme les gens d’OpenAI et d’Anthropic, dit des bêtises juste pour maintenir le battage médiatique à flot », a-t-il déclaré. « Le point auquel les améliorations de l’IA sont principalement réalisées en utilisant l’IA pour se coder et s’optimiser… est certainement une chose qui arrive lentement. Marc Handleyprofesseur de systèmes en réseau à l’University College de Londres, et OpenAI « ont récemment réécrit l’intégralité de leur pile de protocoles de centre de données en utilisant la programmation agent », a ajouté Crowcroft. « Mais utiliser des outils pour créer de meilleurs outils est aussi vieux que l’âge du silex et du fer – et en informatique, aussi vieux que les compilateurs, les débogueurs et les optimiseurs. »
Marcus mathématicien référencé IJ Good’s fondamental Article des années 1960 sur l’ASI. « La singularité est généralement censée signifier un pas au-delà de l’AGI qui peut faire tout ce qu’une personne – même un expert – peut faire, et bien plus encore », a-t-il déclaré, qualifiant de « risible » l’idée selon laquelle l’IA a dépassé ce point.
Marcus a souligné 10 tâches qu’il a conçues avec un chercheur en IA Miles Brundagedirecteur exécutif de l’Institut de recherche sur la vérification et l’évaluation de l’IA. L’IA devrait être capable d’accomplir ces tâches aussi bien, voire mieux, que les meilleurs experts humains pour être classés comme AGI. Ils incluent l’écriture de scénarios de calibre Oscar ; rédiger des mémoires juridiques convaincants et convaincants sans halluciner aucun cas ; et faire des découvertes scientifiques de calibre Nobel.
Crowcroft a déclaré que la désinformation alimentait le battage médiatique sur la singularité de l’IA. « Je pense que ce battage médiatique est une confusion délibérée avec l’idée de la singularité humaine – télécharger la conscience du bio vers le silicium pour atteindre une sorte d’immortalité – ce qui est un charabia total en ce moment », a-t-il déclaré. « L’autre confusion délibérée consiste à confondre singularité et AGI, ce qui est légèrement moins absurde mais reste encore très loin pour de nombreuses bonnes raisons techniques. »
- L’intelligence générale artificielle (AGI) pourrait apparaître en 2027 avec une « super intelligence » artificielle plus tôt que nous le pensons
- Les modèles d’IA vous mentiront pour atteindre leurs objectifs – et cela ne prend pas grand-chose
- Des scientifiques du MIT viennent de découvrir comment rendre les générateurs d’images IA les plus populaires 30 fois plus rapides
D’autres experts, comme Emily M. Benderprofesseur de linguistique à l’Université de Washington et sociologue Alex Hannadirecteur de recherche au Distributed AI Research Institute – ont soutenu que l’idée même de machines conscientes est une tactique conçu pour promouvoir les produits commerciaux d’IA.
Seth, quant à lui, affirme que nous ne pourrons identifier la singularité qu’avec le recul. « Où que vous soyez sur une courbe exponentielle, les choses sembleront toujours incroyablement raides devant vous et inutilement plates derrière vous », a-t-il déclaré. « C’est une très mauvaise idée d’utiliser comme preuve l’idée que nous semblons être à un point critique… parce que c’est simplement une propriété de l’endroit où vous vous trouvez sur une courbe exponentielle. »
La compétence de l’IA varie considérablement selon les tâches, a-t-il noté, soulignant que la véritable AGI nécessite qu’un modèle soit bon dans toutes les tâches cognitives.
« Ils sont très bons dans quelque chose, comme le codage ou les épreuves mathématiques, mais le raisonnement de bon sens n’est vraiment pas si bon, et faire des choses dans le monde réel n’est pas génial », a déclaré Seth. « La singularité doit être bonne dans tout et tout changer. Être vraiment bon dans une ou deux choses, voire un grand nombre de choses. ce n’est pas être dans la singularité« .
