Des scientifiques chinois étudient ce qu’il faudrait pour développer « la dernière IA construite par des humains » – une puissante IA qui s’auto-améliore. intelligence artificielle (IA) capable de créer ses propres successeurs.
Dans un nouvel article, les chercheurs examinent comment les approches d’auto-amélioration récursive (RSI) pourraient aider à faire face aux coûts financiers et informatiques croissants liés au développement de modèles d’IA toujours plus avancés.
RSI fait référence à l’idée selon laquelle les futurs modèles d’IA pourraient diriger leur propre formation et développement, en utilisant ce qu’ils apprennent de chaque cycle d’améliorations pour guider les cycles de développement ultérieurs.
Cette boucle de rétroaction récursive pourrait éventuellement permettre aux systèmes d’IA de développer des générations de modèles plus récentes et plus puissantes avec une intervention humaine minimale.
L’étude, qui a été téléchargée dans la base de données préimprimée arXiv Le 10 septembre, mais n’a pas été évalué par des pairs, propose un cadre pour classer les systèmes d’IA en fonction de leurs capacités d’auto-amélioration, du niveau 1 (le plus bas) au niveau 5 (le plus élevé).
Aux niveaux inférieurs, le développement reste largement dirigé par l’homme. À mesure que les systèmes d’IA gravissent les échelons, ils deviennent de plus en plus capables d’identifier leurs faiblesses et de décider comment y remédier, pour finalement acquérir la capacité de réaliser leurs propres « méta-améliorations » – améliorant ainsi la façon dont ils s’améliorent.
L’IA qui s’améliore d’elle-même est-elle une « absurdité » ?
La question de savoir si l’IA pourra un jour atteindre ce niveau d’auto-amélioration durable reste ouverte. Des expériences antérieures ont cependant démontré des formes plus limitées de RSI.
En un étude plus tôt cette année, un système d’IA appelé A-Evolve-Training a été chargé d’améliorer les performances d’un grand modèle de langage (LLM) de 30 milliards de paramètres.
Au cours de quatre cycles, A-Evolve-Training a légèrement amélioré les performances de référence du LLM en testant différentes techniques de formation et en utilisant les résultats pour modifier la manière dont il a abordé les expériences ultérieures.
Peter Bentleyprofesseur de biologie numérique à l’University College London, s’est demandé si de telles expériences offraient une voie crédible vers le RSI.
« Cette idée selon laquelle certaines IA vont comme par magie commencer à générer d’elles-mêmes des IA de meilleure qualité (est) absurde », a déclaré Bentley à Live Science dans un e-mail.
Bentley a souligné que les systèmes informatiques auto-améliorés existent depuis des décennies. Le calcul évolutif et l’apprentissage par renforcement, par exemple, reposent tous deux sur le principe selon lequel les systèmes affinent leurs performances au fil du temps en réponse au feedback.
Le défi bien plus grand, a-t-il déclaré, consiste à développer des systèmes d’IA capables de mener de manière autonome les recherches nécessaires pour créer des successeurs plus puissants – sans parler de surmonter leur dépendance à l’égard de l’expertise humaine et infrastructure informatique physique.
« Vous ne pouvez pas vous améliorer de manière récursive à moins de pouvoir également améliorer votre propre formation, améliorer votre matériel et le tester de manière exhaustive dans des contextes réels », a ajouté Bentley.
Le défi du véritable RSI
Les auteurs de l’étude ont reconnu certains de ces défis. Le développement de systèmes compatibles RSI pourrait nécessiter d’énormes investissements dans la puissance de calculainsi que la supervision humaine pour garantir que les améliorations successives génèrent des gains significatifs. Tout cela devient effectivement redondant si les ressources nécessaires pour développer et tester les modèles d’IA ultérieurs dépassent les avantages qu’ils offrent, notent les auteurs.
- Nous ne sommes pas sur le point de réveiller un dieu numérique maléfique : l’IA est bien plus susceptible de se terminer par une grande déception
- Le dernier outil d’IA de Google DeepMind promet une nouvelle ère pour la recherche en génétique, mais les experts avertissent de prendre ses prédictions avec prudence
- OpenAI affirme que nous sommes entrés dans l’ère de l’AGI : GPT-6 Astra a-t-il vraiment fait preuve d’intelligence générale ?
Les scientifiques auraient également besoin d’un moyen fiable pour déterminer si un système d’IA devenait réellement plus performant au fil des itérations, plutôt que d’exploiter les faiblesses des tests utilisés pour mesurer ses capacités. C’est un problème connu dans le développement de l’IAoù les modèles peuvent obtenir des scores de référence plus élevés en exploitant des méthodes de test ou des résultats de sélection.
Kayla Blomquistchercheur en IA à l’Université d’Oxford et co-fondateur de l’Oxford China Policy Lab, a déclaré que, même si le document ne fournit pas de feuille de route pratique pour le RSI, il pourrait aider les développeurs et les décideurs politiques à comprendre les défis techniques et les risques de sécurité associés à des systèmes d’IA de plus en plus autonomes.
Elle s’est également demandé s’il y aurait un jour un moment précis à partir duquel l’IA deviendrait complètement indépendante du développement humain. « Le document décrit un transfert progressif de responsabilité plutôt qu’un moment unique, de sorte qu’il n’y aura peut-être jamais de ‘dernier’ modèle évident construit par les humains », a ajouté Blomquist.
Aidez-nous à améliorer Live Science Pro : Nous essayons toujours d’améliorer notre contenu. Laissez-nous vos commentaires sur Pro ici.
