Les chercheurs de Meta prétendent avoir observé la société intelligence artificielle (AI) Systèmes s’améliorant sans entrée humaine.
« Au cours des derniers mois, nous avons commencé à voir des aperçus de nos systèmes d’IA s’améliorer », a déclaré le méta-PDG Mark Zuckerberg dans un document de politique publié le 30 juillet sur le site Web de la société. « L’amélioration est lente pour l’instant, mais indéniable. »
Zuckerberg a ajouté que l’IA auto-améliorée est la première étape vers la réalisation Superintelligence artificielle (ASI) – Une intelligence artificielle capable de dépasser les capacités cognitives des humains.
D’une manière générale, les chercheurs de l’IA considèrent les capacités de l’IA dans trois strates. Alors que les modèles d’IA actuels peuvent obtenir des exploits surhumains extraordinaires, comme prédire les structures protéiquesces capacités sont extrêmement étroites. Dans de tels cas, le système ne peut dépasser les humains que dans un domaine spécifique, mais manque d’intelligence générale pour cette capacité à appliquer dans différentes disciplines.
Le niveau suivant est appelé intelligence générale artificielle (AGI), et fait référence à des modèles qui peuvent comprendre, apprendre et s’adapter de la même manière que le cerveau humain.
L’ASI est l’état final que Zuckerberg a référencé dans le billet de blog et concerne les modèles qui ont évolué pour dépasser de loin le potentiel humain – et pourraient s’améliorer à un rythme exponentiel, conduisant à une « explosion d’intelligence ».
Les scientifiques se réfèrent au moment hypothétique que nous réalisons AGI comme le singularité technologique.
La référence de Zuckerberg à la vue de l’auto-amélioration de l’IA n’est pas la première fois que ce phénomène est repéré. En octobre 2024, des chercheurs de l’Université de Californie à Santa Barbara ont publié un article sur la préparation arxiv base de données centrée sur la notion d’auto-amélioration.
Dans ce document, ils ont défini, créé et testé un cadre d’IA basé sur l’idée d’une machine Gödel – un dispositif théorique capable de s’améliorer en réécrivant son propre code et ses instructions. Surtout, la machine ne mettrait en œuvre un changement que si elle pouvait produire une preuve formelle que la modification serait bénéfique.
L’équipe a expérimenté un cadre d’IA basé sur ce concept et a prouvé que leur agent Gödel pourrait améliorer ses propres performances dans diverses tâches, notamment le codage, la science, les mathématiques et le raisonnement.
Presque tous les modèles ne sont généralement pas autorisés à réécrire leur propre code. L’agent Gödel pouvait non seulement accéder à l’intégralité de sa base de code, mais aussi le code utilisé pour développer des améliorations, tout en montrant que ces améliorations étaient bénéfiques.
L’IA a constamment montré de meilleures performances dans des domaines clés que les agents conçus par l’homme auquel il a été comparé, selon l’étude.Zuckerberg a déclaré que l’ASI pourrait représenter une étape transformatrice dans le progrès technologique de l’humanité, et que cela pourrait conduire à la « découverte de nouvelles choses qui ne sont pas imaginables aujourd’hui ».
Cela dit, il a ajouté que Meta serait beaucoup plus prudent sur les modèles que l’entreprise choisit de libérer au public dans un cadre open source – ce qui signifie que n’importe qui pourrait y avoir accès.
« Je suis extrêmement optimiste que la superintelligence aidera l’humanité à accélérer notre rythme de progrès. Mais peut-être encore plus important est que la superintelligence a le potentiel de commencer une nouvelle ère d’autonomisation personnelle où les gens auront une plus grande agence pour améliorer le monde dans les directions qu’ils choisissent », a écrit Zuckerberg.
« Aussi profond que l’abondance produite par l’IA puisse être un jour, un impact encore plus significatif sur nos vies proviendra probablement de tous ceux qui ont une superintelligence personnelle qui vous aide à atteindre vos objectifs, à créer ce que vous voulez voir dans le monde, à vivre une aventure, à être un meilleur ami pour ceux qui vous soucient et à grandir pour devenir la personne que vous êtes aspire. »
