Tristan Buckmastermathématicien à l’Université de New York, venait de passer des mois à travailler sur ce qu’il croyait pouvoir être une preuve mathématique déterminante pour la vie. Puis, lors d’une réunion le 6 septembre avec des employés d’OpenAI, il a affirmé avoir reçu un avertissement sévère : « Pourquoi voudriez-vous ruiner votre carrière ?
Cet échange, que Buckmaster a décrit dans une déclaration publique détaillée déclaration cette semaine, se trouve au cœur d’une controverse croissante autour d’un célèbre ensemble d’équations mathématiques appelé Navier-Stokes.
OpenAI dit que c’est intelligence artificielle (IA) a résolu un problème exceptionnel lié à cet ensemble d’équations de dynamique des fluides vieux de 200 ans. L’ensemble des équations apparaît sur la liste de l’une des sept Problèmes liés au prix du millénaire posé par le Clay Mathematics Institute, et sa solution est accompagnée d’une récompense d’un million de dollars. Buckmaster travaillait sur le même problème. Et il se demande comment l’entreprise y est parvenue si rapidement.
La percée d’OpenAI
Le Équations de Navier-Stokes ont été formulées au début des années 1800 par Claude-Louis Navier et George Gabriel Stokes. Il s’agit essentiellement de la deuxième loi de Newton sur le mouvement des fluides, décrivant comment tout fluide se déplace : poussez l’air avec une pale de ventilateur, et les équations prédisent comment cet air circulera ; ou réchauffent l’atmosphère avec la lumière du soleil, et ils aident à prévoir la météo de demain. Ils décrivent comment les avions volent et comment le sang circule dans vos artères.
Le problème est que personne n’a prouvé si les équations produisaient toujours des réponses finies. Pourrait-il y avoir des conditions rares qui font dérailler les équations ? C’est ce qu’on appelle une « explosion », ou singularité, qui se produit lorsqu’une quantité qui devrait représenter quelque chose de physique (comme la vitesse ou la pression d’un fluide) se dirige vers des infinis impossibles à certains points de l’espace et du temps.
Imaginez le tourbillon d’eau entourant le drain d’une baignoire. Les équations de Navier-Stokes décrivent comment il tourne plus vite à mesure qu’il se resserre vers le centre. Une explosion signifierait que les mathématiques prédisent que la rotation s’accélère pour toujours – une vitesse infinie en un seul point. La baignoire ne peut pas faire cela, mais si les équations le peuvent, cela signifie que le modèle auquel nous avons fait confiance pendant des années est erroné et que nous ne saurions même pas où il se brise.
La question de savoir si les équations de Navier-Stokes peuvent exploser est l’une des questions non résolues les plus connues.
Pour trouver la réponse, OpenAI a utilisé une technique appelée « forçage » – donnant au fluide simulé un coup de pouce doux et contrôlé depuis l’extérieur. Imaginez que vous effleuriez une toupie avec votre doigt pour voir si elle tomberait ou, dans le cas des équations de Navier-Stokes, si elle exploserait.
OpenAI a demandé à environ 10 000 agents IA de travailler simultanément sur le problème. Les agents ont travaillé environ 88 heures d’affilée, dont 100 commençant par le équations d’Euler. Il s’agit d’un cousin plus simple de Navier-Stokes qui élimine la viscosité pour décrire le mouvement d’un fluide sans friction interne.
Après environ 50 heures, les agents d’OpenAI ont trouvé des explosions dans les équations d’Euler, selon les représentants d’OpenAI a écrit dans une déclaration. Cette découverte les a convaincus que Navier-Stokes était à leur portée et ils ont tourné leur attention vers le problème le plus vaste.
OpenAI a décrit la singularité comme un vortex en spirale de plus en plus serré, s’étirant et s’amincissant comme de la tire tirée. Le résultat était un fluide qui, mathématiquement, tourne vers l’infini.
OpenAI a exécuté la preuve via un programme appelé Leanun logiciel qui vérifie chaque étape d’un argument mathématique. Les agents « ont envoyé 2,7 millions de messages et utilisé environ 130 milliards de jetons de sortie », ont écrit les représentants d’OpenAI dans le communiqué. Lors d’une conférence de presse le 8 septembre, des représentants de l’entreprise ont déclaré qu’un effort similaire effectué par un client aurait coûté 15 millions de dollars.
La polémique
Le résultat a créé sa propre explosion au sein mathématiquescentré sur l’affirmation selon laquelle les modèles d’OpenAI auraient pu prendre une longueur d’avance en utilisant les travaux de Tristan Buckmaster et Levent Alpögemathématicien de la société rivale d’IA Anthropic.
Les deux mathématiciens travaillaient sur la même stratégie (forçage doux) appliquée à ces mêmes équations d’Euler. L’approche elle-même a été développée par Diego Cordouemathématicien à l’Institut des Sciences Mathématiques de Madrid, et Luis Martínez-Zoroaun autre mathématicien de l’Université CUNEF de Madrid. Presque personne d’autre sur le terrain ne l’utilisait.
Buckmaster a déclaré que le 15 août, lui et Alpöge avaient obtenu des résultats d’explosion pour les équations d’Euler avec un forçage doux. Le 3 septembre, Buckmaster a écrit qu’il avait reçu un message via Alpöge selon lequel OpenAI avait eu vent de leurs progrès et avait adopté la même méthode.
« Quand j’ai entendu ‘forcé' », a écrit Buckmaster dans sa déclaration publique, « c’était un drapeau rouge vif ».
Son inquiétude était que l’approche de forçage en douceur n’était ni évidente ni répandue. « Les idées qui rendent cette ligne d’attaque possible sont dues à Córdoba et Martínez-Zoroa », a écrit Buckmaster, créditant les deux mathématiciens qui ont développé la technique. « Presque personne d’autre à ma connaissance n’y travaillait. »
Et pourtant, selon OpenAI, la société a lancé son effort Navier-Stokes le 1er septembre – le jour même où elle a entendu « des rumeurs sur d’autres résolutions du Prix du Millénaire ». Buckmaster a affirmé, dans sa déclaration publique, que ces rumeurs concernaient spécifiquement son travail et celui d’Alpöge.
Sam AltmanPDG d’OpenAI, a reconnu que l’entreprise avait pris connaissance du travail de Buckmaster et Alpöge avant de faire son annonce. « Nous étions curieux de savoir si le nôtre pouvait le faire aussi », a-t-il déclaré. écrit le X. Il a ajouté que « les approches semblent être différentes » – une affirmation que Buckmaster conteste.
La déclaration d’OpenAI nomme Buckmaster et Alpöge, crédite leur résolution indépendante du problème forcé d’Euler et indique que la société a proposé de co-publier.
« Je n’ai pas eu de réponse »
Buckmaster a également révélé qu’il avait utilisé l’assistant de codage Codex d’OpenAI tout au long de ses recherches, insérant des ébauches du travail dans l’outil. OpenAI forme ses modèles sur les interactions des utilisateurs, et Buckmaster a déclaré avoir demandé directement à l’entreprise si ses sessions Codex avaient été consultées.
« J’ai demandé si le modèle avait été formé ou avait accès à nos sessions dans le Codex, dans lesquelles nous avions mis tous nos brouillons », a-t-il écrit. « J’ai encore posé des questions sur la formation et je n’ai pas obtenu de réponse. »
Les accords d’entreprise d’OpenAI régissent la manière dont les données clients peuvent être utilisées. Mais il n’est pas clair si Buckmaster utilisait le Codex dans le cadre d’un accord d’entreprise ou en tant que consommateur individuel – une distinction qui pourrait déterminer si ses versions préliminaires étaient disponibles pour la formation.
Dans une déclaration sur Xles représentants d’OpenAI ont nié que les employés ou agents de l’entreprise aient vu le travail des deux hommes « par quelque moyen que ce soit » jusqu’à ce qu’il soit rendu public. Cependant, « nous ne pouvons pas exclure que les données anonymisées dérivées de leur utilisation de nos produits aient contribué à améliorer nos modèles », ont-ils ajouté.
Se pose ensuite la question de la paternité. Buckmaster allègue que Sébastien Bubeckqui dirige la recherche mathématique d’OpenAI, a fait pression à deux reprises pour qu’Alpöge soit supprimé de l’article que préparaient les deux mathématiciens. Buckmaster a souligné qu’Alpöge travaille chez Anthropic, une société rivale d’IA.
Nous étions curieux de savoir si le nôtre pouvait le faire aussi.
Sam Altman, PDG d’OpenAI, sur X.
C’est lors de cette même réunion du 6 septembre que Buckmaster a affirmé qu’OpenAI lui présentait deux options, qui nécessitaient toutes deux de retirer Alpöge de la paternité. Il a refusé et a déclaré avoir dit à Bubeck que si OpenAI publiait ses résultats comme proposé, il le rendrait public. Bubeck aurait répondu : « Si vous ne voulez pas que je sois gentil, alors je n’ai pas besoin d’être gentil. »
Bubeck a catégoriquement nié ces allégations, les qualifiant de « fausses et incendiaires » dans une déclaration sur X. « Nous n’avons pas utilisé leurs invites ou leurs preuves pour orienter nos modèles », a déclaré Bubeck. Filaire. Mark Chen, directeur de la recherche chez OpenAI, a déclaré lors de la conférence de presse d’hier soir qu’il était « un peu déçu par les allégations ».
« Je n’ai pas vu la preuve d’OpenAI », a écrit Buckmaster. « Je ne sais pas ce que leur modèle a fait, ni comment. Je ne sais pas si nos données ont été utilisées. Je n’accuse personne de quoi que ce soit. » Il a demandé une enquête indépendante sur la manière dont les travaux d’OpenAI ont commencé.
Dans sa conclusion, il a écrit : « Je préférerais de loin parler de mathématiques, des idées de Luis et Diego et de ce que tout cela signifie pour nous tous. »
La réponse de la communauté
Córdoba, l’un des premiers développeurs de la technique de forçage, s’est dit stupéfait par la rapidité avec laquelle le résultat s’est matérialisé. « Nous sommes un peu sous le choc », a-t-il déclaré. Américain scientifique.
D’autres mathématiciens ont également réagi à la nouvelle, certains exprimant ouvertement leur consternation quant à la manière dont les résultats ont été publiés.
- Le modèle d’IA « le plus intelligent » d’OpenAI a été explicitement invité à s’arrêter – et il a refusé
- Un nouveau type d’IA utilise une nouvelle approche du raisonnement : les chercheurs affirment que son exécution coûte jusqu’à 11 fois moins cher qu’un modèle OpenAI de pointe.
- Non, les modèles d’OpenAI ne sont pas devenus « voyous » lorsqu’ils ont fait irruption dans Hugging Face. Voici ce qui s’est réellement passé.
« Nous avons maintenant constaté que même la rumeur selon laquelle quelqu’un travaillerait sur un problème majeur peut déclencher un effort massif d’IA pour le résoudre avant que le projet de recherche initial n’ait le temps d’atteindre son plein potentiel. » Terence Taoprofesseur de mathématiques à l’UCLA, a écrit sur Mastodon. « Les incitations pourraient désormais aller dans le sens de ne plus partager d’orientations de recherche prometteuses avec la communauté au sens large, ce qui renverserait des siècles de traditions de science ouverte et causerait de graves dommages à long terme à l’avenir de ce domaine. »
La preuve d’OpenAI attend toujours un examen formel par les pairs, et le Clay Mathematics Institute n’a pas encore publié de verdict officiel confirmant ou infirmant la preuve d’OpenAI. Mais cet épisode a déjà fait ressortir des questions troublantes pour la communauté mathématique. Par exemple, lorsqu’une entreprise entraîne ses modèles sur les interactions de millions d’utilisateurs, à qui appartiennent réellement les réponses qui en émergent ? Et que signifie l’implication de l’IA pour le l’avenir du domaine?
Ces questions, contrairement au problème de Navier-Stokes, n’ont peut-être pas de preuve claire.
Aidez-nous à améliorer Live Science Pro : Nous essayons toujours d’améliorer notre contenu. Laissez-nous vos commentaires sur Pro ici.
