Un problème, deux empires et une course effrénée pour OpenAI

Ce qui a suivi a rendu la frontière entre science et compétition commerciale encore plus floue.

Une fois la solution obtenue, OpenAI a approché Buckmaster. L'entreprise a proposé de le laisser publier ses résultats en premier, offrant des ressources de calcul supplémentaires, voire de lui attribuer le rôle d'auteur principal sur un article présentant la solution d'OpenAI. Selon Buckmaster, OpenAI était même prêt à suggérer que lui et ses collaborateurs reçoivent le prix d'un million de dollars. 

Le point de blocage concernait le nom du collaborateur : Levent Alpöge, employé d'Anthropic. 

Buckmaster affirme qu'OpenAI ne souhaitait pas voir le nom d'Alpöge apparaître. Sébastien Bubeck, qui dirige les efforts d'OpenAI en mathématiques, a contesté certains détails du récit de Buckmaster, mais a expliqué franchement au The New York Times que, du point de vue d'OpenAI, il était difficile pour un projet interne d'inclure un employé d'Anthropic en tant qu'auteur. 

Buckmaster a refusé l'offre. Il a confié au The New York Times qu'il ne se souciait ni du million de dollars, ni de savoir qui arriverait premier. Il “voulait simplement faire partie de l'histoire” mathématique. Finalement, il est devenu un personnage d'une histoire bien plus vaste impliquant OpenAI et Anthropic. “Je ne suis qu'un observateur extérieur à ces petites rivalités”, a-t-il déclaré. 

Mais Buckmaster n'est pas tout à fait extérieur. Il utilise les outils fournis par les deux parties pour ses recherches. Et c'est précisément ce qui rend cette affaire plus complexe qu'une simple dispute sur le mérite scientifique.

L'outil peut aussi devenir un concurrent

Dans le cadre de ses recherches, Buckmaster a utilisé Codex d'OpenAI pour traiter et nettoyer les chaînes d'arguments mathématiques complexes générées lors de son travail avec l'IA. Après l'annonce de la solution par OpenAI, il s'est interrogé : les contenus qu'il a soumis au système ont-ils pu contribuer à renforcer les capacités du modèle par la suite ?

Buckmaster précise qu'il n'a aucune preuve que cela se soit produit. OpenAI rejette également la possibilité que ses requêtes au cours des deux mois précédant l'annonce aient pu influencer le système utilisé pour résoudre Navier-Stokes. L'entreprise affirme que ce modèle a été construit sur un modèle pré-entraîné, développé ultérieurement par apprentissage par renforcement à grande échelle ; après enquête, OpenAI a déclaré que les données d'entrée après le 3 juillet ne pouvaient pas affecter le système comme Buckmaster le soupçonnait. 

Dans une autre déclaration rapportée par le Financial Times, OpenAI a affirmé qu'aucune donnée utilisateur spécifique n'avait été consultée pour résoudre le problème, bien que l'entreprise ne puisse exclure totalement la possibilité que des données anonymisées issues de l'utilisation de ses produits aient pu contribuer à l'amélioration du modèle. 

Pendant des décennies, un scientifique pouvait utiliser un ordinateur, un logiciel statistique ou une base de données comme simples outils de soutien. Il est rare qu'un fabricant d'outils devienne simultanément un acteur capable de se lancer directement sur le même problème, en mobilisant des ressources dépassant celles d'un laboratoire universitaire, et de produire des résultats en concurrence directe avec ses propres utilisateurs. 

L'IA cumule trois rôles distincts qui tendent à fusionner. 

Elle est un outil, car le scientifique l'utilise pour développer des hypothèses et traiter le travail. 

Elle est une infrastructure, car le modèle, la puissance de calcul, les données et l'accès dépendent d'un petit nombre d'entreprises. 

Et il devient de plus en plus évident qu'elle peut être un agent de recherche, créant directement des preuves, des programmes ou des découvertes là où l'humain était auparavant le sujet central.

Dans l'affaire Navier-Stokes, ces trois rôles s'entremêlent, soulevant un dilemme : lorsqu'un scientifique soumet des réflexions inédites, des étapes d'essais-erreurs ou des hypothèses rudimentaires à un système d'IA, comment faut-il interpréter la relation entre cet utilisateur et l'entreprise fournissant ce système ? 

Il ne s'agit pas seulement d'une question de propriété intellectuelle au sens juridique, mais du positionnement des infrastructures privées dans la production de savoir. Si la capacité de découverte dépend de plus en plus de systèmes de calcul colossaux, le pouvoir scientifique pourrait basculer vers les organisations qui les contrôlent. 

Buckmaster perçoit ce changement au sein même de son travail. Il confie que son expérience de recherche avec l'IA est à la fois stimulante et inquiétante. Lorsque le modèle commence à progresser plus rapidement que l'humain dans le raisonnement, il se demande si son rôle est encore celui d'un explorateur ou s'il devient simplement quelqu'un qui lit, vérifie et interprète les résultats fournis par la machine. “Où se situe la place de l'humain ?”, s'interroge-t-il. 

Une course effrénée pour OpenAI et Anthropic

La relation entre OpenAI et Anthropic fait que l'affaire Navier-Stokes dépasse largement le cadre d'un simple litige mathématique.

Anthropic est née en 2021 d'un groupe d'employés ayant quitté OpenAI en raison de désaccords sur le développement de systèmes d'IA de plus en plus puissants. Depuis, l'entreprise a bâti son image autour d'une philosophie plus prudente face aux risques de l'intelligence artificielle. Cependant, six ans plus tard, les deux parties sont devenues des rivaux directs sur presque tous les fronts : talents, technologie, produits, réputation et capitaux. Le Financial Times décrit cette compétition comme l'une des plus intenses du secteur de l'IA.

OpenAI et Anthropic reconnaissent tous deux les risques associés à leurs systèmes d'IA. Pourtant, la compétition pour les capacités, les talents, le marché et le statut continue de s'intensifier. Cette année, Anthropic a même ajusté certains engagements de sa politique de développement responsable, invoquant la pression des concurrents et les limites des engagements unilatéraux lorsque d'autres entreprises ne sont pas soumises aux mêmes contraintes.

Un paradoxe difficile à résoudre apparaît : une entreprise peut souhaiter plus de prudence, mais ralentir seule pourrait signifier céder un avantage à son concurrent. L'affaire Navier-Stokes illustre ce mécanisme : à la simple rumeur qu'un concurrent s'approche d'une réalisation majeure, OpenAI mobilise instantanément d'immenses ressources de calcul. 

Trois jours après l'annonce de la solution par OpenAI, Terence Tao et 24 anciens lauréats de la médaille Fields ont publié une déclaration commune intitulée A Severe Misalignment of AI in Mathematics. Ils ne nient pas les capacités mathématiques croissantes de l'IA, mais avertissent que l'utilisation par les entreprises de problèmes célèbres comme mesure de performance peut diverger des objectifs de la communauté mathématique.

Une découverte importante ouvre généralement de nouvelles méthodes, des concepts inédits, qui sont ensuite lus, vérifiés, simplifiés, enseignés et intégrés au savoir commun. Lorsque la capacité à produire ces résultats augmente plus vite que la capacité de la communauté à les absorber, les questions de reconnaissance, de citation, de priorité et d'identification de l'originalité deviennent complexes.

Ainsi, l'avertissement de Tao et de ses collègues est significatif car il survient alors qu'un problème académique a été entraîné dans l'orbite de la compétition entre deux géants de la technologie.

Navier-Stokes est peut-être un cas d'étude particulièrement parlant pour observer cette mutation. Les mathématiques possèdent des critères de vérification relativement clairs, une longue tradition de reconnaissance du mérite et une communauté habituée à construire le savoir pas à pas. Pourtant, au sein même de cet environnement, les frontières entre outils, collaborateurs, infrastructure et rivaux ont commencé à s'estomper. 

Si cela arrive dans les mathématiques, des questions similaires se poseront avec plus d'acuité dans la biomédecine, la pharmacie, les nouveaux matériaux ou la conception de puces, où le savoir scientifique est directement lié à la valeur commerciale et aux avantages stratégiques. 

L'affaire Navier-Stokes ne dit pas encore qui d'OpenAI ou d'Anthropic gagnera la course à l'IA. Elle met en lumière un problème plus durable : lorsque les jalons scientifiques deviennent des mesures de puissance technologique, la compétition entre entreprises peut commencer à influencer la manière dont le savoir est produit, reconnu et distribué. 

Les mathématiques ne sont ici que le terrain où cette transition apparaît de manière précoce et évidente. 

À LIRE ÉGALEMENT

Quand le “laboratoire ouvert” ouvre la voie à un écosystème technologique stratégique

Quand le robot entre en salle d'opération : L'ambition d'innovation de Cornerstone Robotics

Futures in Education : Transformer le savoir en développement