Un problema, due imperi e una gara che nessuno vuole fermare

Ciò che è accaduto in seguito rende il confine tra scienza e competizione aziendale sempre più labile.

Una volta ottenuta la soluzione, OpenAI ha contattato Buckmaster. L’azienda ha proposto di pubblicare i suoi risultati per primi, offrendo ulteriori risorse di calcolo e persino inserendo il suo nome come autore principale in un articolo presentato da OpenAI. Secondo Buckmaster, OpenAI si sarebbe detta pronta a proporre che lui e il suo collaboratore ricevessero il premio da 1 milione di dollari.

Il nodo gordiano risiede nel nome del collaboratore: Levent Alpöge, dipendente di Anthropic.

Buckmaster afferma che OpenAI non voleva che il nome di Alpöge apparisse nell’articolo. Sébastien Bubeck, a capo degli sforzi matematici di OpenAI, contesta alcuni dettagli del racconto di Buckmaster, ma ha spiegato chiaramente al The New York Times: dal punto di vista di OpenAI, era difficile che un progetto interno vedesse la partecipazione di un dipendente Anthropic in qualità di autore.

Buckmaster ha rifiutato l’offerta. Ha dichiarato al The New York Times di non essere interessato al milione di dollari, né a chi arrivasse primo al traguardo. Voleva “soltanto essere parte della storia” della matematica. Alla fine, è diventato invece un personaggio in una storia più grande che riguarda OpenAI e Anthropic. “Sono solo un osservatore esterno a questi giochi di competizione meschini”, ha affermato.

Tuttavia, Buckmaster non è rimasto del tutto estraneo. Sta utilizzando proprio gli strumenti forniti dalle due parti per condurre le sue ricerche. E questo è il punto che rende la vicenda ben più complessa di una semplice disputa sul merito scientifico.

Anche gli strumenti possono diventare rivali

Durante la ricerca, Buckmaster ha utilizzato Codex di OpenAI per supportare l’elaborazione e la pulizia dei complessi ragionamenti matematici generati durante il lavoro con l’IA. Dopo che OpenAI ha pubblicato la soluzione, egli ha posto un interrogativo: i contenuti che ha inserito nel sistema potrebbero aver contribuito alla capacità del modello in una fase successiva?

Buckmaster ha chiarito di non avere prove che ciò sia accaduto. Anche OpenAI ha escluso la possibilità che i suoi prompt nei due mesi precedenti alla pubblicazione potessero influenzare il sistema utilizzato per risolvere Navier–Stokes. L’azienda ha affermato che tale modello è stato costruito su un modello pre-addestrato in precedenza e ulteriormente sviluppato attraverso un apprendimento per rinforzo su larga scala; dopo un’indagine, OpenAI ha dichiarato che i dati di input successivi al 3 luglio non potevano incidere sul sistema nel modo ipotizzato da Buckmaster.

In un’altra dichiarazione riportata dal Financial Times, OpenAI ha affermato che non sono stati utilizzati dati specifici di alcun utente per risolvere il problema, ma l’azienda non può escludere del tutto che dati de-identificati, derivanti dall’utilizzo dei propri prodotti, abbiano contribuito al miglioramento del modello.

Per decenni, uno scienziato ha potuto utilizzare computer, software statistici o database come semplici strumenti di supporto. Raramente il produttore dello strumento è stato contemporaneamente un attore capace di affrontare direttamente lo stesso problema, mobilitando risorse che superano quelle di un laboratorio universitario e generando risultati in competizione con la stessa persona che utilizza il suo prodotto.

L’intelligenza artificiale svolge tre ruoli che iniziano a sovrapporsi.

È uno strumento, poiché lo scienziato la utilizza per sviluppare ipotesi e gestire il lavoro.

È un’infrastruttura, poiché modello, capacità di calcolo, dati e condizioni di accesso appartengono a poche aziende.

E, sempre più chiaramente, può diventare un agente di ricerca, capace di generare autonomamente dimostrazioni, programmi o scoperte per le quali in precedenza l’uomo era l’unico fulcro.

Nel caso di Navier–Stokes, questi tre ruoli si sovrappongono. Ciò pone un dilemma: quando uno scienziato invia riflessioni non ancora pubblicate, tentativi falliti o ipotesi rudimentali a un sistema IA, come dovrebbe essere inteso il rapporto tra lui e l’azienda fornitrice del sistema?

Questa non è necessariamente una questione di proprietà in senso legale. Riguarda il ruolo delle infrastrutture private nella formazione della conoscenza. Se la capacità di scoperta dipende sempre più da sistemi di calcolo colossali, anche il potere scientifico potrebbe spostarsi verso le organizzazioni che li controllano.

Buckmaster vede questo cambiamento direttamente nel suo lavoro. Racconta che l’esperienza di ricerca con l’IA è stata allo stesso tempo entusiasmante e inquietante. Quando il modello ha iniziato a procedere più velocemente dell’uomo nei passaggi logici, si è chiesto se il suo ruolo sia ancora quello di ricercatore o se stia diventando semplicemente un lettore, un supervisore e un interprete dell’output della macchina. “Dov’è finito il contributo umano?”, si chiede.

Una gara che nessuno vuole fermare

Il rapporto tra OpenAI e Anthropic rende la vicenda di Navier–Stokes molto più di una semplice disputa matematica.

Anthropic è nata nel 2021 da un gruppo di persone che ha lasciato OpenAI a causa di disaccordi sullo sviluppo di sistemi IA sempre più potenti. Da allora, l’azienda ha costruito la propria immagine attorno a una filosofia più cauta rispetto ai rischi dell’intelligenza artificiale. Tuttavia, anni dopo, le due parti sono diventate rivali dirette su quasi tutti i fronti: talenti, tecnologia, prodotti, reputazione e mercato dei capitali. Il Financial Times descrive questa competizione come una delle più feroci oggi presenti nel settore dell’IA.

Sia OpenAI che Anthropic hanno più volte riconosciuto i rischi associati ai sistemi di intelligenza artificiale sempre più potenti. Nonostante ciò, la competizione sulla capacità dei modelli, sull’acquisizione di talenti, sul mercato e sul posizionamento continua a intensificarsi. Quest’anno, Anthropic ha persino modificato alcuni impegni nelle proprie politiche di sviluppo responsabile, citando la pressione dei rivali e i limiti degli impegni unilaterali quando altre aziende non sono soggette a vincoli analoghi.

Emerge un paradosso difficile da risolvere: un’azienda potrebbe voler essere più prudente, ma rallentare da sola potrebbe significare cedere vantaggi al rivale. Il caso di Navier–Stokes mostra questo meccanismo: non appena OpenAI ha saputo che un rivale poteva essere vicino a un grande traguardo, ha immediatamente mobilitato un’enorme risorsa di calcolo.

Tre giorni dopo che OpenAI ha annunciato la soluzione, Terence Tao insieme a 24 vincitori della Medaglia Fields hanno rilasciato una dichiarazione congiunta intitolata A Severe Misalignment of AI in Mathematics. Non negano le crescenti capacità matematiche dell’IA. Ciò su cui mettono in guardia è che l’utilizzo di problemi celebri da parte delle aziende come metro di misura delle capacità può spingere gli obiettivi aziendali e quelli della comunità matematica in direzioni divergenti.

Una soluzione importante apre solitamente nuovi metodi, concetti e visioni; viene quindi letta, testata, semplificata, insegnata e integrata nel patrimonio di conoscenze comuni. Quando la capacità di generare soluzioni aumenta più velocemente della capacità della comunità di assimilarle, le domande su riconoscimenti, citazioni, priorità e capacità di identificare la reale novità di un risultato diventano più complesse.

Per questo motivo, l’avvertimento di Tao e dei suoi colleghi è degno di nota: giunge proprio nel momento in cui un problema accademico è stato trascinato nell’orbita della competizione tra due grandi aziende tecnologiche.

Navier–Stokes è forse un caso particolarmente utile per osservare questo spostamento. La matematica ha standard di verifica relativamente chiari, una tradizione secolare di riconoscimento del merito e una comunità di ricerca abituata a costruire il sapere passo dopo passo. Tuttavia, proprio in quell’ambiente, il confine tra strumento, collaboratore, infrastruttura e rivale ha iniziato a sbiadirsi.

Se ciò è accaduto nella matematica, questioni analoghe diventeranno ancora più complesse nella biomedicina, nella farmaceutica, nella scienza dei materiali o nella progettazione di chip, dove il sapere scientifico si lega direttamente al patrimonio commerciale e al vantaggio strategico.

Il caso Navier–Stokes non rivela se vincerà OpenAI o Anthropic nella corsa all’IA. Esso evidenzia una sfida a lungo termine: quando i traguardi scientifici diventano il metro di misura della capacità tecnologica, la competizione tra le aziende può iniziare a incidere in modo inverso sul modo in cui la conoscenza viene creata, riconosciuta e distribuita.

La matematica è solo casualmente il luogo in cui questo cambiamento appare precocemente e chiaramente.

LEGGETE SUBITO

Quando il “laboratorio aperto” guida l’ecosistema tecnologico strategico

Quando il robot entra in sala operatoria: l’ambizione di innovare dalla startup Cornerstone Robotics

Futures in Education: trasformare il sapere in sviluppo