Elon Musk testimonia: xAI ha addestrato Grok sfruttando modelli di OpenAI

Negli ultimi mesi OpenAI e Anthropic hanno alzato i toni contro chi addestra nuovi modelli di intelligenza artificiale “stimolando” sistematicamente i loro chatbot pubblici o le API per estrarne comportamenti e conoscenze. Questa pratica, nota come “distillazione”, consente di ricreare modelli quasi equivalenti partendo dagli output di quelli esistenti.

Finora il dibattito si è concentrato soprattutto su aziende cinesi che userebbero la distillazione per creare modelli open-weight con prestazioni vicine a quelle statunitensi, ma a costi molto più bassi. Allo stesso tempo, tra gli addetti ai lavori è diffusa la convinzione che anche i laboratori americani si “osservino” a vicenda per non restare indietro.

Giovedì, in un’aula federale della California, è arrivata una conferma concreta almeno per un caso. Durante la testimonianza, alla domanda se xAI avesse usato tecniche di distillazione su modelli di OpenAI per addestrare Grok, Elon Musk ha affermato che si tratta di una prassi piuttosto comune nel settore. Incalzato sul punto se ciò significasse “sì”, ha risposto: “In parte”.

Il contesto legale: la causa di Musk contro OpenAI

Musk sta portando avanti una causa contro OpenAI, il CEO Sam Altman e Greg Brockman, sostenendo che abbiano tradito la missione originaria no-profit trasformando l’organizzazione in un’entità a scopo di lucro. Il processo è iniziato questa settimana e comprende la deposizione del fondatore di xAI.

Perché la distillazione preoccupa i “big” dell’AI

L’ammissione di Musk è significativa perché la distillazione erode uno dei principali vantaggi competitivi dei colossi dell’AI: gli ingenti investimenti in infrastruttura di calcolo. Se altri sviluppatori riescono a ottenere modelli quasi equivalenti sfruttando gli output dei sistemi leader, possono competere spendendo molto meno.

Non manca un certo paradosso: i “frontier lab” sono stati spesso accusati di forzare – e talvolta superare – i confini del copyright pur di reperire dati a sufficienza per addestrare i propri modelli; ora temono che altri facciano “short-cut” sui loro risultati.

Che xAI, nata nel 2023, anni dopo OpenAI, abbia cercato di apprendere dal punto di riferimento del momento non stupisce. Non è chiaro che la distillazione violi la legge in modo esplicito; più probabilmente entra in conflitto con i termini di servizio che regolano l’uso dei prodotti.

Le contromisure dei laboratori e il ruolo della Cina

Secondo indiscrezioni, OpenAI, Anthropic e Google hanno avviato tramite il Frontier Model Forum un’iniziativa per condividere informazioni e contrastare i tentativi di distillazione provenienti dalla Cina. Questi sforzi, in genere, prevedono interrogazioni sistematiche dei modelli per dedurne comportamenti interni e pattern di risposta. Per difendersi, i laboratori di frontiera stanno introducendo barriere contro query sospette in massa e attività di scraping comportamentale.

Al momento della pubblicazione, OpenAI non ha risposto a una richiesta di commento sull’ammissione resa da Musk in tribunale.

La classifica di Musk sui leader dell’AI

Nel prosieguo della testimonianza, a Musk è stato ricordato quanto dichiarato la scorsa estate: xAI sarebbe presto stata davanti a chiunque, tranne Google. Interpellato oggi su chi consideri in testa, ha stilato una graduatoria in cui al primo posto mette Anthropic, seguita da OpenAI, poi Google e, a ruota, i modelli open source cinesi. Ha inoltre sottolineato che xAI resta una realtà molto più piccola, con solo qualche centinaio di dipendenti.