È l’alba della “Tokenpocalypse”?

Microsoft ha appena annunciato importanti cambiamenti di prezzo per GitHub Copilot — così incisivi che, secondo un utente su Reddit, in azienda hanno iniziato a chiamarli “Tokenpocalypse”.

Nell’ultima puntata del podcast Equity di TechCrunch, io, Kirsten Korosec e Sean O’Kane abbiamo provato a capire cosa potrebbero significare queste novità per l’intero ecosistema dell’AI. Anche perché, mentre Anthropic e altri big dell’AI si preparano allo sbarco in Borsa — con inevitabili domande scomode sulla redditività — è probabile che vedremo rincari simili anche per altri prodotti e più limitazioni d’uso, nel tentativo delle aziende di tenere a bada i costi.

“Riusciranno questi laboratori di AI a comprimere i costi e far progredire la tecnologia abbastanza da incontrare, a metà strada, la disponibilità di spesa dei clienti?”, si è chiesto Sean.

Kirsten, invece, ha sottolineato quanto tutto si stia muovendo in fretta. Nel giro di pochi mesi le aziende sono passate dall’ossessione per il “tokenmaxxxing” a ripudiarlo per via dei costi. E con le IPO alle porte, ha aggiunto: “Come inserisci questi rischi nei documenti, se si trasformano sotto i nostri occhi?”

Di seguito un’anteprima della conversazione, riadattata per chiarezza e scorrevolezza.

Anthony Ha

Quando preparavamo la puntata, Sean, l’hai chiamata “Tokenpocalypse”. Voglio approfondire cosa intendi, ma c’è un caso concreto: Microsoft, con GitHub Copilot, ha deciso di passare a un modello in cui si paga di più per token, invece di un prezzo fisso.

Questo intero ecosistema è stato a lungo pesantemente sovvenzionato dal capitale degli investitori. Molte cose che sembravano “gratis”, in realtà, costano tantissimo. Ora stiamo entrando in una fase in cui una quota maggiore di quei costi finirà sulle spalle degli utenti finali, dei clienti. Come cambieranno i comportamenti? Difficile dirlo, ma è probabile che ci sarà parecchia frizione.

Sean O’Kane

Quante voci di rischio legate ai token troveremo nell’S-1 di Anthropic? È la domanda centrale. È un tema ricorrente nel podcast, e continuiamo a sbatterci contro lo stesso muro: pensate alla traiettoria di Uber nell’arco di un mese e mezzo. Prima: “Abbiamo bruciato il budget per l’AI molto più in fretta del previsto.” Subito dopo: “Ok, è troppo costoso. Mettiamo dei tetti di spesa e limiti all’uso interno.”

Non è un bel segnale. Se succede così rapidamente a un’azienda come Uber, che fa un uso intensivo di queste tecnologie, la vera incognita diventa: i laboratori di AI possono comprimere i costi e far avanzare la tecnologia a sufficienza da allinearsi con quanto i clienti sono disposti a pagare?

Ripensiamoci: quando è uscito ChatGPT, quei 20 dollari al mese per Plus non sembravano frutto di una grande strategia. Sembrava più un “buttiamo lì una cifra”. Da allora cerchiamo di fare i conti con quella decisione. È chiaro che per i modelli più avanzati la gente è disposta a spendere di più, ma nemmeno questo basta a coprire il costo reale. Ed è questo, alla fine, il grande punto interrogativo.

Kirsten Korosec

Per me, tutto questo dimostra la velocità con cui sta cambiando il settore. Se ci pensate, il “tokenmaxxxing” è esploso, ha toccato il picco ed è finito nel mirino — tutto in circa sei mesi. La scala, i meccanismi di prezzo: sono stati impostati prima che i modelli di business dei laboratori di AI si consolidassero davvero.

Nel frattempo il settore pubblico cerca di mettersi in pari. Questa settimana il presidente Trump ha firmato un ordine esecutivo — una versione circoscritta, ma pensata per permettere al governo di esaminare i modelli di AI più potenti. Sta succedendo tutto a una velocità che non credo di aver mai visto.

Ecco perché sono curiosa di leggere gli S-1 delle prossime IPO: per la sezione sui rischi. Come li descrivi, se cambiano di giorno in giorno, davanti ai nostri occhi?

Anthony

Uber è un caso interessante, Sean. Da un lato per la spesa in AI, dall’altro perché, quando qualcuno parla di bolla, spesso punta il dito sulla scarsa redditività di questi strumenti e società. E altri rispondono con Uber: all’inizio era in perdita, ma col tempo ha raggiunto la scala giusta e ha chiuso il gap.

È vero. Però, per arrivarci, Uber ha dovuto trasformarsi in profondità. Quello che era all’inizio non è quello che è oggi. Ha ampliato le aree di business, ha cambiato processi e modelli, e in vari momenti ha stretto le viti su clienti e driver. Tutto questo è servito per raggiungere la profittabilità.

Credo che molte aziende dell’AI, se vogliono sopravvivere, dovranno intraprendere trasformazioni altrettanto radicali.

Sean

Possono questi laboratori “spremere” i costi come Uber ha fatto con gli autisti nel tempo? C’è davvero abbastanza margine elastico da comprimere? Non ne sono sicuro. Qui parliamo spesso di costi più duri, concreti, meno negoziabili. Sarà interessante vedere come andrà a finire.