Un nome in codice che sa di ghiaccio, una promessa calda: tagliare sprechi e rumore di fondo dell’AI. Se l’energia è il nuovo oro, un chip capace di far “respirare” i modelli con meno watt cambia il paesaggio, non solo i conti.
C’è movimento nei laboratori di Google
L’azienda lavora a Frozen v2, un nuovo chip AI orientato a una missione semplice da dire e dura da centrare: ridurre i consumi del modello Gemini senza sacrificare velocità e qualità. Fin qui, niente schede tecniche pubbliche. Non ci sono numeri ufficiali su processo produttivo, memoria o TDP. Lo scrivo chiaro: diversi dettagli non sono confermati. Ma la direzione è plausibile e coerente con la corsa globale all’efficienza energetica dell’AI.
Perché l’energia è il vero limite
I data center tengono accese le nostre giornate digitali. Consumano circa il 2% dell’elettricità mondiale. La PUE media dei siti di Google è intorno a 1,1: sono impianti efficienti, ma l’AI alza l’asticella. L’addestramento brucia molta energia in poco tempo; l’inferenza pesa ogni giorno, per anni. È qui che un nuovo acceleratore sposta davvero l’ago: se ogni risposta di un assistente costa meno energia, il risparmio si misura su scala di flussi giganteschi.
Ricordo la prima volta in una sala server
L’aria fredda, le ventole come un mare. Pensi al “cloud” e poi vedi acciaio, tubi, kilowatt. Lì capisci quanto vale un chip che scalda meno. Non è solo romanticismo ingegneristico: è bolletta, è CO₂, è acqua per il raffreddamento.
La famiglia di acceleratori di Google
Dalle TPU storiche fino alle piattaforme più recenti – va in questa direzione. Un’erede come Frozen v2 avrebbe senso accanto alle soluzioni annunciate negli ultimi due anni: più potenza per token, meno energia sprecata in memoria e reti, migliore integrazione con lo stack software.
E il punto centrale, eccolo
L’obiettivo di Frozen v2 sarebbe tagliare in modo netto i consumi di Gemini durante l’uso reale. Non sappiamo di quanto. Ma le leve tecniche sono chiare:
precisioni più basse e controllate (8 bit, fino a 4 bit dove possibile);
sfruttamento della sparsità e del routing dei “Mixture-of-Experts”, così il chip calcola solo ciò che serve;
memoria “vicina” al calcolo per ridurre i viaggi di dati;
interconnessioni più sobrie nei watt;
raffreddamento ottimizzato, anche a liquido, nei cluster ad alta densità.
Cosa cambia per noi
Per chi usa Gemini la traduzione può essere prosaica e bella: tempi più rapidi nei picchi, funzioni più ricche senza “blocchi”, costi più bassi nei piani pro. Per le aziende, budget prevedibili e meno compromessi tra qualità e scala. Per l’ambiente, un passo in più verso obiettivi 24/7 a energia senza carbonio. Tutto questo, però, dipende da quanto Frozen v2 porterà a casa in efficienza per token e per query: oggi, questo numero non c’è. Meglio tenere il dubbio acceso che spegnerlo con stime inventate.
Mi piace immaginare il momento in cui il rumore delle ventole cala di un tono
E nessuno se ne accorge, ma la stanza sembra più grande. Se un chip può restituirci quel silenzio, vale la pena aspettarlo. E magari chiederci: cosa costruiremmo, se la nostra intelligenza artificiale imparasse finalmente a parlare pianissimo?