IBM e la startup Together AI hanno firmato un accordo pluriennale da 240 milioni di dollari per costruire un grande cluster di inferenza alimentato da chip Nvidia su IBM Cloud. L'intesa, resa nota il 12 agosto, prevede un dispiegamento negli Stati Uniti che partira' con circa 2.000 acceleratori Nvidia di generazione Blackwell, in sistemi HGX B300 collegati dalla rete Spectrum-X.
L'accordo e' significativo per un motivo preciso: non riguarda l'addestramento dei modelli, la fase piu' visibile e discussa dell'IA, ma l'inferenza — cioe' l'esecuzione dei modelli gia' addestrati per rispondere alle richieste degli utenti. E' la parte del lavoro che cresce di piu' man mano che le applicazioni di IA passano dai laboratori alla produzione quotidiana.
Cosa prevede l'accordo, in numeri
La configurazione iniziale — circa 2.000 GPU Blackwell in sistemi HGX B300 — colloca il progetto tra i cluster di inferenza di fascia alta. La scelta della rete Spectrum-X di Nvidia, pensata per collegare a bassa latenza migliaia di acceleratori, indica che l'obiettivo e' servire carichi di lavoro intensivi e su larga scala, non un semplice ambiente di test.
Per Together AI, che offre una piattaforma per eseguire e mettere a punto modelli open source, l'intesa significa capacita' di calcolo dedicata e prevedibile per i propri clienti. Per IBM, e' un modo per riempire IBM Cloud con carichi di lavoro di IA ad alto valore e posizionarsi come fornitore di infrastruttura per chi non vuole dipendere direttamente dai grandi iperscalari.
Perche' l'inferenza e' diventata il nuovo campo di battaglia
Per anni la corsa all'IA si e' misurata sulla potenza di addestramento: chi aveva piu' GPU addestrava i modelli piu' grandi. Ora il baricentro si sposta. Ogni volta che un utente fa una domanda a un assistente, genera un'immagine o avvia un agente software, quel calcolo e' inferenza, e si ripete miliardi di volte al giorno. Di conseguenza il mercato degli acceleratori per l'inferenza sta accelerando: secondo dati di settore, questa sottocategoria ha raccolto circa 2 miliardi di dollari di investimenti da inizio 2026, superando gia' l'intero totale del 2025.
L'accordo IBM-Together AI si inserisce in questa dinamica. Non e' l'unico segnale: la settimana e' stata segnata da una serie di annunci lungo tutta la filiera dell'IA, dai chip all'energia ai finanziamenti, con centinaia di miliardi di dollari mobilitati per costruire l'infrastruttura necessaria a far girare i modelli su scala globale.
Cosa cambia per le imprese
Per un'azienda che vuole usare modelli open source in produzione — per un assistente interno, un motore di ricerca sui propri documenti o un agente che automatizza processi — la disponibilita' di capacita' di inferenza dedicata e a costi negoziati e' cio' che rende sostenibile il passaggio dalla sperimentazione all'uso reale. La differenza tra un progetto pilota e un servizio in produzione spesso non sta nel modello, ma nella capacita' di eseguirlo in modo affidabile e prevedibile.
Rispetto ai grandi fornitori cloud, la mossa di IBM punta su una nicchia precisa: aziende regolamentate e settori sensibili — finanza, sanita', pubblica amministrazione — che cercano infrastruttura di IA con garanzie di controllo sui dati. E' lo stesso spazio in cui si muovono diversi operatori europei e italiani, dove la sovranita' del dato e' spesso un requisito prima ancora che una preferenza.
Il ruolo dei modelli open source
Non e' un dettaglio che al centro dell'accordo ci sia Together AI, una piattaforma nata attorno ai modelli open source. Negli ultimi mesi i modelli aperti — da quelli di Meta a quelli dei laboratori cinesi come DeepSeek, Alibaba Qwen e Zhipu — hanno colmato gran parte del divario con i modelli proprietari, offrendo prestazioni elevate a costi molto piu' bassi. Questo rende l'inferenza su modelli aperti un business attraente: le aziende possono scaricare i pesi, adattarli ai propri dati ed eseguirli su infrastruttura dedicata, senza pagare per ogni singola chiamata a un fornitore chiuso.
Un cluster come quello annunciato serve esattamente a questo: mettere a disposizione la potenza di calcolo per eseguire su larga scala modelli che l'azienda controlla. E' un modello alternativo a quello, dominante finora, in cui tutto passa dalle API di pochi grandi laboratori.
Il contesto italiano ed europeo
La stessa logica sta guidando gli investimenti in Europa e in Italia, dove la questione della sovranita' del dato pesa parecchio. Progetti come i supercomputer dedicati all'IA e le iniziative delle aziende nazionali puntano proprio a offrire capacita' di calcolo sul territorio, per non dipendere interamente da infrastrutture straniere. L'accordo IBM-Together AI, pur riguardando gli Stati Uniti, e' un tassello della stessa partita globale: costruire abbastanza capacita' di inferenza da reggere la domanda che le applicazioni di IA stanno generando.
Non sono stati resi noti tempi precisi per la messa in funzione del cluster, ne' i clienti che ne useranno per primi la capacita'. Ma la direzione e' chiara: dopo la fase in cui contava soprattutto addestrare, il valore si concentra sempre di piu' su chi riesce a far funzionare l'IA, giorno dopo giorno, senza interruzioni e a un costo sostenibile.
