Un data center è un edificio attrezzato per gestire i computer in modo permanente. L’intelligenza artificiale mobilita processori, memoria e reti veloci, sia per imparare che per rispondere agli utenti. Dietro una conversazione telefonica, dobbiamo alimentare queste macchine, spostare i dati ed evacuare il calore. Questo è ciò che accade veramente tra una domanda e la sua risposta.
Quando un utente chiede a un AI di riassumere un documento, il suo telefono può principalmente servire come schermo e punto di accesso. In un servizio host remoto, la richiesta si unisce ai server. Eseguono il modello, quindi restituire il risultato. Questi server si trovano in uno o più data center, generalmente indicati come « datacenter ».
L’edificio conta quanto i computer che ospita. Un potente chip diventa inutilizzabile se manca di potenza, surriscaldi o aspetta informazioni su una rete saturata. La capacità effettiva di un datacenter dipende quindi da tutta la catena. Accumulare acceleratori costosi non è sufficiente per produrre un servizio veloce e affidabile.
Un data center riunisce calcolo, archiviazione e rete
All’interno, i server spesso prendono la forma di custodie impilate in armadi chiamati baie, o rack. Ogni macchina combina processori, interfacce di memoria e di rete. Alcune applicazioni di esecuzione, altre gestiscono i database o conservano i file. Le apparecchiature di memorizzazione conservano documenti, immagini, software e backup.
Interruttori e router circolano informazioni tra queste macchine e verso l’esterno. Le fibre ottiche collegano il centro alle reti di operatori. In un’applicazione di commercio online, diversi server possono intervenire per visualizzare un catalogo, identificare il client e registrare un ordine. Il data center esisteva molto prima degli assistenti di conversazione.
Un centro può appartenere a una società che lo utilizza per le proprie esigenze. In co-location, un fornitore fornisce spazio, potenza, raffreddamento e connettività; il cliente installa la sua attrezzatura lì. Con il cloud, l’utente affitta risorse di computer o un servizio, senza scegliere ogni macchina. La « cloud » si basa quindi su strutture fisiche, gestite e mantenute da qualche parte.
Perché IIA usa GPU
Il processore centrale, o CPU, rimane necessario per guidare programmi e molte operazioni generali. Ma le reti neurali fanno calcoli massicci sulle tabelle dei numeri. Le GPU, originariamente sviluppate per la grafica, possono eseguire un gran numero di operazioni in parallelo. Sono particolarmente adatti a questi trattamenti ripetitivi. Altri acceleratori specializzati, come i TPU di Google, svolgono anche questa funzione.
Questa specializzazione cambia la disposizione delle camere. Nvidia descrive, per esempio, il suo sistema GB200 NVL72 come una baia di 72 GPU Blackwell e 36 CPU Grace. I componenti comunicano attraverso una rapida interconnessione, e l’assemblaggio utilizza raffreddamento liquido. Questo prodotto illustra il livello di integrazione raggiunto da alcune delle attrezzature AI. Non rappresenta tutti i data center, molti dei quali ospitano ancora server tradizionali.
La memoria è un altro vincolo. I parametri del modello, questi numeri regolati durante l’apprendimento, devono essere disponibili per il calcolo. Anche i risultati intermedi devono essere mantenuti. Un modello può superare la capacità di memoria di un singolo acceleratore: il lavoro viene poi distribuito su più chip. Il flusso commerciale diventa così importante come il potere di ciascuno.
Formazione di un modello: macchine da lavoro insieme
La formazione costruisce le capacità dei modelli dai dati. Per un modello di lingua, un compito classico è quello di prevedere la continuazione di un testo. Il sistema produce una stima, misura il suo errore e quindi regola i suoi parametri. Egli ripete questo processo su molti esempi. L’apprendimento comporta quindi calcoli, ma anche lettura e preparazione dei dati.
Per accelerare il lavoro, diverse macchine possono elaborare diverse porzioni di un dataset. Essi devono quindi condividere le informazioni necessarie per aggiornare il modello. Un altro metodo distribuisce direttamente un modello troppo grande tra diversi acceleratori. Questi approcci possono essere combinati. Strumenti di calcolo distribuiti, tra cui PyTorch, organizzare questa cooperazione e sincronizzazione dei risultati.
La rete interna non è quindi utilizzata solo per ricevere domande dal pubblico. Consente alle macchine di costruire il modello insieme. Se spendono troppo tempo aspettando i loro vicini, alcune delle attrezzature rimangono sottoutilizzate. Lo storage deve anche tenere il passo: le GPU senza dati non funzionano più perché sono più recenti.
L’operatore mantiene regolarmente gli stati intermedi di formazione. Questi backup consentono di riprendere dopo un guasto senza ripetere l’intero calcolo. Deve anche controllare la qualità del modello: una maggiore infrastruttura aumenta i mezzi disponibili, ma non garantisce buoni dati o risposte eque.
Inferenza, il lavoro svolto a ogni uso
Una volta addestrato, il modello può essere utilizzato: questa fase è chiamata inferenza. Riconoscere un oggetto su un’immagine, trascrivere una frase o scrivere una risposta sono esempi di inferenza. L’uso ordinario di un modello non cambia automaticamente i suoi parametri. Un possibile futuro sfruttamento degli scambi per una nuova formazione è un processo separato e regole di servizio.
Per un assistente di testo, la richiesta viene convertita in unità chiamate token. Un token può corrispondere a una parola, un frammento di parola o un segno. Il modello elabora il contesto e calcola gradualmente la risposta. Nei modelli di linguaggio auto-regressivo, i token già prodotti vengono utilizzati per determinare i seguenti. Una risposta lunga richiede quindi più passi di una risposta breve, tutte le altre cose sono uguali.
Il software mantiene alcune rappresentazioni intermedie in una cache per evitare di ripetere gli stessi calcoli. Questo guadagno di velocità usa la memoria. Poiché il contesto e il numero di conversazioni simultanee aumentano, questa risorsa conta. Gli operatori accomunano anche le richieste di occupare meglio gli acceleratori, limitando le aspettative di ogni utente.
La formazione è un’operazione focalizzata sulla costruzione di un modello. L’inferenza viene poi ripetuta per ogni uso. Una richiesta individuale mobilita molto meno calcolo di formazione completa, ma milioni di richieste sono un’attività permanente. Un servizio ampiamente usato deve avere capacità per i picchi, non solo per una media giornaliera.
Una risposta non è necessariamente una ricerca su Internet
Un modello può generare testo dai suoi parametri e dal contesto fornito, senza consultare il Web. Quando un assistente cerca informazioni recenti, vengono utilizzati altri componenti: motore di ricerca, database documentari, strumenti di recupero e programmi di verifica. I documenti ottenuti sono trasmessi al modello nel suo contesto. Questo meccanismo non significa che l’intero sistema sia immediatamente riqualificato.
Il percorso di un’applicazione può quindi combinare diversi passaggi: controllare i diritti di accesso, trovare un documento, eseguire il modello e salvare il risultato. Queste operazioni non hanno necessariamente luogo sulla stessa macchina o nello stesso edificio. Un guasto può influenzare uno di questi passaggi senza che tutti i server vengano fermati.
C’è anche un AI locale, eseguito su un computer, telefono o attrezzature industriali. Può funzionare senza inviare ogni dato a un centro remoto, a seconda dell’applicazione. Le dimensioni del modello, la memoria disponibile e il tempo di risposta cercato determinano la scelta. I grandi data center non sono quindi indispensabili per tutti gli usi dell’IA, ma consentono la condivisione di notevole potenza.
L’elettricità diventa una condizione di funzionamento
L’apparecchiatura riceve energia attraverso trasformatori, pannelli elettrici e sistemi di distribuzione. Gli inverter assicurano continuità durante alcuni disturbi. I dispositivi di emergenza prendono il sopravvento secondo l’architettura del sito. Il raffreddamento deve anche rimanere operativo: mantenere i server alimentati senza rimuovere il calore non è sufficiente.
Nella sua relazione del 2026, l’Agenzia internazionale dell’energia stima il consumo globale di energia elettrica dei centri di dati nel 2025 a 485 ore terawatt. Progetta circa 950 ore terawatt nel 2030, circa il 3% della domanda di elettricità globale. La seconda figura è una proiezione, non un consumo già osservato. Il primo riguarda tutti i data center, non solo l’IA.
È anche necessario distinguere il potere e l’energia. Un progetto annunciato a 100 megawatt descrive una capacità o necessità di potenza, il cui perimetro deve essere specificato. Per il calcolo, un carico costante di 100 megawatt per 24 ore consuma 2.400 megawatt ore. Questo non dimostra che un sito pubblicizzato a questa dimensione già funziona, né utilizza tutta la sua capacità in modo permanente.
Chips freddi senza confondere il circuito e il consumo di acqua
La maggior parte dell’elettricità consumata da apparecchiature per computer termina in calore. Le strutture devono trasferirlo all’esterno. In un sistema aereo, i ventilatori circolano l’aria intorno ai server. Il layout separa i flussi freddi e caldi per evitare inutili raffreddamento di una miscela dei due.
Con chip molto densi, un liquido può catturare il calore vicino ai componenti attraverso piastre di raffreddamento. Questo calore poi unisce scambiatori e il sistema di costruzione. « liquido raffreddamento » non significa che l’acqua viene sistematicamente rilasciata dopo ogni passaggio. Il circuito interno può funzionare in un loop chiuso, mentre il dispositivo esterno utilizza l’evaporazione o meno.
Le torri evaporative consumano acqua per dissipare il calore. Altri sistemi si concentrano sui vincoli esterni di aria, clima e attrezzature. Per confrontare due progetti, è quindi necessario esaminare il loro consumo effettivo di acqua, la loro fonte di approvvigionamento e la stagione. L’unico numero di GPU non calcola questo impatto.
Ciò che l’UE misura e ciò che lascia alle spalle
Un indicatore comune, l’EUP, riporta l’energia totale consumata dal centro a quella delle sue apparecchiature IT. Un PUE di 1.2 significa che, per ogni 100 unità energetiche utilizzate da queste apparecchiature, il sito consuma un totale di 120. Le 20 unità aggiuntive includono il raffreddamento e le perdite elettriche. Questo è un esempio di calcolo, non una media universale.
L’EUP misura l’efficacia dell’infrastruttura di sostegno. Non dice se i server svolgono un lavoro utile, se il modello è efficiente o se l’elettricità è a basso carbonio. Un centro efficace può consumare di più in totale se aumenta significativamente la sua attività. Per giudicare un servizio AI, è anche necessario guardare il lavoro prodotto, il materiale utilizzato e la fonte della corrente.
Il costo dipende dall’uso, non solo dall’edificio
Il proprietario finanzia terra, costruzione, connessioni, apparecchiature elettriche e macchinari. All’operazione aggiungere energia, rete, manutenzione e team. Le attrezzature specializzate rappresentano il capitale e devono essere utilizzate sufficientemente per rendere il servizio economicamente fattibile. La velocità di esecuzione non risolve questo problema da solo.
Per il cliente, la fattura può coprire un periodo di noleggio di macchine, un volume di archiviazione o l’uso di un API. In quest’ultimo caso, un fornitore può addebitare gettoni e prodotti trasformati. Questa tariffa commerciale non fornisce direttamente il consumo di elettricità della domanda. Il modello scelto, la lunghezza del contesto, gli strumenti richiesti e i calcoli aggiuntivi variano il lavoro effettivo.
Ciò aumenta la necessità di calcolo, ma richiede principalmente agli operatori di coordinare diverse risorse. Una nuova stanza non entra in servizio semplicemente perché i suoi server sono stati consegnati. La connessione elettrica, la rete, il raffreddamento e le prove operative devono essere pronte allo stesso tempo.
Commenti