Meta sta investendo massicciamente nella prossima generazione di modelli di intelligenza artificiale, Llama 4, che sarà addestrato su un cluster di oltre 100.000 GPU NVIDIA H100.
Durante una recente call con analisti ed investitori, il CEO di Meta, Mark Zuckerberg, ha annunciato che il cluster è il più grande mai realizzato finora (in realtà anche Musk ha dichiarato che la sua xAI è basata su un cluster delle stesse dimensioni), e prevede di superare le dimensioni dei cluster utilizzati dai concorrenti.
In questo modo Meta si pone in prima fila nella competizione con i vari Microsoft, Google e lo stesso Musk, che però ha annunciato l’ampliamento del proprio cluster a 200.000 GPU entro il 2024.
La differenza sostanziale tra il modello di Meta e gli altri concorrenti è la strategia open source, che permette a sviluppatori e ricercatori di accedere liberamente ai modelli, sebbene con alcune limitazioni commerciali.
Diversamente dai modelli di OpenAI e Google, che sono accessibili solo tramite API, Llama offre un accesso completo, attirando l’interesse di aziende e laboratori di ricerca che cercano maggiore flessibilità nella gestione dei modelli e dei costi. Zuckerberg ha sottolineato che l’approccio open source consente una maggiore personalizzazione e una distribuzione più ampia e sicura dei modelli.
La costruzione e il mantenimento di questa infrastruttura richiedono però enormi risorse energetiche. Un singolo cluster di 100.000 GPU AI, come quelli impiegati da Meta e altri colossi, richiede fino a 370 GWh annui, l’equivalente del consumo energetico di oltre 34 milioni di abitazioni americane, con non poche preoccupazioni sulla sostenibilità energetica, considerando che molte aziende tech hanno difficoltà a rispettare i propri obiettivi ambientali. Elon Musk ha già fatto ricorso a grandi generatori mobili per alimentare i propri cluster, mentre altri concorrenti, come Microsoft e Amazon, stanno investendo in piccoli reattori modulari per garantire forniture di energia sufficienti.
Meta, tuttavia, ha evitato di rispondere alle domande sui vincoli energetici durante la call, lasciando aperti interrogativi sulle sue strategie per sostenere il crescente fabbisogno energetico.
