L’inferenza è il processo attraverso il quale i modelli di intelligenza artificiale già addestrati generano le risposte alle richieste. L’avvio dell’impiego operativo del nuovo acceleratore è previsto nel 2027.
Il piano per la famiglia Azure Maia prevede installazioni su una scala di diversi gigawatt. Scott Guthrie, vicepresidente esecutivo responsabile dei servizi di elaborazione remota e dell’intelligenza artificiale, ha illustrato l’obiettivo in un intervento sul blog.
Le prestazioni attese e gli impieghi previsti
Secondo le previsioni di Microsoft, il nuovo sistema dovrebbe produrre il 40% di token in più per megawatt rispetto ai principali sistemi basati su processori grafici. L’azienda indica inoltre che una configurazione con 96 acceleratori può raggiungere, a livello di armadio di calcolo, una capacità di elaborazione dei token fino a sette volte quella di Maia 200.
Il sistema è progettato per il ragionamento su contesti estesi, le conversazioni che richiedono risposte tempestive e le attività degli agenti di intelligenza artificiale articolate in più passaggi, ha precisato Microsoft.
Il predecessore, Maia 200, sostiene già carichi di lavoro operativi, tra cui quelli di Microsoft Copilot. L’estensione a GitHub Copilot e Microsoft Foundry è prevista entro la fine dell’anno.