A Microsoft revelou nesta segunda-feira (12) o Maia 300, seu novo chip voltado à inferência de inteligência artificial em servidores, segundo a Canaltech e a TechRadar. O componente substitui o Maia 200, lançado em janeiro, e sua implantação nos data centers da empresa está prevista para 2027.

De acordo com as duas publicações, a Microsoft afirma que o Maia 300 processa 40% mais tokens por megawatt do que as infraestruturas líderes baseadas em GPU. Tokens são as unidades de texto que um modelo de IA consome e produz a cada resposta; o ganho de eficiência indica quantas respostas o chip entrega para cada unidade de energia gasta, métrica central para data centers que tentam conter o consumo elétrico da IA.

Desenhado para responder, não para treinar

O novo acelerador foi projetado para a etapa de inferência, quando um modelo já treinado recebe uma pergunta e gera uma resposta, com foco em conversas longas, tarefas que exigem raciocínio em várias etapas e agentes que executam ações em sequência, segundo a Canaltech e a TechRadar.

A arquitetura interna usa chiplets, blocos menores e especializados fabricados pelo processo N2P da TSMC, que dividem funções como cálculo, controle de memória e comunicação entre si. Segundo as duas fontes, o desenho também mantém os dados próximos de onde são processados, o que reduz a energia necessária para movê-los dentro do sistema.

Memória e escala por rack

Cada acelerador conta com 288 GB de memória HBM4 e taxa de transferência de até 18 terabytes por segundo, segundo a Canaltech. Um rack completo reúne 96 desses aceleradores e, segundo a Canaltech e a TechRadar, chega a processar até sete vezes mais tokens do que um rack equivalente do Maia 200.

O Maia 200, antecessor do novo chip, já roda em produção cargas de trabalho do Microsoft 365 Copilot e de modelos desenvolvidos pela própria equipe de IA da Microsoft, segundo a Canaltech e a TechRadar. De acordo com a TechRadar, a empresa diz que o Maia 200 entrega até 1,7 vez mais tokens por watt do que infraestruturas líderes de GPU nessas funções.

Energia e rede dentro do rack

Segundo a TechRadar, cada chip Maia 300 opera dentro de um envelope térmico de 950 watts, e o rack completo com 96 aceleradores funciona com até 167 kW de potência, somando 27,6 terabytes de capacidade de memória HBM e 1,7 petabyte por segundo de banda agregada. A publicação informa ainda que a Microsoft adicionou suporte a formatos de baixa precisão, incluindo uma versão aprimorada do MXFP4, para reduzir a demanda de memória e de banda em cargas de trabalho pesadas.

De acordo com a TechRadar, a comunicação entre os aceleradores usa conexões de alta banda dedicadas ao paralelismo de tensores (técnica que divide o processamento de um mesmo modelo entre vários chips), combinadas com um transporte próprio de IA montado sobre infraestrutura Ethernet. A publicação diz que esse desenho permite escalar de um único rack até um data center inteiro sem tratar a rede como uma camada separada do restante do sistema.

Próximos passos da Microsoft

A TechRadar aponta que o lançamento acompanha o plano da Microsoft de escalar sua infraestrutura própria de IA para implantações de múltiplos gigawatts. Ainda segundo a publicação, a empresa prevê que o GitHub Copilot e o Microsoft Foundry comecem a usar o Maia 300 até o fim deste ano, além de melhorias esperadas em produtos como Teams, Copilot e Cowork.

Nem a Canaltech nem a TechRadar informaram o preço do novo chip ou se ele será vendido a clientes externos da Microsoft. A própria Microsoft, em comunicado no site oficial, não detalhou esses pontos até a publicação desta matéria.