A infraestrutura de inteligência artificial está a bater numa parede pouco glamorosa, mas decisiva: a memória. A escassez de chips de memória, combinada com a subida de preços, tornou-se um dos maiores travões ao crescimento de modelos cada vez maiores e mais caros de treinar e executar. É neste contexto que se fala cada vez mais numa “guerra” da memória para IA, com empresas como a Huawei, a Nvidia e a DeepSeek a apresentarem abordagens diferentes para tirar mais rendimento do hardware disponível.
AGeekGPT
Eu já li. Tu só tens de perguntar.
O tema ganhou ainda mais peso depois de uma declaração de Brad Lightcap, COO da OpenAI, que aponta a memória como o principal estrangulamento do momento: “The current biggest bottleneck in AI infrastructure expansion is a shortage of memory chips. The AI industry has overcome the power shortage phenomenon it was most concerned about over the past two years.” Ou seja, depois de anos em que a energia e a capacidade eléctrica dos centros de dados dominaram a conversa, a pressão está agora a deslocar-se para os chips de memória, sobretudo os mais caros e procurados.
De acordo com o Huawei Central, este cenário está a acelerar uma corrida a técnicas de “AI memory” e de eficiência de memória. Aqui, convém separar duas ideias que muitas vezes aparecem misturadas: por um lado, “memória” enquanto componente física (HBM, VRAM, SSDs, etc.) que limita a execução de modelos; por outro, “memória” enquanto capacidade do sistema de IA reter e recuperar informação de interacções anteriores para melhorar respostas futuras. Na prática, a crise actual está muito mais ligada ao primeiro ponto, o desafio de hardware.
Neste artigo vão encontrar:
Porque é que a memória virou o desafio da IA
Modelos de IA de grande escala dependem de enorme largura de banda e capacidade de memória para manter pesos, activações e contexto. Quando a memória disponível não chega, tens duas alternativas: ou reduzes o que o modelo consegue fazer (por exemplo, contexto mais curto, modelos mais pequenos, menos utilizadores em simultâneo), ou arranjas formas de “enganar” o limite, movendo dados para armazenamento mais barato e trazendo-os de volta quando necessário.
É aqui que entram as estratégias de gestão de memória. Em vez de ser apenas uma questão de comprar mais GPUs, passa a ser um problema de engenharia: como é que manténs o desempenho aceitável quando a memória rápida é limitada e cara? E como é que controlas custos quando o preço de componentes críticos sobe?
Huawei: UCM para gerir e “partir” dados conforme a importância
Segundo o Huawei Central, a Huawei lançou no ano passado o UCM (Unified Cache Manager), uma solução focada em gerir memória de forma mais eficiente. A ideia central é simples de explicar, mas difícil de executar bem: em vez de manter “tudo no mesmo sítio”, o sistema divide e armazena dados de acordo com a sua importância.
Na prática, isto significa privilegiar o que precisa mesmo de estar em memória rápida e empurrar o resto para camadas mais baratas. A publicação destaca dois objectivos concretos do UCM: minimizar o uso de chips HBM (memória de largura de banda elevada, muito usada em GPUs para IA e bastante cara) e maximizar o uso de SSDs. É uma abordagem que faz sentido num mercado em que o custo por GB e a disponibilidade variam brutalmente entre HBM e armazenamento NVMe.
Para ti, enquanto utilizador final, isto pode traduzir-se em duas coisas: serviços de IA mais estáveis (menos quebras por falta de recursos) e, potencialmente, custos operacionais mais controlados, o que ajuda a evitar aumentos de preço em cadeia. Mas há sempre um risco: mover dados para SSD implica latência maior. A diferença está em quão inteligente é o sistema a decidir o que vai e vem, e em como esconde essa latência.
DeepSeek: desenhar modelos para “precisar de menos memória” logo à partida
A estratégia da DeepSeek, tal como descrita na mesma fonte, segue um caminho diferente. Em vez de apostar sobretudo em mover memória ou comprimir dados durante a execução, a empresa estará a desenhar o modelo para “se lembrar menos desde o início”. É uma forma de atacar o problema na raiz: reduzir a dependência de memória como requisito estrutural.
Esta abordagem pode ser particularmente relevante em cenários de escassez de hardware, porque mexe naquilo que mais pesa nos custos e nos limites físicos. Se um modelo consegue manter desempenho elevado com menos memória, torna-se mais fácil escalar, correr em mais tipos de máquinas e resistir melhor a rupturas na cadeia de fornecimento.
Ao mesmo tempo, há trade-offs inevitáveis. “Lembrar menos” pode significar menos contexto, menos capacidade de manter informação de longo prazo, ou mais necessidade de recuperar dados de outras fontes. O desafio é fazer isso sem sacrificar a qualidade percebida pelo utilizador, que é onde a concorrência se decide.
Nvidia: ICMSP para estender limites de memória com armazenamento externo
A Nvidia, por seu lado, terá introduzido o ICMSP, descrito como uma plataforma de gestão de memória para inferência de IA. O objectivo é permitir que a memória seja armazenada externamente, expandindo o limite de memória da GPU para dispositivos de armazenamento externos. Na prática, é uma forma de “estender” a capacidade quando a VRAM ou a memória associada à GPU chega ao limite.
O texto sugere um cenário concreto: quando a capacidade de memória fica cheia, a solução permite que as operações de IA continuem. Este ponto é crítico para inferência, onde a estabilidade e a previsibilidade contam tanto como a performance máxima. Se um serviço consegue evitar falhas ou quedas abruptas por falta de memória, isso tem impacto directo na experiência do utilizador e na fiabilidade do produto.
Tal como nas outras abordagens, o preço a pagar costuma ser latência e complexidade. A inferência é sensível a atrasos, sobretudo em aplicações interactivas. Por isso, a utilidade real depende de como o sistema gere o que fica na memória rápida e o que vai para fora, e de como optimiza acessos para não transformar a “solução” num novo desafio.
O factor geopolítico: eficiência como plano de sobrevivência
Há ainda um elemento que torna esta corrida mais tensa para alguns actores. O Huawei Central sublinha que empresas chinesas já lidam com controlos tecnológicos dos EUA sobre chips, e agora têm de maximizar a eficiência de memória como um plano de sobrevivência para contornar a escassez. Quando o acesso ao melhor hardware fica limitado, a optimização deixa de ser um “nice to have” e passa a ser a diferença entre competir ou ficar para trás.
É também por isso que esta “guerra” não é apenas uma disputa de produto. É uma disputa de arquitectura e de ecossistemas: quem conseguir executar modelos grandes com menos memória cara, ou com uma gestão mais inteligente entre GPU e armazenamento, ganha margem para escalar mais depressa e com menos dependência de componentes críticos.
O que muda para ti nos próximos meses
Mesmo que não compres GPUs nem montes centros de dados, esta batalha afecta-te. Se a memória continuar a ser o desafio, vais ver mais variação na qualidade e no preço dos serviços de IA. Algumas plataformas podem limitar funcionalidades, reduzir contexto, impor limites de uso ou empurrar planos mais caros para quem quer desempenho consistente.
Se, pelo contrário, estas técnicas de gestão de memória e de design de modelos se provarem eficazes, o mercado pode ganhar fôlego: mais serviços a funcionar bem em hardware menos exclusivo, mais concorrência e, idealmente, menos pressão para aumentar preços só porque a memória disparou.
Para já, o que fica claro é que a próxima fase da IA não vai ser definida apenas por “mais potência”. Vai ser definida por quem souber trabalhar melhor com os limites, sobretudo o da memória, que neste momento está a ditar custos, capacidade e velocidade de expansão.
Leiam as últimas notícias do mundo da tecnologia no Google News , Facebook e X (ex Twitter) .
 Todos os dias vos trazemos dezenas de notícias sobre o mundo Android em Português. Sigam-nos no Google Notícias. Obrigado! |
