Durante dois anos fomos bombardeados com a mesma promessa: o futuro dos PCs passava pelas NPUs, aquelas unidades de processamento neural que a Intel estreou com o Meteor Lake, e que de facto fazem parte de qualquer smartphone ou tablet minimamente recentes.
Em teoria, o NPU seria o motor da nova geração de produtos IA. Porque seria possível meter este pequeno chip em todo e qualquer produto. Mas, na prática, transformaram-se numa das maiores ilusões tecnológicas dos últimos tempos.
A ironia? A IA local está melhor do que nunca. Só não usa NPUs para absolutamente nada.
NPUs: o sonho que não aconteceu? Ou que ainda não aconteceu?
As NPUs funcionam. Isso é inegável. Fazem uns efeitos engraçados na webcam, ajudam em truques do Windows Studio Effects e alimentam umas experiências tipo “tech demo” dentro do Copilot+. No lado dos smartphones também dão vida a algumas funcionalidades úteis, mas ainda muito simples.
Porém, aquilo que foi prometido, ou seja, ferramentas de IA verdadeiramente poderosas a correr no produto, sem depender da cloud… Nunca chegou. Nem está perto. A IA ainda está toda super dependente da Internet, e dos servidores gigantesco e extremamente caros espalhados por esse mundo fora.
Não é por acaso que a NVIDIA continua a fazer dinheiro à sorte. A IA depende quase exclusivamente de placas gráficas.
A verdadeira IA local está aqui. E vive dentro da placa gráfica. Até na tua… Se quiseres.
Ou seja, se tens um PC gaming, instala o LM Studio e vais perceber imediatamente. Em poucos cliques estás a correr um modelo local no teu hardware, sem depender de cloud, sem limitações e sem truques.
- Ollama?
- Llama.cpp?
- Inferências multimodais?
Tudo isto funciona de forma impecável… desde que uses GPU.
Em NPUs? Zero. Nada. Nem começam.
Isto é o mais absurdo… Com a quantidade de dinheiro gasto a fazer marketing sobre “AI PCs”, nem a Microsoft, nem a Intel, nem a AMD meteram um par de engenheiros a integrar suporte para NPUs nestas ferramentas open source que toda a gente usa.
Foi uma oportunidade perdida gigantesca.
NPUs eram suposto democratizar a IA. Mas…
Simples ou não, a promessa era: “Nem toda a gente pode comprar uma placa gráfica de 500 ou 1.000 euros. As NPUs vão tornar a IA local acessível.”
A realidade? Para ter uma IA local decente, precisas de uma GPU Nvidia com núcleos CUDA. Por enquanto, as NPUs são irrelevantes.
Conclusão: o grande falhanço das NPUs?
Em suma, a IA é ainda demasiado complexa para ficar entregue a pequenos processadores. O que por sua vez significa que IA a sério significa ter uma ligação à Internet.
Por enquanto, estamos agarrados a servidores gigantescos, com poder de computação que nem sequer somos capazes de perceber.
