Durante dois anos fomos bombardeados com a mesma promessa: o futuro dos PCs passava pelas NPUs, aquelas unidades de processamento neural que a Intel estreou com o Meteor Lake, e que de facto fazem parte de qualquer smartphone ou tablet minimamente recentes.

Em teoria, o NPU seria o motor da nova geração de produtos IA. Porque seria possível meter este pequeno chip em todo e qualquer produto. Mas, na prática, transformaram-se numa das maiores ilusões tecnológicas dos últimos tempos.

A ironia? A IA local está melhor do que nunca. Só não usa NPUs para absolutamente nada.

• 4 carreiras que a Inteligência Artificial não vai conseguir matar

NPUs: o sonho que não aconteceu? Ou que ainda não aconteceu?

As NPUs funcionam. Isso é inegável. Fazem uns efeitos engraçados na webcam, ajudam em truques do Windows Studio Effects e alimentam umas experiências tipo “tech demo” dentro do Copilot+. No lado dos smartphones também dão vida a algumas funcionalidades úteis, mas ainda muito simples.

Porém, aquilo que foi prometido, ou seja, ferramentas de IA verdadeiramente poderosas a correr no produto, sem depender da cloud… Nunca chegou. Nem está perto. A IA ainda está toda super dependente da Internet, e dos servidores gigantesco e extremamente caros espalhados por esse mundo fora.

Não é por acaso que a NVIDIA continua a fazer dinheiro à sorte. A IA depende quase exclusivamente de placas gráficas.

A verdadeira IA local está aqui. E vive dentro da placa gráfica. Até na tua… Se quiseres.

Ou seja, se tens um PC gaming, instala o LM Studio e vais perceber imediatamente. Em poucos cliques estás a correr um modelo local no teu hardware, sem depender de cloud, sem limitações e sem truques.

• Ollama?
• Llama.cpp?
• Inferências multimodais?

Tudo isto funciona de forma impecável… desde que uses GPU.

Em NPUs? Zero. Nada. Nem começam.

Isto é o mais absurdo… Com a quantidade de dinheiro gasto a fazer marketing sobre “AI PCs”, nem a Microsoft, nem a Intel, nem a AMD meteram um par de engenheiros a integrar suporte para NPUs nestas ferramentas open source que toda a gente usa.

Foi uma oportunidade perdida gigantesca.

NPUs eram suposto democratizar a IA. Mas…

Simples ou não, a promessa era: “Nem toda a gente pode comprar uma placa gráfica de 500 ou 1.000 euros. As NPUs vão tornar a IA local acessível.”

A realidade? Para ter uma IA local decente, precisas de uma GPU Nvidia com núcleos CUDA. Por enquanto, as NPUs são irrelevantes.

Conclusão: o grande falhanço das NPUs?

Em suma, a IA é ainda demasiado complexa para ficar entregue a pequenos processadores. O que por sua vez significa que IA a sério significa ter uma ligação à Internet.

Por enquanto, estamos agarrados a servidores gigantescos, com poder de computação que nem sequer somos capazes de perceber.