Chips de inferência geram empréstimo de infraestrutura de IA de US$ 400 milhões

Crédito da imagem: TechCrunch

Startup de publicação especializada obtenção de financiamento record com chips de inferência como garantia

Uma empresa focada em infraestrutura para inteligência artificial, a General Compute, anunciou uma linha de crédito de US$ 400 milhões da Upper90, uma empresa de investimentos especializada em tecnologia. A operação pode ser a primeira do setor a utilizar chips dedicados à inferência como garantia — hardware desenvolvido para executar modelos pré-treinados de forma rápida e eficiente, diferentemente dos chips mais caros usados ​​no treinamento inicial de algoritmos.

O financiamento reflete a busca crescente por soluções que reduzem custos com ferramentas de IA, especialmente diante do aumento nos preços de modelos internos e tokens premium. O mercado está se inclinando para infraestrutura capaz de rodar modelos de código aberto com maior eficiência econômica.

Desenvolvimento de tecnologia própria

Fundada pelo CEO Finn Puklowski, a startup recebeu uma rodada de US$ 15 milhões em maio para criar uma “neocloud” — infraestrutura especializada em processamento de IA — com chips fornecidos pela SambaNova, empresa vinculada à Intel. Esse tipo de arquitetura difere da infraestrutura genérica oferecida por serviços como AWS e Azure.

Os chips SN50 desenvolvidos pela General Compute são projetados para inferência: consomem menos energia e não dependem de sistemas de refrigeração complexos, permitindo implantações mais rápidas em diversos centros de dados. A empresa afirma que sua solução oferece uma velocidade 16 vezes superior a modelos baseados em GPUs.

Desafios sem acesso à tecnologia

Apesar do potencial, o maior obstáculo para novas empresas é garantir o fornecimento de chips especializados. Billy Libby, CEO da Upper90 e ex-trader da Goldman Sachs, destacou que sua firma financiou a compra de GPUs pela Crusoe, uma startup especializada em energia, já em 2021 — considerada a primeira operação desse tipo com chips avançados.

No passado, as instituições tradicionais evitaram investir nesse modelo por incertezas sobre depreciação de hardware. No entanto, com o sucesso da CoreWeave em transformar empréstimos baseados em chips num modelo de negócio e num IPO valorizado, esse tipo de financiamento ganhou facilidade.

“Quando começamos a financiar GPUs da Nvidia como o primeiro grupo a fazê-lo, o mercado era ineficiente. Conseguíamos montar algo sólido como participantes iniciais e ser recompensados ​​pelo risco”, afirmou Libby em entrevista ao TechCrunch.

Estratégia de diversificação

Agora, com GPUs já bem descobertas e talvez superestimadas no mercado, a Upper90 está apostando em empresas como a Computação Geral para aproveitar o próximo ciclo da revolução da IA. “Acreditamos que modelos open-source serão fundamentais”, explicou Libby. “Buscamos um ator com experiência em inferência desde o ano passado — todos não precisam de supercomputadores, mas sim de recursos para execução de algoritmos.”

Essa visão ganha força com o crescimento de empresas que oferecem acesso a modelos abertos, como OpenRouter e Fireworks, que têm recursos arrecadados em valores expressivos. Novas soluções, como o K3 da Kimi, venceram com os mais recentes lançamentos de Anthropic e OpenAI em testes técnicos. Além disso, novos fabricantes de chips, como Groq e Cerebras, atraem interesse de compradores e listas públicas.

Impacto no domínio da Nvidia

A capacidade da General Compute de acessar chips fora do ecossistema da Nvidia é crucial. A TensorWave, outra empresa de infraestrutura para IA, também está investindo em parcerias com a AMD. À medida que surgem alternativas à Nvidia, provedores de computação não dependentes de acordos exclusivos podem ganhar vantagem no fornecida de inferência de custo limitado.

“Há uma série de chips começando a escalar com excelente [custo total de posse] ou operação muito mais rápida que a Nvidia, mas poucos compradores para eles”, comentou Puklowski. “Com a Upper90, isso não é apenas ‘uma startup legal receber capital para comprar recursos’. É o primeiro sinal de capital se organizando e da fragmentação do domínio monopolístico da Nvidia.”

Com informações do Techcrunch