Baseten, uma startup que administra modelos de inteligência artificial para clientes em sua infraestrutura em nuvem, levantou US $ 75 milhões em financiamento, informou a empresa na quarta -feira.
A rodada de financiamento valoriza a base de US $ 825 milhões e demonstra que os capitalistas de risco acreditam que o BOOM da AI da Tech beneficia uma infinidade de startups, não apenas aquelas que constroem grandes modelos de idiomas. Nos últimos meses, o OpenAI, Anthropic e Xai levantaram bilhões em financiamento, com grande parte do dinheiro indo para servidores contendo Nvidia Unidades de processamento de gráficos, ou GPUs.
Depois que as empresas terminarem de treinar modelos de IA em resmas de dados, elas precisam implantar esses modelos em algum lugar na fase de inferência, que é quando os modelos geram saídas em resposta às consultas do usuário. É quando o Baseten entra.
Em vez de administrar seus próprios data centers, a BasEten executa seu software em equipamentos de data center de provedores de nuvem, incluindo Amazon e Google. Os clientes podem fornecer à sua própria infraestrutura uma camada corporativa. Ao usar de vários fornecedores, o BaseTen oferece acesso a mais GPUs do que a oferta atual de uma única nuvem.
“Nesse mercado, sua diferenciação número 1 é o quão rápido você pode se mover. Esse é o principal benefício para nossos clientes”, disse o co-fundador e CEO Tuhin Srivastava. “Você pode ir para a produção sem se preocupar com confiabilidade, segurança e desempenho”.
As empresas podem gerenciar a implantação de seus modelos sem bases, mas garantir chips NVIDIA suficientes nas áreas geográficas corretas podem ser difíceis, disse a CNBC, co-fundadora Amir Haghighat.
Às vezes, os provedores de nuvem informam aos clientes que algumas GPUs serão transferidas para o modo de manutenção e ficarão indisponíveis em minutos. A Baseten ajuda seus clientes a lidar com essas instâncias sem interrupções, disse Srivastava.
Após a descoberta de janeiro do laboratório chinês de AI Deepseek, que alegou que seus modelos foram treinados para uma fração dos custos, à medida que seus colegas dos EUA, a eficiência na IA se tornou mais importante do que nunca.
O Baseten foi rápido em adicionar suporte ao modelo de raciocínio R1 da Deepseek que se compara ao O1 da Openai. Baseten’s site promete desempenho de primeira linha por uma fração do custo do OpenAI. Houve muita entrada de organizações que olham para mudar para Deepseek, e Baseten está ocupado tentando acompanhar, disse Srivastava.
“Há muitas pessoas pagando milhões de dólares por trimestre para o OpenAI e antropia que estão pensando: ‘Como posso economizar dinheiro?'”, Ele disse. “E eles se reuniram.”
Os clientes do Baseten costumam ver seus custos de inferência cair 40% ou mais, enquanto recebem melhor desempenho, em comparação com as arquiteturas domésticas, o chefe de marketing Mike Bilodeau escreveu em um email.
A receita da startup para o ano fiscal que terminou em janeiro foi seis vezes mais do que no ano anterior, disse Srivastava, sem fornecer um valor em dólares.
Fundada em 2019 e sediada em São Francisco, a Baseten tem cerca de 60 funcionários. Os investidores existentes IVP e Spark Capital lideraram a nova rodada, com outros participando. Mais de 100 empresas são clientes, juntamente com centenas de empresas menores, como Descript, Patreon e Writer.
Os concorrentes incluem Salesforce-Enciado juntos ai. Outro desafio é que o Baseten deve competir com as empresas de modelos de IA e fundos de hedge para talentos.
“Ter mais dinheiro em um ambiente econômico estranho, não dói”, disse Srivastava.