A inteligência artificial é uma despesa comercial em rápido crescimento. Algumas empresas estão cortando custos mudando para modelos chineses de IA mais baratos.
Imen Ben Youssef/Hans Lucas/AFP via Getty Images
ocultar legenda
mude a legenda
Imen Ben Youssef/Hans Lucas/AFP via Getty Images
SÃO FRANCISCO – A startup de Flo Crivello com sede em São Francisco, Lindy.ai, cria “assistentes” de inteligência artificial para gerenciar seu e-mail e calendário. Inicialmente, a empresa confiou fortemente nos modelos de IA de ponta da Anthropic.
Mas depois de se reunir com seu financeiro, Crivello disse que uma coisa ficou clara: “Fora disso, de longe nossa despesa número 1 foi antrópica”, disse ele. “Gosto mais do que folha de pagamento.”
Mais que um salário – para mais de vinte funcionários. Mais que aluguel. Mais do que qualquer outra coisa. Então, no mês passado, Crivello anunciado que Lindy transferiu 100% de seu tráfego para o modelo chinês de IA DeepSeek V4.
“Era apenas 10 vezes mais barato”, disse ele, acrescentando que isso economizou milhões de dólares para a empresa. “Portanto, foi uma decisão de negócios muito, muito simples.”
A inteligência artificial tornou-se uma só – não é o — Os custos que mais crescem para as empresas dos EUA. Mas, para muitas empresas, é uma faca de dois gumes: necessária, mas cara. Para sobreviver, cada vez mais empresas estão a mudar dos modelos americanos para a IA chinesa, mais barata.
Na corrida para criar os melhores modelos de IA, empresas norte-americanas como a Anthropic, OpenAI e Google estão liderando o mundo. Segundo especialistas, os modelos chineses estão de seis a 12 meses atrasados em desempenho.
No entanto, a China criou um nicho para modelos de código aberto que podem ser baixados e personalizados gratuitamente. “O cenário do código aberto atualmente é definitivamente dominado pelos chineses. Não chega nem perto”, disse Crivello.
Ele disse que todos os fundadores que conhece que trabalham na área de IA estão considerando mudar para modelos chineses ou já o fizeram.
E os custos crescentes da IA também não são apenas um problema inicial. O CEO do Uber, Dara Khosrowshahi, falou sobre isso no mês passado Coloque como o melhor podcast. “Nós estouramos nosso orçamento de IA para o trimestre, você sabe, para todo o ano, essencialmente. E isso está nos forçando a fazer ajustes”, disse ele.
(A Uber não respondeu ao pedido da NPR de informações sobre se utiliza modelos chineses.)
Bloomberg relatado O CEO do Airbnb, Brian Chesky, disse no ano passado que a empresa confiou no modelo Qwen do Alibaba, que era “bom”, “rápido e barato”. Perplexidade e Nvidia também usei Qwen.
Como Ferrari ou Honda
Muitas empresas têm receio de discutir a utilização de modelos chineses devido à sensibilidade política, mas os modelos estão amplamente disponíveis em centros de modelos de IA. como Hugging Face, na plataforma de hospedagem de código GitHub, e por meio de agregadores de modelos e provedores de inferência localizados fora da China.
Isso inclui Featherless, com sede em São Francisco, que oferece acesso a cerca de 30.000 modelos de IA. O fundador e CEO Eugene Cheah disse que os modelos chineses são populares mesmo que não sejam “front-end” ou os melhores da categoria.
“É como a diferença entre dirigir uma Ferrari e uma Honda. Você pode ter o melhor carro de luxo ou simplesmente adquirir uma Honda em uma escala que funcione”, disse ele.
“Na verdade, muitos grupos de IA de código aberto estão perfeitamente bem como N-1, com N como limite”, continuou ele. “À medida que a diferença diminui, em algum momento a questão é: isso realmente importa?”
Para muitos, como Lindy, isso não importa. AI Honda está perfeitamente bem.
OpenRouter, outra plataforma que permite que startups usem vários modelos de IA, relata que o uso do DeepSeek pela China caiu de cerca de 9% para quase 20% desde janeiro. O uso de modelos chineses da MiniMax, Xiaomi e Tencent também aumentou.
Alguns usuários baixam e hospedam eles próprios modelos de IA chineses de código aberto, mas muitos os usam por meio de empresas de hospedagem de IA pagas, como Featherless e OpenRouter, para manter os dados dos usuários nos EUA.
Victor Su-Ortiz, que faz marketing global de produtos na MiniMax, com sede em Xangai, participou recentemente de uma conferência para engenheiros de inteligência artificial em São Francisco. As empresas pagam pelo uso de modelos de inteligência artificial pagando por tokens ou unidades de trabalho de inteligência artificial. Su-Ortiz disse que tudo depende do preço do token.
“Muitas tarefas repetitivas podem ser realizadas com um modelo que é igualmente eficiente, mas tem um custo por token muito menor” em comparação com os principais modelos de IA, disse ele. “E foi essencialmente isso que trouxe esses modelos abertos para os Estados Unidos.”
Ele disse que as empresas estão mudando do “tokenmaxxing” – usando o máximo de IA possível – para economias de custos limitando o uso, mudando para modelos mais baratos ou roteando diferentes trabalhos de IA para modelos diferentes.
Para pesquisa ou “raciocínio profundo”, por exemplo, os modelos de última geração podem ter melhor desempenho, disse Su-Ortiz. “Mas se você estiver encaminhando um trabalho de codificação repetitivo e de alto volume… então um de nossos modelos, especificamente o MiniMax M3, tem um desempenho excepcionalmente bom por apenas um décimo do custo.”
Economizar alguns dólares não vale a pena para todos
Para algumas empresas, os modelos chineses ainda não são bons o suficiente. Jon Gordner é o CEO e cofundador da Comment.io, fundada há apenas algumas semanas. Ele está desenvolvendo um produto que, segundo ele, é como o Google Docs para programadores e agentes de IA.
“Precisamos fazer o melhor software possível o mais rápido possível. E para nós, economizar alguns dólares com um modelo mais barato não vale a pena se tivermos que gastar mais duas ou três semanas corrigindo seus bugs”, disse ele.
Gordner disse que sua empresa obtém valor dos modelos Anthropic e OpenAI em parte porque ambas as empresas oferecem suporte aos usuários na aquisição de clientes. Ele disse que as assinaturas mensais oferecem tokens com um grande desconto agora – mas isso provavelmente não durará para sempre.
“Então faz muito mais sentido começarmos a avaliar os modelos chineses e os modelos de código aberto”, disse ele.
Ara Kharazian é economista-chefe da Ramp, que ajuda empresas a rastrear, gerenciar e automatizar gastos. Tem uma compreensão dos custos da IA, e Kharazian disse acreditar que as empresas norte-americanas continuarão a adaptar-se – ou seja, poderão manter os preços baixos ou adotar modelos de código aberto de alta qualidade para competir com os seus rivais chineses.
“A ascensão destes modelos chineses é uma indicação de que as empresas querem algo que as empresas modelo americanas não oferecem hoje”, disse ele. “A única razão pela qual estou pessimista em relação aos modelos chineses é porque presumo que as empresas modelo americanas reagirão de forma competitiva”.
Gordner, Comment.io, tem menos certeza. Ele acredita que as grandes empresas de IA dos EUA podem ter que começar a cobrar mais Para a inteligência artificial, quando a pressão para demonstrar rentabilidade aumenta, possivelmente à medida que se aproximam da abertura de capital. Ambos Antrópico e a OpenAI apresentaram documentos confidenciais ao governo dos EUA para dar início a possíveis ofertas públicas.
“Em algum momento”, disse Gordner, “a música para”.
A Anthropic é uma apoiadora financeira da NPR.
