A IA está a ficar cara, e as empresas começam a repensar o uso intensivo que estão a fazer desta tecnologia — que, em alguns casos, acaba por ficar mais cara do que um funcionário. Algumas empresas estão a mudar para modelos gratuitos, outras a optar por modelos mais pequenos e especializados.
Seguindo uma estratégia já muito conhecida em Silicon Valley, as empresas de IA praticaram preços muito baixos para conquistar clientes, depois de o ChatGPT ter entrado de rompante em cena.
Kevin Simback, da incubadora norte-americana de startups Delphi Labs, chama-lhe a era da “inteligência subsidiada” — ou seja, os investidores estavam, na prática, a pagar a conta para que as empresas pudessem oferecer IA a baixo custo.
“Mas a maré começa a mudar”, alerta Simback, acrescentando que começou uma nova fase em que as empresas de IA precisam, de facto, de ganhar dinheiro — numa altura com as duas líderes do mercado, OpenAI e Anthropic, se preparam para entrar em bolsa e atrair investidores particulares ainda este ano.
Os preços dos serviços prestados pelo acesso a esta tecnologia já começaram efetivamente a subir, e uma das principais razões são os agentes de IA.
Ao contrário de um chatbot, que se limita a responder a perguntas dos utilizadores, os agentes fazem efetivamente coisas — marcam reuniões, escrevem código, gerem ficheiros. E são caros de operar, porque uma única tarefa pode desencadear dezenas de agentes a trabalhar em simultâneo, cada um a acumular custos.
Esses custos são medidos em tokens, a unidade básica que as empresas de IA usam para cobrar aos clientes. Uma única tarefa executada por agentes pode consumir dezenas de vezes mais tokens do que uma simples mensagem num chat.
Entretanto, os chips e os centros de dados necessários para alimentar toda esta IA não conseguem acompanhar a procura, criando escassez de capacidade computacional e acrescentando mais incerteza a uma indústria ainda em fase inicial.
“Sobretudo nos círculos de programadores, o custo de usar IA para coisas como escrever código cresceu de forma exponencial”, diz Mark Barton, da consultora tecnológica Omniux. “Todos os custos estão realmente a disparar.”
Algumas empresas mostraram-se tão ansiosas por usar IA que acabaram por exagerar, num consumo desenfreado conhecido como “token maxxing”.
“Em alguns casos, ao fim de um mês ou dois de utilização, há quem veja o custo dos tokens ultrapassar o custo do funcionário, simplesmente porque se está a usar demasiado”, diz o analista Jack Gold, da J.Gold Associates.
Gastar com mais critério
Até a Meta, de Mark Zuckerberg, que no início deste ano incentivou os funcionários a usarem o maior número possível de tokens como medida de produtividade, começou a repensar a abordagem.
“Ninguém deve usar ferramentas de IA apenas por usar”, escreveu o diretor de tecnologia da empresa, Andrew Bosworth, numa nota interna aos trabalhadores, citada pelo The Wall Street Journal.
O diretor de operações da Uber foi esta semana ainda mais longe, causando surpresa ao afirmar que toda esta despesa com IA não estava a traduzir-se num aumento visível da produtividade.
Para reduzir custos, algumas empresas estão a mudar para modelos gratuitos de IA e de código aberto, que qualquer pessoa pode descarregar. Não são tão poderosos como o ChatGPT ou o Claude, mas são suficientemente bons para muitas tarefas.
Outras estão a optar por modelos mais pequenos e especializados, desenvolvidos para setores específicos, como o imobiliário ou a banca, em vez de grandes modelos generalistas.
E há também quem esteja simplesmente a dividir grandes tarefas de IA em etapas mais pequenas, entregando cada parte ao modelo mais barato capaz de a executar.
A diferença de preço pode ser significativa. “Um grande modelo monolítico custa 15 dólares por milhão de tokens, mas é possível baixar isso para cerca de cinco cêntimos se se usar o modelo mini mais pequeno”, diz Adrian Balfour, da consultora Enverso.
Esta evolução aponta para uma transformação da Inteligência Artificial numa espécie de produto indiferenciado, em que o modelo específico importa menos do que encontrar o modelo certo ao preço certo.
Mas ainda é cedo para excluir os grandes protagonistas e os seus modelos de última geração. “Os utilizadores avançados estarão sempre dispostos a pagar pelo melhor”, afirma John Belton, gestor de carteira na Gabelli Funds.
(ZAP)