▲
Uma nova pesquisa traz um dado importante sobre a Inteligência Artificial: os modelos de IA de código aberto, conhecidos como Modelos open-source de IA, podem consumir até dez vezes mais recursos de computação do que suas versões de código fechado. Essa diferença pode, inclusive, anular qualquer vantagem de custo inicial para empresas que pensam em usar essas soluções.
O Custo Inesperado da IA Aberta
Empresas que buscam alternativas mais acessíveis costumam olhar para os modelos de IA de código aberto como uma saída para reduzir despesas. A ideia é que, ao não pagar licenças ou taxas de uso, os custos totais seriam menores. No entanto, o novo estudo sugere que essa economia inicial pode não se sustentar no longo prazo.
O consumo elevado de recursos de computação significa que as empresas precisam investir mais em hardware potente, como chips avançados, e também arcar com contas de energia mais altas. Isso impacta diretamente o orçamento, especialmente para implementações de grande escala.
Ao usar dez vezes mais recursos, a infraestrutura necessária para rodar esses modelos se torna muito mais robusta e cara. Isso inclui servidores, refrigeração e, claro, a própria eletricidade. Assim, a vantagem econômica que parecia clara para os modelos abertos pode desaparecer rapidamente.
A pesquisa coloca um novo ponto de vista sobre a sustentabilidade e a eficiência operacional dos sistemas de IA. É um alerta para as companhias que buscam otimizar seus gastos e planejar a longo prazo, considerando não apenas o custo de aquisição, mas o custo total de propriedade.
Impacto na Estratégia das Empresas
Para muitas empresas, a escolha entre IA de código aberto e IA de código fechado envolve uma balança entre flexibilidade e custo. Modelos abertos oferecem mais liberdade para personalização e inovação. No entanto, se o custo operacional for muito elevado, essa flexibilidade pode sair caro.
O estudo sugere que, ao considerar uma solução de IA, as empresas precisam olhar além do valor inicial. É preciso calcular os custos contínuos de computação, que incluem desde a energia até a necessidade de adquirir e manter um número maior de CPUs ou GPUs.
Modelos fechados, por outro lado, podem ter um custo de licença mais alto, mas muitas vezes são otimizados para usar menos recursos de computação. Por exemplo, soluções como o ChatGPT ou Claude AI, que são desenvolvidos por empresas específicas, podem oferecer uma eficiência maior na utilização de recursos.
Essa nova informação destaca a importância de uma análise detalhada antes de se comprometer com qualquer tipo de modelo de IA. O que parece ser uma opção barata pode se transformar em um grande gasto para a infraestrutura de tecnologia.
Com a rápida evolução da infraestrutura para IA autônoma, é crucial que as empresas entendam todos os fatores de custo envolvidos. A otimização do uso de recursos se torna tão importante quanto a funcionalidade do modelo. Iniciativas como o Gemma 3 270M do Google buscam justamente equilibrar desempenho e eficiência.
Este cenário reforça a necessidade de as empresas realizarem uma avaliação completa do ciclo de vida dos modelos de IA. É fundamental considerar não apenas a liberdade e a customização, mas também os custos operacionais a longo prazo, que podem surpreender.
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
