Quando Usar AI: Avaliando a Necessidade de LLMs

A inteligência artificial generativa transformou nossa maneira de entender quais casos de uso se encaixam melhor no aprendizado de máquina (ML). Historicamente, o ML tem sido usado para padrões repetitivos e preditivos nas experiências dos clientes, mas agora é possível usar o ML mesmo sem um conjunto de dados de treinamento completo. Mas será que tudo precisa de um LLM?

Como gerentes de projetos de IA faz sentido avaliar as necessidades dos clientes para a implementação de IA faz sentido? Nem sempre a resposta é “sim”, pois os modelos de linguagem grandes (LLMs) podem ser caros e nem sempre precisos. Existem casos em que o uso de uma implementação de ML não é o caminho certo.

Considerações Chave para Implementar IA

Para decidir se uma solução de IA faz sentido, é preciso considerar alguns pontos importantes:

1. Entradas e saídas necessárias: A entrada é o que o cliente fornece ao seu produto, e a saída é o que o seu produto entrega. Por exemplo, em uma playlist gerada por ML no Spotify, as entradas podem ser as preferências do cliente, músicas e artistas curtidos, e gênero musical.

2. Combinações de entradas e saídas: As necessidades dos clientes podem variar dependendo se eles querem a mesma saída para a mesma entrada ou para entradas diferentes. Quanto mais combinações precisarmos replicar em escala, mais precisamos recorrer ao ML em vez de sistemas baseados em regras.

   Leia também:

   • Anvisa proíbe a venda de marcas de azeite de oliva no Brasil
   • Trump pode adiar novamente venda do TikTok nos EUA até junho
   • Como resolver o erro ‘Conteúdo Indisponível’ ao acessar sites

3. Padrões nas entradas e saídas: Os padrões nas combinações de entradas ou saídas ajudam a decidir qual tipo de modelo de ML usar. Se houver padrões (como analisar relatos de clientes para obter uma pontuação de sentimento), modelos de ML supervisionados ou semissupervisionados podem ser mais econômicos que os LLMs.

4. Custo e Precisão: As chamadas de LLM podem ser caras em escala, e as saídas nem sempre são precisas, mesmo com ajustes finos e prompt engineering. Em alguns casos, modelos supervisionados ou sistemas baseados em regras podem ser mais eficientes que um LLM.

Quando a IA Faz Sentido: Avaliando as Necessidades do Cliente

A tabela abaixo resume as considerações para ajudar os gerentes de projeto a avaliar as necessidades dos clientes e determinar se uma implementação de ML é o caminho certo.

| Tipo de necessidade do cliente | Exemplo | Implementação de ML (Sim/Não/Depende) | Tipo de Implementação de ML |
| :———————————————————————————- | :——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————- | :—————————————– | :——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————- |
| Tarefas repetitivas onde o cliente precisa da mesma saída para a mesma entrada | Adicionar meu e-mail em vários formulários online | Não | Criar um sistema baseado em regras é suficiente. |
| Tarefas repetitivas onde o cliente precisa de saídas diferentes para a mesma entrada | O cliente está em “modo descoberta” e espera uma nova experiência ao realizar a mesma ação (como fazer login em uma conta): – Gerar uma nova arte a cada clique – StumbleUpon (lembram?) descobrindo um novo canto da internet através de buscas aleatórias | Sim | – LLMs de geração de imagem – Algoritmos de recomendação (filtragem colaborativa) |
| Tarefas repetitivas onde o cliente precisa da mesma saída para entradas diferentes | – Corrigir redações – Gerar temas a partir do feedback do cliente | Depende | Se o número de combinações de entrada e saída for simples, um sistema determinístico baseado em regras pode funcionar. No entanto, se houver muitas combinações e um sistema baseado em regras não escalar bem, considere: – Classificadores – Modelagem de tópicos Mas apenas se houver padrões nessas entradas. Se não houver padrões, considere usar LLMs, mas apenas para cenários únicos (já que LLMs não são tão precisos quanto modelos supervisionados). |
| Tarefas repetitivas onde o cliente precisa de saídas diferentes para entradas diferentes | – Responder a perguntas de suporte ao cliente – Busca | Sim | É raro encontrar exemplos onde se pode fornecer saídas diferentes para entradas diferentes em escala sem ML. Existem muitas combinações para uma implementação baseada em regras escalar bem. Considere: – LLMs com geração aumentada de recuperação (RAG) – Árvores de decisão para produtos como busca |
| Tarefas não repetitivas com saídas diferentes | Revisão de um hotel/restaurante | Sim | Antes dos LLMs, esse tipo de cenário era difícil de realizar sem modelos treinados para tarefas específicas, como: – Redes neurais recorrentes (RNNs) – Redes de memória de longo curto prazo (LSTMs) para prever a próxima palavra LLMs são uma ótima opção para este tipo de cenário. |

Escolhendo a Ferramenta Certa

Não use uma lightsaber quando uma tesoura simples resolve. Avalie a necessidade do seu cliente usando a matriz acima, considerando os custos de implementação e a precisão da saída, para construir produtos precisos e econômicos em escala. Se precisar de ajuda para aumentar suas vendas no dia das mães, existem algumas dicas para PMEs.

Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.

Via VentureBeat