Qual LLM usar no meu projeto?

Semana passada, um cliente me perguntou: "Lais, qual é a melhor LLM?" Eu respondi com outra pergunta: "Melhor pra quê?"

A verdade é que não existe a LLM certa. Existe a melhor para o que você precisa executar naquele momento.

E é exatamente isso que eu quero destrinchar aqui com você.

Cada LLM tem sua vocação

Eu trabalho com várias LLMs no meu dia a dia. GPT-4, Claude, Gemini, modelos open source. Cada uma brilha em situações diferentes.

A pergunta não é "qual a melhor?", mas sim "qual resolve meu problema com melhor custo-benefício agora?"

Vou te dar exemplos práticos de quando eu escolho cada uma.

GPT-4: a versatilidade que custa caro

Uso o GPT-4 quando preciso de raciocínio complexo ou quando o projeto exige follow-up longo em conversas. A capacidade de contexto dele ainda é referência.

Mas vem com um preço — literalmente. Se você vai processar volume alto de texto, a conta sobe rápido.

Na minha experiência, GPT-4 é excelente para:

• Prototipagem rápida de agentes conversacionais
• Análise de documentos longos e complexos
• Projetos onde qualidade importa mais que custo

Quando o budget aperta, eu migro.

Claude: meu favorito pra código e contexto gigante

Claude (Anthropic) virou minha escolha padrão quando preciso trabalhar com código ou documentação técnica extensa.

A janela de contexto dele é absurda — consigo jogar repositórios inteiros e fazer perguntas cirúrgicas. E ele é muito bom em seguir instruções estruturadas.

Uso Claude principalmente para:

• Revisão e refatoração de código
• Geração de documentação técnica
• Projetos que exigem contexto longo sem perder o fio da meada

O tom das respostas dele também é menos "marketeiro" que o GPT. Pra conteúdo técnico, isso faz diferença.

Gemini e modelos open source: quando escala importa

Se você vai rodar alto volume ou precisa de controle total sobre a infraestrutura, modelos open source (ou o Gemini, dependendo do caso) entram no jogo.

Já rodei projetos com Llama e Mistral em servidores próprios. É mais trabalhoso, mas o custo por requisição cai drasticamente quando você escala.

Gemini tem me surpreendido em tarefas multimodais — imagem + texto, principalmente. Google investiu pesado nisso.

Quando eu considero open source:

• Volume diário acima de 100 mil tokens processados
• Necessidade de compliance rigoroso (dados sensíveis que não podem sair do servidor)
• Projetos de automação interna onde latência não é crítica

Resumo: se você tem infra e tempo pra ajustar, open source compensa.

Como eu decido na prática

Meu processo é simples. Quando chega um projeto novo, eu faço três perguntas:

1. Qual o volume de processamento esperado? (define se GPT/Claude ou se vale open source)
2. Que tipo de tarefa? (código = Claude; conversa complexa = GPT; multimodal = Gemini)
3. Qual o budget? (isso elimina opções caras se não houver ROI claro)

Às vezes eu testo duas LLMs em paralelo nas primeiras semanas. A que performar melhor em acurácia + custo fica.

Testar é mais barato que escolher errado e ter que refazer tudo depois.

O erro que eu vejo todo mundo cometer

Escolher a LLM baseado em hype ou em "qual todo mundo tá usando".

Eu mesma já errei nisso. Coloquei GPT-4 num projeto de classificação de texto simples porque "era o melhor". Resultado: conta de API explodiram e a acurácia não era melhor que um Llama fine-tunado.

Aprendi: comece pelo problema, não pela ferramenta.

Minha recomendação pra você

Se você tá começando agora, vai de Claude ou GPT-4 para prototipar. São as mais fáceis de integrar e documentadas.

Quando o projeto provar que funciona e começar a escalar, aí sim você revisa. Talvez migre pra Gemini. Talvez rode um modelo próprio.

Mas não otimize antes de validar. Eu já perdi semanas configurando infraestrutura pra um produto que ninguém quis usar.

---

E você, qual LLM tem usado nos seus projetos? Comenta aqui embaixo, quero saber se você concorda com minha visão ou se tem outra experiência pra compartilhar.