LLMs gratuitos pra testar antes de pagar: o panorama real

Antes de assinar qualquer plano pago de LLM, faz sentido rodar um teste real: latência, qualidade das respostas no seu caso de uso, limites de contexto, custo por token projetado. O problema é que "testar de graça" significa coisas diferentes em cada provedor — e a letra miúda do free tier costuma ficar escondida fora da página inicial da documentação.

Este post organiza o que dá pra confirmar hoje sobre Cohere e NVIDIA NIM como opções de teste gratuito, e é direto sobre o que a pesquisa não cobriu. Melhor isso do que inventar número de créditos ou limite de requisição que ninguém verificou.

Premissas e limitações desta análise

Antes de entrar nos detalhes, três avisos importantes:

• As informações sobre Cohere vêm da página inicial da documentação (docs.cohere.com), que funciona como índice de navegação. Ela não traz dados sobre free tier, preços ou limites de uso — só estrutura de conteúdo (guias, API Reference, release notes, LLMU, cookbooks).
• As informações sobre NVIDIA NIM vêm da página inicial do portal (build.nvidia.com), que afirma textualmente oferecer "Free inference with leading models", mas sem detalhar quantidade de créditos, rate limits ou validade da chave gratuita.
• O resumo de pesquisa usado para este artigo não incluiu nenhuma fonte sobre outras plataformas comumente citadas nesse espaço, como Groq, Together AI, Hugging Face Inference ou OpenRouter. Qualquer comparação com essas opções exigiria pesquisa adicional — não vou preencher essa lacuna com suposição.

Nenhum comando ou chamada de API deste post foi executado neste ambiente. Trate os exemplos de URL como referência de estrutura, não como teste validado.

Cohere: o que a documentação mostra (e o que não mostra)

A documentação da Cohere é organizada em torno de duas versões de API:

• v2 (padrão atual): https://docs.cohere.com/v2/llms.txt
• v1 (legada): https://docs.cohere.com/v1/llms.txt

Um detalhe útil para quem automatiza pesquisa com agentes: qualquer página da documentação aceita o sufixo /llms.txt para gerar um índice, e .md para pegar a versão em markdown da mesma página. Isso facilita integrar a doc num pipeline de RAG ou num agente que precise consultar referência de API em tempo real.

Os três endpoints citados nominalmente na navegação são:

• /chat
• /embed
• /rerank

Fora isso, a estrutura inclui LLM University (LLMU) — trilha de cursos para quem está começando em NLP/LLMs — e Cookbooks, uma coleção de exemplos práticos para começar a usar a API.

O que falta aqui, e que você precisa verificar direto na página de pricing da Cohere antes de decidir, é: quais modelos (Command R+, Embed v3 etc.) estão disponíveis no tier gratuito, qual o limite de chamadas por minuto nesse tier, e se a trial key expira por tempo ou por volume de uso. Nada disso está na documentação-índice analisada aqui.

NVIDIA NIM: inferência gratuita, mas com escopo não detalhado

O portal build.nvidia.com se posiciona como ponto de entrada para testar modelos via API sem custo. A seção "Use Inference Endpoints" traz a frase "Free inference with leading models" e lista, entre outros, estes modelos nominalmente:

• nvidia/nemotron-3.5-super-vl-120b-a12b
• nvidia/nemotron-3.5-lightning-30b-a3b
• deepseek-ai/deepseek-v4.1-flash
• nvidia/nemotron-3-ultra-550b-a55b

A página indica "More Models" além desses, sem detalhar o catálogo completo nessa visão.

Dois pontos que diferenciam o NIM de um simples playground de chat:

1. NemoClaw — descrito como "safe agent execution. Control access. Protect data." É um componente voltado a execução segura de agentes, não só chamada de modelo isolada.
2. Agentic Skills — capacidades pré-construídas que um agente pode invocar, organizadas em categorias com contagem própria: IA e Machine Learning (220), Computação Acelerada (31), Physical AI (68), Developer Tools (36).

Há também Blueprints (workflows e exemplos de código para montar aplicações do zero) e Playbooks ligados a DGX Station, incluindo configuração do próprio NemoClaw.

Isso posiciona o NIM menos como "API de chat gratuita" e mais como plataforma de prototipagem de agentes com modelos NVIDIA e parceiros (caso do DeepSeek listado). Para quem já usa GPU NVIDIA em produção ou pensa em Physical AI/edge, o ecossistema de skills e blueprints pesa a favor. Para quem só quer comparar qualidade de resposta de um LLM genérico, é "mais plataforma" do que o necessário.

O que a página não informa: limite de requisições por minuto no tier gratuito, se há cota de créditos, e o que acontece quando ela esgota. Antes de desenhar um PoC em torno do NIM, confirme isso na conta de desenvolvedor — não assuma gratuidade ilimitada.

Sobre "outras opções": o que falta nesta pesquisa

O tema original menciona "Cohere, NVIDIA NIM e outras opções", mas o material de pesquisa disponível não trouxe nenhum dado sobre alternativas como Groq (inferência rápida em LPU), Together AI, Hugging Face Inference Endpoints ou OpenRouter — todas plataformas com algum tipo de tier gratuito ou créditos iniciais conhecidos no mercado.

Não vou descrever limites, modelos ou condições dessas plataformas aqui porque isso exigiria fontes próprias, não disponíveis neste resumo. Se você está decidindo entre múltiplas opções, trate esta seção como lacuna: vale a pena pesquisar cada uma na documentação oficial antes de comparar.

Critérios práticos para avaliar qualquer free tier de LLM

Independente do provedor, esses são os pontos que importam de verdade antes de assinar algo pago:

• Rate limit real do tier gratuito — requisições por minuto/dia, não só "créditos".
• Modelos disponíveis no free tier — muitas vezes é uma versão menor ou mais antiga do modelo principal.
• Retenção e uso de dados — se os prompts/respostas podem ser usados para treinamento, relevante em contexto de dados sensíveis.
• Latência sob carga — teste com volume realista, não com uma chamada isolada.
• Facilidade de trocar de provedor — quanto do seu código fica amarrado a formato de prompt ou SDK proprietário.
• Caminho de upgrade — se migrar do tier gratuito para pago muda endpoint, SDK ou comportamento do modelo.

Nenhuma dessas respostas está nas páginas-índice analisadas aqui. Isso precisa vir da documentação de pricing e dos termos de uso específicos de cada provedor.

Recomendação condicionada

Se seu ambiente já roda em infraestrutura NVIDIA ou você está prototipando agentes com execução de ferramentas, vale testar o NIM primeiro — o conjunto de skills e blueprints acelera a montagem de um PoC além de só chamar um modelo.

Se seu caso de uso é mais específico (embedding, rerank para RAG, chat convencional) e você já usa ou considera usar a stack da Cohere em produção, a documentação v2 e os cookbooks dão um ponto de partida direto — mas confirme o tier gratuito na página de pricing antes de desenhar o PoC em torno dele.

Se você ainda não decidiu entre múltiplos provedores, não pare na Cohere e no NIM: pesquise Groq, Together AI, Hugging Face e OpenRouter com a mesma régua de critérios acima antes de comparar.

Próximo passo prático: antes de rodar qualquer PoC, abra a página de pricing (não a home da documentação) do provedor escolhido e confirme rate limit, modelo disponível no tier gratuito e política de dados. Isso evita descobrir no meio do teste que o limite gratuito não suporta nem uma carga de validação básica.