Models

Escopo: transversal. Aplica-se a qualquer linguagem ou stack do projeto.

Um modelo de IA é o conjunto de pesos e parâmetros que sobrou do treinamento em um volume enorme de dados. Na hora de usar um em produção, a primeira decisão separa dois caminhos. O modelo cloud (em nuvem) roda no servidor do provedor, você o acessa por API (Application Programming Interface · Interface de Programação de Aplicações) e paga por token consumido. O modelo local roda na sua máquina, sem custo por chamada e sem enviar dado nenhum para fora.

Você fala com o modelo por uma API REST (Representational State Transfer · Transferência de Estado Representacional), envia os tokens de entrada e paga pelo que entrou e pelo que saiu. O hardware pesado fica todo do lado do provedor, e a sua máquina só precisa saber fazer uma requisição HTTP.

Claude é a família de modelos da Anthropic, com foco em segurança, raciocínio e uso agêntico.

Família de modelos da OpenAI. Os modelos o são especializados em raciocínio estendido via chain-of-thought (cadeia de raciocínio interna).

Família de modelos do Google DeepMind. Todos com suporte nativo a entrada multimodal.

Família open weights da Meta. Llama 4 adota arquitetura MoE e processamento multimodal nativo.

Os pesos do Llama são públicos, então os mesmos modelos da tabela acima rodam na sua máquina via Ollama.

Família de modelos da Mistral AI, com foco em código e eficiência. Distribuídos sob Apache 2.0.

O modelo local processa tudo na sua máquina, e nenhum byte do prompt sai dela. Isso serve para prototipar sem gastar, para trabalhar sem internet e para os casos em que o dado não pode chegar a um servidor de terceiro.

O Ollama baixa e executa um modelo com um comando só. Cada modelo é identificado por nome:tag (por exemplo llama3.1:8b-q4_K_M), e o download vem em camadas, como uma imagem Docker.

# baixar e executar modelo
ollama run llama3.1:8b

# listar modelos disponíveis
ollama list

Modelos populares disponíveis no Ollama: llama4, qwen2.5, mistral, gemma3, phi4, deepseek-r1.

O LM Studio é a interface gráfica para rodar modelos GGUF sem linha de comando. Ele sobe um servidor local compatível com a API da OpenAI, então uma ferramenta que já fala com a OpenAI passa a falar com o modelo local trocando a URL.

Quantizar é guardar cada peso do modelo com menos bits, saindo do ponto flutuante de 32 bits (FP32) para representações como Q8 ou Q4. O arquivo encolhe, o modelo cabe em menos memória e a inferência acelera. Em troca, a resposta perde um pouco de qualidade, e o quanto ela perde depende do nível escolhido.

O formato GGUF (do llama.cpp) é o padrão dos modelos quantizados locais. Cada arquivo .gguf traz os pesos já quantizados junto com os metadados da arquitetura, o que permite carregar o modelo sem nenhum outro arquivo ao lado.

A notação K_M indica os K-quants com superblocks, que preservam mais qualidade que os formatos antigos com o mesmo número de bits. Para a maioria dos casos, Q4_K_M é a escolha padrão na comunidade: o modelo ocupa cerca de um quarto do tamanho original e mantém perto de 95% da qualidade.

A tabela explica por que Q4_K_M virou padrão: um modelo de 7 bilhões de parâmetros passa a caber em 5 GB de RAM, o que roda em um laptop comum.

DoDocs v3.7.0 · Desenvolvido por @thiagocajadev · Baseado no trabalho de pmndrs/docs · Poimandres.