Models

Escopo: transversal. Aplica-se a qualquer linguagem ou stack do projeto.

Um modelo de IA é um conjunto de pesos e parâmetros resultado de treinamento em grandes volumes de dados. Para uso em produção, os modelos se dividem em duas categorias: cloud (nuvem), acessados via API (Application Programming Interface, Interface de Programação de Aplicações) mediante pagamento por token, e local, executados diretamente na máquina do desenvolvedor.

Modelos em nuvem são acessados via API REST (Representational State Transfer, Transferência de Estado Representacional). O desenvolvedor envia tokens e paga por volume de entrada e saída. Nenhum hardware especializado é necessário no lado do cliente.

Claude é a família de modelos da Anthropic, com foco em segurança, raciocínio e uso agentico.

Família de modelos da OpenAI. Os modelos o são especializados em raciocínio estendido (chain-of-thought, cadeia de raciocínio interno).

Família de modelos do Google DeepMind. Todos com suporte nativo a entrada multimodal.

Família open weights da Meta. Llama 4 adota arquitetura MoE e processamento multimodal nativo.

Por serem open weights, modelos Llama podem ser rodados localmente via Ollama.

Família de modelos da Mistral AI (Artificial Intelligence, Inteligência Artificial), com foco em código e eficiência. Distribuídos sob Apache 2.0.

Modelos locais rodam diretamente na máquina, sem envio de dados para servidores externos. São indicados para prototipagem, ambientes sem acesso à internet e controle total sobre privacidade.

Ollama permite baixar e executar modelos localmente com um único comando. Modelos são identificados por nome:tag (ex: llama3.1:8b-q4_K_M). O download funciona em camadas, similar ao Docker.

# baixar e executar modelo
ollama run llama3.1:8b

# listar modelos disponíveis
ollama list

Modelos populares disponíveis no Ollama: llama4, qwen2.5, mistral, gemma3, phi4, deepseek-r1.

LM Studio é uma interface gráfica para rodar modelos GGUF (GPT-Generated Unified Format, Formato Unificado Gerado por GPT) localmente. Inclui um servidor compatível com a API da OpenAI, permitindo integração direta com ferramentas existentes sem alterar código.

Quantização reduz a precisão dos pesos do modelo de ponto flutuante de 32 bits (FP32) para representações menores como Q8 ou Q4. O modelo ocupa menos memória e a inferência é mais rápida, com perda controlada de qualidade.

O formato GGUF (do llama.cpp) é o padrão para modelos quantizados locais. Cada arquivo .gguf contém os pesos já quantizados e metadados de arquitetura.

A notação K_M indica K-quants com superblocks, que preservam qualidade melhor do que formatos legacy de mesmo nível de bits. Para a maioria dos casos, Q4_K_M é a escolha padrão na comunidade.

Desenvolvido por @thiagocajadev · Fork baseado no repositório pmndrs/docs · Poimandres.