Foundation Model

Um modelo de base é um modelo grande de aprendizado de máquina, treinado em grande escala com dados abrangentes e adaptável a várias tarefas posteriores. Pesquisadores de Stanford introduziram o termo no relatório de 2021 Sobre as oportunidades e os riscos dos modelos de base, escolhendo "base" para descrever modelos centrais a muitas aplicações, mas incompletos por si só. Modelos anteriores geralmente eram treinados para uma tarefa com um conjunto de dados rotulado. Um modelo de base aprende padrões gerais uma única vez, em uma execução de pré-treino dispendiosa, e depois serve como ponto de partida para chatbots, pesquisa, tradução, classificação de imagens, segmentação e muitas outras aplicações criadas por equipes que nunca treinam esse tipo de modelo por conta própria. Modelos de linguagem de grande porte (LLMs) como GPT, Claude, Gemini e Llama são modelos de base, assim como modelos de visão como CLIP, DINOv3 e o Segment Anything Model (SAM) da Meta.

Como funcionam os modelos de base#

O pré-treino usa objetivos que não exigem rótulos humanos, então o conjunto de treino pode chegar a trilhões de palavras de texto ou bilhões de imagens. Os modelos de linguagem aprendem prevendo o próximo token; os codificadores de visão, com métodos de aprendizado autossupervisionado, como modelagem de imagens mascaradas e autodestilação; e os modelos de visão e linguagem, com aprendizado contrastivo em pares de imagem e legenda. Quase todos os modelos de base usam a arquitetura Transformer, e seu desempenho melhora de forma previsível com mais parâmetros, dados e capacidade computacional, conforme descrito pelas leis de escala.

Após o pré-treino, o mesmo modelo é adaptado a cada tarefa de uma de várias maneiras. A elaboração de prompts o orienta com instruções ou exemplos sem realizar treino, o ajuste fino ou o ajuste fino eficiente em parâmetros (PEFT) atualiza seus pesos com dados da tarefa, e uma pequena camada treinada sobre seus embeddings congelados o transforma em um classificador ou recuperador:

O relatório destacou duas consequências desse padrão. Emergência significa que capacidades surgem em escala sem terem sido treinadas diretamente, como quando o GPT-3 aprendeu a executar novas tarefas a partir de alguns exemplos em seu prompt. Homogeneização significa que muitas aplicações agora se baseiam em poucos modelos, então os erros e vieses de um modelo passam para tudo o que é adaptado a partir dele. Os reguladores agora abordam esses modelos diretamente: a Lei de IA da UE os denomina modelos de IA de uso geral, e as obrigações de seus fornecedores estão em vigor desde 2 de agosto de 2025.

Modelos de base em visão computacional#

Os modelos de base de visão são treinados com dados muito maiores e mais abrangentes do que os detectores específicos para cada tarefa. O CLIP aprendeu com 400 milhões de pares de imagem e legenda e classifica imagens em categorias nomeadas apenas por texto, base do aprendizado zero-shot em visão. O DINOv3 da Meta produz recursos congelados para estimativa de profundidade, segmentação e mapeamento por satélite, a partir de um modelo com 7 bilhões de parâmetros treinado em 1.7 bilhão de imagens sem rótulos. O SAM, cujos autores o descreveram como um modelo de base para segmentação de imagens, foi treinado no conjunto de dados SA-1B, com 11 milhões de imagens e 1.1 bilhão de máscaras, e segmenta qualquer objeto indicado por um ponto ou uma caixa; o SAM 3 acrescenta prompts de texto que encontram todas as instâncias de um conceito nomeado. Os modelos de visão, linguagem e ação estendem essa abordagem à robótica, mapeando imagens de câmeras e instruções para ações do robô.

A Ultralytics Platform usa esses modelos para acelerar a anotação de dados: na anotação inteligente, um clique solicita ao SAM 2.1, SAM 3 ou SAM 3.1 a máscara de um objeto; em conjuntos de dados de detecção, modelos guiados por classe, como SAM 3.1 Text e Grounding DINO, encontram todos os objetos de uma classe a partir de seu nome. O VLM Leaderboard compara a precisão com que esses modelos guiados por classe e os VLMs generativos fazem a anotação automática de conjuntos de dados de detecção do mundo real. O SAM 2.1 da Meta também funciona no pacote Python da Ultralytics, onde um prompt de caixa substitui qualquer treinamento específico para a tarefa:

from ultralytics import SAM

# SAM 2.1 da Meta, um modelo de base de segmentação, usado sem alterações e sem treino
model = SAM("sam2.1_b.pt")

# Um prompt de caixa ao redor do ônibus define a tarefa; o modelo retorna a máscara desse objeto
results = model("https://ultralytics.com/images/bus.jpg", bboxes=[22, 231, 805, 757])
result = results[0]
result.save(filename="sam_bus_mask.jpg")

Modelos de base e termos relacionados#

• Modelo de linguagem de grande porte (LLM): Um modelo de base para texto. Os modelos de base também abrangem imagens, vídeo, áudio, dados tabulares e controle de robôs.
• IA generativa: Sistemas que criam texto, imagens, áudio ou vídeo. Muitos são baseados em modelos de base, e alguns modelos de base, como DINOv3 e SAM, produzem recursos e máscaras em vez de conteúdo novo.
• Aprendizado por transferência: Técnica de reutilizar um modelo pré-treinado em uma nova tarefa. Um modelo de base é um modelo pré-treinado criado para ser reutilizado dessa forma em muitas tarefas, enquanto um modelo treinado para uma tarefa com um conjunto fixo de rótulos, como um detector de objetos COCO com 80 classes, é transferido principalmente para tarefas estreitamente relacionadas.
• Modelos de IA de fronteira: os modelos de base mais capazes em determinado momento. De acordo com a Lei de IA da UE, presume-se que um modelo de IA de uso geral treinado com mais de 10²⁵ operações de ponto flutuante apresenta risco sistêmico e está sujeito a obrigações adicionais.