Text Summarization

A sumarização de texto é uma tarefa de processamento de linguagem natural (NLP) que condensa um documento em um texto mais curto, preservando as informações mais importantes. As duas abordagens principais são a sumarização extrativa, que seleciona as frases mais importantes da fonte, e a sumarização abstrativa, que escreve novas frases como uma pessoa faria. Um resumo pode abranger um documento ou vários e ser genérico ou focado em uma pergunta, como "O que o contrato dizia sobre rescisão?" Clientes de e-mail, ferramentas para reuniões, aplicativos de notícias, mecanismos de busca e assistentes baseados em grandes modelos de linguagem (LLM) geram resumos.

Sumarização extrativa#

Hans Peter Luhn, da IBM, criou um dos primeiros sumarizadores automáticos em 1958: ele atribuía uma pontuação a cada frase com base nas palavras frequentes e significativas que ela continha e retornava as frases com as maiores pontuações como resumo. H. P. Edmundson acrescentou palavras indicadoras, palavras do título e a posição da frase em 1969, e os métodos de grafos surgiram em 2004. TextRank e LexRank constroem um grafo cujos nós são frases e cujas arestas representam similaridades; em seguida, selecionam as frases mais centrais, ou seja, as mais semelhantes ao restante do documento. Os embeddings de frases tornam essa versão baseada em centralidade algo que pode ser implementado em poucas linhas:

from sentence_transformers import SentenceTransformer

sentences = [
    "The James Webb Space Telescope launched on 25 December 2021 on an Ariane 5 rocket from French Guiana.",
    "Webb observes the universe in infrared light, which passes through the dust that hides young stars.",
    "Its 6.5-meter primary mirror is built from 18 gold-coated hexagonal segments.",
    "A five-layer sunshield the size of a tennis court keeps the mirror and instruments cold.",
    "The telescope orbits the Sun about 1.5 million kilometers from Earth, near the second Lagrange point.",
    "NASA published the first full-color science images from Webb in July 2022.",
]
model = SentenceTransformer("sentence-transformers/all-MiniLM-L6-v2")

# Atribui uma pontuação a cada frase com base na similaridade média com todas as frases (sua centralidade)
embeddings = model.encode(sentences)
centrality = model.similarity(embeddings, embeddings).mean(dim=1)

# Mantém as duas frases mais centrais na ordem original
top = sorted(centrality.argsort(descending=True)[:2].tolist())
print(" ".join(sentences[i] for i in top))

O resumo mantém a frase sobre o lançamento e a frase sobre a órbita. Todas as palavras de um resumo extrativo vêm da fonte, portanto o resumo não pode afirmar nada que o documento não afirme; além disso, ele preserva tudo o que as frases selecionadas contêm, inclusive detalhes que talvez não interessem ao leitor e pronomes como o "Sua" que inicia a frase sobre o espelho e que remeteria a uma frase omitida.

Sumarização abstrativa#

Os modelos abstrativos são modelos sequência a sequência: um codificador lê o documento e um decodificador escreve o resumo, um token por vez. Alexander Rush e colegas treinaram um modelo com um mecanismo de atenção para escrever manchetes de notícias em 2015, e a rede pointer-generator de Abigail See e colegas (2017) permitia que o decodificador copiasse palavras como nomes e números diretamente da fonte e o penalizava por se repetir. Os Transformers pré-treinados elevaram consideravelmente a qualidade: o BART do Facebook (2019) aprendeu reconstruindo textos corrompidos, e o PEGASUS do Google (2020) aprendeu regenerando frases inteiras removidas de um documento, uma tarefa de pré-treinamento autossupervisionado próxima da própria sumarização.

Os LLMs resumem a partir de uma instrução e podem seguir solicitações sobre extensão, público e formato. Um documento maior que a janela de contexto é dividido em trechos, cada trecho é resumido e os resumos parciais são combinados em uma segunda passagem — um padrão chamado map-reduce. O resumo também vai além do texto: modelos de compreensão de vídeo descrevem os eventos de um clipe, e a legenda de imagens condensa uma imagem em uma frase. Em Ultralytics Platform Agents, um bloco LLM pode condensar uma imagem e as detecções anteriores do YOLO26 em um breve resumo escrito; um bloco Slack conectado publica esse resumo em um canal por meio do espaço reservado {output}.

Conjuntos de dados e avaliação#

A maioria dos modelos aprende com dados de treinamento compostos por pares de artigos e resumos: o CNN/Daily Mail associa notícias a destaques em tópicos, e o XSum (2018) associa artigos da BBC a resumos de uma única frase que raramente reutilizam frases inteiras, incentivando a abstração. O ROUGE, introduzido por Chin-Yew Lin em 2004, pontua um resumo com base na sobreposição de palavras e sequências de palavras com resumos de referência escritos por pessoas; ROUGE-1 conta palavras individuais, ROUGE-2 conta pares de palavras e ROUGE-L conta a subsequência comum mais longa. As pontuações de sobreposição não detectam erros factuais, e Joshua Maynez e colegas descobriram em 2020 que avaliadores humanos identificaram quantidades consideráveis de conteúdo alucinado nos resumos de todos os modelos abstrativos que estudaram no XSum. Eles também descobriram que medidas de implicação textual, que verificam se a fonte implica o resumo, avaliam melhor a fidelidade do que ROUGE e outras métricas padrão.

Sumarização vs. termos relacionados#

• Geração de texto: produz qualquer texto a partir de um prompt. A sumarização é a geração de texto limitada ao conteúdo de um documento-fonte.
• Tradução automática: usa a mesma arquitetura codificador-decodificador para transferir todo o conteúdo de um texto para outro idioma.
• Análise de sentimentos: classifica a opinião expressa em um texto, e a sumarização de opiniões combina as duas tarefas ao condensar muitas avaliações em seus principais elogios e críticas.
• Geração aumentada por recuperação (RAG): recupera trechos relevantes para uma pergunta e gera uma resposta com base neles, o que a torna uma forma de sumarização de vários documentos focada em uma consulta.