Text Summarization

Metin özetleme, bir belgenin en önemli bilgilerini koruyarak onu daha kısa bir metne indirgeyen doğal dil işleme (NLP) görevidir. İki ana yaklaşım vardır: kaynak metindeki en önemli cümleleri seçen çıkarımsal özetleme ve bir kişinin yazacağı şekilde yeni cümleler kuran soyutlamalı özetleme. Özet tek bir belgeyi veya birçok belgeyi kapsayabilir; ayrıca genel olabilir ya da "Sözleşmede fesih hakkında ne yazıyordu?" gibi bir soruya odaklanabilir. E-posta istemcileri, toplantı araçları, haber uygulamaları, arama motorları ve büyük dil modeli (LLM) asistanları özet oluşturur.

Çıkarımsal Özetleme#

IBM'den Hans Peter Luhn, 1958'de ilk otomatik özetleyicilerden birini geliştirdi: Her cümleyi içerdiği sık kullanılan ve anlamlı sözcüklere göre puanlıyor, ardından en yüksek puanlı cümleleri özet olarak sunuyordu. H. P. Edmundson, 1969'da ipucu sözcükleri, başlık sözcükleri ve cümlenin konumunu ekledi; grafik yöntemleri ise 2004'te ortaya çıktı. TextRank ve LexRank, düğümleri cümlelerden ve kenarları benzerliklerden oluşan bir grafik kurar; ardından en merkezi, yani belgenin geri kalanına en çok benzeyen cümleleri seçer. Cümle gömüleri, merkezilik yaklaşımını birkaç satıra indirir:

from sentence_transformers import SentenceTransformer

sentences = [
    "The James Webb Space Telescope launched on 25 December 2021 on an Ariane 5 rocket from French Guiana.",
    "Webb observes the universe in infrared light, which passes through the dust that hides young stars.",
    "Its 6.5-meter primary mirror is built from 18 gold-coated hexagonal segments.",
    "A five-layer sunshield the size of a tennis court keeps the mirror and instruments cold.",
    "The telescope orbits the Sun about 1.5 million kilometers from Earth, near the second Lagrange point.",
    "NASA published the first full-color science images from Webb in July 2022.",
]
model = SentenceTransformer("sentence-transformers/all-MiniLM-L6-v2")

# Her cümleyi tüm cümlelere olan ortalama benzerliğine göre puanla (merkeziliği)
embeddings = model.encode(sentences)
centrality = model.similarity(embeddings, embeddings).mean(dim=1)

# En merkezi iki cümleyi özgün sıralarıyla koru
top = sorted(centrality.argsort(descending=True)[:2].tolist())
print(" ".join(sentences[i] for i in top))

Özet, fırlatma cümlesini ve yörünge cümlesini korur. Çıkarımsal bir özetteki her sözcük kaynaktan gelir; bu nedenle özet, belgenin söylemediği hiçbir şeyi belirtemez. Ayrıca seçilen cümlelerde bulunan her şeyi, okuyucunun ihtiyaç duymayabileceği ayrıntılar ve ayna cümlesinin başındaki, dışarıda bırakılan bir cümleye gönderme yapan "Onun" zamiri dâhil, korur.

Soyutlamalı Özetleme#

Soyutlamalı modeller diziden diziye modellerdir: kodlayıcı belgeyi okur, kod çözücü ise özeti her seferinde bir belirteç yazarak oluşturur. Alexander Rush ve çalışma arkadaşları, 2015'te haber başlıkları yazması için bir dikkat mekanizması kullanan bir model eğitti; Abigail See ve çalışma arkadaşlarının işaretçi-üretici ağı (2017) ise kod çözücünün adlar ve sayılar gibi sözcükleri doğrudan kaynaktan kopyalamasına izin verdi ve kendini yinelemesini cezalandırdı. Önceden eğitilmiş dönüştürücü modeller daha sonra kaliteyi büyük ölçüde artırdı: Facebook'un BART modeli (2019), bozulmuş metni yeniden oluşturarak öğrendi; Google'ın PEGASUS modeli (2020) ise bir belgeden çıkarılan tam cümleleri yeniden üreterek öğrendi. Bu, özetlemenin kendisine yakın bir öz denetimli ön eğitim göreviydi.

LLM'ler, bir talimattan hareketle özet çıkarabilir ve uzunluk, hedef kitle ve biçim isteklerini izleyebilir. Bir belge bağlam penceresinden uzunsa parçalara bölünür, her parça özetlenir ve ara özetler ikinci bir geçişte birleştirilir; bu örüntü harita-indirgeme olarak adlandırılır. Özetleme metnin ötesine de uzanır: video anlama modelleri bir klipteki olayları açıklar; görüntü altyazı oluşturma ise bir resmi tek cümleye indirger. Ultralytics Platform Agents içindeki bir LLM bloğu, görüntüyü ve üst aşamadaki YOLO26 algılamalarını kısa bir yazılı özete dönüştürebilir; bağlı bir Slack bloğu da {output} yer tutucusu aracılığıyla bu özeti bir kanala gönderir.

Veri Kümeleri ve Değerlendirme#

Çoğu model, makale ve özet çiftlerinden oluşan eğitim verileri üzerinde öğrenir: CNN/Daily Mail haberleri madde işaretli özetleriyle eşleştirirken, XSum (2018) BBC makalelerini tam cümleleri nadiren yeniden kullanan tek cümlelik özetlerle eşleştirir ve böylece soyutlamayı teşvik eder. Chin-Yew Lin'in 2004'te geliştirdiği ROUGE, bir özeti insan tarafından yazılmış referans özetlerle ortak sözcüklerine ve sözcük dizilerine göre puanlar: ROUGE-1 tek sözcükleri, ROUGE-2 sözcük çiftlerini, ROUGE-L ise en uzun ortak alt diziyi sayar. Örtüşme puanları olgusal hataları yakalayamaz. Joshua Maynez ve çalışma arkadaşları 2020'de, insan değerlendiricilerin XSum üzerinde inceledikleri her soyutlamalı modelin özetlerinde önemli miktarda halüsinasyon içeriği saptadığını buldu. Kaynağın özeti gerektirip gerektirmediğini denetleyen metinsel çıkarım ölçümlerinin, sadakati ROUGE ve diğer standart metriklerden daha iyi izlediğini de gösterdiler.

Özetleme ve İlgili Terimler#

• Metin oluşturma: Bir istemden herhangi bir metin üretir. Özetleme, kaynak belgenin içeriğiyle sınırlandırılmış metin oluşturmadır.
• Makine çevirisi: Bir metnin tüm içeriğini başka bir dile aktarmak için aynı kodlayıcı-kod çözücü mimarisini kullanır.
• Duygu analizi: Bir metnin ifade ettiği görüşü sınıflandırır. Görüş özetleme ise çok sayıda değerlendirmeyi temel övgü ve şikâyet noktalarına indirgeyerek bu iki görevi birleştirir.
• Getirim destekli üretim (RAG): Bir soruyla ilgili bölümleri getirir ve bunlardan bir yanıt oluşturur; bu nedenle çok sayıda belge üzerinde sorgu odaklı bir özetleme biçimidir.