Span-Transduktoren in der NLP: Definition, Formalismen und Anwendungen

Ein Span-Transduktor mappt einen Eingabetext-Span (kontiguöse Token-Sequenz) auf einen Ausgabe-Span, was strukturierte Text-zu-Text-Transformationen ermöglicht.

Formalismen

• Endliche Automaten-Transduktoren (FST): Effizient, linearer Zeitaufwand; gut für Tokenisierung, Morphologie, einfache Umschreiberegeln.
• Reguläre Ausdrücke mit Capture-Gruppen: Leichte, musterbasierte Spans.
• Baumtransduktoren / synchrone Grammatiken: Behandeln hierarchische Struktur (Syntaxbäume).
• Neuronale Seq2seq mit Span-Kopie: Pointer-Generator, spanbasierte Extraktion (z. B. extraktive Zusammenfassung).

NLP-Anwendungen

• Zusammenfassung: Saliente Spans auswählen → verketten.
• Übersetzung: Phrase-based MT = Span-Transduktor (Quelle-Phrase → Ziel-Phrase).
• Paraphrasierung: Span-Level-Synonymersatz, syntaktische Umordnung.
• Informationsextraktion: Entität/Relation-Spans → normalisierte Ausgabe.
• Datenaugmentation: Span-Ersatz/Rückübersetzung.

Vorteil

Explizite Span-Ausrichtung bewahrt Provenienz, ermöglicht Interpretierbarkeit und schränkt den Suchraum ein im Vergleich zu freiformiger Generierung.