Was bedeutet Transformer?
Ein Transformer ist eine Modellarchitektur, die Beziehungen zwischen Elementen einer Eingabe über Aufmerksamkeitsmechanismen verarbeitet. Die Architektur wurde 2017 in Attention Is All You Need vorgestellt. Sie ist eine wichtige technische Grundlage vieler Sprachmodelle, aber nicht mit KI insgesamt gleichzusetzen.
Was heißt das für Public Affairs?
Für Anwender ist relevant, dass ein Modell Texte im Zusammenhang verarbeiten kann, ohne dass daraus eine menschliche Interpretation folgt. Die Architektur allein sagt wenig über Aktualität, Faktenqualität oder Eignung für eine konkrete politische Aufgabe aus.
Worauf kommt es an?
Attention-Gewichte sind nicht ohne Weiteres eine belastbare Erklärung für das Ergebnis. Auch moderne Architektur verhindert keine Fehler in Daten, Kontext oder Anwendung.
Drei Fragen für die Praxis
- Welche Aufgabe wurde getestet?
- Welche Fehler bleiben bestehen?
- Wird Technikname mit Qualitätsnachweis verwechselt?
Originalquellen & Vertiefung
Die Quellen erläutern den Begriff oder seinen fachlichen Rahmen. Die Anwendungshinweise und das fiktive Beispiel sind eigenständige Ausarbeitungen dieses Glossars.
- Vaswani et al. (2017): Attention Is All You Need
- Touvron et al. (2023): LLaMA: Open and Efficient Foundation Language Models
Fachbegriffe werden verständlich eingeordnet; berufliche Arbeitsbegriffe sind keine gesetzlichen Definitionen. Bei Rechtsfragen sind die einschlägige Fassung und der konkrete Einsatz maßgeblich.