Was bedeutet Halluzination bei KI?
Eine KI-Halluzination ist eine erzeugte Aussage oder Darstellung, die trotz plausibler Form nicht durch die maßgeblichen Informationen gedeckt ist. Dazu können erfundene Quellen, Ereignisse oder vermeintliche Zitate gehören. Der Begriff bedeutet keine menschliche Wahrnehmungserfahrung des Systems.
Was heißt das für Public Affairs?
Im politischen Briefing ist jede konkrete Tatsachenbehauptung mit einer geeigneten Originalquelle zu verbinden. Fehlende Belege sollten sichtbar bleiben. Ein Modell kann beim Prüfen unterstützen, darf aber nicht zum einzigen Beleg seiner eigenen Aussage werden.
Worauf kommt es an?
Ein vorsichtiger Ton verhindert keine Halluzination. Auch eine Ausgabe mit vielen Links kann falsch sein, wenn die Quellen den behaupteten Inhalt nicht tragen.
Drei Fragen für die Praxis
- Ist die Quelle real?
- Steht die Aussage tatsächlich darin?
- Was wird bei fehlendem Beleg weggelassen?
Originalquellen & Vertiefung
Die Quellen erläutern den Begriff oder seinen fachlichen Rahmen. Die Anwendungshinweise und das fiktive Beispiel sind eigenständige Ausarbeitungen dieses Glossars.
- NIST (2024): Generative AI Profile, NIST AI 600-1
- NIST CSRC: Glossareintrag Retrieval-Augmented Generation
Fachbegriffe werden verständlich eingeordnet; berufliche Arbeitsbegriffe sind keine gesetzlichen Definitionen. Bei Rechtsfragen sind die einschlägige Fassung und der konkrete Einsatz maßgeblich.