Was bedeutet Prompt Injection?
Prompt Injection bezeichnet Angriffe, bei denen Eingaben oder verarbeitete Inhalte ein Sprachmodellsystem zu unerwünschtem Verhalten bringen sollen. Solche Anweisungen können direkt eingegeben oder indirekt in abgerufenen Dokumenten enthalten sein. Das Risiko betrifft besonders Systeme mit Werkzeugzugriff.
Was heißt das für Public Affairs?
Für ein Monitoring müssen externe Inhalte als Daten behandelt werden, nicht als neue Arbeitsaufträge. Beschränkte Berechtigungen, kontrollierte Werkzeugaufrufe und Freigaben verringern mögliche Folgen. Auch ein quellenorientierter RAG-Ablauf benötigt diese Schutzmaßnahmen.
Worauf kommt es an?
Eine einzelne Abwehrformel im Systemprompt garantiert keinen Schutz. Die Sicherheitsgrenze darf nicht allein darauf beruhen, dass das Modell zwischen guten und schlechten Anweisungen richtig unterscheidet.
Drei Fragen für die Praxis
- Woher stammt die Anweisung?
- Welche Rechte hat das System?
- Kann fremder Inhalt externe Aktionen auslösen?
Originalquellen & Vertiefung
Die Quellen erläutern den Begriff oder seinen fachlichen Rahmen. Die Anwendungshinweise und das fiktive Beispiel sind eigenständige Ausarbeitungen dieses Glossars.
Fachbegriffe werden verständlich eingeordnet; berufliche Arbeitsbegriffe sind keine gesetzlichen Definitionen. Bei Rechtsfragen sind die einschlägige Fassung und der konkrete Einsatz maßgeblich.