Was bedeutet Red Teaming bei KI?
Red Teaming bezeichnet die gezielte Suche nach Schwächen eines Systems durch herausfordernde oder gegnerisch gedachte Tests. Bei KI können sachliche Fehler, unerlaubte Datenfreigaben und manipulierte Eingaben untersucht werden. Umfang und Tiefe richten sich nach dem Anwendungskontext.
Was heißt das für Public Affairs?
Ein Team sollte zunächst festlegen, welche Schäden vermieden werden sollen und welche Tests autorisiert sind. Ergebnisse brauchen reproduzierbare Schritte, beobachtetes Verhalten und konkrete Gegenmaßnahmen. Tests dürfen keine realen Dritten gefährden oder unzulässige Zugriffe voraussetzen.
Worauf kommt es an?
Ein bestandener Test beweist keine vollständige Sicherheit. Neue Quellen, Modelle oder Werkzeuge können zusätzliche Schwachstellen einführen.
Drei Fragen für die Praxis
- Welche Risiken werden getestet?
- Ist die Umgebung abgegrenzt?
- Wurden Gegenmaßnahmen erneut überprüft?
Originalquellen & Vertiefung
Die Quellen erläutern den Begriff oder seinen fachlichen Rahmen. Die Anwendungshinweise und das fiktive Beispiel sind eigenständige Ausarbeitungen dieses Glossars.
Fachbegriffe werden verständlich eingeordnet; berufliche Arbeitsbegriffe sind keine gesetzlichen Definitionen. Bei Rechtsfragen sind die einschlägige Fassung und der konkrete Einsatz maßgeblich.