Was bedeutet Erklärbarkeit von KI?
Erklärbarkeit bezeichnet die Möglichkeit, für einen bestimmten Adressaten nachvollziehbar zu machen, wie ein KI-Ergebnis zustande kommt oder welche Faktoren dazu beitragen. Technische Erklärungen, verständliche Begründungen und überprüfbare Quellen sind unterschiedliche Formen der Nachvollziehbarkeit.
Was heißt das für Public Affairs?
Im politischen Briefing ist häufig entscheidend, aus welchen Dokumenten eine Aussage stammt und welche Ableitung vorgenommen wurde. Eine verständliche Quellenkette kann dafür wichtiger sein als eine komplizierte Darstellung interner Modellgrößen.
Worauf kommt es an?
Eine vom Modell formulierte Erklärung muss nicht dessen tatsächlichen internen Prozess abbilden. Plausible Selbstauskunft ist deshalb kein ausreichender Nachweis für Korrektheit oder Fairness.
Drei Fragen für die Praxis
- Für wen soll die Erklärung nützlich sein?
- Kann sie überprüft werden?
- Erklärt sie das Ergebnis oder nur eine nachträgliche Geschichte?
Originalquellen & Vertiefung
Die Quellen erläutern den Begriff oder seinen fachlichen Rahmen. Die Anwendungshinweise und das fiktive Beispiel sind eigenständige Ausarbeitungen dieses Glossars.
- NIST: AI Risk Management Framework, freiwilliger Risikomanagementrahmen
- W3C: PROV-Overview – Herkunft von Daten und Verarbeitungsschritte
Fachbegriffe werden verständlich eingeordnet; berufliche Arbeitsbegriffe sind keine gesetzlichen Definitionen. Bei Rechtsfragen sind die einschlägige Fassung und der konkrete Einsatz maßgeblich.