Was bedeutet Modelltransparenz?
Modelltransparenz meint hier die zugängliche Dokumentation relevanter Eigenschaften und Grenzen eines KI-Modells oder einer Anwendung. Dazu können Zweck, Version, Prüfergebnisse und Nutzungseinschränkungen gehören. Offenheit einzelner Informationen ist von vollständiger Erklärbarkeit zu unterscheiden.
Was heißt das für Public Affairs?
Bei der Werkzeugauswahl sollten Teams nach der Eignung für ihren konkreten Zweck fragen. Angaben über Datenverarbeitung, Zugriff auf Quellen und bekannte Grenzen sind zu dokumentieren. Ein öffentliches Modellgewicht allein beantwortet nicht alle Fragen zum betriebenen Dienst.
Worauf kommt es an?
Transparente Dokumentation garantiert keine gute Qualität. Umgekehrt sind nicht veröffentlichte technische Details kein Beweis für einen konkreten Mangel; offene Fragen müssen als solche benannt werden.
Drei Fragen für die Praxis
- Welche Version wird betrieben?
- Welche Grenzen sind dokumentiert?
- Welche Angaben fehlen für die Einsatzentscheidung?
Originalquellen & Vertiefung
Die Quellen erläutern den Begriff oder seinen fachlichen Rahmen. Die Anwendungshinweise und das fiktive Beispiel sind eigenständige Ausarbeitungen dieses Glossars.
- NIST: AI Risk Management Framework, freiwilliger Risikomanagementrahmen
- Mitchell et al. (2019): Model Cards for Model Reporting
Fachbegriffe werden verständlich eingeordnet; berufliche Arbeitsbegriffe sind keine gesetzlichen Definitionen. Bei Rechtsfragen sind die einschlägige Fassung und der konkrete Einsatz maßgeblich.