Explainable Artificial Intelligence (XAI)

Das Bestreben, die Arbeitsweise von KI-Technologien für den Menschen erklärbar (engl. explainable) bzw. verstehbar zu machen. Da die Regeln, die von Verfahren des Machine Learning (ML) extrahiert werden, teilweise sehr komplex und schwer nachvollziehbar sein können, wurden in den letzten Jahren vermehrt Methoden entwickelt, die die automatisiert gelernten Regeln für Menschen leichter nachvollziehbar oder transparenter machen sollen. In der Praxis werden oft einige wenige Eingabeparameter hervorgehoben, die für eine einzelne ML-Vorhersage besonders wichtig scheinen. Ein zentrales Problem von XAI ist, dass die Zielmetrik, d.h. die Frage, wann eine Erklärung gut für Menschen ist, nicht operationalisiert werden kann. Alle XAI Methoden optimieren deswegen verschiedene Proxy Metriken, die leider nicht mit der tatsächlichen Qualität der Erklärung korrelieren.