Detailansicht
Information theory for personalised explainable AI
Lukas Anton Karner
Art der Arbeit
Masterarbeit
Universität
Universität Wien
Fakultät
Fakultät für Informatik
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Masterstudium Data Science
Betreuer*in
Sebastian Tschiatschek
DOI
10.25365/thesis.80574
URN
urn:nbn:at:at-ubw:1-12506.08028.714093-1
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)
Abstracts
Abstract
(Deutsch)
Ein wichtiger Aspekt der weit verbreiteten Verwendung von AI-Modellen ist die steigende Nachfrage nach ihrer Interpretierbarkeit, weshalb erklärbare künstliche Intelligenz (XAI) in den letzten Jahren einen sprunghaften Anstieg des Interesses verzeichnet hat. Infolgedessen bringt der Bereich der XAI ständig eine Vielzahl von Methoden hervor, um Erklärungen für die ständig wachsende Zahl der eingesetzten AI-Modelle zu liefern. Viele dieser Methoden behaupten, das Verständnis dieser Modelle durch ihre Nutzer zu verbessern, liefern jedoch keine quantitative Begründung in Form einer theoretischen Motivation oder einer rigorosen Evaluation für diese Behauptung. Um diesen Mangel an fundierten Erklärungsmethoden zu beheben, stellt diese Masterarbeit auf der Grundlage von Begriffen aus der Informationstheorie die unseres Wissens nach erste modellunabhängige Methode zur Erstellung lokaler, nutzeradaptiver Erklärungen vor. Unsere Methode ermöglicht es den Nutzern, ihr Modellverständnis durch personalisierte Erklärungen zu verbessern, die an ihr vorhandenes Wissen über das Modell angepasst sind, und wird durch eine starke theoretische Begründung und strenge Evaluierungsmethoden untermauert, die zusammen mit ihr eingeführt werden. Um die Nutzeradaptivität unserer Erklärungsmethode zu demonstrieren, führen wir Experimente mit einer Reihe von simulierten Nutzern durch, die verschiedene Niveaus des Modellverständnisses repräsentieren, und verwenden informationstheoretische Metriken, um die durch die Erklärungen erzielte Verbesserung des Modellverständnisses zu messen. Da es außerdem notwendig ist um die Richtigkeit der mit unserer Methode erstellten Erklärungen sicherzustellen, identifizieren wir das Problem des output encoding in Erklärungen, die mit dem L2X-Framework (Chen et al., 2018) erstellt wurden, entwickeln informationstheoretische Werkzeuge, um es zu beheben, und liefern eine empirische Charakterisierung seines Auftretens. Insgesamt leistet diese Arbeit einen Beitrag dazu, Nutzern ein besseres Verständnis der von ihnen verwendeten AI-Modelle zu ermöglichen und unser informationstheoretisches Verständnis von Erklärungen für AI-Modelle insgesamt zu verbessern.
Abstract
(Englisch)
An important aspect of the widespread usage of AI models is the increasing demand for their interpretability and, thus, XAI has seen a surge of interest over the past years. Consequentially, the field of XAI is constantly bringing forth a large number of methods to provide explanations for the ever-growing number of AI models deployed. Many of these methods claim to enhance the understanding of these models by their users, but fall short of providing quantitative justification, in the form of theoretical motivation or rigorous evaluation, for this claim. To overcome this lack of sound explanation methods, based on tools from information theory, this thesis introduces, to the best of our knowledge, the first model-agnostic method for creating local user-adaptive explanations. Our method enables users to improve their model understanding through personalised explanations adapted to their existing knowledge of the model, and it is backed up by a strong theoretical motivation and rigorous evaluation methods introduced along with it. To demonstrate the user-adaptivity of our explanation framework, we conduct experiments with a range of simulated users representing various levels of model understanding and use information-theoretic metrics to measure the increase in model understanding provided by the explanations. Furthermore, as it is necessary for assuring the truthfulness of explanations produced by our method, we identify the problem of output encoding in explanations created through the L2X framework (Chen et al., 2018), develop information-theoretic tools to fix it, and provide an empirical characterisation of its occurrence. Altogether, this thesis provides a contribution towards helping users to better understand the AI models they are dealing with, and towards improving our information-theoretical understanding of explanations for AI models as a whole.
Schlagwörter
Schlagwörter
(Deutsch)
künstliche Intelligenz erklärbare künstliche Intelligenz Informationstheorie personalisierte Erklärungen
Schlagwörter
(Englisch)
artificial intelligence explainable artificial intelligence machine learning information theory encoding mutual information user-adaptive explanations personalised explanations
Autor*innen
Lukas Anton Karner
Haupttitel (Englisch)
Information theory for personalised explainable AI
Publikationsjahr
2026
Umfangsangabe
viii, 96 Seiten : Illustrationen
Sprache
Englisch
Beurteiler*in
Sebastian Tschiatschek
Klassifikation
54 Informatik > 54.72 Künstliche Intelligenz
AC Nummer
AC17796532
Utheses ID
79577
Studienkennzahl
UA | 066 | 645 | |