Explainable AI: Extraktion von Erklärungen aus tiefen neuronalen Netzen

KI hat sich in vielen Anwendungsgebieten zu einer Schlüsseltechnologie entwickelt. Deep-Learning-Ansätze sind mittlerweile in der Lage, komplexe Zusammenhänge zu erkennen und somit sehr genaue Entscheidungen zu treffen. Solche Algorithmen werden auch als Black Boxes bezeichnet, da deren komplexe Entscheidungsfindungsprozesse für Menschen nicht nachvollziehbar sind.

Nina Schaaf stellt eine praktikable Methode zur Extraktion einfacher Regeln oder Entscheidungsbäume aus tiefen neuronalen Netzen vor. Hierzu wird die Struktur eines neuronalen Netzes während des Trainings so beeinflusst, dass aus dem trainierten Netz genaue und einfache Entscheidungsbäume extrahiert werden können.

Vorkenntnisse

Der Zuhörer sollte Interesse an technischen Ansätzen zur Realisierung erklärbarer KI mitbringen. Grundkenntnisse im maschinellen Lernen bzw. über neuronale Netze sind von Vorteil.

Lernziele

Es wird ein allgemeines Bewusstsein für das Thema Explainable AI und dessen Notwendigkeit geschaffen. Dabei werden unter anderem allgemeine Repräsentationsformate für Erklärungen der Vorhersagen komplexer Algorithmen präsentiert. Weiterhin wird aufgezeigt, wie es möglich ist, neuronale Netze mit hoher Vorhersagegenauigkeit zu trainieren, die gleichzeitig von leicht interpretierbaren Entscheidungsbäumen abgebildet werden können. Durch Demonstration des Ansatzes auf verschiedenen Benchmark-Datensätzen wird der erreichte Mehrwert hinsichtlich des Einblicks in die Entscheidungsfindung sowie der Zuverlässigkeit der gelieferten Erklärungen veranschaulicht.