„Erklärbarkeit in der Künstlichen Intelligenz ist nicht nur eine technische Herausforderung, sondern eine fundamentale Voraussetzung für Vertrauen und Akzeptanz intelligenter Systeme in der Gesellschaft. Während komplexe Modelle wie Deep Learning beeindruckende Leistung bringen, bleiben sie oft eine Blackbox, deren Entscheidungsprozesse für Menschen unverständlich sind. Durch transparente und nachvollziehbare Erklärungen können wir diese Blackbox öffnen und die Ursachen für bestimmte Entscheidungen offenzulegen. Dies ist essenziell, um Bias zu erkennen, ethische Standards einzuhalten und verantwortungsbewusste Nutzung sicherzustellen. Wie Lipton (2018) betont: ‚Interpretability is the degree to which a human can understand the cause of a decision.‘ Der Fokus liegt darauf, Erklärungen zu liefern, die sowohl technisch korrekt als auch für Anwender und Entscheidungsträger zugänglich sind. Nur so kann KI verantwortungsvoll eingesetzt werden – sei es im Gesundheitswesen, Finanzbereich oder autonomen Fahren. Erklärbarkeit schafft die notwendige Schnittstelle zwischen maschineller Intelligenz und menschlicher Kontrolle, was letztlich die Grundlage für eine nachhaltige und faire Digitalisierung bildet.“
— frei nach Cynthia Rudin, Zachary C. Lipton und weiteren Experten aus dem Bereich der interpretablen KI
