Der von der Deutschen Forschungsgemeinschaft (DFG) an den Universitäten Paderborn und Bielefeld geförderte transregionale Sonderforschungsbereich (TRR) "Constructing Explainability" beschäftigt sich mit erklärbarer und erklärender künstlicher Intelligenz. Die zentrale Hypothese des TRRs ist, dass Erklärungen von Dialogpartner*innen gemeinsam ko-konstruiert werden sollen, damit Menschen zu souveränen und informierten Entscheidungen in Interaktion mit intelligenten Systemen finden können.

Dafür wollen beide Universitäten Grundlagenforschung in den Bereichen der ko-konstruktiven Erklärprozesse und ihrer Mechanismen, des Erklärens als soziotechnisches Phänomen sowie computationaler Repräsentationen der Dynamik des ko-konstruktiven Erklärens beitragen. Sie bringen unterschiedliche disziplinäre Perspektiven sowohl auf der Ebene der einzelnen Projekte als auch des gesamten TRRs zusammen. Das Ziel der zweiten Förderphase ist die Entwicklung flexiblerer, personalisierter, proaktiver Erklärungssysteme (sXAI), die bei der Anpassung ihres Erklärungsverhaltens den sozialen und situativen Kontext berücksichtigen.

Das Teilprojekt A03 untersucht und modelliert interaktive Erklärungen von KI-Entscheidungen und -Vorschlägen mit besonderem Fokus auf Emotionen. In dem Projekt soll ein bestehendes Erklärungsmodell durch die Integration kontextrelevanter Merkmale und eines LLM-basierten Dialogsystems erweitert werden, das Erklärungen an heterogene Nutzer*innen im Kontext der jeweiligen Aufgabe anpassen kann. Die Entwicklung erfolgt in Zusammenarbeit mit Projektpartner*innen aus den Wirtschafts-/Verhaltenswissenschaften und umfasst eigene Nutzer*innenstudien sowie die Evaluierung des entwickelten Modells.