Der von der Deutschen Forschungsgemeinschaft (DFG) an den Universitäten Paderborn und Bielefeld geförderte transregionale Sonderforschungsbereich (TRR) „Constructing Explainability“ beschäftigt sich mit erklärbarer und erklärender künstlicher Intelligenz. Die zentrale Hypothese des TRRs ist, dass Erklärungen von Dialogpartner*innen gemeinsam ko-konstruiert werden sollen, damit Menschen zu souveränen und informierten Entscheidungen in Interaktion mit intelligenten Systemen finden können.

Dafür wollen beide Universitäten Grundlagenforschung in den Bereichen der ko-konstruktiven Erklärprozesse und ihrer Mechanismen, des Erklärens als soziotechnisches Phänomen sowie computationaler Repräsentationen der Dynamik des ko-konstruktiven Erklärens beitragen. Sie bringen unterschiedliche disziplinäre Perspektiven sowohl auf der Ebene der einzelnen Projekte als auch des gesamten TRRs zusammen. Das Ziel der zweiten Förderphase ist die Entwicklung flexiblerer, personalisierter, proaktiver Erklärungssysteme (sXAI), die bei der Anpassung ihres Erklärungsverhaltens den sozialen und situativen Kontext berücksichtigen.

Im Rahmen des Teilprojekts C03 "Explaining Change" stehen ex-ante Erklärungen für die Adaptation von komplexen, zusammengesetzten KI-Systemen für einen neuen Kontext oder eine neue Aufgabe. Prominente Beispiele sind Feintuning, Transferlernen oder Prompting von komplexen KI-Systemen, die sich um ein Grundlagenmodell gruppieren, aber auch die Anpassung von eher klassischen hybriden Systemen. Eine spezielle Herausforderung im Projekt ist die geeignete Repräsentation der unterschiedlichen Parametrisierungen von Kontext, System und gegebenenfalls multikriterieller Zielfunktion sowie der Umgang mit Unsicherheit in den zu entwickelnden XAI-Technologien. Neben der mathematischen Modellierung und algorithmischen Umsetzung ist auch die Evaluation Teil der Aufgabe.

Die Stellenbesetzung erfolgt vorbehaltlich der Projektbewilligung.