Der von der Deutschen Forschungsgemeinschaft (DFG) an den Universitäten Paderborn und Bielefeld geförderte transregionale Sonderforschungsbereich (TRR) „Constructing Explainability“ beschäftigt sich mit erklärbarer und erklärender künstlicher Intelligenz. Die zentrale Hypothese des TRRs ist, dass Erklärungen von Dialogpartner*innen gemeinsam ko-konstruiert werden sollen, damit Menschen zu souveränen und informierten Entscheidungen in Interaktion mit intelligenten Systemen finden können.

Dafür wollen beide Universitäten Grundlagenforschung in den Bereichen der ko-konstruktiven Erklärprozesse und ihrer Mechanismen, des Erklärens als soziotechnisches Phänomen sowie computationaler Repräsentationen der Dynamik des ko-konstruktiven Erklärens beitragen. Sie bringen unterschiedliche disziplinäre Perspektiven sowohl auf der Ebene der einzelnen Projekte als auch des gesamten TRRs zusammen. Das Ziel der zweiten Förderphase ist die Entwicklung flexiblerer, personalisierter, proaktiver Erklärungssysteme (sXAI), die bei der Anpassung ihres Erklärungsverhaltens den sozialen und situativen Kontext berücksichtigen.

Im Rahmen des Teilprojekts C01 "Healthy Distrust" soll das gesunde Misstrauen von Studierenden gegenüber großen Sprachmodellen (LLMs) im Kontext des akademischen Schreibens untersucht und gestärkt werden. Im Rahmen der Stelle sollen insbesondere neue Methoden des maschinellen Lernens entwickelt werden, die automatisch Erklärungen zur Unzuverlässigkeit von LLMs erzeugen können. Diese Erklärungen sollen für Studierende verständlich aufbereitet und im Rahmen von realistischen Studien evaluiert werden.

Die Stellenbesetzung erfolgt vorbehaltlich der Projektbewilligung.