Aussagenormen in der sprachlichen Mensch-KI-Interaktion (NIHAI)

Eine der zentralen Krisen unserer Zeit beruht auf Fehlinformation und Desinformation, die Verbreitung von Fake News, Verschwörungstheorien und somit die Erosion des Vertrauens in Medien, Wissenschaft und staatliche Institutionen. Die Kommunikationskrise hat sich durch den digitalen Diskurs noch verschlimmert. Wir gehen davon aus, dass sich die Krise weiter verschärfen könnte, da unserer Gesprächspartner zusehends nicht mehr andere menschliche Personen, sondern KI-Sprachmodelle sein werden. Eine kulturübergreifende Untersuchung verantwortungvoller Kommunikationsnormen für KI-Sprachmodelle ist von Nöten, um dieser Entwicklung zu begegnen.  

Das Forschungsvorhaben, das an der Schnittstelle von Ethik, Linguistik, Medien- und Kommunikationswissenschaft sowie Sozialinformatik angesiedelt ist, wird (i) normative Erwartungen in sprachbasierter Mensch-KI-Interaktion sowie (ii) die Bewertung von Normverletzungen und deren nachgelagerte interaktive Konsequenzen in verschiedenen Sprachen und Kulturen empirisch untersuchen. Unter anderem werden (iii) relevante Moderatoren (z.B. Kontext, Rolle, Modellkomplexität des KI-Systems, Einsatz) und Mediatoren (z.B. wahrgenommene Handlungsfähigkeit, Projektion von menschlichen Eigenschaften) untersucht werden, um (iv) ihren Einfluss auf Vertrauen in konversationelle KI-Systeme kulturübergreifend zu erfassen. Auf der Grundlage der Ergebnisse werden wir (v) Grundsätze für die verantwortungsvolle Entwicklung und Nutzung von Sprachmodellen erarbeiten. Diese werden u.a. direkt an KI Anwendungen getestet, wie z.B. der Laien-Journalismus-App Reporter unseres assoziierten Partners Polaris News.

Das Forschungsprojekt wird durch den FWF über ein CHANSE/HERA-Programm gefördert. 

Das Projektteam setzt sich zusammen aus Prof. Markus Kneer (Projektleitung, Universität Graz), PD Dr. Markus Christen (PI, Universität Zürich), Prof. Mihaela Constantinescu (PI, Universität Bukarest) und Prof. Izabela Skoczen (PI, Jagiellonen-Universität). Ebenfalls teil des Teams ist das Unternehmen Polaris News, geleitet vom renommierten Journalisten Hannes Grassegger.