In diesem Projekt wollen wir alternative Algorithmen für die Empfehlung von Inhalten auf Social-Media-Plattformen erforschen. Solche Plattformen sind mittlerweile von zentraler Bedeutung für den zivilgesellschaftlichen Diskurs. Allerdings gibt es immer mehr Hinweise darauf, dass sie den sozialen Zusammenhalt in Gesellschaften untergraben, demokratische Prozesse bedrohen und zur Ausbreitung von Misinformation beitragen. Aktuelle Inhaltsempfehlungen auf Social-Media-Plattformen basieren auf Algorithmen, die das Ziel verfolgen, die Nutzer:innen möglichst lange auf der Plattform zu halten. Das kann negative Nebeneffekte haben, wie z.B., dass Inhalte die stark emotionalisiert sind oder Empörung hervorrufen häufiger empfohlen werden als andere. Das neue EU-Gesetz über digitale Dienste (Digital Services Act) verpflichtet Social-Media-Plattformen dazu, ihre systemischen Risiken für die Gesellschaft zu bewerten und zu reduzieren – zum Beispiel indem Empfehlungsalgorithmen angepasst werden. Diese abstrakten Risiken, wie z.B. das Risiko für den zivilen Diskurs müssen allerdings erst in Empfehlungen für konkrete Änderungen in Empfehlungsalgorithmen übersetzt werden. Ziel des Projektes ist es, diese Lücke zu schließen, indem wir Ansätze aus der Sozialwissenschaft und der Informatik kombinieren, um Empfehlungsalgorithmen auf Social Media Plattformen so zu gestalten, dass sie dem zivilen Diskurs und dem gesellschaftlichen Zusammenhalt förderlich sind.

Um neue Algorithmen zu entwickeln werden wir mit Hilfe von Expert:inneninterviews und repräsentativen Umfragen erforschen, welche Aspekte einen "guten" zivilen Diskurs ausmachen. Hier könnten z.B. die Qualität und Vielfalt von Informationen und die Höflichkeit der verwendeten Ausdrucksweise eine Rolle spielen. Um mit den neu entwickelten Algorithmen zu experimentieren, werden wir sog. "digitale Zwillinge" von Social Media Plattformen entwickeln. Das ist insbesondere deshalb notwendig, weil ein Experimentieren mit alternativen Algorithmen unabhängig von den Plattformkonzernen – die natürlich kein Interesse an einer Veränderung ihrer Algorithmen haben – sehr schwer möglich ist. Neben einer Förderung des zivilen Diskurses legen wir in unserem Projekt auch Wert darauf, eine Balance mit der freien Meinungsäußerung zu finden. Dafür werden wir in einem szenario-basierten Ansatz erforschen, welche Balance Menschen in verschiedenen Situationen wie z.B. kurz vor einer Wahl oder während einer Pandemie, bevorzugen. Schlussendlich soll unsere Forschung in Empfehlungen zur Regulation von Social Media Plattformen im Rahmen des Digital Services Act einfließen und dazu beitragen, Social Media Plattformen in eine Technologie zu verwandeln die positiv für die Gesellschaft sind.

Link zum CORDIS-Portal der Europäischen Kommission