KI-Systeme und das Risiko manipulativer KI

Dieses Projekt untersucht, ob ein richtungsweisendes kalifornisches Urteil gegen Meta und Google – das die Unternehmen für die Entwicklung süchtig machender Empfehlungsalgorithmen und Plattformfunktionen haftbar macht, die die psychische Gesundheit einer jungen Nutzerin bzw. eines jungen Nutzers beeinträchtigt haben – nach dem EU AI Act anders hätte bewertet werden können. Indem der Fall den Fokus auf Produktdesign und algorithmische Entwicklung statt auf nutzergenerierte Inhalte legt, umging er die klassischen Haftungsausschlüsse für Plattformen. Das Projekt untersucht, ob vergleichbare Systeme als verbotene KI-Praktiken im Sinne des EU AI Act einzustufen wären, und analysiert die möglichen rechtlichen und regulatorischen Konsequenzen.