KOSMO

KI-gestützte kollektiv-soziale Moderation von Online-Diskursen (KOSMO)

Digitale Plattformen sind im letzten Jahrzehnt wichtige Instrumente zur gemeinsamen Entwicklung von Ideen und Orte des politischen Meinungsaustausches geworden. Hierfür bedarf es jedoch erheblicher personeller Ressourcen für Monitoring, Moderation, und Community Management. Im Projekt KOSMO wird erforscht, wie Künstliche Intelligenz (KI)  bei dieser Aufgabe unterstützen kann. Dies umfasst nicht nur Möglichkeiten und Grenzen auf technischer Seite sondern auch die Akzeptanz und Usebility bei Moderation und Usern.

Ziel des Projektes ist die entwicklung eines Prototypsfür ein System, das Moderator*innen proaktiv bei der Durchführung ihrer Aufgaben unterstützt und somit besonders Verwaltungen, politische Institutionen, Nicht-Regierungs-Organisationen (NGOs), Stiftungen und Online-Medien die Durchführung von kostengünstigen aber qualitativ hochwertigen Online-Diskussionen und -Partizipationsverfahren ermöglicht.

Für den Projektpartner HHU sind aus wissenschaftlicher Perspektive folgende Ziele besonders relevant:

• Die Optimierung von Algorithmen für die Erkennung von unterschiedlichen Diskussionsinhalten, z.B. Hassrede, Diskriminierung oder Arguemente und hochwertige Disskussionsbeiträge.
• Die effiziente und effektive Implementierung einer leistungsstarken KI in ein agiles, webbasiertes Moderationssystem.
• Vertiefende Erkenntnisse darüber, wie sich Online-Diskussionen durch Assistenzsysteme für semi-automatisierte Moderation und Synthese verbessern lassen, wie diese Systeme von Anbietern und Teilnehmer*innen von Online-Diskussion wahrgenommen und bewertet werden und wie Partizipationsverfahren durch den Einsatz eben dieser Systeme zur Stärkung der Demokratie beitragen können.

Das Projekt wird gemeinsam mit Liquid Democracy e.V. (LIQD), dem Institut für Partizipatives Gestalten / Hörster & Rohr GbR (IPG) und der Forschungsgruppe Deliberative Diskussionen im Social Web (DEDIS) der Heinrich-Heine-Universität Düsseldorf durchgeführt.

Das Düsseldorfer Teilprojekt wird vom Bundesministerium für Bildung und Forschung (BMBF) für 3 Jahre mit rund 370.000 € gefördert.