Hatespeech nicht nur zu erkennen, sondern auf strafrechtliche Relevanz, Kontext und die Beteiligung von "Hate Bots" zu prüfen, ist Ziel dieses Projekts.
Projektleitung: Prof. Dr. Melanie Siegel
Beteiligte Institutionen: Hochschule Fresenius Gemeinnützige Trägergesellschaft MBH (Institut für Digitale Analytische Forensik)
Dauer: 08/2023 bis 01/2025
Förderer/Auftraggeber: Hessisches Ministerium des Innern, für Sicherheit und Heimatschutz (HMdI)
ikum
Die automatische Klassifikation von Hasskommentaren hat sich bisher meistens darauf beschränkt, Hasskommentare zu erkennen, also einen Kommentar als Hasskommentar oder „normalen“ Kommentar zu klassifizieren. Das Projekt BoTox geht über diese binäre Klassifikation hinaus:
Automatisierte Erkennung von Hatespeech
mit strafrechtlicher Relevanz
Das deutsche Strafrecht hat 12 Paragraphen, die für Hatespeech relevant sind. Im Projekt BoTox wird Hatespeech automatisiert daraufhin untersucht, ob die Inhalte der Kommentare strafrechtlich relevant sind und welche Paragraphen zutreffen könnten. Das Ziel ist, Plattformbetreibern und Strafverfolgungsbehörden Hilfestellungen bei der Bewältigung der Mengen und der rechtlichen Einschätzung zu geben.
Das Forschungsprojekt DeTox war das erste, das einen Datensatz zur Verfügung gestellt hat, der auch die strafrechtliche Relevanz von Hatespeech berücksichtigte. Im Projekt BoTox wird nun ein Fokus auf strafrechtlich relevante Hasskommentare gelegt und diese weiter analysiert und feiner nach den relevanten Straftatbeständen klassifiziert.
BotCacher:
Automatisierte Bot-Erkennung im Umfeld von Hatespeech
Besonders problematisch sind Social Bots, die Hasskommentare verbreiten und damit die Diskussion vergiften und der demokratischen Diskussionskultur schaden. Solche „Hate Bots“, die vorgeben Menschen zu sein, beeinflussen die Diskurse entweder dadurch, dass sie selbst automatisiert Inhalte verbreiten und mit anderen Nutzern kommunizieren oder aber durch das Liken, Teilen und Kommentieren von Hatespeech. Beide Varianten sollen im Rahmen des Forschungsprojektes betrachtet werden.
Die Erkennung von Hate Bots ist für die Meldestelle Hasskommentare des Hessen3C für die strafrechtliche Verfolgung von Hasskommentaren äußerst relevant. Darüber hinaus können bei einer Erkennung von Hate Bots die Netzwerke zur Löschung aufgefordert oder auch die Öffentlichkeit informiert werden, sodass das manipulative Ziel nicht mehr erreicht werden kann.
Kontextdetektor:
Hatespeech-Detektion unter Einbeziehung des Kontextes
Bisher ist es im Rahmen der Hatespeech-Detektion und -Analyse in der Regel so, dass nur einzelne aus dem Kontext gerissene Kommentare betrachtet und bewertet werden. Jedoch können Kommentare oft nur im konkreten Kontext richtig interpretiert werden. Insbesondere wenn Metaphern, Ironie oder Sarkasmus eine Rolle spielen, kann der Kontext zum Verständnis beitragen.
Bereits im Projekt DeTox wurde der Bereich der Konversationsanalyse tangiert, theoretische
Betrachtungen durchgeführt und erste Statistiken zu Konversationen vorgenommen. Der in diesem Projekt erstellte Datensatz bietet erste Konversationsdaten, die für die Analyse herangezogen werden können.
Im Projekt BoTox wird an der automatisierten Analyse des Kontexts von Hasskommentaren geforscht und eine automatisierte Konversationsanalyse entwickelt.
