Eine der zentralen Aufgaben der BAG »Gegen Hass im Netz« ist das Echt- und Langzeitmonitoring von Hassdynamiken im Netz mithilfe unseres hausinternen Systems. Die Analysen werden alle drei Monate im Trendreport "Machine Against the Rage" veröffentlicht, die wichtigsten Ergebnisse im Video und als Essentials auf vier Seiten zusammengefasst. Der Trendreport fungiert als Trendbarometer, mit dem wichtige Verschiebungen in rechtsextremen und anderen demokratiefeindlichen Diskursen, die damit verbundenen Online-Aktivitäten, aber auch kritische Veränderungen der Meinungsentwicklung in relevanten Online-Milieus frühzeitig erkannt und analytisch eingeordnet werden. Die Erkenntnisse und Daten für zivilgesellschaftliche Projekte nutzbar, sodass evidenzbasierte Interventionen gegen Hass im Netz möglich sind.

Für den Trendreport arbeiten wir mit KI-gestützten Methoden. In der Netzwerkanalyse von Rechtsextremen Gruppen benutzen wir ein KI basierendes Sprachmodel, welches wir in der gängigen Sprache der relevanten Gruppen trainieren. Damit können wir einerseits die Häufigkeit, Attraktivität und Ausbreitung spezifischer Narrative über Zeit studieren und eine Netzwerkanalyse mit bisher unbekannten Details veröffentlichen.

Wir arbeiten aktuell an der Anwendung unserer Technologie an Bildbasiertem Hassmaterial. Die Komplexität und der Arbeitsaufwand dieser Analyse ist höher als für unsere textbasierte Analyse. Diese Arbeit ist enorm wichtig, da Hass, Verschwörungen und Extremismus zum großen Teil über Bildbasierte Nachrichten geteilt werden. Oft mangelt es an Tech-Kompetenzen in der Zivilgesellschaft. Im Rahmen der BAG entsteht mit "Machine Against the Rage" eine Infrastruktur, die Daten für zivilgesellschaftliche Interventionen nutzbar macht.