Diskurse in sozialen Medien sind stark polarisiert, was den politischen Druck erhöht, Maßnahmen gegen die Verbreitung von Hassrede und Desinformation zu ergreifen. Große Plattformen sind inzwischen aufgrund des gestiegenen politischen Drucks und gesetzlicher Anforderungen wie dem DSA verpflichtet, gezieltere Maßnahmen gegen potenziell strafbare und schädliche Inhalte zu ergreifen. Neben der Inhaltsmoderation gibt es jedoch einen weiteren wichtigen Ansatz, um bessere digitale Diskurse zu fördern: die Regulierung des Plattformdesigns.

Das bedeutet, dass die Empfehlungsalgorithmen der Plattformen genauer betrachtet werden müssen, da sie bestimmen, welche Inhalte den Nutzer:innen angezeigt werden. Diese Algorithmen sind oft darauf ausgerichtet, die Interaktion zu maximieren, um Nutzer:innen auf der Plattform zu halten. Sie sind damit ein zentraler Baustein des Geschäftsmodells großer Plattformen. Da hierbei nicht unbedingt die Qualität der Inhalte im Vordergrund steht, sondern die Menge der Interaktionen, können sie zur Verbreitung polarisierender Inhalte beitragen. Grundsätzlich sind die Funktionsweisen algorithmischer Empfehlungssysteme, die Daten, auf deren Basis sie trainiert werden, und die Faktoren, auf die sie optimiert sind, intransparent und schwer nachvollziehbar.

Es gibt jedoch alternative Ansätze, bei denen Algorithmen so entwickelt werden, dass sie bei der Sortierung von Inhalten auch andere Kriterien berücksichtigen, wie etwa die Wahrscheinlichkeit, dass verschiedene Gruppen den Inhalten zustimmen. Solche Algorithmen nennt man Bridging-Algorithmen, und sie können produktive Diskussionen fördern und damit zur Verringerung gesellschaftlicher Spaltung beitragen.

Der Vortrag verfolgt zwei Ziele: Im ersten Teil wird die Funktionsweise von Bridging-Algorithmen im Vergleich zum Status quo erläutert. Es werden konkrete Anwendungsbeispiele vorgestellt und die vorhandene Evidenz für den Einfluss dieser Empfehlungssysteme auf den digitalen Diskurs aufgezeigt. Darüber hinaus werden erste gesetzgeberische Bemühungen aus den USA vorgestellt, das Plattformdesign (wie Empfehlungsalgorithmen) zu regulieren. Welche Lehren können daraus gezogen werden, und welche Möglichkeiten gibt es, Plattformdesigns in der EU zu regulieren?