Wir sind nicht so dumm, wie Meta uns glauben machen will
Kommentarspalten in sozialen Netzwerken wirken oft wie ein Stimmungsbild der Bevölkerung, und dieses Stimmungsbild wirkt zunehmend wütend, unbelehrbar, manipulationsanfällig – und oft ziemlich doof. Der Eindruck täuscht: Die Ursache liegt in der technischen und ideologischen Funktionsweise der Plattformen. Für Unternehmen, die Social Media als Indikator für die Stimmung ihrer Kundschaft oder Branche lesen, ist diese Einsicht ebenso wie beispielsweise für Politiker°Innen relevanter, als es auf den ersten Blick scheint.
Plattformen ranken nach Reaktion
Die großen sozialen Netzwerke (Facebook, instagram, TikTok, X, YouTube) sortieren Inhalte über Empfehlungsalgorithmen. Eine chronologische Anzeige nach Veröffentlichungszeitpunkt ist in den Standardansichten meist abgeschaltet oder gar nicht existent. Diese Empfehlungsmodelle werden in der Regel auf Interaktionssignale trainiert: Verweildauer, Klicks, Likes, Kommentare, Shares und Wiederabspielen. Inhalte mit hoher Reaktionsrate erhalten mehr Sichtbarkeit, weil sie das Nutzungsverhalten verlängern, die Nutzer°Innen auf der Plattform halten, und damit die zentrale Geschäftsmetrik der Plattform optimieren.
Der Effekt ist empirisch belegt: Eine Analyse von Rathje, Van Bavel und van der Linden (PNAS 2021) wertete rund 2,7 Millionen Beiträge auf Facebook und Twitter aus und stellte fest, dass Posts über die politische Out-Group etwa doppelt so häufig geteilt werden wie Beiträge über die eigene In-Group. Sprache, die sich gegen Andersdenkende richtet, erwies sich als stärkster Treiber für Engagement, stärker als rein emotionale Sprache. Wer ruhig liest, zweifelt und nicht teilt, liefert dem System keine verwertbaren Signale. Wer empört kommentiert, liefert sie reichlich.
Das Ergebnis ist eine systematische Verzerrung der wahrgenommenen Realität. Sichtbar wird, was Reaktion auslöst. Mit “Mehrheitsmeinungen” hat das nichts zu tun.
Sichtbarkeit ist keine Häufigkeit
In der Demoskopie gilt: Eine Stichprobe muss zufällig gewählt sein, damit Aussagen über eine Grundgesamtheit zulässig sind; Social-Media-Feeds erfüllen diese Bedingung nicht. Die Auswahl ist nach Reaktionswahrscheinlichkeit gewichtet, zusätzlich nach dem bisherigen Nutzungsverhalten des Empfängers – und vielem mehr, was wir im Detail nicht wissen, weil die Algorithmen Firmengeheimnisse sind. Das ist so ziemlich das Gegenteil einer repräsentativen Stichprobe.
Konkret bedeutet das: Wenn unter einem Beitrag 200 zustimmende, laute Kommentare stehen, er aber tausende stille Mitleser hat, sieht man die 200. Die schweigende Mehrheit liefert keine Daten, sie existiert für den Algorithmus praktisch und faktisch nicht. Eine laute Minderheit kann auf diese Weise das Bild dominieren, ohne dass die Plattform manipulativ eingreifen müsste. Die Verzerrung entsteht aus der Optimierungsfunktion selbst, aus dem ominösen “Algorithmus”.
Troll- und Botnetzwerke sorgen für orchestrierte Verstärkung
Zur strukturellen Verzerrung durch Empfehlungsalgorithmen kommt eine zweite Verzerrungsebene, die bewusst eingesetzt wird: Rechte und rechtsextreme Akteure betreiben seit Jahren systematisch organisierte Netzwerke, um Sichtbarkeit künstlich zu erzeugen. Plattformen wie Meta nennen dieses Vorgehen “coordinated inauthentic behavior” und veröffentlichen regelmäßig Berichte über entsprechende Löschungen und wollen damit vorgeben, dagegen vorzugehen. Die Größenordnung ist relevant.
Die Mechanik ist durch Plattformberichte und Forschung gut dokumentiert. Meta veröffentlicht seit 2017 quartalsweise Adversarial Threat Reports, in denen Netzwerke mit teils tausenden koordiniert agierenden Konten beschrieben und gelöscht werden (man sollte allerdings davon ausgehen, dass Meta das Problem aus eigennützigen Gründen kleinredet). Typisch ist eine Mischung aus automatisierten Konten und manuell betriebenen Sockenpuppen, die ausgewählte Inhalte innerhalb kurzer Zeit liken, teilen und kommentieren, damit erzeugen sie genau jene Reaktionssignale, die der Empfehlungsalgorithmus belohnt. Ein Beitrag, der organisch nur eine kleine Reichweite hätte, wird durch diese künstliche Initialzündung in den Empfehlungsfeeds tausender realer Nutzer sichtbar.
Konkrete Beispiele liefert die seit 2022 von EU DisinfoLab, Qurium Media Foundation und Stanford Internet Observatory dokumentierte Doppelganger-Operation aus dem russischen Umfeld. Sie nutzt unter anderem Netzwerke gefälschter Facebook-Profile (ein bekanntes Cluster trägt den Namen “German Odettes”), die Inhalte gezielt in die Kommentarspalten etablierter Seiten platzieren, sowie koordinierte Account-Cluster auf X. Vorgänger und thematisch verwandt sind Operationen der russischen Internet Research Agency. Vergleichbare Strukturen sind auch im Inland aktiv. Das auf Discord aufgesetzte Netzwerk Reconquista Germanica organisierte vor der Bundestagswahl 2017 mit zeitweise mehreren tausend Mitgliedern aus dem identitären Spektrum koordinierte Hashtag-Kampagnen, Kommentar-Wellen und Twitter-Aktionen zugunsten der AfD; aufgedeckt wurde dies durch eine gemeinsame Recherche von WDR, NDR, Süddeutscher Zeitung und ARD Faktenfinder im März 2018. Aktueller hat Correctiv im April und Mai 2026 ein Netzwerk von rund 190 KI-generierten Social-Media-Profilen auf TikTok und Instagram dokumentiert, das über 22 fiktive Identitäten AfD-nahe Botschaften verbreitet. Zu vergleichbaren Mustern beim Einsatz generativer KI durch rechtsextreme Akteure forscht unter anderem Anna Hiller am Institute for Strategic Dialogue.
Die Folge: Positionen, die in der Bevölkerung Minderheitspositionen sind, wirken im Feed wie Mehrheitsmeinungen. Hashtags lassen sich in die Trends drücken. Kommentarspalten lassen sich dominieren, weil die ersten zwanzig Antworten unter einem Beitrag durch organisierte Accounts gepostet werden, bevor reale Nutzer überhaupt reagieren können.
Für die Wahrnehmung des Einzelnen lässt sich diese zweite Ebene kaum von der ersten unterscheiden. Wer einen Beitrag mit 800 zustimmenden Kommentaren sieht, erkennt nicht, wie viele davon aus Troll- und Bot-Netzwerken stammen. Plattformen geben darüber selten transparent Auskunft und die Löschungen erfolgen meist mit Verzögerung. Wer einen Feed liest, liest also eine algorithmisch verzerrte Auswahl, die zusätzlich durch gezielte Manipulation überlagert ist.
Konsequenzen für Unternehmen und Selbstständige
Wer Social Media als Marktforschungsquelle nutzt, sollte diese Mechaniken kennen, in der Praxis sind drei Punkte relevant:
Erstens: Negative Kommentare unter einem Post bilden nur das Stimmungsbild jener Personen ab, die auf genau diesen Reiz reagiert haben. Die Zielgruppe insgesamt ist damit nicht wiedergegeben. Eine Handvoll wütender Antworten kann den Eindruck erzeugen, ein Angebot komme schlecht an, obwohl die stille Mehrheit der Leser den Beitrag neutral oder positiv gesehen hat. Belastbare Aussagen über die Kundenmeinung liefern Befragungen, Verkaufszahlen, Rezensionen und direkte Rückmeldungen, Kommentarspalten gehören definitiv nicht dazu.
Zweitens: Trends auf TikTok, instagram oder X sind kurzlebige Sichtbarkeitsspitzen, die durch Empfehlungsalgorithmen entstehen und für gesellschaftliche Konsensbildungen nicht taugen. Dazu kommt: Diese Algorithmen sind nicht neutral. Bei X ist dokumentiert, dass die Empfehlungslogik im Sinne des Eigentümers Elon Musk eingegriffen wurde: eigene Beiträge werden algorithmisch bevorzugt verbreitet, politisch genehme Accounts gewinnen Reichweite, kritische Stimmen verlieren sie. Vergleichbare Eingriffe lassen sich bei Meta (Facebook, Instagram) nicht im selben Detailgrad nachweisen, sind angesichts der politischen Ausrichtung der Konzernführung und der zuletzt öffentlich kommunizierten Lockerungen bei Moderation und Faktenprüfung aber plausibel anzunehmen. Wer geschäftliche Entscheidungen darauf stützt (etwa Produktanpassungen, Tonlagenwechsel im Marketing, gar Personalentscheidungen), sollte die Datenbasis unbedingt kritisch prüfen.
Drittens: Wer mitarbeitet, mitliest oder selbst veröffentlicht, sollte den eigenen Feed nicht als Abbild der Realität ansehen. Die psychologische Wirkung ständiger Konfrontation mit emotional aufgeladenen Inhalten ist messbar und betrifft auch Personen, die sich selbst für medienkompetent halten: man fühlt sich schlechter durch Doomscrolling.
Relevanz für die Berichterstattung in etablierten Medien
Diese Mechanik betrifft auch die journalistische Praxis. Große Medienhäuser und öffentlich-rechtliche Sender greifen in ihrer Berichterstattung zunehmend auf Social-Media-Inhalte zurück: virale Tweets als Aufhänger, Kommentarspalten als angebliche Stimmungslage, TikTok-Trends als gesellschaftliches Phänomen. Wenn diese Inhalte ohne methodische Einordnung übernommen werden, transportieren etablierte Medien die algorithmische Verzerrung über ihre eigene Reichweite weiter.
Aus einer lauten Minderheit auf Facebook wird so im Tagesthemen-Beitrag eine Aussage über die Stimmung im Netz, aus ein paar empörten Kommentaren wird ein angeblicher Shitstorm und aus einem viralen Video wird eine gesellschaftliche Debatte, obwohl die Reichweite vor allem das Ergebnis einer Empfehlungssortierung ist. Die journalistische Sorgfaltspflicht, die bei klassischen Quellen selbstverständlich ist (Repräsentativität prüfen, Datengrundlage offenlegen, Auswahlbias mitdenken), wird bei Social-Media-Material oft vergessen. Warum eigentlich? Wegen des schnellen Contents, der zudem noch (vermeintliche) Bürger°Innenstimmen abbildet?
Für die Glaubwürdigkeit der Berichterstattung ist das ein Problem denn öffentlich-rechtliche Sender insbesondere haben einen Informationsauftrag und sollten bei jeder Verwendung von Social-Media-Inhalten den methodischen Status der Quelle mitkommunizieren. Tweets sind Einzeläußerungen, Kommentarspalten erfassen die Reaktionsbereitschaft einer bestimmten Teilgruppeund Trends sind algorithmisch erzeugte Sichtbarkeitsspitzen. Virale Beiträge und Hashtags können zudem durch koordinierte Netzwerke entstanden sein.
Was technisch hilft
Praktische Maßnahmen, die in der Beratungspraxis funktionieren:
Eigene Webseite und eigener Newsletter als primäre Kommunikationskanäle. Beide laufen auf eigener Infrastruktur, sind nicht algorithmisch gefiltert und erreichen die Empfänger ohne Zwischenstufe. Social Media kann ergänzen, sollte aber nicht die Basis sein.
Alternative Plattformen nutzen, die strukturell anders aufgebaut sind. Im Fediverse (Mastodon, Pleroma, Iceshrimp, Pixelfed, PeerTube und andere ActivityPub-basierte Dienste) gibt es keinen Empfehlungsalgorithmus, Inhalte erscheinen chronologisch im Feed, geteilt wird durch manuelle Boosts, und Reichweite entsteht durch tatsächliches Interesse, nicht durch maschinelle Verstärkung. Bluesky verfolgt einen anderen Ansatz: Der Standard-Following-Feed ist chronologisch, zusätzlich gibt es nutzerdefinierte Custom Feeds, die jeder selbst aussuchen oder erstellen kann. In beiden Fällen entfällt die zentrale plattformseitige Optimierung auf Reaktion, die der Kern der hier beschriebenen Verzerrung ist. Koordinierte Manipulation ist auch dort (technisch) möglich, ihre algorithmische Verstärkung jedoch nicht eingebaut. Wie lange Bluesky eine Alternative bleibt ist allerdings ungewiss, da auch hier Venture Capital seine Finger im Spiel hat und das geht selten gut aus. Auf der anderen Seite ist das Protokoll bekannt und Forks sind denkbar.
Datenquellen trennen: Kommentarspalten dienen der Beobachtung. Als Entscheidungsgrundlage sind sie ungeeignet. Wer wissen will, was Kundschaft denkt, fragt sie direkt oder wertet aggregierte Daten aus, etwa Umsatz, Conversion oder Bewertungen.
Fazit
Social Media lässt die Welt dümmer und wütender wirken, als sie ist. Technisch betrachtet ist das die direkte Folge eines auf Interaktion optimierten Empfehlungssystems, ergänzt um koordinierte Manipulation aus den verschiedensten Beweggründen und plattformseitige Eingriffe in die Empfehlungslogik. Die Konsequenz liegt darin, soziale Medien als das zu verstehen, was sie sind: stark gefilterte Ausschnitte mit eingebauter Verzerrung zugunsten lauter Reaktionen und politischer Agenden, kein Abbild der Menschen, die sie nutzen.
Insbesondere wer beruflich oder unternehmerisch auf solchen Plattformen unterwegs ist, sollte die eigenen Wahrnehmungen regelmäßig gegen belastbarere Datenquellen prüfen.
Quellen
- Rathje, S., Van Bavel, J. J., van der Linden, S. (2021): Out-group animosity drives engagement on social media. Proceedings of the National Academy of Sciences, 118(26), e2024292118. https://doi.org/10.1073/pnas.2024292118
- Meta: Adversarial Threat Reports (quartalsweise seit 2017), insbesondere Q4 2022, Q3 2023, Q1 2024, Q3 2024. https://transparency.meta.com/
- EU DisinfoLab: Doppelganger Operation. https://www.disinfo.eu/doppelganger-operation/
- Stanford Internet Observatory (FSI): Assessing Coordinated Inauthentic Behavior on X, TikTok and Telegram following Meta’s 2023 Q3 Adversarial Threat Report. https://fsi.stanford.edu/news/how-coordinated-inauthentic-behavior-continues-social-platforms
- Patrick Stegemann, Sören Musyal u.a.: Wahlkampf im Netz, AfD-Funktionär an Troll-Attacken beteiligt. ARD Faktenfinder/Tagesschau, 1. März 2018. https://faktenfinder.tagesschau.de/inland/manipulation-wahlkampf-103.html
- Correctiv (Kimberly Nicolaus, Gabriele Scherndl): Schöne Lügen, Wie KI-Frauen im großen Stil Meinungsmache für die AfD betreiben. 28. April 2026. https://correctiv.org/faktencheck/hintergrund/2026/04/28/wie-ki-frauen-fuer-afd-und-erotik-werben-tiktok/