Ein möglicher Grund für die Explosion von Hoaxes, politischer Desinformation und erfundenem Clickbait in sozialen Medien in den letzten Jahren sind die gottverdammten blauen Häkchen, so eine neue Peer-Review-Studie, die zur Veröffentlichung im Journal of Management Information Systems angenommen wurde.
Laut der Studie mit dem Titel „Heilung oder Gift? Identitätsprüfung und die Veröffentlichung gefälschter Nachrichten in sozialen Medien,“Die Überprüfung der Identität von Social-Media-Nutzern scheint im Allgemeinen ihre Neigung zu sensationellem oder erfundenem Mist zu verringern. Wenn ein verifizierter Benutzer jedoch ein öffentlich zugängliches Abzeichen erhält, das seinen Status angibt, stellten die Forscher fest, dass jede Verbesserung der Qualität der Informationen, die ein Benutzer verbreitet, “erheblich geschwächt“ wurde.”
Das Papier war co-Autor von Forschern der City University of New York, der Temple University und der University of Houston. Sie wollten zunächst herausfinden, ob die Identitätsprüfung im Allgemeinen die Neigung eines Benutzers beeinflusst, zweifelhafte Inhalte zu veröffentlichen. In der Mitte ihrer Forschung stellten sie fest, dass, wenn ein Benutzer ein spezielles Abzeichen erhält, um anzuzeigen, dass er verifiziert wurde (so etwas wie das blaue Häkchen von Twitter), die Ergebnisse unterschiedlich waren.
„Es ist ein riesiges Problem, es ist eines der größten Probleme, mit denen wir es gerade zu tun haben“, sagte Min-Seok Pang, außerordentlicher Professor für Management-Informationssysteme an der Temple University und Milton F. Stauffer Research Fellow der Fox School of Business, sagte in einer Pressemitteilung. „Gefälschte Nachrichten werden zu einer Angelegenheit auf Leben und Tod und untergraben das Vertrauen und den Respekt untereinander, die ein Rückgrat jeder zivilisierten Gesellschaft sind.”
Die Forscher stützten sich auf einen Datensatz von Weibo, einer chinesischen Social-Media-Site, von der sie schrieben, dass sie für diesen Analysezweck ideal sei, da sie explizit verschiedene Arten von regelbrechenden Inhalten bezeichnet und “aktiv die Beiträge von gefälschten Nachrichten untersucht, die von anderen Benutzern gemeldet wurden, zusammen mit den Beweisen der Ankläger und des Autors, und die Ergebnisse offenlegt, was uns eine offizielle Möglichkeit gibt, gefälschte Nachrichten zu kennzeichnen.“ Darüber hinaus hat Weibo im Oktober 2011 angeordnet, dass alle Benutzer ihre realen Identitäten überprüfen, im Gegensatz zu anderen Social-Media-Websites, die nur bestimmte Arten von Benutzern überprüfen (oder im Fall von Twitter nur eine relative Handvoll Prominenter, Politiker und Medienpersönlichkeiten).
Die Autoren argumentierten, dass Benutzer, die in sozialen Medien posten, verschiedene Kategorien von Vorteilen abwägen — psychologischer Gewinn wie Aufmerksamkeit von Gleichaltrigen, politischer Gewinn wie im Fall von Propaganda oder finanzieller Gewinn wie das Fahren des Webverkehrs — sowie die potenziellen negativen Folgen. In den USA könnte dies bedeuten, dass sie sich einer Verleumdungsklage stellen müssen, während in China, wo das Internet stark von staatlichen Zensoren überwacht wird, die Behörden Personen, die Desinformation verbreiten, mit einem Verbrechen belasten können, das eine siebenjährige Haftstrafe nach sich zieht.
Die Autoren stützten sich auf eine Stichprobengröße von etwa 5,000 Weibo-Nutzern, die von der Plattform als gefälschte Nachrichten eingestuft wurden, die auf Benutzer beschränkt waren, die sich vor der Änderung im Oktober 2011 registriert hatten, und Prominente und Meinungsführer wie Politiker ausschließen. Das Team reduzierte dann die Stichprobe auf ungefähr 1,335 Benutzer, für die sie umfangreichere Post-Historien sammeln konnten. Um die möglichen Auswirkungen kommerzieller oder politischer Voreingenommenheit durch Weibo—Moderatoren zu kontrollieren — schließlich wird Weibo von den chinesischen Behörden ständig auf Fehlinformationen überwacht, die ansonsten als politische Dissidenz angesehen werden könnten -, wählten die Forscher zufällig 200 als gefälscht gekennzeichnete Beiträge aus, um zu überprüfen, ob die Bestimmung fair war. Sie schrieben auch, dass sie „alle für die Regierung oder die Politik relevanten gefälschten Nachrichten aus unserer Stichprobe ausgeschlossen haben“, um die „Empfindlichkeit gefälschter politischer Nachrichten“ zu kontrollieren.”
Sie stellten fest, dass die Beiträge außerhalb einiger Fälle, in denen es sich bei den fraglichen Fehlinformationen um nicht überprüfbare persönliche Informationen handelte, tatsächlich „gefälschte Nachrichten“ im Sinne von Weibo enthielten: Dinge wie falsche Behauptungen, erfundene Details, Abweichungen vom Quellmaterial, Übertreibungen oder Informationen, die veraltet, unvollständig oder aus dem Zusammenhang gerissen waren. Die Forscher führten auch eine anschließende Umfrage unter Weibo- und Twitter-Nutzern in den USA durch um einige ihrer früheren Annahmen zu überprüfen, z. B. die Ansichten der Benutzer zu verschiedenen Überprüfungsmethoden oder ob sie der Meinung waren, dass Überprüfungsausweise den Beiträgen Glaubwürdigkeit verleihen. Die Ergebnisse stützten weitgehend ihre Annahmen und Hypothesen. Beispielsweise erklärten sich 66% der Benutzer bereit, verdächtige Nachrichten zu veröffentlichen, wenn sie über ein Bestätigungsabzeichen verfügten, das ihnen zu mehr Engagement verhelfen würde, im Gegensatz zu 43%, die dies ohne das Abzeichen tun würden.
Während dieser Datensatz aus einem sozialen und politischen Kontext stammen könnte, der sich stark von dem von Websites mit Sitz in den USA unterscheidet, argumentieren die Autoren, dass es eine anständige Grundlage ist, einige Beobachtungen zum Benutzerverhalten zu machen, die “nicht eindeutig für chinesische Benutzer“ sind.”
Während es „intuitiv“ sinnvoll sein kann, dass die Identitätsprüfung ohne Badge wenig Einfluss auf die Bereitschaft eines Benutzers hätte, falsche Inhalte zu veröffentlichen, schrieben die Forscher, hat es tatsächlich einen „negativen und [statistisch] signifikanten“ Einfluss auf die Menge an falschen Informationen, die sie geteilt haben, weil dieser Benutzer weiß, dass seine Online-Identität an seine Offline-Identität gebunden sein kann. Aber wenn ein sichtbares Verifizierungsabzeichen in die Mischung geworfen wird, Die Forscher schrieben, Es löschte alle Anzeichen dieser Gewinne aus:
Unsere Studie ergab, dass die Identitätsprüfung ohne Verifizierungsausweis die Neigung der Benutzer zum Posten gefälschter Nachrichten verringert, die Identitätsprüfung mit einem Verifizierungsausweis jedoch nicht. Diese gemischten Effekte deuten darauf hin, dass das Vorhandensein eines Verifizierungsabzeichens für verifizierte Konten die Auswirkungen der Identitätsprüfung erheblich schwächt. Interessanterweise haben wir festgestellt, dass Benutzer, die sich freiwillig melden, um die Identitätsprüfung mit einem Bestätigungsausweis zu bestehen, nach der Überprüfung mehr gefälschte Nachrichten veröffentlichen.
Die Forscher boten mehrere Erklärungen an. Beispielsweise können Benutzer der Meinung sein, dass die Steigerung der wahrgenommenen Glaubwürdigkeit für andere Benutzer durch das Verifizierungsabzeichen das Risiko verringert, dass sie durch die Veröffentlichung gefälschter Inhalte Reputationsschäden oder Plattformfolgen erleiden. Die Autoren schrieben:
Eine mögliche Erklärung ist, dass, wenn Benutzer erkennen, dass ihr verifizierter Status nach der Verifizierung durch ein Abzeichen offengelegt wird, der erhöhte Nutzen der Veröffentlichung gefälschter Nachrichten (gegeben durch das Abzeichen als Signal der Glaubwürdigkeit) einige Benutzer dazu anregen kann, ihre Identität aktiv zu überprüfen und mehr Risiken einzugehen, um gefälschte Nachrichten zu veröffentlichen.
Das Papier bezeichnet dies als „perversen Anreiz, gefälschte Nachrichten zu veröffentlichen“ — das Verifizierungssystem gibt Benutzern, die das System zum persönlichen oder finanziellen Vorteil nutzen möchten, effektiv einen Blankoscheck.
Jeder, der in der beobachtbaren Realität nicht durch ein Internet—Kaninchenloch gefallen ist, sollte die Relevanz dieser Ergebnisse erkennen – siehe die Verbreitung verifizierter Twitter-Bullshit-Künstler in den USA. Der German Marshall Fund der Vereinigten Staaten veröffentlichte beispielsweise im Februar 2021 eine Studie, in der festgestellt wurde, dass die Produzenten und Manipulatoren gefälschter Inhalte die Anteile ihrer Inhalte auf verifizierten Twitter-Konten seit 2018 jeweils verdreifacht und verdoppelt haben. Die rechtsextreme Website Gateway Pundit hatte mehr Aktien von verifizierten Twitter-Nutzern erhalten als die Washington Post. Das bedeutet nicht unbedingt, dass jeder, der einen Link teilte, seinen Inhalt befürwortete, aber das ist eine ganz andere Konversation.
Die Ergebnisse der Studie stimmen auch mit früheren Untersuchungen überein, die im Allgemeinen darauf hinweisen, dass die Verbreitung von Scherzen und gefälschten Inhalten auf Social-Media-Websites häufig kein organisches Phänomen ist, sondern das Ergebnis einer relativ kleinen, aber äußerst entschlossenen Gruppe von Personen, die versuchen, einen bestimmten Standpunkt zu vertreten (wie Coronavirus-Impfstoff-Desinformation oder Verschwörungstheorien über Wählerbetrug). Anfang dieses Jahres veröffentlichte das Oxford Internet Institute einen Bericht, in dem festgestellt wurde, dass mindestens 81 Länder „soziale Medien zur Verbreitung von Computerpropaganda und Desinformation über Politik“ verwendeten, mit Beweisen, dass politische oder staatliche Akteure in mindestens 48 dieser Länder private Unternehmen als „Cyber-Truppen“ eingestellt hatten.“ Zu den Tätern gehörten beide Seiten des libyschen Bürgerkriegs, eine MAGA-Gruppe namens Turning Point USA, die ältere Donald Trump-Anhänger davon überzeugen wollte, dass die GOP-Politik bei College-Studenten beliebt ist, und die gescheiterte Präsidentschaftskampagne des Milliardärs Michael Bloomberg. Die Taktik reichte von der Verwaltung von Armeen von Bots und der professionellen Erstellung manipulierter Medien bis hin zu datengetriebener gezielter Werbung für Fehlinformationen und Belästigung / Doxxing von Aktivisten und Journalisten.
„Wenn Sie verifiziert sind, haben Ihre Beiträge mehr Gewicht und es ist schädlicher, wenn Sie gefälschte Nachrichten teilen“, sagte Pang, Professor an der Temple University, in der Pressemitteilung. „Obwohl wir dies nicht speziell untersucht haben, scheinen einige Personen den Überprüfungsprozess zu verwenden, um das System zu spielen. [Social-Media-Plattformen] müssen es stärker durchsetzen. Sie müssen offen für die Möglichkeit sein, dass ein Benutzer das System verspielt hat, und sie müssen Problemumgehungen verhindern. Wir denken, das ist einer der stärksten Imbissbuden aus dieser Forschung.”