Werden Verschwörungsgruppen von Google unterwandert?


Verschwörungstheoretiker‘ misstrauen Autoritäten, aber werden sie autoritative Botschaften akzeptieren, wenn sie durch jemand anderen gefiltert werden?

Online-Verschwörungsgruppen

Googles Jigsaw-Einheit sponsert einen RAND-Bericht, der empfiehlt, Online-Verschwörungsgruppen von innen heraus zu infiltrieren und zu unterwandern und gleichzeitig autoritative Botschaften einzupflanzen, wo immer es möglich ist.

Der von Google gesponserte RAND-Bericht,  der letzte Woche veröffentlicht wurde und sich auf Online-Chatter in Bezug auf Besuche von Außerirdischen, COVID-19-Herkunft, weißen Völkermord und Impfschutz konzentriert, zeigt, wie maschinelles Lernen dazu beitragen kann, die von „Verschwörungstheoretikern“ verwendete Sprache zu erkennen und zu verstehen. “

Während der 108-seitige Bericht sehr technisch sein kann, um Ansätze des maschinellen Lernens zu beschreiben, um die Verschwörungssprache online zu identifizieren und zu verstehen, werden wir uns hier nicht darauf konzentrieren.

Stattdessen werden wir den Abschnitt „ Richtlinienempfehlungen zur Eindämmung der Verbreitung und des Schadens von Verschwörungstheorien“ des Berichts vergrößern und versuchen, herauszufinden, wie sie in der realen Welt aufgenommen werden könnten.

„Verschwörer haben ihre eigenen Experten, auf die sie sich stützen, um ihre Ansichten zu unterstützen und zu stärken. […] Ein alternativer Ansatz könnte darin bestehen, die Öffentlichkeit auf gemäßigte Mitglieder jener Gruppen zu lenken, die wiederum Einfluss auf die breitere Gemeinschaft ausüben könnten“ – RAND-Bericht

Wenn sie sich mit den politischen Empfehlungen des Berichts befassen, haben sie alle eines gemeinsam: Sie alle versuchen, wo immer möglich autoritatives Messaging zu erstellen und es gleichzeitig organischer erscheinen zu lassen oder das Messaging zumindest für das beabsichtigte Publikum verständlicher zu machen.

Die vier politischen Empfehlungen

  1. Transparente und einfühlsame Auseinandersetzung mit Verschwörern
  2. Korruptionsbedingte falsche Nachrichten korrigieren
  3. Engagement mit moderaten Mitgliedern von Verschwörungsgruppen
  4. Bekämpfung von Ängsten und existenziellen Bedrohungen

Die ursprüngliche Erzählung aus maßgeblichen Quellen bleibt immer dieselbe, aber die Botschaft wird normalerweise durch Vermittler gefiltert, die sich wie Marketing-, Werbe- und PR-Unternehmen verhalten.

Was folgt, hat nichts mit der Gültigkeit einer Verschwörungstheorie zu tun, sondern konzentriert sich auf die Messaging-Strategie des von Google gesponserten RAND-Berichts durch die folgende Linse:

Glauben Verschwörungstheoretiker eher einer maßgeblichen Botschaft, wenn sie von jemand anderem stammt?

Oder

Konzentrieren sie sich eher auf die Gültigkeit der Nachricht selbst, ohne dem Messenger ihr ganzes Vertrauen zu schenken?

Der von Google gesponserte RAND-Bericht empfiehlt der Regierung, auf den ersteren zu setzen.

Aber könnte ein solcher Schritt letztere tatsächlich ermutigen?

Es ist eine Art Debatte zwischen Botschaft und Messenger.

Lassen Sie uns eintauchen.

„Ein roter Faden unter allen Verschwörungsgruppen war das Misstrauen gegenüber konventionellen Autoritätspersonen“ – RAND-Bericht

Die jüngste Zusammenarbeit von Jigsaw mit der RAND Corporation zeigt zunächst, dass „Verschwörungstheoretiker“ auf breiter Front ein hohes Misstrauen gegenüber „konventionellen Autoritätspersonen“ zeigen und „ihre eigenen Experten bevorzugen, auf die sie sich stützen, um ihre Ansichten zu unterstützen und zu stärken“.

Die Idee des Misstrauens gegenüber konventioneller Autorität wird ein Hauptthema in dieser Geschichte sein, da der RAND-Bericht die Subversion von innen heraus fördert, konventionelle Autoritätsnachrichten unter bestimmten Mitgliedern der Gemeinschaft verbreitet und hofft, dass sie sich verbreiten.

Der Bericht schlägt vor, dass Verschwörungstheoretiker nicht auf konventionelle Autorität hören, sondern auf Führer in ihren Gruppen. Daher ist geplant, potenzielle Influencer in Online-Verschwörungsgruppen anzusprechen, die sich etwas auf dem Zaun befinden und die konventionelle Autoritätslinie ziehen könnten .

In dem Bericht wird beispielsweise empfohlen, Online-Verschwörungsgespräche zu infiltrieren und zu untergraben, indem die „gemäßigten Mitglieder“ der Gruppe herausgegriffen werden, die in ihrem eigenen Ritus zu Social-Media-Influencern werden könnten.

„Es gibt Hinweise darauf, dass mehr als ein Viertel der Erwachsenen in Nordamerika an eine oder mehrere Verschwörungen glauben“ – RAND-Bericht

In dem Bericht heißt es: „Verschwörungstheoretiker“ haben ihre eigenen Experten, auf die sie sich stützen, um ihre Ansichten zu unterstützen und zu verstärken, und ihr Vertrauen in diese Experten könnte die Wirkung einer formellen Aufklärungsarbeit durch Fachleute des öffentlichen Gesundheitswesens begrenzen. (alle Hervorhebungen sind von mir)

„Unsere Überprüfung der Literatur zeigt, dass ein alternativer Ansatz darin bestehen könnte, die Öffentlichkeit auf gemäßigte Mitglieder jener Gruppen zu lenken , die wiederum Einfluss auf die breitere Gemeinschaft ausüben könnten .“

So lautet die Logik

  • Problem –  Verschwörer haben ihre eigenen Experten
  • Lösung –  Direkte Kontaktaufnahme mit gemäßigten Mitgliedern
  • Zweck – Einfluss auf die breitere Gemeinschaft ausüben

Mit anderen Worten, sie möchten diejenigen, die nicht vollständig an der Verschwörung beteiligt sind, zu Social-Media-Influencern für ihre maßgeblichen Marketingkampagnen machen.

Aber was wäre der Anreiz zum Umdrehen?

„Kommerzielle Marketingprogramme verfolgen einen ähnlichen Ansatz, wenn sie Social-Media-Influencer (oder Markenbotschafter) einbeziehen“ – RAND-Bericht

In dem Bericht heißt es weiter: „Kommerzielle Marketingprogramme verfolgen einen ähnlichen Ansatz, wenn sie Social-Media-Influencer (oder Markenbotschafter) einbeziehen , die dann die Vorteile einer kommerziellen Marke ihrem eigenen Publikum in sozialen Medien glaubwürdig mitteilen können .“

Wenn Social-Media-Influencer dazu angeregt werden, Botschafter für eine bestimmte Marke zu werden, profitieren die Influencer davon, bezahlt zu werden, und die Unternehmen davon, ein breiteres Publikum zu erreichen.

Es ist ein Geschäft, das von finanziellen Anreizen getrieben wird, um mehr Einfluss zu gewinnen.

Aber was ist der Anreiz für „gemäßigte Mitglieder“ sogenannter Verschwörungsgruppen, umzudrehen?

Was würde ein gemäßigtes Mitglied dadurch gewinnen, dass es nicht nur seine früheren Überzeugungen anprangert, sondern als jemand, der die Torheit seines Weges eingesehen hat, den Leuten ständig ins Gesicht schreit?

Wäre es aus moralischen Gründen oder für eine andere Art von Gewinn?

„Es könnte möglich sein, Schlüsselbotschaften an diejenigen zu übermitteln, die nur“ impfstoffzögernd „sind, und diese Personen könnten diese Botschaften wiederum an diejenigen weiterleiten, die sich in Social-Media-Kanälen gegen Impfungen befinden“ – RAND-Bericht

In Anbetracht der Tatsache, dass alle vier untersuchten Chatter-Gruppen ein Misstrauen gegenüber konventionellen Autoritätspersonen haben, schlägt RAND vor, die in der Gruppe leichter zu überzeugenden Personen (Moderate, die nicht vollständig überzeugt sind) zu verwenden, um die Nachrichtenübermittlung konventioneller Autoritätspersonen in ihrem Namen durchzuführen.

Impfgegner – Gruppen

In Bezug auf „Impfgegner“ -Gruppen schlägt der Bericht vor, „es könnte möglich sein, Schlüsselbotschaften an diejenigen zu übermitteln, die nur„ impfstoffzögernd “ sind, und diese Personen könnten diese Botschaften wiederum an diejenigen weiterleiten, die sich in den sozialen Medien gegen Impfungen befinden. ”

Diese Taktik der Heimlichtuerei darüber, woher die Botschaften kommen, könnte einer der Gründe sein, warum die Menschen konventionellen Autoritäten überhaupt nicht vertrauen – ein Mangel an Transparenz.

Der von Google unterstützte RAND-Bericht versucht, seine Infiltrations- und Subversionstechnik auszugleichen, indem er einen anderen Ansatz empfiehlt: Transparenz durch „transparente und einfühlsame Auseinandersetzung mit Verschwörern“.

„Statt Konfrontation“, heißt es in dem Bericht, „könnte es effektiver sein, sich transparent mit Verschwörungstheoretikern zu beschäftigen und Einfühlungsvermögen zu zeigen. Public-Health-Kommunikatoren empfehlen Engagements, die offen und evidenzbasiert kommunizieren – sichere Räume schaffen, um den Dialog zu fördern, Partnerschaften mit der Gemeinschaft pflegen und Fehlinformationen mit Vorsicht begegnen.“

In jedem Fall zielen alle Bemühungen zur „Minderung der Verbreitung und des Schadens durch Online-Verschwörungstheorien“ darauf ab, die Benutzer anzuweisen, genau die Quellen zu akzeptieren, denen sie am wenigsten vertrauen – konventionelle Autorität.

„Eine zusätzliche Technik, die über das Markieren spezifischer Verschwörungsinhalte hinausgeht, ist der erleichterte Dialog, bei dem ein Dritter die Kommunikation (entweder persönlich oder getrennt) zwischen Konfliktparteien erleichtert“ – RAND-Bericht

Ein weiteres Beispiel für ein transparentes und einfühlsames Engagement, das im Bericht vorgeschlagen wird, betrifft die Auslagerung der maßgeblichen Nachrichten an Dritte.

„Eine zusätzliche Technik, die über das Markieren spezifischer Verschwörungsinhalte hinausgeht, ist der erleichterte Dialog , bei dem ein Dritter die Kommunikation (entweder persönlich oder getrennt) zwischen Konfliktparteien erleichtert „, schlägt der Bericht vor.

Dieser Ansatz von Drittanbietern „könnte die Kommunikation zwischen maßgeblichen Gemeinschaften (wie Ärzten oder Regierungschefs) und Verschwörungsgemeinschaften verbessern .“

Wieder lautet die Logik:

  • Problem: Verschwörungsgemeinschaften vertrauen weder autorisierenden Gemeinschaften noch interagieren sie mit ihnen
  • Lösung: Dritte erleichtern die Kommunikation
  • Zweck: Verbesserung der Kommunikation zwischen maßgeblichen Gemeinschaften und Verschwörungsgemeinschaften

Alternative Wege für maßgebliches Messaging

Bisher haben wir zwei der vier im Bericht enthaltenen Empfehlungen erörtert:

1. Einbeziehung moderater Mitglieder von Verschwörungsgruppen
2. Erleichterung von Dialogen mit Dritten

In beiden Empfehlungen geht es darum, Wege zu finden, um maßgebliche Nachrichten zu verbreiten.

Die verbleibenden zwei Empfehlungen haben den gleichen Zweck:

3. Korrekturen von verschwörungsbedingten falschen Nachrichten.
4. Eingreifen, um Ängste auszuräumen und potenzielle gesellschaftliche Schäden zu begrenzen

In Bezug auf die Korrektur von „falschen Nachrichten“ schlägt der Bericht vor, dass Praktiker des öffentlichen Gesundheitswesens ihre Autoritätspositionen nutzen, um „Fälle von Fehlinformationen mithilfe von Tools wie Echtzeitkorrekturen, Crowdsourcing-Faktenprüfung und algorithmischer Kennzeichnung zu korrigieren“.

In Bezug auf die Adressierung von Ängsten ist diese Taktik ein Mittel zur Überzeugung, indem „die Werte des beabsichtigten Publikums anstelle der Werte des Sprechers verwendet werden“, um die maßgebliche Botschaft zu vermitteln.

Ich bin mit ein paar Beobachtungen von diesem Bericht weggekommen:

  1. Die Autoren erkennen an, dass Verschwörungstheoretiker der konventionellen Autorität nicht vertrauen
  2. Trotz dieser Erkenntnis versuchen die Autoren nicht, die Nachricht zu ändern – nur den Boten

Dies führte mich zu dem Schluss, dass die Autoren das Problem nicht als maßgebliche Botschaft betrachten, was Sinn macht, da es von ihnen kommt, sondern als maßgeblichen Botschafter.

Daher geht es bei all ihren Vorschlägen darum, den Kurs in der Erzählung beizubehalten und ihn durch jeden zu filtern, der sie nicht ist. Es ist eine Marketing-Sache.

Nachricht gegen Messenger

Was ist Ihrer Meinung nach wichtiger, um Theorien jeglicher Art zu erkennen – die Botschaft oder den Boten?

Eine gute Nachricht kann auf taube Ohren stoßen, wenn dem Messenger nicht vertraut wird, und eine schlechte Nachricht kann das Publikum negativ beeinflussen, wenn dem Messenger blind vertraut wird.

Ich beurteile nicht, was in den Empfehlungen im Grunde genommen auf reine Marketingtaktiken hinausläuft, aber ich frage:

Vertrauen „Verschwörer“ eher der Botschaft über den Boten oder umgekehrt?

Soweit ich sehe, setzen die Behörden auf die Überzeugung, dass sich ihre Botschaft durchsetzen könnte, wenn sie nur Einfluss auf den Boten nehmen können.

Mögliche zukünftige Ergebnisse

Ich sehe mehrere mögliche Ergebnisse, wenn ich diese Wette annehme und die Empfehlungen des Berichts im wirklichen Leben anwende:

  • Die Leute werden blind folgen, was auch immer Influencer in ihrer Gruppe zu sagen haben :
    • Wenn autoritatives Messaging erfolgreich ist, werden gemäßigte Mitglieder zu Influencern und helfen, die Herde als „Markenbotschafter“ für das Gemeinwohl auf grünere Weiden zu führen, um anderen die Fehler ihres Weges beizubringen.
    • Wenn autoritatives Messaging nicht erfolgreich ist und die Subversion fehlschlägt, wird das gemäßigte Mitglied zum Anti-Establishment-Influencer erhoben, von der Gruppe positiv als „nicht ausverkauft“ eingestuft und die Gruppe vertraut der konventionellen Autorität immer noch nicht.
  • Die Behörden fordern Dritte auf, ihre Gespräche zu führen :
    • Wenn Dialoge mit Dritten erfolgreich sind, werden die Verschwörungstheoretiker alle ihre Zweifel beantworten und durch Behauptungen aus maßgeblichen Quellen untermauert, die in einer Weise präsentiert werden, die mit ihnen in Resonanz steht, damit sie das Gesamtbild besser verstehen und Verschwörungen ablehnen können. Beide Seiten sind bereit, etwas Boden abzutreten.
    • Wenn es Dritten nicht gelingt, alle Bedenken der Gruppenmitglieder auszuräumen, werden sich Verschwörer an die maßgebliche Botschaft erinnern, und jedes Mal, wenn sie dieselbe maßgebliche Rhetorik hören, werden sie ihr sofort misstrauen, unabhängig davon, von wem sie stammt.
  • Algorithmen identifizieren und kennzeichnen alle Nachrichten, die gegen die Mainstream-Erzählung verstoßen, und bieten einen alternativen Kontext (etwas, das Big Tech bereits tut):
    • Einige Mitglieder der Verschwörungsgruppe werden von der Bombardierung von Inhalten, die durch Algorithmen gekennzeichnet sind, überzeugt sein, und sie werden langsam zu der Überzeugung gelangen, dass die Faktenprüfer aufgrund der schieren Menge an Beweisen und / oder des Drucks von Gleichaltrigen, sich anzupassen, Recht haben.
    • Mitglieder der Verschwörungsgruppe vertrauen bereits keiner Autorität, daher werden die Warnschilder nichts anderes tun, als ihre Entschlossenheit zu stärken.
  • Die Behörden führen ein direktes ziviles Gespräch mit Verschwörungstheoretikern:
    • Gegner kommen zusammen und finden Gemeinsamkeiten. Beide Seiten erkennen an, wo sie Fehler gemacht haben, während sie die Unterschiede der anderen respektieren, solange niemand Schaden anrichtet. Stimmen Sie zu, in einigen Punkten nicht einverstanden zu sein, während Sie anderen zugestehen. Es gibt möglicherweise keinen Konsens, bei dem eine Seite ein offensichtlicher Gewinner ist, aber ein gewisses Maß an Verständnis wird gewonnen und kann in zukünftige Dialoge einbezogen werden.
    • Gegner kommen zusammen und können sich auf nichts einigen. Es gibt zwei Versionen der Realität, und niemand kann einen grundlegenden Satz von „Fakten“ festlegen, die die Grundlage eines rationalen Arguments bilden würden. Stimmen Sie zu, in allem nicht einverstanden zu sein. Es wird nichts gewonnen.

Mit den oben genannten Szenarien, die keineswegs abgeschlossen sind, habe ich versucht zu sehen, wie sich jede Empfehlung theoretisch in der realen Welt auswirken könnte, während ich versucht habe, die Standpunkte beider Seiten zu berücksichtigen.

Solange die Behörden nicht fordern, die Rechte von Einzelpersonen (einschließlich Verschwörungstheoretikern) zu verletzen, stimmt etwas mit einigen ihrer subversiveren Taktiken nicht, wenn sie zum Wohle der Allgemeinheit und mit den besten Absichten durchgeführt werden?

Und sollte keine Theorie, ob verschwörerisch oder nicht, zusammenbrechen, wenn unwiderlegbare Beweise für das Gegenteil vorgelegt werden?

Die Realität ist, dass die stärksten Argumente nicht immer siegen und Menschen hartnäckige Wesen sind. Es braucht viel Zeit, um lang gehegte Überzeugungen niederzuschlagen, ohne dass irgendeine tiefgreifende Offenbarung innerhalb des Individuums stattfindet.

„Die Beseitigung des sarkastischen Diskurses könnte das Signal-Rausch-Verhältnis zwischen Verschwörungs- und Nichtverschwörungsdiskussionen verringern und einen viel klareren Überblick über die charakteristische Haltung von Verschwörungen geben, die in sozialen Medien verbreitet werden“ – RAND-Bericht

Persönlich denke ich, dass die Kluft zwischen konventionellen Behörden und Verschwörungsgruppen zu groß ist.

Autoritative Botschaften mögen einige Verschwörungstheoretiker erreichen, aber insgesamt glaube ich nicht, dass eine Seite auf eine sinnvolle Weise überzeugt werden wird, die echte Veränderungen bewirken würde.

Der Versuch, Gruppen zu infiltrieren und bestimmte Mitglieder zu untergraben, scheint eine Taktik zu sein, die als Eingriff wahrgenommen wird, der die Kluft fördert und zu noch weniger Vertrauen führt, aber wir werden sehen, wie sich alles entwickelt.

Wenn Sie nach Hintergrundinformationen zu dem Bericht suchen, finden Sie nachfolgend einige Ausschnitte zu seinen Ursprüngen, Datenerhebungsmethoden und anderen Ergebnissen. Alle Aufzählungszeichen sind direkte Anführungszeichen aus dem Bericht.

Als nächstes am Horizont werden sie Sarkasmus suchen.

Ursprünge des Berichts:

  • Die Jigsaw-Abteilung von Google forderte die Forscher der RAND Corporation auf, Modellierungsbemühungen durchzuführen, um die Technologie des maschinellen Lernens zur Erkennung der Sprache der Verschwörungstheorie zu verbessern, indem die Leistung mithilfe der sprachlichen und rhetorischen Theorie gesteigert wird.
  • Diese Forschung wurde von Googles Jigsaw-Abteilung gesponsert und im ISDP-Zentrum (International Security and Defense Policy) der RAND National Security Research Division (NSRD) durchgeführt.
  • NSRD führt Forschungen und Analysen für das Büro des Verteidigungsministers, der US-Geheimdienstgemeinschaft, des US-Außenministeriums, alliierter ausländischer Regierungen und Stiftungen durch.

Datenerhebungsmethoden

  • Die Datenerfassung wurde über das Social-Media-Tracking-Unternehmen Brandwatch durchgeführt .
  • Social-Media-Quellen waren Twitter, Reddit und eine große Auswahl an Online-Foren und -Blogs. Wir haben auch einmalige Quellen verwendet, wie das Transkript des viralen Videos „Plandemic“ (2020).
  • Der Bericht untersuchte vier spezifische verschwörungstheoretische Themen: Besuche von Außerirdischen, Impfschutz, COVID-19-Herkunft und White Genocide (WG).

Ergebnisse zu Verschwörungstheoretikern:

  • Ein roter Faden unter allen Verschwörungsgruppen war das Misstrauen gegenüber konventionellen Autoritätspersonen.
  • Es gibt Hinweise darauf, dass mehr als ein Viertel der Erwachsenen in Nordamerika an eine oder mehrere Verschwörungen glauben.
  • Pro-Verschwörungstheoretiker finden sich auch tiefer in den auf sozialen Medien basierenden Echokammern wieder, wobei die Exposition gegenüber nicht verschwörerischen Gesichtspunkten abnimmt.
    • Diese Echokammern tragen zu einer vertieften Polarisierung der Sichtweisen bei, und die in solchen Echokammern verbreiteten Beiträge können das breitere Internet erreichen und beeinflussen.

Sarkasmus am Horizont entfernen

  • Ein besonderes Problem der Datenqualität Daten und Methoden ist die Kontamination des Verschwörungsdiskurses durch Sarkasmus oder Zitate.
  • Die Feststellung, ob bestimmte Social-Media-Kommentare sarkastisch sind, kann selbst für Menschen besonders verwirrend sein, insbesondere ohne den Kontext der größeren Konversation.
  • Die Beseitigung des sarkastischen Diskurses könnte das Signal-Rausch-Verhältnis zwischen Verschwörungs- und Nicht-Verschwörungsdiskussionen verringern und einen viel klareren Überblick über die charakteristische Haltung von Verschwörungen geben, die in sozialen Medien verbreitet werden.