Wahlmanipulationen durch Social Media als Gefahr für Demokratien

DeepSec Konferenz veröffentlicht Programm und setzt Algorithmen zur Desinformation in den Fokus

Die Mercator-Projektion der Erdoberfläche ist keine Scheibe (Bild: Daniel R. Strebe, 2011)

Wien (pts009/24.09.2024/09:00)

Social Media wurde ursprünglich eingeführt, um Individuen eine Plattform für ihre eigenen Ansichten zu geben. Die zunehmende Verbreitung hat jedoch zu einer schleichenden Vereinnahmung geführt. Durch Algorithmen erzeugte Texte, Robot-Farmen und zweifelhafte Entscheidungen der Plattformbetreiber haben Social Media zu einem Hort der Desinformation mutiert. Der lockere Klick auf Teilen, Like Buttons oder das Einfügen von beliebigen Kommentaren schafft Effizienz bei der Massenmanipulation. Der politische Kommentator Randahl Fink wird diese Praktiken zur Eröffnung der DeepSec Konferenz analysieren.

Information und Desinformation

Die meisten Menschen denken bei den Begriffen Informationstechnologie (IT) oder Informationssicherheit an die technischen Implementationen. Natürlich besteht das Fundament aus Netzwerken, Serversystemen, Speichermedien und Anbindungen an das Internet. Dazu kommen etliche Endgeräte, welche ständigen Zugang zu einem stetigen Fluss von Kurznachrichten haben. Die Technik ist hier Mittel zum Zweck. Der Fokus liegt auf den Daten, welche IT Sicherheit zu schützen versucht. Die DeepSec Konferenz hat schon vor Jahren auf die Gefahren von Desinformationskampagnen aufmerksam gemacht. Das Potential für Manipulationen hat mittlerweile die Dimensionen von nationalen Wahlen, und damit der Beeinflussung von Regierungen auf ganze Legislaturperioden, erreicht. Die Nachweise sind mittlerweile bei Ermittlungsbehörden ersichtlich.

Anfang des Jahres haben Deutschland, Frankreich und Polen ein strukturiertes und koordiniertes Netzwerk aus hunderten von Webseiten entdeckt, welches russische Propaganda verbreitet. Das Netzwerk trägt den Namen "Portal Kombat", welches eine Anspielung auf ein Computerspiel ist. In diesem Sommer hat das US-amerikanische Justice Department eine russische Propagandakampagne gestört, welche seit 2022 operiert. Die technischen Mittel waren in diesem Fall Robot-Farmen gekoppelt mit Algorithmen der "Künstlichen Intelligenz" ("KI", genauer Sprachgeneratoren). Solche Werkzeuge sind extrem wirksam, wenn die öffentliche Debatte oder ein Wahlkampf in einem Land gesteuert werden soll.

Verleugnete Welt ohne Quellen - The Mind Bomb

Randahl Fink verwendet den Begriff Mind Bomb - Gedankenbombe - als Mittel der Massenbeeinflussung. Ein wichtiges Merkmal ist dabei die Entkopplung menschlicher Interaktion von der realen Welt. Man spricht von sogenannten Realitätsblasen, in denen Ansichten diskutiert werden, die man real in der wirklichen Welt nicht vorfindet. Das beginnt bei den Verschwörungstheorien zur Erde als Scheibenwelt, geht über wirre Behauptungen zu wissenschaftlich belegten Modellen und gipfelt in der Ausgrenzung sowie Bedrohung von einzelnen Personen oder Teilen der Bevölkerung. Verstärkt werden die Manipulationen durch die Algorithmen. Wer etwas öfter an verschiedenen Stellen liest, neigt dazu einer Aussage mehr Gewicht zu geben. Was ursprünglich ganz naiv zur Empfehlung von den gleichen Interessen gedacht war, wird für die Verbreitung von künstlich definierten Meinungen genutzt. Zwar haben einige Plattformen eine Redaktion, die einen Teil der Falschmeldungen markiert oder löscht, aber andere Plattformen ignorieren rechtliche Vorgaben völlig. Die Gründe sind meist eingesparte Mittel, absichtliches Ignorieren der Gesetzgebung oder ungefilterte Verbreitung von Inhalten als Geschäftsmodell.

Eine weitere Beobachtung sind Attacken gegen jeden Versuch Aussagen zu überprüfen. Faktenchecks und Quellen werden mit denselben Methoden diskreditiert. Speziell bei der COVID-19 Pandemie war dieses Muster zu erkennen, und es besteht heute noch. Bei Debatten von politischen Positionen ist der Graubereich größer, denn Parteiprogramme müssen nicht notwendigerweise wissenschaftlich belegt werden. Dennoch lässt sich bei allen Aussagen immer ein Bezug zur Realität herstellen. Die Zerstörungskraft der Mind Bomb liegt in der Manipulation der Denkweisen.

Bezug zur Informationssicherheit

Desinformationskampagnen haben einen klaren und starken Bezug zur Informationssicherheit. Social Engineering, die Manipulation der Psyche, ist ein klassisches Werkzeug bei Betrugskampagnen. Attacken gegen Mitarbeiterinnen und Mitarbeiter umgehen zwar technische Filter, nutzen jedoch die digitale Infrastruktur zur Überbringung der Nachricht aus. Es gibt daher starke Authentisierung und Gegenprüfungen, um die Echtheit von kritischen Nachrichten, wie beispielsweise Anweisungen für Logins oder Geldüberweisungen, sicherzustellen. Social Media und speziell die gerade überschwenglich gefeierten Sprach- bzw. Bildgeneratoren werden sowohl für sogenannte "Cyberangriffe" wie auch für Desinformation verwendet. Verantwortliche müssen sich in allen Fällen Gedanken machen wie man dieser Manipulation begegnet.

Für die gründliche Vertiefung der Kenntnisse zur Gegenwehr hat die DeepSec Konferenz einen zweitägigen Workshop im Programm. Christina Lekati erklärt die Psychologie hinter Social Engineering und Human Intelligence (HUMINT) Operationen. Sobald Menschen im Spiel sind, kann man leider nicht nur komplett technische Maßnahmen ergreifen. Die psychologische Ebene muss immer mit betrachtet werden.

Videoblog von Randahl Fink

Randahl Fink publiziert eine Kolumne mit Videobeiträgen auf der YouTube Plattform. Er publiziert Kommentare auch im dezentralen Fediverse, wo man mit ihm diskutieren kann.

Programme und Buchung

Die DeepSec 2024 Konferenztage sind am 21. und 22. November. Die DeepSec Trainings finden an den zwei vorangehenden Tagen, dem 19. und 20. November statt. Alle Trainings (bis auf angekündigte Ausnahmen) und Vorträge sind als Präsenzveranstaltung gedacht, können aber im Bedarfsfall teilweise oder komplett virtuell stattfinden. Für registrierte Teilnehmer und Teilnehmerinnen wird es einen Stream der Vorträge auf unserer Internetplattform geben.

Die DeepINTEL Security Intelligence Konferenz findet am 20. November statt. Da es sich um eine geschlossene Veranstaltung handelt, bitten wir um direkte Anfragen zum Programm an unsere Kontaktadressen. Wir stellen dafür starke Ende-zu-Ende Verschlüsselung bei Kommunikation zur Verfügung: https://deepsec.net/contact.html

Tickets für die DeepSec Konferenz und die Trainings können Sie jederzeit online unter dem Link https://deepsec.net/register.html bestellen. Ermässigungscodes von Sponsoren stehen Ihnen zur Verfügung. Bei Interesse melden Sie sich bitte unter deepsec@deepsec.net. Bittebeachten Sie, dass wir wegen der Planungssicherheit auf rechtzeitige Ticketbestellungen angewiesen sind.

Aussender:	DeepSec GmbH
Ansprechpartner:	René Pfeiffer
Tel.:	+43 676 5626390
E-Mail:	deepsec@deepsec.net
Website:	deepsec.net/