KI-generierte Propaganda: Wenn Fiktion zur Waffe gegen die Demokratie wird
Mahmut Ullmann
KI-generierte Propaganda: Wenn Fiktion zur Waffe gegen die Demokratie wird
Regierungen, politische Gruppen und Betrüger setzen zunehmend auf KI-generierte Inhalte, um Agenden voranzutreiben und Nutzer auszubeuten. Von militärischer Propaganda bis zu rechtsextremer Desinformation – künstliche Intelligenz verändert die Landschaft digitaler Einflusskampagnen. Experten warnen, dass diese Methoden die Grenze zwischen Realität und Fiktion verwischen und dabei Nutzer aller Altersgruppen und Interessen ins Visier nehmen.
Das Weiße Haus hat auf Social Media eine digitale Militärparade inszeniert, die sich gezielt an junge Männer und mittlere Altersgruppen richtet. Die Kampagne verbindet machohafte Inszenierungen mit spielerischen, gamifizierten Elementen und bedient sich dabei bei Popkultur und rechtsextremen Memes. Selbst verspielt wirkende, comicartige Animationen – ursprünglich für unterhaltsame Inhalte konzipiert – werden umgedeutet, um umstrittene Szenen wie Abschiebungen darzustellen und so extreme Narrative unter einem harmlosen Deckmantel zu normalisieren.
In Deutschland verbreiten rechtsextreme Kreise gefälschte "Straßenumfragen", darunter ein Video mit einer KI-erzeugten 18-jährigen Blondine. Diese konstruierten Clips kursieren ungehindert, verstärken Vorurteile und schüren spaltende Botschaften. Gleichzeitig nutzen KI-generierte Figuren wie gefälschte Rabbiner antisemitische Klischees, um Hass zu schüren – mal als Betrugsmasche, mal als Mittel, um Zielgruppen aufzubauen und zu monetarisieren.
Hinter vielen dieser Aktivitäten stehen finanzielle Interessen. KI-gesteuerte Accounts sexualisieren Inhalte, um Nutzer – insbesondere ältere Männer – in die Falle zu locken, die mit erfundenen Persönlichkeiten interagieren, darunter komplett fiktive "Schwestern", die als sprachrohre für Narrative dienen. Die Betrüger leiten die Opfer dann zu lukrativen Betrugsmodellen weiter, von Kryptowährungs-Scam bis zu Abo-Fallen.
Bisher verzichten Deutschlands demokratische Parteien auf populistische KI-Fälschungen, setzen aber zunehmend KI-Tools für Social-Media-Bilder ein. Die EU wird im August Kennzeichnungspflichten für KI-generierte Inhalte einführen, um Nutzern die Unterscheidung zwischen authentischem Material und synthetischen Medien zu erleichtern. Die Politologin Katharina Nocun, die sich mit Desinformation und Verschwörungsnetzwerken beschäftigt, betont, wie diese Taktiken emotionale Trigger und Plattform-Algorithmen ausnutzen, um die öffentliche Meinung zu manipulieren.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Der Aufstieg KI-gesteuerter Propaganda und Betrugsmaschen stellt Regulierer und Plattformen vor wachsende Herausforderungen. Ab August sollen die EU-Kennzeichnungsregeln für mehr Transparenz bei synthetischen Inhalten sorgen – doch wie wirksam die Umsetzung sein wird, bleibt abzuwarten. Ohne strengere Schutzmechanismen, warnen Experten, werde gefälschte Medien weiterhin politische Diskurse verzerren und schutzbedürftige Zielgruppen ausbeuten.
