KI-generierte Desinformation: Wie Fake-Inhalte Nutzer gezielt manipulieren
Vladimir Döhn
KI-generierte Desinformation: Wie Fake-Inhalte Nutzer gezielt manipulieren
Desinformationsstrategien entwickeln sich weiter – getrieben durch KI-generierte Inhalte
Von gefälschten Rabbis, die Finanzbetrug bewerben, bis hin zu erfundenen Interviews, die rechtsextreme Parolen verbreiten: Mit dem Aufstieg KI-generierter Inhalte werden Desinformationstaktiken immer raffinierter. Forscherinnen und Forscher haben aufgedeckt, wie diese Tools Emotionen, finanzielle Motive und politische Erzählungen ausnutzen, um Online-Nutzer zu manipulieren.
Gleichzeitig setzen Regierungen und extremistische Gruppen auf neue digitale Strategien – mal mit Popkultur-Ästhetik, mal durch den gezielten Einsatz von KI, um spaltende Botschaften zu verstärken.
Die Desinformationsexpertin Karolin Schwarz analysierte KI-generierte Videos mit gefälschten Rabbis, die antisemitische Klischees bedienten und gleichzeitig fragwürdige Finanztipps oder bezahlte E-Books beworben. Die Inhalte kombinierten Verschwörungserzählungen mit schnellen Reichwerde-Versprechen, um Nutzer gezielt anzusprechen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Daneben tauchten gewinnorientierte Fake-Accounts auf, die mit sexualisierten Personas und inszenierter Verletzlichkeit Nutzer ködern. Einige KI-generierte Figuren gaben sich sogar als "Schwestern" aus, um Narrative zu verbreiten – und lösten dabei besorgniserregend sexualisierte Kommentare älterer Männer aus.
In Deutschland verbreiteten rechtsextreme Kreise ein gefälschtes "Straßenumfrage"-Video: Eine 18-jährige blonde Frau forderte darin Massenabschiebungen. Das Video war komplett fabriziert, verbreitete sich aber rasant im Netz.
Auch das Weiße Haus setzt auf ungewöhnliche Social-Media-Strategien. Seit der Zuspitzung der Konflikte mit dem Iran inszenierte es eine digitale Militärparade, die sich gezielt an junge Männer richtete. Die Kampagne nutzte machohafte Bilder und spielerische Ästhetik, um Unterstützung zu mobilisieren. Zuvor hatte die Regierung bereits ein Animationsstudio – bekannt für feministische und demokratische Themen – umfunktioniert, um Abschiebungen in einer verharmlosenden, cartoonhaften Darstellung zu zeigen. Selbst rechtsextreme Memes und Comic-Grafiken werden mittlerweile für politische Botschaften instrumentalisiert.
Die Politikwissenschaftlerin Katharina Nocun, die sich mit Online-Desinformation beschäftigt, warnt: KI könne jedes aktuelle Thema zur Waffe machen. Algorithmen pushen Inhalte, um Reichweite aufzubauen – die dann über Werbung, Abos oder Betrug monetarisiert wird.
Als Reaktion führt die EU ab August neue Regeln ein: Sämtliche KI-generierte Inhalte müssen klar gekennzeichnet sein, damit Nutzer Fakt und Fiktion unterscheiden können.
Die Verbreitung von KI-Fälschungen und staatlich gesteuerten Digitalkampagnen zeigt, wie schnell sich Desinformation anpasst. Kennzeichnungspflichten mögen helfen – doch die Methoden, ob Finanzbetrug, politische Propaganda oder sexualisierte Manipulation, entwickeln sich weiter.
Forscher und Regulierungsbehörden stehen nun vor der Herausforderung, diese Verschiebungen zu verfolgen und gleichzeitig Nutzer vor Ausbeutung zu schützen.
