OpenAI sperrt ChatGPT Konten im Zusammenhang mit iranischer Einflussnahme

Betroffene Themen

Die von der Operation generierten Inhalte konzentrierten sich hauptsächlich auf den Gaza-Konflikt, Israels Teilnahme an den Olympischen Spielen und die US-Präsidentschaftswahlen. In geringerem Maße wurden auch die Politik in Venezuela, die Rechte der Latinx-Gemeinschaft in den USA (sowohl in Spanisch als auch in Englisch) und die schottische Unabhängigkeit behandelt.

Implementierung und Reichweite

OpenAI identifizierte zwölf Konten auf X (ehemals Twitter) und ein Konto auf Instagram, die an dieser Operation beteiligt waren. Einige der X-Konten gaben sich als progressiv aus, während andere sich als konservativ darstellten. Trotz der Bemühungen, die öffentliche Meinung zu beeinflussen, erzielte die Operation laut OpenAI keine signifikante Resonanz. Die meisten der gefundenen sozialen Medienbeiträge erhielten nur wenige oder gar keine Likes, Shares oder Kommentare, und die Artikel zeigten keine Anzeichen dafür, dass sie auf sozialen Medien geteilt wurden.

Auswirkungen generativer KI

Die bloße Existenz generativer KI erleichtert es, Zweifel an der Authentizität von Inhalten zu säen und das Vertrauen in die Medien zu untergraben, selbst wenn keine Manipulation stattgefunden hat. US-Präsidentschaftskandidat Donald Trump hat dies beispielsweise mindestens zweimal ausgenutzt, indem er behauptete, dass Fotos von einer begeisterten Menschenmenge bei einer Veranstaltung von Kamala Harris mit KI manipuliert worden seien.

Zusätzliche Erkenntnisse

Microsofts Bedrohungsintelligenzbericht, der letzte Woche veröffentlicht wurde, identifizierte die Gruppe Storm-2035 als Teil einer breiteren Kampagne zur Beeinflussung der US-Wahlen, die seit 2020 aktiv ist. Diese Gruppe richtete sich an US-Wählergruppen an entgegengesetzten Enden des politischen Spektrums und verwendete polarisierende Botschaften zu Themen wie den US-Präsidentschaftskandidaten, LGBTQ-Rechten und dem Israel-Hamas-Konflikt.

Schlussfolgerung

Die kürzliche Sperrung dieser ChatGPT-Konten durch OpenAI unterstreicht die Bedeutung, wachsam zu bleiben und Maßnahmen gegen die missbräuchliche Nutzung von KI-Technologien zu ergreifen. Die Verantwortung liegt nun sowohl bei Technologieunternehmen als auch bei Wahlbehörden, zusammenzuarbeiten, um das Informationsökosystem zu sichern. Das Ziel ist es, informierte Wahlentscheidungen zu ermöglichen, die frei von Manipulation und Desinformation sind.