KI-Betrug mit gefälschten Veteranengeschichten im Onlinehandel

Eine emotionale Geschichte als Verkaufsinstrument

Ein britischer Armeeveteran ist nach eigenen Angaben auf eine digitale Betrugsmasche hereingefallen, bei der ein mutmaßlich künstlich erzeugter Ex-Soldat als Verkäufer auftrat. Die Geschichte wirkte zunächst wie ein persönlicher Einblick in den Alltag eines verletzten Veteranen: Ein Mann arbeite in einer Garage an handgefertigten Holzfahnen, um angesichts ausbleibender Verkäufe seinen Lebensunterhalt zu sichern. Seine Ehefrau unterstütze ihn dabei. Die dargestellte Situation sollte Mitgefühl wecken und zugleich den Eindruck vermitteln, mit dem Kauf ein kleines, authentisches Veteranenunternehmen zu unterstützen.

Raymond Gilbert, 63 Jahre alt und aus Bradenstoke in der englischen Grafschaft Wiltshire, bestellte daraufhin eine solche Fahne über einen externen Onlineshop. Nach Angaben der BBC bezahlte er 154,99 Pfund. Als das Paket eintraf, stammte es jedoch offenbar aus einem chinesischen Versandlager. Gilbert beschrieb das Produkt als bedrucktes Bild auf zusammengeklebtem Holz. Die Qualität habe erheblich von der Darstellung in der Werbung abgewichen.

Gilbert verfügt selbst über militärische Erfahrung. Er arbeitete als Qualitätsmanager für die britische Armee in Afghanistan, unter anderem in Camp Bastion und Kandahar. Gerade diese Verbindung zur ehemaligen britischen Militärgemeinschaft dürfte dazu beigetragen haben, dass die Darstellung für ihn glaubwürdig wirkte. Er ging davon aus, einen ehemaligen Soldaten zu unterstützen und ein handgefertigtes Produkt zu erwerben.

Der Fall steht nach den Recherchen der BBC nicht isoliert. Der Sender identifizierte 45 TikTok-Konten mit vergleichbaren Inhalten. Auch auf Facebook, Instagram und YouTube wurden ähnliche Videos gefunden. Angeboten wurden unter anderem Taschen, Schneidebretter, Türkränze und weitere Gegenstände mit militärischen oder patriotischen Motiven.

Wie die mutmaßliche Masche funktioniert

Im Mittelpunkt der Methode steht nicht allein ein gefälschtes Produktbild. Die Betreiber kombinieren mehrere Täuschungselemente zu einer scheinbar persönlichen Geschichte. Ein digitales Video zeigt einen vermeintlichen Veteranen mit Verletzungen oder körperlichen Einschränkungen. Eingeblendete Texte schildern finanzielle Schwierigkeiten, fehlende Bestellungen oder die Sorge, das eigene Geschäft aufgeben zu müssen. Häufig wird zusätzlich eine familiäre Situation dargestellt, etwa die Unterstützung durch eine Ehefrau.

Die emotionale Erzählung übernimmt dabei eine ähnliche Funktion wie ein klassischer Spendenaufruf. Potenzielle Käufer sollen nicht nur den wirtschaftlichen Wert eines Artikels beurteilen. Sie sollen das Gefühl bekommen, durch ihre Bestellung unmittelbar einem Menschen in einer schwierigen Lage zu helfen. Der Kauf wird damit moralisch aufgeladen.

Der anschließende Prozess ähnelt dem sogenannten Social Engineering. Dabei werden menschliche Eigenschaften wie Mitgefühl, Loyalität, Hilfsbereitschaft oder Zeitdruck gezielt genutzt, um eine Handlung auszulösen. Im vorliegenden Fall scheint der Impuls zum Kauf aus der Kombination von Mitgefühl und vermeintlicher Unterstützung eines ehemaligen Soldaten entstanden zu sein.

Nach dem Klick auf den Link im sozialen Netzwerk gelangen Nutzer häufig auf eine eigenständige Verkaufsseite. Diese kann professionell gestaltet sein und Bewertungen, Produktfotos, Rabattaktionen oder Hinweise auf eine angeblich begrenzte Verfügbarkeit enthalten. Dadurch entsteht der Eindruck eines etablierten Handelsangebots. Die Verbindung zwischen dem Video und dem Shop verstärkt den Eindruck, der dargestellte Veteran fertige die angebotenen Waren selbst an.

In der Praxis kann sich hinter dieser Fassade jedoch ein international organisiertes Dropshipping- oder Betrugsmodell verbergen. Die Ware wird dann nicht vom beworbenen Verkäufer hergestellt, sondern von einem Lieferanten in einem anderen Land versandt. Selbst wenn ein Produkt tatsächlich geliefert wird, kann es qualitativ deutlich hinter den Versprechen zurückbleiben. Zusätzlich können Verbraucher Schwierigkeiten haben, den Händler zu identifizieren oder ihre Rechte durchzusetzen.

Warum künstlich erzeugte Videos die Täuschung erleichtern

Nach Einschätzung des Technologieexperten Will Guyatt lassen sich solche Videos inzwischen innerhalb weniger Minuten produzieren. Generative KI kann Bilder, Videos, Stimmen, Gesichtsausdrücke und Texte erzeugen oder kombinieren. Die Inhalte können so gestaltet werden, dass sie gezielt emotional wirken. Ein Auftrag an ein KI-System kann beispielsweise eine verletzte Person, eine bedrückende Hintergrundgeschichte und einen besonders eindringlichen Aufruf zur Unterstützung vorgeben.

Frühere Generationen künstlich erzeugter Bilder waren häufig durch offensichtliche Fehler erkennbar. Zusätzliche Finger, unnatürliche Gesichtszüge, fehlerhafte Schrift oder Gegenstände, die sich zwischen zwei Bildern veränderten, galten als typische Hinweise. Diese Merkmale treten weiterhin auf, sind aber nicht mehr zuverlässig. Die technische Qualität synthetischer Medien hat sich deutlich verbessert.

Besonders problematisch ist, dass die Glaubwürdigkeit eines Videos nicht nur von seiner visuellen Qualität abhängt. Auch Schnitt, Musik, Untertitel und die Dramaturgie tragen zur Wirkung bei. Ein technisch nicht perfektes Video kann überzeugend erscheinen, wenn die Geschichte nachvollziehbar wirkt und an bekannte gesellschaftliche Vorstellungen anknüpft. Veteranen genießen in Großbritannien traditionell ein hohes Maß an Anerkennung. Diese gesellschaftliche Wertschätzung wird in der beschriebenen Masche offenbar als Vertrauenssignal eingesetzt.

Hinzu kommen Kommentare unter den Videos. Guyatt zufolge können zahlreiche automatisierte oder koordinierte Konten die Beiträge kommentieren und dadurch den Eindruck unabhängiger Zustimmung erzeugen. Solche Kommentare können angebliche Kauferfahrungen bestätigen, zur Eile auffordern oder Zweifel anderer Nutzer zurückweisen. Für Interessenten entsteht dadurch eine künstliche soziale Umgebung, in der die Echtheit des Angebots scheinbar von vielen Personen bestätigt wird.

Erkennbare Warnzeichen in Videos und Onlineshops

Die BBC berichtete, dass bei mehreren untersuchten Videos Verletzungen oder andere körperliche Merkmale der dargestellten Personen wechselten. Außerdem wurden Erzählungen und Formulierungen über verschiedene Konten hinweg wiederverwendet. Die Inhalte wirkten teilweise auffallend professionell produziert, obwohl sie angeblich aus privaten Werkstätten oder Garagen stammten.

Für Nutzer ist eine einzelne Auffälligkeit allerdings kein sicherer Beweis für einen Betrug. Auch echte kleine Unternehmen können professionelles Bildmaterial verwenden, während KI-generierte Inhalte gelegentlich authentische Aufnahmen imitieren. Entscheidend ist daher die Kombination mehrerer Prüfschritte.

Vor einer Bestellung sollten Sie insbesondere prüfen, ob die Identität des Anbieters nachvollziehbar ist. Ein seriöser Händler sollte ein vollständiges Impressum, eine erreichbare Kontaktmöglichkeit, klare Rückgabeinformationen und transparente Angaben zur Lieferzeit bereitstellen. Fehlen diese Informationen oder führen sie zu unklaren beziehungsweise widersprüchlichen Adressen, ist Vorsicht geboten.

• Prüfen Sie, ob sich das Produktbild oder die Produktbeschreibung mit einer Rückwärtssuche oder einer allgemeinen Websuche auch auf anderen Verkaufsseiten finden lässt.
• Vergleichen Sie die Preise, Materialangaben und Lieferzeiten mit Angeboten etablierter Händler.
• Achten Sie auf widersprüchliche Angaben zur Herstellung, zum Versandort oder zum Sitz des Unternehmens.
• Untersuchen Sie Videos auf wechselnde Verletzungen, unnatürliche Bewegungen, veränderte Gegenstände oder fehlerhafte Beschriftungen.
• Bewerten Sie Kommentare nicht automatisch als unabhängige Kundenmeinungen, da sie auch automatisiert oder koordiniert erstellt worden sein können.
• Bitten Sie eine technisch erfahrene Person um eine zweite Einschätzung, wenn Sie unsicher sind.
• Vermeiden Sie Zahlungen über nicht nachvollziehbare Zahlungswege und bevorzugen Sie Verfahren mit Käuferschutz.

Ein emotionaler Appell ist für sich genommen kein Beleg für eine Straftat. Er sollte jedoch nicht die sachliche Prüfung des Händlers ersetzen. Je stärker ein Beitrag auf Schuldgefühle, Mitleid oder Zeitdruck setzt, desto wichtiger ist es, vor dem Kauf innezuhalten.

Die Folgen für Veteranen und Hilfsorganisationen

Die Auswirkungen der Masche gehen über den finanziellen Schaden einzelner Käufer hinaus. Veteranenorganisationen befürchten, dass gefälschte Geschichten das Vertrauen der Öffentlichkeit beschädigen. Wenn Nutzer wiederholt mit erfundenen Schicksalen konfrontiert werden, könnten sie auch berechtigten Hilfsanfragen skeptischer gegenüberstehen.

Spencer Bull von Help for Heroes erklärte gegenüber der BBC, solche Inhalte könnten den Eindruck erwecken, ehemalige Soldaten erhielten keinerlei Unterstützung. Tatsächlich existiere ein breites Netz von Organisationen, die Veteranen bei sozialen, gesundheitlichen und finanziellen Problemen unterstützten. Die gefälschten Videos würden jedoch die Wahrnehmung dieser Arbeit beeinträchtigen.

Auch Faye Tryhorne von Alabaré verwies auf das Risiko, dass Menschen nach einem Betrug ihre Bereitschaft zur Unterstützung grundsätzlich verringern. Wenn ein Kauf, eine Spende oder eine andere Hilfeleistung mit einer Täuschung verbunden wird, kann dies das Vertrauen in die gesamte Gruppe der Hilfsbedürftigen schwächen.

Für ehemalige Soldaten ist die Instrumentalisierung ihrer Biografie besonders sensibel. Militärische Einsätze, Verletzungen und soziale Notlagen werden in den Videos nicht nur als beliebige Marketingelemente verwendet. Sie dienen als Identitätsmarker, die Respekt und Solidarität auslösen sollen. Dadurch entsteht ein zusätzlicher immaterieller Schaden für Menschen, deren reale Erfahrungen auf diese Weise als Kulisse für den Verkauf minderwertiger Produkte eingesetzt werden.

Mehrere Bewohner einer Einrichtung von Alabaré in Bristol äußerten gegenüber der BBC Empörung über die Videos. Dabei wurde auch die Sorge genannt, dass die Betrugsmasche die langfristige Unterstützung von Veteranen erschweren könnte. Die Reaktionen verdeutlichen, dass die Täuschung nicht nur eine Frage des Onlinehandels ist, sondern auch die Würde und öffentliche Wahrnehmung einer gesellschaftlichen Gruppe berührt.

Warum die Entfernung einzelner Konten nicht ausreicht

TikTok erklärte, die Plattform verfüge über strenge Regeln gegen schädlich irreführende KI-Inhalte und Betrug. Nach einer Meldung der BBC seien alle 45 identifizierten Konten entfernt worden. Meta teilte mit, täuschende oder irreführende Praktiken nicht zu erlauben und regelwidrige Inhalte auf Facebook und Instagram zu löschen. YouTube erklärte, mehrere gemeldete Kanäle wegen Verstößen gegen Richtlinien zu Spam, Täuschung und Betrug beendet zu haben.

Die Entfernung einzelner Inhalte löst das strukturelle Problem jedoch nur teilweise. Betrüger können neue Konten anlegen, weitere Domains registrieren und dieselben Werbematerialien leicht verändern. Mithilfe generativer Systeme lassen sich neue Varianten eines Videos, ein anderes Gesicht oder eine angepasste Geschichte mit vergleichsweise geringem Aufwand erstellen.

Für Plattformbetreiber entsteht damit ein Wettlauf zwischen automatisierter Erstellung und automatisierter Erkennung. Filtersysteme müssen nicht nur erkennen, ob ein Inhalt künstlich erzeugt wurde. Sie müssen auch beurteilen, ob eine Darstellung irreführend ist, ob ein Produktversprechen erfüllt wird und ob mehrere Konten miteinander verbunden sind.

Rechtlich kommt hinzu, dass die beteiligten Akteure, Plattformen, Händler und Versanddienstleister in unterschiedlichen Ländern sitzen können. Daniel Fletcher von Forbes Solicitors wies darauf hin, dass Verbraucher zwar grundsätzlich Anspruch auf eine Rückerstattung haben können, die Durchsetzung dieses Anspruchs bei grenzüberschreitenden Angeboten aber schwierig sei. Wird ein Shop geschlossen, kann ein neuer Anbieter mit ähnlichem Inhalt an seine Stelle treten.

Auch Werbeaufsichten stehen vor erheblichen Herausforderungen. Klassische Prüfverfahren sind häufig auf identifizierbare Werbetreibende und stabile Kampagnen ausgerichtet. Kurzlebige Konten, wechselnde Internetadressen und automatisiert erzeugte Inhalte erschweren die Zuordnung. Eine einzelne Anzeige kann verschwinden, bevor eine Untersuchung abgeschlossen ist.

Was Unternehmen aus dem Fall ableiten können

Der Vorfall ist auch für Unternehmen relevant, die selbst KI-generierte Inhalte einsetzen. Die technische Möglichkeit, realistisch wirkende Personen oder Testimonials zu erzeugen, erhöht die Anforderungen an Transparenz und interne Kontrolle. Wer synthetische Medien für Marketing, Produktkommunikation oder Social-Media-Kampagnen verwendet, sollte nachvollziehbar dokumentieren, wie die Inhalte entstanden sind und welche Aussagen tatsächlich belegt werden können.

Insbesondere bei sensiblen Themen wie Krankheit, Behinderung, Militärdienst, Armut oder persönlicher Notlage ist eine klare Trennung zwischen Fiktion und Realität erforderlich. Fiktive Charaktere dürfen nicht den Eindruck erwecken, es handle sich um reale Kunden, Mitarbeiter oder Betroffene. Ebenso sollten Unternehmen keine emotionalen Lebensgeschichten verwenden, wenn deren Authentizität nicht überprüft werden kann.

Für Kommunikations- und Compliance-Teams ergeben sich mehrere operative Prüfbereiche:

• Dokumentation der Herkunft von Bildern, Videos, Stimmen und Testimonials.
• Manuelle Freigabe besonders sensibler oder stark emotionaler Kampagnen.
• Prüfung von Produktversprechen, Lieferketten und Rückgabeprozessen.
• Überwachung von Markenmissbrauch und gefälschten Social-Media-Konten.
• Bereitstellung klarer Meldewege für Kunden, Partner und Plattformen.
• Regelmäßige Schulung von Mitarbeitenden im Umgang mit Deepfakes und Social Engineering.

Für Unternehmen, die Inhalte mit KI erstellen oder prüfen, können zentrale Arbeitsumgebungen hilfreich sein. Entscheidend ist dabei nicht allein die Generierung eines Textes oder Bildes. Ebenso wichtig sind Quellenprüfung, Versionierung, Freigabeprozesse und die Möglichkeit, Behauptungen nachvollziehbar zu belegen. Ein KI-Partner wie Mindverse kann in solchen Prozessen unterstützen, ersetzt jedoch nicht die journalistische, rechtliche oder unternehmerische Verantwortung für veröffentlichte Inhalte.

Die Grenzen visueller Echtheitsprüfung

Die Empfehlung, Videos sorgfältig auf technische Fehler zu untersuchen, bleibt sinnvoll, ist aber nicht ausreichend. Die Qualität generativer Systeme verändert sich schnell. Ein Hinweis, der heute noch zuverlässig erscheint, kann morgen bereits überholt sein. Außerdem können echte Videos aus dem Zusammenhang gerissen, mit falschen Untertiteln versehen oder mit künstlich erzeugten Audiospuren kombiniert werden.

Die Prüfung sollte deshalb stärker auf die gesamte Informationskette ausgerichtet werden. Nicht nur das Gesicht der dargestellten Person ist relevant. Auch die Identität des Accounts, die Historie des Shops, die Lieferbedingungen, die Zahlungsabwicklung und die Verknüpfungen zu anderen Konten müssen berücksichtigt werden.

Ein Video kann echt aussehen und dennoch eine falsche Behauptung enthalten. Umgekehrt kann ein KI-generiertes Video eindeutig als fiktional gekennzeichnet sein und rechtmäßig für Unterhaltungs- oder Bildungszwecke eingesetzt werden. Die zentrale Frage lautet daher nicht ausschließlich: „Wurde dieses Video mit KI erstellt?“ Sie lautet vielmehr: „Welche Aussage soll ich glauben, wer profitiert davon und lässt sie sich unabhängig überprüfen?“

Was Betroffene nach einem Kauf tun sollten

Wer einen ähnlichen Betrug vermutet, sollte zunächst alle Belege sichern. Dazu gehören Screenshots des Videos, die URL des Kontos und des Onlineshops, Bestellbestätigungen, Zahlungsbelege, E-Mails, Versandinformationen und Fotos des gelieferten Produkts. Auch der genaue Zeitpunkt des Kaufs kann für eine spätere Prüfung relevant sein.

Im nächsten Schritt sollten Betroffene den Zahlungsdienstleister kontaktieren und nach Möglichkeiten für eine Rückbuchung oder ein Verfahren zum Käuferschutz fragen. Je nach Zahlungsmethode und Frist können die Erfolgsaussichten unterschiedlich sein. Zusätzlich sollte der Vorfall der jeweiligen Plattform und den zuständigen Verbraucher- oder Strafverfolgungsstellen gemeldet werden.

Wichtig ist, sich nicht aus Scham zurückzuziehen. Betrugsmodelle sind darauf ausgelegt, Vertrauen zu erzeugen und kritische Prüfungen zu umgehen. Die Tatsache, dass ein Angebot professionell aussieht oder eine Person eine glaubwürdige Geschichte erzählt, sagt nichts über die Zuverlässigkeit des dahinterstehenden Händlers aus.

Ein Warnsignal für die digitale Vertrauensökonomie

Der Fall des britischen Veteranen zeigt, wie sich klassische Betrugsmethoden durch generative KI verändern. Die Technologie erzeugt nicht automatisch den Betrug. Sie senkt jedoch die Kosten für die Produktion glaubwürdiger Inhalte, beschleunigt die Erstellung neuer Varianten und ermöglicht eine deutlich präzisere emotionale Ansprache.

Die besondere Gefahr liegt in der Verbindung von synthetischer Identität, gefälschtem sozialem Beweis und internationalem Onlinehandel. Ein einzelnes Video kann Aufmerksamkeit erzeugen, automatisierte Kommentare können Vertrauen simulieren und ein externer Shop kann den Kauf abschließen. Für Verbraucher ist oft nur ein kleiner Ausschnitt dieses Systems sichtbar.

Die Reaktion darauf wird mehrere Ebenen erfordern: Plattformen müssen Konten und Werbenetzwerke schneller erkennen, Händler müssen ihre Identität und Lieferketten transparenter machen, Zahlungsdienstleister müssen verdächtige Muster analysieren, und Nutzer benötigen praktische Kompetenzen zur Quellen- und Anbieterprüfung. Für Unternehmen wiederum wird es wichtiger, den Einsatz generativer KI nicht nur als Kreativ- oder Produktivitätsthema, sondern auch als Risiko- und Governance-Frage zu behandeln.

Die Entfernung der im Bericht identifizierten Konten ist ein konkreter Schritt, beendet die Entwicklung aber nicht. Solange emotionale Geschichten die Aufmerksamkeit erhöhen und sich Produkte mit geringem Aufwand über internationale Lieferketten verkaufen lassen, bleibt die Masche für Kriminelle attraktiv. Der Schutz vor solchen Angeboten wird daher nicht von einem einzigen Erkennungsmerkmal abhängen, sondern von einer Kombination aus technischer Analyse, Medienkompetenz, nachvollziehbaren Geschäftsangaben und konsequenter Durchsetzung bestehender Regeln.

Bibliografie

BBC News: „British Army veteran conned by AI ex-soldier’s ‘pity scam’“, Jonathan Holmes, 25. September 2026. https://www.bbc.co.uk/news/articles/cvgy0lz08keo

BBC News: „British Army veteran conned by AI ex-soldier’s ‘pity scam’“, ergänzende Fassung. https://www.bbc.com/news/articles/cvgy0lz08keo

Federal Trade Commission: „Is that person you met online really a military servicemember—or a scammer?“, Cristina Miranda, 20. Juni 2024. https://consumer.ftc.gov/consumer-alerts/2024/06/person-you-met-online-really-military-servicememberor-scammer

Justice4Heroes: „Veterans and Scams: What to Watch Out For“, 30. Juli 2025. https://justice4heroes.org/post/veterans-scam-awareness-uk

Daily Record: „Fake soldier used photo of real war hero from a book to dupe Royal British Legion“, James Moncur, 5. Mai 2015. https://www.dailyrecord.co.uk/news/scottish-news/fake-soldier-used-photo-real-5637972