Video, das mutmaßliche KI zeigt, die sich als behinderte Person ausgibt, um Waren zu verkaufen, löst Empörung aus

Account nutzt KI, um sich als Verkäufer auszugeben. Foto: TikTok .

Mit dem Aufkommen fortschrittlicher KI-Tools in jüngster Zeit ist die Erstellung von Fotos und Videos mit wenigen Befehlen deutlich einfacher geworden. Die Fähigkeit der Internetnutzer, zwischen echt und gefälscht zu unterscheiden, hat mit dieser Entwicklung jedoch nicht Schritt gehalten und wurde von einigen Akteuren gewinnbringend ausgenutzt.

Kürzlich verbreitete sich in den sozialen Medien ein TikTok-Account, der Videos einer Frau veröffentlichte, der beide Arme amputiert wurden und die Waren verkaufen muss, um ihre kleinen Kinder zu ernähren. In den Clips trägt sie einfache Kleidung und spricht einfühlsam, um Produkte wie Papierhandtücher und Waschmittel anzupreisen.

Laut Bericht schilderte die Frau den frühen Tod ihres Mannes durch einen Unfall und wie sie nun ihr kleines Kind allein großzieht. Die Videos widersprachen sich jedoch in ihrer Darstellung. Der Kanal erreichte innerhalb von drei Tagen nach seiner Erstellung über Millionen von Aufrufen und Interaktionen und gewann 100.000 Follower hinzu. Viele Menschen drückten ihr Mitgefühl aus, riefen zu Unterstützung auf und bestellten sogar Produkte, um zu helfen.

Nutzer entdecken immer wieder Accounts mit ähnlichen Inhalten. Gemeinsam ist diesen Kanälen, dass es sich um neu erstellte persönliche Seiten handelt, die keine nennenswerte Interaktionshistorie aufweisen und häufig übermäßig emotionale Inhalte teilen.

Diese Kanäle sind oft neu und haben kein klares Profil.

Nach einiger Zeit bemerkten Internetnutzer jedoch Ungereimtheiten und Widersprüche in den Videos. Beispielsweise wirkte der amputierte Arm der Frau sehr glatt, die Wandfarbe des Hauses war anders, und das Baby lag ungewöhnlich still. Der Grund dafür war, dass alle Clips von einer KI erstellt worden waren, um andere zu täuschen.

Es ist bemerkenswert, dass die warnenden oder aufdeckenden Kommentare vom Kontoinhaber ausgeblendet oder gelöscht wurden. Viele fühlten sich getäuscht und waren empört über das Verhalten, die Sympathie der Menschen auszunutzen.

Darüber hinaus schädigen diese gefälschten Videos auch die Betreiber und andere Menschen mit Behinderung, die auf derselben Plattform ihren Lebensunterhalt verdienen. Frau Tran Thi Nga (36 Jahre) aus Phu Tho , Betreiberin des Kanals „Nga Tich Cuc“, musste immer wieder betonen, dass ihr tatsächlich ein Arm amputiert wurde.

Ende 2024 erkrankte diese Person an einer akuten viralen Myokarditis und musste sich allen Gliedmaßen amputieren lassen. Sie begann ein neues Leben, unterstützt von der Liebe ihrer Familie. In einem kürzlich stattgefundenen Livestream äußerte sie ihre Trauer darüber, dass man an ihr gezweifelt und sie harsche Worte ertragen musste.

Diese neu erstellten Kanäle gewannen ebenfalls schnell viele Follower, was die Unterscheidung erschwerte. Ein anderer Account mit ähnlichen Inhalten namens NLS konnte nach nur einem Video fast 50.000 Follower hinzugewinnen.

Die Nutzer äußerten Empörung und Vertrauensverlust, als sie getäuscht wurden.

Daher kann man der Online-Community nicht vorwerfen, dass sie allmählich das Vertrauen in das Gesehene verliert und sich somit nicht mehr um diejenigen kümmert, die wirklich Hilfe benötigen. In einem Kommentar hieß es, diejenigen, die KI-Technologie nutzen, um die Emotionen der Community auszunutzen, seien zu verurteilen.

Cyberbetrugsmaschen werden immer raffinierter und zielen auf Menschen mit wenigen sozialen Kontakten oder ältere Menschen ab. Die meisten Betrüger verwenden Bilder von Menschen in Notlagen, beispielsweise Krankenhausaufenthalte oder Behinderungen, und fügen dann Warenkörbe hinzu oder hinterlassen Kontonummern, um Hilfe zu rufen.

CNBC hatte zuvor über 30 Instagram-, YouTube- und TikTok-Konten aufgedeckt, die mithilfe von KI Menschen mit Down-Syndrom imitierten. Diese Personen nutzten herzzerreißende Geschichten, um Follower zu gewinnen und zu Spenden aufzurufen, doch in Wirklichkeit eigneten sie sich die Konten für sich selbst an.

Der Vorfall verdeutlicht die Möglichkeit, dass die Fähigkeit von KI, realistische Inhalte zu generieren, von Kriminellen missbraucht werden könnte. Angesichts der rasanten technologischen Entwicklung ist es wichtig, dass Nutzer diese Technologien bekannter machen und ihre Angehörigen vor Online-Betrug schützen.

Kommentar (0)