Beim erneuten Hinsehen erkannte sie, dass es sich lediglich um ein KI-generiertes Foto handelte, das von einer Facebook-Seite zur Illustration eines gefühlvollen Beitrags verwendet wurde. Erwähnenswert ist, dass dies bereits das zweite Mal war, dass sie beinahe von einer KI getäuscht wurde. Zuvor hatte sie das Video „Rentner treffen Sommerurlauber“ ebenfalls für echte Personen und reale Ereignisse gehalten.

Da Frau Linh im Medienbereich arbeitet und regelmäßig mit KI-Inhalten konfrontiert wird, musste sie zugeben, dass sich diese Technologie so schnell und ausgefeilt entwickelt hat, dass es schwierig ist, zwischen echt und gefälscht zu unterscheiden.

Screenshot 1749203761184.png
Das auf Facebook viral gegangene Foto wurde von einer KI erstellt. Screenshot.

Auch Experten teilen diese Ansicht. Tools wie Google Veo 3, Kling AI, DALL·E 3, Midjourney... sind mittlerweile in der Lage, unglaublich realistische Bilder und Videos zu erstellen.

Herr Do Nhu Lam, Ausbildungsleiter des Blockchain Technology and Artificial Intelligence Institute ABAII, wies darauf hin, dass diese Tools dank multimodaler Technologie und fortschrittlicher Sprachmodelle Bilder, Töne, Gesichtsausdrücke und natürliche Bewegungen synchronisieren und so äußerst überzeugende Produkte schaffen können.

W-Foto von Herrn Do Nhu Lam.jpg
Herr Do Nhu Lam, Ausbildungsleiter des Blockchain-Technologie- und Instituts für Künstliche Intelligenz ABAII, erklärte, dass fortschrittliche KI-Technologie äußerst überzeugende Produkte hervorbringt. Foto: NVCC

Herr Lam merkte an, dass die Fortschritte der KI großes Potenzial in Bereichen wie Content-Erstellung, Werbung, Unterhaltung und Bildung eröffnen. Diese „lebensechte“ Fähigkeit zur Nachbildung birgt jedoch auch viele Herausforderungen in Bezug auf Ethik, Kontrolle und Informationssicherheit, da die Grenze zwischen Realität und Virtualität zunehmend verschwimmt.

Der Facebook-Beitrag, den Frau Linh sah, erzielte fast 300.000 Interaktionen und über 16.000 Kommentare. Viele Nutzer gratulierten überschwänglich oder drückten ihre Gefühle aus, ohne zu wissen, dass es sich lediglich um eine KI-Illustration handelte. Einige besonnenere Nutzer kritisierten die Naivität mancher Internetnutzer, die sich von der KI täuschen ließen.

In Facebook-Gruppen und -Foren findet man unzählige KI-Videos, die von Nutzern erstellt und geteilt werden. Insbesondere seit dem Erscheinen von Google Veo 3 hat sich die Videoqualität deutlich verbessert, vor allem die Stimme passt nun perfekt zur Mundbewegung der Figur. Wer nicht genau hinsieht, kann die Videos leicht verwechseln.

In Zeiten der KI den Verstand behalten

Fotos und Videos, die mithilfe von KI erstellt wurden, sind schwer von echten Fotos und Videos zu unterscheiden und stellen daher ein großes Risiko für Nutzer dar, insbesondere für technisch weniger versierte, gefährdete Gruppen. Laut Vu Thanh Thang, Direktor für Künstliche Intelligenz (CAIO) der SCS Cyber ​​Security Joint Stock Company, wird KI von Cyberkriminellen für Betrug (Umgehung biometrischer Systeme, eKYC usw.) eingesetzt, indem sie sich als Prominente ausgeben, um Falschinformationen zu verbreiten und Verwirrung in der Öffentlichkeit zu stiften. Es gibt zahlreiche Fälle, in denen technisch versierte Kriminelle KI missbrauchen, um Deepfake-Fotos zu erstellen und sich als Verwandte auszugeben, um per Videoanruf Geld zu ergaunern.

Herr Vu Thanh Thang.jpg
Herr Vu Thanh Thang, Direktor für Künstliche Intelligenz (CAIO) der SCS Cyber ​​Security Joint Stock Company, erklärte, wir seien in ein Zeitalter eingetreten, in dem alles gefälscht werden könne. Foto: NVCC

Laut Herrn Thang sind auch Unternehmen potenzielle Ziele für KI-Kriminelle. Diese können KI-Deepfakes einsetzen, um sich als Mitarbeiter auszugeben, Sicherheitssysteme zu umgehen, um Anwesenheitslisten zu öffnen, und sich als Unternehmensleiter auszugeben, um den Ruf von Unternehmen zu schädigen.

Herr Do Nhu Lam von ABAII teilte diese Ansicht und wies auf drei Folgen von KI für einzelne Nutzer hin: Finanzbetrug, Rufschädigung und die Ausbeutung privater Daten. Unternehmen wie Arup verloren 25 Millionen US-Dollar, nachdem Mitarbeiter ihrer Hongkonger Niederlassung durch eine Deepfake-Videokonferenz getäuscht und zur Geldüberweisung verleitet worden waren.

Alles, was Sie über Veo 3 wissen müssen, das aktuelle KI-Tool zur Erstellung viraler Videos . Googles neuestes KI-Modell zur Videoerstellung – Veo 3 – beeindruckt durch seine Fähigkeit, realistisch synchronisierten Ton mit Bildern zu erzeugen.

Ein weiteres, ebenso gravierendes Risiko besteht darin, dass das Vertrauen der Öffentlichkeit in die Medien und offizielle Nachrichtenquellen schwindet, wenn die Menschen nicht mehr zwischen Realität und Falschheit unterscheiden können.

Herr Lam zitierte einen Bericht des Reuters Institute aus dem Jahr 2024, demzufolge der Anteil der Nutzer weltweit, die Nachrichten auf Medienplattformen vertrauen, auf den niedrigsten Stand seit einem Jahrzehnt gesunken ist, vor allem aufgrund des Aufkommens von Deepfake-Inhalten.

Laut Experte Vu Thanh Thang befinden wir uns in einem Zeitalter, in dem alle Informationen gefälscht werden können und kein „Risiko“ mehr darstellen. Daher ist es notwendig, das Bewusstsein zu schärfen, persönliche Schutzmaßnahmen zu ergreifen und sich mit KI auseinanderzusetzen, um in Frieden leben zu können.

Die beiden Experten empfehlen Nutzern, Informationen stets zu überprüfen und zu bestätigen, bevor sie Entscheidungen treffen; sich Wissen anzueignen, um gefälschte Inhalte zu erkennen; die Weitergabe persönlicher Daten im Internet einzuschränken; und die Verbreitung von Falschmeldungen zu melden. „Nur durch proaktives Handeln und fundiertes Wissen können sich Nutzer wirklich schützen und zu einem sichereren Cyberspace im digitalen Zeitalter beitragen“, so Herr Lam.

Besorgt über das Aussterben der Menschheit durch KI, hat der KI-„Pate“ Yoshua Bengio nun gehandelt. Er gründete eine gemeinnützige Organisation mit dem Ziel, sichere KI-Systeme zu entwickeln, anstatt gefährliche Persönlichkeiten auf Menschen zu übertragen.

Quelle: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html