Laut FBI wird KI für „Erpressung“ und Belästigung eingesetzt

In einer diese Woche verbreiteten Warnung erklärte das FBI, es habe in letzter Zeit eine Zunahme von Erpressungsopfern beobachtet, die angaben, mithilfe künstlicher Intelligenz an sich gerissen worden zu sein, um ansonsten normale Bilder aus Online-Posts, persönlichen Nachrichten oder Videochats in gefälschte Versionen zu verwandeln.

Die spanische Polizei verhaftete einen Programmierer, der mithilfe künstlicher Intelligenz gefälschte Kinderpornografie-Bilder erstellte. Foto: Daily Mail

„Die Täter schicken die Bilder dann direkt an die Opfer, um sie zu erpressen oder sexuell zu belästigen. Nach der Verbreitung kann es für die Opfer zu erheblichen Herausforderungen kommen, die weitere Verbreitung der manipulierten Inhalte zu verhindern und sie aus dem Internet zu entfernen“, heißt es in der Warnung.

Das Amt sagte, die Bilder wirkten „lebensecht“, merkte aber auch an, dass in einigen Fällen auch Kinder betroffen gewesen seien.

Im Februar verhaftete die Polizei in Spanien einen Computerprogrammierer, der mithilfe künstlicher Intelligenz grausame Bilder von Kindesmissbrauch erstellt hatte. Es handelte sich vermutlich um eine der ersten Verhaftungen dieser Art.

Das FBI ging nicht näher auf die KI-Programme ein, die zur Erstellung sexueller Bilder verwendet wurden, stellte jedoch fest, dass der technologische Fortschritt „die Qualität, Anpassung und Zugänglichkeit der KI-gestützten Inhaltserstellung kontinuierlich verbessert“.

Die Bearbeitung herkömmlicher Fotos zur Erstellung erotischer Bilder ist fast so alt wie die Fotografie selbst, doch die jüngste Explosion von Open-Source-KI-Tools hat diesen Prozess einfacher denn je gemacht.

Gefälschte Fotos oder Videos sind oft nicht von echten Versionen zu unterscheiden und in den letzten Jahren sind sogar mehrere Websites und soziale Netzwerke entstanden, die sich der Erstellung und dem Austausch KI-gestützter sexueller Bilder widmen.

Dies gilt als eines einer Reihe von Risiken, die künstliche Intelligenz für die Gesellschaft darstellen kann, wie Experten in jüngster Zeit beunruhigt und davor gewarnt haben.

Hoang Anh (laut Daily Mail, Reuters)

Quelle: https://www.congluan.vn/fbi-cho-biet-ai-dang-duoc-su-dung-de-tong-tien-va-quay-roi-post250849.html