Od dziś nie ufaj zrzutom ekranu.

Narzędzie GPT Image 2 firmy OpenAI potrafi tworzyć zrzuty ekranu, historie przelewów i zdjęcia gwiazd tak realistyczne, że nie sposób odróżnić ich od prawdziwych osób, wywołując falę fałszywych wiadomości w mediach społecznościowych.

Za pomocą sztucznej inteligencji można podrobić obrazy przelewów bankowych, aby wyglądały jak prawdziwe. Zdjęcie: Fireart .

Zrzut ekranu artykułu prasowego z nagłówkiem „Firma Xishanju rozwiązana, gry do odsprzedaży” krążył w dziesiątkach chińskich grup czatowych. To była całkowicie fałszywa wiadomość, stworzona za pomocą GPT Image 2 w niecałą minutę. To tylko jeden z serii przykładów pokazujących, jak najnowszy model generowania obrazów OpenAI całkowicie zmienia nasze postrzeganie wiarygodności obrazów w internecie.

Przez ostatnie trzy lata modele AI do tworzenia obrazów stale borykały się z poważną słabością: tekstem, zwłaszcza w językach innych niż angielski. Chociaż AI potrafi tworzyć piękne obrazy, tekst w nich zawarty jest często pozbawiony sensu lub chaotyczny, co pozwala użytkownikom natychmiast rozpoznać je jako fałszywe. GPT Image 2 całkowicie wyeliminował tę słabość.

GPT tworzy niezwykle realistyczne fałszywe zrzuty ekranu bez błędów interfejsu i czcionek. Obraz: QQ.

GPT Image 2, wykorzystując jedynie opisowe zdanie i bez obrazów referencyjnych, tworzy pełną historię przelewów bankowych z pełnymi szczegółami, numerem konta, imieniem i nazwiskiem odbiorcy, datą i godziną transakcji oraz standardowym formatem rzeczywistych aplikacji bankowych. Interfejsy telefonu, posty w mediach społecznościowych i powiadomienia aplikacji są idealnie odwzorowane, nawet bez przykładowych obrazów.

Rzeczywisty wpływ był natychmiastowy. Dział komunikacji Xiaomi musiał wydać oświadczenie, zaprzeczając serii fałszywych zdjęć stworzonych przez sztuczną inteligencję, w tym jednemu, na którym prezes Apple, Tim Cook, „podpisuje umowę o partnerstwie z Xiaomi”. Prezesi i liderzy dużych firm stali się najczęstszymi ofiarami fałszywych zdjęć, ponieważ ich twarze pojawiają się w całości w telewizji i mediach społecznościowych, co pozwala sztucznej inteligencji odtworzyć je dokładniej niż zwykli ludzie.

Tempo tworzenia obrazów przez sztuczną inteligencję w ciągu trzech i pół roku od uruchomienia ChatGPT pokazuje niesamowity skok. Od momentu, gdy sztuczna inteligencja nie potrafiła pisać liter, tworzyć precyzyjnych gestów dłoni ani tworzyć pozornie sztucznych postaci ludzkich, rozwinęła się do punktu, w którym praktycznie nie ma słabych punktów, które można wykryć gołym okiem.

W tym kontekście tendencja do sceptycznego podejścia do każdego zrzutu ekranu otrzymanego w wiadomości tekstowej staje się niezbędną umiejętnością.

Źródło: https://znews.vn/tu-hom-nay-dung-tin-anh-chup-man-hinh-post1646556.html