Том Хэнкс предупреждает о поддельных изображениях, созданных искусственным интеллектом, в своем личном Instagram
По данным The Guardian , актер Том Хэнкс предупредил поклонников, что его изображение в недавней рекламе стоматологии является поддельным и создано с помощью искусственного интеллекта (ИИ). Звезда Форреста Гампа написал в Instagram своим 9,5 миллионам подписчиков: «Будьте осторожны! Есть видеореклама стоматологии, в котором есть мое изображение, созданное с помощью ИИ. Я не имею никакого отношения к этому проекту».
В электронном письме в The New York Times представитель Meta, материнской компании Instagram, не прокомментировал рекламу напрямую, но сказал, что размещение рекламы, в которой используются изображения знаменитостей в обманных целях, нарушает политику нашего сообщества. «Мы выделили значительные ресурсы на борьбу с этими типами мошенничества и значительно улучшили меры по обеспечению соблюдения, включая приостановку и удаление учетных записей, страниц и рекламы, которые нарушают нашу политику», — добавил представитель.
Ранее жертвой этой технологии стал и Марк Цукерберг - генеральный директор известной социальной сети Facebook. Из его простой речи технология искусственного интеллекта создала видеоролик с контентом, признающим, что Facebook ворует данные пользователей и контролирует будущее. Хотя в этом видеоролике ИИ, выдающий себя за голос господина Марка Цукерберга, не слишком похож, его все равно очень сложно узнать.
Ранее в США фальшивый голос по телефону, который звучал настолько реалистично, заставил мать подумать, что ее дочь похитила мужчина. «Мама, пожалуйста, спаси меня», — Дженнифер ДеСтефано из Аризоны недавно услышала, как ее дочь рыдает по телефону, прежде чем мужчина прервал ее и потребовал выкуп. Мать была на 100% уверена, что ее дочь, которая каталась на лыжах, была похищена. «Я даже не задавалась вопросом, кто это был. Это был ее голос. Так она плакала, поэтому я ничего не заподозрила», — сказала она. Мошенник использовал неизвестный номер телефона и потребовал от нее выкуп в размере до 1 миллиона долларов. Мошенничество с использованием ИИ было раскрыто всего через несколько минут после того, как г-жа ДеСтефано связалась с дочерью. Дело расследуется полицией и отражает риск того, что киберпреступники воспользуются возможностями генерации голоса с помощью ИИ.
Недавно мошенник по имени Жильбер Чикли предстал перед судом за то, что выдавал себя за министра иностранных дел Франции Жана-Ива ле Дриана, требуя выкуп у богатых людей и руководителей корпораций за освобождение французских заложников в Сирии. Или репортерша Рана Айюб (Индия) вживила свое лицо в порнографические видеоролики, а затем преступники использовали эти поддельные видеоролики, чтобы шантажировать ее.
Американская компания по кибербезопасности McAfee недавно опубликовала опрос под названием «Искусственные имитаторы», показывающий, что многие люди не могут отличить настоящие голоса от поддельных. Опрос, в котором приняли участие 7054 человека из 9 стран, включая США и Индию, показал, что многие люди стали жертвами или знают о случаях обмана с помощью технологии генерации голоса ИИ. Около 70% признались, что не уверены в различении настоящих и сгенерированных ИИ голосов.
По данным Reuters , Генеральный секретарь ООН Антониу Гутерриш поддержал предложение некоторых лидеров компаний ИИ о создании международного органа по надзору за ИИ. «Тревожные звонки о новейшей форме ИИ, генеративном ИИ, громче всего звучат от разработчиков, которые ее разработали. Мы должны серьезно отнестись к этим предупреждениям», — сказал он. Кроме того, он объявил о планах по созданию в этом году консультативного органа высокого уровня по ИИ.
По словам г-на Васима Халеда, генерального директора компании Blackbird.AI (США), журнала Organizer , технология, использующая ИИ для имитации голосов, теперь практически неотличима от настоящих голосов. «Это помогает мошенникам эффективнее получать деньги и информацию от жертв», — сказал он.
«Сейчас настолько легко создать голос, который будет звучать реалистично, что практически любой человек, имеющий присутствие в Интернете, может стать жертвой», — сказал профессор Хани Фарид из Калифорнийского университета (США), предупредив, что подобные мошенничества становятся все более распространенными.
Гал Тал-Хохберг, технолог Team8, израильской компании по кибербезопасности, считает, что мы быстро приближаемся к точке, когда мы не сможем доверять всему, что видим в сети. «Нам понадобятся новые технологии, чтобы знать, что человек, с которым вы разговариваете, действительно тот человек, с которым вы разговариваете», — сказал он.
Тайский Ан
Источник
Комментарий (0)