Опасения, что ИИ может читать мысли и манипулировать человеческими решениями

(CLO) Последние исследования Кембриджского университета раскрыли тревожную правду: ИИ — это не просто вспомогательный инструмент, но и возможность манипулировать нашими мыслями, превращая нас в марионеток в технологической пьесе.

Исследователи придумали новую концепцию под названием « экономика намерений». В этой экономике компании могут собирать и анализировать огромные объемы данных о нашем поведении, предпочтениях и привычках, чтобы предсказать, что мы будем делать дальше.

Затем они могут продавать эту информацию другим компаниям, которые хотят более точно нацеливать свою рекламу на нас.

ИИ обладает потенциалом формировать наши мысли и действия. Иллюстрация: ИИ

Например, предположим, вы ищете новый телефон. ИИ будет отслеживать ваше поведение в Интернете, ключевые слова, которые вы ищете, и даже ваши разговоры, чтобы лучше понять ваши потребности. Производители телефонов затем могут использовать эту информацию, чтобы показывать вам рекламу телефонов, которые лучше всего вам подходят.

«Если не контролировать экономику намерений, она может стать инструментом манипулирования нашими решениями», — предупреждает доктор Джонни Пенн, историк технологий из Кембриджского университета. «Компании могут использовать ИИ, чтобы заставить нас покупать продукты, которые нам не нужны, или даже повлиять на наши решения при голосовании».

Авторы утверждают, что модель искусственного интеллекта также будет управлять разговорами, обслуживая рекламодателей, компании и других третьих лиц. Рекламодатели смогут использовать инструменты, созданные на основе искусственного интеллекта, для создания онлайн-рекламы по запросу.

В отчете приводится пример модели искусственного интеллекта, созданной компанией Meta, под названием Cicero, которая достигла «человеческого уровня» в игре «Дипломатия» — игре, которая, по словам авторов, основана на определении и прогнозировании намерений оппонентов.

Ведущие эксперты в области технологий предупреждают о способности ИИ предсказывать и влиять на поведение человека.

В частности, генеральный директор Nvidia Дженсен Хуанг в своей прошлогодней речи поделился примечательной точкой зрения. Он считает, что продвинутые модели ИИ смогут «выяснить, каковы ваши намерения, каковы ваши желания, что вы пытаетесь сделать, и предоставить вам информацию наилучшим образом».

Хоанг Ань (по данным CUN, Nvidia, Guardian)

Источник: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html