Побоювання, що штучний інтелект може читати думки та маніпулювати людськими рішеннями

(CLO) Найновіше дослідження Кембриджського університету виявило тривожну правду: штучний інтелект — це не просто допоміжний інструмент, а й здатність маніпулювати нашими думками, перетворюючи нас на маріонеток у технологічній виставі.

Дослідники запропонували нову концепцію під назвою « економіка намірів». У цій економіці компанії можуть збирати та аналізувати великі обсяги даних про нашу поведінку, уподобання та звички, щоб передбачити, що ми робитимемо далі.

Потім вони можуть продавати цю інформацію іншим компаніям, які хочуть точніше спрямовувати свою рекламу на нас.

Штучний інтелект має здатність формувати наші думки та дії. Ілюстрація: Штучний інтелект

Наприклад, припустимо, ви шукаєте новий телефон. Штучний інтелект відстежуватиме вашу онлайн-діяльність, ключові слова, які ви шукаєте, і навіть ваші розмови, щоб краще зрозуміти ваші потреби. Телефонні компанії можуть використовувати цю інформацію, щоб показувати вам рекламу телефонів, які найкраще підходять саме вам.

Доктор Джонні Пенн, історик технологій з Кембриджського університету, попереджає: «Якщо економіку намірів не контролювати, вона може стати інструментом маніпулювання нашими рішеннями. Компанії можуть використовувати штучний інтелект, щоб змусити нас купувати продукти, які нам не потрібні, або навіть впливати на наші рішення щодо голосування».

Автори також зазначили, що модель штучного інтелекту керуватиме розмовами для обслуговування рекламодавців, бізнесу та інших третіх сторін. Рекламодавці зможуть використовувати отримані інструменти штучного інтелекту для створення персоналізованої онлайн-реклами.

У звіті наводиться приклад моделі штучного інтелекту під назвою «Цицерон», створеної Meta, яка досягла здатності «людського рівня» грати в настільну гру «Дипломатія» — гру, яка, за словами авторів, залежить від здогадок та передбачення намірів опонентів.

Провідні експерти в галузі технологій попереджають про здатність штучного інтелекту передбачати та впливати на поведінку людини.

Зокрема, генеральний директор Nvidia Дженсен Хуанг поділився важливою думкою у своїй промові минулого року. Він стверджував, що передові моделі штучного інтелекту зможуть «з’ясувати ваші наміри, бажання, що ви намагаєтеся зробити та представити вам інформацію найкращим чином».

Hoang Anh (за даними CUN, Nvidia, Guardian)

Джерело: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html