Preocupações de que a IA possa ler mentes e manipular decisões humanas

(CLO) A pesquisa mais recente da Universidade de Cambridge revelou uma verdade alarmante: a IA não é apenas uma ferramenta de suporte, mas também tem a capacidade de manipular nossos pensamentos, transformando-nos em marionetes em uma peça tecnológica.

Pesquisadores cunharam um novo conceito chamado “ economia da intenção”. Nessa economia, as empresas podem coletar e analisar enormes quantidades de dados sobre nosso comportamento, preferências e hábitos para prever o que faremos a seguir.

Eles podem então vender essas informações para outras empresas que queiram direcionar sua publicidade para nós de forma mais precisa.

A IA tem a capacidade de moldar nossos pensamentos e ações. Ilustração: IA

Por exemplo, digamos que você esteja procurando um novo celular. A IA rastreará seu comportamento online, as palavras-chave que você pesquisa e até mesmo suas conversas para entender melhor suas necessidades. As operadoras de telefonia podem usar essas informações para exibir anúncios sobre os celulares mais adequados para você.

“Se não for controlada, a economia da intenção pode se tornar uma ferramenta para manipular nossas decisões”, alerta a Dra. Jonnie Penn, historiadora de tecnologia da Universidade de Cambridge. “As empresas podem usar a IA para nos fazer comprar produtos dos quais não precisamos ou até mesmo influenciar nossas decisões de voto.”

Os autores também afirmaram que um modelo de IA conduziria conversas para atender anunciantes, empresas e outros terceiros. Os anunciantes poderiam usar as ferramentas geradas por IA para criar anúncios online personalizados.

O relatório cita o exemplo de um modelo de IA criado pela Meta, chamado Cicero, que atingiu capacidade de "nível humano" para jogar o jogo de tabuleiro Diplomacy — um jogo que, segundo os autores, depende de inferir e prever as intenções dos oponentes.

Os principais especialistas na área de tecnologia alertaram sobre a capacidade da IA ​​de prever e influenciar o comportamento humano.

Especificamente, o CEO da Nvidia, Jensen Huang, compartilhou uma visão notável em um discurso no ano passado. Ele argumentou que modelos avançados de IA serão capazes de "descobrir quais são suas intenções, quais são seus desejos, o que você está tentando fazer e apresentar as informações da melhor maneira possível".

Hoang Anh (de acordo com CUN, Nvidia, Guardian)

Fonte: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html