Preocupación por la posibilidad de que la IA pueda leer las mentes y manipular las decisiones humanas

(CLO) La última investigación de la Universidad de Cambridge ha revelado una verdad alarmante: la IA no es solo una herramienta de apoyo, sino que también tiene la capacidad de manipular nuestros pensamientos, convirtiéndonos en marionetas en una obra tecnológica.

Los investigadores han acuñado un nuevo concepto llamado “ economía de la intención”. En esta economía, las empresas pueden recopilar y analizar enormes cantidades de datos sobre nuestro comportamiento, preferencias y hábitos para predecir qué haremos a continuación.

Luego pueden vender esta información a otras empresas que quieran orientar su publicidad hacia nosotros con mayor precisión.

La IA tiene el potencial de moldear nuestros pensamientos y acciones. Ilustración: IA

Por ejemplo, digamos que estás buscando un teléfono nuevo. La IA rastreará tu comportamiento en línea, las palabras clave que buscas e incluso tus conversaciones para comprender mejor tus necesidades. Los fabricantes de teléfonos pueden luego utilizar esta información para mostrarle anuncios sobre los teléfonos más adecuados para usted.

“Si no se controla, la economía de la intención podría convertirse en una herramienta para manipular nuestras decisiones”, advierte el Dr. Jonnie Penn, historiador de tecnología de la Universidad de Cambridge. “Las empresas podrían usar la IA para hacernos comprar productos que no necesitamos o incluso influir en nuestras decisiones de voto”.

Un modelo de IA también navegará por las conversaciones para servir a anunciantes, empresas y otros terceros, dijeron los autores. Los anunciantes podrán utilizar herramientas generadas por IA para crear anuncios en línea a pedido.

El informe cita el ejemplo de un modelo de IA creado por Meta, llamado Cicero, que logró una capacidad “a nivel humano” para jugar al juego de mesa Diplomacia, un juego que, según los autores, depende de inferir y predecir las intenciones de los oponentes.

Los principales expertos en el campo de la tecnología han advertido sobre la capacidad de la IA para predecir e influir en el comportamiento humano.

En concreto, el CEO de Nvidia, Jensen Huang, compartió una perspectiva notable en un discurso el año pasado. Él cree que los modelos avanzados de IA podrán "descubrir cuáles son tus intenciones, cuáles son tus deseos, qué estás tratando de hacer y presentarte la información de la mejor manera posible".

Hoang Anh (según CUN, Nvidia, Guardian)

Fuente: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html