OpenAI toma medidas enérgicas para evitar el riesgo de que la IA interfiera en las elecciones estadounidenses de 2024

La empresa estadounidense de tecnología OpenAI eliminó recientemente la cuenta de un desarrollador de bots de inteligencia artificial (IA) que se hacía pasar por el congresista Dean Phillips, un destacado candidato demócrata que se postula para presidente de Estados Unidos este año.

Icono del chatbot ChatGPT de OpenAl Company. (Fuente: AFP)

Esta es la primera acción concreta de OpenAI, el desarrollador del chatbot ChatGPT, para cumplir con su compromiso de abordar las preocupaciones sobre la interferencia de la IA en las elecciones.

“Recientemente eliminamos la cuenta de un desarrollador de bots de IA que violó intencionalmente la política de uso de API (interfaz de programación de aplicaciones) de la empresa, que prohíbe realizar campañas políticas o suplantar la identidad de una persona sin consentimiento”, dijo un portavoz de OpenAI en una declaración al Washington Post el 20 de enero.

El bot de inteligencia artificial, llamado Dean.Bot (basado en ChatGPT de OpenAI), fue creado por dos empresarios de Silicon Valley, Matt Krisiloff y Jed Somers, quienes formaron un comité de acción política llamado We Deserve Better para reunir apoyo para el congresista Dean Phillips antes de las primarias de New Hampshire el 23 de enero.

El comité recaudó un millón de dólares del multimillonario de fondos de cobertura Bill Ackman para apoyar la candidatura de Phillips a la Casa Blanca, la mayor inversión jamás realizada por Ackman en la campaña de un candidato presidencial.

We Deserve Better contrató a la startup de IA Delphi para desarrollar Dean.Bot. OpenAI eliminó la cuenta de Delphi el 19 de enero, alegando las normas de OpenAI que prohíben el uso de la tecnología de IA de la empresa en campañas electorales. Delphi eliminó Dean.Bot después de que la cuenta de OpenAI de la empresa fuera eliminada. El comité de We Deserve Better aún no ha hecho comentarios al respecto.

La cuestión del uso de IA para interferir en las elecciones se ha convertido en una preocupación desde que OpenAI lanzó dos productos, incluido ChatGPT, que puede generar texto similar al humano, y la tecnología DALL-E, que crea "deepfakes" (una técnica que utiliza IA para crear audio, imágenes y videos falsos).

OpenAI dijo el 15 de enero que abordaría las preocupaciones de que su tecnología pudiera ser utilizada indebidamente para interferir en las elecciones, ya que más del 30% de la población mundial votará en 2024.

Fuente: https://baoquocte.vn/openai-manh-tay-ngan-chan-nguy-co-ai-can-thiep-bau-cu-my-2024-258268.html