A OpenAI toma medidas enérgicas para prevenir o risco de interferência da IA ​​nas eleições americanas de 2024.

A empresa de tecnologia americana OpenAI excluiu recentemente a conta de um desenvolvedor de bots de inteligência artificial (IA) que se fazia passar pelo congressista Dean Phillips, um dos principais candidatos democratas à presidência dos EUA este ano.

Ícone do chatbot ChatGPT da empresa OpenAI. (Fonte: AFP)

Esta é a primeira ação concreta da OpenAI - desenvolvedora do chatbot ChatGPT - para cumprir seu compromisso de abordar as preocupações sobre a interferência da IA ​​nas eleições.

"Recentemente, removemos a conta de um desenvolvedor de bots de IA que violou intencionalmente a política de uso da API (interface de programação de aplicativos) da empresa, que proíbe campanhas políticas ou a personificação de um indivíduo sem consentimento", disse um porta-voz da OpenAI em um comunicado ao Washington Post em 20 de janeiro.

O bot de IA, chamado Dean.Bot - baseado no ChatGPT da OpenAI - foi criado por dois empreendedores do Vale do Silício, Matt Krisiloff e Jed Somers, que formaram um comitê de ação política chamado We Deserve Better para angariar apoio ao congressista Dean Phillips antes das primárias de New Hampshire em 23 de janeiro.

O comitê arrecadou US$ 1 milhão do bilionário do ramo de fundos de hedge, Bill Ackman, para apoiar a candidatura de Phillips à Casa Branca, o maior investimento já feito por Ackman na campanha de um candidato presidencial.

A organização We Deserve Better contratou a startup de IA Delphi para desenvolver o Dean.Bot. A OpenAI excluiu a conta da Delphi em 19 de janeiro, alegando que as regras da OpenAI proíbem o uso da tecnologia de IA da empresa em campanhas eleitorais. A Delphi removeu o Dean.Bot após a exclusão de sua conta na OpenAI. O comitê We Deserve Better ainda não se pronunciou sobre a informação.

A questão do uso de IA para interferir em eleições tornou-se uma preocupação desde que a OpenAI lançou dois produtos, incluindo o ChatGPT, que pode gerar texto semelhante ao humano, e a tecnologia DALL-E, que cria "deepfakes" (uma técnica que usa IA para criar áudio, imagens e vídeos falsos).

A OpenAI afirmou em 15 de janeiro que abordaria as preocupações de que sua tecnologia pudesse ser usada indevidamente para interferir nas eleições, visto que mais de 30% da população mundial votará em 2024.

Fonte: https://baoquocte.vn/openai-manh-tay-ngan-chan-nguy-co-ai-can-thiep-bau-cu-my-2024-258268.html