OpenAI prend des mesures fortes pour prévenir le risque d'interférence de l'IA dans les élections américaines de 2024

La société technologique américaine OpenAI a récemment supprimé le compte d'un développeur de robot d'intelligence artificielle (IA) se faisant passer pour le membre du Congrès Dean Phillips, l'un des principaux candidats démocrates à la présidence des États-Unis cette année.

Icône du chatbot ChatGPT de la société OpenAl. (Source : AFP)

Il s’agit de la première action concrète d’OpenAI – le développeur du chatbot ChatGPT – pour respecter son engagement à répondre aux préoccupations concernant l’interférence de l’IA dans les élections.

« Nous avons récemment supprimé le compte d'un développeur de robot IA qui a intentionnellement violé la politique d'utilisation de l'API (interface de programmation d'application) de l'entreprise, qui interdit les campagnes politiques ou l'usurpation d'identité d'une personne sans consentement », a déclaré un porte-parole d'OpenAI dans une déclaration au Washington Post le 20 janvier.

Le bot IA, appelé Dean.Bot - basé sur ChatGPT d'OpenAI - a été créé par deux entrepreneurs de la Silicon Valley, Matt Krisiloff et Jed Somers, qui ont formé un comité d'action politique appelé We Deserve Better pour rallier le soutien au membre du Congrès Dean Phillips avant la primaire du New Hampshire le 23 janvier.

Le comité a levé 1 million de dollars auprès du milliardaire du fonds spéculatif Bill Ackman pour soutenir la candidature de Phillips à la Maison Blanche, le plus gros investissement jamais réalisé par Ackman dans la campagne d'un candidat à la présidence.

We Deserve Better a signé un contrat avec la start-up Delphi pour développer Dean.Bot. OpenAI a supprimé le compte de Delphi le 19 janvier, invoquant ses règles interdisant l'utilisation de sa technologie d'IA dans les campagnes électorales. Delphi a supprimé Dean.Bot après la « suppression » du compte OpenAI de l'entreprise. Le comité We Deserve Better n'a pas encore commenté cette information.

La question de l’utilisation de l’IA pour interférer dans les élections est devenue une préoccupation depuis qu’OpenAI a publié deux produits, dont ChatGPT qui peut générer du texte de type humain et la technologie DALL-E qui crée des « deepfakes » (une technique qui utilise l’IA pour créer de faux audio, images et vidéos ).

OpenAI a déclaré le 15 janvier qu'il répondrait aux inquiétudes selon lesquelles sa technologie pourrait être utilisée à mauvais escient pour interférer dans les élections, alors que plus de 30 % de la population mondiale votera en 2024.

Source: https://baoquocte.vn/openai-manh-tay-ngan-chan-nguy-co-ai-can-thiep-bau-cu-my-2024-258268.html