Dans une annonce du 25 mai, OpenAI a déclaré qu'il attribuerait 10 subventions d'une valeur de 100 000 $ à 10 idées qui aident à trouver des moyens de gérer les logiciels d'IA pour lutter contre les biais et d'autres facteurs, selon Reuters.
Les subventions seront accordées à des recherches convaincantes qui répondent à des questions difficiles telles que celle de savoir si l’IA doit critiquer les personnalités publiques et qui elle doit considérer comme neutre.
« Les systèmes d'IA doivent bénéficier à toute l'humanité et être conçus pour être aussi inclusifs que possible. Nous lançons ce programme de subventions, première étape dans cette direction », a annoncé OpenAI.
Les problèmes liés à l’IA attirent l’attention du public.
La société basée à San Francisco a déclaré que le financement pourrait influencer les vues d'OpenAI sur la gouvernance de l'IA, mais a noté qu'aucune des propositions n'est contraignante.
Les subventions d'OpenAI sont considérées comme peu importantes pour la recherche en IA. Selon Reuters, les ingénieurs en IA et certains autres postes dans ce secteur en plein essor peuvent facilement gagner 100 000 $ par an et dépasser les 300 000 $.
Les critiques affirment que les systèmes d'IA comme ChatGPT sont biaisés, influencés par les informations qu'ils reçoivent. Lors d'interactions, des utilisateurs ont détecté des réponses racistes ou sexistes de la part de logiciels d'IA.
Cela soulève des inquiétudes croissantes quant au fait que lorsque l’IA est utilisée à la place des moteurs de recherche comme Google d’Alphabet ou Bing de Microsoft, elle pourrait produire des informations inexactes mais convaincantes.
Presque tous les secteurs s'intéressent au potentiel de l'IA pour améliorer la productivité et réduire les coûts de main-d'œuvre. Cependant, certains craignent que l'IA puisse diffuser des informations erronées et des mensonges auxquels le public adhère. De nombreux cas ont été cités à ce sujet. En particulier, les réseaux sociaux ont récemment diffusé l'image d'une explosion près du Pentagone. L'incident a eu un impact temporaire sur le marché boursier, mais il a été ultérieurement établi que l'image avait été générée par l'IA.
Selon Reuters, OpenAI est à l'avant-garde de la réglementation de l'IA. L'entreprise déploie également des mises à jour pour ChatGPT et son outil de génération d'images DALL-E. Lors d'une audition au Congrès ce mois-ci, le PDG d'OpenAI, Sam Altman, a déclaré qu'un dysfonctionnement de l'IA pourrait avoir des « conséquences considérables ».
Microsoft, qui a investi 10 milliards de dollars dans OpenAI, a également récemment plaidé en faveur d'une gouvernance globale de l'IA, alors même que l'entreprise s'est engagée à intégrer la technologie dans des produits destinés aux consommateurs et aux entreprises, en concurrence avec OpenAI, Google et d'autres startups.
Lien source
Comment (0)