Sam Altman quitte le comité de sécurité d'OpenAI, laissant le pouvoir à un groupe indépendant

Selon l'annonce publiée sur le blog officiel d'OpenAI, le Comité de sûreté et de sécurité deviendra un groupe de surveillance indépendant, placé sous l'autorité du conseil d'administration. Zico Kolter, professeur à l'Université Carnegie Mellon, présidera le Comité, aux côtés d'autres membres tels qu'Adam D'Angelo, PDG de Quora, le général à la retraite de l'armée américaine Paul Nakasone et l'ancienne vice-présidente exécutive de Sony, Nicole Seligman. Tous ces membres siègent actuellement au conseil d'administration d'OpenAI.

Suite à la démission d'Altman, le comité a terminé son évaluation de la sécurité du dernier modèle d'IA de l'entreprise, o1. Le groupe continuera de recevoir des informations de l'équipe de sécurité d'OpenAI et se réserve le droit de retarder la publication si les problèmes de sécurité ne sont pas résolus.

Selon OpenAI, le Comité conservera un rôle important dans la supervision technique des modèles actuels et futurs, ainsi que dans le suivi post-lancement. L'entreprise s'engage à mettre en place des processus de sécurité intégrés, assortis de critères d'évaluation clairs, afin de garantir la sécurité de tous ses modèles d'IA.

La décision d'Altman de quitter le comité fait suite à l'envoi par cinq sénateurs américains d'une lettre demandant à OpenAI de clarifier ses politiques de sécurité. Près de la moitié du personnel d'OpenAI, dont la mission était d'étudier les risques à long terme de l'IA, a quitté l'entreprise ces dernières années. D'anciens chercheurs d'OpenAI ont critiqué Altman pour ne pas avoir prôné une réglementation stricte de l'IA, préférant privilégier des politiques favorisant les objectifs commerciaux de l'entreprise.

Crédit image : Justin Sullivan / Getty Images

De plus, OpenAI a considérablement augmenté ses dépenses de lobbying auprès du Congrès américain. L'entreprise a prévu un budget de 800 000 dollars pour les six premiers mois de 2024, contre 260 000 dollars pour l'ensemble de l'année 2023. Altman a également rejoint le Conseil de sécurité et de sûreté de l'intelligence artificielle du Département de la Sécurité intérieure des États-Unis, où il a contribué à formuler des recommandations relatives à l'IA pour les infrastructures critiques du pays.

Bien qu'Altman ait quitté le Comité de sécurité et de confidentialité, rien ne semble indiquer que celui-ci prendra des décisions susceptibles d'entraver sérieusement la croissance commerciale d'OpenAI. En mai, OpenAI a déclaré qu'elle chercherait à répondre aux « critiques fondées » concernant son travail par l'intermédiaire du comité, même si ces « critiques fondées » sont largement subjectives.

Dans un éditorial paru dans The Economist en mai, deux anciens membres du conseil d’administration d’OpenAI, Helen Toner et Tasha McCauley, ont exprimé des inquiétudes quant à la capacité de l’entreprise à se gouverner elle-même, affirmant qu’OpenAI est actuellement incapable de se tenir responsable sous la pression du profit.

Les profits deviennent un moteur de plus en plus important pour OpenAI. L'entreprise est en train de lever 6,5 milliards de dollars lors d'un nouveau tour de table qui la valoriserait à plus de 150 milliards de dollars. Pour attirer les investisseurs, OpenAI pourrait envisager d'abandonner sa structure hybride à but non lucratif, conçue pour limiter les retours sur investissement afin de garantir l'objectif de développement de l'IA pour le bien commun de l'humanité.

Hung Nguyen (selon TechCrunch)

Source : https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html