OpenAI soutient l'idée de nouvelles licences pour développer des modèles d'IA avancés.

En conséquence, la société propriétaire de ChatGPT et de Dall-E a pris plusieurs engagements concernant la politique en matière d'IA. « La société s'engage à collaborer avec le gouvernement américain et les décideurs politiques du monde entier afin de soutenir l'élaboration de réglementations relatives aux licences pour tous les modèles d'IA haute performance à l'avenir. »

L’idée d’un processus de licence pour le développement de l’IA, co-promue par des leaders du secteur comme OpenAI et le gouvernement, prépare le terrain pour un conflit potentiel entre les startups et les développeurs open-source, qui y voient une tentative de rendre difficile l’accès au secteur de l’IA.

Lors d'une audition devant le Congrès américain, le PDG d'OpenAI, Sam Altman, avait évoqué l'idée de créer une agence chargée d'octroyer des licences ou de révoquer les produits d'IA qui enfreignent les règles établies.

Cette annonce d'OpenAI intervient alors que d'autres grandes entreprises d'IA, comme Microsoft et Google, envisagent également des mesures similaires.

Cependant, Anna Makanju, vice-présidente des affaires internationales de l'entreprise, a indiqué que le document de politique interne différerait de la politique que la Maison-Blanche devrait publier. OpenAI a précisé qu'elle ne fait pas pression, mais estime que l'octroi de licences est un moyen pratique pour les gouvernements de réglementer les systèmes émergents.

« Il est important que les gouvernements sachent si ces systèmes surpuissants pourraient potentiellement causer des dommages », et « il existe très peu de moyens pour les autorités de connaître ces systèmes sans auto-déclaration ».

Makanju a déclaré qu'OpenAI ne prend en charge que l'octroi de licences pour les modèles d'IA plus puissants que GPT-4 et souhaite s'assurer que les petites startups n'aient pas à supporter le fardeau réglementaire.

Responsabilité et transparence

OpenAI a également indiqué dans sa documentation interne qu'elle souhaitait plus de transparence concernant les données utilisées pour entraîner des générateurs d'images comme Dall-E. L'entreprise affirme s'engager en faveur d'une approche transparente et responsable des données de développement de l'IA.

Les analystes ont noté que les engagements énoncés dans la note d'OpenAI sont tout à fait conformes à certaines des propositions politiques formulées par Microsoft en mai. OpenAI a souligné que, malgré un investissement de 10 milliards de dollars de la part de Microsoft, elle demeure une entreprise indépendante.

Par ailleurs, la société propriétaire de ChatGPT a également mené une enquête sur les filigranes afin de vérifier l'authenticité et les droits d'auteur des images générées par l'IA.

Dans sa note, OpenAI semble reconnaître les risques potentiels que les systèmes d'IA font peser sur le marché du travail et les inégalités. L'entreprise indique dans le document préliminaire qu'elle mènera des recherches et formulera des recommandations aux décideurs politiques afin de protéger l'économie d'éventuelles perturbations.

L'entreprise a également déclaré qu'elle était ouverte à l'idée de permettre aux utilisateurs d'accéder à ses systèmes et de les tester afin d'identifier les vulnérabilités dans divers domaines, notamment les contenus offensants, les risques de manipulation et la désinformation, et qu'elle soutenait la création d'une plateforme collaborative de partage d'informations sur la cybersécurité.

(Selon Bloomberg)

Source: https://vietnamnet.vn/openai-ung-ho-y-tuong-xin-giay-phep-moi-duoc-phat-trien-mo-hinh-ai-tien-tien-2168368.html