Le directeur d'OpenAI affirme que de nouvelles règles sont nécessaires pour lutter contre les risques liés à l'IA

« Cela m’inquiète », a déclaré le PDG Sam Altman à propos de l’utilisation potentielle de l’IA pour interférer dans les élections, soulignant la nécessité de règles et de directives supplémentaires pour encadrer le domaine de l’intelligence artificielle.

Sam Altman, PDG de ChatGPT, lors d'une audition devant le Congrès américain. Photo : NBC

Ces derniers mois, de nombreuses entreprises, grandes et petites, se sont lancées dans une course effrénée pour commercialiser des produits d'IA, encouragées par l'engouement suscité par ChatGPT. Certains critiques craignent que cette technologie n'aggrave les problèmes sociaux, notamment en renforçant les préjugés et en propageant la désinformation.

« Il est impossible de réglementer pleinement l'IA, surtout lorsque l'engouement pour l'IA explose à l'échelle mondiale », a déclaré le sénateur Cory Booker, l'un des nombreux législateurs qui s'interrogent sur la meilleure façon de réglementer l'IA.

La sénatrice Mazie Hirono a souligné le risque de désinformation généralisée à l'approche des élections de 2024. S'exprimant pour la première fois devant le Congrès américain, Altman a suggéré que les États-Unis envisagent d'imposer des exigences en matière de licences et de tests pour le développement de modèles d'IA.

Interrogé sur le type d'IA qui devrait être soumis à une licence, il a déclaré qu'un modèle capable de persuader ou de manipuler les croyances d'une personne constituerait une « limite délicate à prendre en compte ».

Il a également déclaré que les entreprises devraient avoir le droit de refuser que leurs données soient utilisées pour entraîner l'IA, une question qui est également débattue au Congrès américain.

La Maison-Blanche a réuni les PDG des plus grandes entreprises technologiques, dont Sam Altman, pour aborder la question de l'IA. Les législateurs américains s'efforcent également de trouver des solutions pour optimiser les avantages de la technologie et de la sécurité nationale tout en limitant les mésusages de l'IA.

Un employé d'OpenAI a récemment proposé que les États-Unis créent un organisme de délivrance de licences en IA, qui pourrait s'appeler Office of AI Infrastructure Safety and Security (OASIS).

OpenAI bénéficie du soutien de Microsoft. Altman appelle également à une coopération mondiale en matière d'IA et encourage les entreprises à respecter les normes de sécurité.

Christina Montgomery, responsable de la confiance et de la protection de la vie privée chez IBM, a appelé le Congrès à concentrer la réglementation sur les domaines présentant le plus grand risque de préjudice social.

Hoang Ton (selon NBC et Reuters)

Source: https://www.congluan.vn/ceo-cua-openai-keu-goi-cac-quy-tac-de-chong-lai-rui-ro-ai-post247993.html