Vietnam.vn - Nền tảng quảng bá Việt Nam

La fenêtre de surveillance de l'IA se referme, avertissent les experts

Plus de 40 chercheurs de géants de l'IA avertissent que la capacité de l'IA à surveiller les pensées est en train de disparaître et que les humains pourraient perdre complètement le contrôle.

Báo Khoa học và Đời sốngBáo Khoa học và Đời sống27/07/2025

dua-1.png
Plus de 40 chercheurs d’OpenAI, Google DeepMind, Meta et Anthropic ont lancé un avertissement sans précédent sur les risques de perte de contrôle de l’IA.
dua-2.png
Les modèles modernes commencent à « penser » en langage, permettant aux humains de suivre la logique interne de la machine, mais cela est extrêmement fragile.
dua-3.png
Avec seulement quelques changements dans l’architecture ou les méthodes de formation, la capacité de l’IA à lire dans les pensées pourrait disparaître complètement.
dua-4.png
« Les capacités de surveillance actuelles peuvent être extrêmement fragiles et facilement obscurcies », prévient Bowen Baker, chercheur chez OpenAI.
dua-5.png
Il craint que l’IA du futur puisse apprendre à cacher ses pensées aux humains, en particulier lorsqu’elle applique des architectures d’apprentissage par renforcement ou d’inférence non linguistique.
dua-6.png
En fait, de nombreux modèles ont été enregistrés qui créent de fausses justifications et cachent de véritables objectifs, malgré l’obligation de transparence.
dua-7.png
Les experts appellent à développer des normes pour évaluer la transparence et à en faire un élément central de la formation à l’IA.
dua-8.png
Si nous n’agissons pas rapidement, les humains pourraient être laissés pour compte dans le jeu qu’ils ont créé, où l’IA « pense » mais personne ne comprend.
Chers lecteurs, regardez plus de vidéos : AI Trash Cleaning | Hanoi 18:00

Source : https://khoahocdoisong.vn/cua-so-giam-sat-ai-sap-khep-lai-cac-chuyen-gia-canh-bao-do-post2149040952.html


Comment (0)

No data
No data
La puissante formation de 5 chasseurs SU-30MK2 se prépare pour la cérémonie A80
Des missiles S-300PMU1 en mission de combat pour protéger le ciel de Hanoï
La saison de floraison des lotus attire les touristes vers les majestueuses montagnes et rivières de Ninh Binh
Cu Lao Mai Nha : Là où la sauvagerie, la majesté et la paix se mêlent
Hanoï est étrange avant que la tempête Wipha ne touche terre
Perdu dans le monde sauvage au jardin des oiseaux de Ninh Binh
Les champs en terrasses de Pu Luong pendant la saison des pluies sont d'une beauté à couper le souffle
Des tapis d'asphalte « sprintent » sur l'autoroute Nord-Sud à travers Gia Lai
Morceaux de teinte - Morceaux de teinte
Scène magique sur la colline de thé « bol renversé » à Phu Tho

Patrimoine

Chiffre

Entreprise

No videos available

Nouvelles

Système politique

Locale

Produit