 |
Le nouveau Claude 4 d' Anthropic est plus intelligent, mais toujours hallucinant. Photo : Anthropic . |
Lors du premier événement développeurs d'Anthropic à San Francisco, le PDG Dario Amodei a déclaré que les modèles d'IA actuels pouvaient créer des « hallucinations » moins souvent que les humains. On entend ici par « hallucinations » le phénomène de l'IA créant du contenu fictif mais le présentant comme réel.
Amodei a souligné que le fait que l'IA hallucine n'entrave pas l'objectif d'Anthropic d'atteindre l'IAG (Intelligence Artificielle Générale). « Cela dépend du critère, mais je pense que la fréquence des hallucinations chez les modèles d'IA est probablement plus faible que chez les humains ; c'est juste que la façon dont ils commettent des erreurs est plus surprenante », a-t-il déclaré.
Amodei est l'un des plus fervents défenseurs de l'AGI dans le secteur. « On cherche toujours une limite supérieure à l'IA », explique-t-il. « Pour l'instant, nous n'en voyons aucune. »
 |
Le PDG d'Anthropic est l'un des défenseurs de l'« optimisme IA ». Photo : Anthropic. |
Cependant, tout le monde n'est pas d'accord. Demis Hassabis, PDG de Google DeepMind, a souligné cette semaine que les modèles d'IA actuels sont « pleins de lacunes », allant jusqu'à se tromper sur certaines questions fondamentales.
Certains signes indiquent également que certains modèles plus récents présentent une incidence plus élevée de problèmes lors de tâches d'inférence complexes. Les versions o3 et o4-mini d'OpenAI présentent une incidence plus élevée d'hallucinations que les modèles d'inférence précédents. OpenAI elle-même n'en comprend pas la raison.
Amodei a également mentionné que les humains commettent des erreurs en permanence. Par conséquent, il a affirmé que ce n'est pas parce que l'IA commet des erreurs qu'elle n'est pas suffisamment intelligente. Cependant, le leader anthropique a également admis qu'elles peuvent facilement causer des problèmes lorsqu'elles diffusent de fausses informations extrêmement fiables.
Les remarques d'Amodei ont suscité un débat au sein de la communauté de l'IA sur les véritables capacités des modèles actuels. Certains experts s'accordent à dire que l'IA réalise des progrès significatifs dans la réduction des illusions. D'autres mettent en garde contre les risques potentiels d'une confiance excessive de l'IA dans des informations inexactes.
Cette discussion reflète un défi majeur auquel est confronté le secteur de l'IA. Les entreprises cherchent à développer des systèmes à la fois intelligents et fiables, capables de gérer l'incertitude de leurs réponses.
Source : https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html
Comment (0)