 |
El recién lanzado Claude 4 de Anthropic es más inteligente, pero sigue siendo alucinante. Foto: Anthropic . |
En el primer evento para desarrolladores de Anthropic en San Francisco, el director ejecutivo, Dario Amodei, afirmó que los modelos de IA actuales pueden crear alucinaciones a un ritmo menor que los humanos. En este contexto, las alucinaciones se refieren al fenómeno en el que la IA crea contenido ficticio, presentándolo como real.
Amodei enfatizó que el hecho de que la IA alucine no obstaculiza el objetivo de Anthropic de lograr la IAG (Inteligencia Artificial General). "Depende del criterio, pero creo que la frecuencia de alucinaciones en los modelos de IA es probablemente menor que en los humanos; simplemente, la forma en que cometen errores es más sorprendente", afirmó.
Amodei ha sido uno de los defensores más activos de la IA general en la industria. «Siempre se busca un límite máximo para la IA», afirma. «Actualmente, no vemos tal límite máximo».
 |
El director ejecutivo de Anthropic es uno de los defensores del optimismo en torno a la IA. Foto: Anthropic. |
Sin embargo, no todos están de acuerdo. El director ejecutivo de Google DeepMind, Demis Hassabis, señaló esta semana que los modelos actuales de IA están llenos de fallos, e incluso se equivocan en algunas preguntas básicas.
También hay indicios de que algunos modelos más recientes presentan una mayor incidencia de problemas en tareas de inferencia complejas. Las versiones o3 y o4-mini de OpenAI presentan una mayor incidencia de alucinaciones que los modelos de inferencia anteriores. Ni siquiera OpenAI comprende por qué.
Amodei también mencionó que los humanos cometemos errores constantemente. Por lo tanto, afirmó que el hecho de que la IA cometa errores no significa que no sea lo suficientemente inteligente. Sin embargo, el líder antrópico también admitió que pueden causar problemas fácilmente al divulgar información falsa con una fiabilidad extremadamente alta.
Las declaraciones de Amodei han generado debate en la comunidad de IA sobre las verdaderas capacidades de los modelos actuales. Algunos expertos coinciden en que la IA está logrando avances significativos en la reducción de las ilusiones. Otros advierten sobre los posibles riesgos de un exceso de confianza en la información inexacta.
El debate refleja un importante desafío al que se enfrenta la industria de la IA. Las empresas buscan desarrollar sistemas inteligentes y fiables, capaces de gestionar la incertidumbre en sus respuestas.
Fuente: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html
Kommentar (0)