A IA alucina, mas os humanos sofrem mais

O recém-lançado Claude 4 da Anthropic é mais inteligente, mas ainda alucinante. Foto: Anthropic .

No primeiro evento para desenvolvedores da Anthropic em São Francisco, o CEO Dario Amodei afirmou que os modelos de IA atuais podem criar "alucinações" em uma taxa menor do que a dos humanos. "Alucinações" aqui são entendidas como o fenômeno em que a IA cria conteúdo fictício, mas o apresenta como se fosse real.

Amodei enfatizou que o fato de a IA ter alucinações não impede o objetivo da Anthropic de atingir a IGA (Inteligência Artificial Geral). "Depende do seu critério, mas acho que a frequência de alucinações em modelos de IA é provavelmente menor do que em humanos, só que a forma como eles cometem erros é mais surpreendente", disse ele.

Amodei tem sido um dos maiores defensores da IA avançada no setor. "As pessoas estão sempre tentando encontrar um 'limite máximo' para a IA", diz ele. "No momento, não vemos nenhum limite máximo."

O CEO da Anthropic é um dos defensores do "otimismo em relação à IA". Foto: Anthropic.

No entanto, nem todos concordam. O CEO do Google DeepMind, Demis Hassabis, destacou esta semana que os modelos atuais de IA estão "cheios de falhas", chegando a errar até mesmo algumas perguntas básicas.

Há também indícios de que alguns modelos mais recentes apresentam maior incidência de problemas em tarefas complexas de inferência. As versões o3 e o4-mini da OpenAI apresentam maior incidência de alucinações do que os modelos de inferência anteriores. Nem mesmo a própria OpenAI entende o porquê.

Amodei também mencionou que os humanos cometem erros o tempo todo. Portanto, ele disse que só porque a IA comete erros não significa que ela "não seja inteligente o suficiente". No entanto, o líder da Anthropic também admitiu que eles podem facilmente causar problemas ao divulgar informações falsas com altíssima confiabilidade.

As observações de Amodei geraram debates na comunidade de IA sobre as verdadeiras capacidades dos modelos atuais. Alguns especialistas concordam que a IA está fazendo progressos significativos na redução de ilusões. Outros alertam para os riscos potenciais do excesso de confiança da IA em informações imprecisas.

A discussão reflete um grande desafio enfrentado pela indústria de IA. As empresas buscam desenvolver sistemas que sejam inteligentes e confiáveis, capazes de lidar com a incerteza em suas respostas.

Fonte: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html

Comentário (0)