A inteligência artificial pode causar uma crise financeira "devastadora"

[anúncio_1]

Em entrevista ao The Guardian , o autor do livro “Sapiens: Uma Breve História da Humanidade” disse que, diferentemente das armas nucleares, os problemas que os modelos de IA trazem não se limitam a um grande cenário.

Com a IA, há inúmeros cenários perigosos, cada um dos quais tem o potencial de se combinar e representar uma ameaça existencial à civilização humana.

A declaração multilateral na Cúpula Global de Segurança de IA em Bletchley Park, Reino Unido, foi um “passo muito importante à frente” porque os principais governos se uniram para expressar preocupações sobre a tecnologia e fazer algo a respeito, comentou o Sr. Harari.

“Sem cooperação global, será extremamente difícil, se não impossível, conter o potencial mais perigoso da IA”, disse ele.

A cúpula foi concluída com um acordo entre 10 governos e grandes empresas de IA, incluindo a OpenAI, desenvolvedora do ChatGPT, e o Google, para colaborar no teste de modelos avançados de IA antes e depois de seu lançamento.

O autor Yuval Noah Harari descreve os riscos da inteligência artificial para a civilização humana em uma entrevista ao The Guardian. (Foto: Antonio Olmos)

Os autores do Sapiens argumentam que um problema em testar a segurança dos modelos é ter que prever todos os problemas que isso pode causar.

A IA é diferente de todas as tecnologias anteriores na história da humanidade porque é a primeira tecnologia capaz de tomar decisões, gerar novas ideias e aprender e se desenvolver por conta própria.

Por definição, é extremamente difícil para os humanos — até mesmo o “pai” da IA — prever todos os perigos e problemas potenciais.

Os governos levantaram a ameaça de sistemas de IA ajudarem a criar armas biológicas, mas há outros cenários que podem ser considerados.

O Sr. Harari destacou que finanças é um campo ideal para sistemas de IA porque dados e IA por si só podem criar crises sérias.

“E se a IA não só tivesse maior controle sobre o sistema financeiro mundial , mas também começasse a criar novos dispositivos financeiros que somente a IA pudesse entender e os humanos não”, questionou Harari.

A crise financeira de 2007-2008 foi causada por instrumentos de dívida, como obrigações de dívida colateralizadas (CDOs), que eram pouco compreendidos e, portanto, não eram regulamentados adequadamente, acrescentou o historiador.

“A IA tem o potencial de criar dispositivos financeiros mais complexos do que CDOs. Imagine uma situação em que temos um sistema financeiro que nenhum ser humano consegue entender e, portanto, não consegue regular”, disse ele. “E então há uma crise financeira em que ninguém entende o que está acontecendo.”

No mês passado, o governo do Reino Unido levantou preocupações sobre um modelo avançado de IA que poderia representar uma ameaça existencial ao controlar e manipular sistemas financeiros.

Mas o Sr. Harari acredita que uma crise financeira gerada pela IA não destruiria a civilização humana, "pelo menos não diretamente".

"Poderia, indiretamente, se desencadeasse algum tipo de guerra ou conflito. É um risco catastrófico – econômico, social, político ", acrescentou.

O autor israelense, que apoia os apelos para interromper o desenvolvimento de IA avançada por seis meses e responsabilizar as empresas de IA pelos danos causados por seus produtos, disse que o foco não deve estar em regulamentações e leis específicas, mas em organizações reguladoras tecnologicamente experientes que podem reagir rapidamente quando novos avanços surgirem.

“Precisamos criar o mais rápido possível instituições regulatórias fortes, capazes de identificar e responder aos perigos à medida que eles surgem, com base no entendimento de que não podemos prever todos os perigos e problemas com antecedência.”

“Este deveria ser o esforço principal, não escrever uma regulamentação muito longa e complicada que, quando for aprovada pelo Congresso, pode estar desatualizada”, disse ele.

Os institutos de pesquisa de segurança de IA devem contratar especialistas que entendam o impacto potencial da IA no mundo financeiro, disse o Sr. Harari.

No mês passado, o chanceler britânico Rishi Sunak anunciou a criação de um instituto de segurança de IA no Reino Unido. Dias depois, a Casa Branca anunciou planos para criar um órgão semelhante. Espera-se que ambos desempenhem um papel fundamental nos testes de modelos avançados de IA.

Falando na cúpula, o Sr. Sunak disse que a Grã-Bretanha precisa entender as capacidades dos modelos avançados de IA antes de introduzir leis para lidar com eles.

(De acordo com o The Guardian)

Aplicativo de IA, GraphCast prevê a previsão do tempo de 10 dias mais precisa do mundo

O laboratório DeepMind do Google no Reino Unido desenvolveu o sistema GraphCast, um aplicativo de inteligência artificial (IA) capaz de fornecer a previsão do tempo de 10 dias mais precisa do mundo.

O poder combinado da IA e da computação em nuvem

A combinação de inteligência artificial (IA) e computação em nuvem é uma tendência imparável que está remodelando as indústrias globais.

Elon Musk e Jensen Huang discordam sobre inteligência artificial e empregos Enquanto Elon Musk prevê que a inteligência artificial (IA) criará um mundo "sem empregos", o CEO da Nvidia, Jensen Huang, afirma que "os humanos têm muitas ideias".

[anúncio_2]
Fonte