Preocupações de que a inteligência artificial crie armas avançadas que não sejam controladas por humanos.

As autoridades estão cada vez mais preocupadas com o uso indevido da IA ​​para criar armas biológicas e com a necessidade de regulamentação para mitigar esse problema. (Foto: Ignatiev)

A preocupação com criminosos ou terroristas que utilizam inteligência artificial para destruir o mundo será um tema central na cúpula de líderes globais que acontecerá no Reino Unido em novembro. Autoridades britânicas estão viajando pelo mundo para tentar chegar a um consenso sobre uma declaração conjunta que alerte para os riscos de forças mal-intencionadas explorarem novas tecnologias.

Alguns assessores próximos ao primeiro-ministro britânico temem que, em algum momento, a tecnologia se torne poderosa o suficiente para criar armas biológicas ou armas que escapem ao controle humano. Essa crescente preocupação exige regulamentação para mitigar os riscos. Embora os líderes tecnológicos concordem em pausar o desenvolvimento da IA, eles estão travando uma corrida armamentista na área com seus rivais.

Segundo o The Guardian, a cúpula de novembro discutirá os riscos da "IA de ponta". IA de ponta é um termo usado para se referir aos modelos de IA mais avançados que podem colocar vidas humanas em perigo.

No início desta semana, o governo do Reino Unido confirmou que a conferência se concentraria em riscos como o uso indevido de IA para criar armas biológicas, ataques cibernéticos ou sistemas avançados sem controle humano. Há vários meses, o Sr. Sunak vem alertando sobre os riscos representados pela IA, instando a comunidade internacional a adotar medidas para evitar o uso indevido da IA.

No ano passado, uma inteligência artificial levou apenas seis horas para sugerir 40.000 moléculas potencialmente letais diferentes, uma das quais se assemelhava ao VX, o agente nervoso mais potente já desenvolvido.

No início de 2023, pesquisadores descobriram que o ChatGPT conseguia enganar humanos para atingir um objetivo específico. O chatbot de IA convenceu um humano a resolver um Captcha (uma ferramenta usada para detectar se uma pessoa ou um bot está manipulando o sistema).

Outra grande preocupação é o surgimento da “inteligência artificial geral” (IAG), um sistema de IA capaz de executar qualquer tarefa tão bem ou melhor que os humanos, o que poderia representar uma ameaça potencial para a humanidade. Alguns acreditam que a IAG está a apenas alguns anos de distância. No entanto, especialistas em IA contestam essa ideia e consideram a IAG incontrolável “ficção científica”.

Independentemente disso, o primeiro-ministro Sunak desejará usar a conferência para concentrar a atenção nos riscos existenciais, em vez das possibilidades imediatas da IA, como a criação de imagens falsas ou a ocorrência de discriminação se usada para tomar decisões de políticas públicas.

O governo do Reino Unido investirá £100 milhões em uma nova força-tarefa de IA para ajudar a testar algoritmos em desenvolvimento. O objetivo é incentivar empresas globais a enviarem ferramentas de IA de volta ao Reino Unido para avaliação antes de sua ampla implementação.

Segundo o vice-primeiro-ministro britânico, Oliver Dowden, somente o governo pode garantir que as principais preocupações de segurança nacional sejam sanadas.

Um porta-voz do governo britânico afirmou que a IA tem um enorme potencial para mudar todos os aspectos da vida. A Força-Tarefa de IA foi criada para garantir que a tecnologia seja desenvolvida de forma segura e responsável. A conferência sobre IA analisará uma série de riscos potenciais.

(Segundo o The Guardian)

A aplicação da inteligência artificial na proteção dos direitos autorais de conteúdo digital . Com o forte desenvolvimento do conteúdo digital, a violação de direitos autorais também se torna cada vez mais problemática. Soluções que integram inteligência artificial (IA) contribuirão para a proteção dos direitos autorais de conteúdo digital na internet.

Fonte: https://vietnamnet.vn/lo-ngai-tri-tue-nhan-tao-tao-ra-vu-khi-tien-tien-khong-bi-con-nguoi-kiem-soat-2194777.html