Preocupações de que a inteligência artificial crie armas avançadas que não sejam controladas por humanos

[anúncio_1]

As autoridades estão cada vez mais preocupadas com o uso indevido da IA para criar armas biológicas e com a necessidade de regulamentação para mitigar isso. (Foto: Ignatiev)

Preocupações com criminosos ou terroristas usando IA para destruir o mundo serão um tema quente em uma cúpula de líderes globais no Reino Unido em novembro. Autoridades britânicas estão viajando pelo mundo para tentar chegar a um consenso sobre uma declaração conjunta alertando sobre os riscos de forças malignas explorarem novas tecnologias.

Algumas autoridades próximas ao primeiro-ministro britânico temem que, em algum momento, a tecnologia seja poderosa o suficiente para criar armas biológicas ou armas que escapem ao controle humano. A crescente preocupação exige regulamentação para mitigar os riscos. Embora os líderes da tecnologia concordem em interromper o desenvolvimento da IA, eles estão presos em uma corrida armamentista de IA com os rivais.

Segundo o The Guardian, a cúpula de novembro discutirá os riscos da "IA de fronteira". IA de fronteira é um termo usado para se referir aos modelos de IA mais avançados que podem colocar a vida humana em risco.

No início desta semana, o governo do Reino Unido confirmou que a conferência se concentraria em riscos como o uso indevido da IA para criar armas biológicas, ataques cibernéticos ou sistemas avançados sem controle humano. Há vários meses, o Sr. Sunak vem alertando sobre os riscos representados pela IA, instando a comunidade internacional a adotar "trilhos" para prevenir o uso indevido da IA.

No ano passado, uma IA levou apenas seis horas para sugerir 40.000 moléculas diferentes potencialmente letais, uma das quais se assemelhava ao VX, o agente nervoso mais poderoso já desenvolvido.

No início de 2023, pesquisadores descobriram que o ChatGPT poderia enganar humanos para atingir um objetivo específico. O chatbot de IA convenceu um humano a resolver um Captcha (uma ferramenta usada para detectar se um humano ou um bot está manipulando).

Outra grande preocupação é a ascensão da "inteligência geral artificial" (AGI), um sistema de IA capaz de executar qualquer tarefa tão bem quanto ou melhor que os humanos, o que poderia representar uma ameaça à humanidade. Alguns acreditam que a AGI está a apenas alguns anos de distância. No entanto, especialistas em IA contestam essa ideia e chamam a AGI incontrolável de "ficção científica".

De qualquer forma, o primeiro-ministro Sunak vai querer usar a conferência para focar a atenção nos riscos existenciais em vez das possibilidades imediatas da IA, como criar imagens falsas ou causar discriminação se usada para tomar decisões de políticas públicas.

O governo do Reino Unido investirá £ 100 milhões em uma nova força-tarefa de IA para ajudar a testar algoritmos em desenvolvimento. O objetivo é incentivar empresas globais a enviar ferramentas de IA de volta ao Reino Unido para avaliação antes de implementá-las amplamente.

Somente o governo pode garantir que as preocupações mais importantes com a segurança nacional sejam amenizadas, de acordo com o vice-primeiro-ministro britânico Oliver Dowden.

Um porta-voz do governo do Reino Unido afirmou que a IA tem um enorme potencial para mudar todos os aspectos da vida. A Força-Tarefa de IA foi criada para garantir que a tecnologia seja desenvolvida de forma segura e responsável. A conferência sobre IA analisará uma série de riscos potenciais.

(De acordo com o The Guardian)

Aplicação de inteligência artificial na proteção de direitos autorais de conteúdo digital . Com o forte desenvolvimento do conteúdo digital, a violação de direitos autorais também está se tornando cada vez mais dolorosa. Soluções que integram inteligência artificial (IA) contribuirão para a proteção de direitos autorais de conteúdo digital na internet.

Comentário (0)