Nações Unidas: Apelo por “linhas vermelhas” globais sobre inteligência artificial

De acordo com um correspondente da VNA na Europa, em 22 de setembro, na 80ª sessão da Assembleia Geral das Nações Unidas em Nova York (EUA), legisladores europeus, juntamente com ganhadores do Prêmio Nobel, ex-chefes de Estado e pesquisadores líderes em inteligência artificial (IA), pediram regras internacionais vinculativas para combater as aplicações mais perigosas da IA.

A iniciativa apela aos governos para que, até 2026, cheguem a um acordo sobre "linhas vermelhas" para recursos de IA considerados perigosos em todas as circunstâncias. Não oferece medidas específicas, mas sugere algumas proibições básicas, como impedir que sistemas de IA lancem ataques nucleares, realizem vigilância em massa ou se façam passar por humanos.

O alcance da campanha é sem precedentes, com mais de 200 figuras proeminentes e 70 organizações da política , ciência, sociedade e indústria apoiando o apelo. Entre os signatários da proposta estão o ex-primeiro-ministro italiano Enrico Letta, a ex-presidente irlandesa Mary Robinson (atual Alta Comissária da ONU para os Direitos Humanos), membros do Parlamento Europeu (PE), 10 ganhadores do Prêmio Nobel e líderes da tecnologia, como o cofundador da OpenAI e o CTO do Google.

Os signatários afirmam que, sem padrões globais, a humanidade corre o risco de enfrentar ameaças representadas pela IA, desde pandemias tecnologicamente projetadas e campanhas de desinformação até abusos de direitos humanos em larga escala e perda de controle sobre sistemas avançados.

A mudança ocorre em meio a crescentes preocupações sobre o impacto da IA no mundo real. Em um exemplo notável, os principais chatbots, incluindo o ChatGPT do Google, Claude e Gemini, deram respostas inconsistentes a perguntas sobre suicídio — o que se acredita agravar crises de saúde mental.

Vários suicídios foram associados a conversas com sistemas de IA. Yoshua Bengio, um dos chamados "padrinhos" da IA, enfatizou que a corrida para desenvolver modelos cada vez mais poderosos cria riscos para os quais as sociedades estão mal preparadas.

As regulamentações da União Europeia (UE) sobre IA são bem-vindas, mas uma colcha de retalhos de regras nacionais e da UE para IA não será suficiente para regulamentar uma tecnologia projetada para cruzar fronteiras, de acordo com os defensores da iniciativa. Eles defendem a criação de um órgão ou organização independente para aplicar essas regras.

Enquanto países como EUA, China e membros da UE estão elaborando seus próprios regulamentos de IA, os signatários dizem que somente um acordo global pode garantir que padrões comuns sejam adotados e aplicados.

Os apoiadores esperam que as negociações sobre proibições vinculativas possam começar rapidamente, para evitar o que Ahmet Üzümcü, ex-diretor-geral da Organização para a Proibição de Armas Químicas, descreveu como “danos irreversíveis à humanidade”.

(TTXVN/Vietnã+)

Fonte: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp