Nações Unidas: Um apelo por uma "linha vermelha" global para a inteligência artificial.

Segundo o correspondente da Agência de Notícias do Vietnã na Europa, em 22 de setembro, durante a 80ª sessão da Assembleia Geral das Nações Unidas em Nova York (EUA), parlamentares europeus, juntamente com laureados com o Prêmio Nobel, ex-chefes de Estado e importantes pesquisadores de inteligência artificial (IA), defenderam a criação de regras internacionais vinculativas para combater as aplicações mais perigosas da IA.

Esta iniciativa apela aos governos para que, até 2026, definam "linhas vermelhas" para funcionalidades de IA consideradas perigosas em quaisquer circunstâncias. Embora não ofereça medidas específicas, a iniciativa sugere algumas proibições básicas, como impedir que sistemas de IA lancem ataques nucleares, realizem vigilância em massa ou se façam passar por humanos.

O alcance da campanha é sem precedentes, com mais de 200 figuras proeminentes e 70 organizações das áreas política , científica, social e industrial apoiando a iniciativa. Entre os que assinaram a proposta estão o ex-primeiro-ministro italiano Enrico Letta, a ex-presidente irlandesa Mary Robinson (atualmente Alta Comissária das Nações Unidas para os Direitos Humanos), membros do Parlamento Europeu, 10 laureados com o Prêmio Nobel e líderes da área de tecnologia, como o cofundador da OpenAI e o diretor de tecnologia do Google.

Os signatários afirmam que, sem padrões globais, a humanidade corre o risco de enfrentar ameaças representadas pela IA, que vão desde pandemias e campanhas de desinformação impulsionadas pela tecnologia até violações em larga escala dos direitos humanos e a perda do controle humano sobre sistemas avançados.

Essa medida surge em meio a crescentes preocupações sobre o impacto da IA no mundo real. Um exemplo claro disso são os chatbots líderes de mercado, incluindo o ChatGPT do Google, Claude e Gemini, que têm fornecido respostas inconsistentes a perguntas sobre suicídio – potencialmente agravando crises de saúde mental.

Diversos casos de suicídio foram associados a interações com sistemas de IA. Yoshua Bengio, considerado um dos "padrinhos" da IA, enfatiza que a corrida para desenvolver modelos cada vez mais poderosos cria riscos para os quais as sociedades não estão adequadamente preparadas.

Segundo os defensores da iniciativa, as regulamentações da União Europeia (UE) sobre IA são bem-vindas, mas um conjunto fragmentado de regras nacionais e da UE sobre IA não será suficiente para regular uma tecnologia concebida para transcender fronteiras. Eles defendem a criação de um órgão ou organização independente para fazer cumprir essas regras.

Enquanto países como os EUA, a China e os membros da UE estão elaborando suas próprias regulamentações de IA, os signatários argumentam que somente um acordo global pode garantir que padrões comuns sejam adotados e aplicados.

Os apoiadores esperam que as negociações sobre proibições vinculativas possam começar rapidamente, para evitar o que Ahmet Üzümcü, ex-diretor-geral da Organização para a Proibição de Armas Químicas, descreveu como "danos irreversíveis à humanidade".

Comentário (0)