Encontrando padrões de segurança para inteligência artificial

[anúncio_1]

SGGP 31/07/2023 09:35

Depois que a Europa começou a redigir e logo lançou a primeira lei do mundo sobre inteligência artificial (IA), os quatro principais "gigantes" de mineração de dados da internet dos EUA acabaram de lançar um grupo chamado Frontier Model Forum.

O objetivo principal do Frontier Model Forum é promover a IA responsável. Foto: THINKWITHNICHE

As partes se reúnem

O grupo, que inclui a Anthropic, Google, Microsoft e a OpenAI, proprietária do ChatGPT, afirmou que os principais objetivos do Frontier Model Forum são ajudar a reduzir os riscos representados pelas plataformas de IA e desenvolver padrões para o setor. O Frontier Model Forum criará um novo fórum com os seguintes objetivos principais: promover a pesquisa sobre segurança em IA para apoiar o desenvolvimento, reduzir riscos e padronizar avaliações e níveis de segurança; identificar as melhores práticas para o desenvolvimento e a implantação de modelos e ajudar o público a compreender a natureza, as capacidades, as limitações e os impactos da tecnologia; e colaborar com formuladores de políticas, acadêmicos, sociedade civil e empresas para compartilhar conhecimento sobre riscos e segurança.

As gigantes da tecnologia tradicionalmente resistem ao aumento da regulamentação, mas, desta vez, a indústria mudou significativamente sua postura em relação aos riscos representados pela IA. As empresas envolvidas na iniciativa Frontier Model Forum se comprometeram a compartilhar as melhores práticas entre empresas e a disponibilizar informações publicamente aos governos e à sociedade civil.

Especificamente, o Frontier Model Forum se concentrará em plataformas de aprendizado de máquina em larga escala, ainda incipientes, que elevam a IA a novos níveis de sofisticação – o que também é um fator de risco potencial. Além disso, o Frontier Model Forum também apoiará o desenvolvimento de aplicações que abordem grandes desafios sociais, como: mitigação e adaptação às mudanças climáticas, detecção e prevenção precoce do câncer e proteção contra ameaças cibernéticas.

Espaço para destruição potencial

O anúncio do Frontier Model Forum por empresas americanas ocorre poucos dias após senadores americanos alertarem, em 25 de julho, sobre o risco de IA ser usada para bioataques em uma audiência perante uma subcomissão do Comitê Judiciário do Senado dos EUA. Recentemente, sete grandes empresas de tecnologia, incluindo OpenAI, Alphabet e Meta, se comprometeram voluntariamente com a Casa Branca a desenvolver um sistema para rotular todo o conteúdo, desde texto, imagens e áudio até vídeo, criado por IA, a fim de fornecer aos usuários transparência nas informações e garantir que essa tecnologia seja mais segura.

Embora a IA ainda não seja capaz de criar armas biológicas, trata-se de um risco de "médio prazo" que pode representar uma séria ameaça à segurança nacional dos EUA nos próximos dois a três anos, observou Dario Amodei, CEO da AI Anthropic. Isso porque os agentes que realizam ataques biológicos em larga escala não se limitam mais àqueles com conhecimento especializado no assunto.

O mundo enfrenta uma explosão de conteúdo criado por tecnologia de IA generativa. Dos EUA à Europa e à Ásia, as medidas regulatórias estão se tornando gradualmente mais rigorosas. De acordo com a CNN, a partir de setembro, o Senado dos EUA realizará uma série de nove workshops adicionais para que os membros aprendam sobre como a IA pode afetar empregos, a segurança nacional e a propriedade intelectual. Antes dos EUA, se um acordo for alcançado, a União Europeia terá a primeira lei do mundo sobre gestão de IA no próximo ano, com previsão de entrada em vigor em 2026.

Os benefícios que a IA traz para a sociedade são inegáveis, mas há alertas crescentes sobre os riscos potenciais dessa nova tecnologia. Em junho, o Secretário-Geral da ONU, António Guterres, apoiou uma proposta de vários executivos da área de IA para estabelecer um órgão de fiscalização internacional da IA, semelhante à Agência Internacional de Energia Atômica (AIEA).

De volta ao Frontier Model Forum, o presidente da Microsoft, Brad Smith, afirmou que a iniciativa é um passo importante para unir empresas de tecnologia e promover o uso responsável da IA em benefício de toda a humanidade. Da mesma forma, a vice-presidente de Assuntos Globais da OpenAI, Anna Makanju, afirmou que a tecnologia avançada de IA tem o potencial de trazer benefícios profundos à sociedade, e isso requer supervisão e governança.

Fonte