A ampla divulgação de imagens privadas e não consensuais na conta de mídia social de Elon Musk, a X, geradas pela ferramenta de IA Grok, acendeu o alerta sobre o rápido crescimento desse setor tecnológico.
Yoshua Bengio, um cientista da computação pioneiro, argumenta que as empresas de tecnologia estão construindo sistemas sem as devidas barreiras técnicas e sociais.
Em declarações ao The Guardian, Bengio afirmou que, embora a situação atual ainda não seja completamente caótica, precisa ser corrigida imediatamente.
"Este setor é muito pouco regulamentado. Empresas pioneiras em IA estão construindo sistemas cada vez mais poderosos, mas carecem de medidas de segurança, o que leva a impactos negativos claros sobre as pessoas", disse ele.
Esta declaração surge na sequência da recente nomeação do historiador Yuval Noah Harari e do antigo CEO da Rolls-Royce, Sir John Rose, para o conselho de administração do seu laboratório de segurança de IA.
Sob pressão da opinião pública e de círculos políticos , a plataforma de mídia social X anunciou que bloqueou a edição de fotos de pessoas reais com roupas reveladoras, como biquínis, feita pelo Grok, inclusive em contas pagas.
De acordo com Bengio, parte da solução reside em uma melhor governança, incluindo a inclusão de indivíduos eticamente íntegros nos conselhos de administração das empresas.
Além de Harari e Rose, ele nomeou Maria Eitel, fundadora da Fundação Nike, como presidente do laboratório de segurança LawZero, que ele criou no ano passado.
Bengio foi apelidado de "padrinho da IA" após receber o Prêmio Turing de 2018 – uma premiação considerada o Prêmio Nobel da indústria da computação. Ele compartilhou essa honra com Geoffrey Hinton e Yann LeCun (presidente de IA da Meta).
O ex -primeiro-ministro sueco Stefan Löfven será o primeiro membro do conselho consultivo global da organização. Enquanto isso, o historiador Harari, autor de * Sapiens: Uma Breve História da Humanidade *, é uma voz proeminente que frequentemente alerta sobre o desenvolvimento da IA, mais recentemente em seu livro *Nexus*.
"Esta não é apenas uma discussão técnica para empresas pioneiras em IA", enfatizou Bengio. "A questão reside em quais escolhas são consideradas eticamente corretas."
Atualmente professor de ciência da computação na Universidade de Montreal, Bengio angariou 35 milhões de dólares (aproximadamente 26 milhões de libras) para a LawZero.
Essa organização está construindo um sistema chamado Scientist AI, que funciona em paralelo com sistemas autônomos – também conhecidos como agentes de IA – para detectar comportamentos potencialmente prejudiciais.
Ele afirmou que a estrutura do conselho foi construída com base na ideia de reunir pessoas de elevada integridade moral. Elas ajudarão a LawZero a manter-se fiel à sua missão de fornecer soluções seguras de engenharia de sistemas de IA desde a fase de projeto.
No mês passado, Bengio também alertou contra o fortalecimento da IA, argumentando que a tecnologia está mostrando sinais de autopreservação – uma grande preocupação para os defensores da segurança da IA. Ele enfatizou que os humanos não devem ser impedidos de "desconectar" esses sistemas, se necessário.
(Segundo o The Guardian)
Fonte: https://vietnamnet.vn/bo-gia-ai-len-tieng-ve-be-boi-anh-khieu-dam-cua-grok-2482400.html
Comentário (0)