O 'Pai' do Chat GPT compartilha seu maior medo sobre IA

“Meu maior medo é causar sérios danos — nós, esta área, a indústria de tecnologia — ao mundo . Acho que isso pode acontecer de várias maneiras diferentes. É por isso que criamos esta empresa”, disse Altman durante uma audiência perante a Subcomissão de Privacidade, Tecnologia e Direito do Senado, em 16 de maio.

Maior medo: a IA pode estar errada

"As pessoas acham que, se essa tecnologia der errado, ela pode dar errado, e queremos nos manifestar sobre isso. Queremos trabalhar com o governo para evitar que isso aconteça", disse Altman, CEO da OpenAI (desenvolvedora do ChatGPT).

O CEO da OpenAI, Sam Altman, toma posse durante uma audiência perante a Subcomissão Judiciária do Senado. (Foto: Washington Post)

Em seu primeiro depoimento no Congresso , Altman também pediu ampla regulamentação, incluindo uma nova agência governamental responsável pelo licenciamento de modelos de IA, para abordar as crescentes preocupações de que a inteligência artificial poderia distorcer a realidade e criar riscos de segurança sem precedentes.

O Sr. Altman assumiu uma posição séria sobre as maneiras pelas quais a inteligência artificial poderia "causar danos significativos ao mundo" e expressou a disposição de trabalhar com os legisladores para abordar os riscos representados pelo ChatGPT de sua empresa e outras ferramentas de IA.

O Sr. Altman descreveu comportamentos "arriscados" possibilitados por tecnologias como o ChatGPT, incluindo a disseminação de "desinformação interativa ao vivo" e manipulação emocional. Ele reconheceu que a IA poderia ser usada para direcionar ataques de drones.

“Se essa tecnologia der errado, pode ser ruim”, disse ele.

No entanto, durante quase três horas de discussão sobre as consequências potencialmente terríveis, o Sr. Altman insistiu que sua empresa continuaria a implementar a tecnologia de IA.

Em vez de correr riscos, ele argumenta, as "implantações iterativas" dos modelos de IA da OpenAI dão às organizações tempo para entender ameaças potenciais, um movimento estratégico que coloca uma tecnologia "relativamente fraca" e "imperfeita" no mundo para ajudar a descobrir os riscos de segurança associados.

Ilustração do aplicativo ChatGPT, que permite que computadores conversem com usuários como se fossem humanos.

Nas últimas semanas, o Sr. Altman fez uma viagem de boa vontade pelo mundo, reunindo-se privadamente com formuladores de políticas, incluindo o presidente Biden e membros do Congresso, para abordar preocupações sobre a rápida implantação do ChatGPT e outras tecnologias.

A audiência de 16 de maio marca a primeira chance para o público em geral ouvir sua mensagem, em um momento em que Washington está cada vez mais lutando para regulamentar uma tecnologia que interrompeu empregos, facilitou fraudes e espalhou desinformação.

Em forte contraste com as audiências com outros CEOs de tecnologia, como Shou Zi Chew, do TikTok, e Mark Zuckerberg, da Meta, os legisladores dos EUA deram ao Sr. Altman uma recepção relativamente calorosa.

Eles pareciam estar em modo de escuta, expressando abertura para considerar sugestões de Altman e duas outras testemunhas na audiência: a executiva da IBM, Christina Montgomery, e o professor emérito da Universidade de Nova York, Gary Marcus.

Durante uma audiência da Subcomissão Judiciária do Senado sobre Privacidade, Tecnologia e Direito, os legisladores expressaram profundas preocupações sobre o rápido desenvolvimento da inteligência artificial, argumentando que os avanços recentes podem ser mais transformadores do que a internet ou tão perigosos quanto a bomba atômica.

"Esta é a oportunidade de vocês nos dizerem como fazer isso direito", disse o senador John Neely Kennedy a testemunhas. "Aproveitem."

Legisladores de ambos os partidos expressaram abertura à ideia de criar uma agência governamental encarregada de regulamentar o desenvolvimento da inteligência artificial, embora esforços anteriores para criar uma agência específica com supervisão do Vale do Silício tenham falhado no Congresso, pois os partidos estavam divididos sobre como moldar uma agência tão grande.

Não está claro se tal proposta obteria amplo apoio entre os republicanos, que geralmente são cautelosos em expandir o poder do governo. O senador Josh Hawley, republicano do Missouri, alertou que tal agência poderia ser "presa pelos interesses que supostamente deveria regular".

O senador Richard Blumenthal, presidente da subcomissão, elogiou o depoimento do Sr. Altman na audiência: “Sam Altman é um mundo à parte dos outros CEOs... Não apenas em suas palavras e retórica, mas em suas ações reais e sua disposição de se envolver e se comprometer com ações concretas.”

A audiência com o CEO Altman ocorre em um momento em que os formuladores de políticas de Washington estão cada vez mais preocupados com as ameaças representadas pela inteligência artificial, como o ChatGPT e outras ferramentas inovadoras de IA, particularmente em relação à desinformação, privacidade de dados, violação de direitos autorais e segurança cibernética.

Os legisladores expressaram arrependimento por sua abordagem relativamente frouxa em relação à indústria de IA desde antes das eleições de 2016. Sua primeira audiência com o CEO da Meta, Zuckerberg, ocorreu em 2018, quando o Facebook já era um gigante e estava recém-saído do escândalo da Cambridge Analytica, que coletou dados de 87 milhões de usuários do Facebook.

Na época, apesar do amplo consenso bipartidário de que a IA representava uma ameaça, os legisladores não conseguiram chegar a um acordo sobre as regras para governar seu uso ou desenvolvimento.

(Fonte: Jornal Tin Tuc/Fox News; Washington Post)

Útil
Emoção
Criativo
Exclusivo
Fúria

Fonte: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html