Diretor da OpenAI diz que novas regras são necessárias para combater riscos da IA

[anúncio_1]

“Estou preocupado com isso”, disse o CEO Sam Altman sobre o uso potencial de IA para interferir nas eleições, enfatizando a necessidade de regras e diretrizes adicionais para governar o campo da inteligência artificial.

CEO da OpenAI pede regras para combater riscos da IA — Sam Altman, CEO da ChatGPT, durante audiência no Congresso dos EUA. Foto: NBC

Nos últimos meses, empresas de grande e pequeno porte têm corrido para lançar produtos de IA no mercado, impulsionadas pela febre do ChatGPT. Alguns críticos temem que a tecnologia possa agravar os danos sociais, incluindo o aprofundamento do preconceito e a disseminação de desinformação.

“Não há como regular totalmente a IA, especialmente quando a mania da IA está explodindo globalmente”, disse o senador Cory Booker, um dos muitos legisladores que questionam a melhor forma de regular a IA.

A senadora Mazie Hirono destacou o risco de desinformação generalizada com a aproximação das eleições de 2024. Falando perante o Congresso dos EUA pela primeira vez, Altman sugeriu que os EUA deveriam considerar requisitos de licenciamento e testes para o desenvolvimento de modelos de IA.

Quando questionado sobre qual IA deveria ser licenciada, ele disse que um modelo que pudesse persuadir ou manipular as crenças de uma pessoa seria uma "linha tênue a ser considerada".

Ele também disse que as empresas devem ter o direito de dizer que não querem que seus dados sejam usados para treinar IA, algo que também está sendo discutido no Congresso dos EUA.

A Casa Branca convocou os principais CEOs de tecnologia, incluindo Sam Altman, para abordar a questão da IA. Os legisladores dos EUA também estão trabalhando para encontrar soluções para ampliar os benefícios da tecnologia e da segurança nacional, ao mesmo tempo em que limitam o uso indevido da IA.

Um funcionário da OpenAI propôs recentemente que os EUA criassem um órgão de licenciamento de IA, possivelmente chamado de Escritório de Segurança e Proteção de Infraestrutura de IA, ou OASIS.

O OpenAI conta com o apoio da Microsoft. Altman também defende a cooperação global em IA e incentiva as empresas a cumprirem as normas de segurança.

Christina Montgomery, diretora de confiança e privacidade da IBM, pediu ao Congresso que concentre a regulamentação em áreas com maior potencial de dano social.

Hoang Ton (de acordo com NBC, Reuters)

[anúncio_2]
Fonte