OpenAI-chefen säger att nya regler behövs för att bekämpa AI-risker

"Jag oroar mig för det", sa VD Sam Altman om den potentiella användningen av AI för att störa val och betonade behovet av ytterligare regler och riktlinjer för att styra området artificiell intelligens.

ChatGPT:s VD Sam Altman under en utfrågning inför den amerikanska kongressen . Foto: NBC

Under de senaste månaderna har stora som små företag kämpat för att få ut AI-produkter på marknaden, sporrade av ChatGPT-vurmen. Vissa kritiker oroar sig för att tekniken kommer att förvärra sociala skador, inklusive att fördjupa fördomar och sprida felinformation.

”Det finns inget sätt att helt reglera AI, särskilt inte när AI-vurmen exploderar globalt”, sa senator Cory Booker, en av många lagstiftare som ifrågasätter hur man bäst reglerar AI.

Senator Mazie Hirono noterade risken för utbredd felinformation när valet 2024 närmar sig. Altman föreslog, i ett tal inför den amerikanska kongressen för första gången, att USA borde överväga licens- och testkrav för att utveckla AI-modeller.

När han ombads att kommentera vilken AI som borde licensieras, sa han att en modell som skulle kunna övertyga eller manipulera en persons övertygelser skulle vara en "tunn linje att överväga".

Han sa också att företag borde ha rätt att säga att de inte vill att deras data används för att träna AI, något som också diskuteras i den amerikanska kongressen.

Vita huset har sammankallat teknikchefer, inklusive Sam Altman, för att ta upp frågan om AI. Amerikanska lagstiftare arbetar också med att hitta lösningar för att öka fördelarna med teknik och nationell säkerhet samtidigt som missbruket av AI begränsas.

En anställd på OpenAI föreslog nyligen att USA skulle skapa ett AI-licensorgan, eventuellt kallat Office of AI Infrastructure Safety and Security, eller OASIS.

OpenAI stöds av Microsoft. Altman efterlyser också globalt samarbete kring AI och uppmuntrar företag att följa säkerhetsföreskrifter.

Christina Montgomery, IBMs chef för förtroende och integritet, har uppmanat kongressen att fokusera regleringen på områden med störst potential för social skada.

Hoang Ton (enligt NBC, Reuters)

Källa: https://www.congluan.vn/ceo-cua-openai-keu-goi-cac-quy-tac-de-chong-lai-rui-ro-ai-post247993.html