OpenAI-directeur zegt dat er nieuwe regels nodig zijn om AI-risico's te bestrijden

"Ik maak me daar zorgen over", zei CEO Sam Altman over het mogelijke gebruik van AI om verkiezingen te beïnvloeden. Hij benadrukte de noodzaak van aanvullende regels en richtlijnen op het gebied van kunstmatige intelligentie.

CEO van OpenAI roept op tot regels om AI-risico's te bestrijden (afbeelding 1) — ChatGPT CEO Sam Altman getuigt voor het Amerikaanse Congres . Foto: NBC

De afgelopen maanden hebben grote en kleine bedrijven zich gehaast om AI-producten op de markt te brengen, aangewakkerd door de ChatGPT-rage. Sommige critici vrezen dat de technologie de maatschappelijke schade zal verergeren, waaronder het vergroten van vooroordelen en het verspreiden van desinformatie.

"Er is geen manier om AI volledig te reguleren, vooral niet nu de AI-gekte wereldwijd explodeert", aldus senator Cory Booker, een van de vele wetgevers die zich afvragen hoe AI het beste kan worden gereguleerd.

Senator Mazie Hirono wees op het risico van wijdverbreide desinformatie nu de verkiezingen van 2024 naderen. Altman, die voor het eerst voor het Congres sprak, suggereerde dat de VS licentie- en testvereisten voor de ontwikkeling van AI-modellen zou moeten overwegen.

Toen hem werd gevraagd om commentaar te geven op welke AI-licenties er zouden moeten komen, zei hij dat een model dat de overtuigingen van een persoon kan beïnvloeden of manipuleren een "lijn om te overwegen" zou zijn.

Hij zei ook dat bedrijven het recht moeten hebben om aan te geven dat ze niet willen dat hun gegevens worden gebruikt om AI te trainen. Dit is iets dat ook in het Amerikaanse Congres wordt besproken.

Het Witte Huis heeft top-CEO's uit de techsector, waaronder Sam Altman, bijeengeroepen om de kwestie van AI te bespreken. Amerikaanse wetgevers werken ook aan oplossingen om de voordelen van de technologie en de nationale veiligheid te vergroten en tegelijkertijd het misbruik van AI te beperken.

Een medewerker van OpenAI stelde onlangs voor dat de VS een licentie-instantie voor AI zou oprichten. Deze zou de naam Office of AI Infrastructure Safety and Security (OASIS) kunnen krijgen.

OpenAI wordt gesteund door Microsoft. Altman roept ook op tot wereldwijde samenwerking op het gebied van AI en moedigt bedrijven aan om zich aan de veiligheidsvoorschriften te houden.

Christina Montgomery, Chief Trust and Privacy Officer bij IBM, heeft het Congres opgeroepen om de regelgeving te richten op gebieden met de grootste kans op maatschappelijke schade.

Hoang Ton (volgens NBC, Reuters)

Bron