OpenAI en Anthropic delen nieuwste AI-modellen met de Amerikaanse overheid

De twee bedrijven gaan samenwerken met het Amerikaanse AI Safety Institute, een onderdeel van het National Institute of Standards and Technology (NIST), een Amerikaanse federale instantie. Dit wordt gezien als een belangrijke stap in het beheer van en toezicht op AI-technologie, een belangrijke zorg sinds de lancering van OpenAI's ChatGPT.

"Dit is nog maar het begin, maar wel een belangrijke mijlpaal in het streven om de toekomst van AI op verantwoorde wijze te beheren", aldus Elizabeth Kelly, directeur van het Amerikaanse AI Safety Institute.

Volgens de overeenkomst zal het Amerikaanse AI Safety Institute beide bedrijven feedback geven over mogelijke veiligheidsverbeteringen van hun modellen, zowel vóór als na de publicatie ervan. Het instituut zal tijdens dit proces ook nauw samenwerken met het Britse AI Safety Institute.

"De samenwerking met het American AI Safety Institute maakt gebruik van hun brede expertise om onze modellen grondig te testen voordat ze breed worden ingezet. Dit vergroot ons vermogen om risico's te identificeren en te beperken, en bevordert verantwoorde AI-ontwikkeling", aldus Jack Clark, medeoprichter en hoofd beleid bij Anthropic.

Deze stap is onderdeel van een poging om het AI-uitvoeringsbesluit van het Witte Huis uit te voeren, dat in 2023 wordt gepubliceerd en dat tot doel heeft een juridisch kader te creëren voor de snelle implementatie van AI-modellen in de VS.

Maar terwijl de federale overheid een vrijwillige aanpak hanteert, hebben wetgevers in Californië, het Amerikaanse technologiecentrum, op 28 augustus een wetsvoorstel op staatsniveau aangenomen over AI-veiligheid. Als het wetsvoorstel door de gouverneur wordt ondertekend, worden er strengere regels opgelegd aan de AI-industrie.

Sam Altman, CEO van OpenAI, heeft zijn steun uitgesproken voor het reguleren van AI op nationaal niveau in plaats van op staatsniveau. Volgens hem zou dit helpen voorkomen dat onderzoek en innovatie op het gebied van AI worden belemmerd.

De samenwerking tussen toonaangevende technologiebedrijven en de Amerikaanse overheid is een duidelijk signaal dat er een evenwicht moet worden gevonden tussen innovatie en veiligheid in het snel evoluerende vakgebied van AI.

Bron: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html