Het vinden van veiligheidsnormen voor kunstmatige intelligentie

SGGP 31-07-2023 09:35

Nadat Europa was begonnen met het opstellen en al snel lanceren van ' s werelds eerste wet op kunstmatige intelligentie (AI), hebben de vier grootste Amerikaanse 'giganten' op het gebied van internetdatamining een groep opgericht met de naam Frontier Model Forum.

Het hoofddoel van het Frontier Model Forum is het bevorderen van verantwoorde AI. Foto: THINKWITHNICHE

De partijen komen samen

De groep, waartoe Anthropic, Google, Microsoft en OpenAI, de eigenaar van ChatGPT, behoren, stelde dat de kerndoelen van het Frontier Model Forum zijn om de risico's van AI-platforms te helpen verminderen en industriestandaarden te ontwikkelen. Het Frontier Model Forum zal een nieuw forum creëren met de volgende hoofddoelen: onderzoek naar AI-veiligheid bevorderen ter ondersteuning van de ontwikkeling, risico's verminderen en veiligheidsbeoordelingen en -niveaus standaardiseren; best practices identificeren voor de ontwikkeling en implementatie van modellen, en het publiek helpen de aard, mogelijkheden, beperkingen en impact van de technologie te begrijpen; en samenwerken met beleidsmakers, academici, het maatschappelijk middenveld en bedrijven om kennis over risico's en veiligheid te delen.

Techgiganten hebben zich traditioneel verzet tegen strengere regelgeving, maar dit keer heeft de techsector haar standpunt over de risico's van AI grotendeels gewijzigd. De bedrijven die betrokken zijn bij het Frontier Model Forum-initiatief hebben beloofd best practices tussen bedrijven te delen en informatie openbaar te maken voor overheden en het maatschappelijk middenveld.

Het Frontier Model Forum zal zich specifiek richten op grootschalige, maar nog prille, machine learning-platformen die AI naar een nieuw niveau van verfijning tillen – wat ook een potentiële risicofactor is. Daarnaast zal het Frontier Model Forum ook de ontwikkeling ondersteunen van toepassingen die grote maatschappelijke uitdagingen aanpakken, zoals: beperking van en aanpassing aan klimaatverandering, vroege opsporing en preventie van kanker, en bescherming tegen cyberdreigingen.

Ruimte voor potentiële vernietiging

De aankondiging van het Frontier Model Forum door Amerikaanse bedrijven komt enkele dagen nadat Amerikaanse senatoren op 25 juli tijdens een hoorzitting voor een subcommissie van de Amerikaanse Senaatscommissie Justitie waarschuwden voor het risico dat AI wordt gebruikt voor bio-aanvallen. Onlangs hebben zeven grote technologiebedrijven, waaronder OpenAI, Alphabet en Meta, zich vrijwillig verbonden aan het Witte Huis om een systeem te ontwikkelen om alle door AI gecreëerde content te labelen, van tekst, afbeeldingen en audio tot video. Dit zou gebruikers transparantie in de informatie moeten bieden en de veiligheid van deze technologie moeten waarborgen.

Hoewel AI nog niet in staat is om biologische wapens te creëren, vormt het een risico op de "middellange termijn" dat de komende twee tot drie jaar een ernstige bedreiging voor de Amerikaanse nationale veiligheid zou kunnen vormen, aldus Dario Amodei, CEO van AI Anthropic. De actoren die grootschalige biologische aanvallen uitvoeren, zijn namelijk niet langer beperkt tot degenen met gespecialiseerde kennis op dit gebied.

De wereld wordt geconfronteerd met een explosie aan content die is gecreëerd door generatieve AI-technologie. Van de VS tot Europa en Azië worden de regelgevingen geleidelijk strenger. Volgens CNN zal de Amerikaanse Senaat vanaf september een reeks van negen extra workshops organiseren voor leden om te leren hoe AI banen, nationale veiligheid en intellectueel eigendom kan beïnvloeden. Als er een akkoord in de VS wordt bereikt, zal de Europese Unie volgend jaar nog vóór de VS 's werelds eerste wet op AI-beheer invoeren, die naar verwachting in 2026 van kracht wordt.

De voordelen die AI voor de samenleving met zich meebrengt, zijn onmiskenbaar, maar er klinken steeds meer waarschuwingen over de potentiële risico's van deze nieuwe technologie. In juni steunde VN-secretaris-generaal Antonio Guterres een voorstel van verschillende AI-managers om een internationale AI-waakhond op te richten, vergelijkbaar met het Internationaal Atoomenergie Agentschap (IAEA).

Tijdens het Frontier Model Forum zei Brad Smith, president van Microsoft, dat het initiatief een belangrijke stap is om technologiebedrijven samen te brengen om verantwoord gebruik van AI te bevorderen ten behoeve van de hele mensheid. Anna Makanju, vicepresident Global Affairs bij OpenAI, zei eveneens dat geavanceerde AI-technologie de potentie heeft om de samenleving grote voordelen te bieden, en dat dit toezicht en governance vereist.

Bron