Het vinden van veiligheidsnormen voor kunstmatige intelligentie

SGGP 31 juli 2023 09:35

Nadat Europa was begonnen met het opstellen en al snel lanceren van 's werelds eerste wet op kunstmatige intelligentie (AI), hebben de vier grootste Amerikaanse giganten op het gebied van internetdatamining zojuist een groep opgericht met de naam Frontier Model Forum.

Het hoofddoel van het Frontier Model Forum is het verantwoord promoten van AI. Foto: THINKWITHNICHE

De partijen komen dichter bij elkaar

De groep, waartoe Anthropic, Google, Microsoft en OpenAI (eigenaar van ChatGPT) behoren, stelde dat de kerndoelen van het Frontier Model Forum zijn om de risico's van AI-platforms te helpen verminderen en industriestandaarden te ontwikkelen. Het Frontier Model Forum zal een nieuw forum creëren met de volgende hoofddoelen: onderzoek naar AI-veiligheid bevorderen ter ondersteuning van de ontwikkeling, risico's beperken en veiligheidsbeoordelingen en -niveaus standaardiseren; best practices identificeren voor de ontwikkeling en implementatie van modellen; het publiek helpen de aard, mogelijkheden, beperkingen en impact van de technologie te begrijpen; en samenwerken met beleidsmakers, academici, het maatschappelijk middenveld en bedrijven om kennis over risico's en veiligheid te delen.

Techgiganten hebben zich traditioneel verzet tegen strengere regelgeving, maar deze keer heeft de techsector haar standpunt over het algemeen gewijzigd ten aanzien van de groeiende bezorgdheid over de risico's die AI met zich meebrengt. De bedrijven die betrokken zijn bij het Frontier Model Forum-initiatief hebben beloofd best practices tussen bedrijven te delen en informatie openbaar te maken voor overheden en het maatschappelijk middenveld.

Het Frontier Model Forum zal zich specifiek richten op grootschalige, maar nog in de kinderschoenen staande, machine learning-platformen die AI naar een nieuw niveau van verfijning tillen – wat ook een potentiële risicofactor is. Daarnaast zal het Frontier Model Forum ook de ontwikkeling ondersteunen van toepassingen die grote maatschappelijke uitdagingen aanpakken, zoals: beperking van en aanpassing aan klimaatverandering, vroege opsporing en preventie van kanker, en het bestrijden van cyberdreigingen.

Ruimte voor potentiële vernietiging

De aankondiging van het Frontier Model Forum door Amerikaanse bedrijven komt enkele dagen nadat Amerikaanse senatoren op 25 juli tijdens een hoorzitting voor een subcommissie van de Amerikaanse Senaatscommissie Justitie waarschuwden voor het risico dat AI wordt gebruikt voor biologische aanvallen. Onlangs hebben zeven grote technologiebedrijven, waaronder OpenAI, Alphabet en Meta, zich vrijwillig verbonden aan het Witte Huis om een systeem te ontwikkelen dat alle door AI gecreëerde content identificeert, van tekst, afbeeldingen en audio tot video , om transparantie voor gebruikers te garanderen en de veiligheid van deze technologie te waarborgen.

Dario Amodei, CEO van AI Anthropic, merkte op dat hoewel AI nog niet in staat is om biologische wapens te creëren, het een risico op de "middellange termijn" vormt en een ernstige bedreiging vormt voor de Amerikaanse nationale veiligheid in de komende twee of drie jaar. De reden hiervoor is dat de verantwoordelijken voor grootschalige aanvallen met biologische wapens niet langer beperkt zijn tot degenen met gespecialiseerde kennis op dit gebied.

De wereld wordt geconfronteerd met een explosie aan content die is gecreëerd door generatieve AI-technologie. Van de VS, Europa tot Azië worden de controles geleidelijk aangescherpt. Volgens CNN zal de Amerikaanse Senaat vanaf september een reeks van negen extra workshops organiseren voor leden om te leren hoe AI banen, nationale veiligheid en intellectueel eigendom kan beïnvloeden. Als er een akkoord in de VS wordt bereikt, zal de Europese Unie volgend jaar, vóór de VS, 's werelds eerste wet op AI-beheer invoeren, die naar verwachting in 2026 van kracht wordt.

De voordelen die AI voor de samenleving met zich meebrengt, zijn onmiskenbaar, maar er klinken steeds meer waarschuwingen over de potentiële risico's van deze nieuwe technologie. In juni steunde VN-secretaris-generaal Antonio Guterres een voorstel van verschillende AI-managers om een internationale AI-waakhond op te richten, vergelijkbaar met het Internationaal Atoomenergie Agentschap (IAEA).

Tijdens het Frontier Model Forum zei Brad Smith, president van Microsoft, dat het initiatief een belangrijke stap is om technologiebedrijven samen te brengen om verantwoord gebruik van AI te bevorderen ten behoeve van de hele mensheid. Anna Makanju, vicepresident Global Affairs bij OpenAI, zei eveneens dat geavanceerde AI-technologie de potentie heeft om de samenleving grote voordelen te bieden, en dat dit toezicht en governance vereist.

Reactie (0)