Att hitta säkerhetsstandarder för artificiell intelligens

[annons_1]

SGGP 31 juli 2023 09:35

Efter att Europa började utarbeta och snart lanserade världens första lag om artificiell intelligens (AI), har de fyra ledande amerikanska internetdatautvinningsjättarna precis lanserat en grupp som heter Frontier Model Forum.

Huvudmålet med Frontier Model Forum är att främja AI på ett ansvarsfullt sätt. Foto: THINKWITHNICHE

Parterna kommer närmare varandra

Gruppen, som inkluderar Anthropic, Google, Microsoft och OpenAI, ägare till ChatGPT, sa att huvudmålen för Frontier Model Forum är att bidra till att minska riskerna med AI-plattformar och utveckla branschstandarder. Frontier Model Forum kommer att skapa ett nytt forum med följande huvudmål: Främja AI-säkerhetsforskning för att stödja utveckling, minska risker och standardisera säkerhetsbedömningar och nivåer; identifiera bästa praxis för modellutveckling och implementering; hjälpa allmänheten att förstå teknikens natur, kapacitet, begränsningar och effekter; och samarbeta med beslutsfattare, akademiker, civilsamhället och företag för att dela kunskap om risker och säkerhet.

Teknikjättar har traditionellt motsatt sig ökad reglering, men den här gången har teknikbranschen generellt sett ändrat sin hållning i den växande oron kring de risker som AI utgör. Företagen som deltar i Frontier Model Forum-initiativet har lovat att dela bästa praxis mellan företag och att göra informationen allmänt tillgänglig för regeringar och civilsamhället.

Frontier Model Forum kommer specifikt att fokusera på storskaliga, men fortfarande i sin linda, maskininlärningsplattformar som tar AI till nya nivåer av sofistikering – vilket också är en potentiell riskfaktor. Dessutom kommer Frontier Model Forum också att stödja utvecklingen av applikationer som tar itu med stora samhällsutmaningar såsom: begränsning av och anpassning till klimatförändringar, tidig upptäckt och förebyggande av cancer samt motverkande av cyberhot.

Utrymme för potentiell förstörelse

Tillkännagivandet av Frontier Model Forum från amerikanska företag kommer några dagar efter att amerikanska senatorer den 25 juli varnade för risken för att AI används för biologiska attacker vid en utfrågning inför en underkommitté till den amerikanska senatens justitieutskott. Nyligen har sju stora teknikföretag, inklusive OpenAI, Alphabet och Meta, frivilligt åtagit sig Vita huset att utveckla ett system för att identifiera allt innehåll från text, bilder, ljud till video som skapats av AI för att säkerställa transparens för användarna, i syfte att säkerställa att denna teknik är säkrare.

Dario Amodei, VD för AI Anthropic, noterade att även om AI ännu inte kan skapa biologiska vapen, är det en risk på "medellång sikt" och utgör ett allvarligt hot mot USA:s nationella säkerhet under de kommande två eller tre åren. Anledningen är att de som utför storskaliga attacker med biologiska vapen inte längre är begränsade till de med specialiserad kunskap i denna fråga.

Världen står inför en explosion av innehåll skapat av generativ AI-teknik. Från USA, Europa till Asien skärps kontrollerna gradvis. Enligt CNN kommer den amerikanska senaten med början i september att hålla en serie med nio ytterligare workshops för medlemmarna att lära sig om hur AI kan påverka jobb, nationell säkerhet och immateriella rättigheter. Innan USA, om en överenskommelse nås, kommer Europeiska unionen att ha världens första lag om AI-hantering nästa år, som förväntas träda i kraft från och med 2026.

De fördelar som AI medför för samhället är obestridliga, men det finns växande varningar om de potentiella riskerna med denna nya teknik. I juni stödde FN:s generalsekreterare António Guterres ett förslag från flera AI-chefer att inrätta en internationell AI-vakthund, liknande Internationella atomenergiorganet (IAEA).

Tillbaka på Frontier Model Forum sa Microsofts president Brad Smith att initiativet är ett viktigt steg i att föra samman teknikföretag för att främja ansvarsfull användning av AI till förmån för hela mänskligheten. På liknande sätt sa OpenAIs vice president för globala frågor, Anna Makanju, att avancerad AI-teknik har potential att ge stora fördelar för samhället, och att detta kräver tillsyn och styrning.

[annons_2]
Källa