Oro för att artificiell intelligens kommer att skapa avancerade vapen som inte kontrolleras av människor

[annons_1]

Tjänstemän är alltmer oroade över missbruket av AI för att skapa biologiska vapen och behovet av reglering för att mildra detta. (Foto: Ignatiev)

Oro kring brottslingar eller terrorister som använder AI för att förstöra världen kommer att vara ett hett ämne vid ett globalt ledartoppmöte i Storbritannien i november. Brittiska tjänstemän reser runt om i världen för att försöka nå enighet om ett gemensamt uttalande som varnar för riskerna med att onda krafter utnyttjar ny teknik.

Vissa tjänstemän nära den brittiska premiärministern oroar sig för att tekniken någon gång kommer att vara tillräckligt kraftfull för att skapa biologiska vapen eller vapen som undgår mänsklig kontroll. Den växande oron kräver reglering för att minska riskerna. Medan teknikledare är överens om att pausa AI-utvecklingen, är de fastlåsta i en AI-kapprustning med rivaler.

Enligt The Guardian kommer toppmötet i november att diskutera riskerna med ”frontier AI”. Frontier AI är en term som används för att hänvisa till de mest avancerade AI-modellerna som kan äventyra människoliv.

Tidigare i veckan bekräftade den brittiska regeringen att konferensen skulle fokusera på risker som missbruk av AI för att skapa biologiska vapen, cyberattacker eller avancerade system utan mänsklig kontroll. I flera månader har Sunak varnat för riskerna med AI och uppmanat det internationella samfundet att införa "räls" för att förhindra missbruk av AI.

Förra året tog det bara sex timmar för en AI att föreslå 40 000 olika potentiellt dödliga molekyler, varav en liknade VX, det kraftfullaste nervgiftet som någonsin utvecklats.

I början av 2023 upptäckte forskare att ChatGPT kunde lura människor för att uppnå ett specifikt mål. AI-chatboten övertygade en människa att lösa en Captcha (ett verktyg som används för att upptäcka om en människa eller en bot manipulerar).

En annan stor oro är uppkomsten av "artificiell generell intelligens" (AGI), ett AI-system som kan utföra vilken uppgift som helst lika bra eller bättre än människor, vilket potentiellt skulle kunna vara ett hot mot mänskligheten. Vissa tror att AGI bara är några år bort. AI-experter bestrider dock detta och kallar okontrollerbar AGI för "science fiction".

Oavsett kommer premiärminister Sunak att vilja använda konferensen för att fokusera uppmärksamheten på de existentiella riskerna snarare än de omedelbara möjligheterna med AI, såsom att skapa falska bilder eller orsaka diskriminering om den används för att fatta beslut om offentlig politik.

Den brittiska regeringen kommer att spendera 100 miljoner pund på en ny AI-arbetsgrupp som ska hjälpa till att testa algoritmer som är under utveckling. Den vill uppmuntra globala företag att skicka tillbaka AI-verktyg till Storbritannien för utvärdering innan de används i stor utsträckning.

Endast regeringen kan säkerställa att de viktigaste nationella säkerhetsproblemen stillas, enligt den brittiske vice premiärministern Oliver Dowden.

En talesperson för den brittiska regeringen sa att AI har enorm potential att förändra alla aspekter av livet. AI-arbetsgruppen har inrättats för att säkerställa att tekniken utvecklas på ett säkert och ansvarsfullt sätt. AI-konferensen kommer att titta på en rad potentiella risker.

(Enligt The Guardian)

Användning av artificiell intelligens för att skydda upphovsrätten till digitalt innehåll I takt med den starka utvecklingen av digitalt innehåll blir upphovsrättsintrång också alltmer smärtsamt. Lösningar som integrerar artificiell intelligens (AI) kommer att bidra till att skydda upphovsrätten till digitalt innehåll på internet.

[annons_2]
Källa