Ny AI skulle kunna användas för att skapa biologiska vapen.

Telefonen visar gränssnittet för att lära sig om OpenAI:s GPT-o1 - Foto: FINANCIAL TIMES

Enligt Financial Times den 13 september medgav OpenAI att deras GPT-o1-modell, som lanserades den 12 september, "avsevärt" ökar risken för att artificiell intelligens (AI) utnyttjas för att skapa biologiska vapen.

OpenAIs dokumentation som förklarar hur GPT-o1 fungerar bekräftar att den nya modellen har en "medelhög risknivå" gällande frågor relaterade till kemiska, biologiska, radiologiska och kärnvapen. Detta är den högsta risknivån som OpenAI någonsin har tilldelat sina AI-modeller.

Enligt OpenAI innebär detta att GPT-o1 skulle kunna "avsevärt förbättra" experters förmåga att tillverka biologiska vapen för missbruk.

Mira Murati, teknisk chef (CTO) på OpenAI, sa att även om GPT-o1 fortfarande är i testfasen, kräver modellens avancerade funktioner att företaget är extremt "försiktigt" med sin färdplan för att lansera den till allmänheten.

Fru Murati hävdade också att modellen hade testats noggrant av ett tvärvetenskapligt team av experter. Dessa individer anlitades av OpenAI för att undersöka begränsningarna hos den modell som företaget utvecklat.

Testprocessen visade att GPT-o1-modellen uppfyllde de allmänna säkerhetskriterierna mycket bättre än sina föregångare, delade Murati.

Dessutom försäkrade representanter för OpenAI att testversionen av GPT-o1 är "säker för driftsättning" och inte kan skapa risker som är mer komplexa än de som redan utvecklats.

Trots dessa försäkringar är en stor del av forskarsamhället och AI-entusiaster fortfarande i stort sett pessimistiska om framtiden för denna teknik.

Oron för att AI utvecklas för snabbt och överträffar den hastighet med vilken regleringar som styr den utvecklas och godkänns växer.

Professor Yoshua Bengio, datavetenskapsspecialist vid University of Montreal och en av världens ledande AI-forskare, sa att om OpenAI för närvarande utgör en "medelhög risk" för kemiska och biologiska vapen, så "förstärker detta bara vikten och brådskandet" av regleringar, såsom det hett debatterade lagförslaget i Kalifornien, för att styra detta område.

Denna forskare betonade att dessa institutioner är särskilt nödvändiga i samband med att AI i allt högre grad närmar sig nivån av universell artificiell intelligens (AGI), vilket är förmågan att resonera i nivå med människor.

"Ju närmare banbrytande AI-modeller kommer AGI, desto större blir riskerna om lämpliga försiktighetsåtgärder inte vidtas. Förbättringen av AI:s resonemangsförmåga och dess potentiella användning för bedrägerier är extremt farlig", bedömde Bengio.

Källa: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm