Ny kunstig intelligens kan brukes til å lage biologiske våpen.

Telefonen viser grensesnittet for å lære om OpenAIs GPT-o1 - Foto: FINANCIAL TIMES

Ifølge Financial Times 13. september innrømmet OpenAI at GPT-o1-modellen, lansert 12. september, «betydelig» øker risikoen for at kunstig intelligens (KI) utnyttes til å lage biologiske våpen.

OpenAIs dokumentasjon som forklarer hvordan GPT-o1 fungerer, bekrefter at den nye modellen har et «middels risikonivå» når det gjelder problemer knyttet til kjemiske, biologiske, radiologiske og atomvåpen. Dette er det høyeste risikonivået OpenAI noen gang har tildelt sine AI-modeller.

Ifølge OpenAI betyr dette at GPT-o1 kan «betydelig forbedre» ekspertenes evne til å produsere biologiske våpen for misbruk.

Mira Murati, teknologidirektør (CTO) i OpenAI, sa at selv om GPT-o1 fortsatt er i testfasen, krever de avanserte funksjonene til denne modellen at selskapet er ekstremt «forsiktig» med planen for å bringe den til offentligheten.

Fru Murati hevdet også at modellen hadde blitt grundig testet av et tverrfaglig team av eksperter. Disse personene ble ansatt av OpenAI for å undersøke begrensningene til modellen som selskapet hadde utviklet.

Testprosessen viste at GPT-o1-modellen oppfylte de generelle sikkerhetskriteriene mye bedre enn forgjengerne, delte Murati.

Videre forsikret OpenAI-representanter om at prøveversjonen av GPT-o1 er «trygg for distribusjon» og ikke kan skape mer komplekse risikoer enn de allerede utviklede teknologiene.

Til tross for disse forsikringene er en stor del av det vitenskapelige samfunnet og AI-entusiaster fortsatt stort sett pessimistiske med tanke på fremtiden til denne teknologien.

Bekymringene for at AI utvikler seg for raskt og overgår hastigheten som regelverk som regulerer den utvikles og godkjennes med, øker.

Professor Yoshua Bengio, en informatikkspesialist ved Universitetet i Montreal og en av verdens ledende AI-forskere, sa at hvis OpenAI for tiden utgjør en «middels risiko» for kjemiske og biologiske våpen, så «forsterker dette bare viktigheten og hastverket» av reguleringer, som det hett debatterte lovforslaget i California, for å regulere dette feltet.

Denne forskeren understreket at disse institusjonene er spesielt nødvendige i sammenheng med at AI i økende grad nærmer seg nivået av universell kunstig intelligens (AGI), som er evnen til å resonnere på linje med mennesker.

«Jo nærmere banebrytende AI-modeller kommer AGI, desto større blir risikoen hvis det ikke tas riktige forholdsregler. Forbedringen i AIs resonneringsevner og dens potensielle bruk til svindel er ekstremt farlig», vurderte Bengio.

Kilde: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm