Nieuwe AI zou gebruikt kunnen worden om biologische wapens te ontwikkelen.

De telefoon toont de interface voor het leren over OpenAI's GPT-o1 - Foto: FINANCIAL TIMES

Volgens de Financial Times van 13 september heeft OpenAI toegegeven dat het GPT-o1-model, dat op 12 september werd gelanceerd, het risico dat kunstmatige intelligentie (AI) wordt misbruikt voor de ontwikkeling van biologische wapens "aanzienlijk" verhoogt.

De documentatie van OpenAI over de werking van GPT-o1 bevestigt dat het nieuwe model een "gemiddeld risiconiveau" heeft met betrekking tot kwesties die verband houden met chemische, biologische, radiologische en nucleaire wapens. Dit is het hoogste risiconiveau dat OpenAI ooit aan zijn AI-modellen heeft toegekend.

Volgens OpenAI betekent dit dat GPT-o1 het vermogen van experts om biologische wapens te produceren voor misbruik "aanzienlijk zou kunnen verbeteren".

Mira Murati, Chief Technology Officer (CTO) van OpenAI, zei dat hoewel GPT-o1 zich nog in de testfase bevindt, de geavanceerde mogelijkheden van dit model vereisen dat het bedrijf uiterst "voorzichtig" te werk gaat bij de planning voor de publieke introductie ervan.

Mevrouw Murati benadrukte tevens dat het model grondig was getest door een multidisciplinair team van experts. Deze experts waren door OpenAI ingehuurd om de beperkingen van het door het bedrijf ontwikkelde model te onderzoeken.

Uit de tests bleek dat het GPT-o1-model veel beter aan de algemene veiligheidscriteria voldeed dan zijn voorgangers, aldus Murati.

Verder verzekerden vertegenwoordigers van OpenAI dat de proefversie van GPT-o1 "veilig is voor implementatie" en geen complexere risico's met zich meebrengt dan de reeds ontwikkelde technologieën.

Ondanks deze geruststellingen blijft een groot deel van de wetenschappelijke gemeenschap en AI-enthousiasten overwegend pessimistisch over de toekomst van deze technologie.

De bezorgdheid groeit dat AI zich te snel ontwikkelt en de snelheid waarmee de regelgeving ervoor wordt ontwikkeld en goedgekeurd, overtreft.

Professor Yoshua Bengio, computerwetenschapper aan de Universiteit van Montreal en een van 's werelds meest vooraanstaande AI-wetenschappers, zei dat als OpenAI momenteel een "middelmatig risico" vormt voor chemische en biologische wapens, dit "alleen maar het belang en de urgentie" van regelgeving, zoals het fel omstreden wetsvoorstel in Californië, om dit vakgebied te reguleren, onderstreept.

Deze wetenschapper benadrukte dat deze instellingen met name noodzakelijk zijn in de context van AI die steeds meer het niveau van universele kunstmatige intelligentie (AGI) nadert, oftewel het vermogen om op hetzelfde niveau als mensen te redeneren.

"Hoe dichter baanbrekende AI-modellen bij algemene kunstmatige intelligentie (AGI) komen, hoe groter de risico's worden als er geen passende voorzorgsmaatregelen worden genomen. De verbetering van het redeneervermogen van AI en het potentiële gebruik ervan voor fraude is extreem gevaarlijk," aldus Bengio.

Bron: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm