In een interview met The Guardian verklaarde de auteur van het boek "Sapiens: Een korte geschiedenis van de mensheid" dat de problemen die AI-modellen met zich meebrengen, in tegenstelling tot kernwapens, niet beperkt zijn tot één enkel grootschalig scenario.
Met AI zijn er talloze gevaarlijke scenario's denkbaar, die elk met een zekere kans op combinatie een reële bedreiging voor de menselijke beschaving kunnen vormen.
De heer Harari merkte op dat de multilaterale verklaring tijdens de Global AI Safety Summit in Bletchley Park, Engeland, een "zeer belangrijke stap voorwaarts" was, omdat vooraanstaande regeringen gezamenlijk hun bezorgdheid over deze technologie hadden geuit en actie hadden ondernomen.
"Zonder wereldwijde samenwerking zal het buitengewoon moeilijk, zo niet onmogelijk, zijn om het gevaarlijkste potentieel van AI in te dammen," zei hij.
De topconferentie werd afgesloten met een overeenkomst tussen 10 regeringen en grote AI-bedrijven, waaronder ChatGPT-ontwikkelaar OpenAI en Google, om samen te werken aan het testen van geavanceerde AI-modellen vóór en na hun lancering.
Auteur Sapiens betoogt dat een van de problemen bij het testen van de veiligheid van modellen is dat men moet anticiperen op alle problemen die ze zouden kunnen veroorzaken.
AI verschilt van alle voorgaande technologieën in de menselijke geschiedenis omdat het de eerste technologie is die zelfstandig beslissingen kan nemen, nieuwe ideeën kan genereren en zichzelf kan leren en ontwikkelen.
Per definitie vinden mensen – zelfs de "vader" van AI – het ongelooflijk moeilijk om alle potentiële gevaren en problemen te voorspellen.
Overheden hebben hun bezorgdheid geuit over de dreiging die AI-systemen vormen bij de ontwikkeling van biologische wapens, maar er kunnen ook andere scenario's worden overwogen.
De heer Harari wees erop dat de financiële sector een ideaal terrein is voor AI-systemen, omdat het juist de combinatie van data en AI is die tot ernstige crises kan leiden.
"Wat zou er gebeuren als AI niet alleen meer controle over het financiële systeem van de wereld zou krijgen, maar ook nieuwe financiële instrumenten zou gaan ontwikkelen die alleen AI kan begrijpen en mensen niet?", vroeg Harari.
De historicus voegde eraan toe dat de financiële crisis van 2007-2008 werd veroorzaakt door schuldinstrumenten zoals hypotheekobligaties (CDO's) die weinig mensen begrepen en daarom niet adequaat gereguleerd waren.
"AI heeft de potentie om financiële instrumenten te creëren die complexer zijn dan CDO's. Stel je eens voor dat we een financieel systeem hebben dat geen mens kan begrijpen en dus ook niet kan reguleren," zei hij. "En dan is er een financiële crisis waarbij niemand begrijpt wat er aan de hand is."
Vorige maand uitte de Britse regering haar bezorgdheid over een geavanceerd AI-model dat een existentiële bedreiging zou kunnen vormen door financiële systemen te controleren en te manipuleren.
Harari is echter van mening dat een financiële crisis veroorzaakt door AI de menselijke beschaving niet zou vernietigen, "althans niet direct."
Hij voegde eraan toe: "Het zou indirect tot een soort oorlog of conflict kunnen leiden. Dat is een catastrofaal risico – economisch, sociaal en politiek ."
De Israëlische auteur, die pleit voor een pauze van zes maanden in de ontwikkeling van geavanceerde AI en voor het verantwoordelijk houden van AI-bedrijven voor de schade die hun producten veroorzaken, zei dat de focus niet moet liggen op specifieke regelgeving en wetten, maar eerder op technologisch onderlegde regelgevende instanties die snel kunnen reageren wanneer er nieuwe doorbraken plaatsvinden.
"We moeten zo snel mogelijk sterke bestuursstructuren creëren die in staat zijn om gevaren te signaleren en erop te reageren zodra ze zich voordoen, vanuit het besef dat we niet alle gevaren en problemen kunnen voorzien."
Hij zei: "Dit zou de voornaamste prioriteit moeten zijn, en niet het opstellen van zeer lange en complexe regelgeving die mogelijk al verouderd is tegen de tijd dat het parlement deze heeft aangenomen."
Volgens Harari zouden onderzoeksinstituten op het gebied van AI-veiligheid experts moeten inhuren die de potentiële impact van AI op de financiële wereld begrijpen.
Vorige maand kondigde de Britse premier Rishi Sunak de oprichting aan van een Brits instituut voor AI-veiligheid. Een paar dagen later maakte het Witte Huis plannen bekend om een soortgelijk instituut op te richten. Beide zullen naar verwachting een belangrijke rol spelen bij het testen van geavanceerde AI-modellen.
Tijdens de top zei Sunak dat het Verenigd Koninkrijk de mogelijkheden van geavanceerde AI-modellen moet begrijpen voordat er wetgeving wordt aangenomen om hiermee om te gaan.
(Volgens The Guardian)
GraphCast maakt gebruik van AI om 's werelds meest accurate 10-daagse weersvoorspelling te leveren.
Het DeepMind-lab van Google in het Verenigd Koninkrijk heeft GraphCast ontwikkeld, een systeem voor kunstmatige intelligentie (AI) dat in staat is om 's werelds meest accurate 10-daagse weersvoorspelling te leveren.
De synergetische kracht van AI en cloudcomputing
De combinatie van kunstmatige intelligentie (AI) en cloudcomputing is een onstuitbare trend die wereldwijde industrieën hervormt.
Bron
![[Foto] Twee vliegtuigen zijn succesvol geland en opgestegen op de luchthaven van Long Thanh.](/_next/image?url=https%3A%2F%2Fvphoto.vietnam.vn%2Fthumb%2F1200x675%2Fvietnam%2Fresource%2FIMAGE%2F2025%2F12%2F15%2F1765808718882_ndo_br_img-8897-resize-5807-jpg.webp&w=3840&q=75)
Reactie (0)