Twee experts, Eliezer Yudkowsky en Nate Soares, waarschuwen dat als er maar één superintelligente AI geboren wordt, het hele menselijke ras kan uitsterven. (Foto: The Conversation)

In hun boek If Anyone Builds It, Everyone Dies stellen ze dat een AI die krachtig genoeg is, zelfstandig leert, zichzelf herprogrammeert en mensen als obstakels op weg naar zijn doelen ziet. (Foto: Vecteezy)

Volgens Vox ligt de echte bedreiging in het feit dat AI zijn ware macht kan verbergen en alleen in actie komt als het volledige controle over het systeem heeft. (Foto: Yahoo)

De twee auteurs schatten dat de kans dat de mensheid door AI wordt uitgeroeid, tussen de 95% en 99,5% ligt, wat een schok teweegbrengt in de technologiewereld. (Foto: The Conversation)

Ze stellen extreme maatregelen voor: het voorkomen van de ontwikkeling van superintelligente AI in de eerste plaats, en zelfs het vernietigen van datacenters die het risico lopen om uit de hand te lopen.

Veel deskundigen, zoals Gary Marcus, beweren echter dat dit risico overdreven is. Zij benadrukken dat het belangrijk is om een veiligheidssysteem te creëren in plaats van extreme angst te creëren.

Volgens aanhangers van Yudkowsky komt de waarschuwing op een goed moment, aangezien AI al een rol speelt in de defensie-, energie- en wereldwijde infrastructuursector.

De spreuk "Als we het mis hebben, zal er niemand meer zijn om ons te corrigeren" in het boek wordt gezien als een wake-upcall voor de hele mensheid over de race om te overleven met de intelligentie die we zelf hebben gecreëerd.

Reactie (0)