Behandel AI als een biologisch wapen, niet als een atoombom!

Gizmodo.com, een website over informatietechnologie die gespecialiseerd is in het updaten van het laatste nieuws over wereldberoemde technologische trends, publiceerde onlangs een analyse over hoe mensen met kunstmatige intelligentie (AI)-technologie moeten omgaan.

Illustratie van een oproep om AI als een biologisch wapen te behandelen. (Bron: gizmodo.com)

In het artikel Behandel AI als een biologisch wapen, niet als een kernwapen van Emilia Javorsky, wetenschapper -arts en directeur van het Future of Life Institute (VS), betoogt de auteur dat ondanks het feit dat de wereld AI de laatste tijd herhaaldelijk met kernbommen heeft vergeleken, er een geschiktere aanpak is, namelijk om dit type technologie te reguleren als biologisch wapen of biotechnologie.

Volgens de auteur is AI misschien wel de krachtigste technologie in de menselijke geschiedenis die de mens vandaag de dag ontwikkelt. De schadelijke effecten van AI, waaronder discriminatie, bedreigingen voor de democratie en concentratie van invloed, zijn goed gedocumenteerd.

Toch zijn toonaangevende AI-bedrijven druk bezig met het bouwen van steeds krachtigere AI-systemen, waardoor de risico's in een ongekend tempo toenemen.

Terwijl leiders worstelen met de vraag hoe ze de opkomst van AI en de daarmee gepaard gaande risico's kunnen indammen en beheersen, moeten ze rekening houden met dezelfde regels en normen die de mensheid in het verleden heeft gebruikt om AI te creëren.

Aanpassing en innovatie kunnen samengaan, vooral als er mensenlevens op het spel staan.

Een waarschuwing van de nucleaire technologie

Hoewel kernenergie qua sterftecijfer ruim 600 keer veiliger is dan olie en enorm efficiënt is, zijn er maar weinig landen die kernenergie toepassen vanwege de gevolgen die de langdurige aanpak van kernenergie heeft opgeleverd.

De wereld maakte kennis met nucleaire technologie in de vorm van de atoombom en de waterstofbom. Met deze wapens ontwikkelde de mens voor het eerst in de geschiedenis een technologie die een einde kon maken aan de menselijke beschaving, het resultaat van een wapenwedloop die snelheid en innovatie belangrijker vond dan veiligheid en controle.

Latere tekortkomingen op het gebied van technische veiligheid en risicomanagement, die onder meer verantwoordelijk waren voor de kernrampen in Tsjernobyl en Fukushima, zorgden ervoor dat mensen de positieve aspecten van kernenergie niet meer konden accepteren.

Ondanks de over het algemeen positieve risicobeoordeling van kernenergie en de decennialange inspanningen van wetenschappers om de wereld te overtuigen van de levensvatbaarheid ervan, blijft het concept 'kernenergie' zelf... besmet.

Wanneer een technologie in een vroeg stadium schade aanricht, kunnen maatschappelijk bewustzijn en overreactie de potentiële voordelen ervan permanent beperken. Door vroege misstappen met kernenergie heeft de mensheid niet kunnen profiteren van de schone, veilige energiebron, en blijven koolstofneutraliteit en energiestabiliteit een utopie.

De juiste aanpak van biotechnologie

Toch hebben mensen het op sommige gebieden goed gedaan. Biotechnologie is zo'n vakgebied, dat zich snel ontwikkelt in een context waarin veel patiënten lijden en dagelijks sterven aan ziekten waarvoor geen genezing bestaat.

De kern van dit onderzoek is niet 'snel handelen en dingen kapotmaken', maar zo snel en veilig mogelijk innoveren. Mensen beperken het tempo van innovatie op dit gebied door een systeem van regelgeving, ethiek en normen dat het welzijn van de samenleving en individuen beschermt en de industrie beschermt tegen verlamming door negatieve reacties die tot een ramp kunnen leiden.

Toen biologische wapens tijdens de Koude Oorlog werden verboden door de Biologische Wapenconventie, waren de vijandige grootmachten het erover eens dat de ontwikkeling van dergelijke wapens in niemands belang was. Leiders zagen in dat deze moeilijk te controleren maar zeer toegankelijke technologieën niet moesten worden gezien als een mechanisme om de wapenwedloop te winnen, maar als een bedreiging voor de mensheid zelf.

Emilia Javorsky is een van de wetenschappers die onlangs een open brief ondertekenden waarin ze pleitten voor een moratorium van zes maanden op de ontwikkeling van AI. Ze ondertekende ook een verklaring waarin ze waarschuwde dat AI een "risico op uitsterven" vormt voor de mensheid.

De pauze in de race om biologische wapens geeft mensen de mogelijkheid om deze in een verantwoord tempo te ontwikkelen, waarbij wetenschappers en regelgevers strenge normen hanteren voor elke nieuwe innovatie die potentieel schadelijk kan zijn voor de mens.

Deze aanpassingen gingen niet zonder kosten, maar hebben ook geleid tot een bio-economie met veel toepassingen in uiteenlopende sectoren, variërend van schone energie tot landbouw.

Tijdens de Covid-19-pandemie hebben biologen mRNA-technologie toegepast om effectieve vaccins te produceren met een snelheid die ongekend is in de menselijke geschiedenis.

Uit een recent onderzoek onder AI-onderzoekers bleek dat 36% van de respondenten van mening was dat AI een nucleaire ramp zou kunnen veroorzaken. De overheidsreacties en regelgeving zijn echter traag, wat niet strookt met het tempo van de technologische adoptie. De ChatGPT-app heeft nu meer dan 100 miljoen gebruikers.

De snel toenemende risico's van AI hebben ertoe geleid dat 1800 CEO's en 1500 professoren in de VS onlangs een brief hebben ondertekend waarin wordt opgeroepen tot een pauze van zes maanden in de ontwikkeling van AI en een dringend proces van regulering en risicobeperking. Deze pauze zou de wereldwijde gemeenschap de tijd geven om de schade die AI veroorzaakt te beperken en het risico op een onomkeerbare ramp voor onze samenleving te voorkomen.

Bij het beoordelen van de risico's en potentiële gevaren van AI moeten we ook overwegen hoe we het positieve potentieel van deze technologie niet uit het oog kunnen verliezen. Als we AI nu verantwoord ontwikkelen, zullen we er ongelooflijke voordelen uit kunnen halen. Denk bijvoorbeeld aan de voordelen van het toepassen van AI op de ontdekking en ontwikkeling van geneesmiddelen, het verbeteren van de kwaliteit en kosten van de gezondheidszorg, en het vergroten van de toegang tot artsen en medische behandelingen.

Google's DeepMind heeft aangetoond dat AI de potentie heeft om fundamentele problemen in de biologie op te lossen die de mens lang heeft vermeden. Volgens de studie zou AI de verwezenlijking van alle Duurzame Ontwikkelingsdoelen van de Verenigde Naties kunnen versnellen en de mensheid op weg kunnen helpen naar een toekomst met betere gezondheid, gelijkheid, welvaart en vrede.

Het is tijd dat de wereldgemeenschap samenkomt, zoals 50 jaar geleden tijdens de Biologische Wapenconventie, om ervoor te zorgen dat de ontwikkeling van AI veilig en verantwoord is. Als we niet snel actie ondernemen, riskeren we de rooskleurige toekomst van AI en onze huidige samenleving te vernietigen.

Bron: https://baoquocte.vn/chuyen-gia-my-hay-doi-xu-voi-ai-nhu-vu-khi-sinh-hoc-khong-phai-bom-hat-nhan-230623.html