"Waarom is AI gevaarlijk?"

Dit is overigens niet de eerste keer dat wetenschappers waarschuwen voor het potentiële gevaar van kunstmatige intelligentie voor de mensheid. In 2014 stelde de gerenommeerde Britse theoretisch natuurkundige Stephen Hawking: "De volledige ontwikkeling van kunstmatige intelligentie zou de mensheid kunnen vernietigen." Hij voorspelde ook dat de mensheid binnen 500 jaar volledig zou worden vervangen door kunstmatige intelligentie als er niet voorzichtig te werk zou worden gegaan bij het onderzoek en de ontwikkeling van deze gevaarlijke technologie. Acht jaar geleden, in juli 2015, ondertekenden meer dan 1000 experts op het gebied van kunstmatige intelligentie, waaronder Stephen Hawking, Elon Musk, Noam Chomsky en anderen, een petitie waarin werd gewaarschuwd voor het risico van een wapenwedloop op het gebied van militaire AI en waarin werd opgeroepen tot een volledig verbod op autonome wapens (een combinatie van AI en dodelijke wapens). De lancering van de Chat GPT-applicatie door OpenAI in november 2022 luidde opnieuw de alarmbel met betrekking tot de inherente gevaren van kunstmatige intelligentie. Wat Chat GPT doet, laat namelijk zien dat AI tot op zekere hoogte veel gevaarlijker is geworden dan men aanvankelijk dacht.

De potentiële risico's van kunstmatige intelligentie hangen af van hoe deze wordt gebruikt. Aanvankelijk werd AI ontwikkeld om mensen te ondersteunen bij hun werk, met name bij saaie, repetitieve taken zoals beeldclassificatie en informatieanalyse. Door de snelle ontwikkeling van AI in de afgelopen tijd maken wetenschappers en technologie-experts zich echter zorgen dat kunstmatige intelligentie, indien ongecontroleerd ontwikkeld of geprogrammeerd voor verkeerde doeleinden, ernstige gevolgen kan hebben voor de mensheid en de samenleving.

Risico op onveiligheid

Kunstmatige intelligentie kan een bedreiging vormen voor de nationale veiligheid en persoonlijke veiligheid. Elon Musk heeft gewaarschuwd dat AI een angstaanjagend wapen in oorlogsvoering kan worden. Als een land een superieur systeem voor kunstmatige intelligentie kan ontwikkelen, zou het dit kunnen gebruiken om andere landen aan te vallen. Professor Stuart Russell, hoogleraar computerwetenschappen aan de Universiteit van Californië en al decennialang onderzoeker van kunstmatige intelligentie, waarschuwt voor de veiligheidsdreiging die AI vormt. Hij stelt dat we nu al autonome wapens kunnen produceren door bestaande technologieën te integreren en te miniaturiseren.

Het experiment, uitgevoerd door professor Stuart Russell en het Future Life Research Institute (FLI), maakte gebruik van een slachtrobot – een microscopisch klein vliegend apparaat uitgerust met camera's, sensoren, beeldverwerkingssoftware, gezichtsherkenning, een explosieve lading van 3 gram en een supersnelle microprocessor die data-analyse en reacties mogelijk maakt die 100 keer sneller zijn dan die van het menselijk brein. Volgens de geprogrammeerde parameters raadpleegt de slachtrobot continu cloudgegevens om informatie over zijn doelwit te zoeken en een manier te vinden om het te benaderen. Zodra het doelwit is gevonden, vliegt de robot er met hoge snelheid naartoe, brengt de explosieve lading van 3 gram tot ontploffing en dringt diep door in de schedel, waardoor het slachtoffer onmiddellijk sterft.

Dat was slechts een experiment met AI op het meest eenvoudige niveau. Als AI wordt gebruikt om nieuwe, geavanceerdere aanvalsmethoden te ontwikkelen, kan dat ook de aanvalsmogelijkheden van de aanvallers vergroten en tot ernstiger gevolgen leiden dan conventionele aanvallen. Wanneer AI zich zo ver ontwikkelt dat het zelfstandig beslissingen kan nemen om met veranderende omgevingen om te gaan, of zelfstandig naar alternatieve doelen kan zoeken, of zijn doelbereik kan uitbreiden, dan is de mensheid misschien niet langer veilig. Veel collega's in dit vakgebied zijn het eens met professor Stuart Russell en geloven dat er nog steeds een kans is om zo'n sombere toekomst te voorkomen, maar we hebben niet veel tijd meer.

Het risico is dat AI georganiseerd en autonoom wordt en het systeem gaat beheersen.

Kunstmatige intelligentie (AI) kan verkeerd ontworpen of onjuist "getraind" worden door middel van machine learning, wat kan leiden tot onbedoelde acties die schadelijk zijn voor mens en milieu. Met machine learning wordt AI bijvoorbeeld steeds intelligenter. Wanneer kunstmatige intelligentie een intelligentieniveau bereikt waarop het cruciale systemen zoals energie, transport, gezondheidszorg en financiën ondersteunt, kan het deze systemen volledig beheersen en controleren, zelfstandig beslissingen nemen en deze uitvoeren in noodsituaties. Wanneer AI echter "uitgerust" is met kwaadaardige bedoelingen (verkeerd ontworpen), kan dit ernstige gevolgen hebben, zoals het verstoren van verkeerssystemen door verkeerslichten uit te schakelen of de stroomtoevoer naar stedelijke spoorwegen af te sluiten, wat kettingbotsingen en wijdverspreide stroomuitval kan veroorzaken.

Veel Hollywood- en internationale films zijn gebaseerd op dit scenario. Met de huidige AI-technologie is dit echter geen vergezocht vooruitzicht meer, maar volledig mogelijk. Elon Musk is van mening dat als AI ongecontroleerd mag doorontwikkelen tot het punt waarop het beslissingen kan automatiseren zonder menselijke tussenkomst, dit een bedreiging kan vormen voor het voortbestaan van de mensheid. Daarom heeft hij, samen met duizenden technologie-experts, een brief ondertekend waarin wordt geëist dat de ontwikkeling van AI wordt stopgezet en dat er op een transparante manier strikte controle op komt te staan. Volgens Elon Musk zijn kunstmatige intelligentiesystemen complex, moeilijk te begrijpen en zeer lastig te controleren. Zonder transparantie is het gebruik van kunstmatige intelligentie voor onethische doeleinden, die de mensheid schade berokkenen, onvermijdelijk.

Risico op baanverlies, schending van privacyrechten.

Wanneer kunstmatige intelligentie (AI) wordt gebruikt om persoonlijke informatie te verzamelen, kan deze technologie worden ingezet om de privacy te schenden, desinformatiecampagnes te voeren en misinformatie te verspreiden die de maatschappelijke orde en politieke stabiliteit ondermijnt. De hack van het netwerk van het Amerikaanse Office of Personnel Management (OPM) is een grote zorg voor elk land of elke organisatie, omdat hierbij de gedetailleerde en zeer gevoelige persoonlijke gegevens van 21,5 miljoen actieve en gepensioneerde Amerikaanse ambtenaren in gevaar zijn gebracht, waaronder informatie over hun echtgenoten en gegevens over sollicitaties bij de overheid, zoals gezondheidstoestand, woonplaats, beroep, vingerafdrukken en financiële informatie. Een nog alarmerender feit kwam echter aan het licht toen de CIA ontdekte dat de daders van de OPM-datadiefstal kunstmatige intelligentie gebruikten om persoonlijke informatie te vervalsen en virtuele agenten te creëren om gegevens te stelen. Eenmaal gestolen, wordt de informatie geanalyseerd, gecategoriseerd en voor specifieke doeleinden gebruikt met behulp van big data-technologie. Kunstmatige intelligentie helpt de dieven om de tijd die nodig is om de gegevens te exploiteren te verkorten, omdat mensen niet in staat zijn om zo'n enorme hoeveelheid informatie in zo'n korte tijd te verwerken.

Naast de eerdergenoemde inherente gevaren brengt AI-technologie ook andere risico's met zich mee, zoals: overmatige afhankelijkheid ervan, wat leidt tot verlies van controle over situaties en een afname van het besluitvormingsvermogen. Kunstmatige intelligentie zal er ook toe leiden dat miljoenen, zelfs honderden miljoenen mensen hun baan verliezen, met name in puur handarbeidsberoepen met een laag kennisniveau. Het gevolg is dat ernstige maatschappelijke problemen zoals werkloosheid, criminaliteit en de kloof tussen rijk en arm nog groter zullen worden. Bovendien is betrouwbaarheid een cruciaal punt. De betrouwbaarheid van beslissingen in zeer gespecialiseerde sectoren zoals de gezondheidszorg en de strafrechtspraak is van groot belang. Wanneer AI wordt ingezet ter ondersteuning van besluitvorming in deze sectoren, en de technologie niet voldoende betrouwbaar is, gebaseerd is op data die een bepaalde groep mensen bevoordeelt, of opzettelijk wordt gemanipuleerd, kunnen die beslissingen ernstige gevolgen hebben.

Hoe kunnen we dit voorkomen?

De bovengenoemde risico's zijn de reden waarom Elon Musk en technologie-experts zich zorgen maken over de ongecontroleerde ontwikkeling van AI en brieven hebben geschreven waarin ze de Verenigde Naties en internationale organisaties oproepen om de ontwikkeling van AI strikt te controleren, de veiligheid en ethiek te waarborgen en de internationale samenwerking te versterken om ervoor te zorgen dat AI-technologie op een nuttige manier ten goede komt aan de mensheid en de samenleving. Enkele concrete maatregelen die genoemd kunnen worden, zijn:

- Controle van de systeembetrouwbaarheid: AI moet zodanig worden ontworpen en ontwikkeld dat de veiligheid en betrouwbaarheid ervan gewaarborgd zijn door middel van strenge, frequente en continue kwaliteitscontroles, monitoring en supervisie. Dit zorgt ervoor dat het AI-systeem werkt zoals door mensen bedoeld en voorkomt ongewenste gevolgen van onbetrouwbaarheid.

Kunstmatige intelligentie (AI) moet zo geprogrammeerd worden dat deze werkt volgens ethische waarden en maatschappelijke normen. Deze regels en normen moeten duidelijk worden vastgesteld en gecontroleerd om te garanderen dat ze geen schadelijke of nadelige gevolgen hebben voor mensen of organisaties. Het proces van analyse, evaluatie van de impact en monitoring van de prestaties van het AI-systeem moet ook regelmatig worden uitgevoerd om te waarborgen dat het ethisch opereert, de algemene waarden van de samenleving niet schendt of ondermijnt, geen negatieve gevolgen heeft en zorgt voor een accurate overdracht van kennis en waarden.

De journalistiek is een van de sectoren die het meest beïnvloed wordt door kunstmatige intelligentie. In de toekomst zullen er geen presentatoren meer nodig zijn voor radioprogramma's, en virtuele presentatoren zullen zelfs de boventoon voeren bij televisieprogramma's.

- De "training" van kunstmatige intelligentiesystemen tijdelijk stopzetten voor ten minste zes maanden om de hele kwestie opnieuw te beoordelen. Deze pauze moet openbaar en gecontroleerd zijn, en alle belangrijke betrokkenen bij de training moeten zich eraan houden. Indien nodig moeten overheden tijdelijke verboden instellen. Dit betekent geen volledige stopzetting van de AI-ontwikkeling, maar slechts een tijdelijke pauze in de gevaarlijke race om over te stappen op andere ontwikkelingsmodellen die AI-systemen nauwkeuriger, veiliger, begrijpelijker, transparanter, relevanter, betrouwbaarder en loyaler maken. Dit is een alomvattende oplossing die Elon Musk en zijn collega's in hun open brief bepleitten, maar de haalbaarheid ervan is gering. Het is erg moeilijk voor alle onafhankelijke laboratoria om te voldoen aan een dergelijk niet-bindend en grensoverschrijdend verzoek.

Het versterken van de samenwerking en het delen van informatie tussen landen en onafhankelijke AI-onderzoeksorganisaties is cruciaal om ervoor te zorgen dat AI in de toekomst veilig wordt ontwikkeld en gebruikt. Samenwerking en het delen van informatie maken ook tijdige waarschuwingen en preventie van eventuele risico's mogelijk.

Over het algemeen is AI alomtegenwoordig, en verhalen zoals kunstmatige intelligentie die poëzie, muziek en artikelen schrijft, zijn werkelijkheid geworden en geen sciencefiction meer. De auteur van dit artikel heeft AI-technologie op computers en telefoons gebruikt om het schrijfproces te ondersteunen, waardoor het soepeler en sneller verliep. Met name de inleiding (chapeau) en enkele ideeën werden door AI aangedragen, en nog opmerkelijker is dat alle afbeeldingen in dit artikel door AI zijn gemaakt. Kunstmatige intelligentie is zeer nuttig voor het verbeteren van de kwaliteit van werk en leven voor mensen, maar moet streng gecontroleerd worden om te voorkomen dat het uit de hand loopt en in de toekomst een potentiële vervanging voor mensen wordt, zoals voorspeld door de theoretisch natuurkundige Stephen Hawking.

Tekst en foto's: HUU DUONG

Bron