Kunstmatige intelligentie: we moeten de veiligheid vergroten in plaats van ons alleen te richten op het ontwikkelen van sterkere systemen.

Het panelgesprek “AI voor de mensheid: AI-ethiek en veiligheid in het nieuwe tijdperk”, in het kader van VinFuture 2025 Science and Technology Week, brengt wetenschappers , politici en uitvinders samen om te praten over verantwoordelijke AI-ontwikkeling, in de richting van humanistische waarden.

Denk er dringend over na hoe je met AI kunt leven - een entiteit die slimmer is dan jijzelf

Professor Toby Walsh van de University of New South Wales, Australië en academicus van de American Computer Association, deelde tijdens het seminar het volgende: "Ik ben er vast van overtuigd dat verantwoord gebruik van AI verplicht zou moeten zijn. Er zijn tegenwoordig veel perverse prikkels, en dankzij AI wordt er enorm veel geld verdiend. De enige manier om correct gedrag te garanderen, is door strenge regelgeving toe te passen, zodat publieke belangen altijd in evenwicht zijn met commerciële belangen."

Hij noemde een typisch voorbeeld van belangrijke beslissingen, zoals de rechtspraak en veroordeling in de Verenigde Staten, waar een AI-systeem werd gebruikt om aanbevelingen te doen over iemands gevangenisstraf en de kans op recidive. Helaas was dit systeem getraind op historische gegevens en weerspiegelde het onbedoeld raciale vooroordelen uit het verleden, wat leidde tot discriminatie van zwarte mensen.

Professor Toby Walsh, Universiteit van New South Wales, Australië, Fellow van de American Computer Society.

Bedrijven die AI-systemen inzetten en gebruiken, moeten daarom verantwoordelijk worden gehouden voor de gevolgen die deze ‘machines’ veroorzaken.

Professor Geoffrey Hinton, winnaar van de VF-hoofdprijs 2024, maakt zich zorgen dat AI steeds beter wordt in het ontwerpen van gevaarlijke virussen, cyberaanvallen en het maken van nepvideo 's om verkiezingen te verstoren. In de komende 20 jaar zal AI slimmer worden dan wij en we zullen niet weten hoe we kunnen voorkomen dat het de controle overneemt van de mens.

Daarom benadrukte deze professor: "We moeten dringend nadenken over hoe we kunnen leven met wezens die slimmer zijn dan wijzelf. Dit is een situatie die de mensheid nog nooit eerder heeft meegemaakt, het is nieuw en we moeten veel onderzoek doen voordat het zover komt."

Er is behoefte aan meer internationale samenwerking om AI-risico's te beperken

Professor Yoshua Bengio, winnaar van de VinFuture 2024-hoofdprijs, deelde deze bezorgdheid en zei dat AI-modellen, hun mogelijkheden en de mate van autonomie zich nog steeds in een snel en gestaag tempo ontwikkelen. Als deze trend zich voortzet, zouden autonome AI-systemen mensen binnen slechts 5 tot 10 jaar bij de meeste cognitieve taken kunnen overtreffen.

Dit zou een historisch keerpunt zijn dat onze levenskwaliteit drastisch zou kunnen verbeteren. Maar als er niet voorzichtig mee wordt omgegaan, kan het ook enorme risico's opleveren voor de democratie, de geopolitieke stabiliteit en zelfs de toekomst van de mensheid.

"We moeten de veiligheid van geavanceerde AI verbeteren in plaats van ons alleen te richten op het versterken ervan. Veiligheid en vertrouwen zijn geen secundaire factoren, maar essentieel in het ontwikkelingsproces ten behoeve van de mensheid. We moeten samenwerken, zowel op beleidsmatig als op wetenschappelijk niveau", zei hij.

Professor Yoshua Bengio - Winnaar van de hoofdprijs van VinFuture 2024.

Deze wetenschapper beveelt aan dat de wereld, vanuit beleidsoogpunt, internationale samenwerking nodig heeft. Vanuit wetenschappelijk oogpunt is het noodzakelijk om beter te begrijpen hoe we AI kunnen ontwerpen die zowel superieur is in mogelijkheden als onschadelijk voor mensen, hoe we AI zo kunnen controleren dat deze zich veilig gedraagt, zelfs wanneer mensen ons vragen iets verkeerd te doen, en hoe we technische en sociale barrières kunnen opwerpen om ervoor te zorgen dat AI consistent is met menselijke normen, intenties, waarden en belangen.

Dr. Vinton Grey Cert (vice-president en directeur Internet Evangelism bij Google - winnaar van de VF 2022 hoofdprijs) is het daarmee eens: we moeten AI ter verantwoording roepen en een keten van toezicht instellen om te weten wat ze doen en wanneer, vooral wanneer er iets misgaat. Veel van de principes die voor mensen gelden, gelden ook voor AI-agenten in de online omgeving.

"We moeten tegelijkertijd nieuwe normen vaststellen, waarbij het gebruik van sterke identificatie, cryptografie om informatie te beveiligen, mechanismen om verantwoording af te leggen en identiteiten te beschermen tegen diefstal door anderen, een vaste gewoonte wordt. We moeten technologie vanaf het begin gebruiken om risico's te beperken en duidelijk maken dat iedereen die schadelijk wordt bevonden voor de gemeenschap en de samenleving, de gevolgen van dat gedrag moet dragen. Dit vereist internationale samenwerking", aldus hij.

Vietnam moet zijn eigen weg gaan in het ontwikkelen van AI-data.

Universitair hoofddocent Luu Anh Tuan van de Nanyang Technological University (Singapore) en de VinUni University (Vietnam) zei dat andere landen datasets van ongeveer tien jaar hebben, maar Vietnam begint helemaal vanaf nul. Daarom kunnen we vanaf het begin duurzame data opbouwen en vanaf het begin schone, ethische en cultureel passende data leveren.

De grootste uitdaging voor Vietnam is echter de specificiteit van de Vietnamese taal. We hebben een divers dialectsysteem, een rijke regionale cultuur en extreem complexe aanspreekvormen. Grote modellen zoals ChatGPT of Gemini ondersteunen Vietnamees, maar de kwaliteit is niet diepgaand omdat ze het Vietnamese dialect, de Vietnamese gebruiken of de Vietnamese geschiedenis niet begrijpen.

Vietnam moet zijn eigen Vietnamese model ontwikkelen. Daarnaast moeten we een open-sourcemodel ontwikkelen, zodat kleine bedrijven het kunnen gebruiken en eraan kunnen bijdragen. "Als we alleen vertrouwen op buitenlandse modellen in de vorm van 'black boxes', zullen we alleen AI-gebruikers zijn en geen AI-ontwikkelaars," zei hij.

Universitair hoofddocent Luu Anh Tuan en zijn collega's zijn momenteel bezig met het ontwikkelen van Vietnamese AI-data. Factoren zoals dialect, geschiedenis en cultuur moeten hierbij centraal staan.

Hij zei ook dat studenten in het buitenland al heel vroeg over AI worden voorgelicht. Vietnam is hier nog maar net mee begonnen, maar we kunnen het proces versnellen door te leren en ons daarop aan te passen.

"Jonge Vietnamezen zijn erg dynamisch; ze moeten gewoon volledig worden voorgelicht over digitale verantwoordelijkheid. We zouden een verenigd orgaan moeten hebben dat de datakwaliteit en ethische normen bevestigt en standaardiseert. VinUni neemt ook deel aan de raad om een systeem van ethische normen op te bouwen en zal blijven bijdragen aan dit proces", zei hij.

Universitair hoofddocent Luu Anh Tuan, Nanyang Technological University (Singapore), VinUni University (Vietnam).

Als reactie op de FDI-strategie die ervoor moet zorgen dat Vietnam in 2030 koploper wordt op het gebied van AI, is universitair hoofddocent Tuan van mening dat Vietnam over hoogwaardige menselijke hulpbronnen beschikt – aangetoond door internationale prestaties in wiskunde, natuurkunde en scheikunde. Als we weten hoe we de krachten kunnen bundelen en een krachtig beleid kunnen voeren, kan de doelstelling voor 2030 volledig worden bereikt.

Professor Toby Walsh adviseert Vietnam om te investeren in mensen en proactief de vaardigheden van mensen te verbeteren, ervoor te zorgen dat ze AI begrijpen en AI-ondernemers, -bedrijven en -universiteiten te ondersteunen. In plaats van te wachten tot andere landen technologie overdragen of ons begeleiden, moeten we proactief zijn en de technologie beheersen.

Bovendien moet Vietnam de sociale netwerkplatformen krachtig inzetten om een veilige omgeving te creëren voor binnenlandse gebruikers, zonder dat dit de democratie in het land aantast.

THAO LE-THIEN LAM

Bron: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html