Bedrijven die AI op verantwoorde wijze inzetten, zullen een commercieel voordeel behalen

Het panelgesprek "AI voor de mensheid: AI-ethiek en veiligheid in het nieuwe tijdperk" in het kader van VinFuture 2025 Science and Technology Week brengt wetenschappers, politici en uitvinders samen om te praten over verantwoorde AI-ontwikkeling, op weg naar humanistische waarden.

In de marge van de discussie vertelde professor Toby Walsh van de University of New South Wales (Australië), academicus bij de American Association for Computing Machinery, over het ethische en verantwoorde gebruik van AI.

Verantwoord gebruik van AI zou verplicht moeten zijn

- Moet het verantwoord gebruik van AI volgens de professor vrijwillig of verplicht zijn? En hoe moeten we ons eigenlijk gedragen ten opzichte van AI?

Professor Toby Walsh: Ik ben er vast van overtuigd dat verantwoord gebruik van AI verplicht zou moeten zijn. Er zijn momenteel perverse prikkels, gezien de enorme bedragen die met AI worden verdiend, en de enige manier om goed gedrag te garanderen is door strenge regelgeving, zodat het publieke belang altijd in evenwicht is met commerciële belangen.

- Kunt u concrete voorbeelden geven uit verschillende landen van verantwoorde en ethische AI-toepassingen?

Professor Toby Walsh: Een klassiek voorbeeld zijn beslissingen met grote gevolgen, zoals veroordelingen in de Verenigde Staten. Hierbij wordt een AI-systeem gebruikt om aanbevelingen te doen over de gevangenisstraf die iemand krijgt en de kans op recidive.

Helaas is dit systeem gebaseerd op historische gegevens en weerspiegelt het onbedoeld raciale vooroordelen uit het verleden die leiden tot discriminatie van zwarte mensen. We moeten dit soort systemen niet laten bepalen wie er gevangen wordt gezet.

- Wie is er verantwoordelijk als AI een fout maakt? Kunnen we, vooral bij AI-agenten, hun werkingsmechanismen repareren?

Professor Toby Walsh: Het kernprobleem wanneer AI fouten maakt, is dat we AI niet ter verantwoording kunnen roepen. AI is niet menselijk en dit is een tekortkoming in elk rechtssysteem ter wereld . Alleen mensen zijn verantwoordelijk voor hun beslissingen en daden.

Opeens hebben we een nieuwe ‘agent’, genaamd AI, die – als we het toestaan – beslissingen kan nemen en acties kan ondernemen in onze wereld. Dat brengt een uitdaging met zich mee: wie zullen we ter verantwoording roepen?

Het antwoord is dat de bedrijven die AI-systemen inzetten en gebruiken, verantwoordelijk moeten worden gehouden voor de gevolgen die deze ‘machines’ veroorzaken.

Professor Toby Walsh van de University of New South Wales gaf een presentatie tijdens het seminar "AI voor de mensheid: AI-ethiek en veiligheid in het nieuwe tijdperk" in het kader van de VinFuture 2025 Science and Technology Week. (Foto: Minh Son/Vietnam+)

- Veel bedrijven praten ook over verantwoorde AI. Hoe kunnen we ze vertrouwen? Hoe weten we dat ze serieus en allesomvattend zijn, en 'verantwoorde AI' niet alleen maar als marketingtruc gebruiken?

Professor Toby Walsh: We moeten de transparantie vergroten. Het is belangrijk om de mogelijkheden en beperkingen van AI-systemen te begrijpen. We moeten ook "stemmen door te doen" – ervoor kiezen om diensten verantwoord te gebruiken.

Ik ben er echt van overtuigd dat de manier waarop bedrijven verantwoord gebruikmaken van AI een onderscheidend kenmerk in de markt zal worden en hen een commercieel voordeel zal opleveren. Als een bedrijf klantgegevens respecteert, profiteert het ervan en trekt het klanten aan.

Bedrijven zullen beseffen dat het juiste doen niet alleen ethisch is, maar hen ook succesvoller maakt. Ik zie dit als een manier om onderscheid te maken tussen bedrijven, en verantwoordelijke bedrijven zijn de bedrijven waarmee we ons prettig voelen om zaken mee te doen.

'Als we niet oppassen, kunnen we een periode van digitale kolonisatie meemaken'

- Vietnam is een van de weinige landen die overweegt de Wet op Kunstmatige Intelligentie (AI) uit te vaardigen. Wat is uw oordeel hierover? Wat zijn volgens u de uitdagingen op het gebied van ethiek en veiligheid in de AI-ontwikkeling voor ontwikkelingslanden zoals Vietnam? Welke aanbevelingen heeft de professor voor Vietnam om zijn doelen in de AI-strategie te bereiken – om aan de top van de regio en de wereld te staan op het gebied van AI-onderzoek en -expertise?

Professor Toby Walsh: Ik ben verheugd dat Vietnam een van de pionierslanden is met een speciale wet op kunstmatige intelligentie. Dit is belangrijk, omdat elk land zijn eigen waarden en cultuur heeft en wetten nodig heeft om die waarden te beschermen.

Vietnamese waarden en cultuur verschillen van die van Australië, China en de Verenigde Staten. We kunnen niet verwachten dat technologiebedrijven uit China of de Verenigde Staten automatisch de Vietnamese cultuur en taal beschermen. Vietnam moet het initiatief nemen om deze zaken te beschermen.

Professor Toby Walsh waarschuwt dat als we niet oppassen, we mogelijk een periode van digitale kolonisatie tegemoet gaan. (Foto: Minh Son/Vietnam+)

Ik besef dat veel ontwikkelingslanden in het verleden een periode van fysieke kolonisatie hebben doorgemaakt. Als we niet oppassen, kunnen we een periode van "digitale kolonisatie" doormaken. Je gegevens zullen worden uitgebuit en je zult een goedkope bron worden.

Dit risico ontstaat als ontwikkelingslanden de AI-industrie zodanig ontwikkelen dat deze alleen data exploiteert, zonder hun eigen belangen te controleren of te beschermen.

- Hoe kunnen we deze situatie overwinnen, professor?

Professor Toby Walsh: Het is simpel: investeer in mensen. Verbeter de vaardigheden van mensen, zorg ervoor dat ze AI begrijpen. Ondersteun AI-ondernemers, bedrijven en universiteiten. Wees proactief. In plaats van te wachten tot andere landen technologie overdragen of ons begeleiden, moeten we proactief zijn en de technologie zelf in handen nemen.

Nog belangrijker is dat we ons er sterk voor moeten maken dat socialemediaplatforms een veilige omgeving creëren voor gebruikers in Vietnam, zonder dat dit ten koste gaat van de democratie in het land.

Er zijn talloze voorbeelden van hoe de inhoud van sociale media verkiezingsuitslagen heeft beïnvloed, landen heeft verdeeld en zelfs terrorisme heeft aangewakkerd.

- AI is sterk ontwikkeld in Vietnam. De laatste tijd heeft Vietnam veel beleid gevoerd om AI te promoten, maar Vietnam kampt ook met een probleem: fraude veroorzaakt door AI. Dus, volgens de professor, hoe moet Vietnam met deze situatie omgaan?

Professor Toby Walsh: Voor particulieren is het volgens mij het eenvoudigst om de informatie te verifiëren. Wanneer we bijvoorbeeld een telefoontje of e-mail ontvangen van bijvoorbeeld een bank, moeten we die nogmaals controleren: we kunnen dat telefoonnummer terugbellen of rechtstreeks contact opnemen met de bank om de informatie te verifiëren. Tegenwoordig zijn er veel nep-e-mails, nep-telefoonnummers en zelfs Zoom-gesprekken kunnen worden nagebootst. Deze oplichtingspraktijken zijn heel eenvoudig, goedkoop en nemen niet veel tijd in beslag.

In mijn familie hebben we ook onze eigen veiligheidsmaatregel: een "geheime vraag" die alleen familieleden kennen, zoals de naam van ons konijn. Zo blijft belangrijke informatie binnen de familie en lekt deze niet uit.

- Hartelijk dank./.

Professor Toby Walsh is ARC Honorary Scholar en Scientia Professor in Kunstmatige Intelligentie (AI) aan de University of New South Wales Sydney (UNSW). Hij is een groot voorstander van het stellen van grenzen om ervoor te zorgen dat AI wordt gebruikt om het leven van mensen te verbeteren.

Hij is tevens Fellow van de Australian Academy of Science en staat op de internationale lijst van 'invloedrijke mensen in AI'.

(Vietnam+)

Bron: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp