Een medewerker van de American Computer Association deelt tips om AI-fraude te voorkomen

Professor Toby Walsh, Fellow van de Association for Computing Machinery

Professor Toby Walsh vertelde de pers tijdens het Science for Life-seminar dat AI-fraude in veel landen, waaronder Vietnam, een groot probleem aan het worden is.

Volgens professor Toby Walsh is de eenvoudigste manier om uzelf te beschermen het verifiëren van de bron van de informatie. Hij raadt gebruikers aan om bij het ontvangen van een telefoontje, e-mail of sms die beweert afkomstig te zijn van een bank of financiële instelling, de hotline rechtstreeks te bellen en niet te reageren op instructies van vreemden.

Hij zei dat zelfs videogesprekken , e-mails of telefoonnummers kunnen worden vervalst met steeds geavanceerdere AI-tools. Voor zijn familie gebruikt hij een "geheime vraag" die alleen familieleden kennen om de identiteit te verifiëren en misbruik te voorkomen. Deze methode kan volgens hem ook door elk Vietnamees gezin worden toegepast om de informatiebeveiliging te verbeteren.

Professor Toby Walsh spreekt op de Science for Life-conferentie

In een bredere bespreking van de ontwikkeling van verantwoorde AI benadrukte professor Toby Walsh dat regulering verplicht moet zijn. Gezien de enorme winst die AI oplevert, zei hij dat "alleen een strikt wettelijk kader correct gedrag kan garanderen en het publieke belang in evenwicht kan brengen met commerciële belangen".

In antwoord op een vraag over verantwoordelijkheid wanneer AI fouten maakt, bevestigde hij: "AI is niet menselijk, het kan niet verantwoordelijk worden gehouden. Het zijn de bedrijven die AI-systemen inzetten en beheren die verantwoordelijk zijn voor de gevolgen." Dit is ook het punt waarop de nationale wetgeving volgens hem nog niet is ingespeeld.

Terwijl Vietnam de AI-wet opstelt, merkte professor Toby Walsh, die jarenlange ervaring heeft met AI-onderzoek, op dat nieuwe wetten niet altijd nodig zijn, omdat veel regels over privacy of concurrentie al in de digitale omgeving kunnen worden toegepast. Er ontstaan echter enkele nieuwe risico's, zoals het feit dat gebruikers AI als "therapeuten" beschouwen, wat tot psychologische schade kan leiden. Volgens hem moeten AI-bedrijven ook verantwoordelijkheid nemen wanneer hun producten schade veroorzaken.

Professor Toby Walsh noemde specifiek het risico dat kinderen negatief worden beïnvloed door AI, net als sociale media. Hij noemde als voorbeeld de aankomende Australische leeftijdsgrens voor het gebruik van sociale media en stelde voor dat landen vergelijkbare bescherming tegen AI zouden moeten bieden.

Wat betreft data, de "brandstof" van AI, waarschuwde hij dat te veel laksheid schadelijk zou zijn. Het zonder toestemming gebruiken van het werk van een auteur om AI te trainen is "diefstal", en zonder een oplossing zoals het muziekstreamingmodel zullen auteurs de motivatie om te creëren verliezen. Professor Toby Walsh merkte op dat Vietnam drastische maatregelen moet nemen om zijn eigen cultuur, taal en belangen in het AI-tijdperk te beschermen.

VLEUGELZON

Bron: https://www.sggp.org.vn/vien-si-cua-hiep-hoi-may-tinh-hoa-ky-chia-se-bi-kip-tranh-lua-dao-su-dung-ai-post826821.html