Företag som använder AI ansvarsfullt kommer att få kommersiella fördelar

Paneldiskussionen "AI för mänskligheten: AI-etik och säkerhet i den nya eran" inom ramen för VinFuture 2025 Science and Technology Week sammanför forskare, politiker och uppfinnare för att diskutera ansvarsfull AI-utveckling, i riktning mot humanistiska värderingar.

I anslutning till diskussionen delade professor Toby Walsh - University of New South Wales (Australien), akademiker vid American Association for Computing Machinery, med sig av frågor om etisk och ansvarsfull användning av AI.

Ansvarsfull användning av AI borde vara obligatorisk

- Enligt professorn, borde ansvarsfull användning av AI vara frivillig eller obligatorisk? Och hur bör vi egentligen bete oss gentemot AI?

Professor Toby Walsh: Jag är övertygad om att ansvarsfull användning av AI borde vara obligatorisk. Det finns perversa incitament just nu, med tanke på de enorma summor pengar som tjänas med AI, och det enda sättet att säkerställa gott beteende är att ha strikta regleringar på plats, så att allmänintresset alltid balanseras mot kommersiella intressen.

- Kan du ge specifika exempel från olika länder på ansvarsfulla och etiska AI-tillämpningar?

Professor Toby Walsh: Ett klassiskt exempel är viktiga beslut, såsom straffmätning och straffmätning i USA, där ett AI-system används för att ge rekommendationer om en persons fängelsestraff och sannolikheten för återfall i brott.

Tyvärr var detta system baserat på historiska data och återspeglar oavsiktligt tidigare rasistiska fördomar som leder till diskriminering av svarta människor. Vi borde inte låta system som detta avgöra vem som fängslas.

- Vem är ansvarig när AI gör ett misstag? Har vi, särskilt när det gäller AI-agenter, möjlighet att åtgärda deras funktionsmekanismer?

Professor Toby Walsh: Kärnproblemet när AI gör misstag är att vi inte kan hålla AI ansvarig. AI är inte mänskligt och detta är en brist i alla rättssystem i världen . Endast människor är ansvariga för sina beslut och handlingar.

Plötsligt har vi en ny ”agent” som kallas AI, som – om vi tillåter det – kan fatta beslut och vidta åtgärder i vår värld, vilket innebär en utmaning: vem ska vi hålla ansvarig?

Svaret är att hålla de företag som driftsätter och driver AI-system ansvariga för de konsekvenser som dessa ”maskiner” orsakar.

Professor Toby Walsh - University of New South Wales delade med sig av sitt tal vid seminariet "AI för mänskligheten: AI-etik och säkerhet i den nya eran" inom ramen för VinFuture 2025 Science and Technology Week. (Foto: Minh Son/Vietnam+)

– Många företag pratar också om ansvarsfull AI. Hur kan vi lita på dem? Hur vet vi att de är seriösa och heltäckande, och inte bara använder "ansvarsfull AI" som ett marknadsföringsknep?

Professor Toby Walsh: Vi behöver öka transparensen. Det är viktigt att förstå AI-systemens möjligheter och begränsningar. Vi bör också ”rösta genom att göra” – välja att använda tjänster ansvarsfullt.

Jag tror verkligen att hur företag använder AI på ett ansvarsfullt sätt kommer att bli en differentieringsfaktor på marknaden och ge dem en kommersiell fördel. Om ett företag respekterar kunddata kommer det att gynna och attrahera kunder.

Företag kommer att inse att det inte bara är etiskt att göra rätt sak, utan att det också kommer att göra dem mer framgångsrika. Jag ser detta som ett sätt att skilja mellan företag, och ansvarsfulla företag är de vi kan känna oss bekväma med att göra affärer med.

"Om vi inte är försiktiga kan vi uppleva en period av digital kolonisering"

– Vietnam är ett av få länder som överväger att utfärda lagen om artificiell intelligens. Vad är din bedömning av detta? Vilka är enligt din åsikt utmaningarna gällande etik och säkerhet i AI-utveckling för utvecklingsländer som Vietnam? Vilka rekommendationer har professorn för att Vietnam ska kunna uppnå sina mål inom AI-strategin – att ligga i toppen av regionen och världen inom AI-forskning och behärskning?

Professor Toby Walsh: Jag är glad att Vietnam är ett av de pionjärländer som kommer att få en särskild lag om artificiell intelligens. Detta är viktigt eftersom varje land har sina egna värderingar och sin kultur och behöver lagar för att skydda dessa värderingar.

Vietnamesiska värderingar och kultur skiljer sig från Australiens, Kinas och USA:s. Vi kan inte förvänta oss att teknikföretag från Kina eller USA automatiskt ska skydda vietnamesisk kultur och språk. Vietnam måste ta initiativ till att skydda dessa saker.

Professor Toby Walsh varnar för att om vi inte är försiktiga kan vi uppleva en period av digital kolonisering. (Foto: Minh Son/Vietnam+)

Jag är medveten om att många utvecklingsländer tidigare genomgick en period av fysisk kolonisering. Om vi inte är försiktiga kan vi gå igenom en period av "digital kolonisering". Dina data kommer att utnyttjas och du kommer att bli en billig resurs.

Detta är i fara om utvecklingsländer utvecklar AI-industrin på ett sätt som endast utnyttjar data utan att kontrollera eller skydda sina egna intressen.

– Så hur ska man övervinna den här situationen, professor?

Professor Toby Walsh: Det är enkelt, investera i människor. Utveckla kompetensen hos människor, se till att de förstår AI. Stöd AI-entreprenörer, företag, stöd universitet. Var proaktiva. Istället för att vänta på att andra länder ska överföra teknik eller vägleda oss måste vi vara proaktiva och äga tekniken.

Ännu viktigare är att vi starkt förespråkar sociala medieplattformar för att skapa en säker miljö för användare i Vietnam, utan att landets demokrati påverkas.

Det finns faktiskt många exempel på hur innehåll på sociala medier har påverkat valresultat, splittrat länder och till och med uppviglat till terrorism.

- AI är mycket utvecklat i Vietnam. På senare tid har Vietnam haft många strategier för att främja AI, men Vietnam står också inför ett problem, nämligen bedrägerier orsakade av AI. Så, enligt professorn, hur bör Vietnam hantera denna situation?

Professor Toby Walsh: För individer tror jag att det enklaste sättet är att verifiera informationen. Till exempel, när vi får ett telefonsamtal eller e-postmeddelande, till exempel från en bank, måste vi kontrollera det igen: vi kan ringa tillbaka till det telefonnumret eller kontakta banken direkt för att verifiera informationen. Numera finns det många falska e-postmeddelanden, falska telefonnummer, till och med Zoom-samtal kan förfalskas. Dessa bedrägerier är mycket enkla, billiga och tar inte mycket tid.

I min familj har vi också vår egen säkerhetsåtgärd: en "hemlig fråga" som bara familjemedlemmar känner till, till exempel namnet på vår kanin. Detta säkerställer att viktig information stannar inom familjen och inte läcker ut.

- Tack så mycket./.

Professor Toby Walsh är hedersstipendiat vid ARC och Scientia-professor i artificiell intelligens (AI) vid University of New South Wales Sydney (UNSW). Han är en stark förespråkare för att sätta gränser för att säkerställa att AI används för att förbättra människors liv.

Han är också ledamot av Australian Academy of Science och har utnämnts till den internationella listan över "inflytelserika personer inom AI".

(Vietnam+)

Källa: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp