Bedrifter som bruker AI ansvarlig vil oppnå kommersielle fordeler

Paneldiskusjonen «KI for menneskeheten: KI-etikk og sikkerhet i den nye æraen» innenfor rammen av VinFuture 2025 Science and Technology Week samler forskere, politikere og oppfinnere for å diskutere ansvarlig KI-utvikling, mot humanistiske verdier.

I tillegg til diskusjonen snakket professor Toby Walsh - University of New South Wales (Australia), akademiker i American Association for Computing Machinery, om etisk og ansvarlig bruk av AI.

Ansvarlig bruk av AI bør være obligatorisk

– Bør ansvarlig bruk av AI være frivillig eller obligatorisk, ifølge professoren? Og hvordan bør vi egentlig oppføre oss overfor AI?

Professor Toby Walsh: Jeg er overbevist om at ansvarlig bruk av KI bør være obligatorisk. Det finnes perverse insentiver for øyeblikket, med de enorme pengesummene som tjenes med KI, og den eneste måten å sikre god oppførsel på er å ha strenge regler på plass, slik at allmennhetens interesser alltid balanseres mot kommersielle interesser.

– Kan du gi konkrete eksempler fra ulike land på ansvarlige og etiske AI-applikasjoner?

Professor Toby Walsh: Et klassisk eksempel er viktige avgjørelser, som straffeutmåling og straffeutmåling i USA, hvor et AI-system brukes til å gi anbefalinger om en persons fengselsstraff og sannsynlighet for gjentakelse av lovbrudd.

Dessverre ble dette systemet trent på historiske data og gjenspeiler utilsiktet tidligere rasefordommer som fører til diskriminering av svarte mennesker. Vi bør ikke la systemer som dette bestemme hvem som blir fengslet.

– Hvem er ansvarlig når AI gjør en feil? Spesielt med AI-agenter, har vi muligheten til å fikse operasjonsmekanismene deres?

Professor Toby Walsh: Kjerneproblemet når AI gjør feil er at vi ikke kan holde AI ansvarlig. AI er ikke menneskelig, og dette er en svakhet i alle rettssystemer i verden . Bare mennesker er ansvarlige for sine avgjørelser og handlinger.

Plutselig har vi en ny «agent» kalt AI, som – hvis vi tillater det – kan ta avgjørelser og iverksette tiltak i vår verden, noe som byr på en utfordring: hvem skal vi holde ansvarlig?

Svaret er å holde selskapene som distribuerer og driver AI-systemer ansvarlige for konsekvensene disse «maskinene» forårsaker.

Professor Toby Walsh – University of New South Wales delte innlegget på seminaret «AI for menneskeheten: AI-etikk og sikkerhet i den nye æraen» innenfor rammen av VinFuture 2025 Science and Technology Week. (Foto: Minh Son/Vietnam+)

– Mange selskaper snakker også om ansvarlig AI. Hvordan kan vi stole på dem? Hvordan vet vi at de er seriøse og omfattende, og ikke bare bruker «ansvarlig AI» som et markedsføringsknep?

Professor Toby Walsh: Vi må øke åpenheten. Det er viktig å forstå mulighetene og begrensningene til AI-systemer. Vi bør også «stemme ved å gjøre» – velge å bruke tjenester ansvarlig.

Jeg tror virkelig at hvordan bedrifter bruker AI ansvarlig vil bli et differensierende trekk i markedet, og gi dem et kommersielt fortrinn. Hvis et selskap respekterer kundedata, vil det være til fordel for og tiltrekke seg kunder.

Bedrifter vil innse at det å gjøre det rette ikke bare er etisk, men det vil også gjøre dem mer vellykkede. Jeg ser dette som en måte å skille mellom bedrifter, og ansvarlige bedrifter er de vi kan føle oss komfortable med å gjøre forretninger med.

«Hvis vi ikke er forsiktige, kan vi oppleve en periode med digital kolonisering»

– Vietnam er et av få land som vurderer å kunngjøre loven om kunstig intelligens. Hva er din vurdering av dette? Hva er etter din mening utfordringene angående etikk og sikkerhet i AI-utvikling for utviklingsland som Vietnam? Hvilke anbefalinger har professoren for at Vietnam skal nå sine mål i AI-strategien – å være på toppen av regionen og verden innen AI-forskning og mestring?

Professor Toby Walsh: Jeg er glad for at Vietnam er et av pionerlandene som vil ha en egen lov om kunstig intelligens. Dette er viktig fordi hvert land har sine egne verdier og kultur, og trenger lover for å beskytte disse verdiene.

Vietnamesiske verdier og kultur er annerledes enn i Australia, Kina og USA. Vi kan ikke forvente at teknologiselskaper fra Kina eller USA automatisk skal beskytte vietnamesisk kultur og språk. Vietnam må ta initiativ til å beskytte disse tingene.

Professor Toby Walsh advarer om at hvis vi ikke er forsiktige, kan vi oppleve en periode med digital kolonisering. (Foto: Minh Son/Vietnam+)

Jeg er klar over at mange utviklingsland tidligere gikk gjennom en periode med fysisk kolonisering. Hvis vi ikke er forsiktige, kan vi gå gjennom en periode med «digital kolonisering». Dataene dine vil bli utnyttet, og du vil bli en billig ressurs.

Dette er i faresonen dersom utviklingsland utvikler AI-industrien på en måte som kun utnytter data uten å kontrollere eller beskytte sine egne interesser.

– Så hvordan skal man overvinne denne situasjonen, professor?

Professor Toby Walsh: Det er enkelt, invester i folk. Oppgrader folks ferdigheter, sørg for at de forstår KI. Støtt KI-gründere, selskaper, støtt universiteter. Vær proaktiv. I stedet for å vente på at andre land skal overføre teknologi eller veilede oss, må vi være proaktive og eie teknologien.

Enda viktigere er det at vi sterkt må argumentere for at sosiale medieplattformer skal skape et trygt miljø for brukere i Vietnam, uten at det påvirker landets demokrati.

Faktisk finnes det en rekke eksempler på hvordan innhold på sosiale medier har påvirket valgresultater, splittet land og til og med oppfordret til terrorisme.

– AI er svært utviklet i Vietnam. I den senere tid har Vietnam hatt mange tiltak for å fremme AI, men Vietnam står også overfor et problem, nemlig svindel forårsaket av AI. Så, ifølge professoren, hvordan bør Vietnam håndtere denne situasjonen?

Professor Toby Walsh: For enkeltpersoner tror jeg den enkleste måten er å bekrefte informasjonen. Når vi for eksempel mottar en telefonsamtale eller e-post, for eksempel fra en bank, må vi sjekke den på nytt: vi kan ringe tilbake til telefonnummeret eller kontakte banken direkte for å bekrefte informasjonen. I dag finnes det mange falske e-poster, falske telefonnumre, til og med Zoom-anrop kan forfalskes. Disse svindelforsøkene er veldig enkle, rimelige og tar ikke mye tid.

I familien min har vi også vårt eget sikkerhetstiltak: et «hemmelig spørsmål» som bare familiemedlemmer vet, for eksempel navnet på kjæledyrkaninen vår. Dette sikrer at viktig informasjon forblir innenfor familien og ikke lekker ut.

- Tusen takk./.

Professor Toby Walsh er æresstipendiat ved ARC og Scientia-professor i kunstig intelligens (KI) ved University of New South Wales Sydney (UNSW). Han er en sterk forkjemper for å sette grenser for å sikre at KI brukes til å forbedre folks liv.

Han er også medlem av Australian Academy of Science og har blitt oppført på den internasjonale listen over «innflytelsesrike personer innen kunstig intelligens».

(Vietnam+)

Kilde: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp