Professor Toby Walsh advarer om risikoen for «digital kolonisering» i AI-æraen

DNVN – Professor Toby Walsh satte stor pris på Vietnams vurdering av å kunngjøre loven om kunstig intelligens (KI), og advarte om potensielle farer som mennesker kan møte i KI-æraen, inkludert spørsmålet om «digital kolonisering».

Professor Toby Walsh talte på paneldiskusjonen «KI for menneskeheten – KI-etikk og sikkerhet i den nye æraen» – en aktivitet innenfor VinFuture-prisens vitenskaps- og teknologiuke 2025.

Bruk av AI på en ansvarlig måte

Professor Toby Walsh, University of New South Wales i Sydney i Australia, og seniorforsker ved CSIRO Data61, et ledende vitenskapssenter i Australia, har forsket på kunstig intelligens i 40 år, og sa at han i løpet av de første 30 årene bare var «interessert i hvordan man kan utvikle kunstig intelligens mer og mer kraftfullt», men i løpet av de siste 10 årene har han «blir stadig mer interessert i og høylytt når det gjelder å utvikle kunstig intelligens på en ansvarlig måte».

Professor Walsh viste til eksempelet med bruken av et AI-system i USA, som brukte rasemessig partiske historiske data som resulterte i diskriminerende dommer mot svarte mennesker, og understreket behovet for å bruke AI ansvarlig.

«Bedrifter som distribuerer og driver AI-systemer må holdes ansvarlige for konsekvensene disse maskinene forårsaker», sa Toby Walsh.

For å tvinge bedrifter til å praktisere «ansvarlig AI», sa han, trenger brukerne «økt åpenhet. Det er viktig å forstå mulighetene og begrensningene til AI-systemer. Vi bør også «stemme ved å gjøre», det vil si velge å bruke ansvarlige tjenester. Å gjøre ansvarlig bruk av AI til en kommersiell fordel for bedrifter er en god måte å regulere deres atferd på.»

Unnslipp den «digitale koloniseringsfellen»

Blant risikoene som AI medfører, la professor Toby Walsh spesielt vekt på muligheten for å bli «digitalt kolonisert». «Jeg er veldig klar over at mange utviklingsland tidligere har gått gjennom en periode med fysisk kolonisering. Hvis vi ikke er forsiktige, kan vi gå gjennom en periode med digital kolonisering. Dataene dine vil bli utnyttet, og du vil bli en billig ressurs. Dette er i faresonen hvis utviklingsland utvikler AI-industrien på en måte som bare utnytter data uten å kontrollere og beskytte deres rettigheter», sa han.

Ifølge ham er det nødvendig å fremme unike verdier og urfolkskultur for å unnslippe denne faren, og det trengs lover for å beskytte disse verdiene.

«Jeg er veldig glad for at Vietnam er et av pionerlandene som vil få en spesialisert lov om kunstig intelligens. Vietnams verdier og kultur er annerledes enn Australia, Kina og USA. Vi kan ikke forvente at teknologiselskaper fra Kina eller USA automatisk skal beskytte vietnamesisk kultur og språk. Disse tingene må proaktivt beskyttes av Vietnam selv», understreket professor Toby Walsh.

I tillegg mener han at vi må investere proaktivt i mennesker, forbedre ferdighetene til alle, for gründere, for AI-bedrifter, universiteter ... slik at de forstår AI. «I stedet for å vente på at andre land skal overføre teknologi eller gi retning, må vi være proaktive og mestre teknologien» – delte professor Toby Walsh.

I tillegg til dette, ifølge professor Toby Walsh, er det nødvendig å mobilisere sosiale nettverksplattformer sterkt for å skape et trygt miljø for brukere i Vietnam spesielt og verden generelt, uten å påvirke landets demokrati.

Professor Toby Walsh er forfatter av tre bøker om kunstig intelligens: «It's Alive! Artificial Intelligence from the Logic Piano to Killer Robots» dekker historien og den nåværende utviklingen av kunstig intelligens; «2062: The World that AI Made» utforsker den potensielle virkningen av kunstig intelligens på det menneskelige samfunn. Hans tredje bok, «Machines Behaving Badly: the Morality of AI», fordyper seg i de etiske utfordringene ved kunstig intelligens.

Professor Toby Walsh er en fast gjest på kjente TV-kanaler som ABC, BBC, CNN, DW, NPR, RT... med temaet AIs og roboters innvirkning på samfunnet. Han er også en skribent med mange artikler publisert i The New Scientist, American Scientist, Le Scienze, Cosmos, Technology Review, The New York Times, The Guardian, The Conversation...

Hien Thao

Kilde: https://doanhnghiepvn.vn/cong-nghe/giao-su-toby-walsh-canh-bao-ve-nguy-co-bi-do-ho-so-trong-thoi-dai-ai/20251203061618510