Artificiell intelligens: Vi måste öka säkerheten istället för att bara fokusera på att utveckla starkare

Paneldiskussionen ”AI för mänskligheten: AI-etik och säkerhet i den nya eran”, inom ramen för VinFuture 2025 Science and Technology Week, samlar forskare , politiker och uppfinnare för att diskutera ansvarsfull AI-utveckling, i riktning mot humanistiska värderingar.

Tänk snarast på hur man ska leva med AI - en enhet smartare än dig själv

Professor Toby Walsh, University of New South Wales, Australien, akademiker vid American Computer Association, sa följande vid seminariet: "Jag är övertygad om att ansvarsfull användning av AI bör vara obligatorisk. Det finns många perversa incitament idag, med enorma summor pengar som tjänas tack vare AI, och det enda sättet att säkerställa korrekt beteende är att tillämpa strikta regler, så att allmänintressen alltid balanseras mot kommersiella intressen."

Han nämnde ett typiskt exempel på viktiga beslut, såsom domstolsavgörande och straffmätning i USA, där ett AI-system användes för att ge rekommendationer om en persons fängelsestraff och sannolikheten för återfall i brott. Tyvärr var detta system tränat på historiska data och återspeglade oavsiktligt tidigare rasistiska fördomar, vilket ledde till diskriminering av svarta människor.

Professor Toby Walsh, University of New South Wales, Australien, ledamot i American Computer Society.

Därför måste företag som driftsätter och driver AI-system hållas ansvariga för de konsekvenser som dessa ”maskiner” orsakar.

Professor Geoffrey Hinton – vinnare av VF:s huvudpris 2024 – är oroad över att AI gradvis blir bättre på att designa farliga virus, cyberattacker och skapa falska videor för att störa val. Under de kommande 20 åren kommer AI att bli smartare än oss och vi kommer inte att veta hur vi ska hindra den från att ta kontrollen från människor.

Därför betonade professorn: "Vi måste snarast tänka på hur vi kan leva med entiteter som är smartare än oss själva. Detta är en situation som mänskligheten aldrig har mött förut, den är ny och vi behöver göra mycket forskning innan det händer."

Behov av att stärka det internationella samarbetet för att begränsa AI-riskerna

Professor Yoshua Bengio – vinnare av VinFuture 2024:s huvudpris – delade denna oro och sa att AI-modeller, deras förmågor och nivåer av autonomi fortfarande utvecklas i en snabb och stadig takt. Om denna trend fortsätter kan autonoma AI-system överträffa människor i de flesta kognitiva uppgifter inom bara 5–10 år.

Detta skulle vara en historisk vändpunkt som dramatiskt skulle kunna förbättra vår livskvalitet. Men om den inte hanteras med försiktighet skulle den också kunna innebära enorma risker för demokratin, geopolitisk stabilitet och till och med mänsklighetens framtid.

”Vi måste förbättra säkerheten för avancerad AI istället för att bara fokusera på att göra den starkare. Säkerhet och förtroende är inte sekundära faktorer utan avgörande i utvecklingsprocessen till förmån för mänskligheten. Vi måste agera tillsammans på både politisk och vetenskaplig nivå”, sa han.

Professor Yoshua Bengio - Vinnare av VinFuture 2024 års huvudpris.

Denna forskare rekommenderar att världen, policymässigt, behöver internationellt samarbete. Vetenskapligt sett är det nödvändigt att bättre förstå hur man kan utforma AI som är både överlägsen i förmåga och ofarlig för människor, bibehålla förmågan att kontrollera AI så att den beter sig säkert även när människor ber den att göra fel, och bygga tekniska och sociala barriärer för att säkerställa att AI är förenlig med mänskliga normer, avsikter, värderingar och intressen.

Dr. Vinton Grey Cert (vice vd och chef för internetevangelisering på Google - vinnare av VF 2022:s huvudpris) håller med: Vi måste hålla AI ansvarigt, etablera en spårbarhetskedja för att veta vad de gör, när, särskilt när något går fel. Många av de principer som gäller för människor kommer också att gälla för AI-agenter i onlinemiljön.

”Vi måste samtidigt etablera nya normer, där användningen av stark identifiering, kryptografi för att säkra information, tillämpning av mekanismer för att säkerställa ansvarsskyldighet och skydd av identiteter från att kapas av andra – blir en regelbunden vana. Vi bör använda teknik för att begränsa risker från början och vara tydliga med att alla som befinns vara skadliga för samhället måste ta konsekvenserna av det beteendet. Detta kräver internationellt samarbete”, sa han.

Vietnam behöver ha sin egen väg för att bygga AI-data.

Docent Luu Anh Tuan, Nanyang Technological University (Singapore), VinUni University (Vietnam), sa att andra länder har datamängder på ungefär 10 år, men Vietnam börjar från noll. Därför kan vi bygga hållbara data från början och tillhandahålla rena, etiska och kulturellt lämpliga data redan från början.

Den största utmaningen för Vietnam är dock det vietnamesiska språkets särdrag. Vi har ett mångsidigt dialektsystem, en rik regional kultur och extremt komplexa tilltalsformer. Stora modeller som ChatGPT eller Gemini stöder vietnamesiska, men kvaliteten är inte djupgående eftersom de inte förstår vietnamesisk dialekt, seder eller historia.

Vietnam behöver bygga sin egen vietnamesiska modell. Dessutom bör vi utveckla en modell med öppen källkod så att småföretag kan använda och bidra. ”Om vi bara förlitar oss på utländska modeller i form av ’svarta lådor’ kommer vi bara att vara AI-användare och inte AI-utvecklare”, sa han.

För närvarande bygger docent Luu Anh Tuan och hans kollegor upp vietnamesisk AI-data. Faktorer som dialekt, historia och kultur måste beaktas.

Han sa också att i andra länder utbildas studenter om AI mycket tidigt. Vietnam har precis börjat med detta, men vi kan accelerera genom att lära oss och anpassa oss därefter.

"Unga vietnamesiska människor är väldigt dynamiska; de behöver bara få fullständig utbildning om digitalt ansvar. Vi borde ha ett enhetligt organ för att bekräfta och standardisera datakvalitet och etiska standarder. VinUni deltar också i rådet för att bygga ett system för etiska standarder och kommer att fortsätta att bidra till denna process", sa han.

Docent Luu Anh Tuan, Nanyang Technological University (Singapore), VinUni University (Vietnam).

Som svar på FDI-strategin som syftar till att Vietnam ska leda regionen inom AI senast 2030, anser docent Tuan att Vietnam har högkvalitativa mänskliga resurser – vilket visas genom internationella prestationer inom matematik, fysik och kemi. Om vi vet hur man samlar sina krafter och har en stark politik kan målet för 2030 uppnås till fullo.

Professor Toby Walsh rekommenderar att Vietnam bör investera i människor och proaktivt förbättra människors färdigheter, se till att de förstår AI och stödja AI-entreprenörer, företag och universitet. Istället för att vänta på att andra länder ska överföra teknik eller vägleda oss måste vi vara proaktiva och bemästra tekniken.

Dessutom behöver Vietnam mobilisera sociala nätverksplattformar starkt för att skapa en säker miljö för inhemska användare, utan att påverka landets demokrati.

Kommentar (0)