FN: En oppfordring til en global «rød linje» for kunstig intelligens.

Ifølge Vietnam News Agencys korrespondent i Europa etterlyste europeiske lovgivere, sammen med nobelprisvinnere, tidligere statsoverhoder og ledende forskere innen kunstig intelligens (KI), den 22. september, under den 80. sesjonen i FNs generalforsamling i New York (USA), bindende internasjonale regler for å bekjempe de farligste bruksområdene av KI.

Dette initiativet oppfordrer myndighetene til å bli enige om «røde linjer» innen 2026 for AI-funksjoner som anses som farlige under alle omstendigheter. Selv om det ikke tilbyr spesifikke tiltak, foreslår initiativet noen grunnleggende forbud, som å forhindre at AI-systemer iverksetter atomangrep, utfører masseovervåking eller utgir seg for å være mennesker.

Kampanjens omfang er enestående, med over 200 fremtredende personer og 70 organisasjoner fra politikk , vitenskap, samfunn og industri som støtter oppfordringen. Blant dem som signerte forslaget var tidligere italiensk statsminister Enrico Letta, tidligere Irlands president Mary Robinson (for tiden FNs høykommissær for menneskerettigheter), medlemmer av Europaparlamentet (EP), 10 nobelprisvinnere og teknologiledere som medgründeren av OpenAI og teknologisjefen i Google.

Underskriverne hevder at uten globale standarder risikerer menneskeheten å møte trusler fra AI, alt fra teknologidrevne pandemier og desinformasjonskampanjer til store menneskerettighetsbrudd og tap av menneskelig kontroll over avanserte systemer.

Dette tiltaket kommer midt i økende bekymring for virkningen av kunstig intelligens på den virkelige verden. Et godt eksempel er ledende chatboter, inkludert Googles ChatGPT, Claude og Gemini, som har gitt inkonsekvente svar på spørsmål om selvmord – noe som potensielt forverrer psykiske helsekriser.

Flere selvmordstilfeller har blitt knyttet til samtaler med AI-systemer. Yoshua Bengio, som regnes som en av «gudfedrene» til AI, understreker at kappløpet om å utvikle stadig kraftigere modeller skaper risikoer som samfunn ikke er tilstrekkelig forberedt på å håndtere.

Ifølge tilhengerne av initiativet er EUs regelverk for kunstig intelligens velkomment, men en stykkevis ordning av nasjonale og EU-baserte regler for kunstig intelligens vil ikke være nok til å regulere en teknologi som er utformet for å overskride grenser. De etterlyser etablering av et uavhengig organ eller en uavhengig organisasjon for å håndheve disse reglene.

Mens land som USA, Kina og EU-medlemmer utarbeider sine egne AI-forskrifter, argumenterer underskriverne for at bare en global avtale kan sikre at felles standarder blir vedtatt og håndhevet.

Tilhengerne håper at forhandlinger om bindende forbud kan starte raskt, for å forhindre det Ahmet Üzümcü, tidligere generaldirektør i Organisasjonen for forbud mot kjemiske våpen, beskrev som «irreversibel skade på menneskeheten».

(VNA/Vietnam+)

Kilde: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp