FN: Uppmaning till globala "röda linjer" för artificiell intelligens

Enligt en VNA-korrespondent i Europa krävde europeiska lagstiftare, tillsammans med Nobelpristagare, tidigare statschefer och ledande forskare inom artificiell intelligens (AI), den 22 september, vid FN:s generalförsamlings 80:e session i New York (USA), bindande internationella regler för att bekämpa de farligaste tillämpningarna av AI.

Initiativet uppmanar regeringar att senast 2026 enas om "röda linjer" för AI-funktioner som anses vara farliga under alla omständigheter. Det erbjuder inga specifika åtgärder, men det föreslår några grundläggande förbud, såsom att förhindra AI-system från att starta kärnvapenattacker, utföra massövervakning eller utge sig för att vara människor.

Kampanjens omfattning är exempellös, med fler än 200 framstående personer och 70 organisationer från politik , vetenskap, samhälle och industri som stöder uppmaningen. Bland dem som undertecknar förslaget finns den tidigare italienska premiärministern Enrico Letta, den tidigare Irlands president Mary Robinson (nu FN:s högkommissarie för mänskliga rättigheter), ledamöter av Europaparlamentet (EP), 10 nobelpristagare och teknikledare som medgrundaren av OpenAI och Googles tekniska chef.

Undertecknarna hävdar att utan globala standarder riskerar mänskligheten att möta hot från AI, från tekniskt konstruerade pandemier och desinformationskampanjer till storskaliga kränkningar av mänskliga rättigheter och att människor förlorar kontrollen över avancerade system.

Åtgärden kommer mitt i växande oro kring AI:s inverkan på den verkliga världen. I ett anmärkningsvärt exempel har ledande chatbotar, inklusive Googles ChatGPT, Claude och Gemini, gett inkonsekventa svar på frågor om självmord – vilket tros förvärra psykiska kriser.

Flera självmord har kopplats till samtal med AI-system. Yoshua Bengio, en av AI:s så kallade "gudfäder", har betonat att kapplöpningen om att utveckla allt kraftfullare modeller skapar risker som samhällen är dåligt förberedda att hantera.

Europeiska unionens (EU) regler om AI är välkomna, men ett lapptäcke av nationella och EU-baserade AI-regler kommer inte att räcka för att reglera en teknik som är utformad för att överskrida gränser, enligt anhängare av initiativet. De efterlyser inrättandet av ett oberoende organ eller en oberoende organisation för att upprätthålla dessa regler.

Medan länder som USA, Kina och EU-medlemmar utarbetar sina egna AI-regler, säger undertecknarna att endast ett globalt avtal kan säkerställa att gemensamma standarder antas och tillämpas.

Anhängare hoppas att förhandlingar om bindande förbud kan inledas snabbt, för att förhindra vad Ahmet Üzümcü, tidigare generaldirektör för Organisationen för förbud mot kemiska vapen, beskrev som "oåterkallelig skada på mänskligheten".

(TTXVN/Vietnam+)

Källa: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp