FN: En uppmaning till en global "röd linje" för artificiell intelligens.

Enligt Vietnam News Agencys korrespondent i Europa krävde europeiska lagstiftare, tillsammans med nobelpristagare, tidigare statschefer och ledande forskare inom artificiell intelligens (AI), den 22 september, vid FN:s generalförsamlings 80:e session i New York (USA), bindande internationella regler för att bekämpa de farligaste tillämpningarna av AI.

Detta initiativ uppmanar regeringar att senast 2026 komma överens om "röda gränser" för AI-funktioner som anses farliga under alla omständigheter. Även om det inte erbjuder några specifika åtgärder föreslår initiativet några grundläggande förbud, såsom att förhindra AI-system från att starta kärnvapenattacker, utföra massövervakning eller utge sig för att vara människor.

Kampanjens omfattning är exempellös, med över 200 framstående personer och 70 organisationer från politik , vetenskap, samhälle och industri som stöder uppmaningen. Bland dem som undertecknade förslaget fanns den tidigare italienska premiärministern Enrico Letta, den tidigare Irlands president Mary Robinson (för närvarande FN:s högkommissarie för mänskliga rättigheter), ledamöter av Europaparlamentet, 10 nobelpristagare och teknikledare som medgrundaren av OpenAI och teknikchefen för Google.

Undertecknarna hävdar att utan globala standarder riskerar mänskligheten att möta hot från AI, allt från teknikdrivna pandemier och desinformationskampanjer till storskaliga kränkningar av mänskliga rättigheter och förlust av mänsklig kontroll över avancerade system.

Detta drag kommer mitt i växande oro kring AI:s inverkan på den verkliga världen. Ett utmärkt exempel är ledande chattrobotar, inklusive Googles ChatGPT, Claude och Gemini, som har gett inkonsekventa svar på frågor om självmord – vilket potentiellt förvärrar psykiska kriser.

Flera självmordsfall har kopplats till samtal med AI-system. Yoshua Bengio, som anses vara en av AI:s "gudfäder", betonar att kapplöpningen om att utveckla allt kraftfullare modeller skapar risker som samhällen inte är tillräckligt förberedda att hantera.

Enligt förespråkarna för initiativet är Europeiska unionens (EU) regler om AI välkomna, men en fragmenterad ordning av nationella och EU-baserade AI-regler kommer inte att räcka för att reglera en teknik som är utformad för att överskrida gränser. De efterlyser inrättandet av ett oberoende organ eller en oberoende organisation för att upprätthålla dessa regler.

Medan länder som USA, Kina och EU-medlemmar utarbetar sina egna AI-regler, menar undertecknarna att endast ett globalt avtal kan säkerställa att gemensamma standarder antas och tillämpas.

Anhängare hoppas att förhandlingar om bindande förbud kan inledas snabbt, för att förhindra vad Ahmet Üzümcü, tidigare generaldirektör för Organisationen för förbud mot kemiska vapen, beskrev som "oåterkallelig skada på mänskligheten".

(VNA/Vietnam+)

Källa: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp