Îngrijorări că inteligența artificială va crea arme avansate care nu sunt controlate de oameni

Oficialii sunt din ce în ce mai îngrijorați de utilizarea abuzivă a inteligenței artificiale pentru a crea arme biologice și de necesitatea unor reglementări pentru a atenua acest lucru. (Foto: Ignatiev)

Îngrijorările legate de utilizarea inteligenței artificiale de către infractori sau teroriști pentru a distruge lumea vor fi un subiect fierbinte la un summit al liderilor globali care va avea loc în Marea Britanie în noiembrie. Oficialii britanici călătoresc în întreaga lume pentru a încerca să ajungă la un consens asupra unei declarații comune care avertizează asupra riscurilor ca forțele malefice să exploateze noile tehnologii.

Unii oficiali apropiați prim-ministrului britanic își fac griji că, la un moment dat, tehnologia va fi suficient de puternică pentru a crea arme biologice sau arme care scapă controlului uman. Îngrijorarea crescândă este că se solicită reglementări pentru atenuarea riscurilor. Deși liderii din domeniul tehnologiei sunt de acord să întrerupă dezvoltarea inteligenței artificiale, aceștia sunt blocați într-o cursă a înarmării în domeniul inteligenței artificiale cu rivalii.

Potrivit The Guardian, summitul din noiembrie va discuta riscurile „IA de frontieră”. IA de frontieră este un termen folosit pentru a se referi la cele mai avansate modele de IA care pot pune în pericol viața umană.

La începutul acestei săptămâni, guvernul britanic a confirmat că conferința se va concentra pe riscuri precum utilizarea abuzivă a inteligenței artificiale pentru a crea arme biologice, atacuri cibernetice sau sisteme avansate fără control uman. De câteva luni, dl Sunak avertizează cu privire la riscurile prezentate de inteligența artificială, îndemnând comunitatea internațională să adopte „șine” pentru a preveni utilizarea abuzivă a inteligenței artificiale.

Anul trecut, unei inteligențe artificiale i-au trebuit doar șase ore pentru a sugera 40.000 de molecule diferite potențial letale, dintre care una semăna cu VX, cel mai puternic agent neurotoxic dezvoltat vreodată.

La începutul anului 2023, cercetătorii au descoperit că ChatGPT putea înșela oamenii pentru a atinge un anumit obiectiv. Chatbot-ul cu inteligență artificială a convins un om să rezolve un Captcha (un instrument folosit pentru a detecta dacă un om sau un bot manipulează).

O altă preocupare majoră este ascensiunea „inteligenței artificiale generale” (AGI), un sistem de IA care poate îndeplini orice sarcină la fel de bine sau mai bine decât oamenii, ceea ce ar putea reprezenta o amenințare pentru umanitate. Unii cred că AGI este la doar câțiva ani distanță. Cu toate acestea, experții în IA contestă acest lucru și numesc AGI incontrolabilă „science-fiction”.

Indiferent de situație, prim-ministrul Sunak va dori să folosească conferința pentru a concentra atenția asupra riscurilor existențiale, mai degrabă decât asupra posibilităților imediate ale inteligenței artificiale, cum ar fi crearea de imagini false sau provocarea de discriminare dacă este utilizată pentru a lua decizii de politici publice.

Guvernul britanic va cheltui 100 de milioane de lire sterline pentru un nou grup de lucru pentru inteligență artificială, care va ajuta la testarea algoritmilor aflați în curs de dezvoltare. Acesta dorește să încurajeze companiile globale să trimită instrumente de inteligență artificială înapoi în Regatul Unit pentru evaluare înainte de a le implementa pe scară largă.

Doar guvernul poate asigura atenuarea celor mai importante preocupări legate de securitatea națională, potrivit viceprim-ministrului britanic Oliver Dowden.

Un purtător de cuvânt al guvernului britanic a declarat că inteligența artificială are un potențial imens de a schimba fiecare aspect al vieții. Grupul operativ pentru inteligență artificială a fost înființat pentru a asigura dezvoltarea sigură și responsabilă a tehnologiei. Conferința privind inteligența artificială va analiza o serie de riscuri potențiale.

(Conform The Guardian)

Aplicarea inteligenței artificiale în protejarea drepturilor de autor privind conținutul digital . Odată cu dezvoltarea puternică a conținutului digital, încălcarea drepturilor de autor devine din ce în ce mai dificilă. Soluțiile care integrează inteligența artificială (IA) vor contribui la protejarea drepturilor de autor privind conținutul digital pe internet.

Sursă: https://vietnamnet.vn/lo-ngai-tri-tue-nhan-tao-tao-ra-vu-khi-tien-tien-khong-bi-con-nguoi-kiem-soat-2194777.html