„De ce este IA periculoasă?”

De fapt, aceasta nu este prima dată când oamenii de știință avertizează cu privire la pericolul potențial al inteligenței artificiale pentru umanitate. În 2014, renumitul fizician teoretician britanic Stephen Hawking a declarat: „Dezvoltarea completă a inteligenței artificiale ar putea distruge omenirea”. De asemenea, el a prezis că omenirea va fi complet înlocuită de inteligența artificială în termen de 500 de ani dacă nu se va da dovadă de prudență în cercetarea și dezvoltarea acestei tehnologii periculoase. În urmă cu opt ani, în iulie 2015, peste 1.000 de experți în tehnologia inteligenței artificiale, inclusiv Stephen Hawking, Elon Musk, Noam Chomsky și alții, au semnat o petiție prin care avertizau cu privire la riscul unei curse a înarmărilor în domeniul IA militară și cereau o interdicție completă a armelor autonome (care combină IA și arme letale). Lansarea aplicației Chat GPT de către OpenAI în noiembrie 2022 a adăugat un alt semnal de alarmă cu privire la pericolele inerente ale inteligenței artificiale. De fapt, ceea ce face Chat GPT arată că IA, într-o oarecare măsură, a devenit mult mai periculoasă decât credeau oamenii odinioară.

Riscurile potențiale ale inteligenței artificiale depind de modul în care este utilizată. Inițial, IA a fost dezvoltată pentru a ajuta oamenii în munca lor, în special în sarcini plictisitoare și repetitive, cum ar fi clasificarea imaginilor și revizuirea informațiilor. Cu toate acestea, odată cu dezvoltarea rapidă a IA în ultima vreme, oamenii de știință și experții în tehnologie sunt îngrijorați că, dacă este dezvoltată necontrolat sau programată în scopuri greșite, inteligența artificială ar putea avea consecințe grave pentru umanitate și societate.

Riscul de insecuritate

Inteligența artificială ar putea deveni o amenințare la adresa securității naționale și a siguranței personale. Elon Musk a avertizat că IA ar putea deveni un instrument terifiant în război. Dacă o națiune poate dezvolta un sistem superior de inteligență artificială, l-ar putea folosi pentru a ataca alte națiuni. Profesorul Stuart Russell, profesor de informatică la Universitatea din California, care a petrecut decenii cercetând inteligența artificială, avertizează asupra amenințării la adresa securității reprezentate de IA, afirmând că acum putem produce arme autonome prin integrarea și miniaturizarea tehnologiilor existente.

Experimentul, realizat de profesorul Stuart Russell și de Institutul de Cercetare a Vieții Future (FLI), a folosit un robot-sălțător – un dispozitiv zburător microscopic echipat cu camere, senzori, software de procesare a imaginilor, recunoaștere facială, o încărcătură explozivă de 3 grame și un microprocesor de mare viteză care permite analiza datelor și reacții de 100 de ori mai rapide decât creierul uman. Conform parametrilor programați, robotul-sălțător accesează continuu datele din cloud pentru a căuta informații despre ținta sa și a găsi o modalitate de a se apropia de ea. Odată găsit, se va năpusti spre țintă cu viteză mare, va detona încărcătura explozivă de 3 grame și va pătrunde adânc în craniu, ucigând victima instantaneu.

Acesta a fost doar un experiment cu IA la cel mai simplu nivel. Dacă IA este folosită pentru a dezvolta metode de atac noi, mai sofisticate, ar putea, de asemenea, să crească capacitățile de atac ale atacatorilor și să ducă la consecințe mai grave decât atacurile convenționale. Atunci când IA se va dezvolta până la punctul în care își poate lua propriile decizii pentru a face față mediilor în schimbare sau pentru a căuta independent ținte alternative sau pentru a-și extinde raza de acțiune a țintelor, atunci poate că omenirea nu va mai fi în siguranță. Mulți colegi din acest domeniu sunt de acord cu profesorul Stuart Russell și cred că există încă o șansă de a preveni un viitor atât de sumbru, dar nu ne-a mai rămas mult timp.

Riscul este ca IA să devină organizată, autonomă și să controleze sistemul.

IA poate fi proiectată greșit sau „antrenată” necorespunzător prin învățarea automată, ceea ce poate duce la acțiuni neintenționate care dăunează oamenilor și mediului. De exemplu, prin învățarea automată, IA devine din ce în ce mai inteligentă. Atunci când inteligența artificială atinge un nivel de inteligență la care susține sisteme critice precum energia, transportul, asistența medicală și finanțele, aceasta poate stăpâni și controla aceste sisteme întregi, luând propriile decizii și executându-le în situații de urgență. Cu toate acestea, atunci când IA este „echipată” cu intenții rău intenționate (proiectată greșit), poate provoca consecințe grave, cum ar fi perturbarea sistemelor de trafic prin dezactivarea semafoarelor sau întreruperea alimentării cu energie a sistemelor feroviare urbane, provocând accidente în lanț și pene de curent pe scară largă.

Multe filme de la Hollywood și internaționale s-au bazat pe acest scenariu. Cu toate acestea, cu tehnologia actuală a inteligenței artificiale, aceasta nu mai este o perspectivă îndepărtată, ci este pe deplin posibilă. Elon Musk consideră că, dacă IA este lăsată să se dezvolte necontrolat, până la punctul în care poate automatiza deciziile fără intervenție umană, aceasta ar putea reprezenta o amenințare la adresa supraviețuirii umane. De aceea, el, împreună cu mii de experți în tehnologie, a semnat o scrisoare prin care solicită oprirea și un control strict asupra dezvoltării IA într-un mod transparent. Potrivit lui Elon Musk, sistemele de inteligență artificială sunt complexe, dificil de înțeles, iar controlul lor este foarte dificil. Fără transparență, utilizarea inteligenței artificiale în scopuri lipsite de etică, care cauzează daune umanității, este inevitabilă.

Risc de pierdere a locului de muncă, încălcarea drepturilor la viață privată.

Atunci când este utilizată pentru a colecta informații personale, tehnologia inteligenței artificiale poate fi folosită pentru a încălca confidențialitatea, a desfășura campanii de dezinformare și a răspândi informații false care afectează ordinea socială și stabilitatea politică. Piratarea rețelei Biroului de Management al Personalului din SUA (OPM) reprezintă o preocupare semnificativă pentru orice țară sau organizație, deoarece a compromis datele personale detaliate și extrem de sensibile a 21,5 milioane de oficiali americani actuali și pensionari, inclusiv informații despre soții/soțiile acestora și date despre aplicațiile pentru angajări guvernamentale, cum ar fi starea de sănătate, reședința, ocupația, amprentele digitale și informațiile financiare. Cu toate acestea, un fapt și mai alarmant a apărut atunci când CIA a descoperit că autorii furtului de date OPM au folosit inteligența artificială pentru a falsifica informații personale și a crea agenți virtuali pentru a fura date. Odată furate, informațiile vor fi analizate, clasificate și exploatate în scopuri specifice folosind tehnologia Big Data. Inteligența artificială îi ajută pe hoții de informații să scurteze timpul necesar exploatării datelor, deoarece oamenii sunt incapabili să proceseze o cantitate atât de masivă de informații într-un timp atât de scurt.

Pe lângă pericolele inerente menționate anterior, tehnologia IA creează și alte riscuri, cum ar fi: dependența excesivă de aceasta, ceea ce duce la pierderea controlului asupra situațiilor și la scăderea capacității decizionale. Inteligența artificială va cauza, de asemenea, pierderea locurilor de muncă de către milioane, chiar sute de milioane, de oameni, în special în locuri de muncă pur manuale, cu un conținut scăzut de cunoștințe. Consecința este că problemele sociale grave, cum ar fi șomajul, criminalitatea și decalajul dintre bogați și săraci, vor deveni și mai pronunțate. În plus, fiabilitatea este, de asemenea, o problemă crucială. Fiabilitatea deciziilor în domenii extrem de specializate, cum ar fi asistența medicală și justiția penală, este extrem de importantă. Atunci când se utilizează IA pentru a ajuta la luarea deciziilor în aceste domenii, dacă tehnologia nu este suficient de fiabilă, funcționează pe baza unor date care tind să favorizeze una sau un grup de persoane sau este distorsionată intenționat, aceste decizii au potențialul de a provoca consecințe grave.

Cum putem preveni acest lucru?

Riscurile menționate anterior sunt motivul pentru care Elon Musk și experții în tehnologie sunt îngrijorați de dezvoltarea necontrolată a IA și au scris scrisori prin care îndeamnă Organizația Națiunilor Unite și organizațiile internaționale să controleze cu strictețe, să asigure siguranța și etica în dezvoltarea IA și să consolideze cooperarea internațională pentru a se asigura că tehnologia IA este utilizată în mod benefic pentru umanitate și societate. Câteva măsuri specifice care ar putea fi menționate includ:

- Controlul fiabilității sistemului: IA trebuie proiectată și dezvoltată pentru a asigura siguranța și fiabilitatea prin metode riguroase, frecvente și continue de control al calității, monitorizare și supraveghere, pentru a se asigura că sistemul de IA funcționează conform așteptărilor umane și pentru a se evita impactul nedorit cauzat de lipsa de fiabilitate a acestuia.

Tehnologia inteligenței artificiale (IA) trebuie programată să funcționeze conform valorilor etice și normelor sociale. Aceste reglementări și standarde trebuie stabilite și monitorizate în mod clar pentru a se asigura că nu fac nimic dăunător sau în detrimentul persoanelor sau organizațiilor. Procesul de analiză, evaluare a impactului și monitorizare a performanței sistemului IA trebuie, de asemenea, efectuat în mod regulat pentru a se asigura că acesta funcționează etic, nu încalcă și nu erodează valorile comune ale societății, nu provoacă impacturi negative și asigură transmiterea corectă a cunoștințelor și valorilor.

Jurnalismul este una dintre industriile cele mai afectate de inteligența artificială. În viitor, nu va mai fi nevoie de prezentatori în afara ecranului pentru programele radio, iar prezentatorii virtuali pentru emisiunile de televiziune vor deveni chiar dominanți.

- Oprirea temporară a „antrenamentului” sistemelor de inteligență artificială timp de cel puțin șase luni pentru a reevalua întreaga problemă. Această pauză trebuie să fie publică, controlată, iar toate părțile interesate cheie implicate în instruire trebuie să se conformeze. Dacă este necesar, guvernele ar trebui să emită interdicții temporare. Aceasta nu înseamnă o oprire completă a dezvoltării IA, ci doar o pauză temporară în cursa periculoasă de a trece la alte modele de dezvoltare care fac sistemele IA mai precise, sigure, ușor de înțeles, transparente, relevante, fiabile și loiale. Aceasta este o soluție cuprinzătoare pe care Elon Musk și colegii săi au pledat-o în scrisoarea lor deschisă, dar fezabilitatea sa este scăzută. Este foarte dificil pentru toate laboratoarele independente să respecte un astfel de apel neobligatoriu și transnațional.

Consolidarea cooperării și a schimbului de informații între țări și organizațiile independente de cercetare în domeniul inteligenței artificiale este crucială pentru a asigura dezvoltarea și utilizarea în siguranță a inteligenței artificiale în viitor. Cooperarea și schimbul de informații permit, de asemenea, avertizări la timp și prevenirea oricăror riscuri emergente.

În general, inteligența artificială este deja prezentă peste tot în jurul nostru, iar povești precum cea despre inteligența artificială care scrie poezie, muzică și articole au devenit realitate, nu mai sunt science fiction. Autorul acestui articol a folosit tehnologia inteligenței artificiale pe computere și telefoane pentru a ajuta la scriere, făcând procesul mai fluid și mai rapid. Mai exact, paragraful introductiv (chapeau) și câteva idei au fost sugerate de inteligența artificială și, și mai remarcabil, toate imaginile folosite în acest articol au fost create de inteligența artificială. Tehnologia inteligenței artificiale este foarte utilă în îmbunătățirea calității muncii și a vieții oamenilor, dar trebuie să fie strict controlată pentru a preveni scăparea de sub control și devenirea unui potențial înlocuitor pentru oameni în viitor, așa cum a prezis fizicianul teoretician Stephen Hawking.

Text și fotografii: HUU DUONG

Sursă