Tratează IA ca pe o armă biologică, nu ca pe o bombă nucleară!

Recent, Gizmodo.com, un site web de tehnologia informației specializat în actualizarea știrilor de ultimă oră despre tendințele tehnologice de renume mondial , a publicat o analiză despre modul în care oamenii ar trebui să trateze tehnologia inteligenței artificiale (IA).

Chuyên gia Mỹ: Hãy đối xử với AI như vũ khí sinh học, không phải bom hạt nhân! (Nguồn: gizmodo.com)

Ilustrație a unui apel de a trata inteligența artificială ca pe o armă biologică. (Sursa: gizmodo.com)

În articolul „ Tratați IA ca pe o armă biologică, nu ca pe o armă nucleară” de Emilia Javorsky, doctor- om de știință și directoare a Institutului Future of Life (SUA), autoarea susține că, în ciuda faptului că lumea a comparat recent în mod repetat IA cu bombele nucleare, există o abordare mai potrivită, și anume reglementarea acestui tip de tehnologie ca pe o armă biologică sau biotehnologie.

Potrivit autorului, IA este probabil cea mai puternică tehnologie din istoria omenirii pe care oamenii o dezvoltă astăzi. Efectele nocive ale IA, inclusiv discriminarea, amenințările la adresa democrației și concentrarea influenței, au fost bine documentate.

Totuși, companiile de top din domeniul inteligenței artificiale se întrec în a construi sisteme de inteligență artificială din ce în ce mai puternice, escaladând riscurile într-un ritm fără precedent în istoria omenirii.

Pe măsură ce liderii se confruntă cu modalități de a limita și controla ascensiunea IA și a riscurilor asociate acesteia, aceștia trebuie să ia în considerare aceleași reguli și standarde pe care omenirea le-a folosit pentru a o crea în trecut.

Adaptarea și inovația pot coexista, mai ales atunci când sunt în joc vieți omenești.

Un avertisment din partea tehnologiei nucleare

Deși energia nucleară este de peste 600 de ori mai sigură decât petrolul în ceea ce privește mortalitatea și este enorm de eficientă, puține țări o utilizează din cauza consecințelor pe care le-au văzut în urma abordării îndelungate a energiei nucleare.

Lumea a aflat despre tehnologia nucleară sub forma bombei atomice și a bombei cu hidrogen. Cu aceste arme, pentru prima dată în istorie, oamenii au dezvoltat o tehnologie capabilă să pună capăt civilizației umane, produsul unei curse a înarmărilor care a prioritizat viteza și inovația în detrimentul siguranței și controlului.

Eșecurile ulterioare în domeniul siguranței tehnice și al managementului riscurilor, cunoscute pentru dezastrele nucleare de la Cernobîl și Fukushima, au distrus orice șansă ca oamenii să accepte aspectele pozitive ale energiei nucleare.

În ciuda evaluării generale favorabile a riscurilor energiei nucleare și a deceniilor de oameni de știință care lucrează pentru a convinge lumea de viabilitatea acesteia, însuși conceptul de „nuclear” rămâne... viciat.

Atunci când o tehnologie provoacă daune în stadiile incipiente, conștientizarea socială și reacția exagerată pot limita permanent potențialele sale beneficii. Din cauza unor erori timpurii în ceea ce privește energia nucleară, omenirea nu a putut profita de sursa sa de energie curată și sigură, iar neutralitatea carbonului și stabilitatea energetică rămân o iluzie.

Abordarea corectă a biotehnologiei

Totuși, în unele domenii, oamenii au înțeles corect. Biotehnologia este un astfel de domeniu, încurajat să se dezvolte rapid în contextul multor pacienți care suferă și mulți mor în fiecare zi din cauza unor boli care nu au leac.

Etosul acestei cercetări nu este de a „ne mișca rapid și a distruge lucrurile”, ci de a inova cât mai repede și în siguranță posibil. Oamenii limitează ritmul inovației în acest domeniu printr-un sistem de reglementări, etică și norme care protejează bunăstarea societății și a indivizilor și protejează industria de a fi paralizată de reacții adverse care ar putea duce la dezastru.

Când armele biologice au fost interzise la Convenția privind Armele Biologice în timpul Războiului Rece, superputerile adverse au convenit că crearea unor astfel de arme nu era în interesul nimănui. Liderii au înțeles că aceste tehnologii dificil de controlat, dar foarte accesibile, nu ar trebui privite ca un mecanism de câștigare a cursei înarmărilor, ci ca o amenințare la adresa umanității însăși.

Emilia Javorsky este unul dintre oamenii de știință care au semnat recent o scrisoare deschisă prin care pledează pentru un moratoriu de șase luni asupra dezvoltării inteligenței artificiale. De asemenea, ea a semnat o declarație în care avertizează că inteligența artificială reprezintă un „risc de dispariție” pentru umanitate.

Pauza în cursa armelor biologice le permite oamenilor să le dezvolte într-un ritm responsabil, oamenii de știință și autoritățile de reglementare aplicând standarde stricte oricărei inovații noi care ar putea dăuna oamenilor.

Aceste ajustări nu au fost fără costuri, ci au stabilit și o bioeconomie , cu numeroase aplicații în domenii, de la energia curată la agricultură.

În timpul pandemiei de Covid-19, biologii au aplicat tehnologia ARNm pentru a produce vaccinuri eficiente cu o viteză fără precedent în istoria omenirii.

Un sondaj recent realizat în rândul cercetătorilor din domeniul inteligenței artificiale a constatat că 36% dintre respondenți considerau că inteligența artificială ar putea provoca un dezastru la nivel nuclear. Cu toate acestea, răspunsurile și reglementările guvernamentale au fost lente, ceea ce nu este în concordanță cu ritmul de adoptare a tehnologiei, aplicația ChatGPT depășind acum 100 de milioane de utilizatori.

Riscurile în creștere rapidă ale inteligenței artificiale au determinat 1.800 de directori generali și 1.500 de profesori din SUA să semneze recent o scrisoare prin care solicită o pauză de șase luni în dezvoltarea inteligenței artificiale și un proces urgent de reglementare și atenuare a riscurilor. Această pauză ar oferi comunității globale timp pentru a limita daunele cauzate de inteligența artificială și pentru a preveni riscul unui dezastru ireversibil pentru societatea noastră.

În timp ce evaluăm riscurile și potențialele daune ale IA, trebuie să luăm în considerare și cum să evităm să pierdem din vedere potențialul pozitiv al acestei tehnologii. Dacă dezvoltăm IA în mod responsabil acum, vom putea culege beneficii incredibile de pe urma acestei tehnologii. De exemplu, beneficiile aplicării IA la descoperirea și dezvoltarea de medicamente, îmbunătățirea calității și a costului asistenței medicale și creșterea accesului la medici și tratament medical.

DeepMind, dezvoltat de Google, a demonstrat că inteligența artificială are potențialul de a rezolva probleme fundamentale din biologie pe care oamenii le-au evitat de mult timp. Conform studiului, inteligența artificială ar putea accelera realizarea tuturor Obiectivelor de Dezvoltare Durabilă ale Națiunilor Unite, îndreptând omenirea către un viitor cu o sănătate îmbunătățită, echitate, prosperitate și pace.

Este timpul ca comunitatea globală să se unească, așa cum a făcut-o acum 50 de ani la Convenția privind Armele Biologice, pentru a se asigura că dezvoltarea IA este sigură și responsabilă. Dacă nu acționăm curând, riscăm să distrugem viitorul luminos al IA și propria noastră societate actuală.

Sursă