„Părintele” chat-ului GPT își împărtășește cea mai mare frică legată de inteligența artificială

„Cea mai mare teamă a mea este că vom provoca daune grave – noi, acest domeniu, industria tehnologică – lumii . Cred că acest lucru s-ar putea întâmpla în mai multe moduri diferite. De aceea am înființat această companie”, a declarat Altman în timpul unei audieri în fața Subcomisiei Judiciare a Senatului pentru Confidențialitate, Tehnologie și Drept, pe 16 mai.

Cea mai mare frică: IA poate greși

„Oamenii cred că, dacă această tehnologie merge prost, ar putea merge prost, iar noi vrem să fim atenți la acest lucru. Vrem să colaborăm cu guvernul pentru a preveni acest lucru”, a declarat Altman, CEO al OpenAI (dezvoltatorul ChatGPT).

CEO-ul OpenAI, Sam Altman, depune jurământul în timpul unei audieri în fața Subcomisiei Judiciare a Senatului. (Foto: Washington Post)

În prima sa mărturie în fața Congresului , Altman a cerut, de asemenea, o reglementare amplă, inclusiv o nouă agenție guvernamentală responsabilă de licențierea modelelor de inteligență artificială, pentru a aborda preocupările tot mai mari că inteligența artificială ar putea distorsiona realitatea și crea riscuri de siguranță fără precedent.

Dl. Altman a adoptat o poziție serioasă cu privire la modul în care inteligența artificială ar putea „cauza daune semnificative lumii” și și-a exprimat dorința de a colabora cu legislatorii pentru a aborda riscurile prezentate de ChatGPT și alte instrumente de inteligență artificială ale companiei sale.

Dl. Altman a subliniat comportamentele „riscante” facilitate de tehnologii precum ChatGPT, inclusiv răspândirea „dezinformării interactive live” și manipularea emoțională. El a recunoscut că inteligența artificială ar putea fi utilizată pentru a viza atacurile cu drone.

„Dacă această tehnologie merge prost, ar putea fi rea”, a spus el.

Totuși, în timpul a aproape trei ore de discuții despre potențialele consecințe grave, dl. Altman a insistat că firma sa va continua să implementeze tehnologia inteligenței artificiale.

În loc să își asume un risc, susține el, „implementările iterative” ale modelelor de inteligență artificială OpenAI oferă organizațiilor timp să înțeleagă potențialele amenințări, o mișcare strategică care pune în lume tehnologie „relativ slabă” și „imperfectă” pentru a ajuta la descoperirea riscurilor de siguranță asociate.

Ilustrație a aplicației ChatGPT, care permite computerelor să discute cu utilizatorii ca și cum ar fi oameni.

În ultimele săptămâni, dl. Altman a participat la un turneu global de promovare a bunăvoinței, întâlnindu-se în privat cu factori de decizie politică, inclusiv președintele Biden și membri ai Congresului, pentru a aborda preocupările legate de implementarea rapidă a ChatGPT și a altor tehnologii.

Audierea din 16 mai marchează prima șansă pentru publicul larg de a-i auzi mesajul, într-un moment în care Washingtonul se luptă din ce în ce mai mult să reglementeze o tehnologie care a perturbat locurile de muncă, a facilitat frauda și a răspândit dezinformări.

În contrast puternic cu audierile cu alți directori generali din domeniul tehnologiei, precum Shou Zi Chew de la TikTok și Mark Zuckerberg de la Meta, legislatorii americani l-au primit relativ călduros pe dl Altman.

Păreau să fie în modul de ascultare, exprimându-și deschiderea pentru a lua în considerare sugestiile lui Altman și ale altor doi martori prezenți la audiere: directorul executiv IBM Christina Montgomery și profesorul emerit de la Universitatea din New York Gary Marcus.

În timpul unei audieri a Subcomisiei Judiciare a Senatului pentru Confidențialitate, Tehnologie și Drept, parlamentarii și-au exprimat îngrijorarea profundă cu privire la dezvoltarea rapidă a inteligenței artificiale, argumentând că progresele recente ar putea fi mai transformatoare decât internetul sau la fel de periculoase ca bomba atomică.

„Aceasta este ocazia voastră de a ne spune cum să facem asta corect”, le-a spus senatorul John Neely Kennedy martorilor. „Folosiți-o.”

Legislatorii ambelor partide și-au exprimat deschiderea față de ideea creării unei agenții guvernamentale însărcinate cu reglementarea dezvoltării inteligenței artificiale, deși eforturile anterioare de a crea o agenție specifică sub supravegherea Silicon Valley au eșuat în Congres, deoarece partidele au fost divizate cu privire la modul de modelare a unei agenții atât de masive.

Nu este clar dacă o astfel de propunere ar câștiga un sprijin larg în rândul republicanilor, care sunt în general precauți în ceea ce privește extinderea puterii guvernamentale. Senatorul Josh Hawley, republican din Missouri, a avertizat că o astfel de agenție ar putea fi „prinsă în capcană de interesele pe care ar trebui să le reglementeze”.

Senatorul Richard Blumenthal, președintele subcomisiei, a lăudat mărturia domnului Altman la audiere: „Sam Altman este cu o lume aparte față de alți directori generali... Nu doar prin cuvintele și retorica sa, ci și prin acțiunile sale concrete și prin dorința sa de a se implica și de a se angaja în acțiuni concrete.”

Audierea cu CEO-ul Altman are loc în contextul în care factorii de decizie din Washington sunt din ce în ce mai îngrijorați de amenințările reprezentate de inteligența artificială, cum ar fi ChatGPT și alte instrumente inovatoare de inteligență artificială, în special în ceea ce privește dezinformarea, confidențialitatea datelor, încălcarea drepturilor de autor și securitatea cibernetică.

Legislatorii și-au exprimat regretul față de abordarea lor relativ laxă față de industria inteligenței artificiale încă dinaintea alegerilor din 2016. Prima lor audiere cu CEO-ul Meta, Zuckerberg, a avut loc în 2018, când Facebook era deja un gigant și proaspăt ieșit din scandalul Cambridge Analytica, care a colectat date de la 87 de milioane de utilizatori Facebook.

La acea vreme, în ciuda unui larg consensu bipartizan conform căruia IA reprezenta o amenințare, legiuitorii nu au reușit să convină asupra regulilor care să guverneze utilizarea sau dezvoltarea acesteia.

(Sursa: Tin Tuc Newspaper/Fox News; Washington Post)

Util
Emoţie
Creativ
Unic
Mânie

Sursă: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html