Găsirea unor standarde de siguranță pentru inteligența artificială

SGGP 31 iulie 2023 09:35

După ce Europa a început să elaboreze și a lansat în scurt timp prima lege din lume privind inteligența artificială (IA), cei patru giganți americani de top ai mineritului de date pe internet tocmai au lansat un grup numit Frontier Model Forum.

Scopul principal al Forumului Frontier Model este de a promova IA în mod responsabil. Foto: THINKWITHNICHE

Părțile se apropie

Grupul, care include Anthropic, Google, Microsoft și OpenAI, proprietarul ChatGPT, a declarat că obiectivele principale ale Frontier Model Forum sunt de a contribui la reducerea riscurilor prezentate de platformele de inteligență artificială și de a dezvolta standarde industriale. Frontier Model Forum va crea un nou forum cu următoarele obiective principale: promovarea cercetării în domeniul siguranței inteligenței artificiale pentru a sprijini dezvoltarea, atenuarea riscurilor și standardizarea evaluărilor și nivelurilor de siguranță; identificarea celor mai bune practici pentru dezvoltarea și implementarea modelelor; ajutarea publicului să înțeleagă natura, capacitățile, limitele și impactul tehnologiei; și colaborarea cu factorii de decizie, cadrele universitare, societatea civilă și companiile pentru a împărtăși cunoștințe despre riscuri și siguranță.

Giganții tehnologici s-au opus în mod tradițional creșterii reglementărilor, dar de data aceasta, industria tehnologică și-a schimbat, în general, poziția față de îngrijorările tot mai mari legate de riscurile pe care le prezintă inteligența artificială. Companiile implicate în inițiativa Frontier Model Forum s-au angajat să împărtășească cele mai bune practici între companii și să pună informațiile la dispoziția publicului guvernelor și societății civile.

Mai exact, Frontier Model Forum se va concentra pe platforme de învățare automată la scară largă, dar încă incipiente, care duc inteligența artificială la noi niveluri de sofisticare – ceea ce reprezintă, de asemenea, un factor de risc potențial. În plus, Frontier Model Forum va sprijini, de asemenea, dezvoltarea de aplicații care abordează provocări societale majore, cum ar fi: atenuarea și adaptarea la schimbările climatice, detectarea și prevenirea precoce a cancerului și combaterea amenințărilor cibernetice.

Loc pentru o potențială distrugere

Anunțul făcut de companiile americane privind Frontier Model Forum vine la câteva zile după ce senatorii americani au avertizat pe 25 iulie cu privire la riscul ca inteligența artificială să fie utilizată pentru atacuri biologice, în cadrul unei audieri în fața unui subcomitet al Comisiei Judiciare a Senatului SUA. Recent, șapte companii importante de tehnologie, inclusiv OpenAI, Alphabet și Meta, s-au angajat în mod voluntar față de Casa Albă să dezvolte un sistem de identificare a întregului conținut, de la text, imagini, audio la video, creat de inteligența artificială, pentru a asigura transparența pentru utilizatori și pentru a se asigura că această tehnologie este mai sigură.

Dario Amodei, CEO al AI Anthropic, a remarcat că, deși IA nu este încă capabilă să creeze arme biologice, aceasta reprezintă un risc „pe termen mediu” și o amenințare serioasă la adresa securității naționale a SUA în următorii doi sau trei ani. Motivul este că subiecții care comit atacuri cu arme biologice la scară largă nu se mai limitează la cei cu cunoștințe specializate în acest domeniu.

Lumea se confruntă cu o explozie de conținut creat de tehnologia inteligenței artificiale generative. Din SUA, Europa până în Asia, controalele se înăspresc treptat. Potrivit CNN, începând din septembrie, Senatul SUA va organiza o serie de nouă ateliere suplimentare pentru ca membrii să învețe despre modul în care inteligența artificială poate afecta locurile de muncă, securitatea națională și proprietatea intelectuală. Înaintea SUA, dacă se ajunge la un acord, Uniunea Europeană va avea prima lege din lume privind gestionarea inteligenței artificiale anul viitor, care se așteaptă să intre în vigoare din 2026.

Beneficiile pe care inteligența artificială le aduce societății sunt incontestabile, dar există tot mai multe avertismente cu privire la riscurile potențiale ale acestei noi tehnologii. În iunie, secretarul general al ONU, Antonio Guterres, a susținut o propunere din partea mai multor directori executivi din domeniul inteligenței artificiale de a înființa un organism internațional de supraveghere a inteligenței artificiale, similar Agenției Internaționale pentru Energie Atomică (AIEA).

În cadrul Forumului Frontier Model, președintele Microsoft, Brad Smith, a declarat că inițiativa este un pas important în reunirea companiilor de tehnologie pentru a promova utilizarea responsabilă a inteligenței artificiale în beneficiul întregii umanități. În mod similar, vicepreședintele OpenAI pentru afaceri globale, Anna Makanju, a declarat că tehnologia avansată de inteligență artificială are potențialul de a aduce beneficii profunde societății, iar acest lucru necesită supraveghere și guvernanță.

Sursă