Avertisment antropic

Anthropic tocmai a solicitat celor mai mari companii de inteligență artificială din lume să coordoneze o oprire temporară a dezvoltării următorului model avansat, avertizând că acesta ar putea scăpa de sub controlul uman.

Anthropic solicită o pauză în dezvoltarea de noi sisteme avansate de inteligență artificială. Foto: Bloomberg .

Într-o postare pe blog din 4 iunie, Anthropic a sugerat că încetinirea sau întreruperea dezvoltării inteligenței artificiale avansate la nivel mondial „ar putea fi un lucru bun”. Cu toate acestea, compania a avertizat că, dacă chiar și o singură entitate se oprește, concurenții vor continua să avanseze.

„Credem că lumea ar trebui să aibă opțiunea de a încetini sau de a întrerupe temporar dezvoltarea inteligenței artificiale avansate, astfel încât structurile sociale și cercetarea privind siguranța inteligenței artificiale să poată ține pasul cu viteza dezvoltării tehnologice”, a declarat Anthropic.

Ceea ce îi îngrijorează cel mai mult pe Anthropic este scenariul de „auto-îmbunătățire recursivă”, în care inteligența artificială proiectează, construiește și antrenează următoarea versiune a sa fără intervenție umană.

Articolul, scris în colaborare de Jack Clark și Marina Favaro, șefa institutului intern de cercetare al Anthropic, dezvăluie că peste 80% din codul care intră în sistemele companiei este scris în prezent de Claude. Inginerii finalizează de aproximativ opt ori mai mult cod pe trimestru decât înainte de 2025.

S-ar putea să vă placă și

Când este considerată partajarea unui link către o lucrare jurnalistică o încălcare a drepturilor de autor?În după-amiaza zilei de 24 iunie, directorul Departamentului de Radio, Televiziune și Informații Electronice a oferit informații despre cazurile care ar putea duce la încălcarea drepturilor de autor asupra operelor jurnalistice.

Polonia cheltuiește aproape 1 miliard de dolari pentru modernizarea sistemului său Patriot: Cât de formidabil este PAC-2 GEM-T?Polonia tocmai a finalizat un contract în valoare de 988 de milioane de dolari pentru achiziționarea de rachete PAC-2 GEM-T, transformând sistemul Patriot într-un scut de oțel cu rază lungă de acțiune, gata să distrugă orice țintă de la 150 km distanță.

Reprezentanții KOL trebuie să raporteze autorităților dacă observă că sunt promovate și alte produse de către aceștia.Responsabilitățile liderilor de opinie cheie (KOL) atunci când fac publicitate produselor pot să nu se încheie după semnarea unui contract sau postarea de conținut. Agențiile de reglementare au oferit recent explicații remarcabile pe această temă.

Acesta nu este doar un avertisment teoretic. Compania din spatele chatbot-ului Claude susține că, având suficientă putere de calcul și în ritmul actual de dezvoltare, un sistem de inteligență artificială ar putea proiecta și dezvolta propriul său succesor. Această etapă importantă ar aduce beneficii semnificative științei și medicinei , dar ar crește și riscul ca lucrurile să scape de sub controlul uman.

Pentru o pauză cu adevărat eficientă, este nevoie de un consens din partea multor companii importante de inteligență artificială din mai multe țări, în special din SUA și China. Anthropic a declarat că institutul său intern de cercetare va explora această problemă împreună cu alte părți și va lua diverse măsuri pentru a ajuta la construirea mecanismului pentru o restructurare cuprinzătoare.

Acest apel vine în timp ce Anthropic se pregătește pentru o listare la bursă, o tranzacție care ar putea evalua compania la aproape 1 trilion de dolari . Combinația dintre avertismentele privind siguranța inteligenței artificiale și ambițiile de pe piața bursieră creează un paradox remarcabil.

Nu este prima dată când un jucător important din domeniul inteligenței artificiale a cerut o pauză. În 2023, un grup care includea Elon Musk și numeroși cercetători în domeniul inteligenței artificiale a semnat o scrisoare prin care solicita o oprire a dezvoltării timp de șase luni, dar aceasta nu a dat rezultate tangibile.

S-ar putea să vă placă și

Prețurile iPhone 18 Pro și 18 Pro Max vor atinge niveluri record.iPhone 18 Pro și iPhone 18 Pro Max sunt așteptate să fie lansate în septembrie anul acesta. În timp ce zvonurile despre design, cameră și inteligența artificială atrag atenția lumii tehnologiei, un alt subiect „mai fierbinte” este prețul acestor dispozitive emblematice.

Microsoft își găsește propria cale în cursa inteligenței artificiale.VTV.vn - Microsoft dezvoltă propriile modele de inteligență artificială, dar acest lucru va necesita investiții semnificative în cipuri, centre de date și electricitate.

Când poate duce la distribuirea articolelor pe rețelele de socializare o amendă de până la 30 de milioane de VND?Ca răspuns la îngrijorările legate de sancțiunile pentru distribuirea de conținut jurnalistic pe rețelele de socializare, autoritățile au clarificat câteva cazuri comune care stârnesc multe controverse.

Sursă: https://znews.vn/anthropic-canh-bao-post1657460.html