Ihmisen tahrasta johtuva varoitus

Anthropic on juuri kehottanut maailman suurimpia tekoälyyrityksiä koordinoimaan väliaikaista pysäytystä seuraavan edistyneen mallin kehitykselle ja varoittanut, että se voi riistäytyä ihmisen hallinnasta.

Anthropic vaatii taukoa uusien edistyneiden tekoälyjärjestelmien kehittämisessä. Kuva: Bloomberg .

Kesäkuun 4. päivänä julkaistussa blogikirjoituksessa Anthropic ehdotti, että edistyneen tekoälyn kehityksen hidastaminen tai keskeyttäminen maailmanlaajuisesti "voisi olla hyvä asia". Yhtiö kuitenkin varoitti, että jos yksikin toimija pysähtyy, kilpailijat jatkavat eteenpäin.

"Uskomme, että maailmalla tulisi olla mahdollisuus hidastaa tai väliaikaisesti keskeyttää edistyneen tekoälyn kehitys, jotta yhteiskunnalliset rakenteet ja tekoälyn turvallisuutta koskeva tutkimus pysyvät teknologisen kehityksen vauhdissa", Anthropic sanoi.

Anthropicia huolestuttaa eniten "rekursiivinen itsensä kehittämisen" skenaario, jossa tekoäly suunnittelee, rakentaa ja kouluttaa seuraavan version itsestään ilman ihmisen puuttumista asiaan.

Jack Clarkin ja Anthropicin sisäisen tutkimuslaitoksen johtajan Marina Favaron yhdessä kirjoittama artikkeli paljastaa, että yli 80 % yrityksen järjestelmiin tulevasta koodista on tällä hetkellä Clauden kirjoittamaa. Insinöörit tekevät noin kahdeksan kertaa enemmän koodia neljännesvuosittain kuin ennen vuotta 2025.

Saatat myös pitää tästä

Jalkapallon MM-kisojen katsomisen hintaVuoden 2026 jalkapallon MM-kisoista on tulossa historian kallein turnaus, mikä tekee tavallisten fanien mahdollisuudesta osallistua otteluihin ja kannustaa joukkueitaan paikan päällä yhä vaikeammaksi.

Galaxy S27 Ultran hinnannousu on uhkaamassa järkyttävää nousua.Samsungilla on vaikea valinta Galaxy S27 Ultran suhteen: heikentää suorituskykyä ja menettää johtava asemansa tai joutua nostamaan lippulaivamallinsa hintaa.

KN-23B-ohjuksen kantama on 900 km, sen taistelukärki painaa 2,5 tonnia, ja se vastaa nykyaikaisen ilmapuolustuksen haasteisiin.KN-23B-ohjusvariantin esiinmarssi valtavan tuhovoimansa ansiosta muuttaa taktisen ohjussodankäynnin maisemaa ja haastaa kaikki nykyaikaiset ilmapuolustusjärjestelmät.

Tämä ei ole vain teoreettinen varoitus. Chatbot Clauden takana oleva yritys väittää, että riittävällä laskentateholla ja nykyisellä kehitysvauhdilla tekoälyjärjestelmä voisi suunnitella ja kehittää oman seuraajansa. Tämä virstanpylväs toisi merkittäviä hyötyjä tieteelle ja lääketieteelle , mutta se myös lisäisi riskiä, ​​että asiat karkaavat ihmisen hallinnasta.

Todella tehokkaan tauon aikaansaamiseksi tarvitaan monien suurten tekoälyyritysten yksimielisyys useissa maissa, erityisesti Yhdysvalloissa ja Kiinassa. Anthropic sanoi, että sen sisäinen tutkimuslaitos tutkii tätä asiaa muiden osapuolten kanssa ja ryhtyy erilaisiin toimiin auttaakseen rakentamaan mekanismia kattavaa uudelleenjärjestelyä varten.

Tämä puhelu tulee samaan aikaan kun Anthropic valmistautuu listautumisantiin, joka voisi arvostaa yhtiön lähes biljoonaa dollaria . Tekoälyn turvallisuuteen liittyvät varoitukset ja osakemarkkinapyrkimykset luovat yhdistelmän merkittävää paradoksia.

Tämä ei ole ensimmäinen kerta, kun tekoälyalan merkittävä toimija on vaatinut taukoa. Vuonna 2023 ryhmä, johon kuului Elon Musk ja lukuisia tekoälytutkijoita, allekirjoitti kirjeen, jossa vaadittiin kuuden kuukauden kehitystaukoa, mutta se ei tuottanut konkreettisia tuloksia.

Saatat myös pitää tästä

Milloin journalistiseen teokseen linkin jakamista pidetään tekijänoikeusrikkomuksena?Radio-, televisio- ja sähköisen tiedon osaston johtaja antoi 24. kesäkuuta iltapäivällä tietoja tapauksista, jotka voivat johtaa journalististen teosten tekijänoikeusrikkomuksiin.

KOL-yritysten on ilmoitettava viranomaisille, jos he näkevät mainostavansa muita tuotteita.Mielipidevaikuttajien (KOL) vastuut tuotteita mainostettaessa eivät välttämättä pääty sopimuksen allekirjoittamisen tai sisällön julkaisemisen jälkeen. Sääntelyviranomaiset ovat äskettäin antaneet tästä asiasta huomionarvoisia selityksiä.

Historian kalleimmalla pelillä on virallinen hinta.Toisin kuin monissa huhuissa, Grand Theft Auto VI:n hinta alkaa 80 dollarista, mikä on verrattavissa joihinkin viimeaikaisiin menestyspeleihin.

Lähde: https://znews.vn/anthropic-canh-bao-post1657460.html