Antropikus figyelmeztetés

Az Anthropic felszólította a világ legnagyobb mesterséges intelligencia fejlesztő cégeit, hogy koordinálják a következő fejlett modell fejlesztésének ideiglenes leállítását, figyelmeztetve, hogy az kicsúszhat az emberi irányítás alól.

Az Anthropic szünetelteti az új, fejlett mesterséges intelligencia rendszerek fejlesztését. Fotó: Bloomberg .

Egy június 4-i blogbejegyzésben az Anthropic azt sugallta, hogy a fejlett mesterséges intelligencia fejlesztésének lassítása vagy szüneteltetése világszerte „jó dolog lehet”. A vállalat azonban figyelmeztetett, hogy ha akár egyetlen entitás is leáll, a versenytársak továbbra is előre fognak lépni.

„Úgy gondoljuk, hogy a világnak lehetősége kell legyen lelassítani vagy ideiglenesen szüneteltetni a fejlett mesterséges intelligencia fejlesztését, hogy a társadalmi struktúrák és a mesterséges intelligencia biztonságával kapcsolatos kutatások lépést tudjanak tartani a technológiai fejlődés sebességével” – mondta Anthropic.

Az Anthropicot leginkább a „rekurzív önfejlesztés” forgatókönyv aggasztja, ahol a mesterséges intelligencia emberi beavatkozás nélkül tervezi, építi és képezi ki saját következő verzióját.

A Jack Clark és Marina Favaro, az Anthropic belső kutatóintézetének vezetője által közösen írt cikkből kiderül, hogy a vállalat rendszereibe belépő kód több mint 80%-át jelenleg Claude írja. A mérnökök negyedévente körülbelül nyolcszor több kódot készítenek, mint 2025 előtt.

Lehet, hogy ez is tetszik

Felfedeztek egy olyan cápafajt, amely képes „járni” a víz alatt.Egy új sétálócápafajt fedeztek fel Pápua Új-Guinea sekély vizeiben. Ez a faj azonban a kihalás szélén állhat.

A Meta piacra dobja megfizethető árú okosszemüvegek termékcsaládját.VTV.vn - Egyre fokozódik a verseny a mesterséges intelligencia viselhető eszközökbe való integrálásáért.

A világbajnokság megtekintéséért fizetendő árA 2026-os világbajnokság egyre drágább tornává válik a történelemben, így a hétköznapi szurkolók számára egyre nehezebb lesz személyesen részt venni a mérkőzéseken és szurkolni a csapatuknak.

Ez nem csupán elméleti figyelmeztetés. A chatbot mögött álló Claude cég azt állítja, hogy megfelelő számítási kapacitással és a jelenlegi fejlesztési ütem mellett egy mesterséges intelligencia rendszer megtervezhetné és kifejleszthetné saját utódját. Ez a mérföldkő jelentős előnyökkel járna a tudomány és az orvostudomány számára, de növelné annak kockázatát is, hogy a dolgok kicsúsznak az emberi kontroll alól.

Egy valóban hatékony szünethez számos jelentős mesterséges intelligencia cég konszenzusára van szükség több országban, különösen az Egyesült Államokban és Kínában. Az Anthropic közölte, hogy belső kutatóintézete más felekkel együtt megvizsgálja ezt a kérdést, és különféle lépéseket tesz az átfogó szerkezetátalakítás mechanizmusának kiépítése érdekében.

Ez a hívás egy olyan időszakban érkezik, amikor az Anthropic egy tőzsdei bevezetés előtt áll, egy olyan ügyletben, amely közel 1 billió dolláros értéket képviselhet a vállalat számára. A mesterséges intelligencia biztonságával kapcsolatos figyelmeztetések és a tőzsdei ambíciók kombinációja figyelemre méltó paradoxont ​​teremt.

Ez nem az első alkalom, hogy egy jelentős szereplő a mesterséges intelligencia területén szüneteltetést sürget. 2023-ban egy Elon Muskot és számos MI-kutatót magában foglaló csoport levelet írt alá, amelyben a fejlesztés hat hónapos leállítását követelték, de ez nem hozott kézzelfogható eredményt.

Lehet, hogy ez is tetszik

A hegyvidéki területeken élők információszegénységének csökkentése érdekében az etnikai nyelvi programok reformja.A Cao Bang újságjai, rádió- és televízióállomásai továbbra is megújítják a formátumot és javítják az etnikai nyelvű kiadványok és műsorok tartalmának minőségét; növelik a tay nyelvű műsorok sugárzási idejét, hogy csökkentsék az információszegénységet a távoli területeken élők körében.

A közszolgálatot támogató mesterséges intelligencia platformokat új kritériumrendszer szerint értékelik.VTV.vn – Az értékelési kritériumok tartalmazzák az adatokkal, a biztonsággal, a vietnami nyelvű mesterséges intelligencia modellekel és az üzleti támogatási képességekkel kapcsolatos követelményeket.

Az iPhone 18 Pro és 18 Pro Max ára rekordmagasságokba fog emelkedni.Az iPhone 18 Pro és az iPhone 18 Pro Max várhatóan szeptemberben jelenik meg. Miközben a dizájnnal, a kamerával és a mesterséges intelligenciával kapcsolatos pletykák egyre inkább felkeltik a tech világ figyelmét, egy másik „forróbb” téma ezeknek a zászlóshajó készülékeknek az ára.

Forrás: https://znews.vn/anthropic-canh-bao-post1657460.html