Antropické varování

Společnost Anthropic právě vyzvala největší světové společnosti zabývající se umělou inteligencí, aby koordinovaly dočasné zastavení vývoje dalšího pokročilého modelu, a varovala, že by se mohl vymknout lidské kontrole.

Anthropic volá po pozastavení vývoje nových pokročilých systémů umělé inteligence. Foto: Bloomberg .

V blogovém příspěvku ze 4. června společnost Anthropic naznačila, že zpomalení nebo pozastavení vývoje pokročilé umělé inteligence na celém světě „by mohlo být dobrou věcí“. Společnost však varovala, že pokud se zastaví byť jen jeden subjekt, konkurenti budou pokračovat v postupu.

„Věříme, že by svět měl mít možnost zpomalit nebo dočasně pozastavit vývoj pokročilé umělé inteligence, aby sociální struktury a výzkum v oblasti bezpečnosti umělé inteligence mohly držet krok s rychlostí technologického rozvoje,“ uvedl Anthropic.

Nejvíce Anthropic znepokojuje scénář „rekurzivního sebezdokonalování“, kdy umělá inteligence navrhuje, vytváří a trénuje další verzi sebe sama bez lidského zásahu.

Článek, jehož spoluautory jsou Jack Clark a Marina Favaro, vedoucí interního výzkumného institutu společnosti Anthropic, odhaluje, že více než 80 % kódu vstupujícího do systémů společnosti v současnosti píše Claude. Inženýři dokončují přibližně osmkrát více kódu za čtvrtletí než před rokem 2025.

Mohlo by vás zajímat

Ceny iPhonu 18 Pro a 18 Pro Max dosáhnou rekordních maxim.Očekává se, že iPhone 18 Pro a iPhone 18 Pro Max budou uvedeny na trh letos v září. Zatímco zvěsti o designu, fotoaparátu a umělé inteligenci přitahují pozornost technologického světa, dalším „žhavějším“ tématem je cena těchto vlajkových zařízení.

Vietnamským uživatelům byly hromadně zablokovány účty Adobe.Společnost Adobe způsobila v kreativní komunitě rozruch zrušením účtů Creative Cloud mnoha zákazníkům, včetně těch, kteří si zakoupili platné licence.

Investice do posílení kapacity biotechnologických laboratoří.Rozhodnutí č. 1355/QD-BCT jasně uvádí, že výběr, investice do modernizace a rozvoje laboratoří a výzkumných center sloužících rozvoji biotechnologického průmyslu budou pokračovat.

Nejde jen o teoretické varování. Společnost stojící za chatbotem Claudem tvrdí, že s dostatečným výpočetním výkonem a při současném tempu vývoje by systém umělé inteligence mohl navrhnout a vyvinout svého vlastního nástupce. Tento milník by sice přinesl značné výhody vědě a medicíně , ale také by zvýšil riziko, že se věci vymknou lidské kontrole.

Pro skutečně efektivní pauzu je nutný konsenzus mnoha významných společností zabývajících se umělou inteligencí v různých zemích, zejména v USA a Číně. Společnost Anthropic uvedla, že její interní výzkumný ústav tuto otázku prozkoumá s dalšími stranami a podnikne různé kroky, které pomohou vybudovat mechanismus pro komplexní restrukturalizaci.

Tato výzva přichází v době, kdy se Anthropic připravuje na IPO, což by mohlo firmu ohodnotit téměř na 1 bilion dolarů . Kombinace varování ohledně bezpečnosti umělé inteligence a ambicí akciového trhu vytváří pozoruhodný paradox.

Není to poprvé, co významný hráč v oblasti umělé inteligence vyzval k pozastavení vývoje. V roce 2023 podepsala skupina včetně Elona Muska a řady výzkumníků v oblasti umělé inteligence dopis požadující šestiměsíční pozastavení vývoje, ale nepřineslo to žádné hmatatelné výsledky.

Mohlo by vás zajímat

Vietnamská mládež je průkopníky digitalizace a modernizace místních produktů OCOP.VHO - V rámci 13. národního kongresu Vietnamského svazu mládeže, který se konal v Hanoji, se výstavní prostor s tématem „Vlak do nové éry“ stal živým místem setkávání, které jasně odráží ducha odhodlání a kreativity vietnamské mládeže.

Da Nang: Úředníci a učitelé se procházejí lesy a potoky, aby se zúčastnili kurzů umělé inteligence.Vzhledem k nedostatku lidských zdrojů, rozsáhlé geografické oblasti a omezené infrastruktuře se umělá inteligence může stát praktickým nástrojem na podporu vlády i vzdělávacího sektoru.

Hanoj ​​buduje inteligentní centrum pro reakci na mimořádné události.DNVN - Hanojský lidový výbor schválil projekt na využití technologie internetu věcí (IoT) v oblasti dispečinku sanitek a vybudování inteligentního operačního centra pro nouzové situace na období 2026–2030 s cílem rozšířit síť přednemocniční pohotovostní péče, zvýšit počet sanitek na přibližně 160 a zlepšit přístup obyvatel k pohotovostním službám.

Zdroj: https://znews.vn/anthropic-canh-bao-post1657460.html