Антропне попередження

Anthropic щойно закликав найбільші світові компанії зі штучного інтелекту скоординувати тимчасову зупинку розробки наступної вдосконаленої моделі, попереджаючи, що вона може вийти з-під контролю людини.

Anthropic закликає до паузи в розробці нових передових систем штучного інтелекту. Фото: Bloomberg .

У дописі в блозі від 4 червня Anthropic припустила, що уповільнення або призупинення розвитку передового штучного інтелекту в усьому світі «може бути корисним». Однак компанія попередила, що якщо навіть одна організація зупиниться, конкуренти продовжать рухатися вперед.

«Ми вважаємо, що світ повинен мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб соціальні структури та дослідження безпеки штучного інтелекту могли йти в ногу зі швидкістю технологічного розвитку», – сказав Anthropic.

Найбільше Anthropic непокоїть сценарій «рекурсивного самовдосконалення», коли штучний інтелект проектує, створює та навчає наступну версію себе без втручання людини.

У статті, написаній у співавторстві з Джеком Кларком та Мариною Фаваро, керівником внутрішнього дослідницького інституту Anthropic, зазначається, що понад 80% коду, який надходить до систем компанії, наразі пише Клод. Інженери щоквартально виконують приблизно у вісім разів більше коду, ніж до 2025 року.

Вам також може сподобатися

Коли поширення статей у соціальних мережах може призвести до штрафу до 30 мільйонів донгів?У відповідь на занепокоєння щодо покарань за поширення журналістського контенту в соціальних мережах, влада роз'яснила кілька поширених випадків, які викликають багато суперечок.

Як ранжуються та класифікуються в'єтнамські KOL?Завдяки реальним даним із соціальних мереж та багаторівневому механізму перевірки, Національний портал KOL прагне стати прозорим еталоном для в'єтнамського ринку інфлюенсерів.

Застосування цифрових технологій для зменшення інформаційної бідності етнічних меншин.Департамент у справах етнічних меншин та релігій провінції Каобанг активно впроваджує проекти цифрової трансформації та застосовує інформаційні технології для покращення доступу до знань та ефективного сприяння зменшенню інформаційної бідності серед етнічних меншин та людей у ​​гірських районах.

Це не просто теоретичне попередження. Компанія, яка стоїть за чат-ботом Claude, стверджує, що за наявності достатньої обчислювальної потужності та за нинішніх темпів розвитку, система штучного інтелекту могла б спроектувати та розробити свого власного наступника. Ця віха принесла б значні переваги науці та медицині , але також збільшила б ризик того, що ситуація вийде з-під контролю людини.

Для справді ефективної паузи потрібен консенсус багатьох великих компаній у сфері штучного інтелекту в різних країнах, зокрема в США та Китаї. Anthropic заявила, що її внутрішній дослідницький інститут вивчить це питання з іншими сторонами та вживе різних заходів, щоб допомогти створити механізм комплексної реструктуризації.

Цей заклик пролунав у той час, як Anthropic готується до IPO, угоди, яка може оцінити компанію майже в 1 трильйон доларів . Поєднання попереджень щодо безпеки штучного інтелекту та амбіцій фондового ринку створює вражаючий парадокс.

Це не перший випадок, коли великий гравець у сфері штучного інтелекту закликає до паузи. У 2023 році група, до складу якої входили Ілон Маск та численні дослідники штучного інтелекту, підписала лист із закликом до шестимісячної зупинки розробки, але це не дало жодних відчутних результатів.

Вам також може сподобатися

Гіа Лай прийматиме Квантовий рік 2026, відкриваючи шляхи для розвитку високих технологій.DNVN – Очікується, що Квантовий рік Gia Lai 2026, що проводиться під гаслом «Квантова зв’язність – опанування технологій – проривний розвиток», створить нову віху в розвитку науки, технологій та інновацій, а також відкриє можливості для об’єднання підприємств, університетів, експертів та інвесторів у передові технологічні галузі.

В'єтнамські користувачі масово заблокували свої облікові записи Adobe.Компанія Adobe викликала ажіотаж у творчій спільноті, скасувавши облікові записи Creative Cloud для багатьох клієнтів, зокрема для тих, хто придбав дійсні ліцензії.

Польща витрачає майже мільярд доларів на модернізацію своєї системи Patriot: наскільки потужною є PAC-2 GEM-T?Польща щойно завершила укладення контракту на 988 мільйонів доларів на закупівлю ракет PAC-2 GEM-T, що перетворюють систему Patriot на сталевий щит великої дальності, готовий знищити будь-яку ціль на відстані 150 км.

Джерело: https://znews.vn/anthropic-canh-bao-post1657460.html