Антропическое предупреждение

Издание Anthropic призвало крупнейшие мировые компании, занимающиеся искусственным интеллектом, скоординированно временно приостановить разработку следующей продвинутой модели, предупреждая, что она может выйти из-под контроля человека.

Антропологи призывают приостановить разработку новых передовых систем искусственного интеллекта. Фото: Bloomberg .

В сообщении в блоге от 4 июня компания Anthropic предположила, что замедление или приостановка развития передового искусственного интеллекта во всем мире «может быть полезной». Однако компания предупредила, что если хотя бы одна организация остановится, конкуренты продолжат двигаться вперед.

«Мы считаем, что у мира должна быть возможность замедлить или временно приостановить разработку передового искусственного интеллекта, чтобы социальные структуры и исследования в области безопасности ИИ могли идти в ногу со скоростью технологического развития», — заявили в Anthropic.

Больше всего компанию Anthropic беспокоит сценарий «рекурсивного самосовершенствования», когда ИИ проектирует, создает и обучает следующую версию самого себя без вмешательства человека.

В статье, написанной в соавторстве Джеком Кларком и Мариной Фаваро, руководителем внутреннего исследовательского института Anthropic, сообщается, что более 80% кода, поступающего в системы компании, в настоящее время пишет Клод. Инженеры выполняют примерно в восемь раз больше кода в квартал, чем до 2025 года.

Вам также может понравиться

Искусственный интеллект оказывает все большее давление на энергетическую отрасль.VHO - Искусственный интеллект и центры обработки данных, использующие ИИ, потребляют все больше электроэнергии и воды. Эксперты предупреждают, что стремительное развитие ИИ может усилить давление на окружающую среду и помешать усилиям по сокращению выбросов углекислого газа.

Применение цифровых технологий для сокращения информационной бедности среди этнических меньшинств.Департамент по делам этнических меньшинств и религий провинции Каобанг активно реализует проекты цифровой трансформации и применяет информационные технологии для улучшения доступа к знаниям и эффективного сокращения информационной бедности среди этнических меньшинств и населения горных районов.

Цены на iPhone 18 Pro и 18 Pro Max достигнут рекордных высот.Ожидается, что iPhone 18 Pro и iPhone 18 Pro Max поступят в продажу в сентябре этого года. Хотя слухи о дизайне, камере и искусственном интеллекте привлекают внимание в мире технологий, еще одной «горячей» темой является цена этих флагманских устройств.

Это не просто теоретическое предупреждение. Компания, разработавшая чат-бота Claude, утверждает, что при достаточной вычислительной мощности и нынешних темпах развития система искусственного интеллекта сможет спроектировать и разработать собственного преемника. Этот прорыв принесет значительные преимущества науке и медицине , но также увеличит риск того, что ситуация выйдет из-под контроля человека.

Для действительно эффективной паузы необходимо согласие многих крупных компаний, занимающихся искусственным интеллектом, из разных стран, особенно из США и Китая. Компания Anthropic заявила, что ее внутренний исследовательский институт изучит этот вопрос с другими сторонами и предпримет различные действия для создания механизма всесторонней реструктуризации.

Этот звонок прозвучал в тот момент, когда Anthropic готовится к IPO, сделке, которая может оценить компанию почти в 1 триллион долларов . Сочетание предупреждений о безопасности ИИ и амбиций на фондовом рынке создает поразительный парадокс.

Это не первый случай, когда крупный игрок в области ИИ призывает к паузе. В 2023 году группа, в которую входили Илон Маск и многочисленные исследователи ИИ, подписала письмо с призывом приостановить разработку на шесть месяцев, но это не принесло ощутимых результатов.

Вам также может понравиться

Обнаружен вид акул, способных «ходить» под водой.В мелководье Папуа-Новой Гвинеи обнаружен новый вид ходячей акулы. Однако этому виду грозит вымирание.

Цена, которую приходится платить за просмотр чемпионата мира по футболу.Чемпионат мира по футболу 2026 года становится самым дорогим турниром в истории, что делает возможность для обычных болельщиков посещать матчи и лично поддерживать свои команды все более недоступной.

У вьетнамских пользователей массово заблокировали учетные записи Adobe.Компания Adobe вызвала ажиотаж в творческом сообществе, аннулировав учетные записи Creative Cloud для многих клиентов, в том числе для тех, кто приобрел действительные лицензии.

Источник: https://znews.vn/anthropic-canh-bao-post1657460.html