Искусственный интеллект: темная сторона инструмента Whisper

Использование Whisper для создания субтитров для людей с нарушениями слуха также является серьезной проблемой, поскольку у них нет возможности обнаружить ложную информацию, скрытую среди миллионов сгенерированных слов.

В эпоху, когда искусственный интеллект (ИИ) становится неотъемлемой частью повседневной жизни, инструмент под названием Whisper, разработанный компанией OpenAI, привлек большое внимание благодаря своей способности автоматически делать заметки с почти «человеческой точностью».

Однако, несмотря на всеобщее признание, Whisper подвергается жесткой критике из-за серьезного недостатка: его способности автоматически фабриковать информацию, то есть генерировать текст или даже утверждения, которые никто никогда не писал.

По словам инженеров-программистов и исследователей, вымышленные детали не только вызывают путаницу, но и могут содержать расистские комментарии, грубую лексику и нереалистичные методы лечения .

Хотя OpenAI предупреждает, что инструмент не следует использовать в «зонах повышенного риска», многие медицинские учреждения по-прежнему активно используют Whisper для записи консультаций врачей и пациентов.

Фактически, недавнее исследование показало, что до 80% аудиозаписей публичных собраний содержали эти вымышленные детали. Инженер по машинному обучению также отметил, что анализ более 100 часов расшифровок Whisper показал, что около 50% из них содержат серьезные ошибки. Это вызывает опасения относительно надежности технологии, которая находит все более широкое применение.

Эксперты предупреждают, что ошибки могут иметь «действительно серьезные последствия», особенно в сфере медицины. Б

Алондра Нельсон, бывший директор Управления по научно -технической политике Белого дома, подчеркнула, что никто не хочет получить неправильный диагноз, и призвала к более высоким стандартам применения этой технологии.

Использование Whisper для создания субтитров для людей с нарушениями слуха также является серьезной проблемой, поскольку у них нет возможности обнаружить ложную информацию, скрытую среди миллионов сгенерированных слов.

Рост популярности художественных текстов побудил многих экспертов, активистов и бывших сотрудников OpenAI призвать федеральное правительство рассмотреть вопрос о регулировании ИИ.

Уильям Сондерс, инженер-исследователь из Сан-Франциско, считает, что эта проблема полностью разрешима, если OpenAI отдаст приоритет ее обработке.

OpenAI признала, что постоянно работает над минимизацией вымышленных деталей и ценит обратную связь от исследовательского сообщества.

Однако многие инженеры по-прежнему утверждают, что никогда не видели другого инструмента для создания заметок на основе ИИ с таким же уровнем фантастичности, как Whisper./.

(Вьетнамское информационное агентство/Вьетнам+)

Источник: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp