Искусственный интеллект: темная сторона инструмента Whisper

Использование Whisper для создания субтитров для людей с нарушениями слуха также проблематично, поскольку у сервиса нет возможности обнаружить дезинформацию, скрытую среди миллионов сгенерированных слов.

В эпоху, когда искусственный интеллект (ИИ) становится неотъемлемой частью повседневной жизни, инструмент под названием Whisper, разработанный OpenAI, привлек большое внимание благодаря своей способности автоматически делать заметки с почти «человеческой точностью».

Однако, несмотря на восторженные отзывы, Whisper сталкивается с жесткой критикой из-за серьезного недостатка: его способности к самовымыслу, то есть к созданию текстов или даже утверждений, которые никто никогда не писал.

По словам инженеров-программистов и исследователей, вымышленные детали не только вызывают путаницу, но и могут содержать расистские комментарии, грубую лексику и нереалистичные методы лечения .

Хотя OpenAI предупреждает, что инструмент не следует использовать в «зонах повышенного риска», многие медицинские учреждения по-прежнему активно используют Whisper для записи консультаций врачей и пациентов.

Фактически, недавнее исследование показало, что до 80% аудиозаписей, использованных при опросе публичных собраний, содержали эти вымышленные детали. Инженер по машинному обучению также отметил, что анализ более 100 часов стенограмм Whisper показал, что около 50% из них содержали серьёзные ошибки, что вызывает опасения по поводу надёжности этой технологии, которая всё чаще используется.

Эксперты предупреждают, что ошибки могут привести к «действительно серьезным последствиям», особенно в сфере медицины.

Алондра Нельсон, бывший директор Управления научно -технической политики Белого дома, подчеркнула, что никто не хочет получить неправильный диагноз, и призвала к более высоким стандартам при применении этой технологии.

Использование Whisper для создания субтитров для людей с нарушениями слуха также проблематично, поскольку у сервиса нет возможности обнаружить дезинформацию, скрытую среди миллионов сгенерированных слов.

Рост популярности художественных текстов побудил многих экспертов, активистов и бывших сотрудников OpenAI призвать федеральное правительство рассмотреть вопрос о регулировании ИИ.

Уильям Сондерс, инженер-исследователь из Сан-Франциско, считает, что эта проблема вполне разрешима, если OpenAI сделает ее решение приоритетным.

OpenAI признала, что постоянно работает над минимизацией вымышленных деталей и ценит обратную связь от исследовательского сообщества.

Однако многие инженеры по-прежнему утверждают, что никогда не видели другого инструмента для создания заметок на основе ИИ, который имел бы такой высокий уровень художественности, как Whisper./.

(TTXVN/Вьетнам+)

Источник: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp

Комментарий (0)