Использование Whisper для создания субтитров для людей с нарушениями слуха также является серьезной проблемой, поскольку у них нет возможности обнаружить ложную информацию, скрытую среди миллионов сгенерированных слов.
В эпоху, когда искусственный интеллект (ИИ) становится неотъемлемой частью повседневной жизни, инструмент под названием Whisper, разработанный компанией OpenAI, привлек большое внимание благодаря своей способности автоматически делать заметки с почти «человеческой точностью».
Однако, несмотря на всеобщее признание, Whisper сталкивается с жесткой критикой из-за серьезного недостатка: его способности автоматически фабриковать информацию, то есть генерировать текст или даже утверждения, которые никто никогда не писал.
По словам инженеров-программистов и исследователей, вымышленные детали не только вызывают путаницу, но и могут содержать расистские комментарии, грубую лексику и нереалистичные методы лечения .
Хотя OpenAI предупреждает, что инструмент не следует использовать в «зонах повышенного риска», многие медицинские учреждения по-прежнему активно используют Whisper для записи консультаций врачей и пациентов.
Фактически, недавнее исследование показало, что до 80% записей публичных собраний содержали эти вымышленные детали. Инженер по машинному обучению также отметил, что анализ более 100 часов стенограмм Whisper показал, что около 50% из них содержали серьёзные ошибки, что вызывает опасения по поводу надёжности этой технологии, которая всё чаще используется.
Эксперты предупреждают, что ошибки могут привести к «действительно серьезным последствиям», особенно в сфере медицины.
Алондра Нельсон, бывший директор Управления научно -технической политики Белого дома, подчеркнула, что никто не хочет получить неправильный диагноз, и призвала к более высоким стандартам при применении этой технологии.
Использование Whisper для создания субтитров для людей с нарушениями слуха также является серьезной проблемой, поскольку у них нет возможности обнаружить ложную информацию, скрытую среди миллионов сгенерированных слов.
Рост популярности художественных текстов побудил многих экспертов, активистов и бывших сотрудников OpenAI призвать федеральное правительство рассмотреть вопрос о регулировании ИИ.
Уильям Сондерс, инженер-исследователь из Сан-Франциско, считает, что эта проблема вполне разрешима, если OpenAI сделает ее обработку приоритетной.
OpenAI признала, что постоянно работает над минимизацией вымышленных деталей и ценит обратную связь от исследовательского сообщества.
Однако многие инженеры по-прежнему утверждают, что никогда не видели другого инструмента для создания заметок на основе ИИ, который имел бы такой высокий уровень художественности, как Whisper./.
Источник: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp
Комментарий (0)