Штучний інтелект: темна сторона інструменту «Шепіт»

Використання Whisper для створення субтитрів для людей з вадами слуху також проблематичне, оскільки вони не мають можливості виявити дезінформацію, приховану серед мільйонів згенерованих слів.

В епоху, коли штучний інтелект (ШІ) стає невід'ємною частиною повсякденного життя, інструмент під назвою Whisper, розроблений OpenAI, привернув велику увагу завдяки своїй здатності автоматично робити нотатки майже з «людською точністю».

Однак, за визнанням, «Whisper» стикається з жорсткою критикою за серйозний недолік: його здатність до самовигадування, тобто генерувати текст або навіть твердження, які ніхто ніколи не писав.

За словами розробників програмного забезпечення та дослідників, вигадані деталі не лише викликають плутанину, але й можуть містити расистські коментарі, агресивну лексику та нереалістичні методи лікування .

Хоча OpenAI попереджає, що інструмент не слід використовувати в «зонах високого ризику», багато медичних закладів все ще активно впроваджують Whisper для запису консультацій лікаря та пацієнта.

Фактично, нещодавнє дослідження показало, що до 80% аудіозаписів в опитуванні публічних зустрічей містили ці вигадані деталі. Інженер з машинного навчання також зазначив, що аналіз понад 100 годин стенограм Whisper показав, що близько 50% з них містили серйозні помилки, що викликає занепокоєння щодо надійності технології, яка використовується все частіше.

Експерти попереджають, що помилки можуть призвести до «дійсно серйозних наслідків», особливо в медичній сфері.

Алондра Нельсон, колишня директорка Управління науки і технологій Білого дому, наголосила, що ніхто не хоче неправильного діагнозу, і закликала до вищих стандартів у застосуванні цієї технології.

Використання Whisper для створення субтитрів для людей з вадами слуху також проблематичне, оскільки вони не мають можливості виявити дезінформацію, приховану серед мільйонів згенерованих слів.

Зростання кількості художніх текстів спонукало багатьох експертів, активістів та колишніх співробітників OpenAI закликати федеральний уряд розглянути питання регулювання штучного інтелекту.

Вільям Сондерс, інженер-дослідник із Сан-Франциско, вважає, що цю проблему можна повністю вирішити, якщо OpenAI надасть пріоритет її вирішенню.

OpenAI визнала, що постійно працює над мінімізацією вигаданих деталей та цінує відгуки дослідницької спільноти.

Однак багато інженерів досі стверджують, що ніколи не бачили іншого інструменту для ведення нотаток на основі штучного інтелекту з таким високим рівнем вигадки, як Whisper./.

(TTXVN/В'єтнам+)

Джерело: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp