Umělá inteligence: Temná stránka nástroje Whisper

Použití Whisperu k vytváření titulků pro sluchově postižené je také problematické, protože nemají způsob, jak odhalit dezinformace skryté mezi miliony vygenerovaných slov.

Ilustrační fotografie. (Zdroj: Voicegain)

V éře umělé inteligence (AI), která se stává nepostradatelnou součástí každodenního života, přitahuje nástroj s názvem Whisper, vyvinutý společností OpenAI, velkou pozornost díky své schopnosti automaticky si dělat poznámky s téměř „lidskou přesností“.

Za tímto uznáním však Whisper čelí ostré kritice za závažnou vadu: schopnost autofikce, tedy generovat text nebo dokonce výroky, které nikdo nikdy nenapsal.

Podle softwarových inženýrů a výzkumníků fiktivní detaily nejen způsobují zmatek, ale mohou také obsahovat rasistické komentáře, násilný jazyk a nerealistické léčebné postupy.

Ačkoli OpenAI varovala, že by tento nástroj neměl být používán ve „vysoce rizikových oblastech“, mnoho zdravotnických zařízení stále aktivně využívá Whisper k zaznamenávání konzultací lékaře s pacientem.

Nedávná studie dokonce zjistila, že až 80 % zvukových nahrávek v průzkumu veřejných schůzí obsahovalo tyto fiktivní detaily. Inženýr strojového učení také poukázal na to, že analýza více než 100 hodin přepisů Whisperu odhalila, že přibližně 50 % z nich obsahovalo závažné chyby, což vyvolává obavy o spolehlivost této technologie, která se stále častěji používá.

Odborníci varují, že chyby mohou vést k „opravdu vážným následkům“, zejména v lékařské oblasti.

Alondra Nelson, bývalá ředitelka Úřadu pro vědeckotechnickou politiku Bílého domu, zdůraznila, že nikdo nechce chybnou diagnózu, a vyzvala k vyšším standardům při aplikaci této technologie.

Použití Whisperu k vytváření titulků pro sluchově postižené je také problematické, protože nemají způsob, jak odhalit dezinformace skryté mezi miliony vygenerovaných slov.

Vzestup fiktivních textů přiměl mnoho odborníků, aktivistů a bývalých zaměstnanců OpenAI k výzvě federální vládě , aby zvážila regulaci umělé inteligence.

William Saunders, výzkumný inženýr ze San Francisca, věří, že tento problém je zcela řešitelný, pokud OpenAI upřednostní jeho řešení.

OpenAI přiznala, že neustále pracuje na minimalizaci fiktivních detailů a oceňuje zpětnou vazbu od výzkumné komunity.

Mnoho inženýrů však stále tvrdí, že nikdy neviděli jiný nástroj pro psaní poznámek s umělou inteligencí s tak vysokou úrovní fikce jako Whisper./.

(TTXVN/Vietnam+)

Zdroj: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp