Az OpenAI beszédfelismerő mesterséges intelligencia eszközét rajtakapták, amint történeteket gyártott

Az OpenAI technológiai óriás, beszédfelismerő eszközét, a Whispert, „emberi pontosságú és robusztus” mesterséges intelligenciaként emlegette. A Whispernek azonban volt egy nagy hibája: teljesen hamis szöveget és mondatokat generált.

A mesterséges intelligencia által generált szövegek egy része – az úgynevezett „hallucinációk” – rasszista megjegyzéseket, erőszakos nyelvezetet és akár képzeletbeli orvosi kezeléseket is tartalmazhat – Fotó: AP

Az AP szerint a szakértők szerint a mesterséges intelligencia által generált szövegek egy része úgynevezett „hallucinációs” jellegű, beleértve a rasszista megjegyzéseket, az erőszakos nyelvezetet és a képzeletbeli orvosi kezeléseket is.

Magas az „illúzió” aránya a mesterséges intelligencia által generált szövegekben

A szakértőket különösen aggasztja, hogy a Whispert világszerte számos iparágban széles körben használják interjúk fordítására és átírására, szövegek generálására a népszerű fogyasztói technológiákban, valamint feliratok készítésére videókhoz.

Ami még aggasztóbb, hogy számos egészségügyi központ használja a Whispert az orvosok és a betegek közötti konzultációk átvitelére, bár az OpenAI figyelmeztetett, hogy az eszközt nem szabad „magas kockázatú” területeken használni.

A probléma teljes mértékét nehéz meghatározni, de a kutatók és mérnökök azt mondják, hogy munkájuk során rendszeresen találkoznak Whisper "hallucinációival".

A Michigani Egyetem egyik kutatója elmondta, hogy a megvizsgált hanganyag-átiratok tízből nyolcban „hallucinációkat” talált. Egy számítógépmérnök az általa elemzett több mint 100 órányi hanganyag átiratainak körülbelül felében talált „hallucinációkat”. Egy másik fejlesztő elmondta, hogy a Whisper segítségével létrehozott 26 000 felvétel szinte mindegyikében talált „hallucinációkat”.

A probléma még rövid, tisztán rögzített hangminták esetén is fennáll. Egy számítógép- tudósok által nemrégiben végzett tanulmány 187 „illúziót” talált több mint 13 000 tiszta hangfelvételben, amelyeket megvizsgáltak. A kutatók szerint ez a tendencia több tízezer hamis átíráshoz vezetne több millió felvételben.

Az ilyen hibáknak „nagyon súlyos következményei lehetnek”, különösen kórházi környezetben, állítja Alondra Nelson, aki a Biden-kormányzat alatt a tavalyi évig a Fehér Ház Tudományos és Technológiai Hivatalát vezette.

„Senki sem akar téves diagnózist” – mondta Nelson, aki jelenleg a New Jersey állambeli Princetonban található Institute for Advanced Study professzora. „Magasabb mércére van szükség.”

A Whispert feliratok készítésére is használják siketek és nagyothallók számára – egy olyan csoport számára, amely különösen ki van téve a félrefordítások kockázatának. Ez azért van, mert a siketek és nagyothallók nem tudják azonosítani a kitalált részeket, amelyek „az összes többi szövegben el vannak rejtve” – mondja Christian Vogler, aki siket és a Gallaudet Egyetem Technológiai Akadálymentesítési Programjának igazgatója.

Az OpenAI-t hívják fel a probléma megoldására

Az ilyen „hallucinációk” elterjedtsége arra késztette a szakértőket, a szószólókat és az OpenAI korábbi alkalmazottait, hogy felszólítsák a szövetségi kormányt a mesterséges intelligencia szabályozásának megfontolására. Az OpenAI-nak legalább ezt a hibát kell orvosolnia.

„Ez a probléma megoldható, ha a vállalat hajlandó prioritásként kezelni” – mondta William Saunders, egy San Franciscó-i kutatómérnök, aki februárban hagyta el az OpenAI-t a vállalat irányával kapcsolatos aggodalmak miatt.

„Probléma lenne, ha piacra dobnák, és az emberek annyira magabiztosak lennének a képességeivel kapcsolatban, hogy integrálnák az összes többi rendszerbe.” Az OpenAI szóvivője elmondta, hogy a vállalat folyamatosan dolgozik az „illúziók” enyhítésének módjain, és nagyra értékeli a kutatók eredményeit, hozzátéve, hogy az OpenAI beépíti a visszajelzéseket a modellfrissítésekbe.

Míg a legtöbb fejlesztő feltételezi, hogy a szövegfelolvasó eszközök elgépelhetik vagy más hibákat véthetnek, a mérnökök és kutatók azt mondják, hogy még soha nem láttak olyan mesterséges intelligenciával működő szövegfelolvasó eszközt, amely annyira „hallucinál”, mint a Whisper.

Forrás: https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm