Mesterséges intelligencia: A Whisper Tool sötét oldala

A Whisper használata hallássérültek számára készült feliratok készítéséhez szintén problémás, mivel nem képesek kiszűrni a generált több millió szó között megbúvó félretájékoztatást.

A mesterséges intelligencia (MI) mindennapi életünk nélkülözhetetlen részévé válásának korszakában az OpenAI által fejlesztett Whisper nevű eszköz nagy figyelmet keltett, mivel képes automatikusan jegyzetelni, szinte „emberi pontossággal”.

Az elismerés mögött azonban a Whisper komoly kritikákkal néz szembe egy komoly hiba miatt: az autofikció képessége, azaz olyan szövegek vagy akár állítások generálása, amelyeket soha senki nem írt.

Szoftvermérnökök és kutatók szerint a kitalált részletek nemcsak zavart okoznak, hanem rasszista megjegyzéseket, erőszakos nyelvezetet és irreális orvosi kezeléseket is tartalmazhatnak.

Bár az OpenAI figyelmeztetett, hogy az eszközt nem szabad „magas kockázatú területeken” használni, számos egészségügyi intézmény továbbra is aktívan alkalmazza a Whispert az orvos-beteg konzultációk rögzítésére.

Egy nemrégiben készült tanulmány szerint a nyilvános gyűlésekről készült hangfelvételek akár 80%-a is tartalmazott ilyen kitalált részleteket. Egy gépi tanulással foglalkozó mérnök arra is rámutatott, hogy több mint 100 órányi Whisper-átirat elemzése során kiderült, hogy ezek körülbelül 50%-a súlyos hibákat tartalmazott, ami aggodalmakat vet fel a technológia megbízhatóságával kapcsolatban, amelyet egyre inkább használnak.

A szakértők arra figyelmeztetnek, hogy a hibák „igazán súlyos következményekkel” járhatnak, különösen az orvosi területen.

Alondra Nelson, a Fehér Ház Tudományos és Technológiai Politikai Hivatalának korábbi igazgatója hangsúlyozta, hogy senki sem akar téves diagnózist, és magasabb színvonalat szorgalmazott a technológia alkalmazása során.

A Whisper használata hallássérültek számára készült feliratok készítéséhez szintén problémás, mivel nem képesek kiszűrni a generált több millió szó között megbúvó félretájékoztatást.

A kitalált szövegek térnyerése számos szakértőt, aktivistát és volt OpenAI-alkalmazottat arra késztetett, hogy felszólítsák a szövetségi kormányt a mesterséges intelligencia szabályozásának megfontolására.

William Saunders, egy San Franciscó-i kutatómérnök úgy véli, hogy ez a probléma teljesen megoldható, ha az OpenAI prioritásként kezeli a kezelését.

Az OpenAI elismerte, hogy folyamatosan azon dolgozik, hogy minimalizálja a kitalált részleteket, és nagyra értékeli a kutatói közösség visszajelzéseit.

Sok mérnök azonban továbbra is azt állítja, hogy még soha nem láttak olyan mesterséges intelligencián alapuló jegyzetelő eszközt, amelynek a kitaláltsága olyan magas szintű lenne, mint a Whispernek.

(TTXVN/Vietnam+)

[hirdetés_2]
Forrás: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp