Artificiell intelligens: Den mörka sidan av Whisper-verktyget

Att använda Whisper för att skapa textning för hörselskadade är också problematiskt, eftersom de inte har något sätt att upptäcka felinformation som är gömd bland de miljontals genererade orden.

I en tid då artificiell intelligens (AI) har blivit en oumbärlig del av det dagliga livet har ett verktyg som heter Whisper, utvecklat av OpenAI, väckt stor uppmärksamhet tack vare dess förmåga att automatiskt ta anteckningar med nästan "mänsklig noggrannhet".

Bakom hyllningarna står dock Whisper inför hård kritik för en allvarlig brist: dess förmåga till autofiktion, det vill säga att generera text eller till och med uttalanden som ingen någonsin har skrivit.

Enligt mjukvaruingenjörer och forskare orsakar fiktiva detaljer inte bara förvirring, utan kan även innehålla rasistiska kommentarer, våldsamt språk och orealistiska medicinska behandlingar.

Även om OpenAI har varnat för att verktyget inte bör användas i "högriskområden", använder många medicinska anläggningar fortfarande aktivt Whisper för att spela in konsultationer mellan läkare och patienter.

En nyligen genomförd studie visade faktiskt att så många som 80 % av ljudinspelningarna i en undersökning av offentliga möten innehöll dessa fiktiva detaljer. En maskininlärningsingenjör påpekade också att analysen av mer än 100 timmar Whisper-transkript visade att cirka 50 % av dem innehöll allvarliga fel, vilket väcker oro kring tillförlitligheten hos tekniken, som används i allt större utsträckning.

Experter varnar för att fel kan leda till "riktigt allvarliga konsekvenser", särskilt inom det medicinska området.

Alondra Nelson, tidigare chef för Vita husets kontor för vetenskaps- och teknikpolitik, betonade att ingen vill ha en feldiagnos och efterlyste högre standarder för tillämpningen av denna teknik.

Att använda Whisper för att skapa textning för hörselskadade är också problematiskt, eftersom de inte har något sätt att upptäcka felinformation som är gömd bland de miljontals genererade orden.

Uppkomsten av fiktiva texter har fått många experter, aktivister och tidigare OpenAI-anställda att uppmana den federala regeringen att överväga att reglera AI.

William Saunders, forskningsingenjör i San Francisco, anser att det här problemet är helt lösbart om OpenAI prioriterar att hantera det.

OpenAI har medgett att de ständigt arbetar med att minimera fiktiva detaljer och uppskattar feedback från forskarsamhället.

Men många ingenjörer hävdar fortfarande att de aldrig har sett ett annat AI-anteckningsverktyg med en så hög nivå av fiktion som Whisper./.

(TTXVN/Vietnam+)

[annons_2]
Källa: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp