Kunstig intelligens: Den mørke siden av hviskeverktøyet

Bruken av Whisper til å lage teksting for hørselshemmede er også problematisk, ettersom de ikke har noen måte å oppdage feilinformasjon skjult blant de millioner av genererte ordene.

Illustrasjonsfoto. (Kilde: Voicegain)

I en tid der kunstig intelligens (KI) er blitt en uunnværlig del av hverdagen, har et verktøy kalt Whisper utviklet av OpenAI fått stor oppmerksomhet takket være dets evne til automatisk å ta notater med nesten «menneskelig nøyaktighet».

Bak anerkjennelsen møter imidlertid Whisper sterk kritikk for en alvorlig svakhet: dens evne til autofiksjon, det vil si å generere tekst eller til og med utsagn som ingen noen gang har skrevet.

Ifølge programvareingeniører og forskere forårsaker fiktive detaljer ikke bare forvirring, men kan også inneholde rasistiske kommentarer, voldelig språk og urealistiske medisinske behandlinger.

Selv om OpenAI har advart om at verktøyet ikke bør brukes i «høyrisikoområder», bruker mange medisinske fasiliteter fortsatt aktivt Whisper for å registrere konsultasjoner mellom lege og pasient.

Faktisk fant en fersk studie at så mange som 80 % av lydopptakene i en undersøkelse av offentlige møter inneholdt disse fiktive detaljene. En maskinlæringsingeniør påpekte også at analyse av mer enn 100 timer med Whisper-transkripter avslørte at omtrent 50 % av dem inneholdt alvorlige feil, noe som vekker bekymring for påliteligheten til teknologien, som i økende grad brukes.

Eksperter advarer om at feil kan føre til «virkelig alvorlige konsekvenser», spesielt innen det medisinske feltet.

Alondra Nelson, tidligere direktør for Det hvite hus' kontor for vitenskaps- og teknologipolitikk, understreket at ingen ønsker en feildiagnose, og etterlyste høyere standarder for anvendelsen av denne teknologien.

Bruken av Whisper til å lage teksting for hørselshemmede er også problematisk, ettersom de ikke har noen måte å oppdage feilinformasjon skjult blant de millioner av genererte ordene.

Fremveksten av skjønnlitterære tekster har fått mange eksperter, aktivister og tidligere OpenAI-ansatte til å oppfordre den føderale regjeringen til å vurdere å regulere AI.

William Saunders, en forskningsingeniør i San Francisco, mener dette problemet er fullstendig løsbart hvis OpenAI prioriterer å håndtere det.

OpenAI har innrømmet at de kontinuerlig jobber med å minimere fiktive detaljer og setter pris på tilbakemeldinger fra forskningsmiljøet.

Imidlertid hevder mange ingeniører fortsatt at de aldri har sett et annet AI-notatverktøy med et så høyt nivå av fiksjon som Whisper./.

(TTXVN/Vietnam+)

Kilde: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp