Kunstmatige intelligentie: de donkere kant van de fluistertool

Ook het gebruik van Whisper om ondertiteling te maken voor slechthorenden is problematisch. Er is namelijk geen manier om verborgen misinformatie te detecteren in de miljoenen gegenereerde woorden.

Nu kunstmatige intelligentie (AI) een onmisbaar onderdeel van het dagelijks leven is geworden, heeft een tool genaamd Whisper, ontwikkeld door OpenAI, veel aandacht getrokken dankzij de mogelijkheid om automatisch aantekeningen te maken met een bijna "menselijke nauwkeurigheid".

Maar ondanks alle lovende kritieken krijgt Whisper te maken met een ernstig minpunt: de mogelijkheid om autofictie te genereren, dat wil zeggen dat het tekst of zelfs beweringen genereert die nog nooit door iemand zijn geschreven.

Volgens softwareontwikkelaars en onderzoekers zorgen fictieve details niet alleen voor verwarring, maar kunnen ze ook racistische opmerkingen, gewelddadige taal en onrealistische medische behandelingen bevatten.

Hoewel OpenAI heeft gewaarschuwd dat de tool niet gebruikt moet worden in ‘hoogrisicogebieden’, maken veel medische instellingen nog steeds actief gebruik van Whisper om dokter-patiëntconsulten vast te leggen.

Uit een recent onderzoek bleek zelfs dat maar liefst 80% van de audio-opnames in een enquête over openbare bijeenkomsten deze fictieve details bevatte. Een ingenieur in machine learning wees er ook op dat uit analyse van meer dan 100 uur aan Whisper-transcripties bleek dat ongeveer 50% ervan ernstige fouten bevatte, wat aanleiding gaf tot bezorgdheid over de betrouwbaarheid van de technologie, die steeds vaker wordt gebruikt.

Deskundigen waarschuwen dat fouten "zeer ernstige gevolgen" kunnen hebben, vooral in de medische sector.

Alondra Nelson, voormalig directeur van het Bureau voor Wetenschaps- en Technologiebeleid van het Witte Huis, benadrukte dat niemand een verkeerde diagnose wil en riep op tot hogere normen bij de toepassing van deze technologie.

Ook het gebruik van Whisper om ondertiteling te maken voor slechthorenden is problematisch. Er is namelijk geen manier om verborgen misinformatie te detecteren in de miljoenen gegenereerde woorden.

De opkomst van fictieve teksten heeft veel experts, activisten en voormalige OpenAI-medewerkers ertoe aangezet om de federale overheid op te roepen om AI te reguleren.

William Saunders, een onderzoeksingenieur in San Francisco, gelooft dat dit probleem volledig oplosbaar is als OpenAI er prioriteit aan geeft.

OpenAI heeft toegegeven dat het er voortdurend aan werkt om fictieve details tot een minimum te beperken en stelt feedback van de onderzoeksgemeenschap op prijs.

Toch beweren veel ingenieurs nog steeds dat ze nog nooit een andere AI-notitietool hebben gezien met zo'n hoog fictiegehalte als Whisper./.

(TTXVN/Vietnam+)

Bron: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp