OpenAI's tekst-naar-video-tool baart zorgen

(CLO) Sora, OpenAI's nieuwe tool voor kunstmatige intelligentie, is onlangs in opspraak geraakt toen het tijdens tests uitlekte. Testers van het nieuwe model beschuldigden het bedrijf ervan 'kunst te verdoezelen'.

Sommige kunstenaars die bij de proef betrokken waren, hebben kritiek geuit op de manier waarop OpenAI het programma heeft geïmplementeerd. Bovendien zou de tool een negatieve impact op de creatieve sector kunnen hebben.

Sora van OpenAI werd eerder dit jaar aangekondigd, maar is nog niet breed uitgebracht. Foto: AP

Op 26 november verscheen er een project op het Hugging Face-ontwikkelplatform dat gerelateerd zou zijn aan Sora's Application Programming Interface (API). Hiermee kunnen gebruikers video's bekijken en maken met deze AI-tool.

Een groep kunstenaars die bij het experiment betrokken was, plaatste een brief op het platform, waarin ze OpenAI ervan beschuldigden de ‘onbetaalde arbeid’ van honderden kunstenaars tijdens de eerste tests uit te buiten.

Ze beweerden dat deelnemers feedback gaven en experimenteel werk verrichtten zonder daarvoor een behoorlijke vergoeding te ontvangen. Binnen enkele uren schortte OpenAI de vroege toegang van de kunstenaars op, aldus een bericht op Hugging Face.

De Sora-tool, waarmee tekst in video kan worden omgezet, zou een revolutie teweegbrengen in de creatieve sector, maar veel kunstenaars zijn ook bang dat ze hun baan verliezen.

Verschillende kunstenaars schreven aan OpenAI om bezwaar te maken tegen de manier waarop de tool werd ingezet: "We zijn niet tegen het gebruik van AI in de kunst, maar we zijn het niet eens met de manier waarop het kunstenaarsprogramma wordt ingezet en hoe de tool wordt vormgegeven vóór de publieke release."

Sora werd eerder dit jaar aangekondigd, maar is nog niet breed beschikbaar. OpenAI heeft slechts een kleine groep kunstenaars, ontwerpers en filmmakers toegang gegeven om feedback te verzamelen over risico's, nadelen en noodzakelijke verbeteringen.

Artiesten hebben kritiek op de show, omdat ze het 'meer promotioneel dan echt creatief' vinden.

OpenAI zegt dat Sora zich nog in de onderzoeks- en testfase bevindt en dat het bedrijf probeert "innovatie in evenwicht te brengen met robuuste veiligheidsmaatregelen voor breder gebruik". Het benadrukt dat deelname aan de test vrijwillig is, zonder verplichting tot feedback, maar dat artiesten de tool privé moeten houden zolang deze nog in ontwikkeling is.

Meer dan 11.000 creatieve professionals, waaronder acteurs Julianne Moore, Kevin Bacon, Radiohead-zanger Thom Yorke en vele schrijvers en muzikanten, hebben een openbare brief ondertekend waarin ze zich verzetten tegen generatieve AI. Zij noemen het een "enorme en onrechtvaardige bedreiging" voor hun levensonderhoud.

In een recente discussie op Reddit zei Kevin Weil, productmanager bij OpenAI, dat de openbare release van Sora was uitgesteld vanwege de noodzaak om "het model te verfijnen", met name op het gebied van veiligheid en schaalbaarheid.

Cao Phong (volgens FT, AP)

Bron: https://www.congluan.vn/cong-cu-chuyen-van-ban-thanh-video-cua-openai-gay-ra-moi-lo-ngai-tay-trang-nghe-thuat-post323241.html