'Ik hoor zangers veel goede liedjes zingen, maar ik weet niet of het echt is of door kunstmatige intelligentie wordt gemaakt'

Wat betreft de etikettering van producten met kunstmatige intelligentie, vertelde Nguyen Thanh Hai, voorzitter van de commissie voor wetenschap, technologie en milieu, dat "je veel goede liedjes hoort zingen, maar niet weet of het echte liedjes zijn of dat het kunstmatige intelligentie is".

Vanmorgen heeft de Nationale Assemblee in groepsverband het wetsontwerp inzake kunstmatige intelligentie (AI) besproken. Het wetsontwerp bepaalt dat content die door AI-systemen is gemaakt of bewerkt en die nep-elementen bevat, echte mensen of gebeurtenissen simuleert en kijkers, luisteraars of lezers kan misleiden door ze te laten denken dat het echt is; content die door AI is gemaakt met het oog op communicatie, reclame, propaganda of het verstrekken van publieke informatie, moet worden gelabeld.

Bij de Thai Nguyen Groep zei Nguyen Thanh Hai, voorzitter van de Commissie voor Wetenschap , Technologie en Milieu, dat veel landen in de wereld zich op dit gebied hebben ontwikkeld, maar geen wetten hebben. Ze stellen alleen een ethisch kader vast voordat ze wetten maken.

De wet zal een grote impact hebben op alle aspecten van het leven. Daarom is het uitgangspunt bij het maken van wetten het in evenwicht brengen van management en promotie.

Voorzitter van de Commissie voor Wetenschap, Technologie en Milieu Nguyen Thanh Hai. Foto: Nationale Assemblee

Volgens haar zullen de eerste ideeën over AI beperkt worden als het management sterk is, maar als er geen strak management is, zal het grote risico's met zich meebrengen en zelfs de veiligheid en beveiliging in gevaar brengen.

Zij is van mening dat de ontwikkelingssnelheid van AI erg hoog ligt en dat factoren onvoorspelbaar zijn. Ook al is dit een raamwet, is het waarschijnlijk dat deze op korte termijn nog moet worden aangepast en aangevuld.

Wat betreft het labelen van AI-producten, vertelde mevrouw Hai over de realiteit van "het luisteren naar zangers die veel goede liedjes zingen, maar niet weten of ze echt zijn of door AI zijn gemaakt". Ze opperde dat door AI gecreëerde producten gelabeld zouden moeten worden.

De voorzitter van de Commissie voor Wetenschap, Technologie en Milieu maakte zich ook zorgen over het feit dat het wetsontwerp geen hoofdstuk bevat waarin de impact van AI op cultuur, samenleving en wetenschappelijk onderzoek wordt geregeld.

"Wetenschappers gebruiken momenteel AI in wetenschappelijk onderzoek, waarbij ze onderwerpen aanroeren waar mensen geen vat op hebben. Hoe zit het dan met auteursrecht en het delen van gegevens?", vroeg mevrouw Hai zich af.

Ze wees er ook op dat veel studenten AI gebruiken tijdens hun examens en haalde een voorbeeld aan uit China, waar bij grote examens alle virtuele assistenten verboden zijn en studenten deze niet mogen gebruiken tijdens het examen.

Volgens mevrouw Hai moet het wetsontwerp ook duidelijk aangeven welke handelingen verboden zijn, zoals het gebruik van AI om verstoringen te veroorzaken, op te hitsen, stemmen en verkiezingen te manipuleren, frauduleuze afbeeldingen en videoclips te maken, etc.

Het niveau van ‘onaanvaardbaar risico’ moet als een verbod worden beschouwd.

Afgevaardigde Dong Ngoc Ba (Gia Lai) zei dat landen wereldwijd nog steeds zeer voorzichtig zijn met het vaststellen van regelgeving op dit gebied. Het wetsontwerp voorziet in vier risiconiveaus bij de ontwikkeling van kunstmatige intelligentie, maar de heer Ba stelde voor om deze in drie niveaus te verdelen: laag risico, gemiddeld risico en hoog risico. Met name het niveau van "onaanvaardbaar risico" zou als een verbod moeten worden beschouwd.

Afgevaardigde Lo Thi Luyen. Foto: Nationale Assemblee

Afgevaardigde Lo Thi Luyen (Dien Bien) gaf aan dat de publieke opinie zich sterk op kinderen richt, terwijl het wetsontwerp nog geen beperkingen stelt aan de toegang van kinderen tot AI. Sommige Europese landen hebben regels opgesteld voor de toegang van oudere kinderen tot AI en hoe ze deze kunnen gebruiken, terwijl sommige landen rond Vietnam het nog niet hebben verboden.

Het wetsontwerp stelt alleen risiconiveaus vast, zodat alle burgers in de samenleving toegang krijgen tot AI. Afgevaardigden gaven aan dat deze bepaling onduidelijk is qua beheer.

Mevrouw Luyen maakte zich zorgen dat als er geen leeftijdsgrens zou gelden voor de toegang tot AI, de jonge generatie net als kinderen in sommige landen "naar AI zal luisteren, vrienden zal zijn met AI, zelfs alleen van AI zal houden en met AI zal trouwen".

"Kinderen die niet volledig bij bewustzijn zijn, net als een onbeschreven blad, zijn in de toekomst zeer gevaarlijk. Hoe gaan we dit probleem oplossen?", vroeg de afgevaardigde.

Afgevaardigde Lam Van Doan. Foto: Nationale Assemblee

Het wetsontwerp stelt voor dat algemeen onderwijs de basisinhoud van kunstmatige intelligentie integreert. Afgevaardigde Lam Van Doan (Lam Dong) stelde voor dit voorstel te overwegen. Hij zei dat de Nationale Assemblee momenteel overweegt drie wetsvoorstellen met betrekking tot onderwijs te wijzigen, en dat het indien nodig in gespecialiseerde wetten moet worden opgenomen om systematisch en rigoureus te zijn.

"Ik heb het over principes, maar de inhoud van dat programma moet worden overgelaten aan de onderwijsinstanties van de deelstaatregeringen en de beroepsraad. Het vaststellen van de wet op kunstmatige intelligentie betekent dat kunstmatige intelligentie moet worden opgenomen in het algemene onderwijsprogramma, en vervolgens moeten er andere wetten worden opgenomen, waardoor het curriculum niet langer een samenhangend en wetenschappelijk geheel vormt", analyseerde de heer Doan.

Bron: https://vietnamnet.vn/nghe-ca-si-hat-nhieu-bai-hay-nhung-khong-biet-la-that-hay-ai-2465062.html