"Als ik naar een zanger luister, weet ik niet of het echt is of door AI. We moeten producten die door AI zijn gemaakt, een label geven."

Afgevaardigde Nguyen Thanh Hai wees erop dat het in de praktijk voor veel producten moeilijk is om onderscheid te maken tussen echte producten en producten die door AI zijn gegenereerd. Daarom is het noodzakelijk om door AI gegenereerde producten te labelen.

Dit is een van de punten die de voorzitter van de Commissie voor Wetenschap , Technologie en Milieu, Nguyen Thanh Hai, naar voren bracht tijdens de groepsdiscussie op de ochtend van 21 november over het wetsontwerp inzake kunstmatige intelligentie.

Het wetsontwerp, dat vanmorgen bij de Nationale Vergadering is ingediend, bepaalt dat content die is gemaakt of bewerkt door AI-systemen, die nep-elementen bevat, echte mensen of echte gebeurtenissen simuleert en die kijkers, luisteraars of lezers kan doen geloven dat het echt is, en content die is gemaakt door AI met als doel communicatie, reclame, propaganda of het verstrekken van openbare informatie, moet worden gelabeld.

Luisteren naar zangers die zingen, niet weten of het echt is of AI, producten die door AI zijn gemaakt, moeten worden gelabeld - 1

Vicevoorzitter van de Commissie voor Wetenschap, Technologie en Milieu Nguyen Thanh Hai (foto: Hong Phong).

De voorzitter van de Commissie voor Wetenschap, Technologie en Milieu, Nguyen Thanh Hai, gaf aan dat dit een heel nieuw wetsontwerp is en dat veel landen in de wereld ontwikkelingen op dit gebied hebben ontwikkeld, maar nog geen wetten hebben. Ze stellen alleen een ethisch kader vast voordat ze wetten maken.

Mevrouw Hai is ervan overtuigd dat de wet een grote impact zal hebben op alle aspecten van het leven. Daarom is het uitgangspunt bij het maken van wetgeving dat er een evenwicht moet zijn tussen management en het stimuleren van creativiteit.

"Als het management sterk is, zullen de eerste ideeën over AI beperkt worden, maar als het niet strak wordt beheerd, zal het grote risico's met zich meebrengen, die zelfs de veiligheid en beveiliging in gevaar kunnen brengen", benadrukte mevrouw Hai.

Zij is van mening dat de ontwikkelingssnelheid van AI erg hoog ligt en dat factoren onvoorspelbaar zijn. Ook al is dit een raamwet, is het waarschijnlijk dat deze op korte termijn nog moet worden aangepast en aangevuld.

Mevrouw Hai gaf specifieke opmerkingen over het labelen van AI-producten en deelde de realiteit van "het luisteren naar zangers die veel goede liedjes zingen, maar niet weten of ze echt zijn of door AI zijn gemaakt". Ze opperde dat door AI gecreëerde producten gelabeld zouden moeten worden.

De voorzitter van de Commissie voor Wetenschap, Technologie en Milieu maakte zich ook zorgen over het feit dat het wetsontwerp geen hoofdstuk bevat waarin de impact van AI op cultuur, samenleving en wetenschappelijk onderzoek wordt geregeld.

"Wetenschappers gebruiken momenteel AI in wetenschappelijk onderzoek, waarbij ze onderwerpen aankaarten waar mensen niet bij kunnen. Hoe zit het dan met auteursrecht en hoe delen we gegevens?", vroeg mevrouw Hai zich af.

Ze wees er ook op dat veel studenten AI gebruiken tijdens hun examens en haalde een voorbeeld aan uit China, waar bij grote examens alle virtuele assistenten verboden zijn en studenten deze niet mogen gebruiken tijdens het examen.

"Er moet een hoofdstuk komen over het gebruik van AI in wetenschappelijk onderzoek en onderwijs, want dit zijn heel nieuwe onderwerpen", aldus mevrouw Hai.

Volgens de voorzitter van de Commissie voor Wetenschap, Technologie en Milieu moet het wetsontwerp ook duidelijk aangeven welke handelingen verboden zijn, zoals het gebruik van AI om verstoringen te veroorzaken, op te hitsen, stemmingen en verkiezingen te manipuleren, frauduleuze afbeeldingen en videoclips te maken, enzovoort.

Luisteren naar zangers die zingen, niet weten of het echt is of AI, producten die door AI zijn gemaakt, moeten worden gelabeld - 2

Afgevaardigde van de Nationale Assemblee Nguyen Lam Thanh (foto: Hong Phong).

Afgevaardigde Nguyen Lam Thanh (Thai Nguyen) zei ook dat het noodzakelijk is om de toepassing van AI in de gezondheidszorg, transport, financiën, en dan met name financiële controle en marktanalyse, te verduidelijken.

In het onderwijs bijvoorbeeld, zei de heer Thanh, gebruiken studenten AI in de praktijk om huiswerk en scripties te maken. Scholen moeten hier dus mee omgaan door studenten te verplichten om naast het inleveren van opdrachten ook interviews te doen en hun cognitieve niveau opnieuw te testen.

Volgens de heer Thanh moet de wet de toepassingsvraagstukken op verschillende terreinen benaderen en niet slechts algemene beginselen regelen.

Ondertussen zei afgevaardigde Dong Ngoc Ba (Gia Lai) dat landen over de hele wereld nog steeds erg voorzichtig zijn met het opstellen van regelgeving op dit gebied.

Het wetsontwerp stelt vier risiconiveaus vast voor de ontwikkeling van kunstmatige intelligentie, maar de heer Ba stelde voor om deze in drie niveaus te verdelen: laag risico, gemiddeld risico en hoog risico. Met name het niveau van "onaanvaardbaar risico" zou als een verbod moeten worden beschouwd.

Luisteren naar zangers die zingen, niet weten of het echt is of AI, producten die door AI zijn gemaakt, moeten worden gelabeld - 3

Vicevoorzitter van de Commissie Recht en Justitie Nguyen Thi Thuy (foto: Hong Phong).

Vicevoorzitter van de Commissie Recht en Justitie Nguyen Thi Thuy was het met deze visie eens. Volgens haar zou het bij onaanvaardbare risiconiveaus verboden moeten worden, en niet geclassificeerd. Daarom zou het wetsontwerp slechts drie risiconiveaus moeten vastleggen: hoog, gemiddeld en laag.

Mevrouw Thuy was ook van mening dat "deze wet wellicht binnenkort moet worden gewijzigd", omdat de wereld voortdurend verandert door de ontwikkeling van kunstmatige intelligentie.

Bron: https://dantri.com.vn/thoi-su/nghe-ca-si-hat-khong-biet-that-hay-ai-can-gan-nhan-san-pham-do-ai-tao-ra-20251121112707555.htm