Sürgősen szükség van a mesterséges intelligencia által biztosított tartalom ellenőrzésére

Kritériumokat kell kidolgozni annak korlátozására, hogy a felhasználók milyen tartalmakat hozhatnak létre mesterséges intelligenciával, egyértelmű címkézést kikényszerítve.

Az elmúlt néhány évben a mesterséges intelligencia (MI) szédítő sebességgel fejlődött és folyamatosan fejlődött, számos területen mélyreható támogató eszközzé vált. A Veo3 – a Google DeepMind által nemrégiben kifejlesztett, mesterséges intelligenciát használó videókészítő technológia – képes élethű felvételek készítésére. A felhasználókat támogató segédprogramok mellett ez az eszköz azzal a kihívással is jár, hogy a rosszfiúk csalásra kihasználhatják.

Nehéz különbséget tenni a valódi és a hamis között

A technológiai világ szerint a Veo3 világszerte „felháborodást keltett” a mesterséges intelligencia által támogatott videókészítő funkciója miatt, amelynek realizmusa minden korábbi eszközt felülmúl. Az OpenAI Sora programjával ellentétben – amely csak a képminőség tekintetében tűnik ki, de a hangzás tekintetében korlátozott – a Veo3 tökéletesen szinkronizálja a képeket, a környezeti hangokat és a párbeszédeket. A lépésektől, a széltől az emberi hangokon át a környezeti effektekig mindent simán kombinál, elérve az élethűséget, megnehezítve a felhasználók számára a valódi videók és a mesterséges intelligencia által készített videók megkülönböztetését.

Vietnámban a Veo3 gyorsan lázat keltett a közösségi oldalakon, mint például a TikTok, a Facebook és a YouTube Shorts. A #veo3 hashtaggel ellátott videók sorozatát szédítő sebességgel osztották meg, több millió megtekintést és több százezer interakciót vonzva. Sok, mesterséges intelligencia által készített klip meglepte az online közösséget hihetetlen hitelességével. Például egy 8 másodperces videó egy egyszerű párbeszéddel elérte az 5 millió megtekintést és több mint 308 000 kedvelést. Egy másik, teljes egészében mesterséges intelligencia által készített videó, amelyen egy idős nő tojást süt, szintén több mint 2,6 millió megtekintést és több mint 104 000 kedvelést ért el.

Tran Vinh Khang úr – egy irodai dolgozó Ho Si Minh-város 1. kerületében – megosztotta, hogy alig tud különbséget tenni a valódi és a hamis között, mert a valósághűség szintje túl magas volt. „Láttam egy videót egy halárusról, aki a piacon beszélget a vásárlókkal, és azt hittem, hogy valódi, mert a kép annyira éles volt. Ahogy integetett, felvonta a szemöldökét, ahogy a napfény megcsillant az arcán, minden annyira természetes volt, hogy hihetetlen volt, hogy mesterséges intelligencia hozta létre” – mondta Khang úr.

A Veo3 által készített filmben a felhasználók nehezen tudnak különbséget tenni a valódi és a hamis képek között.

Bár elismerte, hogy lenyűgözte a videó, a Ho Si Minh-városban élő Nguyen Mai Anh aggodalmát fejezte ki az információbiztonsággal kapcsolatban. „A Veo3 által készített videó annyira realisztikus, hogy bizonytalannak érzem magam. Ha a rosszfiúk ezt a technológiát arra használják, hogy rágalmazó, becsmérlő vagy bizonyítékokat hamisító videókat készítsenek, annak nagyon súlyos következményei lesznek” – fejezte ki Anh asszony.

Sok vietnami felhasználó különösen érdeklődik a Veo3 elérésének és használatának módja iránt. A Google azonban hivatalosan csak az amerikai piacon vezette be a Veo3-at, a Google AI Ultra előfizetési csomagon keresztül, havi 249,99 USD díjért. Ezzel a korlátozással szembesülve a vietnami online közösség talált egy módot a „korlátok leküzdésére”, hogy megtapasztalhassa. Sokan osztanak meg tippeket a VPN használatáról az IP-cím amerikaira való váltásához, onnan pedig egy Google-fiók regisztrálásához a támogatott régióban, hogy aktiválhassák és helyi felhasználóként használhassák a Veo3-at. Biztonsági szakértők szerint ez egy olyan kiskapu is, amelyet a rosszfiúk kihasználhatnak gyanús dolgok elkövetésére.

A mesterséges intelligenciához szükséges jogi keretrendszer

Le Hong Duc úr, a OneAds Digital Company Limited alapítója elmondta, hogy a mesterséges intelligencia által generált termékek, mint például a videók, képek vagy hangok, elképesztő realizmusszintet értek el, sőt közvetlenül gyártásba és kereskedelmi forgalomba hozhatók. Ez a robbanásszerű növekedés egyértelmű előnyökkel jár a költségek és az idő tekintetében, de kihasználható hamis információk terjesztésére vagy nyilvános zavar keltésére. Az egyre összetettebb mesterséges intelligencia modellek kontextusában a tartalomellenőrzés sürgetővé válik, különösen akkor, amikor a technológia messze meghaladta a jelenlegi törvények frissítésének sebességét.

Ezért Duc úr azt javasolta, hogy sürgősen ki kell dolgozni egy speciális törvényt a mesterséges intelligenciára vonatkozóan, amely egyértelműen meghatározza a mesterséges intelligencia által létrehozott tartalmakat létrehozók és megosztók felelősségét. A hamis és mérgező tartalmak terjesztését szankcionálni és szigorúan kezelni kell. Ugyanakkor a hatóságoknak kritériumokat kell meghatározniuk a felhasználók által mesterséges intelligencia segítségével létrehozható tartalmak korlátozására, és egyértelmű címkéket kell előírniuk. Ha a végrehajtás nem megfelelő, a felhasználóknak jogi felelősséget kell vállalniuk, és meg kell téríteniük az okozott károkat. „Rendkívül sürgős egy külön jogi keretrendszer kiadása a mesterséges intelligenciára vonatkozóan, hogy ellenőrizni lehessen ezt a gyorsan fejlődő technológiát, hozzájárulva az egészséges digitális környezet fenntartásához, megelőzve az olyan következményeket, mint a csalás, az etikai szabálysértések vagy mások sértegetése” – hangsúlyozta Duc úr.

A jogi aggályok mellett egy információbiztonsági szakértő megosztotta, hogy a Veo3 kiemelkedő fejlesztése aggodalmat kelt a tartalomkészítők körében is, különösen olyan területeken, mint a film, a televízió és az animáció, amelyeket fokozatosan felvált a mesterséges intelligencia technológiája, ami komoly kihívást jelent a kreatív iparágak karrierjeinek és szerzői jogainak védelme szempontjából. „Hamarosan szabályozásokat kell bevezetni a mesterséges intelligencia által generált tartalmak szellemi tulajdonjogaira vonatkozóan, mivel a mesterséges intelligencia ma már képes rendkívül realisztikus termékeket előállítani. Ellenkező esetben az alkotók azzal a kockázattal néznek szembe, hogy elveszítik az állásukat a piacot elárasztó virtuális művek hulláma miatt” – mondta a szakértő.

Óvakodj a személyes adatokkal visszaélő szolgáltatásoktól

Amióta a Veo3 berobbant, a közösségi média platformokon számos, magát „mesterségesintelligencia-szakértőnek” valló fiók elkezdett demóvideókat, a Veo3 elérésére vonatkozó utasításokat megosztani, vagy fiókokat és támogatási szolgáltatásokat árulni 200 000 és 300 000 VND közötti áron. Egyes felhasználók azt mondták, hogy sikeresen hozzáfértek és kipróbálták, de nem mindenki tapasztalhatta meg. Le Hong Duc úr óvatosságra intette a felhasználókat a hamis vagy nem hivatalos szolgáltatásokkal, és azt javasolta, hogy várják meg, amíg a Google hivatalosan is bevezeti a Veo3-at a vietnami piacon, hogy elkerüljék a pénzügyi csalásokat, az adatlopást vagy a Google-fiókok feletti ellenőrzés átvételét.

Forrás: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm