Wie heeft My Tam en Son Tung kwaad gedaan?

Het probleem van AI die zich voordoet als beroemdheden om mensen op te lichten, baart de Vietnamese entertainmentindustrie grote zorgen. Talrijke artiesten hebben zich uitgesproken om zichzelf te beschermen en hun fans te waarschuwen.

Op een avond begin november, terwijl ze op haar telefoon aan het rondneuzen was, zag kunstenares Hanh Thuy (49 jaar) tot haar grote schrik een bericht. Iemand had foto's die ze op sociale media had geplaatst, gebruikt om een ​​nepaccount aan te maken en vervolgens veel van Hanh Thuys collega's benaderd met het verzoek om geld te lenen.

Hanh Thuy plaatste direct een dringende mededeling over de situatie waarin ze zich bevond op haar persoonlijke pagina. Ze meldde het incident ook snel bij de autoriteiten.

“De methoden van de oplichters zijn erg geraffineerd. Ze imiteren elke manier waarop ik sms en praat om mijn collega's te misleiden. Gelukkig ontdekte ik het op tijd. Zodra ik de dringende oproep plaatste, reageerden veel andere artiesten ook verontwaardigd en vertelden dat ze soortgelijke situaties al vaker hadden meegemaakt. Onlangs nog huilde acteur Bá Thắng omdat hij voor 35 miljoen VND was opgelicht met een soortgelijke methode,” vertelde de actrice.

Het gaat niet alleen om Hanh Thuy, maar om een ​​hele reeks Vietnamese sterren, van   Mijn Tam   Van Hoa Minzy, Duc Phuc en Viet Huong tot anderen, er zijn steeds meer berichten verschenen waarin fans worden gewaarschuwd. Ondertussen werd het imago van Son Tung in een realityshow vervalst, waardoor het team van de zanger onmiddellijk een rectificatie moest publiceren.

De Vietnamese entertainmentindustrie wordt overspoeld met waarschuwingen.

De laatste tijd zijn veel beroemdheden het doelwit geworden van online oplichting via identiteitsfraude op sociale media. Het meest recente geval betreft tv-presentator Hoài Anh.

Op de avond van 11 november plaatste de tv-presentatrice een lang bericht op haar persoonlijke pagina om dringend aan te kondigen dat talloze nepaccounts zich voordeden als haar en haar afbeelding gebruikten om fraude te plegen. Deze pagina's gebruikten namen die op de hare leken en plaatsten bijna al haar foto's en artikelen van haar officiële pagina.

Hoài Anh vertelde dat ze de afgelopen dagen veel berichten van vrienden en collega's heeft ontvangen waarin ze waarschuwen voor deze nepaccounts. Een van deze pagina's spoorde kijkers zelfs aan om geld over te maken om in aandelen te investeren. Ze bevestigde dat ze slechts één geverifieerd persoonlijk Facebook-account gebruikt onder de naam "Nguyen Hoai Anh", samen met een fanpagina genaamd "Editor Hoai Anh", die ze in oktober heeft aangemaakt.

"Er zijn nogal wat nepaccounts, maar deze lijkt zich voor te doen als Hoai Anh en spoort mensen aan om geld over te maken om in aandelen te investeren. Dit is behoorlijk ernstig, want dit account vervalst niet alleen content of probeert views en likes te genereren, maar neigt ook naar fraude," voegde Hoai Anh eraan toe.

My Tam, Son Tung en vele andere sterren zijn geïmiteerd. Foto: FBNV.

De methode die de oplichters gebruiken om Hoai Anh te misleiden, is vergelijkbaar met die van veel andere beroemdheden. Deze personen maken gebruik van deepfake-technologie, waarmee ze video's en audio van beroemdheden kunnen creëren die onherkenbaar zijn. Deze AI-producten worden vervolgens misbruikt voor fraude, het promoten van illegale goederen, het stelen van persoonlijke gegevens van gebruikers of het verleiden van gebruikers tot het downloaden van malware.

Deze acties hebben een ernstige en directe impact op het imago en de reputatie van beroemdheden. Bovendien zijn sommige artiesten zelf ook slachtoffer geworden van oplichting.

De afgelopen maanden heeft bijna elke dag wel minstens één artiest op zijn of haar persoonlijke pagina een waarschuwing aan het publiek gegeven. Dit probleem wordt echter steeds ernstiger, met steeds geraffineerdere en onvoorspelbare tactieken.

Enkele dagen geleden werd de Vietnamese zangeres My Tam geconfronteerd met een situatie waarin AI haar stem nabootste om illegale producten te promoten. Via haar managementbureau heeft My Tam bevestigd dat ze samenwerkt met de platforms om de inbreukmakende content te verwijderen en dat ze ook samenwerkt met de wetshandhavingsinstanties om in te grijpen en de zaak af te handelen.

"We roepen onze kijkers op om waakzaam te zijn voor onofficiële content van het bedrijf en om dergelijke content of gedragingen die ze tegenkomen te melden. Kijkers moeten voorzichtig zijn om te voorkomen dat ze worden opgelicht en schadelijke namaakproducten kopen, wat tot vervelende incidenten kan leiden," benadrukte de zanger.

Eind augustus uitte kunstenares Hong Dao ook haar frustratie over de vele nepaccounts op sociale media die haar beeltenis nabootsten om fanpagina's te creëren waarop afslankmiddelen en -producten werden verkocht. Deze pagina's trokken duizenden volgers.

Mac Van Khoa, MC Lai Van Sam, Dan Truong, Ly Hai en vele andere Vietnamese artiesten hebben hun bezorgdheid geuit over een reeks nepwebsites die hun namen misbruiken om voedingssupplementen, cursussen voor vermogensopbouw, apps voor leningen met hoge rente, enzovoort te adverteren. Onder hen zei acteur Mac Van Khoa dat hij zich met name zorgen maakte dat AI-technologie zulke realistische vervalsingen zou kunnen creëren dat veel mensen er gemakkelijk in zouden trappen zonder het te beseffen.

"Khoa heeft zojuist een video ontvangen waarin een AI zich voordoet als hem. De AI heeft zijn gezicht en stem vervalst en gebruikt volledig valse beweringen. Wees alsjeblieft allemaal voorzichtig. Als je online ongebruikelijke informatie ziet, meld dit dan en laat Khoa het weten, zodat hij anderen kan waarschuwen om nare incidenten te voorkomen," schreef hij.

De grootste pechvogel was ongetwijfeld acteur Ba Thang. Door onachtzaamheid en het niet controleren van de gegevens maakte Ba Thang direct 35 miljoen VND over naar de oplichter, zonder te weten dat het een nepaccount was dat zich voordeed als zijn collega.

"Waarom zou ik huilen? Ik ben bedrogen omdat ik mensen te veel vertrouwde," deelde Ba Thang verdrietig op zijn persoonlijke pagina.

De nachtmerrie van een ster

Honderden beroemdheden wereldwijd worden al jaren geconfronteerd met de nachtmerrie van AI-gestuurde oplichting. De vormen van uitbuiting die cybercriminelen gebruiken, omvatten: financiële fraude; het creëren van schadelijke content; en commerciële vervalsing. Het meest voorkomende is dat fraudeurs deepfake-stemmen of -video's van beroemdheden maken om investeringen te werven voor nep-projecten (cryptovaluta, goede doelen) of zelfs om vrienden en familie van de slachtoffers op te lichten.

Bovendien maken deze personen ook pornografisch materiaal, wat ernstige schade toebrengt aan de eer, carrière en het imago van beroemdheden.

In oktober 2024 publiceerde beveiligingssoftwarebedrijf McAfee een lijst met de 10 meest geïmiteerde beroemdheden, waaronder grote namen als...   Scarlett Johansson,   Kylie Jenner   en Taylor Swift.

Popster Taylor Swift is regelmatig het doelwit van oplichting waarbij haar naam en imago ongeoorloofd worden gebruikt. Deze oplichtingspraktijken omvatten onder andere het zich voordoen als de zangeres om illegale producten te promoten, fraude met concertkaartjes, het oplichten van fans met valse kaartjes of het weggeven van namaakartikelen.

Eerder dit jaar vertelde de 53-jarige Franse interieurontwerpster Anne voor het eerst over haar ervaringen in een interview met   Zeven tot acht   Op de Franse zender TF1 vertelde Anne dat ze via Instagram benaderd werd door iemand die beweerde de moeder van Pitt te zijn. "Ze vertelde me dat haar zoon iemand zoals ik nodig had," aldus Anne.

Een paar dagen later werd ze gecontacteerd door iemand die beweerde van Pitt te zijn. "In eerste instantie dacht ik dat het nep en belachelijk was. Maar ik was niet gewend aan sociale media en begreep echt niet wat er met me gebeurde," herinnerde Anne zich.

De oplichters vertelden Anne dat Pitt geld nodig had voor een nierbehandeling, maar dat hij dat zelf niet kon betalen omdat zijn bankrekening was geblokkeerd vanwege een scheiding. Om Anne ervan te overtuigen dat Pitt daadwerkelijk achter de rekening zat, stuurden de oplichters hem een ​​door AI gegenereerde, digitaal bewerkte afbeelding van de acteur in een ziekenhuisbed om zijn identiteit te verifiëren. Omdat Anne dacht dat zij en Pitt een romantische relatie hadden, stuurde ze de afbeelding uiteindelijk naar de oplichters.   850.000 USD .

Ook Johnny Depp waarschuwde fans voor oplichters die AI gebruiken om zich als hem voor te doen. De acteur zei dat veel sociale media-accounts en e-mails die zich voordoen als hem en leden van zijn team, proberen contact op te nemen met mensen en hen ertoe te verleiden geld over te maken.

Volgens   Volgens People magazine waarschuwde de Amerikaanse Federal Trade Commission in 2018 voor het probleem van het zich voordoen als beroemdheden op sociale media. Veel sterren hebben juridische stappen ondernomen om deze oplichters te straffen. Echter, met steeds geavanceerdere methoden en de snelle ontwikkeling van kunstmatige intelligentie blijft dit probleem onopgelost. Het is een nachtmerrie geworden voor honderden sterren wereldwijd .

Bron: https://baoquangninh.vn/ai-hai-my-tam-son-tung-3384322.html