Den mörka sidan av AI-missbruk

Det kinesiska nyåret 2024 förväntas explodera online med otaliga applikationer som vill ha stöd av AI-teknik. Förutom applikationer från "teknikjättar" som Microsoft Copilot, Google Bard eller ChatGPT från OpenAI... finns det också många vietnamesiska applikationer.

Och inte bara med textönskningar, användare kan också be AI att skapa Tet-kort med bilder och videor .

AI-genererade nyårshälsningskort för Drakens år.

Många människor kommer dock att känna sig "nedstämda" när de vet att nyårshälsningarna som skickas till dem är skapade av "robotar". De innehåller inte längre avsändarens genuina känslor.

Länge har människor varnat för missbruk av AI inom alla områden i livet. Detta missbruk gör människor lata när det gäller att använda sina hjärnor. Tidigare hjälpte automatiseringsrevolutionen med maskiner människor att minska manuellt och fysiskt arbete; men om det missbrukas kommer det att göra människor lata och svaga. Idag har AI-teknik påverkat människors mentala aktiviteter. Det går inte att förneka fördelarna som AI medför, men det handlar om hur man tillämpar AI effektivt, vid rätt tidpunkt, på rätt plats. Att missbruka AI, även om det inte är för dåliga syften, är fortfarande inte fördelaktigt för användarna.

Experter noterar också att i samband med explosionen av AI-applikationer kommer årets Tet att se fler personliga fotoredigeringsapplikationer, skapade från användarbilder. Det är roligt, men användarna måste vara försiktiga och bör endast använda applikationer från betrodda leverantörer. Missbruk av "ansiktsförändrande" applikationer kan leda till att användares "identitet" blir stulen för onda, till och med skadliga syften.

Informationssäkerhetsdepartementet ( Ministeriet för information och kommunikation ) varnar för att de flesta ansiktsredigeringsaktiviteter på internet kräver tillhandahållande av personliga ansiktsbilder, vilket innebär många potentiella risker för informationssäkerheten. Nguyen Duy Khiem, representant för informationssäkerhetsdepartementet, sa: "Förutom att kräva att användare tillhandahåller bilder kräver de flesta applikationer också tillgång till fotobibliotek, telefonkameror, samt tillgång till e-postadresser, telefonnummer etc. På grundval av detta kan tjänsteleverantörer samla in information och behandla användarnas personuppgifter för olika ändamål."

Faktum är att applikationsägare kan skapa andra bilder med hjälp av personliga porträttbilder som tillhandahålls av användare, och även att använda djupförfalskade data kan orsaka många oförutsägbara konsekvenser.

Källa: https://nld.com.vn/mat-trai-cua-viec-lam-dung-ai-19624010921563478.htm