Le côté obscur des abus de l'IA

Le Nouvel An lunaire de Giap Thin 2024 devrait connaître une explosion en ligne avec d'innombrables applications de vœux du Têt basées sur l'IA. Outre les applications de géants de la technologie tels que Microsoft Copilot, Google Bard ou ChatGPT d'OpenAI, on trouve également de nombreuses applications vietnamiennes.

Et pas seulement avec des salutations textuelles, les utilisateurs peuvent également demander à l'IA de créer des cartes du Têt avec des images et des vidéos .

Cartes de vœux du Têt générées par l'IA pour l'année du Dragon.

Cependant, beaucoup de gens se sentent déprimés lorsqu'ils savent que les vœux de Nouvel An qui leur sont adressés sont créés par des « robots ». Ils ne reflètent plus les émotions sincères de leur expéditeur.

Depuis longtemps, les avertissements se multiplient concernant les abus de l'IA dans tous les domaines de la vie. Ces abus rendent les individus paresseux et inactifs. Auparavant, la révolution de l'automatisation par les machines a permis de réduire le travail manuel et physique ; mais en cas d'abus, elle engendre paresse et faiblesse. Aujourd'hui, l'IA a impacté les activités mentales humaines. Les avantages de l'IA sont indéniables, mais il faut savoir comment l'utiliser efficacement, au bon moment et au bon endroit. L'abus de l'IA, même s'il n'est pas à mauvais escient, n'est toujours pas bénéfique pour les utilisateurs.

Les experts soulignent également que, dans le contexte de l'explosion des applications d'IA, le Têt de cette année verra davantage d'applications de retouche photo personnelle, créant des images à partir des utilisateurs. C'est amusant, mais les utilisateurs doivent être prudents et n'utiliser que des applications de fournisseurs fiables. L'utilisation abusive d'applications de « modification de visage » peut entraîner le vol d'identité des utilisateurs à des fins malveillantes, voire nuisibles.

Le Département de la sécurité de l'information ( ministère de l'Information et des Communications ) prévient que la plupart des activités de retouche faciale en ligne nécessitent la fourniture d'images faciales personnelles, ce qui présente de nombreux risques potentiels pour la sécurité de l'information. M. Nguyen Duy Khiem, représentant du Département de la sécurité de l'information, a déclaré : « Outre la fourniture d'images par les utilisateurs, la plupart des applications demandent également l'accès aux photothèques, aux appareils photo des téléphones, ainsi qu'aux adresses e-mail et aux numéros de téléphone. Sur cette base, les fournisseurs de services peuvent collecter des informations et traiter les données personnelles des utilisateurs à diverses fins. »

En fait, avec les images de portraits personnels fournies par les utilisateurs, les propriétaires d'applications peuvent créer d'autres images, voire faire en sorte que les données deepfake entraînent de nombreuses conséquences imprévisibles.

Source : https://nld.com.vn/mat-trai-cua-viec-lam-dung-ai-19624010921563478.htm