Sisi Gelap Penyalahgunaan AI

Tahun Baru Imlek Giap Thin 2024 diprediksi akan meledak secara daring dengan banyaknya aplikasi ucapan Tet yang didukung oleh teknologi AI. Selain aplikasi dari "raksasa teknologi" seperti Microsoft Copilot, Google Bard, atau ChatGPT oleh OpenAI... ada juga banyak aplikasi Vietnam.

Dan tidak hanya dengan ucapan teks, pengguna juga dapat meminta AI untuk membuat kartu Tet dengan gambar dan video .

Kartu ucapan Tet yang dibuat AI untuk Tahun Naga.

Namun, banyak orang akan merasa "sedih" ketika mengetahui bahwa ucapan Tahun Baru yang dikirimkan kepada mereka dibuat oleh "robot". Ucapan tersebut tidak lagi mengandung emosi asli sang pengirim.

Sejak lama, orang-orang telah memperingatkan tentang penyalahgunaan AI di segala aspek kehidupan. Penyalahgunaan ini membuat orang malas menggunakan otak mereka. Sebelumnya, revolusi otomatisasi oleh mesin membantu manusia mengurangi pekerjaan manual dan fisik; tetapi jika disalahgunakan, justru akan membuat manusia malas dan lemah. Kini, teknologi AI telah memengaruhi aktivitas mental manusia. Manfaat yang dibawa AI memang tak terbantahkan, tetapi bagaimana cara menerapkannya secara efektif, pada waktu yang tepat, dan di tempat yang tepat? Penyalahgunaan AI, meskipun tidak untuk tujuan yang buruk, tetap tidak bermanfaat bagi pengguna.

Para ahli juga mencatat bahwa dalam konteks ledakan aplikasi AI, Tet tahun ini akan melihat lebih banyak aplikasi penyunting foto pribadi, yang dibuat dari gambar pengguna. Hal ini memang menyenangkan, tetapi pengguna perlu berhati-hati dan hanya menggunakan aplikasi dari penyedia tepercaya. Penyalahgunaan aplikasi "pengubah wajah" dapat menyebabkan "identitas pengguna dicuri" untuk tujuan yang buruk, bahkan berbahaya.

Departemen Keamanan Informasi ( Kementerian Informasi dan Komunikasi ) memperingatkan bahwa sebagian besar aktivitas penyuntingan wajah daring memerlukan penyediaan gambar wajah pribadi, yang menimbulkan banyak potensi risiko terhadap keamanan informasi. Bapak Nguyen Duy Khiem, perwakilan Departemen Keamanan Informasi, mengatakan: "Selain mengharuskan pengguna untuk menyediakan gambar, sebagian besar aplikasi juga meminta akses ke perpustakaan foto, kamera ponsel, serta akses ke alamat email, nomor telepon, dll. Atas dasar itu, penyedia layanan dapat mengumpulkan informasi dan memproses informasi pribadi pengguna untuk berbagai tujuan."

Faktanya, dengan gambar potret pribadi yang disediakan pengguna, pemilik aplikasi dapat membuat gambar lain, bahkan membuat data deepfake menimbulkan banyak konsekuensi yang tidak terduga.

Sumber: https://nld.com.vn/mat-trai-cua-viec-lam-dung-ai-19624010921563478.htm