Sisi gelap aplikasi kecerdasan buatan

Selepas OpenAI permulaan melancarkan aplikasi AI pertamanya, ChatGPT, pada akhir 2022, gelombang perlumbaan untuk membangunkan aplikasi AI telah dicetuskan, terutamanya AI generatif, yang membawa banyak kemudahan dalam semua bidang kehidupan. Walau bagaimanapun, ini juga membawa banyak risiko.

Pencerobohan privasi

Dalam beberapa tahun kebelakangan ini, banyak organisasi dan individu telah mengalami kerugian apabila penjenayah teknologi menggunakan AI untuk mencipta klip video yang memalsukan imej dan suara orang sebenar. Satu contoh ialah helah "palsu menjadi nyata" yang dipanggil Deepfake.

Menurut Laporan Penipuan Identiti yang diterbitkan oleh Sumsub pada akhir November 2023, penipuan Deepfake secara global meningkat 10 kali ganda pada 2022-2023. Ini juga adalah masa apabila aplikasi AI buatan meletup di dunia .

Status Labs menyatakan bahawa Deepfake telah memberi kesan besar pada budaya, privasi dan reputasi peribadi. Kebanyakan berita dan perhatian yang mengelilingi Deepfake telah tertumpu pada lucah selebriti, lucah balas dendam, salah maklumat, berita palsu, pemerasan dan penipuan. Sebagai contoh, pada 2019, sebuah syarikat tenaga di AS telah ditipu $243,000 oleh penggodam yang memalsukan imej dan suara kepimpinan syarikat dan meminta pekerja memindahkan wang kepada rakan kongsi.

Agensi berita Reuters melaporkan bahawa pada 2023, kira-kira 500,000 kandungan Deepfake dalam video dan suara telah dikongsi di rangkaian sosial di seluruh dunia. Selain Deepfakes untuk keseronokan, terdapat helah yang dicipta oleh orang jahat untuk menipu masyarakat. Beberapa sumber mengatakan bahawa pada tahun 2022, penipuan Deepfake di seluruh dunia menyebabkan kerugian dianggarkan sebanyak 11 juta USD.

Ramai pakar teknologi telah memberi amaran tentang kesan negatif AI, termasuk hak harta intelek dan ketulenan, dan seterusnya, pertikaian harta intelek antara "karya" yang dicipta oleh AI. Sebagai contoh, seseorang meminta aplikasi AI untuk melukis gambar dengan tema tertentu, tetapi orang lain meminta AI untuk melakukan perkara yang sama, menghasilkan lukisan dengan banyak persamaan.

Ini berkemungkinan besar akan menyebabkan pertikaian mengenai pemilikan. Walau bagaimanapun, sehingga kini, dunia masih belum membuat keputusan mengenai pengiktirafan hak cipta untuk kandungan yang dijana AI (mengiktiraf kepengarangan untuk individu yang memesan AI kreatif atau syarikat yang membangunkan aplikasi AI).

Imej yang dihasilkan oleh aplikasi AI

Sukar untuk membezakan antara asli dan palsu

Jadi bolehkah kandungan yang dijana AI melanggar hak cipta? Dari segi teknologi, kandungan yang dijana AI disintesis oleh algoritma daripada data yang telah dilatih. Pangkalan data ini dikumpul oleh pembangun aplikasi AI daripada banyak sumber, terutamanya daripada pangkalan pengetahuan di internet. Kebanyakan karya ini telah dilindungi hak cipta kepada pemiliknya.

Pada 27 Disember 2023, The New York Times (AS) menyaman OpenAI (dengan ChatGPT) dan Microsoft, dengan mendakwa berjuta-juta artikel mereka digunakan untuk melatih chatbot AI dan platform AI bagi kedua-dua syarikat ini. Buktinya terdapat kandungan yang dicipta oleh chatbots atas permintaan pengguna yang sama atau serupa dengan kandungan artikel tersebut. Akhbar ini tidak boleh mengabaikan apabila "harta intelek" mereka digunakan oleh syarikat untuk mengaut keuntungan.

The New York Times ialah akhbar utama AS pertama yang memfailkan tuntutan hak cipta berkaitan AI. Ada kemungkinan akhbar-akhbar lain akan mengikutinya pada masa hadapan, terutama selepas kejayaan The New York Times.

Sebelum ini, OpenAI mencapai perjanjian pelesenan hak cipta dengan agensi berita Associated Press pada Julai 2023 dan Axel Springer - penerbit Jerman yang memiliki akhbar Politico dan Business Insider - pada Disember 2023.

Pelakon Sarah Silverman juga menyertai tuntutan mahkamah pada Julai 2023, menuduh Meta dan OpenAI menggunakan memoirnya sebagai teks latihan untuk program AI. Ramai penulis juga menyatakan kebimbangan apabila ia mendedahkan bahawa sistem AI telah menyerap puluhan ribu buku ke dalam pangkalan data mereka, yang membawa kepada tindakan undang-undang daripada pengarang seperti Jonathan Franzen dan John Grisham.

Sementara itu, perkhidmatan foto Getty Images juga telah menyaman sebuah syarikat AI kerana mencipta imej berdasarkan gesaan teks kerana penggunaan tanpa kebenaran bahan imej berhak cipta syarikat...

Pengguna boleh menghadapi masalah hak cipta apabila mereka "secara tidak berhati-hati" menggunakan "karya" yang telah mereka minta alatan AI untuk "buat". Pakar sentiasa mengesyorkan menggunakan alatan AI hanya untuk mencari, mengumpul data dan membuat cadangan untuk tujuan rujukan.

Sebaliknya, aplikasi AI mengelirukan pengguna apabila mereka tidak dapat membezakan antara kebenaran dan kepalsuan kandungan tertentu. Penerbit dan pejabat akhbar mungkin keliru apabila menerima manuskrip. Guru juga menghadapi masalah untuk mengetahui sama ada kerja pelajar menggunakan AI atau tidak.

Masyarakat kini perlu lebih berwaspada kerana tidak diketahui mana yang sebenar dan mana yang palsu. Sebagai contoh, sukar bagi orang biasa untuk mengesan sama ada foto telah "terpesona" atau diedit oleh AI.

Peraturan undang-undang mengenai penggunaan AI diperlukan

Sementara menunggu alat aplikasi yang boleh mengesan campur tangan AI, agensi pengurusan perlu segera mempunyai peraturan undang-undang yang jelas dan khusus mengenai penggunaan teknologi ini untuk mencipta kandungan peribadi. Peraturan undang-undang perlu menunjukkan kepada semua orang bahawa kandungan dan karya telah diganggu oleh AI, contohnya, secara lalai, menanda air imej yang telah dimanipulasi oleh AI.

Sumber: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm