Sisi negatif dari aplikasi kecerdasan buatan.

Setelah perusahaan rintisan OpenAI meluncurkan aplikasi AI pertamanya, ChatGPT, pada akhir tahun 2022, gelombang pengembangan aplikasi AI, terutama AI generatif, pun terpicu, membawa banyak manfaat bagi semua aspek kehidupan. Namun, hal ini juga membawa banyak risiko.

Pelanggaran privasi

Dalam beberapa tahun terakhir, banyak organisasi dan individu telah menderita kerugian signifikan karena penjahat siber telah menggunakan AI untuk membuat klip video palsu yang meniru gambar dan suara orang sungguhan. Contoh utama dari hal ini adalah penipuan Deepfake, yang melibatkan penipuan terhadap orang sungguhan agar percaya bahwa mereka adalah orang sungguhan.

Menurut Laporan Penipuan Identitas yang diterbitkan oleh Sumsub pada akhir November 2023, penipuan deepfake secara global meningkat sepuluh kali lipat dalam dua tahun antara 2022 dan 2023. Ini juga merupakan periode ketika aplikasi yang dihasilkan AI meledak di seluruh dunia .

Status Labs mencatat bahwa teknologi Deepfake telah berdampak signifikan pada budaya, privasi, dan reputasi pribadi. Sebagian besar berita dan perhatian seputar Deepfake berfokus pada pornografi selebriti, konten balas dendam, disinformasi, berita palsu, pemerasan, dan penipuan. Misalnya, pada tahun 2019, sebuah perusahaan energi AS ditipu sebesar $243.000 oleh peretas yang menyamar sebagai pemimpin perusahaan dan suara mereka, menuntut karyawan untuk mentransfer uang kepada mitra.

Reuters melaporkan bahwa pada tahun 2023, sekitar 500.000 file video dan audio Deepfake dibagikan di media sosial di seluruh dunia. Selain Deepfake yang dibuat untuk hiburan, ada juga penipuan yang dirancang oleh pelaku jahat untuk menipu publik. Beberapa sumber menunjukkan bahwa pada tahun 2022, penipuan Deepfake di seluruh dunia menyebabkan kerugian sekitar $11 juta.

Banyak pakar teknologi telah memperingatkan tentang sisi negatif AI, termasuk masalah hak kekayaan intelektual dan keaslian, dan lebih jauh lagi, sengketa hak kekayaan intelektual antara "karya" yang diciptakan oleh AI. Misalnya, seseorang mungkin menggunakan AI untuk melukis gambar dengan subjek tertentu, dan orang lain mungkin juga menggunakan AI untuk melakukan hal yang sama, sehingga menghasilkan lukisan dengan banyak kemiripan.

Hal ini dengan mudah menyebabkan sengketa kepemilikan. Namun, hingga saat ini, dunia belum memutuskan untuk mengakui hak cipta atas konten yang dihasilkan AI (mengakui hak cipta bagi individu yang memesan pembuatan konten AI atau bagi perusahaan yang mengembangkan aplikasi AI).

Gambar yang dibuat oleh aplikasi AI.

Sulit untuk membedakan antara yang asli dan yang palsu.

Jadi, apakah konten yang dihasilkan AI dapat melanggar hak cipta? Secara teknologi, konten yang dihasilkan AI disintesis oleh algoritma dari data yang telah dilatih. Basis data ini dikumpulkan oleh pengembang aplikasi AI dari berbagai sumber, terutama dari basis pengetahuan yang luas di internet. Banyak dari karya-karya ini sudah memiliki hak cipta milik pemiliknya.

Pada 27 Desember 2023, The New York Times mengajukan gugatan terhadap OpenAI (dengan ChatGPT) dan Microsoft, dengan tuduhan bahwa jutaan artikelnya telah digunakan untuk melatih chatbot AI dan platform AI dari kedua perusahaan tersebut. Bukti yang disajikan termasuk konten yang dihasilkan oleh chatbot atas permintaan pengguna yang serupa atau identik dengan isi artikel. Surat kabar tersebut tidak dapat mengabaikan fakta bahwa kekayaan intelektualnya digunakan oleh perusahaan-perusahaan ini untuk keuntungan.

The New York Times adalah surat kabar besar Amerika pertama yang mengajukan gugatan hak cipta terkait AI. Ada kemungkinan surat kabar lain juga akan menggugat di masa mendatang, terutama setelah kasus The New York Times yang berhasil.

Sebelumnya, OpenAI telah mencapai kesepakatan lisensi dengan Associated Press pada Juli 2023 dan Axel Springer – penerbit Jerman yang memiliki Politico dan Business Insider – pada Desember 2023.

Aktris Sarah Silverman juga terlibat dalam beberapa tuntutan hukum pada Juli 2023, yang menuduh Meta dan OpenAI menggunakan memoarnya sebagai materi pelatihan untuk program AI. Banyak penulis juga menyatakan keprihatinan setelah terungkap bahwa sistem AI telah menyerap puluhan ribu buku ke dalam basis data mereka, yang menyebabkan tuntutan hukum dari penulis seperti Jonathan Franzen dan John Grisham.

Sementara itu, Getty Images, sebuah perusahaan jasa foto, juga menggugat sebuah perusahaan AI karena membuat gambar berdasarkan perintah teks, yang diduga melalui penggunaan materi gambar berhak cipta milik perusahaan tersebut tanpa izin.

Pengguna mungkin menghadapi masalah hak cipta ketika mereka "secara ceroboh" menggunakan "karya" yang telah mereka pesan dari alat AI. Para ahli selalu menyarankan untuk menggunakan alat AI hanya untuk penelitian, pengumpulan data, dan saran untuk tujuan referensi.

Di sisi lain, aplikasi AI membingungkan pengguna karena menyulitkan untuk membedakan antara konten asli dan palsu. Penerbit dan ruang redaksi mungkin kebingungan saat menerima manuskrip. Guru juga menghadapi kesulitan dalam mengetahui apakah karya siswa telah menggunakan AI.

Masyarakat kini harus lebih waspada karena sulit membedakan antara konten asli dan palsu. Misalnya, akan sulit bagi orang awam untuk mendeteksi apakah sebuah foto telah dimanipulasi atau diedit oleh AI.

Diperlukan regulasi hukum terkait penggunaan AI.

Sembari menunggu pengembangan alat yang mampu mendeteksi campur tangan AI, badan pengatur perlu menetapkan peraturan hukum yang jelas dan spesifik mengenai penggunaan teknologi ini untuk menciptakan konten orisinal. Peraturan ini harus secara jelas menunjukkan kepada publik konten atau karya mana yang telah dimanipulasi oleh AI, misalnya, dengan menambahkan tanda air (watermark) secara otomatis pada gambar yang telah diproses oleh AI.

Sumber: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm