Industri teknologi berusaha untuk mengenal pasti imej yang dijana AI

Ketua Pegawai Eksekutif Truepic Jeffrey McGregor berkata kejadian itu hanyalah puncak gunung ais. Akan ada lebih banyak kandungan yang dijana AI di media sosial dan kami tidak bersedia untuk itu, kata McGregor.

Menurut CNN, Truepic mahu menyelesaikan masalah ini dengan menyediakan teknologi yang mendakwa untuk mengesahkan media pada masa penciptaan melalui Truepic Lens. Apl pengumpul data akan memberitahu pengguna tarikh, masa, lokasi dan peranti yang digunakan untuk mencipta imej dan menggunakan tandatangan digital untuk mengesahkan sama ada imej itu semula jadi atau dijana AI.

Gambar palsu letupan Pentagon tular di Twitter

Truepic, sebuah syarikat yang disokong Microsoft yang ditubuhkan pada 2015, berkata syarikat itu melihat minat daripada NGO kepada syarikat media, malah syarikat insurans yang ingin mengesahkan tuntutan adalah sah.

McGregor mengatakan bahawa apabila segala-galanya boleh dipalsukan, apabila kecerdasan buatan telah mencapai kemuncaknya dalam kualiti dan kebolehcapaian, kita tidak lagi tahu apa realiti dalam talian.

Syarikat teknologi seperti Truepic telah berusaha untuk memerangi maklumat salah dalam talian selama bertahun-tahun. Tetapi kemunculan jenis alat AI baharu yang boleh menjana imej dan teks mengikut arahan pengguna telah menambah keperluan. Awal tahun ini, imej palsu Pope Francis dalam jaket Balenciaga dan bekas Presiden AS Donald Trump ditangkap dikongsi secara meluas. Kedua-dua insiden telah menyebabkan berjuta-juta orang keliru tentang potensi bahaya AI.

Beberapa penggubal undang-undang kini menyeru syarikat teknologi untuk menangani isu itu dengan melabelkan kandungan yang dijana AI. Naib Presiden Suruhanjaya Eropah (EC) Vera Jourova berkata syarikat termasuk Google, Meta, Microsoft dan TikTok telah menyertai kod amalan sukarela Kesatuan Eropah (EU) untuk memerangi maklumat salah.

Semakin banyak syarikat permulaan dan gergasi teknologi, termasuk beberapa yang melaksanakan AI generatif dalam produk mereka, cuba melaksanakan piawaian dan penyelesaian untuk membantu orang ramai menentukan sama ada imej atau video dicipta dengan AI.

Tetapi apabila teknologi AI berkembang lebih pantas daripada yang manusia boleh bersaing, tidak jelas sama ada penyelesaian ini dapat menyelesaikan masalah sepenuhnya. Malah OpenAI, syarikat di belakang Dall-E dan ChatGPT, telah mengakui bahawa usahanya sendiri untuk membantu mengesan tulisan yang dijana AI adalah tidak sempurna.

Syarikat yang sedang membangunkan penyelesaian mengambil dua pendekatan kepada masalah tersebut. Yang pertama bergantung pada pembangunan program untuk mengenal pasti imej yang dijana AI selepas ia dihasilkan dan dikongsi dalam talian. Yang lain memfokuskan pada menandakan imej sebagai nyata atau dijana AI dengan jenis tandatangan digital.

Reality Defender dan Hive Moderation sedang mengusahakan yang pertama. Dengan platform mereka, pengguna boleh memuat naik imej untuk diimbas dan kemudian menerima pecahan yang menunjukkan peratusan sama ada foto itu sebenar atau dijana AI.

Reality Defender berkata ia menggunakan teknologi cap jari kandungan deepfake dan generatif proprietari untuk mengesan video, audio dan imej yang dijana AI. Dalam contoh yang disediakan oleh syarikat itu, Reality Defender menunjukkan imej palsu Tom Cruise yang 53% "mencurigakan" kerana orang dalam imej itu mempunyai wajah yang herot yang sering dilihat dalam foto yang dimanipulasi.

Perkhidmatan ini menawarkan versi percuma dan berbayar. Hive Moderation mengatakan ia mengenakan bayaran $1.50 setiap 1,000 imej. Realty Defender berkata harganya boleh berbeza-beza berdasarkan pelbagai faktor, dalam kes di mana pelanggan memerlukan kepakaran dan sokongan syarikat. Ketua Pegawai Eksekutif Reality Defender Ben Colman berkata risikonya meningkat dua kali ganda setiap bulan kerana sesiapa sahaja boleh mencipta foto palsu menggunakan alat AI.

Beberapa syarikat lain sedang berusaha untuk menambah sejenis label pada imej untuk mengesahkan sama ada ia adalah sebenar atau dijana AI. Setakat ini, usaha itu sebahagian besarnya didorong oleh Perikatan Ketulenan dan Asal Kandungan (C2PA).

C2PA diasaskan pada 2021 untuk mencipta piawaian teknikal untuk memperakui asal usul dan sejarah media digital, menggabungkan Inisiatif Pengesahan Kandungan Adobe (CAI) dan Asal Projek, yang diketuai oleh Microsoft dan BBC, dengan tumpuan untuk memerangi maklumat salah dalam berita digital. Syarikat lain yang terlibat dalam C2PA termasuk Truepic, Intel dan Sony.

Berdasarkan prinsip C2PA, CAI akan mengeluarkan alat sumber terbuka untuk syarikat mencipta bukti kelayakan kandungan, atau metadata, yang mengandungi maklumat tentang imej. Menurut laman web CAI, ini membolehkan pencipta berkongsi butiran secara telus tentang cara mereka mencipta imej. Dengan cara ini, pengguna akhir boleh mengakses konteks sekitar siapa, apa dan cara sesuatu imej itu diubah—dan kemudian menilai sendiri sejauh mana keaslian imej itu.

Banyak syarikat telah menyepadukan standard C2PA dan alat CAI ke dalam aplikasi mereka. Adobe's Firefly, alat pengimejan AI baharu yang ditambahkan pada Photoshop, mematuhi standard C2PA melalui ciri Bukti Kelayakan Kandungannya. Microsoft juga mengumumkan bahawa imej dan video yang dibuat dengan Bing Image Creator dan Microsoft Designer akan membawa tandatangan kriptografi dalam beberapa bulan akan datang.

Pada bulan Mei, Google mengumumkan ciri "Mengenai Imej Ini", yang membolehkan pengguna melihat apabila imej pertama kali muncul di Google dan di mana ia boleh dilihat. Gergasi carian itu juga mengumumkan bahawa setiap imej yang dijana Google AI akan membawa penanda dalam fail asal untuk "menambah konteks" jika imej itu ditemui di tapak web atau platform lain.

Walaupun syarikat teknologi cuba menangani kebimbangan mengenai imej yang dijana AI dan integriti media digital, pakar dalam bidang menekankan bahawa perniagaan perlu bekerjasama antara satu sama lain dan dengan kerajaan untuk menangani isu tersebut. Namun syarikat teknologi berlumba-lumba untuk membangunkan AI walaupun menghadapi risiko.

Pautan sumber