AI mencipta video yang menyinggung perasaan apabila 'menghidupkan' orang mati

Alat penciptaan video baharu OpenAI menghantar keluarga selebriti ke dalam krisis kerana imej orang tersayang yang telah meninggal "dibangkitkan" oleh AI dalam video yang menyinggung, diherotkan dan kadangkala memalukan.

Video orang yang telah meninggal dunia yang dijana AI, daripada Malcolm X hingga Whitney Houston hingga Kobe Bryant, telah menimbulkan kekecohan, menimbulkan persoalan tentang sempadan etika dan kawalan imej pada zaman AI.

Kandungan yang menyinggung perasaan

Ilyasah Shabazz, anak perempuan aktivis hak sivil Malcolm X, berkata dia tidak mahu melihat sebarang klip buatan AI bapanya. Video ini dibuat menggunakan Sora 2, alat teks-ke-video OpenAI yang baru dikeluarkan, untuk mencipta adegan Malcolm X yang menceritakan jenaka kasar dan berdebat dengan Pendeta Martin Luther King.

"Adalah tidak hormat dan menyayat hati melihat imej bapa saya dieksploitasi dengan cara yang tidak masuk akal. Saya tidak faham mengapa orang yang membangunkan teknologi ini tidak bertindak dengan hati nurani dan mengambil berat yang sama seperti mereka terhadap keluarga mereka sendiri," kata Shabazz kepada Washington Post .

Sora 2 mencipta video daripada imej orang yang telah meninggal dunia tanpa kebenaran. Foto: Bloomberg .

Sora 2 dengan cepat menjadi fenomena global berkat keupayaannya untuk mencipta video yang sangat realistik. Dalam beberapa hari selepas pelancarannya, apl itu melonjak ke bahagian atas carta muat turun. Bagaimanapun, penyebarannya yang pantas juga bermakna beberapa siri video selebriti palsu muncul di media sosial.

Imej Michael Jackson, Elvis Presley dan Amy Winehouse yang "dihidupkan semula" tersebar pada kelajuan yang memeningkan, menyebabkan ramai penonton tidak dapat membezakan antara sebenar dan palsu.

Sesetengah video bertujuan untuk menjadi kelakar, seperti video yang dihoskan oleh "Kejiranan En. Rogers" Fred Rogers dengan Tupac Shakur. Tetapi kebanyakan kandungan yang dibuat adalah terlalu banyak.

Antaranya, video mencipta semula Whitney Houston dalam keadaan mabuk melalui sudut palsu dari kamera polis, Kobe Bryant terbang menaiki helikopter dalam kemalangan yang mengorbankan dia dan anak perempuannya, dan bekas Presiden John F. Kennedy yang bergurau tentang pembunuhan ahli politik kontemporari semuanya menimbulkan kemarahan masyarakat.

Peraturan longgar

Dasar OpenAI menyatakan bahawa alat itu hanya boleh mensimulasikan orang sebenar dengan persetujuan mereka. Walau bagaimanapun, dalam pelancarannya baru-baru ini, syarikat itu mengecualikan "tokoh sejarah" daripada peraturan ini, membenarkan pengguna mencipta video orang yang telah meninggal dunia secara bebas. Keputusan ini telah menimbulkan kemarahan ramai keluarga mangsa.

Zelda Williams, anak perempuan kepada mendiang pelakon Robin Williams, berkongsi di Instagram bahawa dia sentiasa menghantar video AI bapanya dan meminta orang ramai untuk "tolong berhenti."

"Sangat gila melihat warisan orang sebenar diubah kepada telatah yang mengerikan di mana TikTok mengawal mereka," kata Zelda.

Peraturan OpenAI untuk menggunakan Sora 2 penuh dengan kelemahan. Foto: Bloomberg .

Pakar berkata fenomena itu mencerminkan titik perubahan dalam teknologi AI, di mana garis antara kreativiti dan kesalahan menjadi kabur. Henry Ajder, seorang penyelidik deepfake, berkata "kebangkitan sintetik" orang mati menimbulkan persoalan besar tentang kawalan imej peribadi dan warisan.

"Jika anda menggunakan imej selebriti untuk mencipta kandungan, ia pasti akan menarik pandangan. Tetapi dengan si mati, ia menyentuh persoalan yang lebih mendalam: siapa yang memiliki ingatan dan identiti mereka," kata Ajder.

Sebagai tindak balas kepada bantahan itu, OpenAI berkata ia akan membenarkan wakil tokoh awam yang baru meninggal dunia meminta imej mereka disekat daripada video Sora. "Kami percaya bahawa tokoh awam dan keluarga mereka harus mempunyai kawalan ke atas cara imej berhak cipta mereka digunakan," kata jurucakap OpenAI.

Beberapa organisasi dalam industri hiburan AS juga telah menyuarakan kebimbangan mereka. Agensi Artis Kreatif, syarikat pengurusan untuk banyak bintang Hollywood, berkata Sora 2 telah meletakkan pelanggan dan harta intelek pada risiko yang serius. Motion Picture Association of America (MPAA) menyeru OpenAI untuk mengambil tindakan "segera dan tegas" untuk melindungi hak pencipta.

Bukan sahaja artis, tokoh sejarah juga turut menjadi mangsa. Satu video yang dibuat oleh Sora menunjukkan Winston Churchill mempromosikan JetBlue atau merujuk jenaka internet yang kotor.

Sumber: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html