AI menciptakan video ofensif saat 'menghidupkan kembali' orang mati

Generator video Sora 2 milik OpenAI telah memicu kontroversi dengan menciptakan gambar selebriti yang telah meninggal dalam video yang mengganggu, sehingga membuat marah banyak keluarga.

Alat pembuat video baru milik OpenAI membuat keluarga selebriti dilanda krisis karena gambar orang terkasih yang telah meninggal "dihidupkan kembali" oleh AI dalam bentuk video yang menyinggung, terdistorsi, dan terkadang memalukan.

Video orang-orang yang telah meninggal yang dihasilkan AI, dari Malcolm X hingga Whitney Houston hingga Kobe Bryant, telah menimbulkan kehebohan, memunculkan pertanyaan tentang batasan etika dan pengendalian gambar di era AI.

Konten yang menyinggung

Ilyasah Shabazz, putri aktivis hak-hak sipil Malcolm X, mengatakan ia tidak ingin melihat klip-klip hasil rekayasa AI yang menampilkan ayahnya. Video-video ini dibuat menggunakan Sora 2, perangkat lunak pengubah teks ke video OpenAI yang baru dirilis, untuk menciptakan adegan Malcolm X yang melontarkan lelucon vulgar dan berdebat dengan Pendeta Martin Luther King.

"Sungguh tidak sopan dan memilukan melihat citra ayah saya dieksploitasi dengan cara yang begitu tidak masuk akal. Saya tidak mengerti mengapa orang-orang yang mengembangkan teknologi ini tidak bertindak dengan hati nurani dan kepedulian yang sama seperti yang mereka lakukan terhadap keluarga mereka sendiri," ujar Shabazz kepada Washington Post .

Sora 2 membuat video dari gambar orang yang sudah meninggal tanpa izin. Foto: Bloomberg .

Sora 2 dengan cepat menjadi fenomena global berkat kemampuannya menciptakan video yang sangat realistis. Dalam beberapa hari setelah peluncurannya, aplikasi ini langsung menduduki puncak tangga unduhan. Namun, penyebarannya yang cepat juga mengakibatkan munculnya serangkaian video selebritas palsu di media sosial.

Gambar-gambar "bangkitan" Michael Jackson, Elvis Presley, dan Amy Winehouse menyebar dengan kecepatan yang memusingkan, membuat banyak pemirsa tidak dapat membedakan mana yang asli dan mana yang palsu.

Beberapa video memang dimaksudkan untuk lucu, seperti video saat pembawa acara "Mr. Rogers' Neighborhood", Fred Rogers, bernyanyi rap bersama Tupac Shakur. Namun, sebagian besar konten yang dibuat terlalu berlebihan.

Di antaranya, video yang menciptakan kembali Whitney Houston dalam keadaan mabuk melalui sudut palsu dari kamera polisi, Kobe Bryant terbang dalam helikopter dalam kecelakaan yang menewaskan dia dan putrinya, dan mantan Presiden John F. Kennedy yang bercanda tentang pembunuhan seorang politisi kontemporer, semuanya membuat masyarakat marah.

Peraturan yang longgar

Kebijakan OpenAI menyatakan bahwa alat tersebut hanya dapat mensimulasikan orang sungguhan dengan persetujuan mereka. Namun, dalam peluncurannya baru-baru ini, perusahaan mengecualikan "tokoh sejarah" dari aturan ini, sehingga pengguna dapat bebas membuat video orang yang telah meninggal. Keputusan ini telah membuat marah banyak keluarga korban.

Zelda Williams, putri mendiang aktor Robin Williams, berbagi di Instagram bahwa ia terus-menerus dikirimi video AI tentang ayahnya dan memohon orang-orang untuk "tolong berhenti."

“Sungguh gila melihat warisan orang-orang nyata direduksi menjadi kejenakaan mengerikan ketika TikTok mengendalikan mereka,” kata Zelda.

Aturan OpenAI tentang penggunaan Sora 2 penuh celah. Foto: Bloomberg .

Para ahli mengatakan fenomena ini mencerminkan titik balik dalam teknologi AI, di mana batas antara kreativitas dan pelanggaran menjadi kabur. Henry Ajder, seorang peneliti deepfake, mengatakan "kebangkitan sintetis" orang mati menimbulkan pertanyaan besar tentang kendali atas citra dan warisan pribadi.

"Jika Anda menggunakan gambar selebritas untuk membuat konten, pasti akan menarik banyak penonton. Namun, dengan orang yang sudah meninggal, hal ini menyentuh pertanyaan yang lebih mendalam: siapa yang memiliki ingatan dan identitas mereka," ujar Ajder.

Menanggapi protes tersebut, OpenAI menyatakan akan mengizinkan perwakilan tokoh publik yang baru saja meninggal untuk meminta agar gambar mereka diblokir dari video Sora. "Kami percaya bahwa tokoh publik dan keluarga mereka seharusnya memiliki kendali atas bagaimana gambar berhak cipta mereka digunakan," ujar seorang juru bicara OpenAI.

Beberapa organisasi di industri hiburan AS juga telah menyuarakan keprihatinan mereka. Creative Artists Agency, perusahaan manajemen bagi banyak bintang Hollywood, mengatakan Sora 2 telah menempatkan pelanggan dan kekayaan intelektual pada risiko serius. Motion Picture Association of America (MPAA) mendesak OpenAI untuk mengambil tindakan "segera dan tegas" guna melindungi hak-hak kreator.

Bukan hanya seniman, tokoh-tokoh sejarah juga menjadi korban. Salah satu video yang dibuat Sora menampilkan Winston Churchill mempromosikan JetBlue atau merujuk pada lelucon internet yang jorok.

Sumber: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html