Deepfakes membanjiri rangkaian sosial OpenAI Sora, Ketua Pegawai Eksekutif Sam Altman menjadi "fenomena meme"

(NLDO) - Aplikasi rangkaian sosial video AI Sora yang dibangunkan oleh OpenAI menghadapi gelombang kontroversi apabila video palsu AI muncul di mana-mana.

OpenAI baru sahaja melancarkan Sora 2, versi aplikasi Sora AI yang dinaik taraf, rangkaian sosial video AI baharu OpenAI.

Selain ciri mencipta video daripada teks, menyunting video pendek dengan imej dan pergerakan yang agak realistik mengikut penerangan yang diberikan oleh pengguna seperti versi asal, Sora 2 mempunyai keupayaan untuk mencipta bunyi dan mengendalikan fizik dengan lebih baik.

Sora 2 OpenAI sedang melanda dunia. Foto: CNBC

Bukan itu sahaja, Sora 2 telah dinaik taraf dengan keupayaan untuk mencipta semula adegan yang kompleks seperti melompat, papan selaju atau terbang. Pakar teknologi menganggap ini sebagai teknologi video AI yang paling maju hari ini.

Bersama-sama dengan itu, OpenAI "menyerang hendap" rangkaian sosial dengan aplikasi Sora pada iOS di AS dan Kanada.

Aplikasi Sora membolehkan pengguna mencipta, berkongsi dan melihat video AI serupa dengan TikTok atau Instagram Reels, dengan kemuncaknya ialah ciri cameo. Pengguna boleh mendaftarkan data wajah dan suara mereka untuk memasukkan diri mereka ke dalam video AI, membolehkan rakan menggunakan ciri ini dalam video yang dikongsi.

Avatar AI CEO OpenAI Sam Altman, Norm Macdonald di Sora. Tangkapan skrin/Sora 2

Kontroversi timbul apabila cameo Ketua Pegawai Eksekutif OpenAI Sam Altman didedahkan kepada umum di aplikasi Sora dan beberapa siri video palsu wajahnya muncul di seluruh media sosial dalam masa 24 jam.

Situasi yang tidak dijangka ini menjadikan CEO OpenAI sebagai "fenomena meme" serta menjadikan Sora sebagai "kilang" pengeluaran deepfake global.

Walaupun ia hanya diuji di AS dan Kanada, populariti Sora telah meledak sehingga kod jemputan Sora dijual di seluruh eBay.

Sora 2: Kemuncak teknologi atau mesin deepfake?

Tidak dinafikan fenomena di atas telah membantu Sora "viral" dengan kelajuan yang memeningkan. Walau bagaimanapun, ramai orang menyatakan kebimbangan jika situasi yang sama berlaku kepada ahli politik , selebriti atau orang berpengaruh.

Satu persoalan telah dibangkitkan, membawa bersamanya banyak kebimbangan dan kontroversi: Bagaimanakah OpenAI mengendalikannya apabila orang yang berpengaruh mendapati diri mereka dalam situasi seperti Encik Sam Altman?

Menurut OpenAI, aplikasi Sora beroperasi sama dengan platform video pendek lain seperti TikTok, Meta Reels atau YouTube Shorts, menggunakan algoritma untuk mencadangkan kandungan berdasarkan tabiat pengguna.

Satu-satunya perbezaan ialah aplikasi Sora ialah rangkaian sosial pertama yang memberi tumpuan sepenuhnya pada video AI.

TechCrunch mengulas bahawa Sora 2 secara teknikalnya mengagumkan dalam mencipta rakaman yang sangat realistik. Walau bagaimanapun, itu juga sebab mengapa Sora mudah disalahgunakan untuk menghasilkan video negatif, dengan tujuan yang tidak baik.

Akibat ini memaksa OpenAI untuk segera menghasilkan mekanisme kawalan keselamatan untuk pengguna di dunia maya.

Terutama, OpenAI dikatakan telah mendedahkan percanggahan dalam strategi pembangunannya apabila melancarkan Sora. Syarikat itu berazam untuk mengekalkan "imej makmal mengutamakan keselamatan manusia" sambil turut berkembang menjadi produk pengguna untuk mencari pendapatan. "Kami memerlukan modal untuk membangunkan AI untuk sains, tetapi ia juga bagus untuk mencipta produk yang membuat orang tersenyum dan menyelesaikan kos operasi," kongsi Ketua Pegawai Eksekutif Sam Altman.

Ramai pakar dan bekas pekerja OpenAI tidak menyembunyikan keraguan mereka tentang matlamat syarikat teknologi itu.

Sora secara teknikalnya mengagumkan, tetapi masih terlalu awal untuk yakin bahawa kita boleh mengelakkan perangkap platform media sosial lain, kata Profesor Boaz Barak, penyelidik OpenAI di Universiti Harvard.

Sehingga kini, pengawal selia AS telah memantau dengan teliti langkah OpenAI kepada model untung.

Semasa membuka era baharu untuk video AI, Sora turut meletakkan OpenAI di tengah-tengah kontroversi dengan banyak percanggahan antara pencapaian yang dibawanya kepada revolusi hiburan dan kebimbangan yang tidak dapat diramalkan mengenai video palsu yang mendalam.

Sumber: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm