Deepfake membanjiri jejaring sosial OpenAI Sora, CEO Sam Altman menjadi "fenomena meme"

(NLDO) - Aplikasi jejaring sosial video AI Sora yang dikembangkan OpenAI menghadapi gelombang kontroversi karena video deepfake AI muncul di mana-mana.

OpenAI baru saja meluncurkan Sora 2, versi terbaru dari aplikasi Sora AI, jaringan sosial video AI baru milik OpenAI.

Selain fitur membuat video dari teks, mengedit video pendek dengan gambar dan gerakan cukup realistis sesuai deskripsi yang diberikan pengguna seperti versi aslinya, Sora 2 memiliki kemampuan menciptakan suara dan menangani fisika dengan lebih baik.

Sora 2 dari OpenAI sedang menggemparkan dunia. Foto: CNBC

Tak hanya itu, Sora 2 juga telah ditingkatkan dengan kemampuan untuk menciptakan kembali adegan-adegan kompleks seperti melompat, bermain skateboard, atau terbang. Para pakar teknologi menganggap ini sebagai teknologi video AI tercanggih saat ini.

Bersamaan dengan itu, OpenAI "menyergap" jejaring sosial dengan aplikasi Sora pada iOS di AS dan Kanada.

Aplikasi Sora memungkinkan pengguna membuat, berbagi, dan menonton video AI serupa dengan TikTok atau Instagram Reels, dengan fitur cameo yang menjadi daya tarik utama. Pengguna dapat mendaftarkan data wajah dan suara mereka untuk disisipkan ke dalam video AI, sehingga teman-teman dapat menggunakan fitur ini dalam video bersama.

Avatar AI CEO OpenAI Sam Altman, Norm Macdonald di Sora. Tangkapan Layar/Sora 2

Kontroversi muncul ketika penampilan CEO OpenAI Sam Altman dipublikasikan di aplikasi Sora dan serangkaian video deepfake wajahnya muncul di seluruh media sosial dalam waktu 24 jam.

Situasi tak terduga ini mengubah CEO OpenAI menjadi "fenomena meme" sekaligus mengubah Sora menjadi "pabrik" produksi deepfake global.

Meskipun hanya diuji di AS dan Kanada, popularitas Sora telah meledak hingga kode undangan Sora dijual di seluruh eBay.

Sora 2: Puncak teknologi atau mesin deepfake?

Tak dapat dipungkiri, fenomena di atas turut membantu Sora "menjadi viral" dengan kecepatan yang luar biasa. Namun, banyak orang yang khawatir jika situasi serupa terjadi pada politisi , selebritas, atau tokoh berpengaruh.

Sebuah pertanyaan pun muncul, yang membawa serta banyak kekhawatiran dan kontroversi: Bagaimana OpenAI menanganinya ketika orang-orang berpengaruh menemukan diri mereka dalam situasi seperti Tn. Sam Altman?

Menurut OpenAI, aplikasi Sora beroperasi serupa dengan platform video pendek lainnya seperti TikTok, Meta Reels atau YouTube Shorts, menggunakan algoritma untuk menyarankan konten berdasarkan kebiasaan pengguna.

Satu-satunya perbedaan adalah bahwa aplikasi Sora adalah jejaring sosial pertama yang berfokus sepenuhnya pada video AI.

TechCrunch berkomentar bahwa Sora 2 secara teknis mengesankan dalam menghasilkan rekaman yang sangat realistis. Namun, hal itu juga menjadi alasan mengapa Sora mudah disalahgunakan untuk menghasilkan video negatif, yang bertujuan buruk.

Konsekuensi ini memaksa OpenAI untuk segera membuat mekanisme kontrol keamanan bagi pengguna di dunia virtual.

Perlu dicatat, OpenAI disebut-sebut telah mengungkap kontradiksi dalam strategi pengembangannya saat meluncurkan Sora. Perusahaan ini bertekad untuk mempertahankan "citra laboratorium yang mengutamakan keselamatan manusia" sekaligus berekspansi ke produk konsumen untuk mendapatkan pendapatan. "Kita membutuhkan modal untuk mengembangkan AI bagi sains, tetapi menciptakan produk yang membuat orang tersenyum dan mengatasi biaya operasional juga merupakan hal yang baik," ujar CEO Sam Altman.

Banyak pakar dan mantan karyawan OpenAI tidak menyembunyikan skeptisisme mereka tentang tujuan perusahaan teknologi tersebut.

Sora memang mengesankan secara teknis, tetapi masih terlalu dini untuk yakin bahwa kita dapat menghindari jebakan platform media sosial lainnya, kata Profesor Boaz Barak, peneliti OpenAI di Universitas Harvard.

Hingga saat ini, regulator AS telah memantau dengan ketat perpindahan OpenAI ke model mencari laba.

Sambil membuka era baru untuk video AI, Sora juga menempatkan OpenAI di pusat kontroversi dengan banyaknya kontradiksi antara pencapaian yang dibawanya ke revolusi hiburan dan kekhawatiran yang tidak dapat diprediksi dari video deepfake.

Sumber: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm