Deepfakes គឺជា វីដេអូ និងរូបភាពដែលត្រូវបានបង្កើតជាឌីជីថល ឬផ្លាស់ប្តូរដោយប្រើបញ្ញាសិប្បនិម្មិត (AI) ឬ machine learning (ML)។ រូបអាសអាភាសដែលបង្កើតដោយប្រើបច្ចេកវិទ្យានេះ បានចាប់ផ្តើមចរាចរលើអ៊ីនធឺណិតកាលពីប៉ុន្មានឆ្នាំមុន នៅពេលដែលអ្នកប្រើប្រាស់ Reddit ចែករំលែកឈុតអាសអាភាសក្លែងក្លាយជាមួយនឹងមុខតារាល្បីៗ។
រូបថត៖ ជីអាយ
នរណាម្នាក់អាចក្លាយជាជនរងគ្រោះ។
ចាប់តាំងពីពេលនោះមក អ្នកបង្កើត Deepfake បានបន្តបង្ហោះវីដេអូ និងរូបភាពស្រដៀងគ្នា ដែលផ្តោតលើអ្នកមានឥទ្ធិពលលើអ៊ីនធឺណិត អ្នកកាសែត និងអ្នកផ្សេងទៀតដែលមានប្រវត្តិរូបសាធារណៈ។ វីដេអូបែបនេះរាប់ពាន់មាននៅលើគេហទំព័រជាច្រើន។
ជាមួយនឹងបច្ចេកវិទ្យា AI កាន់តែអាចចូលប្រើបាន នេះអនុញ្ញាតឱ្យអ្នកប្រើប្រាស់បង្វែរនរណាម្នាក់ដែលពួកគេចង់បានទៅជា "តារាអាសអាភាស" ដោយគ្មានការយល់ព្រមពីពួកគេ ឬប្រើប្រាស់បច្ចេកវិទ្យានេះដើម្បីបង្ខូចកេរ្តិ៍ឈ្មោះ ឬបង្ខូចកេរ្តិ៍ឈ្មោះអ្នកដទៃ។
អ្នកជំនាញនិយាយថា បញ្ហានេះអាចកាន់តែអាក្រក់ទៅៗជាមួយនឹងការអភិវឌ្ឍន៍ឧបករណ៍ AI ដែលត្រូវបានបណ្តុះបណ្តាលលើរូបភាពរាប់ពាន់លានពីអ៊ីនធឺណិត និងបង្កើតមាតិកាថ្មីដោយប្រើទិន្នន័យដែលមានស្រាប់។
លោក Adam Dodge ស្ថាបនិក EndTAB ដែលជាក្រុមដែលផ្តល់ការបណ្តុះបណ្តាលស្តីពីការរំលោភបំពានបច្ចេកវិទ្យាបាននិយាយថា "ការពិតគឺថាបច្ចេកវិទ្យានឹងបន្តរីកចម្រើន វានឹងបន្តវិវឌ្ឍ ហើយវានឹងបន្តប្រើប្រាស់កាន់តែងាយស្រួល និងងាយស្រួលប្រើ"។ “ហើយដរាបណាវាកើតឡើង មនុស្សនឹងជៀសមិនរួច… បន្តបំពានបច្ចេកវិទ្យានោះ ដើម្បីបង្កគ្រោះថ្នាក់ដល់អ្នកដទៃ ជាចម្បងតាមរយៈអំពើហិង្សាផ្លូវភេទតាមអ៊ីនធឺណិត រូបភាពអាសអាភាសក្លែងក្លាយ និងអាក្រាតកាយក្លែងក្លាយ។
Noelle Martin នៃទីក្រុង Perth ប្រទេសអូស្ត្រាលី បានជួបប្រទះការពិតនោះ។ នារីវ័យ 28 ឆ្នាំរូបនេះបានរកឃើញរូបអាសអាភាសក្លែងក្លាយយ៉ាងជ្រៅពីខ្លួននាងកាលពី 10 ឆ្នាំមុន នៅពេលដែលនាងបានប្រើ Google រូបភាពរបស់នាងដោយមិនចង់ដឹងក្នុងថ្ងៃមួយ។ រហូតមកដល់សព្វថ្ងៃនេះ Martin និយាយថា នាងមិនទាន់ដឹងថានរណាជាអ្នកបង្កើតរូបភាព ឬវីដេអូអាសអាភាសក្លែងក្លាយនោះទេ។ នាងសង្ស័យថាមាននរណាម្នាក់បានប្រើរូបភាពបណ្ដាញសង្គមរបស់នាងដើម្បីបង្កើតវីដេអូអាសអាភាស។
Martin បានព្យាយាមទាក់ទងទៅកាន់គេហទំព័រនានា ដើម្បីលុបវីដេអូចេញ ប៉ុន្តែការប្រឹងប្រែងរបស់នាងគឺគ្មានប្រយោជន៍ទេ។ អ្នកខ្លះមិនបានឆ្លើយតបទេ។ អ្នកផ្សេងទៀតបានយកពួកគេចុះ ប៉ុន្តែបានបង្ហោះវាវិញយ៉ាងឆាប់រហ័ស។ ម៉ាទីនបាននិយាយថា "អ្នកមិនអាចឈ្នះបានទេ។ "វានៅលើអ៊ីនធឺណិតជារៀងរហូត ហើយវាអាចបំផ្លាញជីវិតរបស់អ្នក"។
ការខិតខំប្រឹងប្រែងរបស់ក្រុមហ៊ុនបច្ចេកវិទ្យាដើម្បីជួសជុលវា។
ម៉ូដែល AI មួយចំនួននិយាយថា ពួកគេបានរឹតបន្តឹងការចូលប្រើរូបភាពអាសអាភាស។
OpenAI បាននិយាយថា ខ្លួនបានលុបមាតិកាអាសអាភាសចេញពីទិន្នន័យដែលវាប្រើដើម្បីបណ្តុះបណ្តាលម៉ាស៊ីនបង្កើតរូបភាព DALL-E ដែលគួរតែកំណត់សក្តានុពលសម្រាប់ការប្រើប្រាស់ខុស។ ក្រុមហ៊ុនក៏បានត្រងសំណើ និងនិយាយថាខ្លួនរារាំងអ្នកប្រើប្រាស់ពីការបង្កើតរូបភាព AI របស់តារាល្បី និង អ្នកនយោបាយ លេចធ្លោ។ Midjourney ដែលជាគំរូមួយផ្សេងទៀតក៏រារាំងការប្រើប្រាស់ពាក្យគន្លឹះជាក់លាក់ និងលើកទឹកចិត្តអ្នកប្រើប្រាស់ឱ្យដាក់ទង់រូបភាពដែលមានបញ្ហាទៅកាន់អ្នកសម្របសម្រួល។
ទន្ទឹមនឹងនោះ Stability AI ក៏បានបញ្ចេញការអាប់ដេតដែលការពារអ្នកប្រើប្រាស់ពីការបង្កើតរូបភាពមិនច្បាស់លាស់។ ការផ្លាស់ប្តូរនេះកើតឡើងបន្ទាប់ពីមានរបាយការណ៍ថាអ្នកប្រើប្រាស់មួយចំនួនកំពុងប្រើប្រាស់បច្ចេកវិទ្យាដើម្បីបង្កើតអាក្រាតកាយដែលបំផុសគំនិតដោយតារាល្បី។
អ្នកនាំពាក្យស្ថេរភាព AI លោក Motez Bishara បាននិយាយថា តម្រងនេះប្រើការរួមបញ្ចូលគ្នានៃពាក្យគន្លឹះ និងបច្ចេកទេសផ្សេងទៀត ដូចជាការទទួលស្គាល់រូបភាព ដើម្បីរកមើលភាពអាក្រាត។ ប៉ុន្តែអ្នកប្រើប្រាស់ អាចកែប្រែ កម្មវិធី និងបង្កើតអ្វីក៏ដោយដែលពួកគេចង់បាន ដោយសារតែក្រុមហ៊ុនបានបញ្ចេញកូដប្រភពបើកចំហសម្រាប់កម្មវិធី។
ក្រុមហ៊ុនប្រព័ន្ធផ្សព្វផ្សាយសង្គមមួយចំនួនក៏បានរឹតបន្តឹងច្បាប់ដើម្បីការពារវេទិការបស់ពួកគេឱ្យកាន់តែប្រសើរឡើងពីសម្ភារៈដែលបង្កគ្រោះថ្នាក់។
កាលពីខែមុន TikTok បាននិយាយថា រាល់ខ្លឹមសារដែលក្លែងបន្លំ ឬក្លែងបន្លំត្រូវតែដាក់ស្លាក ដើម្បីបង្ហាញថាវាក្លែងក្លាយ ឬផ្លាស់ប្តូរតាមមធ្យោបាយណាមួយ។
វេទិកាហ្គេម Twitch ថ្មីៗនេះក៏បានធ្វើបច្ចុប្បន្នភាពគោលនយោបាយរបស់ខ្លួនលើការក្លែងបន្លំយ៉ាងជ្រៅ បន្ទាប់ពីអ្នកផ្សាយដ៏ពេញនិយមម្នាក់ឈ្មោះ Atrioc ត្រូវបានគេចាប់បានបើកគេហទំព័រអាសអាភាស Deepfake នៅក្នុងកម្មវិធីរុករករបស់គាត់ក្នុងអំឡុងពេលផ្សាយផ្ទាល់នៅចុងខែមករា។
Apple និង Google បាននិយាយកាលពីពេលថ្មីៗនេះថាពួកគេបានដកកម្មវិធីមួយចេញពីហាងកម្មវិធីរបស់ពួកគេសម្រាប់ការដំណើរការវីដេអូក្លែងក្លាយដែលបង្ហាញពីការរួមភេទខ្លាំងដើម្បីទីផ្សារផលិតផលរបស់ពួកគេ។
ពីតារាចម្រៀងលោកខាងលិចទៅជាតារា K-pop ។
ការស្រាវជ្រាវលើរឿងអាសអាភាសក្លែងក្លាយគឺកម្រណាស់ ប៉ុន្តែរបាយការណ៍ឆ្នាំ 2019 ដោយក្រុមហ៊ុន AI DeepTrace Labs បានរកឃើញថា វាត្រូវបានប្រើប្រាស់អាវុធស្ទើរតែទាំងស្រុងប្រឆាំងនឹងស្ត្រី។ តារាសម្ដែងលោកខាងលិចត្រូវបានគេកំណត់គោលដៅខ្លាំងបំផុត បន្ទាប់មកតារាចម្រៀង K-pop។
អ្នកនាំពាក្យ Meta លោក Dani Lever បាននិយាយនៅក្នុងសេចក្តីថ្លែងការណ៍មួយថា គោលនយោបាយរបស់ក្រុមហ៊ុនដាក់កម្រិតទាំងមាតិកាមនុស្សពេញវ័យដែលបង្កើតដោយ AI និងមិនមែន AI ហើយវាក៏ដាក់កម្រិតលើទំព័រកម្មវិធីដែលបង្កើតក្លែងក្លាយពីការផ្សាយពាណិជ្ជកម្មនៅលើវេទិការបស់ខ្លួនផងដែរ។
នៅក្នុងខែកុម្ភៈ Meta ក៏ដូចជាគេហទំព័រសម្រាប់មនុស្សពេញវ័យដូចជា Only**** និង Porn*** បានចាប់ផ្តើមចូលរួមក្នុងឧបករណ៍អនឡាញមួយដែលមានឈ្មោះថា Take It Down ដែលអនុញ្ញាតឱ្យក្មេងជំទង់រាយការណ៍អំពីរូបភាព និងវីដេអូអាសអាភាសរបស់ពួកគេពីអ៊ីនធឺណិត។ គេហទំព័រនេះគាំទ្រទាំងវីដេអូ spycam និងវីដេអូដែលបង្កើតដោយ AI ។
លោក Hoang Ton (យោងតាម AP)
ប្រភព
Kommentar (0)