Deepfake porn ដែលជាបញ្ហានៅក្នុងការប្រណាំង AI

Deepfakes គឺជា វីដេអូ និងរូបភាពដែលត្រូវបានបង្កើតជាឌីជីថល ឬផ្លាស់ប្តូរដោយប្រើបញ្ញាសិប្បនិម្មិត (AI) ឬ machine learning (ML)។ រូបអាសអាភាសដែលបង្កើតដោយប្រើបច្ចេកវិទ្យានេះ បានចាប់ផ្តើមចរាចរលើអ៊ីនធឺណិតកាលពីប៉ុន្មានឆ្នាំមុន នៅពេលដែលអ្នកប្រើប្រាស់ Reddit ចែករំលែកឈុតអាសអាភាសក្លែងក្លាយជាមួយនឹងមុខតារាល្បីៗ។

រូបថត៖ ជីអាយ

នរណាម្នាក់អាចក្លាយជាជនរងគ្រោះ។

ចាប់តាំងពីពេលនោះមក អ្នកបង្កើត Deepfake បានបន្តបង្ហោះវីដេអូ និងរូបភាពស្រដៀងគ្នា ដែលផ្តោតលើអ្នកមានឥទ្ធិពលលើអ៊ីនធឺណិត អ្នកកាសែត និងអ្នកផ្សេងទៀតដែលមានប្រវត្តិរូបសាធារណៈ។ វីដេអូបែបនេះរាប់ពាន់មាននៅលើគេហទំព័រជាច្រើន។

ជាមួយនឹងបច្ចេកវិទ្យា AI កាន់តែអាចចូលប្រើបាន នេះអនុញ្ញាតឱ្យអ្នកប្រើប្រាស់បង្វែរនរណាម្នាក់ដែលពួកគេចង់បានទៅជា "តារាអាសអាភាស" ដោយគ្មានការយល់ព្រមពីពួកគេ ឬប្រើប្រាស់បច្ចេកវិទ្យានេះដើម្បីបង្ខូចកេរ្តិ៍ឈ្មោះ ឬបង្ខូចកេរ្តិ៍អ្នកដទៃ។

អ្នកជំនាញនិយាយថា បញ្ហានេះអាចកាន់តែអាក្រក់ទៅៗជាមួយនឹងការអភិវឌ្ឍន៍ឧបករណ៍ AI ដែលត្រូវបានបណ្តុះបណ្តាលលើរូបភាពរាប់ពាន់លានពីអ៊ីនធឺណិត និងបង្កើតមាតិកាថ្មីដោយប្រើទិន្នន័យដែលមានស្រាប់។

លោក Adam Dodge ស្ថាបនិក EndTAB ដែលជាក្រុមផ្តល់ការបណ្តុះបណ្តាលស្តីពីការរំលោភបំពានបច្ចេកវិទ្យាបាននិយាយថា "ការពិតគឺថាបច្ចេកវិទ្យានឹងបន្តរីកចម្រើន វានឹងបន្តវិវឌ្ឍ ហើយវានឹងបន្តកាន់តែងាយស្រួលប្រើប្រាស់ និងអាចប្រើប្រាស់បាន"។ «ហើយដរាបណាវានៅតែបន្ត មនុស្សនឹងប្រាកដជា… បន្តបំពានបច្ចេកវិទ្យានោះ ដើម្បីបង្កគ្រោះថ្នាក់ដល់អ្នកដទៃ ជាចម្បងតាមរយៈអំពើហិង្សាផ្លូវភេទតាមអ៊ីនធឺណិត រូបភាពអាសអាភាសក្លែងក្លាយ និងអាក្រាតកាយក្លែងក្លាយ។

Noelle Martin នៃទីក្រុង Perth ប្រទេសអូស្ត្រាលី បានជួបប្រទះការពិតនោះ។ នារី​វ័យ 28 ឆ្នាំ​រូប​នេះ​បាន​រក​ឃើញ​រូប​អាសអាភាស​ក្លែងក្លាយ​យ៉ាង​ជ្រៅ​ពី​ខ្លួន​នាង​កាល​ពី 10 ឆ្នាំ​មុន នៅ​ពេល​ដែល​នាង​មិន​ចង់​ដឹង នាង​បាន​ប្រើ Google រូបភាព​របស់​នាង​នៅ​ថ្ងៃ​មួយ​។ រហូត​មក​ដល់​សព្វ​ថ្ងៃ​នេះ Martin និយាយ​ថា នាង​មិន​ទាន់​ដឹង​ថា​នរណា​ជា​អ្នក​បង្កើត​រូបភាព ឬ​វីដេអូ​អាសអាភាស​ក្លែងក្លាយ​នោះ​ទេ។ នាង​សង្ស័យ​ថា​មាន​នរណា​ម្នាក់​បាន​ប្រើ​រូបភាព​បណ្ដាញ​សង្គម​របស់​នាង​ដើម្បី​បង្កើត​វីដេអូ​សិច។

Martin បានព្យាយាមទាក់ទងទៅកាន់គេហទំព័រនានា ដើម្បីលុបវីដេអូចេញ ប៉ុន្តែការប្រឹងប្រែងរបស់នាងគឺគ្មានប្រយោជន៍ទេ។ អ្នកខ្លះមិនបានឆ្លើយតបទេ។ អ្នក​ផ្សេង​ទៀត​បាន​យក​ពួក​គេ​ចុះ ប៉ុន្តែ​បាន​បង្ហោះ​វា​វិញ​យ៉ាង​ឆាប់​រហ័ស។ អ្នកស្រី Martin បាននិយាយថា "អ្នកមិនអាចឈ្នះបានទេ។ "វានឹងនៅលើអ៊ីនធឺណិតជារៀងរហូត ហើយវាអាចបំផ្លាញជីវិតរបស់អ្នក"។

ការខិតខំប្រឹងប្រែងរបស់ក្រុមហ៊ុនបច្ចេកវិទ្យាដើម្បីដោះស្រាយបញ្ហា

ម៉ូដែល AI មួយចំនួននិយាយថា ពួកគេបានរឹតបន្តឹងការចូលប្រើរូបភាពអាសអាភាស។

OpenAI បាននិយាយថា ខ្លួនបានលុបមាតិកាអាសអាភាសចេញពីទិន្នន័យដែលប្រើដើម្បីបណ្តុះបណ្តាលម៉ាស៊ីនបង្កើតរូបភាព DALL-E ដែលគួរតែកំណត់លទ្ធភាពនៃការប្រើវាខុស។ ក្រុមហ៊ុនក៏បានត្រងសំណើ និងនិយាយថាខ្លួនរារាំងអ្នកប្រើប្រាស់ពីការបង្កើតរូបភាព AI របស់តារាល្បី និង អ្នកនយោបាយ លេចធ្លោ។ ម៉ូដែលមួយទៀត Midjourney ក៏រារាំងការប្រើប្រាស់ពាក្យគន្លឹះជាក់លាក់ និងលើកទឹកចិត្តអ្នកប្រើប្រាស់ឱ្យដាក់ទង់រូបភាពដែលមានបញ្ហាទៅកាន់អ្នកសម្របសម្រួល។

ទន្ទឹមនឹងនោះ Stability AI ក៏បានបញ្ចេញការអាប់ដេតដែលការពារអ្នកប្រើប្រាស់ពីការបង្កើតរូបភាពមិនច្បាស់លាស់។ ការផ្លាស់ប្តូរទាំងនេះកើតឡើងបន្ទាប់ពីមានរបាយការណ៍ថាអ្នកប្រើប្រាស់មួយចំនួនកំពុងប្រើប្រាស់បច្ចេកវិទ្យាដើម្បីបង្កើតអាក្រាតកាយដែលបំផុសគំនិតដោយតារាល្បី។

អ្នកនាំពាក្យស្ថេរភាព AI លោក Motez Bishara បាននិយាយថា តម្រងនេះប្រើការរួមបញ្ចូលគ្នានៃពាក្យគន្លឹះ និងបច្ចេកទេសផ្សេងទៀត ដូចជាការទទួលស្គាល់រូបភាព ដើម្បីរកមើលភាពអាក្រាត។ ប៉ុន្តែអ្នកប្រើប្រាស់ អាចកែប្រែ កម្មវិធី និងបង្កើតអ្វីក៏ដោយដែលពួកគេចង់បាន ដូចដែលក្រុមហ៊ុនបានចេញផ្សាយកូដប្រភពបើកចំហរបស់កម្មវិធី។

ក្រុមហ៊ុនប្រព័ន្ធផ្សព្វផ្សាយសង្គមមួយចំនួនក៏បានរឹតបន្តឹងច្បាប់ដើម្បីការពារវេទិការបស់ពួកគេឱ្យកាន់តែប្រសើរឡើងពីសម្ភារៈដែលបង្កគ្រោះថ្នាក់។

កាលពីខែមុន TikTok បាននិយាយថា រាល់ខ្លឹមសារដែលក្លែងបន្លំ ឬក្លែងបន្លំត្រូវតែដាក់ស្លាក ដើម្បីបង្ហាញថាវាក្លែងក្លាយ ឬផ្លាស់ប្តូរតាមមធ្យោបាយណាមួយ។

វេទិកាហ្គេម Twitch ថ្មីៗនេះក៏បានធ្វើបច្ចុប្បន្នភាពគោលនយោបាយរបស់ខ្លួនលើរូបភាពក្លែងក្លាយផងដែរ បន្ទាប់ពីអ្នកផ្សាយដ៏ពេញនិយមម្នាក់ឈ្មោះ Atrioc ត្រូវបានគេចាប់បានបើកគេហទំព័រអាសអាភាសដែលក្លែងក្លាយនៅលើកម្មវិធីរុករករបស់គាត់ក្នុងអំឡុងពេលផ្សាយផ្ទាល់នៅចុងខែមករា។

Apple និង Google បាននិយាយកាលពីពេលថ្មីៗនេះថាពួកគេបានដកកម្មវិធីមួយចេញពីហាងកម្មវិធីរបស់ពួកគេសម្រាប់ការដំណើរការវីដេអូក្លែងក្លាយដែលបង្ហាញពីការរួមភេទខ្លាំងដើម្បីទីផ្សារផលិតផលរបស់ពួកគេ។

ពី​តារា​ចម្រៀង​លោក​ខាង​លិច​ទៅ​ជា​តារា K-pop ។

ការស្រាវជ្រាវលើរឿងអាសអាភាស ក្លែងក្លាយគឺកម្រណាស់ ប៉ុន្តែរបាយការណ៍ឆ្នាំ 2019 ដោយក្រុមហ៊ុន AI DeepTrace Labs បានរកឃើញថា វាត្រូវបានប្រើប្រាស់អាវុធស្ទើរតែទាំងស្រុងប្រឆាំងនឹងស្ត្រី ដោយតារាស្រីលោកខាងលិចជាគោលដៅបំផុត បន្ទាប់មកគឺតារាចម្រៀង K-pop ។

អ្នកនាំពាក្យ Meta លោក Dani Lever បាននិយាយនៅក្នុងសេចក្តីថ្លែងការណ៍មួយថា គោលនយោបាយរបស់ក្រុមហ៊ុនដាក់កម្រិតទាំងមាតិកាសម្រាប់មនុស្សពេញវ័យដែលបង្កើតដោយ AI និងមិនមែន AI ហើយវាដាក់កម្រិតលើទំព័ររបស់កម្មវិធីដែលបង្កើតក្លែងក្លាយពីការផ្សាយពាណិជ្ជកម្មនៅលើវេទិការបស់ខ្លួន។

នៅក្នុងខែកុម្ភៈ Meta ក៏ដូចជាគេហទំព័រសម្រាប់មនុស្សពេញវ័យដូចជា Only**** និង Porn*** បានចាប់ផ្តើមចូលរួមក្នុងឧបករណ៍អនឡាញមួយដែលមានឈ្មោះថា Take It Down ដែលអនុញ្ញាតឱ្យក្មេងជំទង់រាយការណ៍អំពីរូបភាព និងវីដេអូអាសអាភាសរបស់ពួកគេពីអ៊ីនធឺណិត។ គេហទំព័រនេះគាំទ្រទាំងវីដេអូថតដោយសម្ងាត់ និងវីដេអូដែលបង្កើតដោយ AI ។

លោក Hoang Ton (យោងតាម ​​AP)

ប្រភព: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html