សំឡេង Deepfake៖ ក្តីបារម្ភថ្មីមួយទាក់ទងនឹងព័ត៌មានមិនពិត។

[ការផ្សាយពាណិជ្ជកម្ម_1]

នៅថ្ងៃចន្ទ ការិយាល័យរដ្ឋអាជ្ញារដ្ឋ New Hampshire បានប្រកាសថា ខ្លួនកំពុងស៊ើបអង្កេតលើការរៀបចំការបោះឆ្នោតដែលអាចកើតមាន។ រឿងនេះកើតឡើងបន្ទាប់ពីមានពាក្យបណ្តឹងអំពីសំឡេងក្លែងក្លាយមួយ ដែលដូចគ្នាបេះបិទទៅនឹងសំឡេងរបស់ប្រធានាធិបតីសហរដ្ឋអាមេរិក លោក Joe Biden ដោយជំរុញឱ្យអ្នកបោះឆ្នោតកុំបោះឆ្នោតក្នុងការបោះឆ្នោតបឋមរបស់រដ្ឋ។

ក្រុមអ្នកស្រាវជ្រាវក៏បានព្រមានអំពីការប្រើប្រាស់សំឡេង Deepfake ដើម្បីក្លែងបន្លំខ្លួន ជាអ្នកនយោបាយ និងមេដឹកនាំផងដែរ ដោយមានករណីគួរឱ្យកត់សម្គាល់កើតឡើងនៅឆ្នាំ 2023 នៅចក្រភពអង់គ្លេស ឥណ្ឌា នីហ្សេរីយ៉ា ស៊ូដង់ អេត្យូពី និងស្លូវ៉ាគី។

ការលេចធ្លាយសំឡេង Deepfake ការលេចធ្លាយថ្មីៗ និងព័ត៌មានបំភាន់ (រូបភាពទី 1) — មនុស្សម្នាក់បោះឆ្នោតនៅក្នុងការបោះឆ្នោតបឋមនៅរដ្ឋ New Hampshire សហរដ្ឋអាមេរិក។ រូបថត៖ Getty

យោងតាមអ្នកជំនាញ សំឡេង deepfake បានក្លាយជាទម្រង់ទូទៅនៃព័ត៌មានមិនពិត ដោយសារតែការលេចចេញនូវឧបករណ៍ AI ដែលមានតម្លៃថោក និងមានប្រសិទ្ធភាពជាច្រើនពីក្រុមហ៊ុនចាប់ផ្តើមអាជីវកម្ម។ ក្រុមហ៊ុន Microsoft ក៏បានបង្កើតគំរូ AI ថ្មីមួយដែលអាចចម្លងសំឡេងពីការថតសំឡេងត្រឹមតែបីវិនាទីប៉ុណ្ណោះ។

លោក Henry Ajder អ្នកជំនាញខាង AI និង deepfake និងជាទីប្រឹក្សារបស់ Adobe, Meta និង EY បាននិយាយថា “នៅពេលនិយាយអំពីការរៀបចំរូបភាព មនុស្សគ្រប់គ្នាស្គាល់ Photoshop ឬយ៉ាងហោចណាស់ដឹងថាវាមាន។ មានការយល់ដឹងតិចតួចណាស់អំពីរបៀបដែលសម្ភារៈអូឌីយ៉ូអាចត្រូវបានរៀបចំ ដូច្នេះសម្រាប់ខ្ញុំ វាពិតជាធ្វើឱ្យយើងងាយរងគ្រោះ”។

កាលពីខែកញ្ញា NewsGuard ដែលជាប្រព័ន្ធសម្រាប់វាយតម្លៃគុណភាព និងភាពជឿជាក់នៃគេហទំព័រព័ត៌មាន បានរកឃើញបណ្តាញគណនី TikTok ដែលក្លែងបន្លំជាគេហទំព័រព័ត៌មានស្របច្បាប់ ដោយប្រើប្រាស់ខ្លឹមសារដែលបង្កើតដោយ AI ដើម្បីផ្សព្វផ្សាយទ្រឹស្តីឃុបឃិត និងព័ត៌មានមិនពិតផ្នែកនយោបាយ។ ការថតសំឡេង Deepfake រួមទាំងសំឡេងរបស់អតីតប្រធានាធិបតីអាមេរិក បារ៉ាក់ អូបាម៉ា ទទួលបានការចូលមើលរាប់រយលានដង។

NewsGuard បានរាយការណ៍ថា សំឡេងក្លែងក្លាយនេះហាក់ដូចជាត្រូវបានបង្កើតឡើងដោយប្រើឧបករណ៍មួយដែលគាំទ្រដោយ ElevenLabs របស់ Andreessen Horowitz ខណៈដែលវីដេអូឃ្លីបទាំងនោះទទួលបានការចូលមើលរាប់រយលានដង។

ElevenLabs បានថ្លែងថា “អ្នកប្រើប្រាស់ជាង 99% នៅលើវេទិការបស់យើងកំពុងបង្កើតខ្លឹមសារដែលទាក់ទាញ ច្នៃប្រឌិត និងមានប្រយោជន៍ ប៉ុន្តែយើងបានកត់សម្គាល់ឃើញឧទាហរណ៍នៃការប្រើប្រាស់ខុស ហើយយើងបានអភិវឌ្ឍ និងអនុវត្តវិធានការការពារជាបន្តបន្ទាប់ដើម្បីកាត់បន្ថយពួកវា”។

ElevenLabs ដែលត្រូវបានបង្កើតឡើងកាលពីពីរឆ្នាំមុនដោយអតីតបុគ្គលិក Google និង Palantir គឺលោក Piotr Dabkowski និង Mati Staniszewski ផ្តល់ជូននូវឧបករណ៍បង្កើតអូឌីយ៉ូ AI ជាមូលដ្ឋានដោយឥតគិតថ្លៃដោយគ្រាន់តែចុចតែម្តងប៉ុណ្ណោះ។ ការជាវមានចាប់ពី 1 ដុល្លារក្នុងមួយខែដល់ 330 ដុល្លារក្នុងមួយខែ និងខ្ពស់ជាងនេះសម្រាប់អ្នកដែលស្វែងរកសេវាកម្មទំនើបជាងនេះ។

កាលពីឆ្នាំមុន ទីភ្នាក់ងារស៊ើបការណ៍សម្ងាត់អាមេរិកបានព្រមាននៅក្នុងរបាយការណ៍មួយថា “ការឆបោក AI ផ្ទាល់ខ្លួនបានកើនឡើងគួរឱ្យកត់សម្គាល់ដោយសារតែការចេញផ្សាយគំរូក្លូនសំឡេង AI ដែលមានភាពស្មុគស្មាញ និងបានទទួលការបណ្តុះបណ្តាលយ៉ាងល្អ”។

ក្រៅពីការបោកប្រាស់ដែលជំរុញដោយហិរញ្ញវត្ថុ អ្នកជំនាញនយោបាយឥឡូវនេះកំពុងប្រកាសអាសន្នអំពីការរីករាលដាលនៃឈុតសំឡេង deepfake និងការប្រើប្រាស់ deepfakes សម្រាប់ការហៅទូរសព្ទ ឬយុទ្ធនាការដោយស្វ័យប្រវត្តិ។ លោក AJ Nash អនុប្រធាន និងជាសមាជិកស៊ើបការណ៍សម្ងាត់ដ៏លេចធ្លោនៃក្រុមសន្តិសុខតាមអ៊ីនធឺណិត ZeroFox បានមានប្រសាសន៍ថា “អ្នកអាចបង្កើតយុទ្ធនាការផ្សព្វផ្សាយព័ត៌មានមិនពិតដ៏មានឥទ្ធិពល និងរីករាលដាលដោយកំណត់គោលដៅលើទូរស័ព្ទ”។

ក្រុមហ៊ុនទាំងនេះមួយចំនួនបានស្វែងរកមធ្យោបាយជំនួសដោយសកម្មដើម្បីប្រយុទ្ធប្រឆាំងនឹងព័ត៌មានមិនពិត។ ក្រុមហ៊ុន Microsoft បានចេញសេចក្តីថ្លែងការណ៍សីលធម៌មួយ ដោយជំរុញឱ្យអ្នកប្រើប្រាស់រាយការណ៍ពីការប្រើប្រាស់ឧបករណ៍អូឌីយ៉ូ AI របស់ពួកគេខុស។ ក្រុមហ៊ុន ElevenLabs បានបង្កើតឧបករណ៍រកឃើញផ្ទាល់ខ្លួន ដើម្បីកំណត់អត្តសញ្ញាណការថតសំឡេងដែលបង្កើតឡើងដោយប្រព័ន្ធរបស់ខ្លួន។

យោងតាម អង្គការសិទ្ធិមនុស្ស Freedom House ក្នុងអំឡុងពេលបោះឆ្នោតនីហ្សេរីយ៉ាឆ្នាំ ២០២៣ វីដេអូឃ្លីបមួយដែលត្រូវបានរៀបចំដោយ AI ត្រូវបានចែកចាយនៅលើបណ្តាញសង្គម «ដោយចេតនាបង្ហាញថាបេក្ខជនប្រឆាំងម្នាក់កំពុងមានគម្រោងក្លែងបន្លំសន្លឹកឆ្នោត»។

នៅប្រទេសស្លូវ៉ាគី ការថតសំឡេងក្លែងក្លាយរបស់បេក្ខជនបក្សប្រឆាំង Michal Šimečka ដែលហាក់ដូចជាមានគម្រោងក្លែងបន្លំការបោះឆ្នោត ត្រូវបានចែកចាយត្រឹមតែប៉ុន្មានថ្ងៃមុនការបោះឆ្នោតប្រធានាធិបតីរបស់ប្រទេសនេះក្នុងខែកញ្ញា។

លោក Robert Weissman ប្រធានក្រុមតស៊ូមតិអ្នកប្រើប្រាស់មិនរកប្រាក់ចំណេញ Public Citizen បានមានប្រសាសន៍ថា “ការក្លែងបន្លំ Deepfakes នៅរដ្ឋ New Hampshire គឺជាការរំលឹកអំពីវិធីជាច្រើនដែលការក្លែងបន្លំ Deepfakes អាចបំភាន់ និងក្លែងបន្លំ។ ពេលវេលាសម្រាប់ Deepfakes នយោបាយបានមកដល់ហើយ។ អ្នកធ្វើគោលនយោបាយត្រូវតែអនុវត្តវិធានការការពារឱ្យបានឆាប់រហ័ស ឬយើងនឹងប្រឈមមុខនឹងភាពវឹកវរនៃការបោះឆ្នោត”។

ម៉ៃ អាញ (យោងតាម FT)

[ការផ្សាយពាណិជ្ជកម្ម_២]
ប្រភព