Deepfake នៃសង្រ្គាម Gaza បង្កើនការព្រួយបារម្ភអំពី AI

ត្រូវបានគេមើលរាប់លានដងនៅលើអ៊ីនធឺណិត រូបភាពទាំងនោះគឺជារូបភាពក្លែងក្លាយដែលត្រូវបានបង្កើតឡើងដោយប្រើប្រាស់បញ្ញាសិប្បនិម្មិត។ ប្រសិនបើអ្នកក្រឡេកមើលឱ្យជិត អ្នកអាចមើលឃើញសញ្ញាដែលគួរឱ្យចាប់អារម្មណ៍៖ ម្រាមដៃកោងចម្លែក ឬភ្នែកដែលបញ្ចេញពន្លឺខុសពីធម្មជាតិ។

ទោះជាយ៉ាងនេះក្តី ការខឹងសម្បារចំពោះរូបភាពក្លែងក្លាយទាំងនោះ គឺជាការពិត។

រូបថតពីសង្គ្រាមអ៊ីស្រាអែល និងហាម៉ាស បង្ហាញយ៉ាងច្បាស់ និងឈឺចាប់បង្ហាញពីគ្រោះថ្នាក់នៃ AI ជាឧបករណ៍ឃោសនា ដែលប្រើដើម្បីបង្កើតរូបភាពដូចជីវិត។

ចាប់តាំងពីការប្រយុទ្ធគ្នាបានចាប់ផ្តើមកាលពីខែមុន រូបថតដែលបានរៀបចំដោយឌីជីថលដែលចែកចាយនៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គមត្រូវបានគេប្រើប្រាស់ដើម្បីធ្វើការអះអាងមិនពិតអំពីការទទួលខុសត្រូវចំពោះជនរងគ្រោះ ឬដើម្បីបំភាន់មនុស្សអំពីអំពើឃោរឃៅដែលមិនធ្លាប់មាន។

រូបភាព Deepfake នៃសង្រ្គាម Gaza បង្កើនការព្រួយបារម្ភរូបភាព 1 — ជនជាតិប៉ាឡេស្ទីនម្នាក់រើសរបស់របរពីគំនរបាក់បែកនៅហ្គាហ្សា។ រូបថតរបស់ AP។

ភាពជឿនលឿននៃបច្ចេកវិទ្យាកំពុងកើតឡើងជាមួយនឹងការបង្កើនប្រេកង់ និងការត្រួតពិនិត្យតិចតួច។ នោះធ្វើឱ្យហានិភ័យនៃ AI ក្លាយជាទម្រង់អាវុធមួយផ្សេងទៀតច្បាស់លាស់ និងផ្តល់នូវការមើលឃើញដំបូងអំពីអ្វីដែលនឹងកើតឡើងនៅក្នុងជម្លោះនាពេលអនាគត ការបោះឆ្នោត និងព្រឹត្តិការណ៍សំខាន់ៗផ្សេងទៀត។

លោក Jean-Claude Goldenstein នាយកប្រតិបត្តិនៃ CREOpoint ដែលជាក្រុមហ៊ុនបច្ចេកវិទ្យាមានមូលដ្ឋាននៅទីក្រុង San Francisco និងទីក្រុងប៉ារីស ដែលប្រើប្រាស់ AI ដើម្បីវាយតម្លៃសុពលភាពនៃពាក្យបណ្តឹងតាមអ៊ីនធឺណិតបាននិយាយថា "អ្វីៗនឹងកាន់តែអាក្រក់ទៅៗ មុនពេលដែលវាកាន់តែប្រសើរឡើង" ។

ក្រុមហ៊ុនរបស់គាត់បានចងក្រងមូលដ្ឋានទិន្នន័យនៃរូបភាពក្លែងក្លាយដែលមានមេរោគច្រើនបំផុតដែលផុសចេញពីតំបន់ហ្គាហ្សា។ គាត់បាននិយាយថា "រូបភាព វីដេអូ និងអូឌីយ៉ូ៖ ជាមួយនឹង AI ប្រកបដោយភាពច្នៃប្រឌិត នេះគឺជាជំហានឆ្ពោះទៅមុខដែលអ្នកមិនធ្លាប់បានឃើញពីមុនមក" ។

លោក Imran Ahmed នាយកប្រតិបត្តិនៃមជ្ឈមណ្ឌលប្រឆាំងការស្អប់ខ្ពើមឌីជីថល ដែលជាអង្គការមិនរកប្រាក់ចំណេញដែលតាមដានព័ត៌មានមិនពិតទាក់ទងនឹងសង្គ្រាម បាននិយាយថា អ្នកឃោសនាដែលបង្កើតរូបភាពបែបនេះមានជំនាញក្នុងការកំណត់គោលដៅ និងការថប់បារម្ភដ៏ជ្រាលជ្រៅរបស់មនុស្ស។

រូបភាពកាន់តែគួរឱ្យភ័យខ្លាច អ្នកប្រើប្រាស់ទំនងជាចងចាំ និងចែករំលែកវា ដោយអចេតនា ផ្សព្វផ្សាយព័ត៌មានមិនពិតបន្ថែមទៀត។ ព័ត៌មានមិនពិតដែលបង្កើតដោយ AI ស្រដៀងគ្នានេះពិតជាបានចាប់ផ្តើមរីករាលដាលចាប់តាំងពីជម្លោះរុស្ស៊ី-អ៊ុយក្រែន។

រាល់ជម្លោះថ្មី ឬរដូវកាលបោះឆ្នោតបង្ហាញពីឱកាសថ្មីសម្រាប់អ្នកផ្សព្វផ្សាយព័ត៌មានមិនពិត។ នោះមានអ្នកជំនាញ AI និងអ្នកវិទ្យាសាស្ត្រ នយោបាយ ជាច្រើនបានព្រមានអំពីហានិភ័យក្នុងឆ្នាំខាងមុខ នៅពេលដែលប្រទេសជាច្រើនរៀបចំការបោះឆ្នោតសំខាន់ៗ រួមមានសហរដ្ឋអាមេរិក ឥណ្ឌា ប៉ាគីស្ថាន អ៊ុយក្រែន ឥណ្ឌូនេស៊ី និងម៉ិកស៊ិក។

ហានិភ័យដែល AI និងប្រព័ន្ធផ្សព្វផ្សាយសង្គមអាចត្រូវបានគេប្រើប្រាស់ដើម្បីផ្សព្វផ្សាយព័ត៌មានភូតកុហកដល់អ្នកបោះឆ្នោតអាមេរិកបានធ្វើឱ្យសមាជិកសភាមកពីគណបក្សទាំងពីរមានការភ្ញាក់ផ្អើលនៅក្នុងទីក្រុងវ៉ាស៊ីនតោន។ នៅក្នុងសវនាការនាពេលថ្មីៗនេះ ស្តីពីគ្រោះថ្នាក់នៃបច្ចេកវិទ្យាក្លែងក្លាយ អ្នកតំណាងសហរដ្ឋអាមេរិក លោក Gerry Connolly ដែលជាអ្នកប្រជាធិបតេយ្យនៅរដ្ឋ Virginia បាននិយាយថា សហរដ្ឋអាមេរិកត្រូវការវិនិយោគលើការផ្តល់មូលនិធិដល់ការអភិវឌ្ឍឧបករណ៍ AI ដែលត្រូវបានរចនាឡើងដើម្បីប្រឆាំងនឹង AI ផ្សេងទៀត។

លោក David Doermann សាស្ត្រាចារ្យសាកលវិទ្យាល័យ Buffalo បាននិយាយថា ការឆ្លើយតបប្រកបដោយប្រសិទ្ធភាពចំពោះបញ្ហាប្រឈមផ្នែកនយោបាយ និងសង្គមដែលបង្កឡើងដោយព័ត៌មានមិនពិតដែលបង្កើតដោយ AI នឹងត្រូវការទាំងបច្ចេកវិទ្យា និងបទប្បញ្ញត្តិកាន់តែប្រសើរ។

Mai Anh (យោងតាម AP)

ប្រភព