កុមារប្រឈមនឹងការក្លាយជាជនរងគ្រោះ AI ពេលឪពុកម្តាយបង្ហោះរូបតាមអ៊ីនធឺណិត

យុគសម័យនៃការផ្ទុះព័ត៌មាន និងការតភ្ជាប់នៅលើបណ្តាញសង្គម ជាពិសេស និងអ៊ីនធឺណិតជាទូទៅបានធ្វើឱ្យមនុស្សជាច្រើនមានទម្លាប់ចែករំលែកអារម្មណ៍ និងព្រឹត្តិការណ៍ទាំងអស់នៅក្នុងជីវិតផ្ទាល់ខ្លួនរបស់ពួកគេនៅលើអ៊ីនធឺណេតដោយមិនគិតទុកជាមុនពីគ្រោះថ្នាក់នៃការធ្វើដូច្នេះ។ មិនត្រឹមតែមនុស្សពេញវ័យបង្ហោះរូបភាព និងវីដេអូរបស់ខ្លួនគេតាមអ៊ីនធឺណិតទេ មនុស្សពេញវ័យជាច្រើនក៏យកវាដាក់លើខ្លួនគេដើម្បីបង្ហោះខ្លឹមសារដែលមានមុខកុមារ ឬសំឡេងដោយគ្មានការអនុញ្ញាត។ នៅពេលដែលរូបភាព និងវីដេអូទាំងនេះបង្ហាញលើអ៊ីនធឺណិត អ្នកណាម្នាក់ដែលមានសិទ្ធិចូលប្រើពួកវាអាចយកពួកវាទៅប្រើប្រាស់បានដោយមិនមានការដាក់កម្រិតណាមួយឡើយ។

កាលពីខែកក្កដាកន្លងទៅ ប្រតិបត្តិករបណ្តាញរបស់អាល្លឺម៉ង់ Deutsche Telekom បានចេញផ្សាយការផ្សាយពាណិជ្ជកម្មសម្មតិកម្មដែលបង្ហាញពីរបៀបដែលរូបភាពរបស់កុមារបង្ហោះតាមអ៊ីនធឺណិតអាចត្រូវបានបំពានដោយប្រើ AI (បញ្ញាសិប្បនិម្មិត) សម្រាប់គោលបំណងផ្សេងៗ។ មានចំណងជើងថា A សារពី Ella ឃ្លីបនេះប្រើ AI និង Deepfake ដើម្បីបង្កើតកំណែពេញវ័យរបស់ Ella ពីរូបភាព និងវីដេអូរបស់ Ella វ័យក្មេងបង្ហោះតាមអ៊ីនធឺណិតដោយឪពុកម្តាយរបស់នាង។

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — 'Adult Ella' បង្កើតឡើងដោយ AI ពីរូបភាពប្រព័ន្ធផ្សព្វផ្សាយសង្គមរបស់ Ella អាយុ 9 ឆ្នាំនៅក្នុងវីដេអូព្រមានរបស់ Deutsche Telekom

“AI Ella” អាចធ្វើចលនា និងនិយាយដូចមនុស្សពិត ធ្វើឱ្យឪពុកម្តាយរបស់នាងភ្ញាក់ផ្អើលពេលឃើញរូបភាពកូនស្រីនៅលើអេក្រង់ធំនៃរោងកុន។ នាងថែមទាំងអាចយំ ហើយបង្ហាញខ្លួនឯងដូចមនុស្ស។

"ខ្ញុំដឹងថាសម្រាប់អ្នក រូបថតទាំងនេះគឺជាការចងចាំ។ ប៉ុន្តែសម្រាប់អ្នកផ្សេងទៀត វាជាទិន្នន័យ។ ហើយសម្រាប់ខ្ញុំ ពួកគេអាចជាការចាប់ផ្តើមនៃអនាគតដ៏អាក្រក់ និងដ៏គួរឱ្យភ័យខ្លាច ដែលអត្តសញ្ញាណរបស់ខ្ញុំអាចត្រូវបានគេលួច ខ្ញុំអាចជាប់គុកក្នុងរឿងដែលខ្ញុំមិនបានធ្វើ...

ដោយគ្រាន់តែចែករំលែករូបថតមួយសន្លឹក AI អាចបង្កើតកំណែពេញវ័យរបស់ក្មេងស្រីអាយុ 9 ឆ្នាំ។ Deepfake ទាញយកសំឡេងចេញពីវីដេអូ ហើយប្រែវាទៅជាសំឡេងមនុស្សពេញវ័យ។ រូបភាព និងវីដេអូអាចត្រូវបានក្លែងបន្លំទាំងស្រុង ហើយទិន្នន័យអត្តសញ្ញាណផ្ទាល់ខ្លួនក្លាយជាព័ត៌មានដ៏មានតម្លៃដែលអាចត្រូវបានគេលួចសម្រាប់គោលបំណងខុសច្បាប់។ មិនឈប់ត្រឹមនេះទេ មនុស្សអាក្រក់អាចប្រើរូបភាពដែលប្រមូលបានតាមអ៊ីនធឺណិតដើម្បីកាត់ និងបិទភ្ជាប់ ប្រើ AI ដើម្បីបង្កើតរូបភាពអាសអាភាសរបស់កុមារ ឬជាស៊េរីនៃរូបថតដែលចំអក បង្ខូចកេរ្តិ៍ឈ្មោះ និងបំភ្លៃការពិត...

Christian Loefert ប្រធានផ្នែកទំនាក់ទំនង និងទីផ្សារនៅ Deutsche Telekom បាននិយាយថា "ការសិក្សាថ្មីៗបង្ហាញថា ក្មេងអាយុ 5 ឆ្នាំជាមធ្យមមានរូបថតប្រហែល 1,500 សន្លឹកបង្ហោះតាមអ៊ីនធឺណិតដោយគ្មានការយល់ព្រមពីពួកគេ បង្ហោះដោយគ្មាននរណាម្នាក់ក្រៅពីមនុស្សដែលពួកគេទុកចិត្តបំផុតនោះគឺ ម្តាយ ឬឪពុករបស់ពួកគេ"។

យោងតាម The New Yorker អ្នកជំនាញប៉ាន់ប្រមាណថានៅឆ្នាំ 2030 ការលួចអត្តសញ្ញាណ 2 ភាគ 3 នឹងបណ្តាលមកពីការចែករំលែករូបថតដែលមិនអាចគ្រប់គ្រងបាននៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គម។ Deutsche Telekom ក៏បានដកស្រង់របាយការណ៍ដែលបង្ហាញថា ឪពុកម្តាយជាង 75% ឥឡូវនេះចែករំលែកទិន្នន័យអំពីកូនរបស់ពួកគេនៅលើបណ្តាញសង្គម។ ទន្ទឹមនឹងនេះដែរ ឪពុកម្តាយ 8 នាក់ក្នុងចំណោម 10 នាក់មានសមាជិកប្រព័ន្ធផ្សព្វផ្សាយសង្គមតាមដានគណនីរបស់ពួកគេដែលពួកគេមិនដែលជួបក្នុងជីវិតពិត។

ថ្មីៗនេះ ការអភិវឌ្ឍន៍ឧបករណ៍ AI បានក្លាយទៅជា "ពេញនិយម" កាន់តែខ្លាំងឡើង ដែលឈានដល់អ្នកប្រើប្រាស់ធម្មតា តាមរយៈកម្មវិធីជាច្រើននៅលើឧបករណ៍ចល័ត។ ជំនួសឱ្យការប្រុងប្រយ័ត្នជាមួយកម្មវិធីទាំងនេះ មនុស្សជាច្រើនមិនបានយកចិត្តទុកដាក់ផ្តល់រូបថតផ្ទាល់ខ្លួន ឬគ្រួសារដើម្បីបង្ហោះនៅលើបណ្តាញសង្គម។ សកម្មភាពនេះគឺផ្តល់ឱ្យ AIs ដោយអចេតនានូវទិន្នន័យឥតគិតថ្លៃយ៉ាងច្រើន ដើម្បីស្វែងយល់អំពីមនុស្ស ចាប់ពីរចនាសម្ព័ន្ធផ្ទៃមុខ រហូតដល់បរិស្ថានជុំវិញ។

អ្នកជំនាញផ្នែកសន្តិសុខជាច្រើនបានព្រមានថា នៅគ្រប់ស្ថានភាពទាំងអស់ ទោះបីជាមាននិន្នាការថ្មីក៏ដោយ អ្នកប្រើប្រាស់គួរតែនៅតែប្រុងប្រយ័ត្ន និងមិនត្រូវធ្វើពាណិជ្ជកម្មទិន្នន័យផ្ទាល់ខ្លួន ជាពិសេសទិន្នន័យផ្ទៃមុខរបស់ពួកគេ និងមនុស្សជាទីស្រឡាញ់របស់ពួកគេ ដើម្បីរីករាយពីរបីនាទីនៅលើបណ្តាញសង្គម។

ប្រភពតំណ