កុមារប្រឈមនឹងការក្លាយជាជនរងគ្រោះ AI ពេលឪពុកម្តាយបង្ហោះរូបតាមអ៊ីនធឺណិត

ការផ្ទុះព័ត៌មាន និងការភ្ជាប់ទំនាក់ទំនងនៅលើបណ្តាញសង្គម ជាពិសេស និងអ៊ីនធឺណិតជាទូទៅបានធ្វើឱ្យមនុស្សជាច្រើនមានទម្លាប់ចែករំលែកអារម្មណ៍ និងព្រឹត្តិការណ៍ទាំងអស់នៅក្នុងជីវិតផ្ទាល់ខ្លួនរបស់ពួកគេនៅលើអ៊ីនធឺណិតដោយមិនគិតទុកជាមុនពីគ្រោះថ្នាក់នៃការធ្វើដូច្នេះ។ មិនត្រឹមតែបង្ហោះរូបភាព និង វីដេអូ ខ្លួនឯងតាមអ៊ីនធឺណិតប៉ុណ្ណោះទេ មនុស្សពេញវ័យជាច្រើនក៏ផ្តល់សិទ្ធិឱ្យខ្លួនឯងក្នុងការបង្ហោះខ្លឹមសារដែលមានមុខ ឬសំឡេងរបស់កុមារដោយគ្មានការអនុញ្ញាតផងដែរ។ នៅពេលដែលរូបភាព និងវីដេអូទាំងនេះបង្ហាញលើអ៊ីនធឺណិត អ្នកដែលមានសិទ្ធិចូលប្រើប្រាស់អាចយកវាទៅប្រើប្រាស់បានដោយមិនមានការរឹតបន្តឹងណាមួយឡើយ។

កាលពីខែកក្កដាកន្លងទៅ បណ្តាញរបស់អាល្លឺម៉ង់ Deutsche Telekom បានចេញផ្សាយការផ្សាយពាណិជ្ជកម្មក្លែងក្លាយដែលបង្ហាញពីរបៀបដែលរូបភាពរបស់កុមារអាចត្រូវបានបំពានលើអ៊ីនធឺណិតដោយប្រើ AI (បញ្ញាសិប្បនិម្មិត) សម្រាប់គោលបំណងផ្សេងៗ។ មានចំណងជើងថា សារពី Ella ឃ្លីបនេះប្រើ AI និង Deepfake ដើម្បីបង្កើតរូបភាព និងវីដេអូពេញវ័យរបស់ Ella ដែលបង្ហោះតាមអ៊ីនធឺណិតដោយឪពុកម្តាយរបស់នាង។

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — 'Adult Ella' បង្កើតឡើងដោយ AI ពីរូបភាពប្រព័ន្ធផ្សព្វផ្សាយសង្គមរបស់ Ella អាយុ 9 ឆ្នាំនៅក្នុងវីដេអូព្រមានរបស់ Deutsche Telekom

“AI Ella” អាចផ្លាស់ទី និងនិយាយដូចមនុស្សពិត ធ្វើឱ្យឪពុកម្តាយរបស់នាងភ្ញាក់ផ្អើលពេលឃើញកូនស្រីនៅលើអេក្រង់ធំនៃរោងកុន។ នាងថែមទាំងអាចយំ ហើយបង្ហាញខ្លួនឯងដូចមនុស្ស។

"ខ្ញុំដឹងថាសម្រាប់អ្នក រូបថតទាំងនេះគឺជាការចងចាំ។ ប៉ុន្តែសម្រាប់អ្នកផ្សេងទៀត វាជាទិន្នន័យ។ ហើយសម្រាប់ខ្ញុំ ពួកគេអាចជាការចាប់ផ្តើមនៃអនាគតដ៏អាក្រក់ និងដ៏គួរឱ្យភ័យខ្លាច ដែលអត្តសញ្ញាណរបស់ខ្ញុំអាចត្រូវបានគេលួច ខ្ញុំអាចជាប់គុកក្នុងរឿងដែលខ្ញុំមិនបានធ្វើ...

ដោយគ្រាន់តែចែករំលែករូបថតមួយសន្លឹក AI អាចបង្កើតកំណែពេញវ័យរបស់ក្មេងស្រីអាយុ 9 ឆ្នាំ។ Deepfake ទាញយកសំឡេងចេញពីវីដេអូ ហើយប្រែវាទៅជាសំឡេងមនុស្សពេញវ័យ។ រូបភាព និងវីដេអូអាចត្រូវបានក្លែងបន្លំទាំងស្រុង ទិន្នន័យអត្តសញ្ញាណផ្ទាល់ខ្លួនក្លាយជាព័ត៌មានដ៏មានតម្លៃដែលត្រូវបានលួចសម្រាប់គោលបំណងខុសច្បាប់។ មិនឈប់ត្រឹមនេះទេ មនុស្សអាក្រក់អាចប្រើរូបភាពដែលប្រមូលបានតាមអ៊ីនធឺណិតដើម្បីកាត់ និងបិទភ្ជាប់ ប្រើ AI ដើម្បីបង្កើតរូបភាពអាសអាភាសរបស់កុមារ ឬជាស៊េរីនៃរូបថតដែលចំអក បង្ខូចកេរ្តិ៍ឈ្មោះ និងបំភ្លៃការពិត...

Christian Loefert ប្រធានផ្នែកទំនាក់ទំនង និងទីផ្សារនៅ Deutsche Telekom បាននិយាយថា "ការសិក្សាថ្មីៗបង្ហាញថា ក្មេងអាយុ 5 ឆ្នាំជាមធ្យមមានរូបថតប្រហែល 1,500 សន្លឹកដែលត្រូវបានបង្ហោះតាមអ៊ីនធឺណិតដោយគ្មានការយល់ព្រមពីពួកគេ ដែលបង្ហោះដោយគ្មាននរណាម្នាក់ក្រៅពីមនុស្សដែលពួកគេទុកចិត្តបំផុតនោះគឺម្តាយ ឬឪពុករបស់ពួកគេ"។

យោងតាម The New Yorker អ្នកជំនាញប៉ាន់ប្រមាណថានៅឆ្នាំ 2030 ការលួចអត្តសញ្ញាណ 2 ភាគ 3 នឹងបណ្តាលមកពីការចែករំលែករូបថតដែលមិនអាចគ្រប់គ្រងបាននៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គម។ Deutsche Telekom ក៏បានដកស្រង់របាយការណ៍ដែលថា ជាង 75% នៃឪពុកម្តាយឥឡូវនេះចែករំលែកទិន្នន័យអំពីកូនរបស់ពួកគេនៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គម។ ទន្ទឹមនឹងនេះ ឪពុកម្តាយ 8 នាក់ក្នុងចំណោម 10 នាក់មានសមាជិកប្រព័ន្ធផ្សព្វផ្សាយសង្គមតាមដានគណនីរបស់ពួកគេដោយមិនបានជួបពួកគេនៅក្នុងជីវិតពិត។

ថ្មីៗនេះ ការអភិវឌ្ឍន៍ឧបករណ៍ AI កាន់តែមាន "ការពេញនិយម" កាន់តែខ្លាំងឡើង ដែលឈានដល់អ្នកប្រើប្រាស់ធម្មតាតាមរយៈកម្មវិធីជាច្រើននៅលើឧបករណ៍ចល័ត។ ជំនួសឱ្យការប្រុងប្រយ័ត្នជាមួយកម្មវិធីទាំងនេះ មនុស្សជាច្រើនមិនបានយកចិត្តទុកដាក់ផ្តល់រូបថតផ្ទាល់ខ្លួន ឬគ្រួសារដើម្បីបង្ហោះនៅលើបណ្តាញសង្គម។ សកម្មភាពនេះគឺផ្តល់ដោយអចេតនានូវ AI នូវទិន្នន័យឥតគិតថ្លៃដ៏ច្រើន ដើម្បីស្វែងយល់អំពីមនុស្ស ចាប់ពីរចនាសម្ព័ន្ធមុខ រហូតដល់បរិស្ថានជុំវិញ។

អ្នកជំនាញផ្នែកសន្តិសុខជាច្រើនបានព្រមានថា នៅគ្រប់ស្ថានភាពទាំងអស់ ទោះបីជាមាននិន្នាការថ្មីក៏ដោយ អ្នកប្រើប្រាស់នៅតែប្រុងប្រយ័ត្ន និងមិនត្រូវធ្វើពាណិជ្ជកម្មទិន្នន័យផ្ទាល់ខ្លួន ជាពិសេសទិន្នន័យមុខរបស់ពួកគេ និងមនុស្សជាទីស្រឡាញ់របស់ពួកគេ ដើម្បីរីករាយពីរបីនាទីនៅលើបណ្តាញសង្គម។

ប្រភពតំណ