របាយការណ៍រាប់ពាន់នៃខ្លឹមសារការរំលោភបំពានកុមារដែលបង្កើតដោយ AI

ក្នុងរយៈពេលប៉ុន្មានខែថ្មីៗនេះ អ្នកជំនាញ និងអ្នកស្រាវជ្រាវសុវត្ថិភាពកុមារបានព្រមានថា AI ប្រកបដោយភាពច្នៃប្រឌិតអាចធ្វើឲ្យការរំលោភបំពានលើអ៊ីនធឺណិតកាន់តែធ្ងន់ធ្ងរ។

របាយការណ៍រាប់ពាន់អំពីខ្លឹមសារនៃការបំពានលើកុមារដែលបង្កើតឡើងដោយអ្នកណាម្នាក់រូបភាព ១ — នាយកប្រតិបត្តិ Meta លោក Mark Zuckerberg ថ្លែងនៅក្នុងសវនាការរបស់គណៈកម្មាធិការយុត្តិធម៌របស់ព្រឹទ្ធសភាសហរដ្ឋអាមេរិកនៅថ្ងៃទី 31 ខែមករា ឆ្នាំ 2024 នៅចំពោះមុខអ្នកចូលរួមដែលកាន់រូបភាពដែលបង្កើតដោយ AI ។ រូបថត៖ រ៉យទ័រ

NCMEC មិនទាន់បានចេញផ្សាយចំនួនរបាយការណ៍សរុបនៃខ្លឹមសារនៃការរំលោភបំពានលើកុមារពីគ្រប់ប្រភពទាំងអស់ដែលខ្លួនបានទទួលក្នុងឆ្នាំ 2023។ ប៉ុន្តែនៅឆ្នាំ 2022 វាបានទទួលរបាយការណ៍ប្រហែល 88.3 លានឯកសារអំពីបញ្ហានេះ។

លោក John Shehan អនុប្រធាន NCMEC បាននិយាយថា "យើងកំពុងទទួលបានរបាយការណ៍ពីក្រុមហ៊ុន AI ប្រកបដោយភាពច្នៃប្រឌិតខ្លួនឯង វេទិកា (អនឡាញ) និងសមាជិកសាធារណៈ" ។

នាយកប្រតិបត្តិនៃ Meta, X, TikTok, Snap និង Discord បានផ្តល់សក្ខីកម្មនៅក្នុងសវនាការរបស់ព្រឹទ្ធសភាអាមេរិកស្តីពីសុវត្ថិភាពកុមារនៅលើវេទិកាអនឡាញកាលពីថ្ងៃពុធ (31 មករា)។ សមាជិកសភាអាមេរិកបានចោទសួរក្រុមហ៊ុនប្រព័ន្ធផ្សព្វផ្សាយសង្គមអំពីកិច្ចខិតខំប្រឹងប្រែងរបស់ពួកគេដើម្បីការពារកុមារពី "សត្វមំសាសីតាមអ៊ីនធឺណិត"។

អ្នកស្រាវជ្រាវនៅ Stanford Internet Observatory បាននិយាយនៅក្នុងរបាយការណ៍មួយកាលពីខែមិថុនាឆ្នាំមុនថា AI ជំនាន់ថ្មីអាចត្រូវបានប្រើប្រាស់ដោយតួអង្គអាក្រក់ដើម្បីធ្វើបាបកុមារក្នុងជីវិតពិតម្តងហើយម្តងទៀតដោយបង្កើតរូបភាពក្លែងក្លាយរបស់ពួកគេ។

Fallon McNulty នាយក CyberTipline របស់ NCMEC ដែលយករបាយការណ៍នៃការកេងប្រវ័ញ្ចលើកុមារតាមអ៊ីនធឺណិតបាននិយាយថា មាតិកាដែលបង្កើតដោយ AI កំពុងក្លាយជា "រូបភាពជាក់ស្តែងកាន់តែច្រើន" ដែលធ្វើឱ្យវាពិបាកក្នុងការកំណត់ថាតើជនរងគ្រោះគឺជាមនុស្សពិតឬអត់។

McNulty បាននិយាយថា OpenAI ដែលជាក្រុមហ៊ុនបង្កើត ChatGPT បានបង្កើតដំណើរការមួយដើម្បីបញ្ជូនរបាយការណ៍ទៅ NCMEC ហើយអង្គការកំពុងពិភាក្សាជាមួយក្រុមហ៊ុន AI ផ្សេងទៀត។

Hoang Hai (យោងតាម Reuters, FT)

ប្រភព