ប្រព័ន្ធផ្សព្វផ្សាយសង្គម AI និងក្បួនដោះស្រាយការពង្រីក៖ ការរួមបញ្ចូលគ្នា "អាតូមិក" ដែលកំពុងបង្វែរពិភពលោក

(NB&CL) គ្រាន់តែជាឧប្បត្តិហេតុតូចមួយ ប៉ុន្តែជាមួយនឹងការរួមបញ្ចូលគ្នានៃ "អាតូមិក" នៃបណ្តាញសង្គម AI និងក្បួនដោះស្រាយការពង្រីក ក៏អាចបង្កើតរលកនៃភាពជ្រុលនិយមនៅលើមាត្រដ្ឋានជាតិ និងសូម្បីតែសកលលោកផងដែរ។ ពិភពនិម្មិតកំពុងជះឥទ្ធិពលយ៉ាងធ្ងន់ធ្ងរដល់ជីវិតពិត ហើយកាន់តែមិនអាចគ្រប់គ្រងបាន។

ក្បួនដោះស្រាយការញុះញង់ស្អប់

ក្បួនដោះស្រាយប្រព័ន្ធផ្សព្វផ្សាយសង្គម មិនមែនគ្រាន់តែជាការផ្តល់យោបល់អំពីខ្លឹមសារកម្សាន្តប៉ុណ្ណោះទេ ប៉ុន្តែថែមទាំងពង្រីកការនិយាយស្អប់ខ្ពើម និងមនោគមវិជ្ជាជ្រុលនិយមផងដែរ។ អគ្គលេខាធិការអង្គការសហប្រជាជាតិលោក Antonio Guterres បានព្រមានថាវេទិកាប្រព័ន្ធផ្សព្វផ្សាយសង្គមមួយចំនួនបានក្លាយទៅជា "កន្លែងចាក់សំរាមពុល" ដែលពោរពេញទៅដោយពាក្យសំដីស្អប់ខ្ពើម និងព័ត៌មានមិនពិត ដែលជំរុញឱ្យមានការរីករាលដាលនៃភាពជ្រុលនិយម។

ការសិក្សាក្នុងពិភពពិតបង្ហាញថាក្នុងរយៈពេលតែពីរបីថ្ងៃប៉ុណ្ណោះ ក្បួនដោះស្រាយការណែនាំអាចធ្វើឲ្យបញ្ហាកាន់តែធ្ងន់ធ្ងរឡើង។ ជាឧទាហរណ៍ ការសិក្សារបស់ចក្រភពអង់គ្លេសបានរកឃើញថា ក្បួនដោះស្រាយរបស់ TikTok បានធ្វើឱ្យការណែនាំអំពីខ្លឹមសារមិនប្រក្រតីចំនួនបួនដងពី 13% ទៅ 56% នៃ វីដេអូ ក្នុងរយៈពេលត្រឹមតែ 5 ថ្ងៃប៉ុណ្ណោះ។

អ្នកស្រាវជ្រាវពន្យល់ថា ក្បួនដោះស្រាយកំណត់ដោយស្វ័យប្រវត្តិនូវភាពងាយរងគ្រោះរបស់អ្នកប្រើប្រាស់ (ដូចជា អារម្មណ៍ឯកោ បាត់បង់ការគ្រប់គ្រង ការស្អប់) បង្វែរខ្លឹមសារជ្រុលនិយមទៅជា "ការកម្សាន្ត" ដ៏ទាក់ទាញ ដើម្បីទាក់ទាញអ្នកមើល។

ឥឡូវនេះ នៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គម សូម្បីតែព័ត៌មានតូចតាច ឬពាក្យចចាមអារ៉ាមដែលគ្មានមូលដ្ឋានអាចក្លាយជាមូលហេតុនៃអំពើហិង្សាបានយ៉ាងងាយ។ ឧទាហរណ៍ធម្មតាគឺកុបកម្មនៅចក្រភពអង់គ្លេសក្នុងឆ្នាំ 2024។ បន្ទាប់ពីការវាយប្រហារនៅ Southport ពាក្យចចាមអារ៉ាមមិនពិតអំពីជនសង្ស័យ - ថាគាត់ជាមូស្លីមឬជាជនភៀសខ្លួន - បានរីករាលដាលយ៉ាងឆាប់រហ័សនៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គម រួមជាមួយនឹងភាសាប្រឆាំងមូស្លីម និងប្រឆាំងនឹងជនអន្តោប្រវេសន៍។ យោងតាមរបាយការណ៍ឆ្នាំ 2024 ដោយការិយាល័យគណនេយ្យទូទៅរបស់សហរដ្ឋអាមេរិក (GAO) ជិតមួយភាគបីនៃអ្នកប្រើប្រាស់អ៊ីនធឺណិតត្រូវបានប៉ះពាល់នឹងពាក្យសំដីស្អប់តាមអ៊ីនធឺណិត។
ជាពិសេស ការតវ៉ាដ៏ធ្ងន់ធ្ងរនាពេលថ្មីៗនេះ កុប្បកម្មដោយ Gen Z ឬនិស្សិតនៅក្នុងប្រទេសផ្សេងៗគ្នា ពីអាស៊ី អាហ្រ្វិក ដល់អាមេរិកឡាទីន សុទ្ធតែត្រូវបានផ្តួចផ្តើម និងញុះញង់នៅលើវេទិកាប្រព័ន្ធផ្សព្វផ្សាយសង្គម ដោយស្ទើរតែមានសេណារីយ៉ូដូចគ្នា៖ កេងប្រវ័ញ្ចបញ្ហា ហើយបន្ទាប់មកញុះញង់សង្គមទាំងមូល។

កម្មវិធី AI និងក្បួនដោះស្រាយការពង្រីកកំពុងរៀបចំទាំងពិភពនិម្មិត និង ពិភព ពិត។ រូបភាព៖ Nafets

ពិភពលោកភាគច្រើនត្រូវបានជ្រមុជនៅក្នុង "ការបំភាន់"

អ្វីៗកំពុងស្ថិតក្រោមការគ្រប់គ្រងជាមួយនឹងការផ្ទុះនៃ AI ដែលអនុញ្ញាតឱ្យមនុស្សស្ទើរតែទាំងអស់បង្កើត "រោងចក្រព័ត៌មានក្លែងក្លាយ" ក្នុងទំហំ និងល្បឿនដែលមិនធ្លាប់មានពីមុនមក។ ម៉ូដែល AI ដូចជា GPT, Claude ឬ LLaMA អាចបង្កើតស៊េរីអត្ថបទ រូបភាព និងវីដេអូដែលបង្ខូចទ្រង់ទ្រាយដោយស្វ័យប្រវត្តិក្នុងមួយវិនាទី។ ប្រព័ន្ធ AI bot អាចបង្កើត និងចែករំលែកការបង្ហោះ ឬមតិរាប់ពាន់ក្នុងពេលដំណាលគ្នា ដោយបង្វែរព័ត៌មានក្លែងក្លាយ និងព័ត៌មានពុលទៅជា "និន្នាការ" តាមអ៊ីនធឺណិត។

ការសិក្សាមួយរបស់សាកលវិទ្យាល័យ RIT នៅសហរដ្ឋអាមេរិកបានអះអាងថា "AI បានធ្វើឱ្យវាលឿនណាស់ក្នុងការពង្រីកព័ត៌មានមិនពិតគ្រប់ប្រភេទ... AI bots អាចផ្សព្វផ្សាយខ្លឹមសារនេះនៅលើអ៊ីនធឺណិតបាន ព្រោះវាមិនចាំបាច់ពឹងផ្អែកលើមនុស្សដើម្បីបង្កើតវា"។

សព្វថ្ងៃនេះ ដោយគ្រាន់តែចំណាយប្រាក់រាប់សិបដុល្លារក្នុងមួយខែសម្រាប់ឧបករណ៍ AI បុគ្គលម្នាក់អាចបង្កើតរូបភាព និងវីដេអូក្លែងក្លាយរាប់ពាន់សន្លឹក ពីសំឡេង រូបថត រហូតដល់វីដេអូ។ កម្រិតនៃភាពទំនើប និងប្រេវ៉ាឡង់គឺអស្ចារ្យណាស់ ដែលសព្វថ្ងៃនេះយើងទាំងអស់គ្នាមានគំនិតមួយនៅក្នុងចិត្តរបស់យើង៖ តើអ្វីដែលយើងឃើញនៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គមបង្កើតដោយ AI?

ប៉ុន្តែអ្វីដែលគួរឱ្យហួសចិត្តនោះគឺថា ពិភពលោកភាគច្រើនត្រូវបានជ្រមុជនៅក្នុងពិភពលោក "និម្មិត" នោះជាច្រើនម៉ោង ជារៀងរាល់ថ្ងៃ សូម្បីតែរីករាយនឹងវាដូចជា "ការញៀន" ក៏ដោយ។ យោងតាមរបាយការណ៍ Digital 2025 មានមនុស្សប្រហែល 5.2 ទៅ 5.6 ពាន់លាននាក់កំពុងប្រើប្រាស់បណ្តាញសង្គម ស្មើនឹង 64% នៃចំនួនប្រជាជនពិភពលោក។ ហើយរយៈពេលជាមធ្យមដែលមនុស្សម្នាក់ៗប្រើប្រាស់បណ្តាញសង្គមប្រែប្រួលប្រហែល 2 ម៉ោង និង 20 នាទីក្នុងមួយថ្ងៃ។

ត្រូវការគ្រប់គ្រងគ្រាប់បែក "អាតូមិក"

ជាមួយនឹងព័ត៌មានក្លែងក្លាយ និងព័ត៌មានមិនពិត ត្រូវបានផលិតឡើងក្នុងអត្រាថោក និងគ្រោះថ្នាក់កាន់តែខ្លាំងឡើង ការគ្រប់គ្រងមាតិកានៅលើអ៊ីនធឺណិតស្ទើរតែបានធ្លាក់ចុះពីការគ្រប់គ្រងរបស់មនុស្ស។ អ្នកជំនាញផ្នែកបច្ចេកវិទ្យា Lukasz Olejnik នៅ King's College London (UK) បានធ្វើអត្ថាធិប្បាយថា "ជារៀងរាល់ខែ រោងចក្រ [ព័ត៌មានក្លែងក្លាយ] កាន់តែមានតម្លៃថោក កាន់តែច្បាស់ និងពិបាករកឃើញ"។

ទន្ទឹមនឹងនេះការសិក្សា RAND ក្នុងឆ្នាំ 2024 បានចង្អុលបង្ហាញថាការរំពឹងទុករបស់ AI អាច "បំពេញអ៊ីនធឺណិត" ជាមួយនឹងគណនីប្រព័ន្ធផ្សព្វផ្សាយសង្គមក្លែងក្លាយគឺច្បាស់ហើយស្ទើរតែជៀសមិនរួចដោយគ្មានការកែប្រែខ្លះ។

បច្ចេកវិទ្យានុយក្លេអ៊ែរ ធ្លាប់ជាការបង្កើតដ៏អស្ចារ្យរបស់មនុស្សជាតិ ដូចប្រព័ន្ធផ្សព្វផ្សាយសង្គមដែរ។ ទោះ​ជា​យ៉ាង​ណា​ប្រសិន​បើ​មិន​បាន​ធ្វើ​ការ​ត្រួត​ពិនិត្យ វា​អាច​បង្ក​គ្រោះ​មហន្តរាយ។ ស្រដៀងគ្នានេះដែរ ប្រសិនបើប្រព័ន្ធផ្សព្វផ្សាយសង្គម AI និងក្បួនដោះស្រាយការពង្រីកត្រូវបានទុកចោលឱ្យដំណើរការយ៉ាងព្រៃផ្សៃ ពួកគេអាចបង្ក "គ្រាប់បែកបរមាណូ" នៅក្នុងអ៊ីនធឺណេត ហើយមានថាមពលគ្រប់គ្រាន់ដើម្បីបំផ្លាញពិភពពិត។

ប្រភព៖ https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html