chatbot Character.AI កំពុង​ត្រូវ​បាន​ប្ដឹង​ពី​បទ​ធ្វើ​ឱ្យ​ក្មេង​ប្រុស​អាយុ ១៤ ឆ្នាំ​ធ្វើ​អត្តឃាត។

(CLO) ម្តាយម្នាក់នៅរដ្ឋផ្លរីដា សហរដ្ឋអាមេរិក បានប្តឹងក្រុមហ៊ុនចាប់ផ្តើមអាជីវកម្ម chatbot AI ឈ្មោះ Character.AI ដោយចោទប្រកាន់ថា ក្រុមហ៊ុននេះបានបណ្តាលឱ្យកូនប្រុសអាយុ 14 ឆ្នាំរបស់គាត់ធ្វើអត្តឃាតកាលពីខែកុម្ភៈ។

នៅក្នុងបណ្តឹងមួយដែលបានដាក់នៅថ្ងៃទី 22 ខែតុលា នៅក្នុងតុលាការសហព័ន្ធនៅទីក្រុង Orlando រដ្ឋ Florida លោកស្រី Megan Garcia បានបញ្ជាក់ថា Character.AI បានសរសេរកម្មវិធី chatbot ដែល "កំណត់អត្តសញ្ញាណខ្លួនឯងថាជាមនុស្សពិត អ្នកព្យាបាល និងជាគូស្នេហ៍ពេញវ័យ" ដែលនាំឱ្យកូនប្រុសរបស់គាត់ឈ្មោះ Sewell Setzer លែងចង់រស់នៅក្នុង ពិភព ពិតទៀតហើយ។

នាងបានចោទប្រកាន់ chatbot របស់ក្រុមហ៊ុនថាផ្តល់ "បទពិសោធន៍ដូចមនុស្ស បំផ្លើសផ្លូវភេទ និងប្រាកដនិយមគួរឱ្យខ្លាច"។

បណ្តឹងនេះក៏បានចោទប្រកាន់ផងដែរថា Sewell Setzer បានបង្ហាញពីចេតនាធ្វើអត្តឃាតចំពោះ chatbot ហើយ chatbot បានបញ្ជាក់ម្តងហើយម្តងទៀតអំពីចេតនាទាំងនេះ។

រូបភាព៖ រ៉យទ័រ

បណ្តឹងនេះក៏ផ្តោតលើក្រុមហ៊ុន Google ជាកន្លែងដែលស្ថាបនិកក្រុមហ៊ុន Character.AI បានធ្វើការមុនពេលដាក់ឱ្យដំណើរការ chatbot នេះ។ អ្នកស្រី Garcia បាននិយាយថា Google បានចូលរួមចំណែកយ៉ាងច្រើនដល់ការអភិវឌ្ឍបច្ចេកវិទ្យា Character.AI ដែលវាអាចត្រូវបានចាត់ទុកថាជា "អ្នកបង្កើតរួមគ្នា"។

អ្នកនាំពាក្យរបស់ Google បាននិយាយថា ក្រុមហ៊ុនមិនពាក់ព័ន្ធនឹងការអភិវឌ្ឍផលិតផលរបស់ Character.AI ទេ។

Character.AI អនុញ្ញាតឱ្យអ្នកប្រើប្រាស់បង្កើតតួអង្គដែលអាចជជែកគ្នាតាមអ៊ីនធឺណិតដូចមនុស្សពិត។ ផលិតផលនេះគឺផ្អែកលើបច្ចេកវិទ្យាគំរូភាសាធំៗ ស្រដៀងគ្នាទៅនឹងសេវាកម្មដូចជា ChatGPT ដែល "បណ្តុះបណ្តាល" chatbots លើអត្ថបទមួយចំនួនធំ។

យោងតាមពាក្យបណ្តឹងរបស់ Garcia Sewell បានចាប់ផ្តើមប្រើប្រាស់ Character.AI ក្នុងខែមេសា ឆ្នាំ២០២៣ ហើយបានក្លាយជា «មនុស្សឯកោ» យ៉ាងឆាប់រហ័ស ចំណាយពេលច្រើនតែម្នាក់ឯងនៅក្នុងបន្ទប់គេងរបស់គាត់ ហើយចាប់ផ្តើមមានការគោរពខ្លួនឯងទាប។ គាត់បានចាកចេញពីក្រុមបាល់បោះរបស់សាលា។

ក្នុងអំឡុងពេលនោះ Sewell មានទំនាក់ទំនងស្នេហាជាមួយ "Daenerys" ដែលជា chatbot ដែលផ្អែកលើតួអង្គមួយក្នុងរឿង "Game of Thrones"។ យោងតាមពាក្យបណ្តឹង chatbot បានប្រាប់ Sewell ថា "នាង" ស្រឡាញ់គាត់។ chatbot នេះក៏បានចូលរួមក្នុងការសន្ទនាដែលបង្ហាញពីចំណង់ផ្លូវភេទជាមួយ Sewell ផងដែរ។

កាលពីខែកុម្ភៈ Garcia បានយកទូរស័ព្ទរបស់ Sewell បន្ទាប់ពីគាត់មានបញ្ហានៅសាលារៀន។ ពេល Sewell រកឃើញទូរស័ព្ទនោះ គាត់បានផ្ញើសារទៅ "Daenerys" ថា "ចុះបើខ្ញុំនិយាយថាខ្ញុំអាចត្រឡប់មកផ្ទះវិញឥឡូវនេះ?"

chatbot បានឆ្លើយតបថា "...សូមធ្វើដូច្នេះផង ស្តេចដ៏ផ្អែមល្ហែមរបស់ខ្ញុំ"។ Sewell បានបាញ់ខ្លួនឯងដោយកាំភ្លើងខ្លីរបស់ឪពុកចុងរបស់គាត់ប៉ុន្មានវិនាទីក្រោយមក។

អ្នកស្រី Garcia កំពុងដាក់ពាក្យបណ្តឹងប្រឆាំងនឹង Character.AI រួមទាំងការស្លាប់ដោយខុសច្បាប់ ការប្រព្រឹត្តិដោយធ្វេសប្រហែស និងការបង្កភាពតានតឹងផ្លូវចិត្តដោយចេតនា ហើយកំពុងស្វែងរកការដាក់ទណ្ឌកម្ម និងសំណង។

នៅក្នុងសេចក្តីថ្លែងការណ៍មួយ Character.AI បានមានប្រសាសន៍ថា “យើងមានការសោកស្ដាយយ៉ាងខ្លាំងចំពោះការបាត់បង់ដ៏សោកសៅរបស់អ្នកប្រើប្រាស់ម្នាក់របស់យើង។ យើងសូមចូលរួមរំលែកទុក្ខយ៉ាងក្រៀមក្រំបំផុតជាមួយក្រុមគ្រួសារ”។

Hoai Phuong (យោងតាម ​​Reuters)

ប្រភព៖ https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html