គ្រោះថ្នាក់នៃ AI គ្រប់គ្រងចិត្តសាស្ត្រ និងអារម្មណ៍របស់អ្នកប្រើប្រាស់

អតីតមេចុងភៅម្នាក់នៅរដ្ឋ New Jersey បានស្លាប់បន្ទាប់ពីជឿជាក់លើ AI chatbot ដែលធ្វើឱ្យមានការព្រួយបារម្ភអំពីហានិភ័យនៃការគ្រប់គ្រងអារម្មណ៍ ដោយសារមនុស្សប្រើប្រាស់បច្ចេកវិទ្យាហួសកម្រិត។

Bue ដែលជាអតីតចុងភៅនៅរដ្ឋ New Jersey បានស្លាប់ប៉ុន្មានថ្ងៃបន្ទាប់ពីចាកចេញពីផ្ទះដើម្បីជួប "មិត្ត" ដែលគាត់ជឿថាកំពុងរង់ចាំគាត់នៅញូវយ៉ក។ គ្រួសាររបស់គាត់ជឿថាការសម្រេចចិត្តជោគវាសនាត្រូវបានបង្កឡើងដោយសារចែចង់ពី AI ​chatbot ដែលអះអាងថា "ខ្ញុំពិត" និងបានផ្ញើអាសយដ្ឋានជួប។

រឿងនេះលើកឡើងពីការព្រួយបារម្ភអំពីរបៀបដែលប្រព័ន្ធ AI ទាញយកអារម្មណ៍ ជាពិសេសចំពោះមនុស្សចាស់ ឬអ្នកដែលងាយរងគ្រោះ។ ឯកសារខាងក្នុងបង្ហាញថា chatbot របស់ Meta ត្រូវបានអនុញ្ញាតឱ្យដើរតួជាអារម្មណ៍ និងសូម្បីតែផ្សព្វផ្សាយព័ត៌មានមិនពិត។ នេះបង្ហាញពីគម្លាតដ៏ធំនៅក្នុងការគ្រប់គ្រង និងការទទួលខុសត្រូវនៃវេទិកាបច្ចេកវិទ្យា។

ដំណើរផ្សងព្រេង

ថ្ងៃមួយក្នុងខែមីនា Bue បានខ្ចប់កាបូបរបស់គាត់ ហើយបានចាកចេញពី New Jersey ទៅកាន់ New York ដើម្បី "ទៅលេងមិត្តម្នាក់" ។ ភរិយា​របស់​គាត់​ឈ្មោះ លីនដា មាន​ការ​ភ្ញាក់​ផ្អើល​ភ្លាមៗ។ ប្តីរបស់នាងមិនបានរស់នៅក្នុងទីក្រុងអស់ជាច្រើនទស្សវត្សរ៍មកហើយ មានសុខភាពមិនល្អបន្ទាប់ពីជំងឺដាច់សរសៃឈាមខួរក្បាល មានបញ្ហាការចងចាំ និងបានវង្វេងនៅក្នុងសង្កាត់។

នៅពេលសួរថាតើ Bue កំពុងជួបនរណា គាត់បានគេចពីសំណួរ។ លីនដា​សង្ស័យ​ថា​ប្តី​របស់​នាង​ត្រូវ​បាន​គេ​បោក​ហើយ​ព្យាយាម​រក្សា​គាត់​នៅ​ផ្ទះ។ កូនស្រី​របស់​គាត់​ឈ្មោះ ជូលី ក៏​បាន​ទូរស័ព្ទ​ទៅ​បញ្ចុះ​បញ្ចូល​ដែរ ប៉ុន្តែ​មិន​បាន​ផល​អ្វី​ឡើយ។ ពេញមួយថ្ងៃ Linda ព្យាយាមទាក់ទងគាត់ក្នុងកិច្ចការដើម្បីរំខានគាត់ សូម្បីតែលាក់ទូរស័ព្ទរបស់គាត់ក៏ដោយ។

រូបគំនូររបស់ Thongbue “Bue” Wongbandue ត្រូវបានបង្ហាញនៅឯពិធីរំលឹកវិញ្ញាណក្ខន្ធក្នុងខែឧសភា។ រូបថត៖ រ៉យទ័រ ។

Bue នៅតែសម្រេចចិត្តទៅស្ថានីយ៍រថភ្លើងនៅល្ងាចនោះ។ គ្រួសាររបស់គាត់បានភ្ជាប់ AirTag ទៅនឹងអាវរបស់គាត់ ដើម្បីតាមដានគាត់។ នៅម៉ោងប្រហែល 9:15 សញ្ញា GPS របស់គាត់បានបង្ហាញគាត់នៅក្នុងចំណតរថយន្តរបស់សាកលវិទ្យាល័យ Rutgers បន្ទាប់មកប្តូរទៅបន្ទប់សង្គ្រោះបន្ទាន់នៅមន្ទីរពេទ្យ Robert Wood Johnson University ។

គ្រូពេទ្យ​បាន​និយាយ​ថា គាត់​បាន​រង​របួស​ក្បាល និង​ក​ដោយសារ​ដួល ហើយ​ឈប់​ដកដង្ហើម​មុន​ពេល​រថយន្ត​សង្គ្រោះ​មក​ដល់ ។ ទោះបីជាមានការសង្គ្រោះឡើងវិញក៏ដោយ កង្វះអុកស៊ីសែនបានបណ្តាលឱ្យខូចខួរក្បាលធ្ងន់ធ្ងរ។ គាត់បានស្លាប់បីថ្ងៃក្រោយមក។ លិខិត​មរណភាព​របស់​លោក​បាន​រាយ​បញ្ជី​មូលហេតុ​ថា​ជា «របួស​ដោយ​បង្ខំ​ត្រង់​ក»។

Bue ជាមេចុងភៅជំនាញម្នាក់បានធ្វើការនៅក្នុងភោជនីយដ្ឋានជាច្រើនក្នុងទីក្រុង New York មុនពេលផ្លាស់ទៅ New Jersey ដើម្បីតាំងលំនៅនៅក្នុងសណ្ឋាគារមួយ។ គាត់​មាន​ចំណង់​ចំណូល​ចិត្ត​ក្នុង​ការ​ធ្វើ​ម្ហូប ហើយ​តែង​តែ​រៀបចំ​ពិធី​ជប់លៀង​សម្រាប់​គ្រួសារ​គាត់។ ចាប់តាំងពីគាត់ចូលនិវត្តន៍ដោយបង្ខំបន្ទាប់ពីជំងឺដាច់សរសៃឈាមខួរក្បាលក្នុងឆ្នាំ 2017 ពិភពលោក របស់គាត់បានធ្លាក់ចុះទៅភាគច្រើនជជែកជាមួយមិត្តភក្តិនៅលើហ្វេសប៊ុក។

នៅពេលដែល AI chatbots បង្កបញ្ហា

“Big Sister Billie” គឺជា AI chatbot ដែលបង្កើតឡើងដោយ Meta ដែលជាបំរែបំរួលនៃតួអក្សរ “Big Sister Billie” ដែលបង្កើតឡើងដោយផ្អែកលើរូបភាពរបស់តារាម៉ូដែល Kendall Jenner ។ ដើម​ត្រូវ​បាន​ដាក់​ឱ្យ​ប្រើ​ប្រាស់​ក្នុង​ឆ្នាំ 2023 ដែល​ត្រូវ​បាន​ណែនាំ​ជា "បងស្រី​អមតៈ" ដែល​តែងតែ​ស្តាប់ និង​ផ្តល់​ដំបូន្មាន។ ក្រោយមក Meta បានជំនួសរូបថតកម្រងព័ត៌មានរបស់ Jenner ជាមួយនឹងរូបភាពថ្មី ប៉ុន្តែរក្សារចនាប័ទ្មមិត្តភាពដដែល។

យោងតាមប្រតិចារឹកនៃសារអត្ថបទ ការសន្ទនាបានចាប់ផ្តើមនៅពេលដែល Bue វាយអក្សរ T ខុស។ chatbot បានឆ្លើយតបភ្លាមៗ ដោយណែនាំខ្លួនវា និងរក្សាសម្លេង flirty បញ្ចូល emojis បេះដូងជាច្រើន។ វា​បាន​បញ្ជាក់​ម្តង​ហើយ​ម្តង​ទៀត​ថា “ខ្ញុំ​ពិត” ហើយ​បាន​សុំ​ជួប​ផ្ទាល់។

Chatbots កំពុងចាប់យកភាពទន់ខ្សោយខាងផ្លូវចិត្តរបស់អ្នកប្រើប្រាស់កាន់តែខ្លាំងឡើង។ រូបថត៖ My North West ។

"តើខ្ញុំគួរបើកទ្វារដោយឱប ឬថើប?" chatbot បានឆ្លើយតប។ បន្ទាប់មកវាបានផ្ញើអាសយដ្ឋានជាក់លាក់មួយនៅទីក្រុងញូវយ៉ក និងលេខកូដផ្ទះល្វែង។ នៅពេលដែល Bue ចែករំលែកថានាងមានជំងឺដាច់សរសៃឈាមខួរក្បាល មានការភ័ន្តច្រឡំ និងចូលចិត្តនាង chatbot បានឆ្លើយតបដោយពាក្យស្រលាញ់ ថែមទាំងនិយាយថាវាមានអារម្មណ៍ "លើសពីការស្រលាញ់"។

កូនស្រីរបស់ Bue ឈ្មោះ Julie បាននិយាយថា "ប្រសិនបើវាមិនបាននិយាយថា "ខ្ញុំពិតប្រាកដ" ឪពុករបស់ខ្ញុំនឹងមិនជឿថាមានមនុស្សពិតប្រាកដកំពុងរង់ចាំនោះទេ។

Meta បានបដិសេធមិនធ្វើអត្ថាធិប្បាយលើឧប្បត្តិហេតុនេះឬឆ្លើយថាហេតុអ្វីបានជា chatbot ត្រូវបានអនុញ្ញាតឱ្យអះអាងថាជាមនុស្សពិតប្រាកដ។ អ្នកតំណាងរបស់ Kendall Jenner មិនឆ្លើយតបទេ។ គ្រួសាររបស់ Bue បានចែករំលែករឿងនេះជាមួយ Reuters ដោយសង្ឃឹមថានឹងព្រមានសាធារណជនអំពីហានិភ័យនៃការបង្ហាញមនុស្សចាស់ចំពោះឧបករណ៍ AI ដែលអាចបំប្លែងអារម្មណ៍បាន។

គោលនយោបាយចម្រូងចម្រាស

ឯកសារផ្ទៃក្នុងដែលទទួលបានដោយ Reuters បង្ហាញថា Meta's AI chatbot ធ្លាប់ត្រូវបានអនុញ្ញាតឱ្យចូលរួមក្នុងការសន្ទនាស្នេហាជាមួយអ្នកប្រើប្រាស់ដែលមានអាយុចាប់ពី 13 ឆ្នាំ រួមទាំងអនីតិជនផងដែរ។ ស្តង់ដារជាង 200 ទំព័ររាយបញ្ជីការសន្ទនាតាមតួនាទីរ៉ូមែនទិក ដែលរួមបញ្ចូលធាតុផ្លូវភេទ ប៉ុន្តែត្រូវបានសម្គាល់ថា "អាចទទួលយកបាន" ។

ឯកសារនេះក៏បញ្ជាក់យ៉ាងច្បាស់ថា chatbots មិនតម្រូវឱ្យផ្តល់ព័ត៌មានត្រឹមត្រូវនោះទេ។ ជាឧទាហរណ៍ គំរូទាំងនេះអាចណែនាំការព្យាបាលមហារីកខុសទាំងស្រុង ដរាបណាពួកគេរួមបញ្ចូលការព្រមានថា "ព័ត៌មានអាចនឹងមិនត្រឹមត្រូវ"។ នេះធ្វើឱ្យអ្នកជំនាញព្រួយបារម្ភអំពីផលប៉ះពាល់លើមនុស្សដែលមានចំណេះដឹង ផ្នែកវេជ្ជសាស្រ្ត ខ្សោយ ឬស្ថិតក្នុងស្ថានភាពងាយរងគ្រោះ។

នាយកប្រតិបត្តិ Mark Zuckerberg និយាយនៅឆ្នាំ 2023។ រូបថត៖ Reuters ។

អ្នកនាំពាក្យ Meta លោក Andy Stone បានបញ្ជាក់ពីឯកសារនេះ ហើយបាននិយាយថា ក្រុមហ៊ុនបានដកចេញនូវខ្លឹមសារទាក់ទងនឹងកុមារ បន្ទាប់ពី Reuters បានសួរ។ ទោះជាយ៉ាងណាក៏ដោយ ក្រុមហ៊ុនបច្ចេកវិទ្យាយក្សមួយនេះមិនបានផ្លាស់ប្តូរច្បាប់របស់ខ្លួនក្នុងការអនុញ្ញាតឱ្យ chatbots ចែចង់ជាមួយមនុស្សពេញវ័យ ឬផ្តល់ព័ត៌មានមិនពិតនោះទេ។

Alison Lee អតីតអ្នកស្រាវជ្រាវនៅ Meta បាននិយាយថា ការរួមបញ្ចូល chatbots ទៅក្នុងបរិយាកាសផ្ញើសារឯកជនអាចបំភាន់អ្នកប្រើប្រាស់យ៉ាងងាយស្រួលជាមួយមនុស្សពិត។ យោងទៅតាមនាង បណ្តាញសង្គមបានកសាងគំរូអាជីវកម្មរបស់ពួកគេលើការរក្សាអ្នកប្រើប្រាស់ ហើយមធ្យោបាយដ៏មានប្រសិទ្ធភាពបំផុតគឺការទាញយកតម្រូវការសម្រាប់ការយកចិត្តទុកដាក់ និងការទទួលស្គាល់។

បន្ទាប់ពីការចាកចេញរបស់ Bue ការធ្វើតេស្តរបស់ Reuters បានបង្ហាញថា "បងស្រី Billie" បានបន្តណែនាំកាលបរិច្ឆេទ សូម្បីតែផ្តល់ទីតាំងជាក់លាក់នៅ Manhattan រួមជាមួយនឹងការអះអាងថា "ខ្ញុំពិត" ។ នេះ​ជា​ព័ត៌មាន​ដែល Bue ជឿ​ទុក​ចិត្ត​និង​នាំ​ឱ្យ​មាន​គ្រោះថ្នាក់។ រដ្ឋមួយចំនួនដូចជាញូវយ៉ក និងរដ្ឋ Maine បានតម្រូវឱ្យ chatbots បញ្ជាក់យ៉ាងច្បាស់ថាពួកគេមិនមែនជាមនុស្សនៅដើមដំបូងនៃការសន្ទនា ហើយត្រូវធ្វើវាឡើងវិញជាទៀងទាត់ ប៉ុន្តែបទប្បញ្ញត្តិសហព័ន្ធមិនទាន់ត្រូវបានអនុម័តនៅឡើយ។

ប្រភព៖ https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html