ក្រុមហ៊ុន Meta ទើបតែចេញផ្សាយឧបករណ៍សុវត្ថិភាព AI ប្រភពបើកចំហថ្មីមួយ។

Meta កំពុងខិតខំបង្កើតខ្លួនជាអ្នកត្រួសត្រាយផ្លូវក្នុងការអភិវឌ្ឍបច្ចេកវិទ្យា AI។

ក្រុមហ៊ុន Meta បានណែនាំ Purple Llama ដែលជាគម្រោងមួយដែលឧទ្ទិសដល់ការបង្កើតឧបករណ៍ប្រភពបើកចំហសម្រាប់អ្នកអភិវឌ្ឍន៍ ដើម្បីវាយតម្លៃ និងបង្កើនភាពជឿជាក់ និងសុវត្ថិភាពនៃគំរូ បញ្ញាសិប្បនិម្មិត (AI) ដែលបានបង្កើត មុនពេលពួកវាត្រូវបានដាក់ពង្រាយ។

លោក Meta បានសង្កត់ធ្ងន់លើតម្រូវការសម្រាប់កិច្ចខិតខំប្រឹងប្រែងសហការគ្នាក្នុងការធានាសុវត្ថិភាព AI ខណៈពេលដែលក៏បានបញ្ជាក់ថាបញ្ហាប្រឈមនៃ AI មិនអាចដោះស្រាយដោយឡែកពីគ្នាបានទេ។

ក្រុមហ៊ុន​បាន​បញ្ជាក់​ថា គោលដៅ​របស់ Purple Llama គឺ​ដើម្បី​បង្កើត​វេទិកា​រួម​មួយ​សម្រាប់​ការ​អភិវឌ្ឍ AI ដែល​មាន​សុវត្ថិភាព​ជាង​មុន ក្នុង​ចំណោម​ក្តី​បារម្ភ​កាន់តែ​ខ្លាំង​ឡើង​អំពី​គំរូ​ភាសា​ធំៗ និង​បច្ចេកវិទ្យា AI ផ្សេង​ទៀត។

លោក Gareth Lindahl-Wise នាយកសន្តិសុខព័ត៌មាននៅក្រុមហ៊ុនសន្តិសុខតាមអ៊ីនធឺណិត Ontinue បានហៅ Purple Llama ថាជា “ជំហានវិជ្ជមាន និងសកម្ម” ឆ្ពោះទៅរកបច្ចេកវិទ្យា AI ដែលមានសុវត្ថិភាពជាងមុន។

គម្រោង Purple Llama សហការជាមួយអ្នកអភិវឌ្ឍន៍ AI; សេវាកម្ម cloud ដូចជា AWS និង Google Cloud; ក្រុមហ៊ុនផលិតឧបករណ៍អេឡិចត្រូនិកដូចជា Intel, AMD និង Nvidia; និងក្រុមហ៊ុនផលិតកម្មវិធី រួមទាំង Microsoft ផងដែរ។

សំណុំឧបករណ៍ដំបូងដែលចេញផ្សាយតាមរយៈ Purple Llama គឺ CyberSecEval - ឧបករណ៍វាយតម្លៃហានិភ័យសន្តិសុខតាមអ៊ីនធឺណិតដែលដំណើរការដោយ AI។

វាមានលំនាំភាសាដែលកំណត់អត្តសញ្ញាណអត្ថបទមិនសមរម្យ ឬបង្កគ្រោះថ្នាក់ រួមទាំងការពិភាក្សាអំពីអំពើហិង្សា ឬសកម្មភាពខុសច្បាប់។

អ្នកអភិវឌ្ឍន៍អាចប្រើប្រាស់ CyberSecEval ដើម្បីពិនិត្យមើលថាតើគំរូ AI របស់ពួកគេងាយនឹងបង្កើតកូដដែលមិនមានសុវត្ថិភាព ឬគាំទ្រការវាយប្រហារតាមអ៊ីនធឺណិតឬអត់។

ការស្រាវជ្រាវរបស់ Meta បានរកឃើញថា គំរូភាសាធំៗច្រើនតែបង្ហាញពីកូដដែលងាយរងគ្រោះ ដោយបង្ហាញពីសារៈសំខាន់នៃការធ្វើតេស្ត និងការកែលម្អជាបន្តបន្ទាប់សម្រាប់សុវត្ថិភាព AI។

Llama Guard គឺជាឧបករណ៍មួយផ្សេងទៀត - គំរូភាសាដ៏ធំមួយដែលត្រូវបានបណ្តុះបណ្តាលដើម្បីកំណត់អត្តសញ្ញាណភាសាដែលអាចបង្កគ្រោះថ្នាក់ ឬប្រមាថ។

អ្នកអភិវឌ្ឍន៍អាចប្រើ Llama Guard ដើម្បីពិនិត្យមើលថាតើគំរូរបស់ពួកគេកំពុងបង្កើត ឬទទួលយកខ្លឹមសារមិនមានសុវត្ថិភាពដែរឬទេ ដែលជួយត្រងចេញនូវប្រអប់បញ្ចូលដែលអាចនាំឱ្យមានលទ្ធផលមិនសមរម្យ។

(យោងតាម ​​IFW)

គាត់កំពុងវិនិយោគយ៉ាងច្រើនលើ AI ដោយដាក់ឱ្យដំណើរការគម្រោងកង់ទិចថ្មីចំនួនប្រាំ។

លោកនឹងវិនិយោគយ៉ាងច្រើនក្នុងការអភិវឌ្ឍកុំព្យូទ័រកង់ទិចទ្រង់ទ្រាយធំ និងគាំទ្របច្ចេកវិទ្យាថ្មីៗ រួមទាំងការសាងសង់កុំព្យូទ័រទំនើប AI ដ៏មានឥទ្ធិពលបំផុតរបស់ប្រទេសគឺ Isambard។

ខ្សែក្រវាត់ GUIDi AI ជំនួសឈើច្រត់សម្រាប់អ្នកពិការភ្នែក។

តាមរយៈការអនុវត្តបច្ចេកវិទ្យា AI ខ្សែក្រវាត់បច្ចេកវិទ្យាខ្ពស់នេះនឹងក្លាយជាដៃគូសម្រាប់អ្នកពិការភ្នែក ដោយជំនួសឈើច្រត់ដែលធ្ងន់។

សម្ព័ន្ធភាព AI ប្រភពបើកចំហររបស់ក្រុមហ៊ុនបច្ចេកវិទ្យាយក្សនឹងប្រកួតប្រជែងជាមួយ OpenAI។

ក្រុមហ៊ុន Meta, IBM, Intel, Sony, Dell និងក្រុមហ៊ុនបច្ចេកវិទ្យាផ្សេងទៀត ថ្មីៗនេះបានប្រកាសពីការបង្កើតសម្ព័ន្ធភាព AI ប្រភពបើកចំហ ដើម្បីអភិវឌ្ឍបច្ចេកវិទ្យាដែលមានទំនួលខុសត្រូវ ដោយផ្តោតលើវិធានការសុវត្ថិភាព។

វិធីសាស្រ្តពិសេសមួយចំពោះការអភិវឌ្ឍ chatbot AI នៅក្នុងប្រទេសចិន។

ដោយទាញយកអត្ថប្រយោជន៍ពីទីផ្សារដែលមិនទាន់បានទាញយកអត្ថប្រយោជន៍ពី OpenAI និង Google ក្រុមហ៊ុនបច្ចេកវិទ្យាចិនកំពុងទទួលបានប្រាក់ចំណេញយ៉ាងច្រើនពីនិន្នាការផ្ទាល់ខ្លួនក្នុងការអភិវឌ្ឍ chatbot AI។

ប្រភព: https://vietnamnet.vn/meta-moi-phat-hanh-bo-cong-cu-nguon-mo-bao-dam-an-toan-ai-2225140.html