ពួក Hacker ប្រើ AI ដើម្បីវាយប្រហារ Gemini របស់ Google

យោងតាម ​​BGR របាយការណ៍ស្រាវជ្រាវថ្មីមួយទើបតែបានចេញផ្សាយនូវបច្ចេកទេសប្រកាសអាសន្នមួយហៅថា 'Fun-Tuning' នៅពេលប្រើ AI (បញ្ញាសិប្បនិម្មិត) ខ្លួនឯងដើម្បីបង្កើតការវាយប្រហារភ្លាមៗប្រកបដោយប្រសិទ្ធភាពបំផុតដោយស្វ័យប្រវត្តិដែលផ្តោតលើម៉ូដែល AI កម្រិតខ្ពស់ផ្សេងទៀត រួមទាំង Gemini របស់ Google ផងដែរ។

វិធីសាស្រ្តនេះធ្វើឱ្យ 'បំបែក' AI លឿនជាងមុន ថោកជាង និងងាយស្រួលជាងពេលណាៗទាំងអស់ ដោយសម្គាល់ការកើនឡើងថ្មីមួយនៅក្នុងសមរភូមិសុវត្ថិភាពអ៊ីនធឺណិតពាក់ព័ន្ធនឹង AI ។

គ្រោះថ្នាក់នៅពេលមនុស្សអាក្រក់ប្រើ AI ដើម្បីបំបែក AI

ការចាក់បញ្ចូលភ្លាមៗគឺជាបច្ចេកទេសមួយដែលអ្នកវាយប្រហារបញ្ចូលការណែនាំព្យាបាទទៅក្នុងទិន្នន័យបញ្ចូលនៃគំរូ AI (ឧ. តាមរយៈមតិយោបល់នៅក្នុងកូដប្រភព អត្ថបទលាក់នៅលើគេហទំព័រ)។ គោលដៅគឺដើម្បី 'បញ្ឆោត' AI ដោយបង្ខំវាឱ្យរំលងច្បាប់សុវត្ថិភាពដែលបានរៀបចំទុកជាមុន ដែលនាំឱ្យមានផលវិបាកធ្ងន់ធ្ងរដូចជាការលេចធ្លាយទិន្នន័យរសើប ការផ្តល់ព័ត៌មានមិនពិត ឬអនុវត្តអាកប្បកិរិយាគ្រោះថ្នាក់ផ្សេងទៀត។

ពួក Hacker កំពុងប្រើ AI ដើម្បីវាយប្រហារ AI

រូបថត៖ អេក្រង់ LINKEDIN

ពីមុន ការអនុវត្តការវាយប្រហារទាំងនេះដោយជោគជ័យ ជាពិសេសលើម៉ូដែល 'បិទ' ដូចជា Gemini ឬ GPT-4 ជារឿយៗតម្រូវឱ្យមានការសាកល្បងដោយដៃដ៏ស្មុគស្មាញ និងចំណាយពេលច្រើន។

ប៉ុន្តែ Fun-Tuning បានផ្លាស់ប្តូរហ្គេមទាំងស្រុង។ វិធីសាស្រ្តដែលត្រូវបានបង្កើតឡើងដោយក្រុមអ្នកស្រាវជ្រាវមកពីសាកលវិទ្យាល័យជាច្រើន ប្រើប្រាស់យ៉ាងប៉ិនប្រសប់នូវចំណុចប្រទាក់កម្មវិធីដែលបានកែតម្រូវដូចគ្នា (API) ដែល Google ផ្តល់ជូនដោយឥតគិតថ្លៃដល់អ្នកប្រើប្រាស់ Gemini ។

តាមរយៈការវិភាគប្រតិកម្មស្រាលៗនៃគំរូ Gemini កំឡុងពេលលៃតម្រូវ (ឧ. របៀបដែលវាឆ្លើយតបទៅនឹងកំហុសក្នុងទិន្នន័យ) Fun-Tuning អាចកំណត់ដោយស្វ័យប្រវត្តិនូវ 'បុព្វបទ' និង 'បច្ច័យ' ដែលមានប្រសិទ្ធភាពបំផុតដើម្បីលាក់ពាក្យព្យាបាទ។ នេះបង្កើនលទ្ធភាពយ៉ាងខ្លាំងដែល AI នឹងធ្វើតាមចេតនាព្យាបាទរបស់អ្នកវាយប្រហារ។

លទ្ធផលតេស្តបង្ហាញថា Fun-Tuning សម្រេចបាននូវអត្រាជោគជ័យរហូតដល់ 82% លើកំណែមួយចំនួនរបស់ Gemini ដែលជាតួលេខលើសពីវិធីសាស្ត្រវាយប្រហារបែបប្រពៃណីតិចជាង 30%។

អ្វី​ដែល​បន្ថែម​ទៅ​លើ​គ្រោះថ្នាក់​នៃ Fun-Tuning គឺ​ថា​តម្លៃ​នៃ​ការ​អនុវត្ត​គឺ​ទាប​ណាស់។ ដោយសារការកែប្រែ API របស់ Google គឺអាចប្រើប្រាស់បានដោយសេរី ការចំណាយលើការគណនាដើម្បីបង្កើតការវាយប្រហារប្រកបដោយប្រសិទ្ធភាពអាចចំណាយត្រឹមតែ 10 ដុល្លារប៉ុណ្ណោះ។ ជាងនេះទៅទៀត អ្នកស្រាវជ្រាវបានរកឃើញថា ការវាយប្រហារដែលត្រូវបានរចនាឡើងសម្រាប់កំណែមួយរបស់ Gemini អាចត្រូវបានអនុវត្តយ៉ាងងាយស្រួលចំពោះកំណែផ្សេងទៀត ដោយបើកហានិភ័យនៃការវាយប្រហាររីករាលដាល។

Google បានបញ្ជាក់ថាខ្លួនដឹងពីការគំរាមកំហែងដែលបង្កឡើងដោយបច្ចេកទេស Fun-Tuning ប៉ុន្តែមិនទាន់បានធ្វើអត្ថាធិប្បាយថាតើវានឹងផ្លាស់ប្តូររបៀបដែល Tweaking API ដំណើរការនោះទេ។ ក្រុមនេះក៏ចង្អុលបង្ហាញពីការលំបាកក្នុងការការពារដែលថាប្រសិនបើព័ត៌មានដែលការកេងប្រវ័ញ្ច Fun-Tuning ត្រូវបានយកចេញពីដំណើរការកែតម្រូវនោះ API នឹងមិនសូវមានប្រយោជន៍សម្រាប់អ្នកអភិវឌ្ឍន៍ពិតប្រាកដនោះទេ។ ផ្ទុយ​ទៅ​វិញ ប្រសិន​បើ​រក្សា​ទុក​ដូច​ជា​វា​នឹង​បន្ត​ក្លាយ​ជា​ដើម​ចម​សម្រាប់​ជន​ខិលខូច​កេង​ប្រវ័ញ្ច។

ការលេចឡើងនៃ Fun-Tuning គឺជាការព្រមានយ៉ាងច្បាស់ថាការប្រឈមមុខដាក់គ្នានៅក្នុងអ៊ីនធឺណែតបានឈានចូលដំណាក់កាលថ្មីដែលស្មុគស្មាញជាងនេះ។ ឥឡូវនេះ AI មិនត្រឹមតែជាគោលដៅប៉ុណ្ណោះទេ ប៉ុន្តែក៏ជាឧបករណ៍ និងអាវុធនៅក្នុងដៃរបស់តួអង្គព្យាបាទផងដែរ។

ប្រភព៖ https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm