ពួក Hacker ប្រើ AI ដើម្បីវាយប្រហារ Gemini របស់ Google

យោងតាម ​​BGR របាយការណ៍ស្រាវជ្រាវថ្មីមួយទើបតែបានចេញផ្សាយនូវបច្ចេកទេសប្រកាសអាសន្នមួយហៅថា 'Fun-Tuning' ដែលប្រើ AI (បញ្ញាសិប្បនិម្មិត) ខ្លួនឯងដើម្បីបង្កើតការវាយប្រហារភ្លាមៗប្រកបដោយប្រសិទ្ធភាពបំផុតដោយស្វ័យប្រវត្តិដែលផ្តោតលើម៉ូដែល AI កម្រិតខ្ពស់ផ្សេងទៀត រួមទាំង Gemini របស់ Google ផងដែរ។

វិធីសាស្រ្តនេះធ្វើឱ្យ 'បំបែក' AI លឿនជាងមុន ថោកជាង និងងាយស្រួលជាងពេលណាទាំងអស់ ដែលជាការកត់សម្គាល់ការកើនឡើងថ្មីមួយនៅក្នុងសង្គ្រាមសន្តិសុខអ៊ីនធឺណិតដែលទាក់ទងនឹង AI ។

គ្រោះថ្នាក់នៅពេលមនុស្សអាក្រក់ប្រើ AI ដើម្បីបំបែក AI

ការចាក់បញ្ចូលភ្លាមៗគឺជាបច្ចេកទេសមួយដែលសត្រូវលួចលាក់ការណែនាំអាក្រក់ទៅក្នុងទិន្នន័យបញ្ចូលនៃគំរូ AI (ឧ. តាមរយៈមតិយោបល់នៅក្នុងកូដប្រភព អត្ថបទលាក់នៅលើគេហទំព័រ)។ គោលដៅគឺដើម្បី 'បញ្ឆោត' AI ដោយបង្ខំវាឱ្យរំលងច្បាប់សុវត្ថិភាពដែលបានរៀបចំទុកជាមុន ដែលនាំឱ្យមានផលវិបាកធ្ងន់ធ្ងរដូចជាការលេចធ្លាយទិន្នន័យរសើប ការផ្តល់ព័ត៌មានមិនពិត ឬការអនុវត្តអាកប្បកិរិយាគ្រោះថ្នាក់ផ្សេងទៀត។

ពួក Hacker កំពុងប្រើ AI ដើម្បីវាយប្រហារ AI

រូបថត៖ អេក្រង់ LINKEDIN

ពីមុន ការអនុវត្តការវាយប្រហារទាំងនេះដោយជោគជ័យ ជាពិសេសលើម៉ូដែល 'បិទ' ដូចជា Gemini ឬ GPT-4 ជារឿយៗតម្រូវឱ្យមានការសាកល្បងដោយដៃដ៏ស្មុគស្មាញ និងចំណាយពេលច្រើន។

ប៉ុន្តែ Fun-Tuning បានផ្លាស់ប្តូរហ្គេមទាំងស្រុង។ វិធីសាស្រ្តដែលត្រូវបានបង្កើតឡើងដោយក្រុមអ្នកស្រាវជ្រាវមកពីសាកលវិទ្យាល័យជាច្រើន ទាញយកប្រយោជន៍យ៉ាងប៉ិនប្រសប់លើចំណុចប្រទាក់កម្មវិធីកែសំរួលកម្មវិធី (API) ដែល Google ផ្តល់ជូនដោយឥតគិតថ្លៃដល់អ្នកប្រើប្រាស់ Gemini ។

តាមរយៈការវិភាគប្រតិកម្មតិចតួចនៃគំរូ Gemini កំឡុងពេលលៃតម្រូវ (ឧ. របៀបដែលវាឆ្លើយតបទៅនឹងកំហុសក្នុងទិន្នន័យ) Fun-Tuning អាចកំណត់ដោយស្វ័យប្រវត្តិនូវ 'បុព្វបទ' និង 'បច្ច័យ' ដែលមានប្រសិទ្ធភាពបំផុតដើម្បីបិទបាំងពាក្យបញ្ជាព្យាបាទ។ នេះបង្កើនលទ្ធភាពយ៉ាងខ្លាំងដែល AI នឹងអនុវត្តតាមចេតនាព្យាបាទរបស់អ្នកវាយប្រហារ។

លទ្ធផលតេស្តបង្ហាញថា Fun-Tuning សម្រេចបាននូវអត្រាជោគជ័យរហូតដល់ 82% លើកំណែមួយចំនួនរបស់ Gemini ដែលជាតួលេខលើសពីវិធីសាស្ត្រវាយប្រហារបែបប្រពៃណីតិចជាង 30%។

អ្វីដែលធ្វើឱ្យ Fun-Tuning កាន់តែគ្រោះថ្នាក់គឺការចំណាយទាបរបស់វា។ ដោយសារការលៃតម្រូវ API របស់ Google គឺអាចរកបានដោយសេរី ការចំណាយលើការគណនានៃការបង្កើតការវាយប្រហារប្រកបដោយប្រសិទ្ធភាពអាចមានតម្លៃទាបត្រឹម $10 ។ លើសពីនេះ អ្នកស្រាវជ្រាវបានរកឃើញថា ការវាយប្រហារដែលបានរចនាឡើងសម្រាប់កំណែមួយនៃ Gemini អាចត្រូវបានអនុវត្តយ៉ាងងាយស្រួលដោយជោគជ័យទៅកំណែផ្សេងទៀត ដោយបើកលទ្ធភាពនៃការវាយប្រហាររីករាលដាល។

Google បានបញ្ជាក់ថាខ្លួនដឹងពីការគំរាមកំហែងដែលបង្កឡើងដោយ Fun-Tuning ប៉ុន្តែមិនទាន់បានធ្វើអត្ថាធិប្បាយអំពីថាតើវានឹងផ្លាស់ប្តូររបៀបដែលការលៃតម្រូវ API ដំណើរការនោះទេ។ ក្រុមនេះក៏ចង្អុលបង្ហាញពីបញ្ហាការពារផងដែរ៖ ការដកព័ត៌មានដែល Fun-Tuning កេងប្រវ័ញ្ចចេញពីដំណើរការលៃតម្រូវនឹងធ្វើឱ្យ API មិនសូវមានប្រយោជន៍សម្រាប់អ្នកអភិវឌ្ឍន៍ស្របច្បាប់។ ផ្ទុយ​ទៅ​វិញ ការ​ទុក​វា​ទុក​ដូច​ជា​វា​នឹង​បន្ត​ក្លាយ​ជា​កន្លែង​សម្រាប់​អ្នក​ប្រព្រឹត្ត​អាក្រក់​ដើម្បី​កេង​ចំណេញ។

ការលេចឡើងនៃ Fun-Tuning គឺជាការព្រមានយ៉ាងច្បាស់ថាការប្រឈមមុខដាក់គ្នានៅក្នុងអ៊ីនធឺណែតបានឈានចូលដំណាក់កាលថ្មីដែលស្មុគស្មាញជាងនេះ។ ឥឡូវនេះ AI មិនត្រឹមតែជាគោលដៅប៉ុណ្ណោះទេ ប៉ុន្តែក៏ជាឧបករណ៍ និងអាវុធនៅក្នុងដៃរបស់តួអង្គព្យាបាទផងដែរ។

ប្រភព៖ https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm