ពួក Hacker បានប្រើប្រាស់ AI ដើម្បីវាយប្រហារ Gemini របស់ Google។

យោងតាម ​​BGR របាយការណ៍ស្រាវជ្រាវថ្មីមួយទើបតែបានបង្ហាញពីបច្ចេកទេសគួរឱ្យព្រួយបារម្ភមួយហៅថា 'Fun-Tuning' ដែលប្រើ AI (បញ្ញាសិប្បនិម្មិត) ដើម្បីបង្កើតការវាយប្រហារដោយស្វ័យប្រវត្តិដែលមានប្រសិទ្ធភាពខ្ពស់ដោយផ្តោតលើម៉ូដែល AI កម្រិតខ្ពស់ផ្សេងទៀត រួមទាំង Gemini របស់ Google ផងដែរ។

វិធីសាស្ត្រនេះធ្វើឱ្យការ «លួចចូល» បញ្ញាសិប្បនិម្មិត (AI) លឿនជាងមុន ថោកជាង និងងាយស្រួលជាងពេលមុនៗ ដែលជាការកើនឡើងថ្មីមួយនៅក្នុងសមរភូមិសន្តិសុខតាមអ៊ីនធឺណិតដែលពាក់ព័ន្ធនឹងបញ្ញាសិប្បនិម្មិត។

គ្រោះថ្នាក់នៃជនល្មើសដែលមានគំនិតអាក្រក់ប្រើប្រាស់ AI ដើម្បីបំបែក AI។

ការចាក់បញ្ចូលទិន្នន័យរហ័ស (Prompt injection) គឺជាបច្ចេកទេសមួយដែលជនល្មើសដែលមានគំនិតអាក្រក់បញ្ចូលការណែនាំដែលបង្កគ្រោះថ្នាក់ទៅក្នុងទិន្នន័យបញ្ចូលនៃគំរូ AI ដោយលួចលាក់ (ឧទាហរណ៍ តាមរយៈមតិយោបល់នៅក្នុងកូដប្រភព អត្ថបទដែលលាក់នៅលើគេហទំព័រ)។ គោលដៅគឺដើម្បី «បញ្ឆោត» AI ដោយបង្ខំវាឱ្យមិនអើពើនឹងច្បាប់សុវត្ថិភាពដែលបានកំណត់ជាមុន ដែលនាំឱ្យមានផលវិបាកធ្ងន់ធ្ងរដូចជាការលេចធ្លាយទិន្នន័យរសើប ការផ្តល់ព័ត៌មានមិនពិត ឬការអនុវត្តសកម្មភាពគ្រោះថ្នាក់ផ្សេងទៀត។

ពួក Hacker កំពុងប្រើប្រាស់ AI ដើម្បីវាយប្រហារ AI។

រូបថត៖ រូបថតអេក្រង់ពី LINKEDIN

ពីមុន ការអនុវត្តការវាយប្រហារទាំងនេះដោយជោគជ័យ ជាពិសេសលើម៉ូដែល 'បិទ' ដូចជា Gemini ឬ GPT-4 ជារឿយៗតម្រូវឱ្យមានការធ្វើតេស្តដោយដៃដ៏ស្មុគស្មាញ និងចំណាយពេលច្រើន។

ប៉ុន្តែ Fun-Tuning បានផ្លាស់ប្តូរទេសភាពទាំងស្រុង។ បង្កើតឡើងដោយក្រុមអ្នកស្រាវជ្រាវមកពីសាកលវិទ្យាល័យជាច្រើន វិធីសាស្ត្រនេះទាញយកប្រយោជន៍យ៉ាងឆ្លាតវៃពីចំណុចប្រទាក់សរសេរកម្មវិធី (API) ដែល Google ផ្តល់ជូនដោយឥតគិតថ្លៃដល់អ្នកប្រើប្រាស់ Gemini។

តាមរយៈការវិភាគការឆ្លើយតបដ៏ស្រទន់នៃគំរូ Gemini ក្នុងអំឡុងពេលដំណើរការលៃតម្រូវ (ឧទាហរណ៍ របៀបដែលវាឆ្លើយតបទៅនឹងកំហុសនៅក្នុងទិន្នន័យ) Fun-Tuning អាចកំណត់អត្តសញ្ញាណដោយស្វ័យប្រវត្តិនូវ 'បុព្វបទ' និង 'បច្ច័យ' ដែលមានប្រសិទ្ធភាពបំផុត ដើម្បីបិទបាំងសេចក្តីថ្លែងការណ៍ព្យាបាទ។ នេះបង្កើនលទ្ធភាពយ៉ាងខ្លាំងដែល AI នឹងគោរពតាមចេតនាព្យាបាទរបស់អ្នកវាយប្រហារ។

លទ្ធផលតេស្តបង្ហាញថា Fun-Tuning សម្រេចបានអត្រាជោគជ័យរហូតដល់ 82% លើកំណែមួយចំនួនរបស់ Gemini ដែលជាតួលេខខ្ពស់ជាងអត្រាជោគជ័យតិចជាង 30% ដែលសម្រេចបានដោយវិធីសាស្ត្រវាយប្រហារបែបប្រពៃណី។

អ្វីដែលបន្ថែមទៅលើគ្រោះថ្នាក់របស់ Fun-Tuning គឺថ្លៃដើមប្រតិបត្តិទាបបំផុត។ ដោយសារតែ API លៃតម្រូវរបស់ Google ត្រូវបានផ្តល់ជូនដោយឥតគិតថ្លៃ ថ្លៃដើមគណនាដើម្បីបង្កើតការវាយប្រហារដែលមានប្រសិទ្ធភាពអាចទាបដល់ ១០ ដុល្លារ។ លើសពីនេះ អ្នកស្រាវជ្រាវបានរកឃើញថា ការវាយប្រហារដែលត្រូវបានរចនាឡើងសម្រាប់ Gemini កំណែមួយអាចត្រូវបានអនុវត្តដោយជោគជ័យចំពោះកំណែផ្សេងទៀតយ៉ាងងាយស្រួល ដែលបើកហានិភ័យនៃការវាយប្រហារយ៉ាងទូលំទូលាយ។

Google បានបញ្ជាក់ថាខ្លួនបានដឹងអំពីការគំរាមកំហែងដែលបង្កឡើងដោយបច្ចេកទេស Fun-Tuning ប៉ុន្តែមិនទាន់បានធ្វើអត្ថាធិប្បាយលើថាតើវានឹងផ្លាស់ប្តូររបៀបដែល API លៃតម្រូវដំណើរការឬអត់នោះទេ។ ក្រុមស្រាវជ្រាវក៏បានចង្អុលបង្ហាញពីការលំបាកក្នុងការការពារប្រឆាំងនឹងបញ្ហានេះផងដែរ៖ ប្រសិនបើព័ត៌មានដែលត្រូវបានកេងប្រវ័ញ្ចដោយ Fun-Tuning ត្រូវបានដកចេញពីដំណើរការលៃតម្រូវ API នឹងក្លាយទៅជាមិនសូវមានប្រយោជន៍សម្រាប់អ្នកអភិវឌ្ឍន៍ស្របច្បាប់។ ផ្ទុយទៅវិញ ប្រសិនបើវានៅតែមិនផ្លាស់ប្តូរ វានឹងបន្តជាចំណុចចាប់ផ្តើមសម្រាប់ជនអាក្រក់ក្នុងការកេងប្រវ័ញ្ច។

ការលេចចេញនូវ Fun-Tuning គឺជាការព្រមានយ៉ាងច្បាស់មួយ ដែលបង្ហាញថា ការប្រឈមមុខដាក់គ្នានៅក្នុងលំហអ៊ីនធឺណិតបានចូលដល់ដំណាក់កាលថ្មី និងស្មុគស្មាញជាងមុន។ បញ្ញាសិប្បនិម្មិត (AI) ឥឡូវនេះមិនត្រឹមតែជាគោលដៅប៉ុណ្ណោះទេ ប៉ុន្តែវាក៏ជាឧបករណ៍ និងអាវុធនៅក្នុងដៃរបស់ជនល្មើសដែលមានគំនិតអាក្រក់ផងដែរ។

ប្រភព៖ https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm