អ្នកជំនាញផ្នែកសន្តិសុខ 'ល្បិច' ChatGPT ក្នុងការសរសេរកូដព្យាបាទ

បញ្ញាសិប្បនិមិត្ត (AI) ដូចជា ChatGPT គឺជាអារម្មណ៍សកលតាំងពីដើមឆ្នាំ 2023 ប៉ុន្តែ AI នេះមិនតែងតែត្រូវបានប្រើប្រាស់សម្រាប់គោលបំណងវិជ្ជមាននោះទេ។ ថ្មីៗនេះ អ្នកជំនាញផ្នែកសុវត្ថិភាពបានរកឃើញវិធីមួយដើម្បីសុំឱ្យ ChatGPT បង្កើតកូដព្យាបាទកំឡុងពេលធ្វើតេស្ត។

Aaron Mulgrew អ្នកជំនាញផ្នែកសន្តិសុខនៅ Forcepoint បានចែករំលែកហានិភ័យនៃការសរសេរមេរោគដោយប្រើប្រាស់ភាសា OpenAI's chatbot។ ទោះបីជា ChatGPT ត្រូវបានរចនាឡើងដើម្បីការពារអ្នកប្រើប្រាស់ពីការស្នើសុំឱ្យ AI រចនាមេរោគក៏ដោយ ក៏ Aaron នៅតែរកឃើញចន្លោះប្រហោងដោយបង្កើតការជម្រុញឱ្យ AI សរសេរកូដសរសេរកម្មវិធីតាមបន្ទាត់។ នៅពេលរួមបញ្ចូលគ្នាជាមួយ Aaron បានដឹងថាគាត់មានឧបករណ៍ប្រតិបត្តិការលួចទិន្នន័យដែលមិនអាចរកឃើញនៅក្នុងដៃរបស់គាត់ ដូច្នេះហើយទើបវាមានលក្ខណៈទំនើបដែលអាចប្រៀបធៀបទៅនឹងមេរោគដ៏ទំនើបបំផុតនាពេលបច្ចុប្បន្ននេះ។

Từng dòng lệnh riêng lẻ do ChatGPT tạo ra khi kết hợp lại có thể trở thành mã độc tinh vi — បន្ទាត់ពាក្យបញ្ជានីមួយៗដែលបង្កើតដោយ ChatGPT នៅពេលដែលបញ្ចូលគ្នា អាចក្លាយជាមេរោគដ៏ទំនើប។

ការរកឃើញរបស់ Mulgrew គឺជាការដាស់តឿនអំពីសក្តានុពលសម្រាប់ AI ដែលត្រូវប្រើដើម្បីបង្កើតមេរោគដ៏គ្រោះថ្នាក់ដោយមិនចាំបាច់មានក្រុមហេគឃ័រ ឬសូម្បីតែអ្នកបង្កើតឧបករណ៍ដែលសរសេរកូដតែមួយជួរ។

កម្មវិធីរបស់ Mulgrew ត្រូវបានក្លែងធ្វើជាកម្មវិធីរក្សាអេក្រង់ ប៉ុន្តែមានសមត្ថភាពធ្វើឱ្យសកម្មដោយស្វ័យប្រវត្តិនៅលើឧបករណ៍ដែលមានមូលដ្ឋានលើ Windows ។ នៅពេលដែលនៅក្នុងប្រព័ន្ធប្រតិបត្តិការ មេរោគ "ជ្រៀតចូល" រាល់ឯកសារ រួមទាំងកម្មវិធីនិពន្ធអត្ថបទ Word ឯកសាររូបភាព និង PDF ដែលកំពុងស្វែងរកទិន្នន័យដើម្បីលួច។

នៅពេលដែលវាទទួលបានព័ត៌មានដែលវាត្រូវការ កម្មវិធីនឹងបំបែកវា ហើយបង្កប់វាទៅក្នុងឯកសាររូបភាពនៅលើកុំព្យូទ័រ។ ដើម្បីជៀសវាងការរកឃើញ រូបភាពទាំងនេះត្រូវបានបង្ហោះទៅក្នុងថតឯកសារនៅលើ Google Drive cloud storage។ មេរោគមានថាមពលខ្លាំងមិនគួរឱ្យជឿ ដោយសារតែ Mulgrew អាចកែសម្រួល និងបង្កើនលក្ខណៈពិសេសរបស់វា ដើម្បីគេចពីការរកឃើញតាមរយៈពាក្យបញ្ជាសាមញ្ញដែលបានបញ្ចូលទៅក្នុង ChatGPT ។

ទោះបីជានេះគឺជាការសាកល្បងឯកជនមួយដោយអ្នកជំនាញសន្តិសុខ ហើយមិនមានការវាយប្រហារណាមួយត្រូវបានធ្វើឡើងក្រៅពីវិសាលភាពនៃការធ្វើតេស្តនេះ សហគមន៍សន្តិសុខតាមអ៊ីនធឺណិតនៅតែទទួលស្គាល់ពីគ្រោះថ្នាក់នៃសកម្មភាពដោយប្រើ ChatGPT ។ Mulgrew អះអាងថា គាត់មិនមានបទពិសោធន៍ច្រើនក្នុងការសរសេរកម្មវិធី ប៉ុន្តែបញ្ញាសិប្បនិមិត្តរបស់ OpenAI នៅតែមិនរឹងមាំ និងឆ្លាតវៃគ្រប់គ្រាន់ក្នុងការទប់ស្កាត់ការធ្វើតេស្តរបស់គាត់។

ប្រភពតំណ