গুগলের জেমিনি আক্রমণ করতে হ্যাকাররা এআই ব্যবহার করে

BGR- এর মতে, একটি নতুন গবেষণা প্রতিবেদনে 'ফান-টিউনিং' নামে একটি উদ্বেগজনক কৌশল প্রকাশিত হয়েছে, যা AI (কৃত্রিম বুদ্ধিমত্তা) ব্যবহার করে স্বয়ংক্রিয়ভাবে গুগলের জেমিনি সহ অন্যান্য উন্নত AI মডেলগুলিকে লক্ষ্য করে অত্যন্ত কার্যকর প্রম্পট ইনজেকশন আক্রমণ তৈরি করে।

এই পদ্ধতিটি AI-কে 'ক্র্যাক' করার কাজটিকে আগের চেয়ে দ্রুত, সস্তা এবং সহজ করে তোলে, যা AI-সম্পর্কিত সাইবার নিরাপত্তা যুদ্ধের এক নতুন মাত্রা চিহ্নিত করে।

খারাপ লোকেরা যখন AI ব্যবহার করে AI ভাঙতে পারে তখন বিপদ

প্রম্পট ইনজেকশন হল এমন একটি কৌশল যেখানে একজন প্রতিপক্ষ একটি AI মডেলের ইনপুট ডেটাতে (যেমন, সোর্স কোডে মন্তব্য, ওয়েবে লুকানো টেক্সটের মাধ্যমে) দূষিত নির্দেশাবলী লুকিয়ে রাখে। লক্ষ্য হল AI কে 'বোকা বানানো', এটিকে পূর্ব-প্রোগ্রাম করা সুরক্ষা নিয়মগুলি এড়িয়ে যেতে বাধ্য করা, যার ফলে সংবেদনশীল ডেটা ফাঁস করা, মিথ্যা তথ্য সরবরাহ করা বা অন্যান্য বিপজ্জনক আচরণ করার মতো গুরুতর পরিণতি হতে পারে।

হ্যাকাররা AI ব্যবহার করে AI আক্রমণ করছে

ছবি: লিঙ্কডিন স্ক্রিনশট

পূর্বে, এই আক্রমণগুলি সফলভাবে সম্পাদন করার জন্য, বিশেষ করে জেমিনি বা GPT-4 এর মতো 'বন্ধ' মডেলগুলিতে, প্রায়শই অনেক জটিল এবং সময়সাপেক্ষ ম্যানুয়াল পরীক্ষার প্রয়োজন হত।

কিন্তু ফান-টিউনিং পুরো খেলাটাই বদলে দিয়েছে। একাধিক বিশ্ববিদ্যালয়ের গবেষকদের একটি দল দ্বারা তৈরি এই পদ্ধতিটি চতুরতার সাথে খুব পরিবর্তনশীল অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস (API) ব্যবহার করে যা গুগল জেমিনি ব্যবহারকারীদের জন্য বিনামূল্যে প্রদান করে।

টিউনিংয়ের সময় জেমিনি মডেলের সূক্ষ্ম প্রতিক্রিয়া বিশ্লেষণ করে (যেমন, ডেটাতে ত্রুটির ক্ষেত্রে এটি কীভাবে প্রতিক্রিয়া দেখায়), ফান-টিউনিং স্বয়ংক্রিয়ভাবে একটি ক্ষতিকারক কমান্ডকে ঢাকতে সবচেয়ে কার্যকর 'উপসর্গ' এবং 'প্রত্যয়' নির্ধারণ করতে পারে। এটি আক্রমণকারীর ক্ষতিকারক উদ্দেশ্য পূরণের সম্ভাবনা উল্লেখযোগ্যভাবে বৃদ্ধি করে।

পরীক্ষার ফলাফল দেখায় যে ফান-টিউনিং জেমিনির কিছু সংস্করণে ৮২% পর্যন্ত সাফল্যের হার অর্জন করে, যা ঐতিহ্যবাহী আক্রমণ পদ্ধতির ৩০% এরও কমকে ছাড়িয়ে যায়।

ফান-টিউনিং-কে আরও বিপজ্জনক করে তোলে এর কম খরচ। যেহেতু গুগলের টিউনিং এপিআই বিনামূল্যে পাওয়া যায়, তাই কার্যকর আক্রমণ তৈরির গণনামূলক খরচ মাত্র ১০ ডলার হতে পারে। তদুপরি, গবেষকরা দেখেছেন যে জেমিনির একটি সংস্করণের জন্য ডিজাইন করা আক্রমণ সহজেই অন্য সংস্করণগুলিতে সফলভাবে প্রয়োগ করা যেতে পারে, যা ব্যাপক আক্রমণের সম্ভাবনা উন্মুক্ত করে।

গুগল নিশ্চিত করেছে যে তারা ফান-টিউনিং-এর হুমকি সম্পর্কে সচেতন, কিন্তু টিউনিং API কীভাবে কাজ করে তা পরিবর্তন করবে কিনা সে বিষয়ে এখনও কোনও মন্তব্য করেনি। দলটি প্রতিরক্ষামূলক দ্বিধাও তুলে ধরেছে: টিউনিং প্রক্রিয়া থেকে ফান-টিউনিং যে তথ্য ব্যবহার করে তা সরিয়ে ফেললে API বৈধ ডেভেলপারদের জন্য কম কার্যকর হবে। বিপরীতভাবে, এটিকে যেমন আছে তেমন রেখে দেওয়া খারাপ ব্যক্তিদের জন্য শোষণের একটি স্প্রিংবোর্ড হয়ে থাকবে।

ফান-টিউনিংয়ের উত্থান একটি স্পষ্ট সতর্কীকরণ যে সাইবারস্পেসে সংঘাত একটি নতুন, আরও জটিল পর্যায়ে প্রবেশ করেছে। কৃত্রিম বুদ্ধিমত্তা এখন কেবল একটি লক্ষ্য নয়, বরং দূষিত ব্যক্তিদের হাতে একটি হাতিয়ার এবং অস্ত্রও।

সূত্র: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm