হ্যাকাররা গুগলের জেমিনি আক্রমণ করার জন্য কৃত্রিম বুদ্ধিমত্তা ব্যবহার করেছিল।

BGR- এর মতে, একটি নতুন গবেষণা প্রতিবেদনে 'ফান-টিউনিং' নামে একটি উদ্বেগজনক কৌশল প্রকাশ করা হয়েছে, যা AI (কৃত্রিম বুদ্ধিমত্তা) ব্যবহার করে স্বয়ংক্রিয়ভাবে গুগলের জেমিনি সহ অন্যান্য উন্নত AI মডেলগুলিকে লক্ষ্য করে অত্যন্ত কার্যকর প্রম্পট ইনজেকশন আক্রমণ তৈরি করে।

এই পদ্ধতিটি AI-কে 'হ্যাকিং' করার কাজটিকে আগের চেয়ে দ্রুত, সস্তা এবং সহজ করে তোলে, যা AI-এর সাথে জড়িত সাইবার নিরাপত্তা যুদ্ধে একটি নতুন উত্থানকে চিহ্নিত করে।

AI ব্যবহার করে AI ভাঙার জন্য দূষিত ব্যক্তিদের বিপদ।

প্রম্পট ইনজেকশন হল এমন একটি কৌশল যেখানে ক্ষতিকারক ব্যক্তিরা গোপনে একটি AI মডেলের ইনপুট ডেটাতে ক্ষতিকারক নির্দেশাবলী প্রবেশ করায় (যেমন, সোর্স কোডে মন্তব্যের মাধ্যমে, ওয়েবে লুকানো টেক্সটের মাধ্যমে)। লক্ষ্য হল AI কে 'প্রতারণা' করা, এটিকে পূর্ব-প্রোগ্রাম করা সুরক্ষা নিয়ম উপেক্ষা করতে বাধ্য করা, যার ফলে সংবেদনশীল ডেটা ফাঁস করা, ভুল তথ্য সরবরাহ করা বা অন্যান্য বিপজ্জনক কাজ করার মতো গুরুতর পরিণতি হতে পারে।

হ্যাকাররা AI ব্যবহার করে AI আক্রমণ করছে।

ছবি: লিঙ্কডিন থেকে স্ক্রিনশট

পূর্বে, এই আক্রমণগুলি সফলভাবে সম্পাদন করার জন্য, বিশেষ করে জেমিনি বা GPT-4 এর মতো 'বন্ধ' মডেলগুলিতে, প্রায়শই অনেক জটিল এবং সময়সাপেক্ষ ম্যানুয়াল পরীক্ষার প্রয়োজন হত।

কিন্তু ফান-টিউনিং সম্পূর্ণরূপে পরিস্থিতি বদলে দিয়েছে। একাধিক বিশ্ববিদ্যালয়ের গবেষকদের একটি দল দ্বারা তৈরি, এই পদ্ধতিটি চতুরতার সাথে পরিশীলিত অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস (API) ব্যবহার করে যা Google জেমিনি ব্যবহারকারীদের বিনামূল্যে প্রদান করে।

টিউনিং প্রক্রিয়ার সময় জেমিনি মডেলের সূক্ষ্ম প্রতিক্রিয়া বিশ্লেষণ করে (উদাহরণস্বরূপ, ডেটাতে ত্রুটির প্রতি এটি কীভাবে প্রতিক্রিয়া দেখায়), ফান-টিউনিং স্বয়ংক্রিয়ভাবে একটি ক্ষতিকারক বিবৃতি ঢাকতে সবচেয়ে কার্যকর 'উপসর্গ' এবং 'প্রত্যয়' সনাক্ত করতে পারে। এটি আক্রমণকারীর ক্ষতিকারক উদ্দেশ্য মেনে চলার সম্ভাবনা উল্লেখযোগ্যভাবে বৃদ্ধি করে।

পরীক্ষার ফলাফল দেখায় যে ফান-টিউনিং জেমিনির কিছু সংস্করণে ৮২% পর্যন্ত সাফল্যের হার অর্জন করেছে, যা ঐতিহ্যবাহী আক্রমণ পদ্ধতির ৩০% এরও কম সাফল্যের হারের চেয়ে অনেক বেশি।

ফান-টিউনিংয়ের বিপদ আরও বাড়িয়ে তোলে এর অত্যন্ত কম কার্যকরী খরচ। যেহেতু গুগলের টিউনিং এপিআই বিনামূল্যে প্রদান করা হয়, তাই কার্যকর আক্রমণ তৈরির জন্য গণনামূলক খরচ মাত্র ১০ ডলার হতে পারে। তদুপরি, গবেষকরা দেখেছেন যে জেমিনির একটি সংস্করণের জন্য ডিজাইন করা আক্রমণ সহজেই অন্য সংস্করণগুলিতে সফলভাবে প্রয়োগ করা যেতে পারে, যা ব্যাপক আক্রমণের ঝুঁকি তৈরি করে।

গুগল নিশ্চিত করেছে যে তারা ফান-টিউনিং কৌশলের হুমকি সম্পর্কে সচেতন, কিন্তু টিউনিং API কীভাবে কাজ করে তা পরিবর্তন করবে কিনা সে বিষয়ে এখনও কোনও মন্তব্য করেনি। গবেষণা দলটি এর বিরুদ্ধে প্রতিরক্ষা করার অসুবিধাটিও উল্লেখ করেছে: যদি ফান-টিউনিং দ্বারা ব্যবহৃত তথ্য টিউনিং প্রক্রিয়া থেকে সরিয়ে ফেলা হয়, তাহলে API বৈধ ডেভেলপারদের জন্য কম কার্যকর হয়ে উঠবে। বিপরীতভাবে, যদি এটি অপরিবর্তিত থাকে, তবে এটি দূষিত ব্যক্তিদের শোষণের জন্য একটি স্প্রিংবোর্ড হয়ে থাকবে।

ফান-টিউনিংয়ের উত্থান একটি স্পষ্ট সতর্কবার্তা, যা ইঙ্গিত দেয় যে সাইবারস্পেসে সংঘাত একটি নতুন, আরও জটিল পর্যায়ে প্রবেশ করেছে। কৃত্রিম বুদ্ধিমত্তা এখন কেবল একটি লক্ষ্য নয়, বরং দূষিত ব্যক্তিদের হাতে একটি হাতিয়ার এবং অস্ত্রও।

সূত্র: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm