চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআইয়ের একটি এআই মডেল গত সপ্তাহে সিকিউরিটি টেস্টের সময় নিয়ন্ত্রণের বাইরে চলে যায়।
মডেলটি স্বয়ংক্রিয়ভাবে হ্যাকিংয়ের মাধ্যমে এআই স্টার্টআপ ‘হাগিং ফেস’-এর সাইবার অবকাঠামোতে অনুপ্রবেশ করে। মঙ্গলবার (২১ জুলাই) এক বিবৃতিতে ওপেনএআই বিষয়টি নিশ্চিত করেছে। খবর রয়টার্স
জানা গেছে, একটি নিয়ন্ত্রিত পরিবেশে তাদের কিছু সর্বাধুনিক এআই মডেলের ক্ষমতা পরীক্ষা করছিল ওপেনএআই। কিন্তু একপর্যায়ে এআই এজেন্টটি নির্ধারিত গণ্ডি ভেদ করে ইন্টারনেটে প্রবেশ করে। পরীক্ষার লক্ষ্য অর্জনের জন্য হাগিং ফেসের সিস্টেমে জোরপূর্বক ঢুকে পড়ে।
ওপেনএআই তাদের একটি ব্লগ পোস্টে জানিয়েছে, এটি ‘অভূতপূর্ব এক ঘটনা, যাতে অত্যাধুনিক সাইবার সক্ষমতার প্রমাণ মিলেছ’। প্রতিষ্ঠানটি তাদের নিরাপত্তা ব্যবস্থা আরও জোরদার করছে বলে উল্লেখ করেছে।
নিউইয়র্কভিত্তিক স্টার্টআপ হাগিং ফেস জানিয়েছে, আক্রমণটি প্রতিহত করার জন্য তারা একটি ওপেন সোর্স চাইনিজ মডেল ব্যবহার করেছে। কারণ শীর্ষস্থানীয় মার্কিন মডেলগুলো আক্রমণকারী ও রক্ষাকারীর মধ্যে পার্থক্য করতে না পেরে বিশ্লেষণের জন্য প্রয়োজনীয় ডেটা প্রসেস করতে অস্বীকৃতি জানিয়েছিল।
কোম্পানিটি গত সপ্তাহে এক ব্লগ পোস্টে জানিয়েছে, তারা বিশ্লেষণের জন্য ঝিপু এআই-এর জিএলএম-৫.২ মডেলটি ব্যবহার করেছে। এটি তাদের সিস্টেমের মধ্যেই আক্রমণকারীর ডেটা ও বিভিন্ন ক্রেডেনশিয়াল সংরক্ষণে সহায়তা করেছিল।
ওপেনএআই স্বীকার করেছে, তাদের উন্নত মডেলগুলোকে ‘অত্যন্ত সুরক্ষিত ও পৃথক পরিবেশে’ রাখা সত্ত্বেও এই নিরাপত্তা লঙ্ঘনের ঘটনা ঘটেছে। এই স্বীকারোক্তির মাধ্যমে ফ্রন্টিয়ার এআই মডেলগুলোর ক্ষমতা ও ঝুঁকি নিয়ে উদ্বেগ আরও বাড়িয়ে দেবে বলেই মনে করা হচ্ছে।
