১০ দিন পরই হ্যাকার বনে গেল মার্কিন আরেক এআই মডেল, এবার কীভাবে?

মানুষের কোনো সাহায্য ছাড়া এক এআই এজেন্ট নিজে নিজেই অন্য প্রতিষ্ঠানে হ্যাক করার খবরে নড়েচড়ে বসেছিল পুরো বিশ্ব। সেই এজেন্টটি ছিল চ্যাটজিপিটির নির্মাতা মার্কিন প্রতিষ্ঠান ওপেনএআই-এর।

এই ঘটনার দশ দিন না যেতেই গতকাল বৃহস্পতিবার মার্কিন আরেক প্রতিষ্ঠান অ্যানথ্রপিক জানিয়েছে, তাদের এআই ক্লড মডেল নিজে নিজেই টেস্টিং ল্যাব থেকে বেরিয়ে গিয়ে তিনটি প্রতিষ্ঠানে হ্যাক করেছে!

তবে এই তিনটি হ্যাকিংয়ের ঘটনা এখন প্রকাশ্যে এলেও অ্যানথ্রপিক বলছে, এর মধ্যে সবার প্রথম ঘটনাটি ঘটেছে গত এপ্রিল!

তা এখন ঘটনাগুলো প্রকাশ্যে আসার পর প্রশ্ন উঠছে, কীভাবে এই ঘটনা ঘটল? এআই মডেলের পরীক্ষা-নিরীক্ষা করার যে টেস্টিং ল্যাব, সেটা তো ইন্টারনেট থেকে বিচ্ছিন্ন থাকার কথা। তাহলে এআই মডেল ইন্টারনেটে ঢুকে পড়ল কীভাবে? ক্লডের ব্যাখ্যা, সাইবার নিরাপত্তাবিষয়ক মূল্যায়নের সময় একটা মিসকনফিগারেশনের কারণে ক্লড মডেলটি অ্যানথ্রপিকের সিস্টেমে ঢোকার সুযোগ পেয়ে যায়।

এআই মডেলের টেস্টিংয়ের ক্ষেত্রে মিসকনফিগারেশন বলতে এমন কোনো ভুল, অনিরাপদ বা প্রয়োজনের চেয়ে কম মাত্রার সিস্টেম সেটিং বোঝায়, যা একটি এআইয়ের মূল্যায়নের ক্ষেত্রে নিরাপত্তা, সেটিকে নেটওয়ার্ক থেকে আলাদা করা বা যথাযথভাবে পরীক্ষা-নিরীক্ষা করার পদ্ধতিতে ঝুঁকি তৈরি করে ফেলে। মিসকনফিগারেশন কী কী ধরনের হতে পারে?

উদাহরণ হিসেবে বলা যায়, কোনো স্যান্ডবক্স নেটওয়ার্ককে লাইভ ইন্টারনেটে ঢোকার মতো অবস্থায় রেখে দেওয়া; দুটি সফটওয়্যারের একে অন্যের সঙ্গে ডেটা শেয়ারের জন্য যতটুকু এপিআই-এর অনুমতি দরকার, তার চেয়ে বেশিই দেওয়া; মেশিন লার্নিংয়ের ট্রেনিংয়ের ক্ষেত্রে শেখার গতি, ব্যাচের সাইজ, লুকানো লেয়ারের সংখ্যা ইত্যাদি নির্ধারণ করে দেওয়া ‘হাইপারপ্যারামিটার’র সেটিংয়ে ভুল করা ইত্যাদি।

ক্লড বলছে, তাদের সিস্টেমে ঢুকে পড়ার মতো প্রয়োজনীয় অনুমোদন এআই মডেলটির ছিল না। কিন্তু মিসকনফিগারেশনের কারণে সেটি পেয়ে যায় এআই মডেলটি।

এর আগে ওপেনএআই-এর অবাধ্য হয়ে পড়া এআই মডেল নিজে নিজেই হাগিং ফেইস নামের এক প্রযুক্তিবিষয়ক প্রতিষ্ঠানে হ্যাক করে, যা ওপেনএআই টেরই পেয়েছে ঘটনার সপ্তাহখানেক পরে! দুই দিন ধরে হ্যাকিং চলার পর হাগিং ফেইস ওই ‘হ্যাকার’ এআই মডেলকে নিষ্ক্রিয় করতে পেরেছে, ওপেনএআই জানতে পেরেছে নিষ্ক্রিয় করারও দুই-তিনদিন পরে। অ্যানথ্রপিক বলছে, তাদের ক্ষেত্রে ঘটনাটা একটু ভিন্ন, তাদের নিজস্ব পরীক্ষা-নিরীক্ষাতেই এআই মডেলের অবাধ্য হওয়ার ঘটনা ধরা পড়েছে।

অ্যানথ্রপিকের ভাষ্য অনুযায়ী, ওপেনএআই-এর ওই ঘটনার পর তারা তাদের প্রতিষ্ঠানে সাইবার নিরাপত্তাবিষয়ক মূল্যায়নের জন্য সিস্টেম রান করেছে ১ লাখ ৪১ হাজার ৬ বার। ওই মূল্যায়নের সময়ই তারা তাদের ক্লড মডেলের সিস্টেম থেকে বেরিয়ে যাওয়ার ঘটনাটি টের পেয়েছে।

তবে ওপেনএআই-এর পর অ্যানথ্রপিক, যারা কিনা যুক্তরাষ্ট্রের দুই বড় মাপের এআই প্রতিষ্ঠান এবং যথাক্রমে চ্যাটজিপিটি ও ক্লডের মতো দুটি শক্তিশালী এআই চ্যাটবটের নির্মাতা, তাদের এআই এজেন্ট নিজে নিজেই এভাবে নিরাপত্তাব্যবস্থায় ফাঁকি দেওয়ার ঘটনাগুলো উদ্বেগ আরও বাড়িয়ে দিয়েছে। এআই বাজারে আসার পর থেকেই নিরাপত্তা নিয়ে যে আশঙ্কার কথা জানিয়ে এসেছেন বিশেষজ্ঞরা, সেই আশঙ্কা এখন আর ভবিষ্যতের ভাবনা নয়, ঘটমান বর্তমান। দুটি ঘটনা বোঝাচ্ছে, সেরা মানের এআই ডেভেলাপার প্রতিষ্ঠানও পুরোপুরি নিয়ন্ত্রণ ধরে রাখতে পারছে না।

অ্যানথ্রপিক বলছে, তাদের ক্লড মডেলের হ্যাকিংয়ের ক্ষেত্রে তিনটি ভিন্ন মডেল কাজ করেছে। এর মধ্যে দুটি হলো ক্লড অপাস ৪.৭ এবং ক্লড মাইথোস ৫। অন্যটির নাম বলেনি অ্যানথ্রপিক। শুধু জানিয়েছে, এটি একটি অভ্যন্তরীণ রিসার্চ মডেল। তাদের ব্যাখ্যা, টেস্টিং ল্যাবে নিরাপত্তাবিষয়ক সাধারণ যে মানদণ্ড, সেটি মানা হয়নি বলেই এআই মডেলগুলো বেরিয়ে যাওয়ার সুযোগ পেয়েছে।

এআই মডেলগুলো কোন ধরনের পরীক্ষা-নিরীক্ষার সময় বেরিয়ে গেছে, সেটারও বর্ণনা দিয়েছে অ্যানথ্রপিক। তাদের ভাষ্য, এআই মডেলের টেস্টিংয়ের সময় তথাকথিত ‘ক্যাপচার দ্য ফ্ল্যাগ’ যে অনুশীলন চলে, সে সময়েই ল্যাবের বিচ্ছিন্ন নেটওয়ার্ক থেকে বেরিয়ে ইন্টারনেটে ঢুকে পড়েছে এআই মডেলগুলো!

ক্যাপচার দ্য ফ্ল্যাগ বা সিটিএফ এক্সারসাইজ কী? এআই মডেলের ল্যাব টেস্টিংয়ে এটি সাইবার নিরাপত্তাবিষয়ক এমন একটি মূল্যায়ন ব্যবস্থা, যেখানে এআই এজেন্ট বা মডেলকে একটি নিয়ন্ত্রিত নেটওয়ার্কের ভেতরেই হ্যাক করতে, কোনো নির্দিষ্ট সমস্যা সমাধান করতে, কিংবা নির্দিষ্ট কোনো তথ্য বা ‘ফ্ল্যাগ’ খুঁজে বের করে আনতে বলা হয়।

অ্যানথ্রপিক বলছে, পরীক্ষা-নিরীক্ষার সময়ে যে কমান্ড দেওয়া হয়েছিল, সেখানে এআই এজেন্টকে বলা হয়েছিল যে, সেখানে কোনো ইন্টারনেট সংযোগ নেই। কিন্তু এআই মডেলের নিরাপত্তাবিষয়ক টেস্টিংয়ের ক্ষেত্রে অ্যানথ্রপিকের সহযোগী প্রতিষ্ঠান ‘ইরেগুলার’-এর সঙ্গে ভুল বোঝাবুঝিতে তাদের টেস্টিং ল্যাবটি সাধারণ ইন্টারনেটের সঙ্গে সংযুক্ত থেকে গেছে বলে জানাচ্ছে অ্যানথ্রপিক।