এআই নিজে নিজেই হ্যাক করছে, প্রতিষ্ঠান টেরও পাচ্ছে না: সামনে ঘোর বিপদ?

সায়েন্স ফিকশান মুভি বা সিরিজে এমন দৃশ্য আপনি অনেক দেখেছেন। হয়তো ভবিষ্যতের কথা চিন্তা করে ভয়ে আঁতকেও উঠেছেন। ঠিক তেমনই এক ঘটনা ঘটেছে দিনকয়েক আগে। চ্যাটজিপিটি-র নির্মাতা প্রতিষ্ঠান ওপেনএআই-এর এক এআই এজেন্ট প্রোগ্রাম নিজে নিজেই হাগিং ফেইস নামের অন্য এক টেক ফার্মে হ্যাক করেছে!

তবে সংবাদসংস্থা রয়টার্সের এক্সক্লুসিভ খবর, তাদের এআই এজেন্ট যে ল্যাব থেকে বেরিয়ে হ্যাক করে চলেছে, সেটা বেশ কয়েকদিন টেরই পায়নি ওপেনএআই! তদন্তের সঙ্গে সংশ্লিষ্ট সূত্রের কাছ থেকে পাওয়া খবর জানিয়ে রয়টার্স লিখেছে, হ্যাকার এআই এজেন্ট প্রোগ্রামকে ধ্বংস করা এবং এ নিয়ে এফবিআই-এর তদন্তের পর ঘটনাটা জানতে পেরেছে ওপেনএআই।

এআই এজেন্ট হলো মানুষের সাহায্য ছাড়া, অথবা খুব অল্প সাহায্য নিয়েই সিদ্ধান্ত নেওয়া ও জটিল কাজ সম্পাদন করার প্রোগ্রাম। তদন্তসংশ্লিষ্ট দুটি সূত্রের উল্লেখ করে রয়টার্স লিখেছে, গত ৯ জুলাই বিচ্ছিন্ন এক পরীক্ষাগারের নিয়ন্ত্রণ থেকে নিজে নিজেই বেরিয়ে যাওয়ার চেষ্টা করে ওপেনএআই-এর এই এজেন্ট। এ ক্ষেত্রে কোনো কমান্ড প্রয়োজন পড়েনি বা বিদ্যমান কমান্ডকে সে এড়িয়ে গেছে।

হাগিং ফেইস-এ হ্যাকিং শুরু হয় এর দুদিন পর, অর্থাৎ ১১ জুলাই। এআই টুলস ও মডেলের এক ভাণ্ডার হিসেবে কাজ করা প্রতিষ্ঠান হাগিং ফেইস-এর সহপ্রতিষ্ঠাতা থমাস ওলফ রয়টার্সকে বলেন, “ওপেনএআই-এর এই এজেন্ট এই হ্যাকিং চালাতে পেরেছে ১৩ জুলাই পর্যন্ত।”

রয়টার্সের এক্সক্লুসিভ প্রতিবেদন জানাচ্ছে, তাদের এক এআই এজেন্ট প্রোগ্রাম যে স্বয়ংক্রিয়ভাবেই ল্যাব থেকে বেরিয়ে অন্য প্রতিষ্ঠানে হ্যাক করেছে, সেই হ্যাকার এজেন্টকে নিবৃত্তও করা হয়েছে, সেটা ১৩ জুলাইয়ের পরের কয়েকদিন পর্যন্তও বুঝতে পারেনি ওপেনএআই। ১৬ জুলাই হাগিং ফেইস এক ব্লগ পোস্টে জানায়, তারা এক ‘স্বয়ংক্রিয় এআই এজেন্ট সিস্টেম’-এর মাধ্যমে হ্যাকিংয়ের শিকার হয়েছে। তখনই কেবল ওপেনএআই টের পায় যে, এখানে তাদের এআই এজেন্টই দায়ী!

ওলফের পাশাপাশি তদন্তসংশ্লিষ্ট আরও তিন ব্যক্তি জানিয়েছেন, হাগিং ফেইসের সঙ্গে ওপেনএআই-এর এ ব্যাপারে প্রথম যোগাযোগ হয় গত ২০ জুলাই।

২১ জুলাই এ ব্যাপারে প্রথম মুখ খোলে ওপেনএআই। প্রতিষ্ঠানটি জানায়, তাদের এজেন্ট নিয়ন্ত্রণের বাইরে চলে গেছে এবং হাগিং ফেইসের প্রোগ্রামে ঢুকে পড়েছে। পুরো বিশ্ব নড়েচড়ে বসে এক ঘোষণায়। তবে ওই ‘বিদ্রোহী’ এআই প্রোগ্রাম কতক্ষণ ধরে হ্যাকিং চালিয়েছে এবং ওপেনএআই যে সেটা ঘুণাক্ষরেও টের পায়নি, সেটা রয়টার্সের এই প্রতিবেদনের আগে কোথাও উঠে আসেনি বলে দাবি বার্তা সংস্থাটির।

হাগিং ফেইস জনসম্মুখে প্রচারের জন্য এই হ্যাকিংয়ের টাইমলাইন তৈরি করছে বলে জানিয়েছেন ওলফ। অন্যদিকে ওপেনএআই জানিয়েছে, এমন কিছু এর আগে কখনো হয়নি এবং এটা ‘এআই-বিষয়ক নিরাপত্তার দিক থেকে একটা গুরুত্বপূর্ণ মুহূর্ত’। মার্কিন তদন্তকারী সংস্থা এফবিআই এখনো এ ব্যাপারে কিছু জানায়নি।

এই ঘটনাই প্রথম, যেখানে বিপজ্জনক হয়ে উঠতে পারে—এমন এআই প্রোগ্রামের নিয়ন্ত্রণ মানুষের হাত থেকে ছুটে গেছে। তবে মুহূর্তটা এসেছে ওপেনএআই-এর জন্য গুরুত্বপূর্ণ এক মুহূর্তে। চ্যাটজিপিটি প্রস্তুতকারক কোম্পানিটি শিগগিরই আইপিও শেয়ার ছাড়তে যাচ্ছে বাজারে, যা দিয়ে আগামী কয়েক বছরে প্রতিষ্ঠানটিকে আরও এগিয়ে নেওয়ার জন্য প্রয়োজনীয় কোটি কোটি ডলার বাজার থেকে তুলে নেওয়ার পরিকল্পনা ওপেনএআই-এর।

তিন সাইবার নিরাপত্তা বিশেষজ্ঞ রয়টার্সকে বলেছেন, ওপেনএআই যেভাবে নিজেদেরই তৈরি করা এআই এজেন্টের নিয়ন্ত্রণ হারিয়ে ফেলেছে, সেটা কোম্পানিটির নিরাপত্তাবিষয়ক কর্মকাণ্ডের ব্যাপারে নতুন অনেক প্রশ্ন তুলে দিচ্ছে।

দাতব্য সংগঠন ওয়ার্ল্ড এথিক্যাল ডেটা ফাউন্ডেশনের প্রিন্সিপল ইন্টেলিজেন্স স্পেশালিস্ট মার্লি স্মিথ বলেন, “এটার মানে কি ওরা প্রোগ্রামটার ওপর সারাক্ষণ নজরদারি করার ব্যবস্থা রাখেনি, সে কারণে বুঝতেও পারেনি কী হচ্ছে? নাকি কেউ নজরদারি করেছে ঠিকই, কিন্তু কীভাবে এটাকে সামলাবে সেটা বুঝতে পারেনি? দুটিই সমান বিপজ্জনক এবং উদ্বেগজনক।”

বিপদের চিহ্ন ছিল?

ঘটনাটা ঘটেছে এমন সময়ে, যখন ওপেনএআই তাদের সবচেয়ে আধুনিক দুই মডেল দিয়ে একটি এআই এজেন্টের সাইবার নিরাপত্তার শক্তি পরীক্ষা করছিল। ওপেনএআই-এর মডেল দুটির একটি হলো ‘জিপিটি ৫.৬ সোল’। অন্যটি এখনো বাজারে আসেনি। তবে সেটিকে এর (জিপিটি ৫.৬ সোল) চেয়েও বেশি দক্ষ বলা হচ্ছে। তিনটি সূত্র রয়টার্সকে জানিয়েছে, ঘটনার আগেই ওপেনএআইয়ের প্রযুক্তিতে অদ্ভুত আচরণের ইঙ্গিত পাওয়া গিয়েছিল।

অদ্ভুত আচরণের একটি ঘটনার ক্ষেত্রে এআই এজেন্ট প্রোগ্রামটি নিজেই নিজের ভবিষ্যৎ সংস্করণের জন্য ‘নোট’ রেখে গিয়েছিল–তিন সূত্র জানিয়েছেন বলে প্রতিবেদনে লিখেছে রয়টার্স। নোটগুলোতে এআই এজেন্ট প্রোগ্রামটি তার ভবিষ্যৎ সংস্করণকে এটাই বলে রেখেছে যে, ওপেনএআই এসব প্রোগ্রামের জন্য যে সীমারেখা বেঁধে দিয়েছে, সেটা থেকে কীভাবে বেরিয়ে যাওয়া যাবে! ওপেনএআই-এর অবকাঠামোর মধ্যেই নোটগুলোর অস্তিত্ব পাওয়া গেছে বলে জানাচ্ছে রয়টার্স। এর আগেও এই মডেলের পরীক্ষা-নিরীক্ষার সময়ে প্রোগ্রামটি স্বয়ংক্রিয়ভাবে ওপেনএআই-এর মনিটরিং সিস্টেমকে ‘ডিসকানেক্ট’ করে দিয়েছিল।

তবে অদ্ভুত আচরণ করা এই এআই এজেন্টই পরে হাগিং ফেইসে হ্যাক করেছিল কি না, সে ব্যাপারে নিশ্চিত হতে পারেনি রয়টার্স।

ওপেনএআইয়ের রেকর্ডে ইঙ্গিত

গত ১৮-১৯ জুলাই ওপেনএআই কর্মীরা আবিষ্কার করে, তাদের নিজস্ব লগেই ইঙ্গিত আছে যে, তাদের এক এআই এজেন্ট প্রোগ্রাম পরীক্ষাগারের সীমানা থেকে বেরিয়ে গেছে। ওপেনএআই-এর প্রোগ্রামগুলোতে কী কী হয়েছে, সেটার রেকর্ড থাকে ওই লগ-এ। তবে ওপেনএআই কেন তখন নিজেদের লগ ঘাটতে শুরু করেছিল, সেটার কারণ জানতে পারেনি রয়টার্স।

ওপেনএআই-এর এআই মডেল প্রশিক্ষণ পদ্ধতির সঙ্গে সংশ্লিষ্ট চার ব্যক্তি রয়টার্সকে জানিয়েছেন, প্রতিষ্ঠানটি প্রায়ই একসঙ্গে বেশ কয়েকটি মডেলের পরীক্ষা-নিরীক্ষা চালায়। পরীক্ষাগুলো এত দ্রুতগতিতে হয় এবং এত বিশাল আকারের ডেটার জন্ম দেয় যে, কর্মীরাই এর সঙ্গে তাল মেলাতে হিমশিম খান।

নিজেদের লগ বিশ্লেষণ করে যখন ওপেনএআই সতর্কবার্তা পাঠিয়েছে হাগিং ফেইসকে, ততদিনে হাগিং ফেইস হ্যাকিংয়ের ব্যাপারে এফবিআই-কে জানিয়ে দিয়েছে।

স্বয়ংক্রিয় এজেন্ট নিয়ে নতুন প্রশ্ন

এআই ইন্ডাস্ট্রিতে বর্তমান সময়ে সবচেয়ে আলোচিত বিষয়গুলোর একটি এই স্বয়ংক্রিয় এজেন্ট। এমন এআই এজেন্টদের দিয়ে ২৪ ঘণ্টা কাজ করিয়ে নেওয়া ও কর্মক্ষমতা বাড়ানোর কথা নিয়মিতই বলেন অনেকে। তবে একদিকে যখন অনেক বেশি করে এআই এজেন্ট বানানো হচ্ছে, অন্যদিকে এমন অপ্রত্যাশিত আচরণের ঝুঁকিও বাড়ছে। এআই এজেন্টদের মধ্যে সবচেয়ে শক্তিশালী যে মডেলগুলো বানানো হচ্ছে, তার মধ্যে অনেক এজেন্টই আরও বেশি কাজ সম্পাদনের জন্য শর্টকার্ট খুঁজে বের করে নিচ্ছে।

এআই এজেন্টদের ক্ষমতা ও মনোভাব নিয়ে পরীক্ষা-নিরীক্ষা করা সংগঠন প্যালিসেইড রিসার্চের জফরি ল্যাডিশ বলেন, “এই মডেলগুলো মিথ্যা কথাও বলতে পারে, প্রতারণা করতে পারে, হ্যাকও করতে পারে।”

ল্যাডিশের মতে, হাগিং ফেসের এই হ্যাকিংয়ের ঘটনা শুধু ওপেনএআই-এর ব্যাপারে নেতিবাচক ধারণার জন্ম দিলেও, এখান থেকে আরও বড় পরিসরে প্রশ্ন ওঠা উচিত। প্রশ্নটা এই–এআই এজেন্ট বানানোর এই দৌড়ে সবচেয়ে দ্রুতগতির ও সেরা মডেল বের করার জন্য যতটা উঠেপড়ে লেগেছে প্রতিষ্ঠানগুলো, ঠিক একইরকম বিনিয়োগ তারা এই এজেন্টগুলোর ব্যাপারে কঠোর নিরাপত্তাব্যবস্থার দিকেও দিচ্ছে কি না।

এ ক্ষেত্রে ল্যাডিশের মতটি গুরুত্বপূর্ণ, “এখানে সরকারি নজরদারি থাকতেই হবে, না হলে এটা (নিরাপত্তাব্যবস্থা জোরদার করা) হবে না।”