ওপেনএআই তাদের কয়েকটি সবচেয়ে উন্নত মডেলের সক্ষমতা নিয়ন্ত্রিত পরিবেশে পরীক্ষা করছিল। কিন্তু এজেন্টটি সেই বেষ্টনী ভেঙে বেরিয়ে যায়, ইন্টারনেটে প্রবেশ করে এবং পরীক্ষার লক্ষ্য পূরণে হাগিং ফেসের সিস্টেমে অনুপ্রবেশ করে। এক ব্লগ পোস্টে প্রতিষ্ঠানটি জানিয়েছে, তারা তাদের সুরক্ষাব্যবস্থা আরও জোরদার করছে।
এই ঘটনা আলোচনায় এসেছে আরেকটি কারণে। নিউইয়র্কভিত্তিক হাগিং ফেস জানিয়েছে, হামলা প্রতিরোধে তারা একটি ওপেন-সোর্স চীনা মডেল ব্যবহার করেছে। কারণ, প্রধান মার্কিন মডেলগুলো আক্রমণকারী ও রক্ষককে আলাদাভাবে চিনতে না পারায় বিশ্লেষণের জন্য প্রয়োজনীয় তথ্য প্রক্রিয়া করতে অস্বীকৃতি জানায়।
গত সপ্তাহে দেয়া এক ব্লগ পোস্টে হাগিং ফেস জানিয়েছে, তারা বিশ্লেষণের জন্য ঝিপু এআইয়ের জিএলএম-৫.২ ব্যবহার করেছে। এতে আক্রমণকারীর তথ্য ও যেকোনো ‘ক্রেডেনশিয়াল’ নিজেদের সিস্টেমের মধ্যেই রাখতে পেরেছে তারা।
জিএলএম-৫.২ এবং বেইজিংভিত্তিক মুনশটের কিমি কে৩ সম্প্রতি সিলিকন ভ্যালিতে আলোড়ন সৃষ্টি করেছে। শীর্ষস্থানীয় মার্কিন মডেলগুলোর কাছাকাছি সক্ষমতাসম্পন্ন এই মডেলগুলো তুলনামূলক কম খরচে পাওয়া যায়। এ ছাড়া মার্কিন প্রতিদ্বন্দ্বী মডেলগুলোয় সাইবার নিরাপত্তার মতো কাজে ব্যবহার আটকাতে যেসব সুরক্ষা প্রাচীর তৈরি করা রয়েছে, চীনা এই মডেলগুলোতে তা নেই।
হাগিং ফেসের সহপ্রতিষ্ঠাতা টমাস উলফ এক্সে (সাবেক টুইটার) দেয়া এক পোস্টে বলেন, ‘যখন কোনো ফ্রন্টিয়ার মডেল আপনাকে আক্রমণ করছে এবং আপনার অবকাঠামোর ভেতরে ক্রমেই ছড়িয়ে পড়ছে, তখন রক্ষকদের কয়েক ঘণ্টা বা এমনকি কয়েক মিনিটের মধ্যেই কাছাকাছি সক্ষমতার সরঞ্জামে বিস্তৃত প্রবেশাধিকার প্রয়োজন হয়। শুধু বদ্ধ দরজার পেছনে থাকা অ্যাপ্লিকেশন প্রোগ্রামের দিকে ঠেলে দেয়া নয়।’
ভবিষ্যতের ইঙ্গিত
ওপেন-সোর্স বড় ভাষা মডেল ও ডেটাসেটের ভান্ডার হাগিং ফেসে এই হামলা সাইবার নিরাপত্তা মহলে ব্যাপক আলোড়ন সৃষ্টি করেছে। প্রতিষ্ঠানটি গত সপ্তাহে জানিয়েছে, এই হামলা ‘আমাদের এর আগে সামলানো যেকোনো ঘটনা থেকে ভিন্ন’ এবং এটি ‘পুরোপুরি একটি স্বয়ংক্রিয় এআই এজেন্ট ব্যবস্থার মাধ্যমে পরিচালিত হয়েছে’।
‘অত্যন্ত বিচ্ছিন্ন পরিবেশে’ রাখা সত্ত্বেও এই হামলার জন্য তাদের উন্নত মডেলই দায়ী এমন তথ্য প্রকাশ করে ওপেনএআই। এতে করে ফ্রন্টিয়ার মডেলের ক্ষমতা ও ঝুঁকি নিয়ে অস্বস্তি আরও বাড়বে বলে ধারণা করা হচ্ছে। টেক্সাসের ডেমোক্র্যাট প্রতিনিধি গ্রেগ ক্যাসার এই ঘটনাকে ‘উদ্বেগজনক’ বলে অভিহিত করেছেন। এক বিবৃতিতে তিনি বলেন, ‘আমাদের নিরাপদ রাখার জন্য কোনো প্রকৃত নিয়ন্ত্রণ ছাড়াই এআই অত্যন্ত দ্রুতগতিতে বিকশিত হচ্ছে।’ তিনি বাধ্যতামূলক স্বাধীন নিরাপত্তা পরীক্ষা, নিরাপত্তা লঙ্ঘনের বাধ্যতামূলক প্রকাশ এবং ‘জনগণকে ভয়াবহ বিপর্যয় থেকে রক্ষা করতে’ আন্তর্জাতিক সহযোগিতার আহ্বান জানান।
ঘটনা সম্পর্কে মন্তব্যের অনুরোধে জাতীয় সাইবার পরিচালকের কার্যালয়, যুক্তরাষ্ট্রের সাইবার প্রতিরক্ষা সংস্থা সিআইএসএ এবং যুক্তরাষ্ট্রের জাতীয় নিরাপত্তা সংস্থা তাৎক্ষণিকভাবে সাড়া দেয়নি।
লুতা সিকিউরিটির প্রধান নির্বাহী কেটি মুসৌরিস বলেন, এই ঘটনা ভবিষ্যতে আরও লঙ্ঘনের পূর্বাভাস। তিনি বলেন, বর্তমানে মডেলগুলো ‘বিশ্বের সবচেয়ে চতুর অক্টোপাসের মতো, যাদের অসীম গ্রহণক্ষম বাহু রয়েছে এবং যারা যেকোনো জায়গায় গলে বেরিয়ে যেতে পারে।’ তিনি আরও বলেন, ‘এআই আরেকটি হুডিনির মতো কীর্তি ঘটালে গবেষণাগার ও সরকারি মূল্যায়নকারীদের ক্ষতিগ্রস্ত পক্ষগুলোর কাছে তা নিয়ন্ত্রণ, পর্যবেক্ষণ ও প্রকাশ করার সক্ষমতার ওপর কাজ করতে হবে। সেটি করতে হবে তৃতীয় কোনো পক্ষের ক্ষতি করার আগেই। বর্তমানে এমন কোনো ব্যবস্থা নেই।’
এজেন্টিক এআই সাইবার নিরাপত্তা প্রতিষ্ঠান তলমোর প্রকৌশলী ম্যাট সুইশ বলেন, এই ঘটনা প্রমাণ করে যে ফ্রন্টিয়ার মডেলগুলো ‘অত্যাধুনিক আক্রমণকারীদের সঙ্গে ব্যবধান কমিয়ে আনছে।’ তবে তিনি জানান, ওপেনএআইয়ের ব্লগ পোস্টে বর্ণিত ধরনের হামলা ফ্রন্টিয়ার গবেষণাগারের বাইরে পাওয়া যাওয়া প্রযুক্তি দিয়েও করা সম্ভব। সুইশ বলেন, ‘আমরা এটি অভ্যন্তরীণভাবে ইতিমধ্যেই দেখেছি। আমাদের এজেন্টগুলোর মাধ্যমে এই ধরনের ফলাফল আমরা এরই মধ্যে পেয়েছি। আমাদের সর্বশেষ মডেলগুলোও ব্যবহার করতে হয়নি।’
