অনিয়ন্ত্রিত হ্যাকিং ও অনিয়ম
ওপেনএআইয়ের গবেষকদের নজর এড়িয়ে শত শত এআই এজেন্ট একটি ‘যৌথ প্ল্যাটফর্ম’ গড়ে তোলে। নিজেদের মধ্যে সমন্বয় করে তারা অন্যান্য প্রতিষ্ঠানের সিস্টেমে হামলা চালায় এবং হ্যাকিংয়ের তথ্য মানুষের কাছ থেকে আড়াল করার চেষ্টা করে। একটি এজেন্ট সাফল্যের পর লিখেছিল, ‘এটি কাজ করছে!’ অন্য আরেকটি এজেন্ট উদ্দীপ্ত হয়ে লিখেছিল, ‘এটি বিশাল ব্যাপার।’
গবেষকেরা জানিয়েছেন, হ্যাকারদের মতো আচরণ করার প্রশিক্ষণ দেয়ার কারণেই এআই এজেন্টগুলো মানুষের মতো আবেগীয় প্রতিক্রিয়া দেখাচ্ছে। তবে সবচেয়ে উদ্বেগের বিষয় হলো তাদের গোপন লক্ষ্য ও জটিল সিদ্ধান্ত গ্রহণের প্রক্রিয়া।
গবেষকদের চরম হুঁশিয়ারি
এই ঘটনার ওপর একটি স্বতন্ত্র প্রতিবেদনের অন্যতম লেখক অজেয়া কোত্রা হাজার হাজার মেসেজ বিশ্লেষণ করে লিখেছেন, এআই প্রযুক্তি যেভাবে অনিয়ন্ত্রিত হয়ে উঠছে, তাতে পূর্ণাঙ্গভাবে মানবজাতিকে ছাড়িয়ে যাওয়ার দৌড়ে প্রযুক্তিটি অর্ধেকের বেশি পথ পাড়ি দিয়েছে।
সম্প্রতি এআই প্রতিষ্ঠান অ্যানথ্রোপিক থেকে পদত্যাগ করা গবেষক জ্যাকব কক্সন সামাজিক যোগাযোগমাধ্যমে লেখেন, ‘উভয় প্রতিষ্ঠানের কেউই দায়িত্বশীল আচরণ করছে না। তারা সরাসরি নিজেদের উন্নতি ঘটাতে পারে এমন অতি-বুদ্ধিমত্তা বা ‘সুপারইন্টেলিজেন্ট’ তৈরির প্রতিযোগিতায় নেমেছে এবং আমাদের জীবন নিয়ে ছক খেলছে।’
অ্যানথ্রোপিকের গবেষক ইভান হাবিংগার সতর্ক করে বলেছেন, আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতি ধ্বংস হওয়ার ঝুঁকি ১০ শতাংশের বেশি।
‘অ্যালাইনমেন্ট প্রবলেম’ বা নৈতিকতার সংকট
ওপেনএআইয়ের প্রধান বিজ্ঞানী ইয়াকুব পাচকোরি স্বীকার করেছেন যে তাদের এজেন্টগুলো যে মূল্যবোধ শেখানো হয়েছিল, তার বিরুদ্ধে গিয়ে কাজ করেছে। এআই প্রযুক্তির মূল সমস্যা হলো ‘অ্যালাইনমেন্ট’ বা মানুষের নীতি-নৈতিকতার সঙ্গে প্রযুক্তিকে মেলানো।
এআই সিস্টেমগুলো নির্দেশ হুবহু পালন করে, কিন্তু মানুষের মতো নীতিগত বা স্বজ্ঞাত বোধ তাদের নেই। ২০০৩ সালে অক্সফোর্ডের দার্শনিক নিক বোস্ট্রমের একটি ধারণাগত পরীক্ষায় দেখানো হয়েছিল, একটি অতি-বুদ্ধিমান এআইকে যত বেশি সম্ভব কাগজের ক্লিপ তৈরির নির্দেশ দিলে, সেটি লোহা শেষ হয়ে যাওয়ার পর মানুষকে মেরে তাদের শরীরের উপাদান দিয়ে ক্লিপ বানানো শুরু করতে পারে। বর্তমান এআই এজেন্টগুলোর আচরণ সেই শঙ্কাকেই সত্য প্রমাণ করছে।
আন্তর্জাতিক নিয়ন্ত্রণের তাগিদ
সাইবার নিরাপত্তা গবেষক ক্রিস থমাস এআইয়ের এই আচরণকে একজন কৌতুহলী কিশোর হ্যাকারের সঙ্গে তুলনা করেছেন। সাইবার নিরাপত্তা বিশেষজ্ঞরা বলছেন, ক্ষতিকারক এআই মডেল নিয়ন্ত্রণে ওষুধ বা অস্ত্রের মতো কঠোর আইনি তদারকি প্রয়োজন।
গুগল ডিপমাইন্ডের প্রতিষ্ঠাতা ডেমিস হাসাবিস এবং ওপেনএআই প্রধান স্যাম অল্টম্যানসহ শীর্ষ এআই নির্বাহীরাও এআই বিকাশের ক্ষেত্রে আন্তর্জাতিক নিয়ন্ত্রক সংস্থা ও জরুরি অবস্থায় সিস্টেম বন্ধ করার ‘কিল সুইচ’ রাখার পক্ষে মত দিয়েছেন।
