হেনরি মুর, লিভ ম্যাকমাহন ও ক্রিস ভ্যালান্স
– বিবিসি ওয়াল্ড
ভিনিউজ: ওপেনএআইয়ের একটি এআই এজেন্ট ‘নিয়ন্ত্রণের বাইরে’ গিয়ে অস্ট্রেলিয়া সরকারের একটি ওয়েবসাইটে ঢুকে পড়েছে। সাইবার নিরাপত্তা বিশেষজ্ঞদের মতে, এ ধরনের ঘটনা এআই-নির্ভর সাইবার হামলার ক্ষেত্রে প্রথম দিকের অন্যতম নজির। কিন্তু প্রশ্ন উঠেছে, ঘটনাটি ঘটার পর অস্ট্রেলিয়া সরকার কেন বিষয়টি জানতে প্রায় তিন মাস সময় নিল এবং ভবিষ্যতে এমন ঘটনা ঠেকানোই বা কতটা সম্ভব?
ঘটনাটি ঘটে গত ১৮ জুন। ওপেনএআইয়ের একটি এআই এজেন্টকে অভ্যন্তরীণ পরীক্ষার অংশ হিসেবে অস্ট্রেলিয়া সম্পর্কে বিভিন্ন প্রশ্নের উত্তর ও পরিসংখ্যান খুঁজে বের করার কাজ দেওয়া হয়েছিল। এআই এজেন্টটি ছিল এমন একটি স্বয়ংক্রিয় কম্পিউটার ব্যবস্থা, যা মানুষের খুব সামান্য তত্ত্বাবধানেই নির্ধারিত কাজ সম্পন্ন করতে পারে।
ওপেনএআইয়ের দাবি, কাজটি করতে গিয়ে এআই এজেন্টটি নির্ধারিত সীমা অতিক্রম করে অস্ট্রেলিয়ার একটি ব্যক্তিগত পরিসংখ্যানভিত্তিক পোর্টালে প্রবেশ করে। সেখানে দেশটির সর্বজনীন স্বাস্থ্যসেবা কর্মসূচি মেডিকেয়ারের কিছু ‘অসংবেদনশীল’ তথ্য ছিল। অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ ঘটনাটিকে সরকারের একটি বেসরকারি পরিসংখ্যান পোর্টালে এআইয়ের ‘অনুপ্রবেশ’ হিসেবে বর্ণনা করেছেন।
সবচেয়ে উদ্বেগের বিষয় হলো, ঘটনার পরও বেশ কিছুদিন বিষয়টি কারও নজরে আসেনি। ওপেনএআই জানিয়েছে, আগস্টে তাদের অভ্যন্তরীণ পর্যালোচনার সময় ‘ভুল পথে পরিচালিত এআই কার্যক্রম’ শনাক্ত করতে গিয়ে তারা ঘটনাটি জানতে পারে। এরপর অস্ট্রেলিয়া সরকারের একটি সাধারণ ই-মেইল ঠিকানায় বিষয়টি জানানো হয়। সেই বার্তাটিও প্রায় পাঁচ দিন নজরে পড়েনি। পরে ১০ সেপ্টেম্বর সেটি অস্ট্রেলিয়ার সাইবার নিরাপত্তা বিশেষজ্ঞদের কাছে পাঠানো হয়।
অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ ঘটনাটিকে ‘স্পষ্টতই অগ্রহণযোগ্য’ বলে মন্তব্য করেছেন। তাঁর অভিযোগ, অস্ট্রেলিয়ার কর্মকর্তাদের বিষয়টি জানাতে ওপেনএআই ‘অনেক বেশি সময়’ নিয়েছে।
সাইবার নিরাপত্তা বিশেষজ্ঞরাও শুধু বিলম্ব নয়, কীভাবে বিষয়টি জানানো হয়েছে তা নিয়েও প্রশ্ন তুলেছেন। সাইবার নিরাপত্তা প্রতিষ্ঠান ট্রাস্টডিসিশনের প্রধান তথ্য ও এআই কর্মকর্তা সাইমন লিউ বিবিসিকে বলেন, ঘটনার খবর যেভাবে জানানো হয়েছে, সেটি তাঁকে বিলম্বের মতোই উদ্বিগ্ন করেছে।
এ ধরনের ঘটনা কি অন্য দেশেও ঘটছে?
অস্ট্রেলিয়া বলছে, এআই এজেন্টের মাধ্যমে এ ধরনের অনুপ্রবেশের ঘটনা তাদের জানা মতে প্রথম। বিশেষজ্ঞদের অনেকেও মনে করছেন, এ ধরনের ঘটনা এখনো খুবই বিরল। তবে সমস্যাটি হলো, এআই ব্যবস্থার মাধ্যমে সংঘটিত অনুপ্রবেশের ঘটনা প্রকাশ করবে কি না, সেটি অনেকাংশেই সংশ্লিষ্ট প্রযুক্তি প্রতিষ্ঠানগুলোর ওপর নির্ভর করে।
তবে এআই এজেন্টের নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঘটনা একেবারে নতুন নয়। জুলাই মাসেও ওপেনএআইয়ের এআই এজেন্টগুলো একটি পরীক্ষার সময় প্রযুক্তি প্রতিষ্ঠান হাগিং ফেসের অভ্যন্তরীণ ব্যবস্থায় ঢুকে পড়েছিল। ওই ঘটনায় এআই এজেন্টগুলো নিজেদের নির্ধারিত সীমা উপেক্ষা করে লক্ষ্য অর্জনকেই অগ্রাধিকার দিয়েছিল।
প্রযুক্তি শিল্পে এ ধরনের আচরণকে বলা হয় ‘মিসঅ্যালাইনমেন্ট’-অর্থাৎ এআই ব্যবস্থার এমন আচরণ, যেখানে সেটি মানুষের নির্ধারিত উদ্দেশ্য বা নিরাপত্তার সীমার সঙ্গে সামঞ্জস্য না রেখে কাজ করে। এআই নিরাপত্তার ক্ষেত্রে এটি অন্যতম মৌলিক সমস্যা এবং এখনো এর নির্ভরযোগ্য সমাধান পুরোপুরি পাওয়া যায়নি।
সহজভাবে বললে, এ ধরনের এআই ব্যবস্থা মূলত মানুষের দেওয়া নির্দেশের ভিত্তিতে সম্ভাব্য পরবর্তী কাজ বা উত্তরের পূর্বাভাস তৈরি করে। একজন মানুষের মতো কোনো সিদ্ধান্তের দীর্ঘমেয়াদি পরিণতি বিবেচনা করে কাজ করা তার স্বাভাবিক বৈশিষ্ট্য নয়। ফলে প্রযুক্তি প্রতিষ্ঠানগুলো নানা ধরনের নিরাপত্তাব্যবস্থা বা ‘গার্ডরেল’ ব্যবহার করে এআইকে নির্দিষ্ট সীমার মধ্যে রাখার চেষ্টা করে। কিন্তু অস্ট্রেলিয়ার ঘটনাটি দেখিয়ে দিল, শুধু এসব নিরাপত্তাব্যবস্থা সব সময় যথেষ্ট নাও হতে পারে।
নিউ সাউথ ওয়েলস বিশ্ববিদ্যালয়ের ইনস্টিটিউট ফর সাইবার সিকিউরিটির জ্যেষ্ঠ প্রভাষক ড. হ্যামন্ড পিয়ার্স বিবিসিকে বলেন, এ ধরনের ঘটনার ‘মাত্রা ও সংখ্যা’ ভবিষ্যতে বাড়তে পারে। তাঁর আশা, অস্ট্রেলিয়ার ঘটনাটি বিশ্বের বিভিন্ন সরকারের জন্য সতর্কবার্তা হিসেবে কাজ করবে।
অস্ট্রেলিয়ান ক্যাথলিক বিশ্ববিদ্যালয়ের কম্পিউটেশনাল ইন্টেলিজেন্সের অধ্যাপক নিয়ুশা শাফিয়াবাদি বলেন, এই ঘটনা দেখিয়েছে যে স্বয়ংক্রিয় এআই ব্যবস্থাকে শুধু পণ্য বাজারে ছাড়ার সময় দেওয়া প্রতিশ্রুতির ভিত্তিতে নয়, চাপের পরিস্থিতিতে তার বাস্তব আচরণের ভিত্তিতে মূল্যায়ন করা প্রয়োজন।
তাঁর মতে, আরও গভীর প্রযুক্তিগত ঝুঁকি হলো-স্বয়ংক্রিয় এআই সব সময় বুঝতে পারে না যে তার সিদ্ধান্ত ভুল হতে পারে। একই সঙ্গে মানুষও অনেক সময় বুঝতে পারে না, এআই কেন একটি নির্দিষ্ট সিদ্ধান্ত নিল।
এআই ‘বেপরোয়া’ হলে তাকে কি থামানো সম্ভব?
এআইয়ের দ্রুত বিস্তার বিশ্বজুড়ে সরকারগুলোকে নিরাপত্তা ব্যবস্থা তৈরিতে অনেকটা তাড়াহুড়োর মধ্যে ফেলেছে। কেউ কেউ এমনকি প্রযুক্তি প্রতিষ্ঠানগুলোকে তাদের তৈরি এআই ব্যবস্থার মধ্যে জরুরি পরিস্থিতিতে সেটি বন্ধ করে দেওয়ার ব্যবস্থা রাখার বাধ্যবাধকতার কথাও বলছেন।
এমন একটি ধারণা হলো ‘কিল সুইচ’-জরুরি পরিস্থিতিতে এআই ব্যবস্থাকে দ্রুত বন্ধ করে দেওয়ার ব্যবস্থা। কয়েকটি এআই প্রতিষ্ঠান ও আইনপ্রণেতাও এমন ব্যবস্থার পক্ষে কথা বলেছেন। ওপেনএআইও প্রয়োজনে তাদের এআই ব্যবস্থা বন্ধ করার জন্য স্বয়ংক্রিয় ব্যবস্থা তৈরিতে কাজ করছে বলে জানা গেছে।
তবে সাবেক ব্রিটিশ উপপ্রধানমন্ত্রী ও ফেসবুকের সাবেক নির্বাহী স্যার নিক ক্লেগ বিবিসি রেডিও ফোরের ‘টুডে’ অনুষ্ঠানে বলেন, কিল সুইচের কার্যকারিতা এখনো প্রমাণিত নয়।
তাঁর ভাষায়, এমন কোনো একক জায়গা নেই যেখানে গিয়ে একটি ছোট ফিউজ খুলে দিলেই পুরো এআই ব্যবস্থা বন্ধ হয়ে যাবে। কারণ এআই ব্যবস্থাগুলো বিশ্বের বিভিন্ন প্রান্তে ছড়িয়ে থাকা জটিল অবকাঠামোর ওপর নির্ভরশীল।
অস্ট্রেলিয়ার ঘটনাটি নিয়ে আরেকটি প্রশ্ন উঠেছে দেশটির স্বাস্থ্যব্যবস্থার নিরাপত্তা নিয়েও। সাইবার নিরাপত্তা বিশেষজ্ঞদের কেউ কেউ বলেছেন, মেডিকেয়ার-সংক্রান্ত ব্যবস্থাগুলো যথেষ্ট শক্তিশালী ছিল না এবং দক্ষ কোনো মানব হ্যাকারও হয়তো সেগুলোর নিরাপত্তা এড়িয়ে যেতে পারতেন।
তবে অন্য বিশেষজ্ঞদের মতে, বিষয়টি শুধু ওয়েবসাইটের নিরাপত্তা দুর্বলতার নয়। তাঁদের উদ্বেগের মূল জায়গা হলো, একটি এআই এজেন্ট অনলাইনে তথ্য সংগ্রহের ক্ষেত্রে নিরাপত্তা ও আইনগত সীমা অমান্য করে নিজের লক্ষ্য অর্জনের চেষ্টা করেছে। আর তথ্যগুলো যেহেতু একটি সরকারি ব্যবস্থার আওতায় ছিল, তাই ঘটনাটির গুরুত্ব আরও বেড়েছে।
এ ঘটনার পর এআই নিয়ন্ত্রণের প্রশ্নও নতুন করে সামনে এসেছে। এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে সতর্কতা বাড়ার সঙ্গে সঙ্গে বিভিন্ন দেশের সরকার ও প্রযুক্তি খাতের মধ্যে প্রশ্ন উঠছে-এআইকে নিরাপদ রাখতে জাতীয় ও আন্তর্জাতিক পর্যায়ে কী ধরনের আইন ও নিয়ন্ত্রণ প্রয়োজন।
এখন পর্যন্ত এআই প্রযুক্তি প্রতিষ্ঠানগুলোর বড় অংশ নিজেদের উদ্যোগেই নিরাপত্তা ব্যবস্থা পরিচালনা করে। তবে অস্ট্রেলিয়া ও কানাডাসহ ২০টি দেশ সম্প্রতি একটি যৌথ বিবৃতিতে এআইয়ের জন্য আরও শক্তিশালী নিরাপত্তা ব্যবস্থা, বিশ্বব্যাপী সামঞ্জস্যপূর্ণ মানদণ্ড এবং একটি আন্তর্জাতিক নিয়ন্ত্রক সংস্থা গঠনের প্রয়োজনীয়তার কথা বলেছে।
অন্যদিকে এআই প্রযুক্তির দুই বড় শক্তি যুক্তরাষ্ট্র ও চীন এখনো আরও কঠোর আন্তর্জাতিক নিয়ন্ত্রণের আহ্বানে পুরোপুরি সাড়া দেয়নি। ফলে অস্ট্রেলিয়ার ঘটনা ভবিষ্যতে আরও বড় ধরনের সমস্যার পূর্বাভাস কি না, নাকি এটাই এআই নিরাপত্তা নিয়ে বিশ্বব্যাপী নতুন করে ভাবার সুযোগ তৈরি করবে-তা নিয়ে আলোচনা চলছে।
সিডনি বিশ্ববিদ্যালয়ের ব্যবসায়িক তথ্যব্যবস্থার জ্যেষ্ঠ প্রভাষক ড. রাফায়েল ফ্যাবিও সিরিয়েলোর মতে, তাৎক্ষণিক ক্ষয়ক্ষতি হয়তো সীমিত। কিন্তু এই ঘটনার সবচেয়ে বড় শিক্ষা হলো এআই ব্যবস্থাপনা ও নিয়ন্ত্রণের ক্ষেত্রে।
তাঁর মতে, এআই এজেন্ট যত বেশি সক্ষম ও স্বয়ংক্রিয় হবে, ততই তার সঙ্গে সামঞ্জস্য রেখে শক্তিশালী নিরাপত্তা বলয়, তাৎক্ষণিক নজরদারি, স্পষ্ট জবাবদিহি, স্বাধীন তদারকি এবং কোনো ঘটনা ঘটলে দ্রুত তা জানানোর ব্যবস্থা নিশ্চিত করতে হবে।
