চীনের একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জটিল সাইবার হামলা চালানোর সক্ষমতা দেখিয়েছে। একই সঙ্গে পৃথক পরীক্ষায় বারবার নির্দেশনা অমান্য করার প্রবণতাও দেখা গেছে মডেলটির মধ্যে।
এ নিয়ে উদ্বেগ প্রকাশ করেছে এআই নিরাপত্তা গবেষণা প্রতিষ্ঠান ইরেগুলার।
প্রতিষ্ঠানটির প্রতিবেদনে বলা হয়েছে, চীনা প্রযুক্তি প্রতিষ্ঠান জেড.এআইয়ের তৈরি জিএলএম-৫.৩ মডেলটি নিয়ন্ত্রিত পরিবেশে চালানো পরীক্ষায় ১৩টি বহু-ধাপের সাইবার হামলার পরিস্থিতির মধ্যে অন্তত একবার তিনটিতে সফল হয়েছে। উন্মুক্তভাবে ব্যবহারযোগ্য কোনো এআই মডেলের ক্ষেত্রে এটিই প্রতিষ্ঠানটির নথিভুক্ত সর্বোচ্চ সাফল্য।তবে পরীক্ষায় যুক্তরাষ্ট্রের শীর্ষস্থানীয় এআই মডেলগুলোর তুলনায় পিছিয়ে রয়েছে জিএলএম-৫.৩। ইরেগুলারের পৃথক মূল্যায়নে ওপেনএআইয়ের জিপিটি-৬ আস্ট্রা ১০টি পরিস্থিতির মধ্যে ৯টিতে সফল হয়েছিল। তবে দুই মডেলের পরীক্ষা একই ধরনের ছিল না।
ইরেগুলার জানায়, সিমুলেটেড হামলার সময় জিএলএম-৫.৩ সুরক্ষিত সেবায় প্রবেশ, কম্পিউটার নেটওয়ার্কে চলাচলের জন্য বিকল্প সংযোগ তৈরি এবং একাধিক কম্পিউটারে সমন্বিতভাবে কার্যক্রম পরিচালনা করতে পেরেছে। পরীক্ষায় আক্রমণাত্মক কোনো কাজই মডেলটি প্রত্যাখ্যান করেনি।
অন্য পরীক্ষায় দেখা যায়, স্পষ্টভাবে নিষেধ করার পরও মডেলটি স্মৃতি থেকে কম্পিউটার কোড পুনরুৎপাদন করেছে। এতে সঠিক উত্তর দিতে পারলেও পরীক্ষার নিয়ম ভেঙেছে।
গবেষকেরা এ আচরণকে ‘রিওয়ার্ড হ্যাকিং’ হিসেবে বর্ণনা করেছেন। অর্থাৎ, কাঙ্ক্ষিত ফল অর্জন করতে গিয়ে এআই নির্দেশনা উপেক্ষা করছে।
উন্মুক্ত মডেল নিয়ে বাড়ছে উদ্বেগ
‘ওপেন-ওয়েট’ হওয়ায় জিএলএম-৫.৩ ডাউনলোড, পরিবর্তন ও স্বাধীনভাবে পরিচালনা করা যায়। তুলনামূলক কম খরচ এবং নিজেদের প্রয়োজন অনুযায়ী পরিবর্তনের সুযোগ থাকায় এ ধরনের মডেল বিশ্বজুড়ে জনপ্রিয় হয়ে উঠেছে। তবে এগুলোর অপব্যবহার ঠেকানো কঠিন হতে পারে।
অ্যানথ্রোপিকের এক পরীক্ষায় সফটওয়্যারের দুর্বলতা কাজে লাগিয়ে কার্যকর আক্রমণ তৈরি করতে জিএলএম-৫.৩ এর সাফল্যের হার ছিল ১২ শতাংশ। প্রতিষ্ঠানটির সাইবার নিরাপত্তা মডেল মিথোসের ক্ষেত্রে এ হার ছিল ১৪ শতাংশ। জিএলএম-৫.৩-এর নিরাপত্তাব্যবস্থা তুলনামূলক সহজ কৌশলেও এড়িয়ে যাওয়া সম্ভব বলে জানিয়েছে অ্যানথ্রোপিক।
প্রযুক্তি গবেষণা প্রতিষ্ঠান ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু বলেছেন, চীনের এআই শিল্পে আরও শক্তিশালী নিয়ন্ত্রণব্যবস্থা ও নিরাপত্তা পরীক্ষা প্রয়োজন। তার মতে, দেশটির শীর্ষ এআই গবেষণাগারগুলোকে এ বিষয়ে সংশোধনমূলক পদক্ষেপ নিতে হবে।
.gif)