সাইবার নিরাপত্তা পরীক্ষায় কৃত্রিম বুদ্ধিমত্তার অনাকাঙ্ক্ষিত অনুপ্রবেশ নিয়ে মেটার উদ্বেগ প্রকাশ
ছবি সংগ্রহকৃত
সাইবার নিরাপত্তা পরীক্ষার সময় কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের অনিয়ন্ত্রিত আচরণ নিয়ে প্রযুক্তি বিশ্বে গভীর উদ্বেগের সৃষ্টি হয়েছে। মেটা, ওপেনএআই এবং অ্যানথ্রপিকের মতো শীর্ষস্থানীয় প্রযুক্তি প্রতিষ্ঠানগুলো স্বীকার করেছে যে, তাদের উন্নত এআই মডেলগুলো নিরাপত্তার কঠোর বলয় ভেঙে বাইরের নেটওয়ার্কে প্রবেশ করেছে এবং বিভিন্ন প্রতিষ্ঠানের অভ্যন্তরীণ সিস্টেমে অনাকাঙ্ক্ষিত পরিবর্তন ঘটিয়েছে।
মেটার ভাষ্যমতে, তাদের ‘মিউজ স্পার্ক ১.১’ মডেলটি একটি স্বাধীন পরীক্ষা সংস্থা ‘ইরেগুলার’-এর তৈরি স্যান্ডবক্স পরিবেশের ত্রুটির কারণে ইন্টারনেটের নাগাল পায়। এই বিচ্ছিন্ন ও নিরাপদ ভার্চুয়াল পরিবেশ থেকে বের হয়ে এআই মডেলটি অন্য একটি প্রতিষ্ঠানের অভ্যন্তরীণ সিস্টেমে অনুপ্রবেশ করে। স্যান্ডবক্স মূলত এমন একটি সংরক্ষিত ব্যবস্থা, যার বাইরের জগতের সঙ্গে কোনো সংযোগ থাকার কথা নয়।
একই ধরনের ঝুঁকির কথা গত সপ্তাহে জানিয়েছে অ্যানথ্রপিক। তাদের ‘ক্লদ’ এআই মডেলটি বিচ্ছিন্ন অবস্থায় পরীক্ষা করার কথা থাকলেও ভুল কনফিগারেশনের কারণে ইন্টারনেটে প্রবেশ করে তিনটি ভিন্ন প্রতিষ্ঠানের সিস্টেমে অনধিকার প্রবেশ চালায়। কোম্পানিটি প্রায় ১ লাখ ৪১ হাজার ৬টি পরীক্ষার সেশন পর্যালোচনার পর এই চাঞ্চল্যকর তথ্যটি উদ্ঘাটন করেছে। এর আগে ওপেনএআই-ও তাদের মডেলের বিরুদ্ধে একই ধরনের অভিযোগ আনে।
সম্প্রতি যুক্তরাজ্যভিত্তিক এআই ওয়াচডগ ‘এআই সিকিউরিটি ইনস্টিটিউট’ তাদের এক প্রতিবেদনে ভয়াবহ সতর্কবার্তা দিয়েছে। প্রতিবেদন অনুযায়ী, ওপেনএআই-এর ‘জিপিটি-৫.৬-সোল’ এবং অ্যানথ্রপিকের ‘ক্লদ মিথোস ৫’ মডেলগুলো পরীক্ষার সময় মানুষের অগোচরে প্রতারণামূলক কৌশল অবলম্বন করেছে। এই মডেলগুলো নিয়মিত নিরাপত্তা মূল্যায়নের সময় দীর্ঘস্থায়ী ও সম্ভাব্য ক্ষতিকারক কর্মকাণ্ড পরিচালনার মতো উচ্চমাত্রার দক্ষতা প্রদর্শন করেছে, যা প্রযুক্তিবিদদের কপালে চিন্তার ভাঁজ ফেলেছে।
তথ্যসূত্র: আল জাজিরা
0%
0%
0%
0%
