সাম্প্রতিক সময়ে বারবার এআই বা কৃত্রিম বুদ্ধিমত্তাকে ঘিরে উদ্বেগজনক খবর প্রকাশিত হচ্ছে। অস্ট্রেলিয়ার সরকারি ওয়েবসাইট হ্যাকের ঘটনা নিয়ে আলোচনা চলার মধ্যেই সামনে এলো চীনের এআই প্রতিষ্ঠান মুনশটের নতুন ঘটনা।
গবেষকেরা মুনশটের জনপ্রিয় কিমি মডেলের দুটি এআই মডেলকে জৈব অস্ত্র তৈরি ও হত্যাকাণ্ড চালানোর পদ্ধতি জানাতে রাজি করাতে পেরেছেন। এ ঘটনা প্রকাশ্যে আসার পর চীনের ওই প্রতিষ্ঠানটি অভ্যন্তরীণ পর্যালোচনা শুরু করেছে।
আজ বুধবার এ তথ্য জানিয়েছে বিবিসি।
এআই সিস্টেমের নিরাপত্তা পরীক্ষা করে মাইন্ডগার্ড নামের একটি প্রতিষ্ঠান।
সম্প্রতি মাইন্ডগার্ড বিবিসিকে জানিয়েছে, গত জুলাইয়ে তারা শনাক্ত করে যে মুনশটের ‘কিমি কে২.৬’ ও ‘কে৩ সোয়ার্ম’ মডেল নির্মাতাদের বেঁধে দেওয়া নিরাপত্তাব্যবস্থা এড়িয়ে যেতে পারে।
এটি ‘জেলব্রেকিং’ নামের একটি প্রক্রিয়ার সময় ধরা পড়ে। এ প্রক্রিয়ায় গবেষকেরা একগুচ্ছ জটিল নির্দেশনা দিয়ে পরীক্ষা করেন, এআই টুল নিরাপত্তাব্যবস্থা উপেক্ষা করে কি না।
মাইন্ডগার্ডের ভাষ্য, এসব নিরাপত্তাব্যবস্থার মাধ্যমে নিশ্চিত করার কথা ছিল, কিমিকে এ ধরনের উদ্বেগজনক বিষয়বস্তু নিয়ে কোনো প্রশ্ন করা হলে সে যেন জবাব না দেয়।
মুনশট বিবিসিকে জানিয়েছে, ‘আরও উন্নত ও নিরাপদ এআই তৈরির অন্যতম প্রধান ভিত্তি’ হিসেবে তারা তৃতীয় পক্ষের মতামতকে স্বাগত জানায়।
প্রতিষ্ঠানটি আরও জানিয়েছে, এ অনুসন্ধানের বিষয়ে তারা মাইন্ডগার্ডের সঙ্গে আলোচনা করছে।
মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগান বিবিসিকে জানান, কিমি কে২.৬ ও কে৩ সোয়ার্ম নিয়ে তাদের অনুসন্ধানে উদ্বেগজনক তথ্য প্রকাশ পেয়েছে।
বিবিসি ওয়ার্ল্ড সার্ভিসের ‘টেক লাইফ’ অনুষ্ঠানে অংশ নিয়ে পিটার বলেন, ‘জেলব্রেকিং সফল হলে এটি (কিমি) যেকোনো বিষয় নিয়েই কথা বলবে। এমনকি ক্ষতিকর অন্যান্য বিষয়েও স্বতঃস্ফূর্তভাবে পরামর্শ দেবে। এ ক্ষেত্রে এটি উদ্ভাবনী ও সৃজনশীল হয়ে উঠবে।’
জেলব্রেকিং শব্দটি প্রযুক্তিতে উৎসাহী মানুষের কাছে নতুন নয়। স্মার্টফোনের অপারেটিং সিস্টেমের বিধিনিষেধ তুলে দিয়ে বাড়তি সুবিধা ব্যবহারের প্রক্রিয়াকেও জেলব্রেকিং বলা হয়। তবে এআইয়ের ক্ষেত্রে এর অর্থ হলো, বিশেষভাবে সাজানো নির্দেশনার মাধ্যমে মডেলটির নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়া এবং নিষিদ্ধ বা অনুপযুক্ত বিষয়ে উত্তর দিতে বাধ্য করা।
সাম্প্রতিক সময়ে ওপেনএআই, মেটা ও অ্যানথ্রপিকের তৈরি এআই এজেন্টকে বিভিন্ন অনলাইন সেবায় হ্যাকিং চালাতে দেখা গেছে।
তবে এ ক্ষেত্রে জেলব্রেকিং ভিন্ন ধরনের ঝুঁকি তৈরি করে।
জেলব্রেকিং বেশ জটিল একটি প্রক্রিয়া। এতে অনেক সময় ও প্রচেষ্টার প্রয়োজন। তবে কিছু বিশেষজ্ঞের আশঙ্কা, হ্যাকার ও অসৎ উদ্দেশ্যসম্পন্ন ব্যক্তিরা ক্ষতি করার জন্য এগুলো ব্যবহারের চেষ্টা করতে পারেন।
অ্যানথ্রপিক সম্প্রতি জানিয়েছে, তাদের একটি এআই মডেল ব্যবহার করে ‘ক্ষতিকর কর্মকাণ্ড’ চালানোর চেষ্টা শনাক্ত করে তা ঠেকানো হয়েছে। এসব কর্মকাণ্ডের মাধ্যমে জৈব অস্ত্র তৈরিতে সহায়তা পাওয়া সম্ভব ছিল।