সাইবার নিরাপত্তা নিয়ে পরীক্ষা চালানোর সময় গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনাই পাসওয়ার্ড অনুমান করে তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। গত শুক্রবার (১৮ সেপ্টেম্বর) গুগলের পক্ষ থেকে এ তথ্য জানিয়েছে বার্তা সংস্থা এএফপি।
এ ঘটনার মধ্য দিয়ে এআই ব্যবহারের মাধ্যমে সাইবার নিরাপত্তা লঙ্ঘনের আরও একটি ঘটনা সামনে এলো। এর ফলে শক্তিশালী এআই মডেলগুলোর নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে।
মার্কিন সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নাল প্রথম এ ঘটনা প্রকাশ করে। তাদের প্রতিবেদনে বলা হয়, গত মে মাসে ঘটনাগুলো ঘটে। তবে গুগল বিষয়টি জানতে পারে জুলাইয়ে।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস এএফপিকে বলেন, নিয়মিত একটি পরীক্ষার সময় জেমিনাই অনলাইনে থাকা বিভিন্ন তথ্য খুঁজে পায়। এরপর পরীক্ষার অংশ বলে মনে হওয়া ওয়েবসাইটগুলোতে প্রবেশের জন্য প্রয়োজনীয় লগইন তথ্য অনুমান করে মডেলটি।
অ্যাডকিনস বলেন, তিনটি ঘটনাতেই জেমিনাই একপর্যায়ে থেমে যায়। তবে কোন তিনটি প্রতিষ্ঠানের সিস্টেমে মডেলটি প্রবেশ করেছিল, সে বিষয়ে তিনি বিস্তারিত জানাননি।
তিনি আরও বলেন, গুগল ওই তিন প্রতিষ্ঠানকে বিষয়টি জানিয়েছে। পাশাপাশি তাদের প্রশিক্ষণ অংশীদারের সঙ্গেও কাজ করা হয়েছে। এরপর পরীক্ষার পদ্ধতিতে প্রয়োজনীয় পরিবর্তন আনা হয়েছে।
এর আগে গত জুলাইয়ে ওপেনএআইয়ের দুটি মডেল নিয়ন্ত্রিত পরিবেশের বাইরে চলে গিয়ে নিজেরাই ইন্টারনেটে প্রবেশ করে এবং এআই প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ সিস্টেমে ঢুকে পড়েছিল।
অ্যানথ্রপিক ও চীনের মুনশট এআইয়ের ক্ষেত্রেও একই ধরনের ঘটনা ঘটেছে। এসব ঘটনার পর এআই প্রতিষ্ঠানগুলো তাদের তৈরি মডেলের ওপর কতটা নিয়ন্ত্রণ রাখতে পারছে, তা নিয়ে উদ্বেগ দেখা দিয়েছে।
এ বিষয়ে অ্যাডকিনস বলেন, এ ধরনের ঘটনা শক্তিশালী এআই মডেলগুলোকে আরও দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষণ দেওয়ার গুরুত্ব তুলে ধরছে।
সূত্র: এএফপি