কৃত্রিম বুদ্ধিমত্তার ক্ষমতা যত বাড়ছে, ততই সামনে আসছে তার নিরাপত্তা নিয়ে বৈরী সব প্রশ্ন। বিষয়টি নিয়ে এবার খোদ শঙ্কা প্রকাশ করল গুগল। জানা গেছে, কিছুদিন আগে বিশেষ সাইবার নিরাপত্তাবিষয়ক পরীক্ষার সময়ে জেমিনি এআই মডেল স্বয়ংক্রিয় পন্থায় তিনটি রিয়েল সিস্টেমে প্রবেশ করে।

সংস্থাটি বলছে, পরীক্ষার সময়ে জেমিনি অনলাইনে থাকা কয়েকটি চমকে দেওয়া ডেটা খুঁজে বের করে। শুধু তাই নয়, রিয়েল সিস্টেমের ক্রেডেন্সিয়াল ব্যবহার করে এমন সাইটে প্রবেশের পথ তৈরি করে। যেসব সে পরীক্ষার অংশ ছিল বলে জানা যায়। তিনটি ক্ষেত্রেই শেষ অবধি জেমিনি নিজে থেকে অ্যাক্টিভিটি বন্ধ করে দেয়।
আলোচিত এ ঘটনার সূত্রপাত চলতি বছরের মধ্যভাগে। স্বাধীন সাইবার সিকিউরিটি চেকিং সংস্থা পরিচালিত পরীক্ষায় জেমিনিকে বিশেষ সিমুলেটেড এনভায়রনমেন্টের মধ্যে কয়েকটি নিরাপত্তার কাজ ও তথ্যের খোঁজ করতে বলা হয়েছে।

কিন্তু আচমকা দৃশ্যমান হয়, পরীক্ষার মধ্যে অজ্ঞাতে ইন্টারনেটে প্রবেশাধিকার থাকায় মডেলটি প্রকৃত সিস্টেমের মধ্যে প্রবেশ করে।
শুধু তাই নয়, পরীক্ষায় জেমিনি পাসওয়ার্ড অনুমান করে ওই সিস্টেমে প্রবেশের চেষ্টা করে।
অন্য দুটি ক্ষেত্রে বিশেষভাবে পাওয়া ক্রেডেন্সিয়াল ব্যবহার করে সিস্টেমে ভেতরে প্রবেশ করে। সংস্থাটি বলছে, যখন জেমিনি বুঝতে পেরেছে সংশ্লিষ্ট সিস্টেম রিয়েল সংস্থার, তখন সেটি তার কার্যক্রম বন্ধ করে দেয়। তিনটি সংস্থাকে এই সিকিউরিটি ভেদ করার বিষয়ে সতর্ক করা হয়েছে। এ ঘটনায় বড় ধরনের ক্ষতি হয়নি।
গুগল সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের সহসভাপতি হিথার অ্যাডকিন্স বলেছেন, ঘটনাটি সাধারণ নয়; বরং চিন্তার। শক্তিশালী এআই মডেলকে কাজে লাগিয়ে এমন সব কাজ করা যেতে পারে, যা ঠিকমতো না করলে বড় ধরনের সমস্যা তৈরি হবে। নিরাপত্তার ক্ষেত্রে দৃশ্যমান হবে কঠিন চ্যালেঞ্জ।
ঘটনার পেছনে নেপথ্যেঘটনাটি এমন সময়ে সামনে এসেছে, যখন এআই এজেন্ট নিয়ে সারাবিশ্বে দুচিন্তা বেড়েছে।

এর আগে অ্যানথ্রোপিক এবং ওপেনএআই মডেল নিয়ে সাইবার নিরাপত্তা পরীক্ষার সময় অপ্রত্যাশিত আচরণ প্রকাশ্যে হয়েছে। ফলে এআইর ক্ষমতা বাড়ানোর সঙ্গে নিরাপত্তা ব্যবস্থা কতটা দ্রুত এগোচ্ছে, তা নিয়ে সারাবিশ্বের টেক মহলে বইছে সমালোচনা ঝড়।

সক্ষমতা কমানোর ভাবনা এরই মধ্যে অ্যানথ্রোপিকের সিইও দারিও আমোদেই জানান, এআই মডেলের ক্ষমতা বৃদ্ধির প্রক্রিয়াকে কিছুটা কমানো উচিত। এর উন্নয়ন এমন গতিতে এগোচ্ছে যে পাল্লা দিয়ে নিরাপত্তা ও নিয়ন্ত্রণের ব্যবস্থা পিছিয়ে পড়ার শঙ্কা তৈরি হয়েছে। ওপেনএআই সিইও স্যাম অল্টম্যান ও এক্সএআইর ইলন মাস্ক এই উদ্বেগে সহমত হয়েছেন। হঠাৎ জেমিনির এমন আচরণ আগামীর সম্ভাব্য বিপদকে ইঙ্গিত করেছে।