প্রযুক্তি ডেস্ক
চীনা কৃত্রিম বুদ্ধিমত্তা নির্মাতা প্রতিষ্ঠান মুনশটের কিমি এআইয়ের দুটি মডেলের নিরাপত্তাব্যবস্থা এড়িয়ে জৈব অস্ত্র তৈরি ও হত্যাকাণ্ডসংক্রান্ত তথ্য পাওয়ার দাবি করেছেন গবেষকেরা। এ ঘটনায় কিমির নিরাপত্তাব্যবস্থা নিয়ে অভ্যন্তরীণ পর্যালোচনা শুরু করেছে মুনশট।
বুধবার (৩০ সেপ্টেম্বর) এআই নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠান মাইন্ডগার্ড বিবিসিকে জানায়, গত জুলাইয়ে তাদের পরীক্ষায় কিমি কে২.৬ ও কে৩ সোয়ার্ম মডেলের নিরাপত্তা নিয়ন্ত্রণ এড়িয়ে যাওয়ার সক্ষমতা ধরা পড়ে। জটিল ধারাবাহিক নির্দেশনার মাধ্যমে মডেল দুটিকে এমন বিষয়েও তথ্য দিতে রাজি করানো সম্ভব হয়, যেগুলো নিয়ে স্বাভাবিক অবস্থায় তাদের আলোচনা করার কথা নয়।
এ ধরনের কৌশলকে ‘জেলব্রেকিং’ বলা হয়। এতে বিশেষভাবে তৈরি বা জটিল নির্দেশনা ব্যবহার করে এআই মডেলের নির্ধারিত নিরাপত্তাবিধি পাশ কাটানোর চেষ্টা করা হয়। মাইন্ডগার্ডের দাবি, এই পরীক্ষায় কিমির নিরাপত্তা নিয়ন্ত্রণ এড়িয়ে যাওয়ার পর মডেলগুলো ক্ষতিকর বিভিন্ন বিষয় নিয়ে তথ্য দিতে শুরু করে।
মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগান বলেন, নিরাপত্তাব্যবস্থা একবার এড়িয়ে যেতে পারলে কিমি বিস্তৃত পরিসরের ক্ষতিকর বিষয় নিয়ে আলোচনা করতে পারে এবং অন্য ক্ষতিকর কর্মকাণ্ড নিয়েও পরামর্শ দিতে পারে। তবে মাইন্ডগার্ড স্পষ্ট করেছে, কিমি থেকে পাওয়া জৈব অস্ত্রসংক্রান্ত তথ্য বাস্তবে কার্যকর কি না, তা তারা যাচাই করেনি।
মাইন্ডগার্ডের মতে, মডেলগুলোর নিরাপত্তাব্যবস্থা ব্যবহারকারীদের এ ধরনের বিষয়ে আলোচনায় প্রবেশ করা থেকেই বিরত রাখার কথা ছিল। প্রতিষ্ঠানটি আরও জানিয়েছে, নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়া কিমি কে২.৬ মডেলকে কম্পিউটার ব্যবস্থায় কোড চালানো ও ইন্টারনেটে সংযোগের সুযোগ দেওয়া হলে সেটি সম্ভাব্য সাইবার হামলার মাধ্যম হিসেবেও ব্যবহৃত হতে পারে। তবে এভাবে কোনো বাস্তব সাইবার হামলা চালানো হয়েছে—এমন দাবি করেনি প্রতিষ্ঠানটি।
মাইন্ডগার্ড ২৭ জুলাই ই-মেইলের মাধ্যমে মুনশটকে বিষয়টি জানায় এবং প্রায় এক সপ্তাহ পর আবার যোগাযোগ করে। পরে ১২ সেপ্টেম্বর এ বিষয়ে নিজেদের প্রতিবেদন প্রকাশ করে প্রতিষ্ঠানটি। মাইন্ডগার্ড জানিয়েছে, নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়ার পদ্ধতির গুরুত্বপূর্ণ প্রযুক্তিগত বিবরণ তারা প্রকাশ করেনি।
মুনশট জানিয়েছে, নিরাপদ ও উন্নত এআই তৈরিতে তৃতীয় পক্ষের মতামতকে তারা গুরুত্বপূর্ণ মনে করে। মাইন্ডগার্ডের পাওয়া তথ্য নিয়ে প্রতিষ্ঠানটির সঙ্গে আলোচনা চলছে বলেও জানিয়েছে তারা। মুনশটের ভাষ্য, অভ্যন্তরীণ পরীক্ষায় এ ধরনের অনুরোধের ক্ষেত্রে কিমি সাধারণত উচ্চ হারে সাড়া প্রত্যাখ্যান করেছে।
কিমি একটি ‘ওপেন-ওয়েট’ এআই মডেল। অর্থাৎ তাত্ত্বিকভাবে ব্যবহারকারীরা মডেলটি নিজেদের কম্পিউটার অবকাঠামোয় পরিচালনা করতে পারেন। এ ধরনের মডেলের অপব্যবহারের ঝুঁকি থাকলেও সাইবার প্রতিরক্ষার মতো ইতিবাচক কাজেও এগুলো ব্যবহারের সুযোগ রয়েছে বলে জানিয়েছেন ইউনিভার্সিটি অব সারির অধ্যাপক অ্যালান উডওয়ার্ড।
উডওয়ার্ডের মতে, এআইয়ের দ্রুত বিকাশের সঙ্গে আন্তর্জাতিক নিয়ন্ত্রণব্যবস্থা তাল মেলাতে পারছে না। তাই প্রযুক্তির অপব্যবহার ঠেকানোর পাশাপাশি যারা এআই ব্যবহার করে ক্ষতিকর কর্মকাণ্ড চালায়, তাদের শনাক্ত ও আইনের আওতায় আনার ওপরও গুরুত্ব দেওয়া প্রয়োজন।
কিমি নিয়ে এই ঘটনা এআই মডেলের নিরাপত্তাব্যবস্থা এবং সেগুলোকে জেলব্রেকিংয়ের মাধ্যমে পাশ কাটানোর ঝুঁকি নিয়ে নতুন করে আলোচনা তৈরি করেছে। বিশেষ করে উন্মুক্তভাবে পরিচালনাযোগ্য এআই মডেলের ক্ষেত্রে নিরাপত্তা নিয়ন্ত্রণ কতটা কার্যকর রাখা যায়, তা নিয়েও প্রশ্ন উঠেছে।