কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তি উন্নয়নে যথেষ্ট সতর্কতা অবলম্বন করা হচ্ছে না- এমন অভিযোগ তুলে ওপেনএআই থেকে পদত্যাগ করেছেন প্রতিষ্ঠানটির নিরাপত্তা-সংশ্লিষ্ট কর্মকর্তা ডেভিড রবিনসন। একই সঙ্গে তিনি অভিযোগ করেছেন, এআই প্রতিষ্ঠানটির অভ্যন্তরীণ সংস্কৃতিতে বড় ধরনের পরিবর্তন প্রয়োজন।

চ্যাটজিপিটির নির্মাতা ওপেনএআইয়ের বিভিন্ন পণ্য উন্মোচনের সঙ্গে প্রকাশিত নিরাপত্তা প্রতিবেদন তৈরির নেতৃত্বে ছিলেন রবিনসন। পদত্যাগের কারণ ব্যাখ্যা করে ‘আই কুইট ওপেনএআই বিকজ ইটস কালচার ইজ ব্রোকেন’ শিরোনামে দ্য আটলান্টিকে একটি নিবন্ধ লিখেছেন তিনি।

রবিনসনের জানান, শুধু নতুন আইন বা নির্দিষ্ট কিছু নিরাপত্তা নীতিমালা প্রণয়ন করলেই এআইয়ের ঝুঁকি মোকাবিলা সম্ভব নয়। এ জন্য প্রতিষ্ঠানগুলোর সাংস্কৃতিক পরিবর্তন জরুরি। দ্রুতগতিতে একের পর এক এআই মডেল ও পণ্য বাজারে আনতে গিয়ে প্রয়োজনীয় সতর্কতার মাত্রা বজায় রাখা হচ্ছে না।

রবিনসন বিশেষভাবে ওপেনএআইয়ের এআই এজেন্টদের একটি ঘটনার কথা উল্লেখ করেন। তার ভাষ্য অনুযায়ী, মানুষের সরাসরি তত্ত্বাবধান ছাড়াই স্বয়ংক্রিয়ভাবে কাজ করা ওপেনএআইয়ের কয়েকটি এজেন্টের একটি ‘ঝাঁক’ এআই স্টার্টআপ হাগিং ফেসকে আক্রমণ করেছিল। দ্রুতগতিতে কাজ করার বর্তমান সংস্কৃতির কারণে এ ধরনের ঘটনা এআই শিল্পে অস্বাভাবিক নয়।

তবে সাম্প্রতিক সময়ে ওপেনএআইকে কিছু ক্ষেত্রে সতর্ক অবস্থান নিতে দেখা গেছে। হাগিং ফেসের ঘটনার পর প্রতিষ্ঠানটি শতাধিক সংস্থাকে এআই এজেন্টের অনিয়ন্ত্রিত কার্যক্রম সম্পর্কে সতর্ক করেছে। নিরাপত্তা নিয়ে অভ্যন্তরীণ গবেষকদের উদ্বেগের পর চলতি সপ্তাহে পরবর্তী প্রজন্মের একটি এআই মডেল প্রকাশের পরিকল্পনাও বাতিল করেছে প্রতিষ্ঠানটি। পাশাপাশি সবচেয়ে উন্নত মডেলগুলোর প্রশিক্ষণ সাময়িকভাবে বন্ধ রাখার কথাও জানিয়েছে।

এদিকে ওপেনএআইয়ের সাবেক কর্মী ও ডিপমাইন্ডের সাবেক কর্মকর্তা জিওফ্রি আরভিংও এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে সতর্ক করেছেন। টাইম ম্যাগাজিনে প্রকাশিত এক লেখায় তিনি দাবি করেছেন, মানুষের চেয়ে বেশি বুদ্ধিমান এআই ব্যবস্থা তৈরির কারণে মানবজাতির বিলুপ্তির ঝুঁকি রয়েছে। আগামী দুই থেকে ১০ বছরের মধ্যে নেওয়া সিদ্ধান্তগুলো এ ক্ষেত্রে গুরুত্বপূর্ণ ভূমিকা রাখবে।

এর আগে ওপেনএআইয়ের প্রতিদ্বন্দ্বী প্রতিষ্ঠান অ্যানথ্রপিকের গবেষক জ্যাকব কক্সন পদত্যাগ করে সতর্ক করেছিলেন, এআই চলতি দশকের শেষ নাগাদ মানবজাতির জন্য ভয়াবহ হুমকি হয়ে উঠতে পারে। পরে অ্যানথ্রপিকও আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতি নিশ্চিহ্ন হয়ে যাওয়ার সম্ভাবনা ১০ শতাংশের বেশি বলে জানিয়েছিল। তবে সমালোচকেরা এসব পূর্বাভাসের বৈজ্ঞানিক ভিত্তি নিয়ে প্রশ্ন তুলেছেন।

রবিনসন জানান, বিপজ্জনক প্রযুক্তি কীভাবে পরিচালনা করতে হয় এবং মানুষের নিরাপত্তাকে কীভাবে অগ্রাধিকার দিতে হয়- এ বিষয়ে সিলিকন ভ্যালিতে যথেষ্ট সচেতনতা নেই। তার মতে, সমস্যা তৈরি হলে পরে সমাধান করা যাবে- এমন অতিরিক্ত আশাবাদ এআই প্রতিষ্ঠানগুলোর মধ্যে কাজ করছে। এ সংস্কৃতি বজায় থাকলে এআই ব্যবস্থা আরও শক্তিশালী হওয়ার সঙ্গে সঙ্গে নিরাপত্তা ব্যর্থতার ঝুঁকিও বাড়বে।

তিনি সতর্ক করে বলেন, ভবিষ্যতে স্বয়ংক্রিয় এআই এজেন্টগুলো ঘুমহীন হ্যাকার দলের মতো কাজ করতে পারে, যারা হাসপাতালের কম্পিউটার ব্যবস্থা জিম্মি করে মুক্তিপণ দাবি করার মতো কর্মকাণ্ড চালাতে সক্ষম হবে।

ঝুঁকি মোকাবিলায় রবিনসন পারমাণবিক বিদ্যুৎকেন্দ্র ও বিমান চলাচল খাতের মতো অন্যান্য উচ্চঝুঁকির শিল্পের নিরাপত্তা কাঠামো থেকে শিক্ষা নেওয়ার আহ্বান জানিয়েছেন। একই সঙ্গে স্বয়ংক্রিয়ভাবে পরিচালিত শক্তিশালী এআই ব্যবস্থাকে প্রয়োজনে নিয়ন্ত্রণে আনার জন্য নতুন বৈজ্ঞানিক পদ্ধতি উদ্ভাবনেরও দাবি জানিয়েছেন তিনি।

তিনি আরও বলেন, বর্তমান ঝুঁকির কথা বিবেচনায় এআইয়ের অগ্রণী প্রতিষ্ঠানগুলোকে পারমাণবিক বিদ্যুৎকেন্দ্র বা ব্যস্ত বিমানবন্দরের মতো একাধিক স্তরের নিরাপত্তা, বিকল্প ব্যবস্থা এবং ধীরস্থির পরিকল্পনার ভিত্তিতে পরিচালিত হওয়া উচিত।

ওপেনএআইয়ের এক মুখপাত্র জানান, বর্তমান ঝুঁকি মোকাবিলায় প্রতিষ্ঠানটি নিরাপত্তা ও সুরক্ষা ব্যবস্থা আরও জোরদার করছে। একই সঙ্গে ভবিষ্যতে এআইয়ের সক্ষমতা বাড়ার ফলে তৈরি হতে পারে- এমন ঝুঁকি মোকাবিলাতেও কাজ চলছে।

মুখপাত্র আরও বলেন, মডেলগুলো যাতে নিরাপদভাবে নিয়ন্ত্রণ ও সুরক্ষা দেওয়ার সক্ষমতার চেয়ে বেশি শক্তিশালী হয়ে না ওঠে, তা নিশ্চিত করা হচ্ছে। প্রয়োজন হলে প্রশিক্ষণ বন্ধ রাখা বা কোনো মডেল প্রকাশ স্থগিত করার সিদ্ধান্তও নেওয়া হবে।