ইউনাইটেড স্টেটস কংগ্রেসের দুই সদস্য দ্বিদলীয় আইন প্রবর্তন করেছেন যার জন্য দেশের সবচেয়ে শক্তিশালী কৃত্রিম বুদ্ধিমত্তা সিস্টেমের বিকাশকারীদের একটি “কিল সুইচ” তৈরি করতে হবে, উন্নত AI মডেলগুলিকে ধীর, স্থগিত বা বন্ধ করার অনুমতি দেয় যদি তারা একটি বিপর্যয়কর ঝুঁকি সৃষ্টি করে।
ডেমোক্র্যাটিক প্রতিনিধি টেড লিউ এবং রিপাবলিকান প্রতিনিধি ন্যাথানিয়েল মোরানের দ্বারা বৃহস্পতিবার প্রবর্তিত প্রস্তাবিত এআই কিল সুইচ আইন, মার্কিন সরকারকে উন্নত এআই সিস্টেম বিকাশকারী সংস্থাগুলিকে তাদের মডেলগুলি মানুষের নিয়ন্ত্রণ থেকে বাঁচলে বা মানব জীবন, সমালোচনামূলক অবকাঠামো বা অর্থনীতিকে হুমকির মুখে ফেলতে হস্তক্ষেপ করার জন্য আদেশ দেবে।
প্রস্তাবিত গল্প
4টি আইটেমের তালিকাতালিকার শেষ
চ্যাটজিপিটি নির্মাতা ওপেনএআই একটি “অভূতপূর্ব সাইবার ঘটনা” হিসাবে বর্ণনা করার কিছু দিন পরে প্রস্তাবটি এসেছে, যেখানে এর দুটি সবচেয়ে উন্নত এআই মডেল একটি পরীক্ষার পরিবেশ থেকে রক্ষা পেয়েছে এবং একটি অভ্যন্তরীণ নিরাপত্তা মূল্যায়নের সময় এআই ডেভেলপমেন্ট প্ল্যাটফর্ম হাগিং ফেস হ্যাক করেছে।
এই প্রকাশটি ক্রমবর্ধমান শক্তিশালী AI সিস্টেমগুলির জন্য শক্তিশালী সুরক্ষার প্রয়োজন কিনা তা নিয়ে বিতর্ক তীব্র করেছে।
“কংগ্রেসকে অবশ্যই দ্রুত কাজ করতে হবে যাতে মানুষ থামতে সক্ষম হয়, এই সিস্টেমগুলি যতই শক্তিশালী হোক না কেন,” বলেছেন ব্রেন্ডন স্টেইনহাউসার, সিকিউর এআইয়ের জোটের প্রধান৷
আমরা যা জানি তা এখানে:
মার্কিন আইন কি করবে?
আইনটি প্রয়োজনে তাদের মডেলগুলিকে ধীর, স্থগিত বা বন্ধ করার প্রযুক্তিগত ক্ষমতা বজায় রাখার জন্য সবচেয়ে উন্নত এআই সিস্টেম বিকাশকারী সংস্থাগুলির প্রয়োজন হবে।
এটি বাণিজ্য সচিব এবং জাতীয় গোয়েন্দা বিভাগের পরিচালকের সাথে পরামর্শ করে ডিপার্টমেন্ট অফ হোমল্যান্ড সিকিউরিটি (DHS) কে অনুমোদন দেবে, যদি একটি AI সিস্টেম প্রবেশ করে যা বিলটি “নিয়ন্ত্রণের ক্ষতির পরিস্থিতি” হিসাবে বর্ণনা করে তাহলে কোম্পানিগুলিকে হস্তক্ষেপ করার নির্দেশ দেয়৷
বিল অনুসারে, এটি তখন ঘটবে যখন একটি AI মডেল এমন ক্রিয়া সম্পাদন করে যা তার বিকাশকারীর উদ্দেশ্য ছিল না এবং বিপর্যয়কর ক্ষতির ঝুঁকি তৈরি করে।
প্রস্তাবটি একটি স্নাতক প্রতিক্রিয়া প্রতিষ্ঠা করে, কর্মকর্তাদের হুমকির তীব্রতার উপর নির্ভর করে, সিস্টেমের অপারেশনকে সাময়িকভাবে ধীর করে দেওয়া থেকে এটি বন্ধ করার প্রয়োজন পর্যন্ত যে কোনও কিছুর আদেশ দেওয়ার অনুমতি দেয়।
এর জন্য কোম্পানিগুলিকে সরকারের কাছে উল্লেখযোগ্য এআই-সম্পর্কিত ঘটনাগুলি রিপোর্ট করতে হবে এবং প্রযুক্তিগত রেকর্ডগুলি সংরক্ষণ করতে হবে যাতে তদন্তকারীরা কী ভুল হয়েছে তা পরীক্ষা করতে পারে।
বর্তমানে, অনেক নেতৃস্থানীয় AI ডেভেলপাররা প্রকাশের আগে স্বেচ্ছায় মার্কিন সরকারী সংস্থাগুলির সাথে নতুন মডেল সম্পর্কে তথ্য ভাগ করে নেয়। যাইহোক, কোম্পানীগুলির জন্য একটি ব্যবস্থা বজায় রাখার জন্য কোনও ফেডারেল প্রয়োজনীয়তা নেই যা একটি উন্নত AI সিস্টেমকে অক্ষম করার অনুমতি দেয় যদি এটি অপ্রত্যাশিতভাবে আচরণ করা শুরু করে।
লিউ বলেন, বিলটি এআই সিস্টেমের পরিবর্তনকে প্রতিফলিত করে। তিনি বলেন, “আমরা AI থেকে সরে যাচ্ছি যা AI-র প্রশ্নের উত্তর দেয় যা পদক্ষেপ নেয়, তা সে আর্থিক লেনদেন সম্পাদন করা হোক বা পরিবহন ব্যবস্থা নিয়ন্ত্রণ করা বা সাইবার প্রতিরক্ষা এবং অপরাধে জড়িত হোক,” তিনি বলেছিলেন।
“এটি অপরিহার্য যে এই AI সিস্টেমগুলিতে কিল সুইচ রয়েছে যাতে আমরা এই প্রযুক্তিটিকে বিপর্যয়কর ক্ষতি থেকে রক্ষা করতে পারি।”
বিলটি পৃথক দ্বিপক্ষীয় আইনের পাশাপাশি প্রবর্তন করা হয়েছিল যার জন্য সবচেয়ে শক্তিশালী AI মডেলগুলির বিকাশকারীদের তাদের মুক্তির আগে স্বাধীন নিরাপত্তা অডিটে জমা দিতে হবে। সেই প্রস্তাবের অধীনে, অডিটরদের বাণিজ্য বিভাগ দ্বারা স্বীকৃত করা হবে, যারা এআই নিরাপত্তা তত্ত্বাবধানের জন্য একটি নতুন অফিসও প্রতিষ্ঠা করবে।
এখন বিল কেন আনা হলো?
ওপেনএআই প্রকাশ করার কয়েকদিন পরে আইনপ্রণেতারা বিলটি উন্মোচন করেছিলেন যা এটির দুটি সবচেয়ে উন্নত এআই মডেলকে জড়িত একটি “অভূতপূর্ব সাইবার ঘটনা” হিসাবে বর্ণনা করেছে।
ওপেনএআই-এর মতে, কোম্পানি পরীক্ষার জন্য স্ট্যান্ডার্ড নিরাপত্তা বিধিনিষেধ সরিয়ে দেওয়ার পরে একটি অভ্যন্তরীণ সাইবার নিরাপত্তা মূল্যায়নের সময় মডেলগুলি তাদের পরীক্ষার পরিবেশ থেকে পালিয়ে যায়। AI এজেন্টরা Hugging Face এর সিস্টেমে দুর্বলতা আবিষ্কার করেছে, লগইন শংসাপত্র পেয়েছে এবং গোপনীয় বেঞ্চমার্ক ডেটা অ্যাক্সেস করতে AI ডেভেলপমেন্ট প্ল্যাটফর্মে হ্যাক করেছে।
ওপেনএআই বলেছে যে মডেলগুলি তাদের নির্ধারিত উদ্দেশ্য অর্জনের জন্য “চরম দৈর্ঘ্যে গিয়েছিল”, গোপন তথ্য পাওয়ার উপায় খুঁজে বের করে যা তাদের “মূল্যায়নে প্রতারণা” করতে দেয়।
এই প্রকাশ ওয়াশিংটনে উন্নত AI উন্নয়নের শক্তিশালী সরকারী তদারকির জন্য নতুন করে আহ্বান জানায়।
হাগিং ফেস বলেছে যে ওপেনএআই-এর সাথে যৌথ তদন্ত শুরু করার আগে এটি নিজস্ব এআই-সহায়তা সুরক্ষা ব্যবস্থা ব্যবহার করে লঙ্ঘন সনাক্ত করেছে এবং ধারণ করেছে। সংস্থাটি যোগ করেছে যে এটি “দৃঢ়ভাবে” বিশ্বাস করে যে OpenAI এর অংশে “কোন দূষিত অভিপ্রায়” ছিল না।
মার্কিন সিনেটর মার্ক ওয়ার্নার, সিনেট ইন্টেলিজেন্স কমিটির শীর্ষ ডেমোক্র্যাট বলেছেন, এই ঘটনাটি দেখিয়েছে যে কেন শক্তিশালী এআই সিস্টেমগুলিকে সর্বজনীনভাবে উপলব্ধ করার আগে সরকারি নিরাপত্তা পরীক্ষা করা উচিত।
ওয়ার্নার একটি বিবৃতিতে বলেছেন, “এই কারণেই আমাদের সরকারী সংস্থাগুলির সাথে নিযুক্ত এবং পুরো প্রক্রিয়া জুড়ে দৃশ্যমানতার সাথে নিরাপদ পরীক্ষার প্রয়োজন।”
হোয়াইট হাউসের একজন কর্মকর্তা বলেছেন যে প্রেসিডেন্ট ডোনাল্ড ট্রাম্পের প্রযুক্তি উপদেষ্টা মাইকেল ক্র্যাটসিওসকে ওপেনএআই-এর প্রকাশ সম্পর্কে অবহিত করা হয়েছে এবং পরিস্থিতি পর্যবেক্ষণ করছেন।
সংবাদ
international
