স্বায়ত্তশাসিত এআই-চালিত হত্যাকারী ড্রোন কি নৈতিকতা নিতে পারে? | ড্রোন (সামরিক)

এসভবিষ্যতের এআই-চালিত ড্রোনগুলির কি হত্যা করার লাইসেন্স থাকা উচিত? প্রশ্নটি আরও চাপা হয়ে উঠছে কারণ সরকার এবং প্রতিরক্ষা শিল্প এটি স্বীকার করছে ড্রোন সিস্টেম ক্রমবর্ধমান গুরুত্বপূর্ণ ভূমিকা পালন করবে ভবিষ্যতের যুদ্ধে।

সঙ্গে বিপুল সংখ্যক ড্রোন মোতায়েন করা হচ্ছে ইউক্রেন যুদ্ধ এবং এআই ইরানের সংঘাতে বোমা বিস্ফোরণ মিশনে সহায়তা করার জন্য ব্যবহৃত হচ্ছে, কিছু পর্যবেক্ষকদের মধ্যে একটি প্রত্যাশা রয়েছে যে অস্ত্রগুলিকে বর্ধিত অপারেশনাল স্বায়ত্তশাসনের সাথে পরিচালনা করতে হবে, যার অর্থ তাদের একটি নৈতিক কাঠামোর আনুমানিক কিছু প্রয়োজন হবে।

গত বছর মাইক্রোসফটের এআই হাতের প্রধান নির্বাহী এবং যুক্তরাজ্য ভিত্তিক ডিপমাইন্ডের সহ-প্রতিষ্ঠাতা মুস্তাফা সুলেমান, দ্ব্যর্থহীন ছিল মেশিনের নৈতিক সিদ্ধান্ত নেওয়ার সমস্যা সম্পর্কে। তিনি বলেছিলেন: “AIs মানুষ – বা নৈতিক প্রাণী হতে পারে না।”

ডেভিড ওমান্ড, যুক্তরাজ্যের গুপ্তচর সংস্থা, জিসিএইচকিউ-এর প্রাক্তন প্রধান, গার্ডিয়ানকে বলেছেন যে তিনি বিশ্বাস করেন যে এআই মানবহীন অস্ত্রের জন্য একটি “নৈতিক” কনফিগারেশন তৈরি করতে পারে, অন্যদিকে যুক্তরাজ্যের সশস্ত্র বাহিনীর মন্ত্রী আল কার্নস সম্প্রতি ফিনান্সিয়াল টাইমসকে বলেছেন। সিদ্ধান্ত নেওয়ার ক্ষেত্রে “মানুষকে লুপের বাইরে নিয়ে যাওয়ার” বিকল্প হতে হবে. এটি একটি স্বায়ত্তশাসিত অস্ত্র ব্যবস্থায় নৈতিকতাকে প্রোগ্রাম করা যেতে পারে কিনা তা নিয়ে নৈতিক এবং প্রযুক্তিগত চ্যালেঞ্জকে ফোকাস করে।

জি তালাত, এডিনবার্গ বিশ্ববিদ্যালয়ের স্কুল অফ ইনফরম্যাটিক্সের মেশিন লার্নিং-এ বিশেষজ্ঞ একাডেমিক, যুক্তি দেন যে বৃহৎ ভাষার মডেল – প্রযুক্তি যা চ্যাটবটের মতো আধুনিক জেনারেটিভ এআই সিস্টেমকে আন্ডারপিন করে – মৌলিকভাবে নৈতিক সিদ্ধান্ত গ্রহণে অক্ষম।

এআই সিস্টেমগুলিকে প্রচুর পরিমাণে ডেটার উপর প্রশিক্ষিত করা হয় যা তাদের একটি ক্রমানুসারে পরবর্তী সম্ভাব্য শব্দ বা বাক্যটি কী হবে তার একটি সম্ভাব্য মডেল তৈরি করতে দেয়। মানুষ এভাবে নৈতিক ও নৈতিক সিদ্ধান্ত নেয় না, তালাত বলেছেন, এমনকি মডেলটি মানবতার কাছে পরিচিত সমস্ত দার্শনিক ট্র্যাক্টকে গ্রাস করলেও।

“যদি আপনার কাছে এমন একটি যন্ত্র থাকে যা প্রকৃতির দ্বারা সম্ভাব্য হয় তবে এটি একটি পরিস্থিতিতে সবচেয়ে সম্ভাব্য উত্তরের দিকে ঝুঁকবে৷ আমরা কি মনে করি যে নৈতিকতা সম্ভাব্য ধারণাগুলি অনুসরণ করে?” তালাত বলেছেন, যিনি সম্প্রতি একটি গবেষণাপত্রের সহ-লেখক করেছেন যা যুক্তি দেয় যে নৈতিক মূল্যায়ন একটি “উন্মুক্ত, বিতর্ক-ভিত্তিক, আর্থ-রাজনৈতিক প্রক্রিয়া”, যা এআই তা রাখতে পারে না।

ইউনিভার্সিটি অফ সারে-এর ইন্সটিটিউট ফর পিপল-সেন্ট্রেড এআই-এর অ্যান্ড্রু রোগোইস্কি বলেছেন, 2022 সালে চ্যাটজিপিটি আসার পর থেকে এআই সিস্টেমগুলি অনেক বেশি পরিশীলিত হয়েছে – তথাকথিত “যুক্তি” মডেলের উত্থান দেখায়. তবুও, তারা কি নৈতিক সিদ্ধান্ত গ্রহণের সূক্ষ্মতার প্রতিলিপি করতে পারে?

“নৈতিকতা গভীর জটিল, প্রতিদ্বন্দ্বিতাপূর্ণ, সাংস্কৃতিকভাবে আকৃতির, এবং এমন কিছু যা অধিকাংশ মানুষ কখনোই সম্পূর্ণরূপে সমাধান করে না, এমনকি নিজের জন্যও,” তিনি বলেছেন। “সম্ভবত আসল প্রশ্ন হল যে আমরা নৈতিকতাকে কোডিফাই করার জন্য যথেষ্ট ভালভাবে বুঝি কিনা৷ যতক্ষণ না আমরা না করি, আমরা আশা করতে পারি না যে মেশিনগুলি এমন কিছু মূর্ত করবে যা আমরা নিজেরাই স্পষ্টভাবে প্রকাশ করতে পারি না।”

এটি স্বায়ত্তশাসিত অস্ত্রের জন্য সর্বজনীনভাবে স্বীকৃত নৈতিক কোড থাকা সম্ভব কিনা সেই প্রশ্নের দিকে নিয়ে যায়। নেদারল্যান্ডসের উট্রেচ্ট ইউনিভার্সিটির আন্তর্জাতিক আইনের সহকারী অধ্যাপক জেসিকা ডরসির মতে, ড্রোনগুলিতে নৈতিকতার প্রোগ্রামিং সমস্যাযুক্ত। তার উদ্বেগের মধ্যে রয়েছে ড্রোনটি কাদের নৈতিকতা অনুসরণ করছে তা নির্ধারণ করা, একটি কঠিন প্রক্রিয়ার প্রেক্ষিতে জাতিসংঘ এখনও বিশ্বব্যাপী ঐকমত্য অর্জনের চেষ্টা করছে স্বায়ত্তশাসিত অস্ত্র শাসন.

একজন যোদ্ধা এবং একজন বেসামরিকের মধ্যে পার্থক্য করার জন্য কীভাবে একটি এআই সিস্টেম প্রোগ্রাম করা যায় তাও রয়েছে। জেনেভা কনভেনশনের অনুচ্ছেদ 57 – যুদ্ধ পরিচালনা নিয়ন্ত্রণকারী আন্তর্জাতিক চুক্তিগুলির একটি সিরিজ – বলে যে যোদ্ধাদের “যা কিছু সম্ভব তা যাচাই করতে হবে যে আক্রমণের উদ্দেশ্যগুলি বেসামরিক বা বেসামরিক বস্তু নয় … তবে সামরিক উদ্দেশ্য”।

আপনি যদি আইনটি সঠিকভাবে না পান তবে আপনি যদি এআই-চালিত ড্রোনগুলিকে ব্যাপকভাবে মোতায়েন করা হয় তবে আপনি বিশাল আকারে ত্রুটিপূর্ণ সিদ্ধান্তের পুনরাবৃত্তি করবেন, ডরসি বলেছেন।

“যুদ্ধ অনেকগুলি ভেরিয়েবল দিয়ে ভরা এবং এটি একটি প্রদত্ত যে জিনিসগুলি ভুল হয়ে যাবে। এবং যখন এটি এআই-এর মতো গতিতে ঘটে, তখন এটি উদ্ঘাটন করা কঠিন,” সে বলে।

তবে কিছু বিশেষজ্ঞরা যুক্তি দেন যে ড্রোনকে আরও বেশি স্বায়ত্তশাসন দেওয়া এবং তাদের মধ্যে নিযুক্তি ও নৈতিকতার প্রোগ্রামিং নিয়মগুলি একটি প্রয়োজনীয়তা হবে যদি অন্যান্য দেশগুলি গতিতে একই প্রযুক্তি বিকাশ এবং স্থাপন করতে থাকে।

“যেকোন সামরিক বাহিনীর জন্য অন্যান্য উচ্চ-সম্প্রদায়ের সামরিক বাহিনীর বিরুদ্ধে কার্যকরভাবে প্রতিদ্বন্দ্বিতা করার জন্য এটির জন্য প্রচুর পরিমাণে সিস্টেমের প্রয়োজন যা তাদের নিজস্ব সিদ্ধান্ত নেওয়ার প্রয়োজন হবে,” বলেছেন নিকোলাস রাইট, একজন স্নায়ুবিজ্ঞানী এবং ওয়ারহেডের লেখক, মানব মস্তিষ্ক এবং যুদ্ধের উপর একটি বই।

এআই-চালিত ড্রোনগুলি এখনও একটি নতুন প্রযুক্তি, এবং প্রযুক্তি শিল্পের হাইপ সত্ত্বেও, যুদ্ধক্ষেত্রে তাদের স্থাপনার সীমিত উদাহরণ রয়েছে। এর থেকেও বেশি 100 মার্কিন যুক্তরাষ্ট্র এবং ইউরোপ জুড়ে স্টার্টআপগুলি এখন ড্রোন এবং ড্রোন সফ্টওয়্যার প্ল্যাটফর্ম তৈরি করছে। ইমেজিং এবং নজরদারির জন্য ডিজাইন করা হালকা, কম-উচ্চতাযুক্ত ড্রোন থেকে শুরু করে অস্ত্র বহনের জন্য ডিজাইন করা ভারী নৈপুণ্য পর্যন্ত এগুলোর মধ্যে রয়েছে। কিন্তু কোম্পানিগুলো এগুলো তৈরি করছে – এবং ভবিষ্যতের যুদ্ধের কল্পনা করছে – ভবিষ্যতের যুদ্ধে তাদের সিদ্ধান্ত নেওয়ার ধরণ কেমন হতে পারে সে সম্পর্কে তীব্রভাবে পরস্পরবিরোধী মতামত রয়েছে।

“নৈতিকতা হল মানুষের প্রদেশ, তাই এআই-সহায়তা অস্ত্র সিস্টেমগুলিকে এমনভাবে তৈরি করা দরকার যা পাইকারি প্রতিস্থাপনের পরিবর্তে অপারেটরের বিচার এবং সিদ্ধান্ত গ্রহণকে প্রসারিত করে,” বলেছেন ওলাফ হিচওয়া, মার্কিন ড্রোন স্টার্টআপ নেরোসের সহ-প্রতিষ্ঠাতা৷

হিচওয়ার জন্য, ড্রোন মানুষের সিদ্ধান্ত গ্রহণকারীদের প্রতিস্থাপন করবে না, তবে তাদের মানব পাইলটদের ক্ষমতা বাড়াবে।

“অনেক লোক স্বায়ত্তশাসনকে কিছুটা ভুলভাবে দেখছে। তারা ব্যবহারকারীর চোখ দিয়ে এটি দেখছে না। তারা বলছে, আসুন সম্পূর্ণ স্বায়ত্তশাসিত অস্ত্র ব্যবস্থা তৈরি করি,” তিনি বলেছেন।

“কিন্তু যুদ্ধের বাস্তবতা হল যে এটি এখনও অনেকটাই মানব-মানবিক মিথস্ক্রিয়া।”

যুদ্ধে AI-এর একটি ব্যবহার, তিনি বলেন, FPV (ফার্স্ট-পারসন ভিউ) ড্রোন-এর মতো নৈপুণ্য পরিচালনা করতে হয় এমন লোকেদের জ্ঞানীয় বোঝা কমাতে – ছোট নৈপুণ্য যা ইউক্রেন সংঘর্ষে ব্যাপকভাবে ব্যবহৃত হয় যা একটি ভিডিও লিঙ্কের মাধ্যমে তাদের মানব পাইলটদের কাছে যুদ্ধক্ষেত্রের একটি দৃশ্য প্রেরণ করে। একটি দৃশ্যে, একটি ড্রোন একটি মিশনের “শেষ মাইল” এর জন্য নিজেকে গাইড করতে পারে।

“স্বায়ত্তশাসনের একটি উদাহরণ হল … এই মুহূর্তে, ড্রোনটিকে সঠিক কোণে ভ্রমণ করার জন্য পাইলটদের অনেক সুনির্দিষ্ট প্রশিক্ষণের প্রয়োজন। কিছু স্বায়ত্তশাসন ব্যবহারকারী হতে পারে বা মানুষ একটি সাধারণ পথ সেট করে এবং ড্রোন সেই পথ অনুসরণ করে।”

ফোর্টেম টেকনোলজিসের প্রধান নির্বাহী জন গ্রুয়েন, যেটি ড্রোনের বিরুদ্ধে সুরক্ষার জন্য সিস্টেম তৈরি করে, তার একটি ভিন্ন দৃষ্টিভঙ্গি রয়েছে। তিনি উল্লেখ করেছেন যে মার্কিন যুক্তরাষ্ট্র ইতিমধ্যেই আগত ড্রোন এবং ক্ষেপণাস্ত্রগুলিকে আটকানোর জন্য স্বায়ত্তশাসিত প্রতিরক্ষা ব্যবস্থা ব্যবহার করে, এবং এই AI এর অনেক ক্ষেত্রেই লক্ষ্যগুলি চিহ্নিত করতে এবং কখনও কখনও তাদের উপর একটি অস্ত্র চালু করার জন্য “সমস্ত পথ” ব্যবহার করা হয়।

“যখন আপনি কিছু শনাক্ত করেন, তখন আপনাকে এটি সনাক্ত করতে হবে৷ সেই শনাক্তকরণটি এখন বেশিরভাগ অংশের জন্য স্বায়ত্তশাসিতভাবে করা হয়।”

একই প্রযুক্তি এখন একটি অস্ত্র মোতায়েন করতে ব্যবহার করা যেতে পারে, তিনি বলেন, কখন একটি অস্ত্র গুলি চালাতে হবে এবং তারপরে এটিকে লক্ষ্যবস্তুতে পরিচালিত করতে হবে।

স্বায়ত্তশাসিত ড্রোনের জন্য সফ্টওয়্যার বিকাশকারী ইউএস-ইউক্রেন স্টার্টআপ সোয়ারমারের ইউএস চিফ এক্সিকিউটিভ অ্যালেক্স ফিঙ্ক বলেছেন, এমন একটি ভবিষ্যত পরিস্থিতি হতে পারে যেখানে মানুষ স্বতন্ত্র লক্ষ্যগুলিকে মোটেও নির্বাচন না করে বরং একটি “কিল বক্স” মনোনীত করতে পারে, যেখানে একটি নির্দিষ্ট সময়ে একটি স্বায়ত্তশাসিত সিস্টেমের লক্ষ্য করার জন্য একটি নির্দিষ্ট অঞ্চলের যে কোনও কিছু ন্যায্য খেলা।

“একজন মানুষ এই এলাকায় প্রত্যয়িত করে, এখানে কোন বন্ধুত্ব নেই, এবং আমি গ্যারান্টি দিচ্ছি যে পরবর্তী 15 মিনিটের মধ্যে কোন বন্ধুত্ব হবে না। এই এলাকার যেকোন যানবাহন এই সময়ের জন্য পূর্ব-অনুমোদিত,” ফিঙ্ক বলেছেন।

“যদি একজন মানুষ নিজের উপর সেই দায়িত্ব নিতে সক্ষম হয়, যে তারা জানে যে এই এলাকায় কোন বন্ধুত্বপূর্ণ, কোন পথিক থাকবে না, তাহলে এই ধরনের মিশন সম্ভব।”

কিন্তু প্রযুক্তি থাকলে নৈতিক ও আইনগত ঐকমত্য নেই।