جنگهای مدرن و توهم سیستمهای هوش مصنوعی اخلاقمدار
با ورود روزافزون هوش مصنوعی به زنجیره کشتار ارتشهای جهان، این پرسش مطرح است که آیا ماشینها قادر به قضاوت اخلاقی در جنگ هستند یا خیر.
هوش مصنوعی پهپادها، سیستمهای مدیریت نبرد و هدفگیری را دگرگون کرده است؛ از پهپادهای رهگیر و سیستم هدفگیری گرفته تا سیستم هوشمند مِـیوِن (Maven) شرکت پالانتیر.
الجزیره در گزارشی نوشت که اکنون مسئله فقط دقت این سیستمها نیست، بلکه توانایی آنها در درک پیامدهای اخلاقی تصمیمهایشان است.
مزیت تصمیمگیری؛ صعود هوش مصنوعی در میدان نبرد
هزینههای نظامی جهان به ۲.۸۷ تریلیون دلار رسیده و سهم هوش مصنوعی در آن به سرعت در حال رشد است. پنتاگون با هدف تبدیل شدن به یک نیروی جنگی مبتنی بر هوش مصنوعی، در پی فشردهسازی «چرخه OODA» (مشاهده، جهتگیری، تصمیمگیری و اقدام) است تا سرعت تصمیمگیری را افزایش دهد.
در این میان، سکوهای مِـیوِن پالانتیر و مدل کلود (Claude) شرکت آنتروپیک، بستری برای ارائه تصویر لحظهای از میدان نبرد فراهم کردهاند.
سیستم هوشمند مِـیوِن چگونه کار میکند؟
در گذشته، تحلیلگران نظامی اطلاعات را در فایلهای اکسل و پاورپوینت ثبت میکردند و ارزیابی پروندهها روزها زمان میبرد. اما مِـیوِن دادههای بیش از ۱۵۰ منبع (از جمله ماهوارهها، رادارهای تجاری، ویدیوهای پهپادی، سیگنالهای مخابراتی و شبکههای اجتماعی) را یکپارچه کرده و فرآیند شناسایی تا حمله را از چند ساعت به چند ثانیه کاهش داده است.
در این سیستم، مدل هوش مصنوعی کلود امکان پرسوجو به زبان طبیعی را فراهم میکند. با این حال، در پی امتناع آنتروپیک از برداشتن محدودیتهای اخلاقی مربوط به سلاحهای خودکار، پنتاگون این شرکت را در فهرست ریسکهای زنجیره تامین قرار داد که به شکایت حقوقی آنتروپیک منجر شد.
کنار زدن تصمیمگیرندگان انسانی
پنتاگون مدعی است که هیچ سلاح هوش مصنوعی بهطور کامل خودمختار نخواهد بود و انسان همواره تصمیم نهایی برای شلیک را میگیرد. اما پژوهشگران هشدار میدهند سرعت بالای این سیستمها و ارائه تصمیمهای از پیش بستهبندیشده، شرایط لازم را برای قضاوت واقعی و اخلاقی انسان از بین میبرد.
الکه شوارتز، کارشناس نظریه سیاسی دانشگاه کوئین مری، معتقد است فدا کردن فرآیند تامل اخلاقی و حقوقی به پای سرعت و مقیاس، جدیترین خطری است که نحوه تصمیمگیری در جنگ را تهدید میکند.
آیا هوش مصنوعی نظامی میتواند اخلاقا جایگزین تصمیمهای انسانی شود؟
شوارتز تاکید میکند که هوش مصنوعی توانایی استدلال اخلاقی را ندارد. اخلاق یک چارچوب انسانی است که بر درک متقابل از آسیبپذیری، رنج و ارزش زندگی استوار است؛ مفاهیمی که برای یک سیستم محاسباتی کاملا بیمعنا هستند.
تلاش برای برنامهنویسی شک، تردید و سنجش ارزش جان انسانها در قالب الگوریتم، منطقی نیست و ادعای وجود هوش مصنوعی اخلاقمدار صرفا یک مانور تبلیغاتی است.
نیاز به خویشتنداری و مهار
استفاده از مدلهای زبانی بزرگ (LLM) در هدفگیری نظامی به دلیل احتمال توهم الگوریتمی (Hallucination) و اتکا به دادههای ناقص، به شدت خطرساز است.
علاوه بر این، تحقیقات نشان میدهد واگذاری تصمیمها به هوش مصنوعی، نوعی فاصله اخلاقی ایجاد میکند که باعث میشود انسانها راحتتر مسئولیت پیامدهای مرگبار را بپذیرند یا آن را به گردن ماشین بیندازند.
به باور کارشناسان، ادعای اینکه ماشین میتواند تصمیمگیرنده اخلاقی باشد، شانه خالی کردن انسان از بار مسئولیت تصمیمهای سخت مرگ و زندگی است.
آیا هوش مصنوعی میتواند ارتشهای غیراخلاقی را به اقدام اخلاقی وادارد؟
گزارشها نشان میدهند که ارتش رژیم صهیونیستی نیز از سیستم هوش مصنوعی لاوِندِر (Lavender) برای شناسایی هزاران هدف در غزه استفاده کرده که خطایی ۱۰ درصدی داشته و نظارت انسانی را به چند ثانیه تقلیل داده است.
در پاسخ به این پرسش که آیا هوش مصنوعی میتواند رفتارهای غیراخلاقی ارتشها را محدود کند، شوارتز معتقد است ارتشهایی که هدفشان گسترش و سرعتبخشی به خشونت است، هرگز به دستوری از سوی ماشین برای متوقف کردن جنگ تن نخواهند داد. هوش مصنوعی هرگز نمیتواند نقش یک تصمیمگیرنده اخلاقی را بالای سر یک فرمانده غیراخلاقی ایفا کند.
انتهای پیام/
