نخستین جنگ مبتنی بر هوش مصنوعی

احسان محمدی در یادداشتی در آرمان امروز نوشت:

گزارش ها حاکی از آن است که ارتش آمریکا برای حمله به حدود ۱۰۰۰ هدف در ۲۴ ساعت اول، از ابزار کلود شرکت آنتروپیک استفاده کرده است. این سامانه هوش مصنوعی با بهینه سازی انتخاب هدف، تحلیل داده های اطلاعاتی و تعیین مختصات دقیق مکان از طریق تصاویر ماهوارهای، در برنامه ریزی جنگی کمک زیادی کرده است. استفاده از هوش مصنوعی کلود بخشی از پروژه سامانه هوشمند مِیوِن پنتاگون است.

سامانه میون که توسط شرکتی به نام پالانتیر توسعه یافته و ریشه در پروژه میون دهه ۲۰۱۰ دارد، سه کارکرد اصلی را انجام می‌دهد: ۱) شناسایی هدف، ۲)تطبیق مهمات با هدف شناسایی شده، و ۳) ارزیابی آسیب ناشی از حمله. سامانه میون با ادغام ۱۷۹ منبع داده شامل تصاویر ماهواره‌ای، سامانه‌های نظارتی و اطلاعات طبقه‌بندی‌شده، به شناسایی تهدیدات و اهداف می‌پردازد. این سامانه با استفاده از داده های طبقه بندی شده از ماهواره ها، سیستم های نظارتی و سایر منابع اطلاعاتی، شرایطی را فراهم می کند تا گزینه های هدفگیری لحظه ای برای جنگ ایجاد گردند.

افزایش استفاده از هوش مصنوعی در سامانه های تسلیحاتی، زنجیره کشتار را کوتاه می کند (یعنی زمان بین شناسایی هدف و لغو آن را کاهش می دهد). این امر منجر به فشردگی فرآیند تصمیم گیری می شود که طی آن کنشگران انسانی به جای قضاوت و تصمیم گیری مستقل، شدیدا به توصیه های الگوریتمی متکی می شوند. با توجه به فقدان هرگونه قوانین الزام آور در مورد استفاده مسئولانه از هوش مصنوعی نظامی، خطرات ناشی از کاربرد هوش مصنوعی در سامانه‌های تسلیحاتی به طور فزایندهای در حال افزایش است.

سامانه میون، مدت زمان «زنجیره کشتار» را به زیر ۷۲ ثانیه (و در مواردی ۲۰ ثانیه) کاهش داده و نقش نظارتی انسان را به حداقل می رساند (فقط یک کلیک برای تأیید نهایی). علاوه بر آن، تراکم مراکز غیرنظامی، سامانه را به سمت تایید حملات حتی با اطمینان پایین سوق داده و تلفات غیرنظامیان را به طور چشم گیری افزایش می‌دهد.

اگرچه هوش مصنوعی به عنوان ابزاری برای بهبود دقت و کارایی عملیاتی به کار گرفته می شود، اما استفاده نظامی از آن نگرانی های جدی در مورد مسئولیت پذیری و حفاظت از غیرنظامیان ایجاد کرده است. سامانه های شناسایی هدف، تنها به اندازه ای قابل اعتماد هستند که داده های آنها معتبر باشند. در این زمینه نگرانی‌های عمده مربوط به حقوق بشردوستانه زمانی تشدید شد که یکی از همین حملات در نخستین روز جنگ، دبستان «شجره طیبه» در میناب (استان هرمزگان) را هدف قرار داد. این حمله که با استفاده از موشک تاماهاوک انجام شد، به شهادت ۱۵۶ غیرنظامی‌که بیش از ۱۲۰ نفر از آنان کودکانی بین ۷ تا ۱۲ سال بودند انجامید.

کمیته بین‌ المللی صلیب سرخ در بیانیه خود خطاب به شورای امنیت سازمان ملل (سپتامبر ۲۰۲۵) نسبت به سه کاربرد مهم هوش مصنوعی در عرصه نظامی هشدار داده است: ۱) سامانه‌های خودمختار تسلیحاتی، ۲) سامانه‌های پشتیبانی تصمیم‌گیری و ۳) سامانه‌های سایبری مبتنی بر هوش مصنوعی.

در خصوص سامانه‌های پشتیبانی تصمیم‌گیری، ICRC  اذعان می‌دارد که ممکن است سرعت و مقیاس بالا، همراه با سوگیری اتوماسیون، به تأیید کورکورانه توسط کاربر انسانی منجر و جایگزین قضاوت انسانی گردد. این نگرانی به روشنی در عمل‌کرد سامانه لوندر اسرائیل (تأیید ۲۰ ثانیه‌ای اهداف بدون بررسی انسانی واقعی) و سامانه میون امریکا (سرعت غیرقابل تأیید اطلاعات) مشهود است. همچنین کمیته بین المللی صلیب سرخ تجربه تاریخی خود را یادآوری می‌کند که «ادعای جدید بودن ابزارهای دقیق‌تر و انسانی‌تر» همواره از سوی توسعه‌دهندگان سلاح‌های جدید مطرح شده، اما «نتیجه در میدان نبرد هرگز بهبود چشمگیر وضعیت غیرنظامیان نبوده؛ بلکه تخریب شتاب‌یافته و گسترش‌یافته‌ای با نتایجی هولناک رقم خورده است».

حقوق بین الملل بشردوستانه  ایجاب میکند که یک عملیات نظامی از اصول تفکیک، تناسب و احتیاط پیروی کند. فرماندهان باید بین غیرنظامیان و رزمندگان تمایز قائل شوند و اطمینان حاصل کنند که مزیت نظامی‌بر آسیب احتمالی به غیرنظامیان برتری دارد. هنگامی‌که سامانه های هوش مصنوعی به طور عمیق در چرخه هدف گیری تعبیه می شوند، تشخیص اینکه آیا این تعهدات بشردوستانه انجام می شوند یا خیر، شدیدا دشوار می شود. اگر حمله ای مبتنی بر توصیه های الگوریتمی منجر به تلفات غیرنظامیان شود، موضوع انتساب عمل متخلفانه پیچیده شده و زنجیره پاسخگویی بین فرماندهان، برنامه نویسان، شرکت های فناوری خصوصی و سامانه های یادگیری ماشین مبهم باقی میماند.

نگرانی عمده دیگر در این حوزه، در ابهام فرآیند تصمیم گیری هوش مصنوعی نهفته است. بسیاری از مدل های هوش مصنوعی همچون جعبه های سیاه عمل می کنند – حتی ایجادکنندگان آنها نیز نمی توانند به طور کامل توضیح دهند که چگونه سامانه به یک خروجی خاص رسیده است. هنگامی‌که چنین سامانه هایی برای تولید توصیه های هدفگیری استفاده میشوند، ممکن است پرسنل نظامی در رد یا تأیید نتایج الگوریتم با مشکل مواجه شوند. چنین موضوعی این خطر را افزایش می دهد که نظارت انسانی ماهوی، به نظارتی تشریفاتی تبدیل شود. این امکان وجود دارد که در شرایط تصمیم گیری بسیار سخت و پیچیده، فرماندهان نظامی‌به جای انجام تأیید مستقل و دقیق انسانی، صرفاً فهرست اهداف تولیدشده توسط الگوریتم را مورد تأیید قرار دهند.

با این حال، دولت ها هنوز گام های ملموسی برای کاهش خطرات مرتبط با استفاده نظامی از هوش مصنوعی برنداشته اند. ادغام سریع هوش مصنوعی در عملیات های نظامی واقعی نشان می دهد که تلاش های حاکمیتی در همگامی‌با پذیرش فناوری با مشکل مواجه است. مثال پروژه میون پنتاگون نشان میدهد که چگونه استراتژیسته ای نظامی، هوش مصنوعی را برای حفظ برتری عملیاتی ضروری می دانند.

در غیاب مقررات الزام آور مربوطه، قدرت های بزرگ با شتاب به ادغام هوش مصنوعی در عملیات های نظامی ادامه می دهند. جنگ ایران نمایی زودهنگام از جنگ های آینده را نشان می دهد که در آن هوش مصنوعی دیگر محدود به پشتیبانی لجستیکی یا اطلاعاتی نیست؛ بلکه تصمیمات هدفگیری و برنامه ریزی عملیاتی را نیز شکل میدهد. با تشدید رقابت نظامی میان قدرت های بزرگ، تمایل پذیرش قابلیت های مبتنی بر هوش مصنوعی بیشتر خواهد شد. دولت ها می ترسند پذیرش محدودیت در استفاده از هوش مصنوعی، آنها را در برابر رقبا در موقعیت استراتژیک ضعیف تری قرار دهد.

با این وجود، برتری فناورانه نباید به بهای فقدان مسئولیت اخلاقی و پاسخگویی حقوقی تمام شود. باید ساز و کارهای حقوقی الزام آوری توسعه یابد که تایید کند دولت ها و افراد (نه ماشین ها و الگوریتم ها) مسئولیت حقوقی و اخلاقی حملات انجام شده را بر عهده دارند. این امر می تواند به جلوگیری از ایجاد شکاف های پاسخگویی در استفاده از هوش مصنوعی در حوزه نظامی‌کمک کند. علاوه بر این، دولت‌ها باید برای ایجاد استانداردهای روشن در مورد «شفافیت»، «پاسخگویی» و «کنترل انسانی» جهت استفاده از هوش مصنوعی در جنگ تلاش کنند. این امر شامل اطمینان از مشارکت حقیقی انسان در تصمیمات مربوط به استفاده از نیروی مرگبار، ایجاد امور کنترلی برای سامانه های هوش مصنوعی نظامی، و تقویت چارچوب های حقوقی حاکم بر فناوری های نوظهور نظامی می شود. متاسفانه دولت‌های پیشرو در توسعه و استفاده از هوش مصنوعی نظامی (از جمله ایالات متحده و اسرائیل)، از انجام مذاکره برای ایجاد قواعد الزام‌آور مورد نیاز خودداری کرده‌اند. ایالات متحده به‌صراحت با هرگونه «تنظیم حقوقی بین‌المللی هوش مصنوعی نظامی» مخالفت کرده و حتی در عمل، مشاوران حقوقی خود را که مدافع اجرای قواعد بشردوستانه بودند، کنار گذاشته است. این امتناع از تنظیم‌گری، همراه با سرعت خیره‌کننده توسعه فناوری، آینده‌ای را رقم می‌زند که در آن «جعبه‌های سیاه» الگوریتمی، قدرت تصمیم‌گیری حیات و مرگ میلیون‌ها انسان را به دست می‌گیرند، در حالی که قضات دیوان کیفری بین‌المللی حتی در تعریف «قصد مجرمانه» در چنین فرآیندهایی درمانده خواهند بود.