هوش مصنوعی؛ ماشینی که هم میکُشد و هم دعا میخواند/ وقتی AI در میناب فاجعه آفرید!
تحریریه آوش/ هوش مصنوعی به فناوری تعیینکننده روزگار ما بدل شده است و مردم، بهویژه در جوامع غربی، این را بهخوبی درک میکنند و از همین رو، احساس غالب آنها نسبت به این تکنولوژی، بیشتر آمیخته با نگرانی است تا هیجان
هوش مصنوعی دیگر مفهومی انتزاعی و دور از دسترس نیست؛ بلکه نیرویی ملموس در دنیای امروز ماست که ثروت میآفریند، مناسبات قدرت را دگرگون میکند و متأسفانه در میان ویرانههای مدرسهای در جنوب ایران، جان میستاد. چگونه فناوریای که در واتیکان دربارهاش بحث میشود و در کنگره بر سر آن جدل میکنند، در میناب به سلاحی مرگبار تبدیل میشود که در برابر کودکانِ زیر آوار مانده پاسخی ندارد؟
نگاه عمومی همراه با نگرانی، دودلی و انتظار
هوش مصنوعی به فناوری تعیینکننده روزگار ما بدل شده است و مردم، بهویژه در جوامع غربی، این را بهخوبی درک میکنند و از همین رو، احساس غالب آنها نسبت به این تکنولوژی، بیشتر آمیخته با نگرانی است تا هیجان. بر اساس دادههای پنجساله مرکز تحقیقات پیو، نیمی از بزرگسالان آمریکایی میگویند گسترش هوش مصنوعی در زندگی روزمره بیشتر مایه نگرانی آنهاست تا اشتیاق و تنها ده درصد برعکس فکر میکنند.
این نتایج نمیگوید «فناوریهراسی» میان مردم رواج دارد، بلکه نشان میدهد عموم مردم ابعاد تغییر را میبینند، اما نمیتوانند تشخیص دهند این تکنولوژی توسط چه کسانی و چگونه هدایت میشود.
شاخص هوش مصنوعی استنفورد در سال ۲۰۲۶، میتواند تناقض عمیق افکار عمومی آمریکا را روشن کند. افکار عمومی ایالات متحده عمیقاً به نظارت بر هوش مصنوعی بیاعتماد است، با این حال اکثر پاسخدهندگان همچنان معتقدند فواید این فناوری در نهایت بر مضراتش غلبه خواهد کرد. ۴۱ درصد آمریکاییها مقررات فدرال را ناکافی میدانند، در حالی که تنها ۲۷ درصد فکر میکنند این مقررات بیش از حد سختگیرانه است. در نظرسنجی دیگری از موسسه «پیو» در بیستوپنج کشور، تنها ۳۷ درصد از مردم به توانایی ایالات متحده در مدیریت درست هوش مصنوعی اعتماد داشتند؛ در مقابل، ۵۳ درصد به اتحادیه اروپا و ۲۷ درصد به چین اعتماد نشان دادند.
پس از ۲۸ فوریه ۲۰۲۶، یعنی روزی که ایالات متحده جنگ علیه ایران را آغاز کرد و یک سامانه هدفگیری مبتنی بر هوش مصنوعی مختصات مدرسه ابتدایی شجره طیبه میناب را پیشنهاد داد، شکاف میان افکار عمومی در داخل آمریکا و اعتبار جهانی آن عمیقتر نیز شده است.
سیل سرمایهگذاری و زیرساخت سرعت
برای فهم آن چه در میناب رخ داد، نخست باید فشار شگرفی را درک کرد که هوش مصنوعیِ نظامی تحت آن توسعه یافته است. سرمایهگذاری جهانی در هوش مصنوعی طی سال ۲۰۲۵ به ۲۰۲ میلیارد دلار رسید. ایالات متحده با ۱۵۹ میلیارد دلار (یعنی ۷۹ درصد کل سرمایهگذاری جهانی در این زمینه) در صدر قرار داشت. بخش عمده این پولها نه برای پژوهشهای کنترل اثرات مضر هوش مصنوعی، بلکه برای کوتاهتر کردن چرخههای تصمیمگیری، اتوماسیون گردش کار و تسریع آنچه برنامهریزان نظامی «زنجیره کشتار» مینامند، اختصاص یافت.
پروژه «ماوِن» (Project Maven) که پنتاگون در سال ۲۰۱۷ آن را آغاز کرد، پس از اعتراض بیش از سه هزار کارمند گوگل به همکاری با ارتش، در نهایت به شرکت «پالانتیر» واگذار و بعدها با مدل «کلود» (Claude) از شرکت «آنتروپیک» ادغام شد. به گفته کامرون استنلی، مسئول ارشد دیجیتال و هوش مصنوعی پنتاگون، سامانه ماون میتواند سیگنالهای رادار، تصاویر ماهوارهای، ارتباطات الکترونیکی و فیلمهای پهپادی را در ابزاری یکپارچه ادغام کرده و گزینههای هدفگیری و توصیههای شلیک را در ظرف چند ثانیه در اختیار فرماندهان میدانی بگذارد.
کریگ جونز، کارشناس جنگ مدرن، در گفتگو با نهاد دموکراسی نو تأکید میکند که این عملکرد دقیقاً همان چیزی است که سیستم برای آن طراحی شده است. در ۲۴ ساعت نخست جنگ ایران، ستاد فرماندهی مرکزی آمریکا بیش از هزار هدف را مورد اصابت قرار داد (دو برابر سرعت کمپین «شوک و هراس» در عراق در سال ۲۰۰۳)؛ دستاوردی که دریاسالار برد کوپر صراحتاً آن را به پردازشهای مبتنی بر هوش مصنوعی نسبت داد. در هفتههای بعد، دولت ادعا کرد که مجموعاً یازدههزار هدف مورد اصابت قرار گرفتهاند.
میناب؛ آنچه الگوریتم نمیدانست
مدرسه ابتدایی شجره طیبه در میناب در استان هرمزگان، ساختمانی دو طبقه بود که با گلهای صورتی و برگهای سبز رنگآمیزی شده بود. صبح شنبه، ۲۸ فوریه، کلاسها مملو از دختران و پسران هفت تا دوازدهساله بود که جنگ آغاز شد. ساعت ۱۰:۲۳ به وقت محلی، مدرسه هدف یک حمله موشکی توماهاوک سهمرحلهای قرار گرفت و سقف بر سر دانشآموزان فرو ریخت و تا پایان عملیات نجات، ۱۵۶ نفر کشته شدند که ۱۲۰ تن از آنها کودک بودند و حداقل ۹۵ نفر دیگر زخمی شدند.
این حادثه به مرگبارترین حمله علیه غیرنظامیان در تمام طول جنگ تبدیل شد. تحقیقات مستقلِ متعدد (از سوی رویترز، نیویورکتایمز، عفو بینالملل و تحلیلگران تصاویر ماهوارهای) و همچنین یک تحقیق اولیه پنتاگون نشان دادند که ایالات متحده مسئول این حمله بوده و با این وجود، دولت ترامپ ابتدا بدون ارائه هیچ مدرکی ایران را مقصر معرفی کرد. اما یونسکو این حمله را «نقض فاحش حقوق بشردوستانه بینالمللی» خواند.
مدرسه وبسایت فعال داشت و سالها بود که بهعنوان یک مرکز آموزشی غیرنظامی فعالیت میکرد. به نظر میرسد سامانه ماون، مختصات مدرسه را بر اساس هویت پیشین آن بهعنوان یک سایت نظامی تولید کرده است؛ یافتهای که به دلیل اتکای سیستم به اطلاعات منسوخ کاملاً قابل پیشبینی بود. این در حالی است که در سال ۲۰۲۱، یک هوش مصنوعیِ هدفگیریِ آزمایشیِ نیروی هوایی آمریکا اطمینان خود را نود درصد اعلام کرده بود، اما دقت واقعی آن در شرایط عملیاتی تنها ۲۵ درصد بود. با وجود این سوابق مستند، پنتاگون در سال ۲۰۲۶ (زیر نظر وزیر جنگ پیت هگست) نیروی کار مرکز تعالی حمایت از غیرنظامیان را حدود نود درصد کاهش داد.
تفاوت رویکرد در اوکراین
اپراتورهای پهپاد اوکراینی در عوض راهی متفاوت در پیش گرفتند. هر شرکتی که در مارس ۲۰۲۶ با میلیتاری تایمز صحبت کرد تأیید نمود که اپراتورهای آنها اختیار نهایی حمله را در دست دارند. کشوری که جنگ بقای ملی را در خاک خودش میجنگد، حضور انسان در تصمیمگیری را حفظ کرده است؛ استانداردی که قدرتمندترین ارتش جهان هنگام هدف قرار دادن نقاطی در فاصله دههزار کیلومتری، آن را به چند ثانیه تقلیل داد.
سال عجیب آنتروپیک: از زنجیره کشتار تا واتیکان
هیچ نهادی بهتر از «آنتروپیک» تناقضات این دوران را تجسم نمیبخشد؛ شرکت هوش مصنوعی مستقر در سانفرانسیسکو که مدل «کلود» آن همزمان هم ابزاری اخلاقمحور خوانده میشود و هم جزئی از سامانهای که میناب را هدف قرار داد.
در ژوئیه ۲۰۲۵، وزارت دفاع آمریکا قراردادی ۲۰۰ میلیون دلاری با آنتروپیک امضا کرد که کلود را به اولین سیستم هوش مصنوعی با مجوز استفاده نظامی طبقهبندیشده تبدیل نمود. در اواخر ۲۰۲۴، کلود با فناوری ماون ادغام شد تا «گزینههای هدفگیری پیشرفته» را فراهم کند. بدین ترتیب، شرکتی که ریشه در جنبش «نوعدوستی مؤثر» داشت، به بخشی از زنجیره کشتار تبدیل شد.
در ۲۴ فوریه ۲۰۲۶، وزیر دفاع به آنتروپیک اولتیماتوم داد تا محدودیتهای استفاده از کلود برای اهداف نظامی را لغو کند. آنتروپیک با انتشار بیانیهای به امضای مدیرعاملش داریو آمودئی، این درخواست را رد و اعلام نمود که کلود در سیستمهای تسلیحاتیِ کاملاً خودکار و بدون تصمیمگیری انسانی استفاده نخواهد شد. در واکنش، پنتاگون آنتروپیک را «خطر زنجیره تأمین برای امنیت ملی» نامید و ترامپ نیز انتقادات شدیدی را علیه آن مطرح کرد. بلافاصله پس از این امتناع عمومی، کلود به پردانلودترین اپلیکیشن رایگان تبدیل شد.
سه ماه پس از کشته شدن کودکان در میناب، کریس اولاه (از بنیانگذاران آنتروپیک) در کنار پاپ لئوی چهاردهم در واتیکان ایستاد تا رساله پاپی درباره هوش مصنوعی را رونمایی کند.
سند پاپ و برج بابل
«ماگنیفیکا هومانیتاس» (انسانیت شکوهمند) رسالهای ۴۲ هزار کلمهای است که پاپ لئوی چهاردهم آن را در ۱۵ مه ۲۰۲۶ امضا کرد. پیشفرض اصلی سند این است که فناوری ذاتاً شیطانی نیست، اما «خصلتهای سازندگان و کاربرانش را به خود میگیرد» و پیش از آنکه تمدن بشری را بازتعریف کند، باید «خلع سلاح» شود. پاپ از استعاره «برج بابل» استفاده کرد تا هشدار دهد که توسعه هوش مصنوعی بر مبنای قدرت، بهجای کرامت انسانی، فاجعهبار خواهد بود.
رابطه واتیکان و آنتروپیک ریشههای عمیقی دارد و در طول سال پیش از انتشار این رساله، گفتگوهای چندسالهای میان مقامات کلیسا و این شرکت شکل گرفته بود. برخی منتقدان حضور آنتروپیک در واتیکان را اقدامی حسابشده برای کسب اعتبار اخلاقی در اروپا (دقیقاً در زمانی که در واشنگتن تحریم میشد) توصیف کردند.
خلأ حکمرانی
میان واتیکان و پنتاگون، خلأ بزرگی در زمینه حکمرانی هوش مصنوعی وجود دارد. کنگره قانون جامعی تصویب نکرده و دولت ترامپ نیز مقررات ایالتی را تهدیدی برای رقابتپذیری ملی دانسته است. علاوه بر این، پرسشهای حقوقیِ بیپاسخی همچنان باقی است. حمله میناب این پرسش فوری را مطرح میکند: وقتی هوش مصنوعی یک هدف را پیشنهاد میدهد، یک انسان آن را در چند ثانیه تأیید میکند و ساختمانی که ویران میشود یک مدرسه است، چه کسی از نظر قانونی مسئول است؟
گفتمان عمومی هوش مصنوعی در غرب میان دو ایده ناسازگار گرفتار است: باور به مفید بودن ذاتی این فناوری در حوزههایی مانند پزشکی و آموزش، و شواهد روزافزونی که نشان میدهد همین سیستمها در دست دولتهای نظامی به ابزارهایی برای خطاهای مرگبار تبدیل میشوند.
رساله واتیکان و حمله به مدرسه میناب در ظاهر رویدادهایی بیربط هستند؛ یکی سندی الاهیاتی است و دیگری تحقیقی درباره یک جنایت جنگی، اما یک سامانه واحد آنها را به هم متصل میکند. این موضوع صرفاً نقدی بر آنتروپیک نیست، بلکه توصیف شرایط کل صنعتی است که ابزارهایش درون ساختارهای نهادی (مثل قراردادهای نظامی و قدرت دولتی) به چیزی کاملاً متفاوت تبدیل میشوند.
استعاره برج بابل پاپ لئو بهخوبی وضعیت فعلی را توصیف میکند: متکلم، مقام پنتاگون، والدین داغدار در میناب، سرمایهگذار و پاپ؛ همه درباره همان فناوری صحبت میکنند، اما هیچکدام زبان یکدیگر را نمیفهمند. کودکان مدرسه شجره طیبه بهای سنگین این ناتوانی در ترجمه و درک متقابل را پرداختند.
