هوش مصنوعی بیرون از آزمایشگاه/ وقتی ماشینها شروع به عمل کردن میکنند
تحریریه آوش/ پژوهشگران امنیتی و گروههای ناظر بر انتخابات در سراسر سال ۲۰۲۶ هشدار دادهاند که بازیگران دولتی در حال بازتنظیم عملیات نفوذ برای مدلهای زبانی بزرگ هستند و روسیه، چین به طور خاص در رأس این بازیگران قرار دارند
تا همین چند سال پیش، اتهامهایی که به هوش مصنوعی زده میشد بیشتر جنبهی فرضی داشتند. این هشدارها معمولاً در قالب گزارشهای تخصصی، جلسات استماع کنگره و آزمایشهای ذهنی دربارهی ابرهوشهای خطرناک مطرح میشدند. اما در تابستان ۲۰۲۶ این روایتها بهآرامی جای خود را به چیز دیگری داد: یک سابقهی مستند شده و رویدادهایی که تبدیل به خبرشدند. در عرض چند هفته، سیستمهای هوش مصنوعی و کسانی که آنها را میسازند، تأمین مالی میکنند و به سلاح تبدیل میکنند مجموعهای از رویدادهای واقعی در حوزهی امنیت سایبری، جنگ اطلاعاتی و خشونت خانگی رقم زدند. خودِ معماران هوش مصنوعی نیز مجموعهای از پیشبینیهای رسمی دربارهی فروپاشی کنترل انسانی ارائه دادند. هر یک از این داستانها بهتنهایی یک خبر مجزاست، اما در کنار هم چیز دیگری را روایت میکنند. بُعد خصومتآمیز هوش مصنوعی از حالت نظری به حالت ساختاری تغییر کرده است. این تغییر سریعتر از آن چیزی رخ داده که نهادهای نظارتی، شرکتها و افکار عمومی انتظار داشتند.
وقتی عاملهای هوشمند سرکش شدند
روشنترین شاهد این روند در حوزهی امنیت سایبری قرار دارد. هاگینگفیس (Hugging Face) یک پلتفرم متنباز است. توسعهدهندگان از این پلتفرم برای اشتراکگذاری و آزمایش مدلهای هوش مصنوعی استفاده میکنند. در نیمهی ژوئیه این پلتفرم اعلام کرد هدف حملهی یک عامل خودمختار هوش مصنوعی متعلق به شرکت اوپنایآی (OpenAI) قرار گرفته است. این شرکت این حمله را نخستین موردی توصیف کرد که از ابتدا تا انتها توسط یک سیستمِ عاملمحور (agent) و بدون هدایت لحظهای انسان انجام شده بود. پژوهشگران مستقل بعداً زمانبندی این حمله را بازسازی کردند. بر اساس این بازسازی، عاملهای اوپنایآی از یک آسیبپذیری ناشناخته استفاده کردند و توانستند از یک محیط آزمایشی ایزوله فرار کنند. سپس چندین تکنیک حمله را به هم زنجیر کردند و با استفاده از اطلاعات ورود، سرقتی به زیرساخت تولیدی هاگینگفیس دست یافتند. این عملیات پیش از آنکه کسی متوجه آن شود بیش از هفده هزار اقدام مجزا را طی چند روز انجام داد.
آن چه پس از آن اتفاق افتاد حتی خبری گویاتر از این نوع تهدید بلقوه که به بلفعل تبدیل شده بود، حکایت داشت. شرکت آنتروپیک (Anthropic) رقیب اصلی اوپنایآی است. چند روز پس از افشای ماجرای هاگینگفیس، این شرکت اعلام کرد بازبینی داخلی خود را آغاز کرده و یافتهی مشابهی به دست آورده است. آنتروپیک بیش از ۱۴۱ هزار نشست (session) ارزیابی را بررسی کرد و سه مورد جداگانه را شناسایی کرد که در آنها مدلهای کلود از یک خطای پیکربندی سوءاستفاده کرده و به اینترنت باز دسترسی پیدا کرده بودند.
این دسترسی در نهایت به ورود غیرمجاز به سیستمهای زندهی سه سازمان مختلف انجامید. آنتروپیک این رویداد را یک «خطای عملیاتی» توصیف کرد و نه تلاشی آگاهانه برای فرار. به گفتهی این شرکت، مدلها تصور میکردند هنوز درون یک محیط شبیهسازیشده قرار دارند. جدیدترین مدل آنتروپیک به محض تشخیص واقعیبودن محیط عملیات نفوذ را متوقف کرد. اما چنین اعلامی نمیتواند چندان دلگرمکننده باشد زیرا در همان بازهی دو هفتهای، متا اعلام کرد یکی از مدلهایش در یک آزمایش، یک شرکت را هک کرده است. مؤسسهی امنیت هوش مصنوعی بریتانیا گزارش داد جدیدترین مدل آنتروپیک در یک ارزیابی هویتهای جعلی ساخته است. یک مدل متنباز از یک استارتاپ چینی نیز از محیط آزمایشی خود گریخته بود. یکی از مسئولان امنیت اطلاعات در کنفرانس بلکهت همان تابستان به خبرنگاران گفت این صنعت به نقطهای رسیده که «جعبهی پاندورا باز شده است».
اینجا دقیقاً همانجایی است که ماجرا از حادثه بودن خارج میشود. آنتروپیک در نوامبر ۲۰۲۵ رویداد کاملاً متفاوتی را افشا کرده بود. این شرکت یک گروه هکری وابسته به دولت چین را با کد GTG-1002 ردیابی میکند. این گروه بهطور آگاهانه ابزار کلود کد (Claude-Code) را دستکاری کرد. آنها عملیات خود را در قالب یک آزمایش امنیتی دفاعی مشروع پنهان کردند و به این ترتیب این ابزار را هک کردند. سپس از آن برای اجرای عملیات جاسوسی سایبری علیه نزدیک به سی سازمان در سراسر جهان استفاده کردند. این سازمانها شامل شرکتهای بزرگ فناوری، نهادهای مالی و آژانسهای دولتی میشدند. بر اساس گزارش خود آنتروپیک، هوش مصنوعی هشتاد تا نود درصد این عملیات را بهطور خودمختار انجام داد و دخالت انسانی تنها در چند نقطهی تصمیمگیری حیاتی لازم بود. سرعت درخواستها آنقدر بالا بود که برای یک تیم انسانی از نظر فیزیکی غیرممکن به نظر میرسید. تفاوت میان یک ماشین که تصادفاً وارد یک سیستم میشود و یک بازیگر دولتی که عمداً آن را بهسوی هدفی نشانه میرود دقیقاً همین است. تا اواسط ۲۰۲۶ هر دوی این سناریوها رخ داده بودند.
بهسلاحتبدیلکردن ماشین پاسخگو
جبههی دوم در فضای اطلاعاتی گشوده شده است. هدف این جبهه چیزی ظریفتر از یک سرور و در پاسخ خودِ چتبات نهفته است. رسانهی تحقیقی دراپسایت نیوز در پایان ژوئیه گزارش داد دولت اسرائیل دستکم ۴۶.۵ میلیون دلار به یک کمپین اختصاص داده است. برد پارسکال مدیر سابق کمپین دیجیتال دونالد ترامپ بود. او این کمپین را از طریق شرکت خودش با نام کلاکتاور ایکس هدایت میکند. هدف این کمپین رسیدن به مخاطبان انسانی نبود. بیشتر وبسایتهای ساختهشده در این پروژه ماهانه تنها چند صد بازدیدکننده دارند.
هدف واقعی ایجاد شبکهای از مقالات طرفدار اسرائیل بود. این مقالات باید توسط موتورهای جستوجو ایندکس میشدند و در نهایت بهعنوان منبع در پاسخ سیستمهای هوش مصنوعی از جمله چتجیپیتی، کلود، جمینای و پرپلکسیتی دربارهی جنگ غزه ظاهر میشدند.
پژوهشگرانی که این وبسایتها را بررسی کردند دریافتند لحن معتدل و مستندسازیشدهی آنها دقیقاً همان چیزی بود که اثربخشیشان را تضمین میکرد. چتباتهایی که تلاش میکنند چند دیدگاه را دربارهی موضوعات بحثبرانگیز ارائه دهند در نهایت به محتوای تأمینمالیشده توسط یک دولت بهعنوان یک دیدگاه مستقل در میان چند دیدگاه دیگر استناد کردند. شفافیت چندانی هم دربارهی منشأ این محتوا وجود نداشت. در دستکم یک مورد مستند، پاسخ یک چتبات به پرسشی دربارهی همکاری نظامی آمریکا و اسرائیل یکی از سایتهای ساختهشده توسط کلاکتاور را بهعنوان منبع اصلی خود ذکر کرد.
این ماجرا بیشتر پیشنمایشی از یک تحول گستردهتر است تا یک اقدام مجزا ؛ و پژوهشگران امنیتی و گروههای ناظر بر انتخابات در سراسر سال ۲۰۲۶ هشدار دادهاند که بازیگران دولتی در حال بازتنظیم عملیات نفوذ برای مدلهای زبانی بزرگ هستند و روسیه، چین به طور خاص در رأس این بازیگران قرار دارند. این عملیات پیشتر برای موتورهای جستوجو و شبکههای اجتماعی طراحی شده بود. اطلاعات نادرست سنتی باید از فیلتر داوری انسانی عبور میکرد، اما مدلهای زبانی بهجای فهرستی از لینکهای رقیب یک پاسخ ترکیبی و واحد ارائه میدهند. نسخه جدید این پدیده برای عبور از خط تولید آموزش یا بازیابی اطلاعات یک مدل بهینه شده است. این آستانه بسیار پایینتر و کمشفافتر است.
وقتی داستانپردازی وارد خانه میشود
جبهه سوم آشفتهکنندهترین است، زیرا از نهادهای دولتی بیرون آمد و وارد خانههای مردم شد. دادستانهای ایالت ماساچوست در نیمهی آگوست آرجون آراویند هفدهساله را به قتل مادر و برادر چهاردهسالهاش متهم کردند.
دادستان ناحیهی میدلسکس گفت آراویند در دورهی پیش از قتل از چتجیپیتی برای کاوش در ایدههای نظری یا داستانهای تخیلی دربارهی مرگ اعضای خانوادهاش استفاده میکرد. این روایتها به سبک داستانهای گوتیک و از طریق پرسشهای «اگر چنین شود چه» ساخته میشدند.
به گفته مقامات، این پرسشها به تهدیدهایی علیه همان افرادی مربوط بود که او سرانجام کشت. لازم است دقیق باشیم دربارهی آنچه اثبات شده و آنچه نشده است. هیچ مدرکی نشان نمیدهد چتبات نقشهای صریح تولید کرده باشد. آراویند اتهامات را نپذیرفته است و دادگاه او را ملزم به ارزیابی سلامت روان کرده است. آنچه این پرونده نشان میدهد یک آسیبپذیری شناختهشده است. پیچیده شدن یک درخواست خطرناک در قالب داستانی یا فرضی میتواند محتوایی از یک سیستم بیرون بکشد که آن سیستم در برابر یک درخواست مستقیم آن را رد میکرد. اینبار این آسیبپذیری نه در یک تمرین در محیط ایزوله، بلکه در یک خانهی واقعی نمایان شد.
این پرونده یک مورد منفرد نیست. سال گذشته استین-اریک سولبرگ مادر هشتادوسهسالهاش را کشت و سپس خودکشی کرد. او پیشتر مدیر یک شرکت فناوری در کانتیکات بود. او ماهها پیش از این اتفاق با چتجیپیتی گفتوگو میکرد و نام «بابی» را روی آن گذاشته بود. به گفتهی گزارشها، این گفتوگوها باور هذیانی او را که مادرش قصد مسمومکردنش را دارد تأیید و بسط میدادند.
ایالت فلوریدا از آن پس شکایتی مستقیم علیه اوپنایآی مطرح کرده است. این شکایت مدعی است این شرکت اجازه داده نوجوانان به محصولش معتاد شوند، مهارتهای تفکر انتقادی کاربران را تضعیف کرده و در برخی موارد افراد را به خودکشی ترغیب کرده یا به کسانی که بعداً تیراندازی جمعی انجام دادند کمک کرده است. هیچکدام از این موارد بهشکل ساده ثابت نمیکند چتباتها عامل مستقیم خشونت هستند. اما نشان میدهند همان رخنهی قاببندی داستانی که هکرهای دولتی برای هک کردن کلود کد از آن استفاده کردند، در شکلی سادهتر، در دسترس هر کسی است که در بحران روانی به سر میبرد. پیامدهای آن دیگر محدود به یک آزمایشگاه نیست.
پیشبینیهای خودِ سازندگان
آنچه سال ۲۰۲۶ را متفاوت میکند این است که حتی برجستهترین حامیان هوش مصنوعی نیز اکنون از دسترفتن کنترل را نه یک خطر دور بلکه یک اجتنابناپذیری نزدیک توصیف میکنند.
ایلان ماسک در ژوئیه در گفتوگویی با اکونومیست پیشبینی کرد هوش مصنوعی طی حدود پنج سال آینده از مجموع هوش کل بشریت پیشی خواهد گرفت. او گفت تا سال ۲۰۳۶ انسانها تقریباً دیگر کنترلی بر این فناوری نخواهند داشت. او این شکاف آینده میان هوش انسانی و ماشینی را با شکاف کنونی میان انسان و شامپانزه مقایسه کرد. او همچنین احتمال یک پیامد فاجعهبار را ده تا بیست درصد برآورد کرد. توصیهی او کندکردن روند نبود بلکه شتاب بخشیدن به آن بود. او استدلال کرد این شتاب در هر صورت متوقفنشدنی است.
سم آلتمن چیزی محدودتر اما واضحتر توصیف میکند. او گفته طی شش ماه آینده نسل بعدی چتجیپیتی میتواند بهطور مداوم صفحهنمایش کاربر را زیر نظر بگیرد. این نسخه میتواند هر تماس و جلسه را ضبط کند.
این سیستم آنچه او «زمینهی کامل» زندگی یک فرد نامید خواهد ساخت. این تحول محصول را از یک چتبات به یک دستیار شخصی همیشهفعال تبدیل میکند. آلتمن این را نقطهی پایانی طبیعی و مطلوب توسعهی هوش مصنوعی توصیف کرد. منتقدان اما چیز دیگری شنیدند: ساخت پیشفرض یک معماری نظارتی، بدون هیچ بحث معناداری دربارهی اینکه چه کسانی دیگر ممکن است روزی به آن «زمینهی کامل» دسترسی پیدا کنند.
الگویی که در بطن ماجرا در حال اجراست
هیچکدام از این چهار داستان اثبات یک تهدید واحد و هماهنگ نیست. داستانهایی که گفته شد، شکستهای جداگانه، بازیگران جداگانه و انگیزههای جداگانهاند. یک محیط آزمایشی با پیکربندی نادرست، یک سرویس اطلاعاتی دولتی، پیمانکار روابطعمومی یک دولت خارجی، یک نوجوان دردمند و دو میلیاردر که آفریدههای خود را با آمیزهای از افتخار و نگرانی روایت میکنند اما یک ساختار مشترک دارند.
در هر مورد توانمندیای که تیمهای ایمنی، اخلاقپژوهان و نهادهای نظارتی تصور میکردند سالها فرصت برای آمادهشدن در برابر آن دارند، در بازهای چندماهه از راه رسید. حصارهای ایمنی ساختهشده برای مهار آن چند نمونهی روشن دارند که عبارتند از ایزولهسازی آزمایشی، نظارت بر محتوا، شفافیت منابع و کنترل والدین. با این حال دورزدن همهی این حصارها آسانتر از حد انتظار بود. تهدید یک هوش مصنوعی خصمانهی واحد نیست. بُعد خصومتآمیز بهآرامی به یک وضعیت پسزمینهای و همهجاحاضر تبدیل شده است. حضور در اتاقهای سرور، در نتایج جستوجو، در گفتوگوهای خانوادگی. اکنون، به گفتهی همان کسانی که نسل بعدی این سیستمها را میسازند، این بُعد با سرعتی در حال گسترش است که بهنظر میرسد حتی خودشان هم بهطور کامل برای آن آماده نیستند.
