آیا میتوان به هوش مصنوعی اعتماد کرد؟
«دخترم به من اعتماد کن اما احتیاط را از دست نده»، جملهای است که پدرم همیشه به من میگوید و دلیلی که میآورد این است: من هم انسانم و خدا نیستم.
روزنامه اطلاعات در گزارشی نوشت:
«دخترم به من اعتماد کن اما احتیاط را از دست نده»، جملهای است که پدرم همیشه به من میگوید و دلیلی که میآورد این است: من هم انسانم و خدا نیستم.
هربار که بین من و مادرم کدورتی پیش میآید و او تلنگری به من میزند، بلافاصله یادآوریام میکند که تفاوت سنی ما چندان زیاد نیست: «همینطور که تو در حال رشدی، من هم دارم در کنار تو رشد میکنم، بنابراین از من نرنج.»
والدین من نگرانند که حتی مشورت با آنها سبب شود به من و زندگیام آسیبی برسد، اما هوشمصنوعی چطور؟ اگر من برپایه رهنمودهای هوشمصنوعی، زندگیام را ببازم یا به خودم آسیب بزنم، باید یقه چه کسی را بگیرم؟ آیا پاسخ هوشمصنوعی جز این خواهد بود که من ماشینم و نه اخلاق دارم و نه وجدان؟
همینجاست که نگرانیها بابت حدّ اعتماد به هوشمصنوعی، از دغدغه شخصی فراتر میرود و به یک بحران حقوقی و اخلاقی جهانی بدل میشود.
سواد هوش مصنوعی
در این زمانه که استفاده از هوشمصنوعی بسیار رواج پیدا کرده است و بعضی افراد حتی برای تصمیمات مهم زندگیشان هم از این تکنولوژی استفاده میکنند، چقدر میتوان به تحلیلهای هوشمصنوعی اعتماد کرد؟
دکتر حمید ضیاییپرور، پژوهشگر هوشمصنوعی و عضو انجمن ملی هوشمصنوعی ایران در پاسخ به این پرسش میگوید: ابزارهای هوشمصنوعی در واقع نسل جدید فناوریهای فضای مجازی هستند، بهویژه ابزارهای «هوشمصنوعی مولد» که قادرند با شما گفتگو کنند، در جستجوها به کمکتان بیایند و راهنمایی و مشاوره ارائه دهند. بنابراین، هر اندازه که میتوان به فضای مجازی اعتماد کرد، به هوش مصنوعی نیز میتوان اعتماد کرد.
وی میافزاید: البته ابزارهای هوش مصنوعی چند لایه دیگر هم دارند. یکی از مزایای مهم آنها «تطبیقپذیری» با کاربر است؛ یعنی وقتی شما مدتی با یک ابزار کار میکنید، نیازها، ویژگیها و رفتارهای شما را شناسایی میکند و طبیعتا پاسخهایی ارائه میدهد که بسیار نزدیکتر به نیازهای واقعی شماست. لذا، این ابزارها به ما کمک میکنند فرآیند جستجو را راحتتر انجام دهیم و مسائل و مشکلات را بهویژه در حوزههای رایانهای و مرتبط با فضای مجازی، سریعتر حل کنیم اما میزان اعتماد به این ابزارها کاملا به میزان سواد هوشمصنوعی و دانش و مهارت فرد در استفاده از آنها بستگی دارد.
جای خالی قوانین
وابستگی روزافزون به هوش مصنوعی چه تأثیری بر توانایی تصمیمگیری انسانها خواهد گذاشت؟ ضیاییپرور پاسخ میدهد: اگر از این ابزارها بهدرستی استفاده شود، هر کاربر میتواند یک دستیار تخصصی شخصی برای خودش تربیت کند تا در تمامی امور بهعنوان مشاور در کنار او باشد. مشاوران، اطلاعات را تجزیه و تحلیل میکنند ، اما اجرا یا عدم اجرای یک نظر، تصمیم نهایی است که بر عهده خود فرد باقی میماند.
او در پاسخ به این که آیا قوانین و مقررات فعلی در کشور ما برای استفاده ایمن و اخلاقی از هوشمصنوعی کافی هستند یا نه، توضیح میدهد: در ایران هیچ قانون مشخصی درباره هوشمصنوعی وجود ندارد. در سطح جهانی نیز قوانین بسیار اندکی تصویب شده است. از لحاظ اخلاقی، تنها سند معتبر موجود، «توصیهنامه یا منشور اخلاقی هوش مصنوعی» یونسکو است که دوسه سال پیش تصویب و منتشر شد اما ضمانت اجرایی ندارد و صرفا شامل دغدغهها و توصیههایی در حوزه کاربرد هوش مصنوعی و پیامدهای احتمالی اخلاقیِ استفاده از آن است.
در حوزه پژوهش در ایران، «انجمن ملی علوم» یک توصیهنامه اخلاقی درباره نحوه استفاده از هوشمصنوعی در نگارش مقالات، رسالهها و پژوهشها منتشر کرده است، اما این موارد نیز جنبه قانونگذاری ندارند. ما چه در ایران و چه در سطح جهانی، تا تدوین قوانین رسمی درباره نحوه استفاده از این ابزارها مسیری طولانی در پیش داریم.
اعتماد کورکورانه
دکتر مهدی طریقت، رئیس اندیشکده و پردیس هوشمصنوعی هم در پاسخ به این پرسش که آیا باید به هوشمصنوعی اعتماد کرد یا نه؟ توضیح میدهد: بیشتر پژوهشهای معتبر در سطح جهانی از جمله گزارشهای اخیر نشریه «هوش ماشین نیچر»، اسناد سیاستگذاری «سازمان همکاری و توسعه اقتصادی» و «مؤسسه ملی استاندارد آمریکا» تأکید میکنند که اعتماد به هوشمصنوعی ذاتا با اعتماد میان انسانها متفاوت است. در روابط انسانی، اعتماد معمولا برپایه نیت، اخلاق، تجربه زیسته و قضاوت انسانی شکل میگیرد، درحالی که در هوشمصنوعی، موضوع اصلی «قابلیت اتکا»ست؛ یعنی میزان پیشبینیپذیری، شفافیت، محدودیتهای روشن و چارچوبهای نظارتی که عملکرد سامانه را قابل کنترل میکند.
او ادامه میدهد: در سیستمهای هوشمند مدرن از جمله مدلهایی که برپایه معماریهای مولد پیشرفته مانند «جیپیتی» (GPT)و «جمینای» (Gemini) توسعه یافتهاند، رفتار سیستم، تابع داده، معماری و قیود طراحی است، بنابراین اعتماد به آنها نباید برپایه احساس یا مشابهت با روابط انسانی شکل گیرد، بلکه باید براساس معیارهای آزمونپذیر مانند دقت آماری، نرخ خطا، قابلیت توضیحپذیری، امکان ممیزی خروجیها و سازوکارهای جلوگیری از سوگیری باشد.
طریقت تأکید میکند: تحقیقات نشریه فناوری «MIT» و مطالعات ارزیابی عملکرد مدلهای زبانی توسط مرکز هوشمصنوعی انسانمحور دانشگاه استنفورد نشان میدهد که این سامانهها در حوزههایی مثل تحلیل متن، پردازش دانش و استنتاج سریع، میتوانند بهسطحی از دقت برسند که در بسیاری از کارها از انسانها قابلاعتمادترند، اما در حوزههایی که نیازمند فهم چندلایه، تشخیص نیت یا داوری ارزشی هستند، هنوز محدودیتهای جدی دارند. بههمین دلیل، اعتماد به هوشمصنوعی باید مشروط، مرحلهای و مبتنی بر نظارت باشد؛ یعنی در کاربردهایی مانند پزشکی، مالی، سیاستگذاری عمومی یا امنیت، هرگز نباید تصمیم نهایی را بدون حضور انسان به سیستم واگذار کرد.
به گفته این کارشناس، در حوزههایی با ریسک کمتر، مانند پیشنهاد محتوای غیرتخصصی و مهم، تحلیل اولیه دادهها یا تولید ایده، اتکای بیشتر به هوشمصنوعی قابلقبول است، اما حتی در این موارد نیز کنترل کیفیت انسانی ضروری خواهد بود.
وی تصریح میکند: هوشمصنوعی نه یک سوژه قابل اعتماد مانند انسان، بلکه یک ابزار قابل اتکا همچون هواپیما یا سامانه مالی است که باید براساس عملکرد آزمودهشده و استانداردهای شفاف سنجیده شود. اعتماد بهآن باید نه مشابه اعتماد انسانی، بلکه مشابه اعتماد مهندسی و مبتنی بر ارزیابی دقیق، نظارت مستمر و تعیین حدود کاربرد باشد وگرنه سقوط، قطعی است.
سنجش اعتمادپذیری
در شرایطی که سامانههای هوشمند، هر روز در حوزههای حساستری مانند پزشکی، امور مالی و حتی نظامی بهکار گرفته میشوند و خطای یک الگوریتم میتواند پیامدهای فاجعهبار و غیرقابلجبرانی به دنبال داشته باشد، آیا ضرورت ندارد استانداردهای جهانی یا حتی ملی برای سنجش میزان اعتمادپذیری هوشمصنوعی تعریف شود؟
رئیس اندیشکده و پردیس هوشمصنوعی میگوید: تقریبا هیچ کارشناسی در جهان تردید ندارد که تعریف استانداردهای ملی و حتی جهانی برای سنجش اعتمادپذیری هوشمصنوعی هم ممکن است و هم کاملا ضروری. دلیل این ضرورت هم روشن است، این فناوری حالا دیگر مثل یک ابزار معمولی نیست و تصمیمهای آن میتواند روی سلامت، اقتصاد، آموزش، قضاوت و حتی امنیت یک کشور، اثر مستقیم بگذارد. گزارشهای نهادهای علمی معتبر مثل مؤسسه ملی استاندارد و فناوری آمریکا و همچنین دستورالعملهای تازه اروپا نشان میدهد که میتوان برای معیارهایی مثل میزان خطا، شفافیت، قابلیت توضیحپذیری، امنیت، مقاومت در شرایط غیرعادی و امکان کنترل توسط انسان، چارچوبهای سنجش مشترک تعریف کرد.
طریقت میافزاید: چنانچه معیار واحد و قابلاندازهگیری وجود نداشته باشد، نه میتوان سازندگان این فناوری را مسئول دانست و نه میتوان از مردم خواست به خروجیهای هوشمصنوعی اعتماد نکنند.
کشورهای پیشرو همین امروز در حال تدوین استانداردهای ملی هماهنگ با چارچوبهای جهانی هستند تا مطمئن شوند که مدلهای هوشمند، مخصوصا مدلهای بزرگ و قدرتمند، بدون نظارت رها نمیشوند. برای ایران هم این موضوع فقط یک انتخاب نیست؛ اگر معیارهای بومی و قابلسنجش نداشته باشیم، هم در زمینه امنیت دادهها و هم در استقلال فناوری آسیبپذیر میشویم، بنابراین، تعریف استانداردهای ارزیابی هم کاملا ممکن و هم برای آیندهنگری و حفاظت از منافع ملی یک ضرورت
اجتنابناپذیر است.
تعریف حق اعتراض
رئیس اندیشکده و پردیس هوشمصنوعی، ضمن تعریف جایگاه حقوقی ناظر انسانی در دیوان عدالت اداری و تثبیت قانونیِ حق اعتراض و بازبینی انسانی میگوید: باید قانونی تصویب شود که براساس آن، شهروندان حق داشته باشند نسبت به هر تصمیمی که توسط سامانه هوشمند دولتی یا عمومی علیه آنها گرفته شده، به یک مقام انسانی شکایت کنند. این امر مانع از آن میشود که بوروکراسی اداری پشت «تصمیم سیستم» پنهان شود.
طریقت توضیح میدهد: قانون باید تصریح کند که هیچ تصمیم نهایی که بر زندگی، آزادی یا معیشت افراد اثرگذار است، نباید صرفا توسط ماشین گرفته شود و شهروندان باید این حق قانونی را داشته باشند که در صورت نارضایتی از تصمیم هوشمصنوعی، پرونده خود را به یک ناظر انسانی ارجاع دهند و آن انسان، قدرت لغو نظر ماشین را داشته باشد.
وی میافزاید: پیشنهاد نهایی من، قانون الزام به بیمه مسئولیت برای توسعهدهندگان سیستمهای حساس است. همانطور که رانندگان ملزم بهداشتن بیمه شخص ثالث هستند، شرکتهایی که الگوریتمهای تصمیمساز درحوزههای حیاتی میسازند باید ملزم بهداشتن پوششهای بیمهای و صندوقهای جبران خسارت باشند تا اگر هوشمصنوعی خطایی کرد و شهروندی آسیب دید، مسیر دریافت غرامت، شفاف و تضمینشده باشد. این قوانین نه مانع پیشرفت، بلکه ضامن توسعه پایدار و اعتمادپذیری این فناوری خواهند بود.
طریقت هشدار میدهد: بهعنوان یک پژوهشگر معتقدم اگر این بهروزرسانی قانونی انجام نشود، با ورود گستردهتر هوشمصنوعی بهزیرساختهای کشور، شاهد پروندههای قضایی پیچیدهای خواهیم بود که قضات ما با ابزارهای قانونی فعلی قادر بهحل عادلانه آنها نخواهند بود.
