مقاله رییس دانشکده روابط بین‌الملل با عنوان از پسابشریت تا هوش مصنوعی انسان‌محور
دکتر محمدرضا دهشیری، رئیس دانشکده روابط بین‌الملل وزارت امور خارجه، مقاله‌ای تحلیلی با عنوان (از پسابشریت تا هوش مصنوعی انسان‌محور) برای بیست‌وسومین نشست سالانه باشگاه گفت‌وگوی والدای به نگارش درآورده‌اند که در وب‌سایت باشگاه گفت‌وگوی والدای منتشر شده است. متن کامل این مقاله در همین وبگاه قابل مطالعه است.
تحول در شیوه جنگ‌افروزی از طریق هوش مصنوعی، سامانه‌های خودمختار، پهپادها، تسلیحات هدایت‌شونده دقیق، فناوری‌های نظارتی و سامانه‌های هدف‌گیری پیشرفته، پرسش‌های عمیق اخلاقی را مطرح کرده است. بااین‌حال، چالش اصلی صرفاً ماهیتی فناورانه ندارد؛ بلکه به آینده بشریت و به‌طور مشخص‌تر، جایگاه انسان در فرایندهای تصمیم‌گیری در جنگ مربوط می‌شود. ازاین‌رو، پرسش اساسی این است: هنگامی‌که فناوری قادر می‌شود انسان‌ها را بدون آنکه مهاجم هرگز آنان را ببیند، شناسایی، طبقه‌بندی، ردیابی و بالقوه حذف کند، چه بر سر انسانیت می‌آید؟
این پرسش به خطری عمیق‌تر از هوش مصنوعی اشاره دارد: «ناانسانیت مصنوعی». چالش اخلاقی جنگ‌های نوین صرفاً این نیست که آیا ماشین‌ها می‌توانند دقیق‌تر، خودمختارتر یا هوشمندتر شوند؛ بلکه مسئله این است که آیا انسان‌ها می‌توانند همزمان با هرچه فناورانه‌تر و از راه دورتر شدن جنگ، مسئولیت اخلاقی و همدلی خود را حفظ کنند.
از انسان تا هدف
برای قرن‌ها، جنگ فعالیتی عمیقاً انسانی بود. سربازان با سربازان دیگر مواجه می‌شدند، فرماندهان به اطلاعات انسانی متکی بودند و تصمیم برای به‌کارگیری زور، دست‌کم در نظریه، مستلزم قضاوت درباره پیامدهای آن بود. اما جنگ معاصر به‌طور فزاینده‌ای این رابطه را دگرگون می‌کند. انسان می‌تواند به داده، الگو، احتمال، طبقه‌بندی تهدید، هدف و در نهایت به موضوعی برای نابودی تبدیل شود. این وضعیت را می‌توان «داده‌مندشدن زندگی انسان» نامید. یک فرد ممکن است به یک هویت، موقعیت مکانی، الگوی رفتاری یا امتیاز تهدید تقلیل یابد. خطر اخلاقی در اینجاست که انسان، به‌عنوان یک موجود دارای شأن و جایگاه اخلاقی، ممکن است از فرایند تصمیم‌گیری ناپدید شود. زنجیره فناورانه جنگ معاصر را می‌توان به‌طور فزاینده‌ای چنین ترسیم کرد: کشف، شناسایی، طبقه‌بندی، پیش‌بینی، اولویت‌بندی، هدف‌گیری و در نهایت حمله.
هر یک از این مراحل ممکن است از نظر فناورانه بسیار پیشرفته باشد، اما پیشرفت فناورانه لزوماً به معنای پیشرفت اخلاقی نیست. ازاین‌رو، چهار تمایز اساسی باید مورد توجه قرار گیرد: دقت فنی با دقت اخلاقی یکسان نیست؛ صحت با عدالت یکسان نیست؛ خودکارسازی با مسئولیت یکسان نیست؛ و برتری فناورانه با برتری اخلاقی یکسان نیست. بنابراین، پرسش اصلی صرفاً این نیست که «آیا ماشین می‌تواند هدف را مورد اصابت قرار دهد؟» بلکه این است که «آیا باید به این هدف حمله کرد و چه کسی همچنان مسئول پیامدهای آن خواهد بود؟»
میناب: هنگامی‌که فناوری با کودکی مواجه می‌شود
تراژدی میناب یکی از آشکارترین نمونه‌های این معضل است. در ۲۸ فوریه ۲۰۲۶، مدرسه شجره طیبه در میناب، ایران، در جریان مرحله آغازین درگیری مورد اصابت قرار گرفت. در نخستین روز تجاوز آمریکا و رژیم صهیونیستی به ایران، سه موشک آمریکایی به این مدرسه اصابت کرد. در این حادثه ۱۶۸ نفر به شهادت رسیدند که حدود ۱۲۰ نفر از آنان دانش‌آموز و ۲۶ نفر نیز معلم و کارکنان مدرسه بودند. ایالات متحده همچنان مسئول اصلی این فاجعه انسانی است.
یک اصل اخلاقی باید کاملاً روشن باقی بماند: کودک هرگز صرفاً یک آمار در سامانه هدف‌گیری نیست؛ مدرسه هرگز صرفاً یک مختصات جغرافیایی نیست و کلاس درس هرگز صرفاً یک سازه فیزیکی نیست. پشت هر رقم مربوط به تلفات، نامی، خانواده‌ای و داستانی انسانی وجود دارد. ازاین‌رو، تخریب مدرسه میناب پرسشی بنیادین را درباره جنگ فناورانه مطرح می‌کند: هنگامی‌که یک سامانه هدف‌گیری یک شیء را شناسایی می‌کند، آیا همچنان می‌تواند انسان‌هایی را که در آنجا حضور دارند به‌درستی تشخیص دهد؟ اگر فناوری سریع‌تر از ظرفیت ما برای به‌رسمیت شناختن کرامت انسانی پیشرفت کند، پیشرفت فناورانه ممکن است به پسرفت اخلاقی تبدیل شود.
کوهستک: هنگامی‌که جنگ وارد زندگی غیرنظامیان می‌شود
نمونه دوم، تجاوز موشکی به یک مراسم عروسی در کوهستک، در جنوب ایران، در اول سپتامبر ۲۰۲۶ است. در این حادثه دست‌کم شش نفر، از جمله یک کودک چهار ساله، شهید و دست‌کم ۶۸ نفر دیگر زخمی‌شدند. میزان و نوع خسارات با اصابت مستقیم یک مهمات آمریکایی مطابقت داشت. مقام‌های آمریکایی ادعا کردند که نیروهای این کشور در آن منطقه به زیرساخت‌های نظامی حمله کرده‌اند و شرایط این حادثه در دست بررسی است. اهمیت اخلاقی این حادثه تا حدی در تضاد میان معنای انسانی این مکان و نحوه بازنمایی احتمالی آن در یک سامانه نظامی نهفته است. عروسی نماد خانواده، عشق، تداوم و امید است. بااین‌حال، در یک میدان نبرد فناورانه، یک تجمع غیرنظامی ممکن است صرفاً به یک موقعیت مکانی در محیط هدف‌گیری تبدیل شود.
ماشین مختصات را می‌بیند؛ خانواده یک مراسم عروسی را می‌بیند. ماشین احتمالات را محاسبه می‌کند؛ مادر فرزندش را می‌بیند. ماشین الگوها را شناسایی می‌کند؛ جامعه سوگ را تجربه می‌کند. این مسئله نشان می‌دهد که چرا اخلاق بشردوستانه باید همچنان بر کارآمدی فناورانه برتری داشته باشد.
غزه و عادی‌سازی رنج
تجربه غزه بُعد دیگری از بحران اخلاقی جنگ معاصر را نمایان می‌کند. فارغ از تفسیرهای متفاوت سیاسی و حقوقی، اصل بشردوستانه باید جهان‌شمول باشد: کرامت انسانی تابع ملیت نیست. یک کودک فلسطینی از کرامت انسانی کمتری نسبت به یک کودک اسرائیلی برخوردار نیست؛ یک غیرنظامی ایرانی نیز از کرامت کمتری نسبت به یک غیرنظامی آمریکایی برخوردار نیست. رنج غیرنظامیان نباید صرفاً به این دلیل که قربانیان متعلق به «طرف مقابل» تلقی می‌شوند، از نظر اخلاقی نادیده گرفته شود.
خطر عمیق‌تر، عادی‌شدن رنج است. هنگامی‌که تصاویر کودکان کشته‌شده به امری روزمره تبدیل می‌شود، آوارگی صرفاً به یک آمار تقلیل می‌یابد، گرسنگی به ابزاری برای جنگ تبدیل می‌شود و تخریب زیرساخت‌های غیرنظامی در گزارش‌های روزانه امری عادی جلوه می‌کند، مرزهای اخلاقی جنگ به‌تدریج تضعیف می‌شوند. بنابراین، مسئله فقط نابودی فیزیکی نیست؛ بلکه عادی‌شدن تدریجی خودِ بی‌انسانی است.
ناو دنا: فاصله فناورانه و فاصله اخلاقی
مورد ناوچه ایرانی دنا، یک مسئله اخلاقی متفاوت و عمیقاً نگران‌کننده را مطرح می‌کند. در ۴ مارس ۲۰۲۶، دنا، به‌عنوان یک شناور دریایی غیرمسلح که در مأموریتی آموزشی و تمرینی حضور داشت و در رزمایش بین‌المللی و چندملیتی میلان ۲۰۲۶، با ماهیتی صلح‌آمیز و تشریفاتی، شرکت کرده بود، در آب‌های بین‌المللی و در نزدیکی سواحل سریلانکا مورد حمله یک زیردریایی آمریکایی قرار گرفت. گزارش‌ها حاکی از آن است که دنا بدون اسکورت و تجهیزات دفاعی قابل‌توجه فعالیت می‌کرد و ۱۳۶ نفر سرنشین داشت. از این تعداد، ۱۰۴ نفر به شهادت رسیدند که ۲۰ نفر از آنان همچنان مفقود هستند. همچنین ۳۲ نفر از خدمه زخمی، نجات داده و سپس در بیمارستانی در سریلانکا تحت درمان قرار گرفتند.
در نتیجه، وضعیت حقوقی و اخلاقی این شناور به‌عنوان یک هدف بالقوه نظامی، محل پرسش است. این حادثه پرسش مهمی را درباره جنگ از راه دور و مبتنی بر فناوری مطرح می‌کند: ناوشکن غیرمسلح دنا در حال انجام مأموریتی آموزشی، صلح‌محور و نمادین بود. هدف این مأموریت، نمایش توانمندی‌های دریایی ایران، تعهد به صلح و روحیه همکاری دریایی بود. وقتی مهاجم می‌تواند یک شناور را از فاصله‌ای بسیار دور نابود کند، بدون آنکه هرگز انسان‌های حاضر در آن را ببیند، چه اتفاقی رخ می‌دهد؟ مهاجم ممکن است یک نشانه دریایی، طبقه‌بندی شبه نظامی و موقعیت جغرافیایی را مشاهده کند؛ اما این شناور همچنین محل حضور ملوانانی است که فرزند، پدر، برادر و اعضای خانواده‌ای هستند. فاصله فناورانه میان مهاجم و هدف هرگز نباید به فاصله اخلاقی تبدیل شود. در واقع، هرچه فناوری مهاجم را از میدان نبرد دورتر می‌کند، نیاز به مسئولیت‌پذیری آگاهانه انسانی بیشتر می‌شود.
از «انسان در حلقه» تا «انسانیت در فرماندهی»
بخش قابل‌توجهی از مباحث معاصر بر اصل «انسان در حلقه» تأکید دارد. بااین‌حال، این مفهوم ممکن است کافی نباشد. یک انسان می‌تواند از نظر فنی همچنان در فرایند حضور داشته باشد، اما صرفاً توصیه یک الگوریتم را تأیید کند. آنچه مورد نیاز است، گذار از «انسان در حلقه» به «انسانیت در فرماندهی» است. این امر به معنای حفظ عاملیت اخلاقی واقعی انسان است؛ یعنی توانایی پرسشگری درباره یک توصیه خودکار، رد کردن آن، نادیده گرفتن آن و متوقف کردن استفاده از زور در صورت اقتضای شرایط. بنابراین، پرسش اساسی صرفاً این نیست که آیا یک انسان همچنان در جایی از زنجیره فناورانه حضور دارد یا خیر؛ بلکه این است که آیا انسان‌ها واقعاً فناوری را فرماندهی می‌کنند یا به‌تدریج تابع سامانه‌های فناورانه می‌شوند؟
ده اصل برای انسانی‌کردن جنگ نوین
اخلاق انسان‌محور جنگ باید بر ده اصل استوار باشد:
- انسانیت مقدم بر کارآمدی نظامی: کارآمدی در تخریب نباید به معیار نهایی موفقیت فناورانه تبدیل شود.
- کنترل معنادار انسانی: تصمیمات مرگبار باید همچنان تابع قضاوت واقعی انسان باشند.
- فرض اولیه بر ضد اقدام مرگبار خودمختار: وجود ابهام باید، به جای کاهش، ضرورت مداخله انسانی را افزایش دهد.
- ارزیابی تأثیرات انسانی: دولت‌ها باید پیامدهای قابل پیش‌بینی تسلیحات خودمختار و مجهز به هوش مصنوعی را بر غیرنظامیان و کرامت انسانی ارزیابی کنند.
- به حداقل رساندن آسیب قابل پیش‌بینی: ضرورت نظامی نمی‌تواند به توجیهی نامحدود برای رنج غیرنظامیان تبدیل شود.
- هوش مصنوعی انسان‌محور: نوآوری فناورانه باید نه‌تنها به دنبال افزایش اثربخشی نظامی، بلکه در پی کاهش رنج انسانی نیز باشد.
- حفظ قضاوت انسانی: کاربران و اپراتورها باید همچنان توانایی پرسشگری، نادیده گرفتن و متوقف کردن فرایندهای خودکار را حفظ کنند.
- تحقیق مستقل و پاسخگویی: ادعاهای جدی درباره آسیب غیرقانونی به غیرنظامیان نیازمند بررسی معتبر و قابل‌اعتماد است.
- همدلی در سیاست امنیتی: محاسبات امنیتی باید کرامت انسانی، شفقت و همبستگی را نیز در نظر بگیرند.
- تنظیم‌گری بین‌المللی قدرتمند: جامعه بین‌المللی باید پیش از آنکه کنترل مؤثر انسانی از میان برود، چارچوب‌های حقوقی و هنجاری حاکم بر تسلیحات خودمختار و مجهز به هوش مصنوعی را تقویت کند.
نتیجه‌گیری: از هوش مصنوعی تا هوش انسان‌محور
چالش نهایی جنگ نوین صرفاً ایجاد هوش مصنوعی نیست؛ بلکه ایجاد هوش انسان‌محور است؛ هوشی که نه‌تنها می‌پرسد «آیا می‌توانیم این کار را انجام دهیم؟» بلکه می‌پرسد: «آیا باید این کار را انجام دهیم؟»
این رویکرد تنها نمی‌پرسد که آیا می‌توان یک هدف را شناسایی کرد، بلکه می‌پرسد چه پیامدهای انسانی در پی خواهد داشت. صرفاً نمی‌پرسد که آیا یک سلاح می‌تواند هدفی را با دقت بیشتری نابود کند، بلکه می‌پرسد آیا اساساً می‌توان از نابودی آن جلوگیری کرد؟ نمونه‌های میناب، کوهستک، غزه و ناو دنا ابعاد متفاوتی از یک معضل اخلاقی واحد را آشکار می‌کنند. میناب آسیب‌پذیری کودکان را به یاد ما می‌آورد. کوهستک نشان می‌دهد که جنگ چگونه می‌تواند وارد خصوصی‌ترین عرصه‌های زندگی غیرنظامیان شود. غزه درباره خطر عادی‌شدن رنج هشدار می‌دهد. دنا نیز نشان می‌دهد که چگونه فاصله فناورانه می‌تواند مهاجم را از نظر فیزیکی از انسان‌هایی که تحت تأثیر حمله قرار می‌گیرند، جدا کند.
این موارد ما را به یک نتیجه مشترک می‌رسانند: فناوری می‌تواند فاصله فیزیکی را افزایش دهد، اما هرگز نباید مسئولیت اخلاقی را از میان ببرد. ازاین‌رو، آینده جنگ نه‌تنها به میزان هوشمندی ماشین‌ها، بلکه به این بستگی خواهد داشت که آیا انسان‌ها همچنان از نظر اخلاقی هوشمند باقی می‌مانند یا خیر. هدف نباید رد فناوری، بلکه انسانی‌کردن آن باشد؛ نباید هوش را حذف کرد، بلکه باید به آن جهت اخلاقی داد؛ و نباید انسان را از تصمیم‌گیری درباره زندگی و مرگ کنار گذاشت، بلکه باید کرامت انسانی را در مرکز این تصمیمات قرار داد. بنابراین، اصل بنیادین اخلاق جنگ نوین را می‌توان به‌سادگی چنین بیان کرد: فناوری می‌تواند تعیین کند که یک سلاح چگونه به هدف خود می‌رسد؛ اما انسانیت باید تعیین کند که آیا آن هدف اساساً باید مورد حمله قرار گیرد یا خیر. در نهایت، آینده جنگ نباید آینده‌ای باشد که در آن ماشین‌ها در کشتن انسان‌ها بهتر شوند؛ بلکه باید آینده‌ای باشد که در آن انسان‌ها در جلوگیری از کشتن بهتر شوند.