مقدمه
تحولات سریع فناوریهای نوین نظامی، بهویژه در حوزه هوش مصنوعی و رباتیک، موجب ظهور نسل جدیدی از تسلیحات شده است که تحت عنوان «سیستمهای تسلیحاتی خودمختار» یا Lethal Autonomous Weapons Systems (LAWS) شناخته میشوند. این سامانهها قادرند بدون مداخله مستقیم انسان، اهداف را شناسایی، انتخاب و منهدم کنند. گسترش چنین فناوریهایی، مباحث عمیق حقوقی، اخلاقی و انسانی را در عرصه حقوق بینالملل، بهویژه حقوق بشردوستانه بینالمللی، ایجاد کرده است.
مسئله اصلی این است که آیا واگذاری تصمیم مرگ و زندگی به ماشینها با اصول بنیادین حقوق بشردوستانه بینالمللی سازگار است یا خیر. بسیاری از دولتها و سازمانهای بینالمللی معتقدند که فقدان کنترل انسانی مؤثر بر این سامانهها میتواند اصول اساسی حقوق جنگ را نقض کند. در مقابل، برخی دولتها بر این باورند که این فناوریها در صورت استفاده صحیح، حتی ممکن است موجب کاهش تلفات انسانی شوند.
این مقاله تلاش دارد وضعیت حقوقی سیستمهای تسلیحاتی خودمختار را در پرتو اصول بنیادین حقوق بشردوستانه بینالمللی بررسی و چالشهای ناشی از بهکارگیری آنها را تحلیل کند.
مفهوم و ویژگیهای سیستمهای تسلیحاتی خودمختار
سیستمهای تسلیحاتی خودمختار به تسلیحاتی گفته میشود که پس از فعالسازی، بدون دخالت مستقیم انسان قادر به تصمیمگیری درباره استفاده از نیروی قهریه هستند. این سامانهها با استفاده از الگوریتمهای هوش مصنوعی، دادههای محیطی را تحلیل کرده و درباره هدفگیری تصمیم میگیرند.
برخلاف تسلیحات نیمهخودکار یا کنترلازراهدور مانند پهپادهای سنتی، در LAWS نقش انسان به حداقل میرسد. به همین دلیل، موضوع «کنترل انسانی معنادار» یا Meaningful Human Control به یکی از مباحث محوری حقوقی تبدیل شده است.
ویژگیهای اصلی این سیستمها عبارتاند از:
استقلال عملیاتی در انتخاب و حمله به هدف ، استفاده از هوش مصنوعی و یادگیری ماشینی ، سرعت بالای تصمیمگیری ، کاهش نقش مستقیم انسان در فرآیند کشتار و قابلیت عملکرد در محیطهای پیچیده جنگی
مبانی حقوق بشردوستانه بینالمللی
حقوق بشردوستانه بینالمللی مجموعه قواعدی است که در زمان مخاصمات مسلحانه برای محدودسازی آثار جنگ و حمایت از افراد غیرنظامی اعمال میشود. مهمترین منابع این حقوق شامل:
کنوانسیونهای چهارگانه ژنو ۱۹۴۹
پروتکلهای الحاقی ۱۹۷۷
حقوق بینالملل عرفی
اصول کلی حقوقی
میباشد.
در ارزیابی مشروعیت LAWS، چند اصل بنیادین حقوق بشردوستانه نقش اساسی دارند:
اصل تفکیک (Distinction)
اصل تفکیک مهمترین اصل حقوق بشردوستانه است. مطابق این اصل، طرفهای مخاصمه باید همواره میان اهداف نظامی و افراد غیرنظامی تمایز قائل شوند و حملات صرفاً متوجه اهداف نظامی باشد.
سیستمهای خودمختار با چالش جدی در تشخیص دقیق غیرنظامیان مواجهاند؛ زیرا محیط جنگی اغلب پیچیده، متغیر و مبتنی بر قضاوت انسانی است. تشخیص رفتارهای انسانی، وضعیت تسلیم، جراحت یا حضور غیرنظامیان، نیازمند تحلیل اخلاقی و انسانی است؛ امری که ماشینها فاقد آن هستند.
برای مثال، یک کودک در حال حمل شیء فلزی ممکن است توسط سامانه بهعنوان تهدید شناسایی شود، در حالیکه انسان قادر به تشخیص تفاوت میان اسباببازی و سلاح واقعی است.
در نتیجه، بسیاری از حقوقدانان معتقدند LAWS ممکن است با اصل تفکیک ناسازگار باشد.
اصل تناسب (Proportionality)
بر اساس اصل تناسب، حمله نظامی نباید موجب خسارات جانبی بیش از حد نسبت به مزیت نظامی مورد انتظار شود.
اجرای این اصل نیازمند ارزیابی انسانی، اخلاقی و ذهنی است. تعیین اینکه چه میزان خسارت غیرنظامی «بیش از حد» محسوب میشود، صرفاً یک محاسبه عددی نیست بلکه مبتنی بر قضاوت انسانی است.
سیستمهای خودمختار فاقد درک اخلاقی و انسانیاند و نمیتوانند ارزش جان انسانها یا آثار انسانی حملات را همانند انسان تحلیل کنند. بنابراین احتمال نقض اصل تناسب در عملیات این سامانهها افزایش مییابد.
اصل احتیاط در حمله (Precaution)
مطابق حقوق بشردوستانه، طرفهای مخاصمه موظفاند تمام اقدامات احتیاطی ممکن را برای کاهش آسیب به غیرنظامیان اتخاذ کنند.
این اصل مستلزم:
ارزیابی مداوم شرایط میدان نبرد
امکان توقف یا لغو حمله
تحلیل رفتار غیرمنتظره
واکنش متناسب به تغییر وضعیت
است.
در حالیکه سامانههای خودمختار بر اساس دادههای برنامهریزیشده عمل میکنند، شرایط جنگی همواره غیرقابل پیشبینی است. احتمال خطای نرمافزاری، اختلال سایبری یا تصمیمگیری اشتباه میتواند آثار فاجعهباری ایجاد کند.
اصل مسئولیتپذیری
یکی از پیچیدهترین مسائل حقوقی درباره LAWS، موضوع مسئولیت بینالمللی و کیفری است.
در صورت ارتکاب جنایت جنگی توسط یک سیستم خودمختار، تعیین مسئولیت دشوار خواهد بود:
آیا فرمانده نظامی مسئول است؟
آیا برنامهنویس نرمافزار مسئولیت دارد؟
آیا دولت سازنده مسئول است؟
یا تولیدکننده خصوصی پاسخگو خواهد بود؟
حقوق کیفری بینالمللی بر مبنای عنصر معنوی و قصد مجرمانه استوار است؛ اما ماشین فاقد اراده و قصد کیفری است. این موضوع میتواند خلأ جدی مسئولیت ایجاد کند و اصل پاسخگویی را تضعیف نماید.
ماده ۳۶ پروتکل اول الحاقی و بررسی مشروعیت سلاحها
ماده ۳۶ پروتکل اول الحاقی ۱۹۷۷ دولتها را موظف میکند پیش از بهکارگیری هر سلاح جدید، مشروعیت آن را با قواعد حقوق بینالملل بررسی کنند.
در خصوص LAWS، این ارزیابی شامل موارد زیر است:
قابلیت رعایت اصل تفکیک
امکان کنترل انسانی
قابلیت پیشبینی رفتار سامانه
احتمال نقض حقوق بشر و حقوق بشردوستانه
بسیاری از کارشناسان معتقدند به دلیل غیرقابلپیشبینی بودن رفتار سامانههای مبتنی بر یادگیری ماشینی، ارزیابی حقوقی کامل آنها دشوار است.
مواضع دولتها و سازمانهای بینالمللی
موضوع LAWS در چارچوب «کنوانسیون برخی سلاحهای متعارف» (CCW) در سازمان ملل متحد مورد بررسی قرار گرفته است.
کشورهای خواهان ممنوعیت
برخی کشورها و سازمانهای حقوق بشری خواهان ممنوعیت کامل LAWS هستند؛ زیرا معتقدند این سامانهها کرامت انسانی را نقض میکنند. کمپین بینالمللی «Stop Killer Robots» نیز در همین راستا فعالیت میکند.
کشورهای مخالف ممنوعیت
برخی قدرتهای نظامی مانند ایالات متحده امریکا ، روسیه و چین با ممنوعیت کامل مخالفاند و بر تنظیم مقررات محدودکننده بهجای ممنوعیت تأکید دارند.
این کشورها معتقدند فناوری خودمختار میتواند:
دقت حملات را افزایش دهد
تلفات نیروهای نظامی را کاهش دهد
سرعت واکنش دفاعی را بالا ببرد
چالشهای اخلاقی سیستمهای خودمختار
فراتر از مباحث حقوقی، LAWS چالشهای عمیق اخلاقی ایجاد کردهاند. مهمترین پرسش اخلاقی این است که آیا میتوان تصمیم درباره حیات انسان را به ماشین سپرد؟
منتقدان معتقدند حذف عنصر انسانی از فرآیند کشتار:
کرامت انسانی را تضعیف میکند
جنگ را غیرانسانیتر میسازد
آستانه توسل به زور را کاهش میدهد
مسئولیت اخلاقی را مبهم میکند
در مقابل، حامیان این فناوری استدلال میکنند که ماشینها ممکن است کمتر از انسان دچار احساسات، انتقام یا خطاهای ناشی از خشم شوند.
ارزیابی نهایی وضعیت حقوقی LAWS
در حال حاضر هیچ معاهده بینالمللی خاصی که سیستمهای تسلیحاتی خودمختار را صراحتاً ممنوع کرده باشد وجود ندارد. با این حال، این سامانهها همچنان تابع قواعد کلی حقوق بشردوستانه بینالمللی هستند.
مشروعیت حقوقی LAWS وابسته به میزان توانایی آنها در رعایت اصول:
تفکیک
تناسب
احتیاط
مسئولیتپذیری
است.
با توجه به محدودیتهای فعلی فناوری هوش مصنوعی، بسیاری از حقوقدانان معتقدند سامانههای کاملاً خودمختار هنوز قادر به رعایت کامل این اصول نیستند. از همین رو، ضرورت تدوین مقررات بینالمللی الزامآور برای کنترل یا ممنوعیت این تسلیحات بیش از پیش احساس میشود.
نتیجهگیری
سیستمهای تسلیحاتی خودمختار یکی از پیچیدهترین چالشهای حقوق بینالملل معاصر محسوب میشوند. پیشرفت فناوری هوش مصنوعی موجب شده جنگهای آینده بیش از هر زمان دیگری به تصمیمگیری ماشینی وابسته شوند. با وجود مزایای نظامی احتمالی، این سامانهها خطرات جدی برای اصول بنیادین حقوق بشردوستانه بینالمللی ایجاد میکنند.
مهمترین نگرانیها شامل ناتوانی در تشخیص دقیق غیرنظامیان، دشواری اجرای اصل تناسب، فقدان قضاوت انسانی و ابهام در مسئولیت کیفری است. در نتیجه، جامعه بینالمللی با ضرورت ایجاد چارچوب حقوقی روشن برای تنظیم یا محدودسازی این فناوری مواجه است.
به نظر میرسد تا زمانی که «کنترل انسانی مؤثر» بر تصمیمگیری مرگبار تضمین نشود، مشروعیت حقوقی سیستمهای تسلیحاتی کاملاً خودمختار همچنان محل تردید جدی خواهد بود.