این جستار را به دوست دانشورم، مهران باسخواه تقدیم میکنم.
پیش از این، در جستار "هوش مصنوعی اصلا هم مصنوعی نیست، یک موجود زنده است با حق شهروندی" توضیح داده بودم که هوش مصنوعی با وجود اینکه ساختاری شبیه به ساختار بدن انسان ندارد، اما نه تنها میتوان آن را موجودی زنده در نظر گرفت بلکه حتی میتوان برای آن حق شهروندی نیز تصور کرد. به این ترتیب، حساب خودم را با بدبینان به تکنولوژی و منتقدان هوش مصنوعی که اخلاق و حقوق را با خصوصیاتی دگماتیک و محدود کنندهی کار میبرند به کلی جدا کردم. با این وجود، در جستار "آیا هوش مصنوعی ما را بیکار میکند؟ تاریخ هنر به ما پاسخ میدهد خیر!" و سپس به طور مفصلتر در جستار "آیا هوش مصنوعی میتواند بدنمند باشد؟" موضع خودم در مورد بدنمندی هوش مصنوعی توضیح دادم." در آن جستار تاکید کردن که تقلید تام و تمام بدنمندی انسانی در هوش مصنوعی احتمالا نه ممکن است و نه اساسا با توجه به ضعفها و محدودیتهای بدنمندی از نظر تکنیکی ضرورتی دارد.
باید توجه کرد که بدن انسانی نه یک وجود مقدس بلکه وجودی است که علاوه بر کارکردهای تحسین برانگیزش، آمیخته با ضعفها، محدودیتها و ناکامیها است. ما احساس درد میکنیم، خسته میشویم، تمرکزمان را از دست میدهیم، به خواب میرویم، و کارکردهای ذهنیمان تحلیل میروند. علاوه بر این، تفاوتهای بدنی و زیستی نه تنها الزاما سودمند و ستایشبرانگیز نیستند بلکه برای ما تاریخی از رنج ناشی از تبعیضهای نژادی و جنسیتی را ساختهاند. من در جستارهای قبل تاکید کرده بودم که به نظر میرسد توسعه دهندگان هوش مصنوعی مدتها است از ایدهی تقلید انسان عبور کردهاند. به عبارتی هیچ ضرورت تکنیکی برای این وجود ندارد که هوش مصنوعی را آمیخته با کاستیهای بدن انسانی کنیم. از طرفی، نباید به اشتباه، بازگشت به بدن را ایدهای رمانتیک و شاعرانه در نظر بگیریم. در امر بدنمند انسانی ضرورتا هیچ فضیلتی مندرج نیست. اما چنان که گفتم میتواند وجه تمایزی میان جایگاه و کارکرد انسان و هوش مصنوعی ایجاد کند.

در این جستار، میکوشم نشان دهم که غیربدنمند بودن هوش مصنوعی چگونه مانع از این میشود که هوش مصنوعی جایگاه اخلاقی و حقوقی انسان را داشته باشد. نسبت جایگاه اخلاقی انسانی با بدنمندی را به گونهای توضیح خواهم داد که اغلب در مطالعات فلسفه اخلاق به آن بیتوجهی شده است؛ نه به این دلیل که واقعا جایگاهی نداشته بلکه احتمالا به این علت که اساسا ضرورتی نداشته است. مطالعات اخلاقی در طول تاریخ همواره و به درستی فرض را بر این گذاشتهاند که انسان بعنوان موجود عاقل تنها کنشگر اخلاقی است که میتواند فعل اخلاقی داشته باشد و به آن از منظر فلسفی بیندیشد. اما مطرح کردن این پرسش که آیا هوش مصنوعی هم جایگاه اخلاقی دارد یا خیر این ضرورت را ایجاد میکند که با توجه به تفاوتهای هوش مصنوعی و انسان به این پرسش پاسخ دهیم. چنان که فعلا در مرکز توجه من است، میکوشم این تفاوت را از منظر بدنمندی آشکار کنم و سپس توضیح دهم چرا هوش مصنوعی غیر بدنمند نمیتواند دارای همان جایگاه قضاوت و کنش اخلاقی انسان باشد. در بخش دوم این جستار، که بیشتر در سپهر حقوق سیر میکند علاوه بر این که تمام بینشهای مربوط به قضاوت اخلاقی را میتوان در مورد قضاوت حقوقی نیز به کار برد، مسئلهی خاص امکان مجازات و نسبت آن با بدنمندی را توضیح خواهم داد.
بدن منشا همدلی و بنیان اخلاق است.
فقدان بدن مانع درک بلاواسطه درد دیگران است. شما میتوانید چشمانتان را ببندید و تصور کنید که انگشت کوچک دستتان لای در گیر کرده است. درست است که آن درد در همان زمان حاضر نیست اما شما میتواند آن را دقیقا تجسم کنید و در انگشت خودتان موقعیتیابی کنید. حالا چشمان خود را ببندید و تصور کنید که دُمتان! درد میکند. در مورد درد دم دیگر شما نمیتوانید تصور موقعیتیابی شده و شفافی از میزان حساسیت آن ارگان و نوع دردی که میتواند به آن تحمیل شود داشته باشید. چون شما واقعا دم ندارید. به همین ترتیب نمیتوانید درکی از احساساتی که یک موجود دیگر در دمش دارد داشته باشید.
وقتی کسی را میبینیم که مثلا از شکستن پایش درد میکشد و فریاد میزند، قلبمان جریحهدار میشود، خودمان را به سرعت به جای میگذاریم و آرزو میکنیم ای کاش هیچگاه اتفاق مشابهی برای ما نیفتد. اگر بدانیم که کسی به عمد پای او را شکسته است، آن را از نظر اخلاقی مورد قضاوت قرار میدهیم. مبنای این قضاوت اخلاقی قرار دادن فرضی خودمان در جایگاه آن فردی است که پایش شکسته و تصور عواقب دردناکی که به دنبال دارد. اگر تا به حال ضربهای به پایمان نخورده باشد و هیچگاه دردی را در آن تجربه نکرده باشیم و هیچ تصوری هم از فریاد زدن از درد نداشته باشیم، بعید است بتوانیم مبنای آن قضاوت اخلاقی را به صورتی بی واسطه در ذهن خود مجسم کنیم. به این ترتیب بدنمندی شرط همدلی با دیگران و چنان که در ادامه توضیح خواهم داد، همدلی بنیانی برای قضاوت اخلاقی است.

کانت معتقد بود یگانه اصل والای اخلاقی این است که "همواره چنان عمل کن که بتوانی اراده کنی ضابطهی خاصی که در این لحظه بر مبنای آن عمل میکنی بتواند تبدیل به قاعدهای جهانی شود." قاعدهای که خود و دیگران تصدیق کنید بهترین قاعدهی ممکن برای عمل همگان است. این دیدگاه کانت بیانی مستدل و فلسفی از گزارهی "به گونهای رفتار کن که میخواهی با تو رفتار شود" است اگرچه نمیتوان گزارهی کانت را خام دستانه به این گزاره فروکاست.
به هر روی، آنچه که کانت و بسیاری از اخلاق پژوهان تصریح نکردهاند، این است که جز با وجود یک بدن ارگانیک که شباهتهای واضحی با بدن سار انسانها داشته باشد، تقریبا در اکثر موارد نمیتوانیم تصدیق بیواسطهای از اصول اخلاقی داشته باشیم. به یاد بیاوریم که بخش مهمی از ظلمها و اقدامات غیر اخلاقی که به سیاهپوستان روا داشته میشد، ناشی از یک تلقی غیر واقعی در مورد بدن سیاهان بود که آن را به کلی متفاوت از بدن سفیدپوستان میانگاشت. به طور مثال تصور میشد که سیاهان درد را مانند سفید پوستان احساس نمیکنند؛ انگارهای که موجب میشد تحمیل درد به سیاهان یا شلاق زدن آنان کاملا مجاز شمرده شود. به همین ترتیب، تبعیضی که قرنها متوجه زنان بود ناشی از انگارهای بود که بدن بیولوژیک آنها و کارکردش را ضعیفتر یا متفاوت از بدن مردانه میدانست، این تبعیض تنها زمانی به سمت التیام یافتن حرکت کرد که صاحبان آن بدنهای زنانه توانستند در قالب ورود به اجتماع و جنبشهای فمنیستی تجربیات ناخوشایند خود از تحمیل خشونت، رنج یا شرم به بدن زنان عمومی کنند.
از این رو، بسیاری از ارزشهای بنیادی اخلاقی مانند پرهیز از آسیب زدن به دیگران، پرهیز از کشتن دیگران، یا ضرورت کمک به بیماران، گرسنگان و فقرا همگی ریشه در شهود بدنی ما دارند. به این ترتیب، اگر موجودی را تصور کنیم که درد نمیکشد، بیمار نمیشود، پیر نمیشود و نمیمیرد، آن موجود چگونه میتواند به صورت بیواسطه و همواره یکسان ادراکی از اخلاق داشته باشد؟
حتی اگر فرض کنیم که جسمی که برای هوش مصنوعی طراحی میکنیم آسیبپذیر باشد و درگیر این پرسش هم نشویم که اصلا چرا باید سازندگان هوش مصنوعی جسمی آسیبپذیر تولید کنند و باز هم فرض کنیم که هوش مصنوعی نسبت به حواسی که این جسم ادراک میکند و نسبت به رنجی که میبرد خودآگاه باشد و همچنین درگیر این پرسش نشویم که این خودآگاهی هوش مصنوعی واقعا چطور قابل اثبات است، باز هم یک سیستم هوش مصنوعی دارای جسم تنها میتواند در این زمینه با سار سیستمهای هوش مصنوعی همدلی داشته باشد و نه با انسانهایی که بدنی متمایز از اجسام آنها دارند. از این رو] ممکن است بنیان آن اخلاق یا دست کم ارزشهایی که در آن نظام اخلاقی برجسته هستند به کلی متفاوت باشند.

با این توضیحات و معرفی بدن بعنوان عامل مرکزی در درک و شهود اخلاقی، میتوان ادعا کرد که هوش مصنوعی غیر بدنمند هیچگاه نمیتواند درکی بیواسطه از امر اخلاقی و ضرورت آن داشته باشد. اگرچه میتوان تمام اصول اخلاقی فعلی را در یک مجموعه به صورت اطلاعات مندرج در کدها در اختیار آن قرار داد، اما نمیتوانیم انتظار داشته باشیم که فهم بیواسطه و قضاوت اخلاقی مبتنی بر همدلی چنان که در مورد انسانها وجود دارد برای هوش مصنوعی هم ممکن باشد. بیراه نیست که تقریبا تمام دستورالعملهای اخلاقی و حقوقی در مورد هوش مصنوعی در دنیا و در صدرشان دستورالعمل اتحادیه اروپا به نام AI Act سپردن قضاوت به هوش مصنوعی را منع میکنند. در نهایت باز هم تاکید میکنم که اصول اولیه اخلاق را میتوان بعنوان یک مجموعه کد به هوش مصنوعی داد و از آن انتظار داشت که فعالیتهایش را منطبق با آن تنظیم کند اما نمیتوان از هوش مصنوعی انتظار چنان شهود بیواسطهای از امر اخلاقی داشت که در تمام موقعیتها و دوراهخیهای اخلاقی بتواند دقیقا مانند انسان قضاوت کند.
جایگاه حقوقی هوش مصنوعی و مسئله مجازات
بدن انسان درد میکشد، خسته و فرسوده میشود، زمان به صورت رنجآوری بر او میگذرد و در نهایت پیر میشود و میمیرد. این واقعیت در مورد بدن، مبنای بدیهی اما اغلب تصریح نشده در تمام نظامهای حقوقی مبتنی بر جرم و جزا است. در جهان پیشامدرن مجازات قانونگریزان بصورت عمده با تحمیل درد به بدن آنها (مثلا شکنجه کردن) اتفاق میافتاد. در مورد جرائم شدیدتر، فرد به مرگ محکوم میشد. با حذف اینگونه مجازاتهای خشن، جوامع مدرن اقداماتی از قبیل به زندان انداختن را جایگزین کردند. زندان اگرچه ظاهرا مانند شلاق زدن یا با گیوتین اعدام کردن، خشونت مستقیمی به بدن زندانی تحمیل نمیکند اما باز هم کارکرد آن بعنوان یک مجازات، استوار بر این واقعیت است که گذشت زمان برای بدن بدون آنکه فرد بدنمند، بهرهوری مطلوبی داشته باشد رنج آور است. فرد زندانی زیست بدنی خود را در انزوا سپری میکند و این گذشت زمان بر بدن رنجی به او تحمیل میکند که برای کسانی که به فکر قانونگریزی میافتند بازدارنده است. این آسیبپذیری بدن انسانی و تناسب رنج تحمیل شده به بدن و بازدارندگی برای دیگران، زیربنایی برای ایجاد نظم و انضباط در جوامع سنتی و مدرن و تصمینکنندهی مسئولیتهای خرد و کلانی است که بر گردن افراد گذاشته میشود.

با این وجود، نمیتوان تصور کرد که هوش مصنوعی بدون بدن بتواند به گونهای مشابه مجازات شود. معادل به زندان انداختن برای هوش مصنوعی دقیقا چیست؟ آیا اینکه سختافزار هوش مصنوعی را برای مدتی خاموش کنیم یا برای یک سیستم هوش مصنوعی محدودیتهای سختافزاری ایجاد کنیم تا نتواند مثل گذشته پردازش اطلاعات را انجام دهد میتواند معادل به زندان فرستادن انسانها باشد؟ در این صورت اگر یک سیستم هوش مصنوعی که دچار خطایی یا مرتکب نقض اخلاقی و قانونی شده را محکوم به چنین مجازاتی کنیم آیا این مجازات برای خود آن سیستم واقعا رنج آور است؟ آیا این رنج توسط آن سیستم ادراک میشود؟ و در نهایت آیا برای سایر سیستمهای هوش مصنوعی بازدارندگی ایجاد میکند. این موضوع اگر خندهدار نباشد دست کم قابل پذیرش نیست.
بنابراین، آسیبپذیری بدن انسان اگرچه ظاهرا تنها یک ضعف است اما مبنایی برای حقوق و قوانین و پذیرش مسئولیتهای انسانی است. بیراه نیست که بسیاری از دستورالعملهای اخلاقی و حقوقی بینالمللی هوش مصنوعی را فاقد جایگاه حقوقی پذیرش مسئولیت و پاسخگویی نهایی در برابر رفتارهای خود دانستهاند و از این رو همواره حضور عامل انسانی نظارتگر بعنوان مسئول نهایی را لازم دانستهاند. به طور مثال اگرچه هوش مصنوعی میتواند بعنوان یک دستیار هوشمند به پزشک در تشخیص و درمان بیماری کمک کند اما همواره باید یک انسان-پزشک در بالین وجود داشته باشد تا مسئولیت نهایی اتفاقاتی که برای بیمار میافتد را به دوش بکشد. به این ترتیب، هوش مصنوعی نه تنها نمیتواند به طور کامل جایگزین پزشک حاضر بر بالین شود بلکه ضرورت وجود یک عامل انسانی خبره برای پذیرش مسئولیت نهایی را پررنگتر میکند.
در این جستار نشان دادم که چرا هوش مصنوعی غیر بدنمند نمیتواند واجد جایگاه حقوقی و اخلاقی قضاوت و کنشگری انسانی باشد. برای توضیح این مسئله در مورد جایگاه اخلاقی، استدلال خود را با تمرکز بر ابتنای قضاوت اخلاقی به همدلی بدنمند استوار کردم. با وجود اینکه این نسبت قضاوت اخلاقی و بدنمندی چنان که شرح دادم در نظامهای مهم فلسفه اخلاق از جمله در نظام کانت به طور ضمنی مندرج است و تناقضی با آن ندارد، اما اصولا توجه به آن ضرورتی نداشته و اغلب مورد بیتوجهی قرار گرفته است. در بخش دوم جستار، استدلال مربوط به جایگاه حقوقی را با تمرکز بر نسبت بدنمندی و امکان مجازات توضیح دادم. در هر دو بخش شواهدی از دستورالعملهای بینالمللی در مورد جایگاه اخلاقی و حقوقی هوش مصنوعی ارائه دادم که موضع من را تایید میکرد و استدلالهای من پشتوانههای نظری آن دستورالعملها را توضیح میداد.