بسیاری از پاسخهایی که انسانها به پرسشهای اخلاقی میدهند، تحت تأثیر فرهنگ، زمان، مذهب، عادت، احساسات و منافع قرار دارند. پرسش این است که آیا میتوان سنجش اخلاقی را به شکلی ساختاری و قابل بررسی انجام داد؛ بهگونهای که نتیجهٔ آن به احساسات، منافع، عادتها و ترجیحات شخصیِ تصمیمگیرنده وابسته نباشد؟
همانطور که ماشینحساب معمولی، بدون توجه به احساسات یا ترجیحات کاربر، یک محاسبهٔ مشخص را بر اساس قواعد خود انجام میدهد، میتوان دستگاهی برای بررسی ساختار استدلالهای اخلاقی طراحی کرد.
ماشینحساب در عمل درکی انسانی از مفهوم جمع ندارد؛ اما وقتی قواعد محاسبه را اجرا میکند، نتیجهٔ محاسبه میتواند دقیق باشد. بنابراین، برای اجرای دقیق یک قاعده، داشتن درک انسانی از آن قاعده لزوماً شرط نیست.
ماشینحساب اخلاق (EC) یک روش یا ماشین برای بررسی استدلالهای اخلاقی است، نه موجودی دارای احساس، منفعت شخصی یا عادتهای انسانی.
مبنای روش EC عقل و استدلال است. EC برای کسی طراحی شده است که عقل را بهعنوان ابزار داوری میپذیرد؛ اما خودِ EC هیچ حکم یا هنجار اخلاقی ازپیشتعریفشدهای ندارد.
مبنای کار EC، ساختار استدلال است: گزارهها، مقدمات، روابط میان آنها، معنای آنها و اعتبار حرکت از یک گزاره به گزارهٔ دیگر بررسی میشوند.
بنابراین EC از یک نتیجهٔ اخلاقیِ ازپیشتعیینشده آغاز نمیکند؛ هر مبنایی که وارد مسیر استدلال شود، خود نیز موضوع بررسی قرار میگیرد.
در اینجا «عقلانی» یعنی ادعا یا فعلی که بتوان برای آن، با یک مسیر استدلال زبانی معتبر و قابل دفاع، توجیه ارائه کرد؛ بهگونهای که مقدمات و روابط منطقیِ لازم در آن مسیر قابل دفاع باشند.
روش اصلی EC، استدلال پسرونده است:
فعل یا قضاوت ← دلیل و مقدمات ← مبنا ← مبنای عمیقتر
EC مانند یک «فیلسوف خشک» عمل میکند؛ یعنی احساس، منفعت شخصی یا عادت انسانی را وارد ارزیابی نمیکند و ساختار استدلال را دنبال میکند.
در EC هیچ گزارهای صرفاً به دلیل قرار گرفتن در سطوح پایینترِ مسیر استدلال پذیرفته نمیشود؛ هر گزارهای که بهعنوان مبنا وارد بررسی شود، خود نیز باید مورد بررسی عقلانی قرار گیرد.
اگر گزارهٔ A بر B و B بر C متکی باشد، C نیز باید جداگانه بررسی شود. به این ترتیب، هر مقدمهای که در مسیر استدلال ظاهر میشود، خود به موضوع یک بررسی تازه تبدیل میشود.
EC مسیر استدلال را به عقب دنبال میکند و برای هر مرحله میپرسد:
«این گزاره بر چه اساسی پذیرفته شده است؟»
در این روش، هیچ سطحی صرفاً به دلیل قرار گرفتن در جایگاه عمیقترِ استدلال، از بررسی معاف نمیشود و «عمق» بهتنهایی دلیل اعتبار یک گزاره نیست.
میتوان ساختار EC را به یک درخت تشبیه کرد: تنهٔ درخت، خودِ فعل یا گزاره است؛ ریشههای آن، استدلالها و مبانیای هستند که آن را نگه میدارند؛ و شاخوبرگهای آن، پیامدهای فعل یا گزارهاند.
هرچه در ریشههای درخت از تنه دورتر میشویم، ریشهها ظریفتر و باریکتر میشوند. در EC نیز هرچه به مبانی دورتر میرسیم، روابط استدلالی ظریفتر و پیچیدهتر میشوند؛ بهگونهای که یک گزارهٔ ساده در ظاهر، ممکن است در ریشههای خود به مجموعهای گسترده از روابط و مبانی بسیار ظریف برسد.
استدلال در EC الزاماً خطی نیست. یک گزاره ممکن است به چند مبنا نیاز داشته باشد؛ بنابراین EC ریشههای درخت استدلال را بررسی میکند.
گاهی برای توجیه یک گزاره، چند ریشه باید جداگانه بررسی شوند؛ گاهی نیز چند مبنا همزمان لازماند و باید همهٔ آنها بررسی شوند.
EC در هر مرحله میپرسد:
«برای پذیرش این گزاره، آیا مبنای دیگری لازم است؟»
چهار حالت ممکن است:
مبنای عمیقتری لازم نیست → مبنای بنیادی و پایان همان ریشه.
مبنای عمیقتری لازم است و پیدا شده → بررسی ادامه پیدا میکند.
مبنای عمیقتری لازم است اما پیدا نشده → آن ریشه کامل نمیشود.
مبنایی پیدا شده اما منطقی نیست → آن مبنا رد میشود و آن ریشه در همان نقطه متوقف میشود.
اگر مبنای دیگری لازم نباشد و گزاره از نظر منطقی و معنایی مشکلی نداشته باشد، آن گزاره مبنای بنیادی و پایان همان ریشه است.
برای مثال، «مجازات فرد بیگناه نادرست است» میتواند خودِ یک مبنای بنیادی باشد؛ یعنی برای پذیرش آن، در ساختار مورد بررسی، مبنای دیگری لازم نباشد.
مبنای بنیادی به معنای آخرین حقیقت ممکن نیست؛ فقط یعنی مبنای دیگری برای پذیرش آن لازم نیست.
در نتیجه، توقف در EC لزوماً به معنای رسیدن به یک حقیقت نهایی نیست؛ ممکن است یک مسیر در نقطهای متوقف شود که برای ادامهٔ آن مبنای دیگری لازم نباشد، یا ممکن است ادامهٔ آن به مبنایی نیاز داشته باشد که هنوز قابل دسترسی، بررسی یا دفاع نیست.
نیافتن دلیل ≠ نبودن دلیل.
این نتیجه ثابت نمیکند که هیچ دلیل ممکن دیگری وجود ندارد. وقتی دلیل عقلانی کافی برای انجام یک فعل ارائه یا پیدا نشده باشد، آن فعل بر اساس بررسی انجامشده، بهعنوان فعلی عقلانی توجیه نمیشود؛ مگر اینکه دلیل کافی جدیدی ارائه شود.
«دلیل عقلانی کافی» زمانی وجود دارد که تمام حلقههای ضروریِ مسیر استدلال قابل دفاع باشند.
EC لازم نیست ثابت کند که یک فعل ذاتاً یا مطلقاً غلط است؛ میتواند نشان دهد که توجیه ارائهشده در یکی از بخشهای ضروری خود با مشکل مواجه است.
تعریف دقیق اصطلاحات نیز بخشی از بررسی است و رابطهٔ میان گزارههای توصیفی و تجویزی نیز باید بررسی شود.
استدلال دوری نیز بهعنوان توجیه مستقل پذیرفته نمیشود؛ زیرا در آن، گزاره عملاً با تکرار خودش پشتیبانی میشود.
نیت فاعل در ارزیابی EC وارد نمیشود. EC دربارهٔ قصد، انگیزه یا نیت فاعل داوری نمیکند و آنها را مبنای ارزیابی فعل قرار نمیدهد. موضوع بررسی EC، خودِ استدلال و توجیه عقلانیِ فعل است؛ صرفنظر از اینکه فاعل با چه نیتی آن را انجام داده است.
پیامدِ یک فعل، بهعنوان مجموعهای کامل در گسترهٔ زمان و مکان، قابل تعیین و ردیابی نیست؛ بنابراین پیامد نمیتواند مبنای سنجش اخلاقیِ خودِ فعل باشد.
پیامدهای یک فعل میتوانند در زمان و مکان گسترش پیدا کنند و بخشی از آنها معلوم و بخشی نامعلوم باشند. برای پیامدهای نامعلوم، تعیین کامل احتمال و وزن آنها ممکن نیست و ممکن است در میان پیامدهای ناشناخته، پیامدی با اثری بسیار بزرگتر از پیامدهای شناختهشده وجود داشته باشد.
انسانِ صد، هزار یا دههزار سال بعد، صرفاً بهدلیل اینکه در آینده زندگی میکند، از نظر اخلاقی با انسانِ امروز تفاوتی ندارد.
بنابراین پیامد میتواند برای پیشبینی یا تصمیمگیری عملی اهمیت داشته باشد، اما مبنای بنیادی سنجش اخلاقیِ خودِ فعل در EC نیست.
ممکن است EC در جریان بررسی به دو اصل برسد که هر دو در مسیر خود قابل دفاع باشند، اما با یکدیگر تعارض داشته باشند.
برای مثال:
حفظ حیات
در برابر:
کاهش رنج شدید و بیهدف
اگر هر دو اصل در عمیقترین سطح قابل دفاع باقی بمانند، EC نمیتواند بدون دلیل یکی را بر دیگری ترجیح دهد.
در این حالت، EC بررسی را بیشتر به عقب نمیبرد؛ بلکه ساختار تعارض را روشن و صریح نشان میدهد و مشخص میکند که دو مسیر معتبر در کجا با یکدیگر برخورد کردهاند.
این وضعیت لزوماً به معنای شکست EC نیست؛ زیرا ممکن است مسئله واقعاً دارای دو اصل بنیادین متعارض باشد.
برای اجرای چنین سیستمی، EC به توانایی گستردهای برای تولید، بررسی و مقایسهٔ مسیرهای استدلالی نیاز دارد. هوش مصنوعی میتواند این نقش محاسباتی را بر عهده بگیرد.
AI میتواند درختهای استدلال را بسازد، مقدمات و دلایل مختلف را بررسی کند، روابط منطقی میان گزارهها را مقایسه کند و مسیرهای تکراری، ناسازگار یا نامعتبر را کنار بگذارد.
EC قرار نیست پاسخ انسان را تکرار کند؛ قرار است آن را دوباره محاسبه کند.
در ظاهر، گفتوگو میتواند ساده باشد:
چرا؟ → پاسخ → چرا؟ → پاسخ → چرا؟ → ...
اما پشت هر پاسخ، میتواند یک درخت بزرگ از مسیرهای مستقل استدلال وجود داشته باشد.
شطرنج و استدلال اخلاقی، با وجود تفاوت موضوع، یک شباهت مهم دارند: هر دو دارای قواعد، ترکیبهای متعدد و حالتهای قابل بررسیاند. در شطرنج هر حرکت وضعیت تازهای میسازد و میتوان مسیرهای مختلف را بررسی و مقایسه کرد؛ در اخلاق نیز هر پاسخ بر مقدماتی تکیه دارد که خود به مبانی دیگری وابستهاند.
برتری ماشین بر انسان در شطرنج بیچونوچرا است؛ ماشین میتواند تعداد بسیار عظیمی از حالتها و ترکیبها را بررسی کند، بسیار فراتر از ظرفیت محاسباتی انسان.
اگر ساختار استدلال اخلاقی نیز به قواعد و روابط قابل بررسی تبدیل شود، EC میتواند با بررسی مسیرهای بسیار بیشتری نسبت به انسان، رفتار و تصمیمهای انسانی را تحلیل کند و شاید در این زمینه نیز از ظرفیت تحلیلی خود انسان فراتر برود.
هر «چرا؟» میتواند آغاز یک مسیر استدلالی متفاوت باشد و خلاقیت در تولید استدلالهای کاندید نیز اهمیت دارد.
خلاقیت در ورودی آزاد است؛ اعتبارسنجی در خروجی سختگیرانه است.
کیفیت نتیجهٔ EC تا حد زیادی به کیفیت پاسخها و استدلالهایی که وارد مسیرهای بررسی میشوند وابسته است. این ویژگی لزوماً نقص ساختار EC نیست.
با این حال، یکی از مزیتهای AI این است که میتواند تعداد بسیار زیادی مسیر و منبع مختلف را بررسی کند و احتمال محدود شدن بررسی به یک استدلال آشنا را کاهش دهد.
AI سفینه است، EC سیستم ناوبری و روش حرکت آن، و انسان سوارشونده است.
انسان مسئله را مطرح میکند؛ AI مانند سفینهای در میان گسترهٔ دانش و استدلالهای ثبتشدهٔ انسانی حرکت میکند و EC قواعد حرکت و روش بررسی را تعیین میکند.
گویی سفینهای با سرعت بسیار زیاد در کهکشانی از افکار ثبتشدهٔ انسانی حرکت میکند، اما مسیر حرکت آن تصادفی نیست؛ EC قواعد حرکت و مسیر بررسی را تعیین میکند.
«چرا کشتن حیوان برای خوردن گوشت مجاز است؟»
→ «چون انسان گوشت میخواهد.»
→ «چرا خواست انسان باید مجوز کشتن حیوان باشد؟»
→ «چون زندگی انسان ارزش بیشتری دارد.»
→ «چرا زندگی انسان ارزش بیشتری دارد؟»
→ «به دلیل هوش، آگاهی، زبان و تواناییهای انسانی.»
→ «چرا این ویژگیها باید باعث برتری حق حیات انسان شوند؟»
→ «چون انسان دارای توانایی عقلانی است.»
→ «چرا توانایی عقلانی باید معیار حق حیات باشد؟»
→ «دلیل عقلانی کافی برای این ارتباط پیدا نشد.»
→ حلقهٔ گمشده
→ «برای انجام این فعل، دلیل عقلانی کافی در مسیر بررسیشده پیدا نشد؛ بنابراین انجام آن، بر اساس این بررسی، بهعنوان فعلی عقلانی توجیه نمیشود.»
محبوبیت یک باور، تعداد افرادی که آن را پذیرفتهاند یا قدمت آن، بهخودیخود دلیل اعتبار منطقی آن نیست.
وقتی دانش یا استدلالهای موجود با یکدیگر تعارض دارند، EC مقدمات، روابط میان گزارهها و استقلال مسیرهای استدلالی را بررسی میکند.
خروجی EC میتواند شامل مواردی مانند استدلال قابل دفاع، مقدمهای که نیازمند توجیه است، رابطهٔ منطقی نامعتبر، استدلال دوری، حلقهٔ گمشده، اطلاعات ناکافی یا وجود دو مسیر متعارض باشد.
نوآوری EC در ترکیب دسترسی گستردهٔ AI به دانش و استدلالهای انسانی با روش استدلال پسرونده و کنار گذاشتن قضاوت اخلاقی ازپیشتعیینشده است.
اگر EC بتواند پیچیدگی یک مسئله را تا حد ممکن روشن و شفاف کند و مسیر استدلال را از میان آن بیرون بکشد، انسان دیگر نمیتواند بهآسانی پشت ابهامِ ناشی از پیچیدگی مسئله پنهان شود.
در آن نقطه، انسان میتواند در برابر اصل بنیادی یا نتیجهای که آشکار شده، با خودش صادق باشد؛ آن را بپذیرد، رد کند یا دلیل تازهای برای رد آن ارائه دهد.
به این معنا، EC فقط پیچیدگی استدلال را کاهش نمیدهد؛ بلکه میتواند مانع شود که خودِ پیچیدگی، وسیلهای برای فریب خویشتن یا فرار از یک نتیجهٔ روشن شود.
اگر ساختار استدلالی استخراجشده توسط EC بهعنوان مبنای تربیت انسان قرار گیرد، حتی ممکن است نسلهای متفاوتی از انسان با الگوهای اخلاقی متفاوت پدید آیند و در نتیجه مسیر تمدن تغییر کند.
با این حال، EC تصمیم نهایی را به جای انسان نمیگیرد. وظیفهٔ آن روشن کردن وضعیت استدلال، آشکار کردن تناقضها، مشخص کردن حلقههای گمشده و نشان دادن میزان کفایت توجیه است.
پاسخ نهایی ممکن است کوتاه باشد؛ اما محاسبهای که پشت آن قرار دارد میتواند بسیار بزرگ باشد.