بسیاری از پاسخهایی که انسانها به پرسشهای اخلاقی میدهند، تحت تأثیر فرهنگ، زمان، مذهب، عادت، احساسات و منافع قرار دارند. پرسش این است: آیا میتوان اخلاق را طوری بررسی کرد که نتیجه به احساسات، منافع و عادتهای شخصی وابسته نباشد؟
برای فهم ایدهٔ EC، به یک ماشینحساب معمولی فکر کنید. ماشینحساب احساس، علاقه یا نظر شخصی ندارد. فقط طبق قواعدی که برایش تعریف شدهاند عمل میکند و نتیجه میدهد.
ماشینحساب اخلاق یا EC نیز قرار نیست موجودی با احساسات و سلیقهٔ شخصی باشد. قرار است روشی برای بررسی استدلالهای اخلاقی باشد.
مبنای روش EC عقل و استدلال است. EC برای کسی طراحی شده است که عقل را بهعنوان ابزار داوری میپذیرد. بنابراین از یک اصل اخلاقی ازپیشدادهشده شروع نمیکند.
نقطهٔ شروع فقط یک گزاره یا استدلال زبانی است. اولین پرسش این است:
آیا استدلال درست است؟
EC ساختار استدلال را بررسی میکند: گزارهها، مقدمات، رابطهٔ میان آنها و اینکه آیا میتوان منطقی از یک گزاره به گزارهٔ بعدی رسید یا نه.
و نکتهٔ مهم این است که هر دلیلی که وارد این مسیر میشود، خودش هم باید بررسی شود.
به همین دلیل EC شبیه یک «فیلسوف خشک» است؛ فیلسوفی که احساس، علاقهٔ شخصی و عادت انسانی در داوری او دخالت نمیکند و فقط ساختار استدلال را دنبال میکند.
فرض کنید میگوییم «A درست است»، چون «B». بعد میپرسیم چرا B؟ چون C.
پس مسیر به این شکل میشود:
فعل یا قضاوت ← دلیل و مقدمات ← مبنا ← مبنای عمیقتر
پرسش اصلی در هر مرحله ساده است:
«این گزاره بر چه اساسی پذیرفته شده است؟»
برای تصور این ساختار، یک درخت را در نظر بگیرید.
تنهٔ درخت، فعل یا گزاره است. ریشهها، دلیلها و مبناهای آن هستند. شاخ و برگها، پیامدهای آن هستند.
هرچه از تنه به سمت ریشهها دورتر میشویم، ریشهها ظریفتر، نازکتر و حتی مویرگیتر میشوند؛ چون در آن قسمت ممکن است به رابطههای منطقی بسیار دقیق و پیچیدهای برسیم.
اما استدلال همیشه یک خط مستقیم نیست. گاهی یک گزاره برای پذیرفته شدن به چند مبنا نیاز دارد. EC باید ریشههای مختلف را بررسی کند و گاهی چند مبنا را همزمان در نظر بگیرد.
در هر مرحله یک سؤال تکرار میشود:
«برای پذیرش این گزاره، آیا مبنای دیگری لازم است؟»
اگر نه، آنجا به یک مبنای بنیادی در ساختار بررسیشده رسیدهایم.
اگر مبنای دیگری لازم باشد و آن را پیدا کنیم، بررسی ادامه پیدا میکند.
اگر لازم باشد اما پیدا نشود، ریشه ناقص میماند.
و اگر مبنای پیداشده خودش منطقی نباشد، آن مسیر متوقف میشود.
«بنیادی» در اینجا به معنی آخرین حقیقت ممکن نیست؛ فقط یعنی برای پذیرش آن گزاره، در ساختار مورد بررسی، مبنای دیگری لازم دیده نشده است.
همچنین نیافتن دلیل، به معنی نبودن دلیل نیست. ممکن است دلیل دیگری وجود داشته باشد که هنوز پیدا نشده یا قابل بررسی نباشد.
بنابراین EC لازم نیست ثابت کند یک فعل در همهٔ شرایط و برای همیشه غلط است. ممکن است فقط نشان دهد که دلیل ارائهشده برای آن، در یک بخش ضروری از مسیر استدلال، کافی نیست.
EC نیت فرد را مبنای قضاوت قرار نمیدهد.
ممکن است کسی بگوید «من نیت خوبی داشتم». اما EC به جای بررسی نیت، خود استدلال را بررسی میکند:
آیا برای انجام این کار دلیل عقلانی کافی وجود دارد یا نه؟
EC پیامدهای فعل را نیز مبنای اصلی سنجش خودِ فعل قرار نمیدهد.
«پیامدِ یک فعل، بهعنوان مجموعهای کامل در گسترهٔ زمان و مکان، قابل تعیین و ردیابی نیست؛ بنابراین پیامد نمیتواند مبنای سنجش اخلاقیِ خودِ فعل باشد.»
یک فعل ممکن است پیامدهای زیادی داشته باشد؛ بعضی را میدانیم و بعضی را نمیدانیم. پیامدهای ناشناخته ممکن است در زمان و مکان بسیار دور اتفاق بیفتند و حتی بسیار بزرگتر از پیامدهایی باشند که امروز میشناسیم.
بنابراین نمیتوان مجموعهٔ کامل پیامدهای یک فعل را تعیین و وزندهی کرد.
البته پیامدها میتوانند برای پیشبینی و تصمیمگیری عملی مهم باشند؛ اما در EC، مبنای سنجش اخلاقی خودِ فعل نیستند.
بررسی همهٔ این مسیرها میتواند بسیار پیچیده باشد.
اینجاست که هوش مصنوعی میتواند نقش مهمی داشته باشد: ساختن درختهای استدلال، بررسی مقدمات، مقایسهٔ رابطههای منطقی و کنار گذاشتن مسیرهای تکراری، متناقض یا نامعتبر.
EC قرار نیست پاسخ انسان را تکرار کند؛ قرار است آن را دوباره محاسبه کند.
ظاهر گفتوگو میتواند خیلی ساده باشد:
«چرا؟ → پاسخ → چرا؟ → پاسخ → چرا؟ → ...»
اما پشت هر پاسخ ممکن است یک درخت بزرگ از مسیرهای استدلالی وجود داشته باشد.
پاسخ نهایی ممکن است کوتاه باشد؛ اما محاسبهای که پشت آن قرار دارد میتواند بسیار بزرگ باشد.
در اینجا میتوان از شطرنج هم کمک گرفت. شطرنج و استدلال اخلاقی یکی نیستند، اما هر دو دارای قواعد و حالتهای بسیار زیادی هستند که میتوان آنها را بررسی و با هم مقایسه کرد.
یک حرکت شطرنجی، وضعیت جدیدی ایجاد میکند و مسیرهای بعدی را تغییر میدهد. در استدلال اخلاقی هم هر پاسخ میتواند به مقدمات و مبناهای تازهای برسد.
اگر ساختار استدلالهای اخلاقی را بتوان به شکل قواعد و رابطههایی قابل بررسی درآورد، ماشین میتواند تعداد بسیار زیادی از مسیرها را بررسی کند؛ بسیار بیشتر از چیزی که انسان بهتنهایی میتواند. شاید برتری فاحش ماشین در مسابقه با بزرگترین شطرنج بازان اشاره ی خوبی به موضوع باشد.
هر «چرا؟» میتواند آغاز یک مسیر تازه باشد. بنابراین خلاقیت در پیدا کردن استدلالهای ممکن هم مهم است.
خلاقیت در ورودی آزاد است؛ اعتبارسنجی در خروجی سختگیرانه است.
کیفیت نتیجه نیز به کیفیت استدلالهایی که وارد بررسی میشوند بستگی دارد.
در این تصویر:
AI سفینه است، EC سیستم ناوبری و روش حرکت آن، و انسان سوارشونده است.
گویی سفینهای با سرعت نور در کهکشانی از افکار بشری حرکت میکند، اما مسیر حرکت آن تصادفی نیست؛ EC قواعد حرکت و مسیر بررسی را تعیین میکند.
حالا یک سؤال ساده را وارد EC کنیم:
«چرا کشتن حیوان برای خوردن گوشت مجاز است؟»
پاسخ:
«چون انسان گوشت میخواهد.»
چرا خواست انسان باید مجوز کشتن حیوان باشد؟
«چون زندگی انسان ارزش بیشتری دارد.»
چرا زندگی انسان ارزش بیشتری دارد؟
«به دلیل هوش، آگاهی، زبان و تواناییهای انسانی.»
چرا این ویژگیها باید باعث برتری حق حیات انسان شوند؟
«چون انسان دارای توانایی عقلانی است.»
چرا توانایی عقلانی باید معیار حق حیات باشد؟
در مسیر بررسیشده، دلیل عقلانی کافی برای این ارتباط پیدا نشد.
اینجا EC به یک حلقهٔ گمشده میرسد.
این به معنی آن نیست که هیچ دلیل ممکنی در جهان وجود ندارد. فقط یعنی در مسیر بررسیشده، یک ارتباط ضروری هنوز توجیه نشده است.
پس نتیجه این است:
«برای انجام این فعل، دلیل عقلانی کافی در مسیر بررسیشده پیدا نشد؛ بنابراین انجام آن، بر اساس این بررسی، بهعنوان فعلی عقلانی توجیه نمیشود.»
مسئلهٔ مهم اینجاست که پیچیدگی نباید باعث شود یک حلقهٔ ضروری بدون بررسی پذیرفته شود.
ممکن است یک مسئله بسیار پیچیده و گسترده باشد و همین ویژگیها آن را مبهم کند.
اگر EC بتواند مسیر استدلال را از میان این پیچیدگی بیرون بکشد، دیگر نمیتوان بهسادگی پشت ابهام ناشی از پیچیدگی مسئله پنهان شد. در آن صورت میتوان مسیر استدلال را دید، آن را پذیرفت، رد کرد یا دلیل تازهای برای ادامهٔ آن ارائه دهد.
و اگر روزی نتایج تحلیلهای اخلاقی EC وارد آموزش شود، شاید نسلهایی متفاوت از انسانها شکل بگیرند و مسیر تمدن تغییر کند.