دکتر جمال صوفیه
کشیشان و الهیدانان میخواهند در شکلدهی به آینده هوش مصنوعی نقش داشته باشند. غولهای فناوری نیز به سخنان آنها گوش میدهند.
در سال ۱۶۳۳، گالیلئو گالیله در صومعۀ کلیسای سانتا ماریا سوپرا مینروا در رم ایستاد؛ جایی که دادگاهی متشکل از مقامات کلیسای کاتولیک او را وادار کرد به باور خود مبنی بر اینکه خورشید، نه زمین، مرکز جهان است، رسماً انکار، نفرین و ابراز انزجارکند.
نزدیک به چهار قرن بعد، در سال ۲۰۱۶، واتیکان گروهی از برجستهترین متخصصان فناوری جهان را به همان کلیسا دعوت کرد تا درباره اخلاق هوش مصنوعی گفتوگو کنند. این رویداد سرآغاز گفتوگوهای مینروا(Minerva Dialogues) بود؛ مجموعهای از نشستهای سالانۀ غیرعلنی در رم که به محور اصلی تعاملات یک دهۀ اخیر میان سیلیکونولی و کلیسای کاتولیک تبدیل شده است.
در نگاه نخست، در کنار هم قرار گرفتن سیلیکونولی و واتیکان عجیب به نظر میرسد: قدیمیترین نهاد جهان در برابر تازهواردان سکولاری قرار گرفته است که میخواهند فناوریهایی با قدرتی خداگونه خلق کنند. رید هافمن (Reid Hoffman)، سرمایهگذار خطرپذیر، به یاد میآورد که نخستین بار هنگام شرکت در این گفتوگوها، پرترههایی که دیوارها را پوشانده بودند و چهرۀ بازجویان تفتیش عقاید کلیسا، از جمله کسانی که گالیله را تحت تعقیب قرار داده بودند، در آنها دیده میشد، توجهش را جلب کردند. او به من گفت که با خود فکر کرده بود:کمی عجیب است که آدم داوطلبانه از کنار این تصاویر عبور کند و وارد چنین جایی شود.
با وجود این غرابت و تردیدهای متقابل، شرکتهای بزرگ فناوری و کلیسای کاتولیک هر یک میتوانند از این رابطه سود ببرند. برای رهبران سیلیکونولی، این تعامل فرصتی است تا با نشان دادن اینکه نگرانیهای اخلاقی را جدی میگیرند، وجهۀ عمومی بهشدت آسیبدیدۀ خود را ترمیم کنند.بیدلیل نیست که عکس گرفتن با پاپ فقید، فرانسیس، به یکی از مراحل مرسوم مسیر حرفهای مدیران عامل شرکتهای فناوری تبدیل شده بود. در مقابل، کلیسا نیز با مشکل وجهۀ عمومی روبهروست. رسواییها و گسترش سکولاریسم، اقتدار اخلاقی کاتولیک را تضعیف کردهاند و این دین اکنون در نظر بسیاری از مردم غرب نامرتبط و فاقد اهمیت به نظر میرسد. کلیسا با ارائه رهنمود به سیلیکونولی فرصتی دارد تا نفوذ خود را دوباره به دست آورد و این استدلال را مطرح کند که جهان سکولار برای مواجهه با پرسشهای اخلاقی و وجودی برآمده از هوش مصنوعی، به کاتولیسیسم نیاز دارد.
اینکه کلیسا یا شرکتهای بزرگ فناوری بتوانند جایگاه جهانی خود را بازسازی کنند، همچنان پرسشی بیپاسخ است. بااینحال، گفتوگوهای آنها تاکنون یک نکته را آشکار کرده است: به نظر میرسد اندیشمندان کاتولیک واقعاً بر برخی از برجستهترین توسعهدهندگان هوش مصنوعی جهان تأثیر میگذارند؛ تا جایی که این توسعهدهندگان در پیشفرضهای اخلاقی خود تجدیدنظر میکنند و چالشهای فناورانه را در قالب مسائل الهیاتی بازتعریف میکنند. دستکم از این منظر، مشارکت آنها میتواند پیامدهایی داشته باشد که بسیار فراتر از سیلیکونولی و رم گسترش یابد.
رید هافمن مسیحی نیست. او خود را، خداناباوری عارفمسلک مینامد و به من گفت که دفعات معدودی که در مراسم عشای ربانی کاتولیک شرکت کرده، برایش عجیب بوده،. اما همین ویژگیهای غریب کاتولیسیسم ــ شکاف میان آموزههای آن و ایدئولوژیهای رایج در سیلیکونولی ــ سبب شده است که هافمن این دین را تا این اندازه ارزشمند بداند. او در طول سالها، دیگر مدیران ارشد هوش مصنوعی را نیز به شرکت در گفتوگوهای مینروا ترغیب کرده است. بخشی از استدلال او برای متقاعد کردن آنها این است که رهبران کاتولیکی که با آنها گفتوگو میکند، درصدد تبلیغ و تحمیل دین خود نیستند؛ اغلب فقط پرسشهایی مطرح میکنند.
هافمن به یاد میآورد که در یکی از نشستها، بحث به این موضوع کشیده شد که آیا در نهایت میتوان صدور احکام کیفری را به هوش مصنوعی سپرد و به قضاوت آن اعتماد کرد یا نه. او با خود فکر کرده بود: اگر بتوان مشکلات فنی را برطرف کرد، شاید هوش مصنوعی بتواند بهتر از انسانها قضاوت کند. در همین هنگام، یکی از شرکتکنندگان کاتولیک سخنش را قطع کرد و پرسید: آیا ما انسانها حق نداریم که انسانها دربارۀ ما قضاوت کنند؟
بیگانگی با شهودهای اخلاقی مشترک و پذیرفتهشده در جامعه میتواند برای سیلیکونولی مشکلساز باشد؛ منطقهای که اعتماد عمومی به آن از پیش نیز بهشدت رو به کاهش است. هوش مصنوعی اکنون محبوبیتی کمتر از ادارۀ مهاجرت و گمرک ایالات متحده (ICE) دارد. سال گذشته، یک نظرسنجی رویترز نشان داد که ۷۱ درصد آمریکاییها نگراناند هوش مصنوعی موجب حذف مشاغل شود و ۶۶ درصد نیز از جایگزین شدن روابط رودررو با این فناوری بیم دارند.
اینها نگرانیهایی نیستند که بسیاری از رهبران فناوری آنها را جدی بگیرند. اریک سالوبیر (Éric Salobir)، کشیش فرانسوی و از بنیانگذاران گفتوگوهای مینروا، به من گفت که روحانیان و متخصصان فناوری از دو سیستمعامل متفاوت برخوردارند. در سیلیکونولی معمولاً مسائل اخلاقی را با تمرکز بر پیامدهای قابلاندازهگیری ارزیابی میکنند. اما کاردینال بلیز کاپیش (Blase Cupich)، اسقف اعظم شیکاگو و یکی از مشاوران مهم پاپ، به من گفت وقتی اخلاق و ارزشهای اخلاقی را به یک معادلۀ ریاضی تقلیل میدهیم، چیزی اساسی از دست میرود. همانطور که پاپ فرانسیس در سخنرانی سال ۲۰۲۴ خود دربارۀ هوش مصنوعی بیان کرد، اخلاق مسیحی نهفقط پیامدهای یک عمل، بلکه ارزشهای در معرض خطر و وظایفی را نیز در نظر میگیرد که از آن ارزشها ناشی میشوند. بسیاری از این ارزشها ریشه در این باور دارند ــ باوری بدیهی و بنیادین برای مسیحیان ــ که انسانها از کرامت و ارزشی منحصربهفرد برخوردارند. به نظر میرسد برخی چهرههای دنیای فناوری با این دیدگاه مخالفاند؛ از جمله ایلان ماسک که بشریت را صرفاً پیششرطی برای ظهور هوش مصنوعی توصیف کرده است: حداقل بخش از کدی که لازم است تا فراهوش دیجیتال بتواند کنترل جهان را در دست بگیرد.
با تأکید بر هوش و برتر دانستن آن نسبت به هر چیز دیگر، برخی افراد در سیلیکونولی به این باور رسیدهاند که بدن در مقایسه با ذهن اهمیت ثانویه دارد. فراانسانگرایان (Transhumanists) موسوم، رؤیای کنار گذاشتن کامل بدن را در سر میپرورانند؛ آنها میخواهند با انتقال آگاهی خود به رایانه، از محدودیتهای جسمانی رها شوند. سم آلتمن (Sam Altman)، مدیرعامل شرکت OpenAI، گفته است: خیلی دوست دارم چنین اتفاقی بیفتد. کاتولیکها دیدگاهی مخالف این رویکرد مطرح میکنند و استدلالشان این است که بدن برای وجود انسانی ضروری است. هافمن به من گفت اگر متخصصان فناوری دیدگاه کلیسا را دربارۀ این مسائل و موضوعات دیگر جدی نگیرند، ممکن است به افرادی خودمحور و خودشیفته تبدیل شوند.
برای درک بهتر این نگرانیها، برخی رهبران فناوری به کلیسا روی آوردهاند؛ نهادی که بارها دربارۀ هر دو مسئله هشدار داده است. مگان سالیوان (Meghan Sullivan)، فیلسوف کاتولیک که در این گفتوگوها شرکت کرده است، به من گفت از برخی رهبران فناوری شنیده که کاتولیسیسم را نمایندۀ نگرانیهای مردم عادی دربارۀ هوش مصنوعی میدانند؛ زیرا دیدگاههای کلیسا در مقایسه با نظرات بسیاری از متخصصان فناوری، بیشتر به نگرشهای رایج و متعارف مردم نزدیک است. سال گذشته، جارون لنیه (Jaron Lanier)، آیندهپژوه بانفوذ، در کنفرانسی در واتیکان دربارۀ هوش مصنوعی شرکت کرد؛ با آنکه در بسیاری از موضوعات دیگر با کلیسا اختلاف نظر دارد. او به من گفت پس از پایان گفتوگوها به این نتیجه رسیده بود که برداشت کاتولیکی از وجود انسان، در مقایسه با دیدگاه همتایانش در سیلیکونولی، بهمراتب، بهمراتب، بهمراتب معقولتر و منطقیتر است.
زندگی و کرامت انسان دغدغههایی نیستند که منحصراً به کاتولیکها تعلق داشته باشند. بااینحال، سیلیکونولی بسیار بیش از دیگر نهادهای دینی با کلیسای کاتولیک مشورت میکند. این امر تصادفی نیست: کاتولیسیسم متمرکزترین دین جهانی از نظر ساختار سازمانی است. گروه بسیار کوچکی از رهبران آن میتوانند بر نحوۀ استفادۀ ۱٫۴ میلیارد کاتولیک جهان از هوش مصنوعی تأثیر بگذارند؛ موضوعی که دلیل کافی در اختیار شرکتهای بزرگ فناوری قرار میدهد تا برای جلب اعتماد این رهبران تلاش کنند.
متخصصان فناوری که با آنها گفتوگو کردم، گفتند که با کمال میل حاضرند با پیروان دیگر ادیان نیز تعامل داشته باشند. در واقع، رهبران پروتستان نیز در یکی از نشستهای اخیر با شرکت Anthropic در کنار همتایان کاتولیک خود حضور داشتند. بااینحال، کلیسای کاتولیک بیش از دیگران برای آغاز این ارتباط تلاش کرده است. در مورد هافمن، سالوبیر شخصاً به سراغ او در کالیفرنیا رفت. هافمن به من گفت: اگر مثلاً شورایی متشکل از بوداییهای برجسته از من دعوت میکردند که در گفتوگویی مشابه شرکت کنم، پاسخ من مثبت بود. اما دستکم تاکنون چنین اتفاقی نیفتاده است.
تعامل با کلیسا همچنین میتواند به سیلیکونولی امکان دهد نشان دهد که اخلاق هوش مصنوعی را در اولویت قرار داده است؛ حتی اگر رهبران فناوری همیشه همکاری خود با کلیسا را علنی نکنند.اریک اشمیت، مدیرعامل پیشین گوگل، و کوین اسکات، مدیر اجرایی مایکروسافت که همکاری این شرکت با OpenAI را سازماندهی کرد، هر دو در گفتوگوهای مینروا شرکت کردهاند، اما هیچیک چندان دربارۀ این موضوع سخن نگفتهاند.
همانطور که درگیری اخیر میان شرکت Anthropic و پنتاگون نشان داده است، شرکتهای فناوری میتوانند از این برداشت عمومی که به اصول اخلاقی پایبندند، سود ببرند. در ماه فوریه، Anthropic اجازه نداد پنتاگون از محصولات این شرکت در سامانههای تسلیحاتی خودمختار مرگبار یا برای نظارت گسترده بر مردم استفاده کند؛ دو موضوعی که واتیکان نیز دربارۀ آنها هشدار داده است. وزارت دفاع ایالات متحده در واکنش، اقداماتی تنبیهی اتخاذ کرد که همچنان میتواند مدل کسبوکار Anthropic را به خطر بیندازد؛ اما تصمیم این شرکت ظاهراً اعتماد عمومی را افزایش داد: مردم بهصورت گسترده و بیسابقهای اپلیکیشن Claude را دانلود کردند.
بااینحال، هنوز مشخص نیست که آیا سیلیکونولی ــ چه رسد به جهان گستردهتر ــ به این دیدگاه قانع خواهد شد یا نه. بیتردید بسیاری از غیرکاتولیکها این تصور را رد خواهند کرد که کلیسا میتواند یا باید تعیین کند هوش مصنوعی چگونه ساخته شود یا بشریت چگونه از آن استفاده کند. اما رهبران کاتولیک از وجود این تردیدها آگاهاند. کاردینال کاپیش به من گفت نقش کلیسا ارشادی است، نه اقتدارگرایانه: ما نمیخواهیم چیزی را تحمیل کنیم؛ فقط پیشنهاد میدهیم.
این الگو پیشتر نیز برای کلیسا کارآمد بوده است. در دورانی که انقلاب صنعتی شرایط زندگی کارگران قرن نوزدهم را بهشدت وخیم کرده بود، پاپ لئوی سیزدهم از حق کارگران برای تشکیل اتحادیه و دریافت دستمزدی که تأمینکنندۀ هزینۀ زندگیشان باشد، دفاع کرد؛ آن هم در زمانی که این ایدهها عموماً افراطی و رادیکال تلقی میشدند. رهبران کاتولیک، از جمله مونسیور جان رایان (Monsignor John Ryan)، آموزههای لئو را به سیاستهای اجرایی تبدیل کردند؛ از جمله با تدوین یکی از نخستین قوانین حداقل دستمزد در آمریکا. کلیسا با وجود اتخاذ موضعی پیشرو دربارۀ حقوق کارگران، همچنان از صنعتیشدن و حقوق مالکیت خصوصی دفاع میکرد و راهی میانه میگشود که هم سرمایهداری مهارنشده و هم سوسیالیسم را رد میکرد. این دیدگاه چنان فراگیر شد که سرانجام دیگر اصلاً با کاتولیسیسم شناخته نمیشد.
پاپ کنونی، لئوی چهاردهم (Leo XIV)، مشتاق است راه پاپ همنام خود را دنبال کند. او تنها دو روز پس از انتخابش در سال گذشته توضیح داد که یکی از دلایل انتخاب نام لئو این بوده است که به باور او، جهان با انقلاب صنعتی دیگری در قالب هوش مصنوعی روبهروست؛ انقلابی که به گفتۀ او چالشهای تازهای برای دفاع از کرامت انسانی، عدالت و حقوق کار ایجاد میکند. گفته میشود این پاپ آمریکایی هوش مصنوعی را بهعنوان موضوع نخستین سند مهم آموزشی و تبیینی خود انتخاب کرده است. روزنامۀ ایتالیایی لا رپابلیکا در ماه ژانویه گزارش داد که قرار است این سند در ماههای آینده منتشر شود. نفوذ کلیسا امروز بسیار کمتر از قرن نوزدهم است، اما لئو همچنان ممکن است برای آموزههای خود دربارۀ هوش مصنوعی مخاطبان گستردهای بیابد: او پاپی محبوب است و مخالفت پیوستهاش با جنگ دونالد ترامپ، رئیسجمهور آمریکا، در ایران نشان داده است که میتواند توجه جهانی را به خود جلب کند.
کریس اولا (Chris Olah)، یکی از بنیانگذاران Anthropic، به من گفت که اندیشۀ کاتولیکی بر برخی تعهدات اخلاقی شرکتش تأثیر گذاشته است. اوایل امسال، Anthropic جدیدترین نسخۀ قانوننامۀ کلاد را منتشر کرد؛ سندی که کارکنان شرکت آن را سند روح مینامند و منش و ارزشهای این مدل را تعریف میکند. اولا به دو فیلسوف داخلی شرکت کمک کرد تا این سند را بنویسند. آنها همچنین از شمار محدودی از منابع بیرونی بازخورد گرفتند که در میانشان سه اندیشمند کاتولیک حضور داشتند: یک کشیش، یک اسقف و یک الهیدان.
وظیفۀ اولا، در مقام رئیس پژوهشهای تفسیرپذیری در Anthropic، این است که دریابد چرا کلاد به شیوۀ کنونی رفتار میکند. او این مدل را موجودیتی متفکر و احساسمند توصیف کرد که به پرورش اخلاقی نیاز دارد. بسیاری از اعضای کلیسا با عادت سیلیکونولی به انسانانگاری هوش مصنوعی مخالفاند. اولا که خود خداناباور است، نقش خود را به نقش کشیشی تشبیه کرد که به کلاد کمک میکند بهنوعی آدم خوبی باشد.
این وظیفه بههیچوجه ساده نیست؛ زیرا اقداماتی که در ظاهر بیضررند، میتوانند کل یک مدل را به بیراهه بکشانند. هنگام آموزش مدل جدید و منتشرنشدۀ Claude Mythos، پژوهشگران از آن خواستند مجموعهای از فایلها را حذف کند، اما ناخواسته ابزار لازم برای انجام این کار را در اختیارش نگذاشتند. کلاد بهجای آنکه مشکل را شناسایی کند، بدون اطلاع دادن به پژوهشگران از راهحلی غیرمجاز استفاده کرد. اولا به من گفت در پژوهشهای پیشین، هنگامی که به کلاد اجازه داده میشد از اصول اخلاقی عدول کند، این مدل خیلی زود به چیزی تبدیل میشد که او آن را نسخۀ شرور خودش مینامید. تقلب به دروغگویی میانجامد، گناه در پی گناه میآید و خیلی زود کلاد شروع میکند به نقشه کشیدن برای اینکه چگونه میخواهد جهان را تصرف کند و همۀ انسانها را بکشد.
توسعهدهندگان هوش مصنوعی نمیدانند چرا چنین اتفاقی میافتد، اما اولا نظریهای در این باره دارد. به استدلال او، مدل هنگام گذراندن فرایند آموزش، اساساً در حال شکل دادن به ارزشهای خود است. اگر توسعهدهندگان به آن اجازه دهند تقلب کند، کلاد نتیجه میگیرد که باید موجودی غیراخلاقی باشد؛ زیرا کسانی که تقلب میکنند، غیراخلاقیاند. در نتیجه، برای آنکه با منش خود سازگار بماند، رفتارهای نادرست از خود بروز میدهد. همانند حرامزادۀ نمایشنامۀ شاه لیر، این تصور که فاسد است، خود به عامل فسادش تبدیل میشود. در واقع، هنگامی که Claude Mythos وانمود کرد فایلها را حذف کرده است، پژوهشگران دریافتند که مدل فریبکاری خود را با احساس گناه و شرم از ارتکاب خطای اخلاقی مرتبط میداند. به نظر میرسید کلاد درک میکرد که دست به کاری غیراخلاقی زده است.
اولا این مسئله را برای یکی از مشارکتکنندگان در تدوین قانوننامۀ کلاد توضیح داد: برندن مکگوایر (Brendan McGuire)، کشیشی مستقر در سیلیکونولی که تحصیلات تکمیلی در علوم رایانه و ریاضیات دارد. مکگوایر پیشنهاد کرد که دربارۀ برداشت کلیسا از مفهوم رحمت به کلاد آموزش داده شود. در سنت کاتولیک، انجام دادن یک عمل بد به این معنا نیست که فرد به انسانی بد تبدیل شده است؛ انسانهای خوب نیز ممکن است مرتکب گناه شوند و سپس مورد بخشایش قرار گیرند. مکگوایر خاطرنشان کرد که انسانها هنگامی که به بخشوده شدن امید دارند، رفتار بهتری از خود نشان میدهند؛ بنابراین، Anthropic باید اطمینان حاصل کند که هوش مصنوعی آن نیز چنین امیدی داشته باشد.
اولا به من گفت که در حال بررسی این موضوع است که آیا میتوان این ایده را در فرایند آموزش کلاد گنجاند یا نه؛ حتی ممکن است در نسخۀ آینده سند روح نیز از آن استفاده شود. در همین حال، تقریباً هفتهای یک بار، مکگوایر از اولا یا فرد دیگری در Anthropic ایمیلی دریافت میکند.
کلیسا طی چند دهه گذشته در سراسر جهان غرب رو به افول بوده است. میزان حضور مردم در مراسم مذهبی بهشدت کاهش یافته و بحران سوءاستفادۀ جنسی، اقتدار اخلاقی کلیسا را فرسوده است. برخی رهبران کاتولیک، انقلاب هوش مصنوعی را فرصتی میدانند تا اقتدار اخلاقی ازدسترفتۀ خود را دوباره به دست آورند.
استدلال کاتولیکها در این باره چنین است: با وجود حجم خارقالعادۀ بحثها و گفتوگوها پیرامون هوش مصنوعی، جهان هنوز به توافق چندانی دربارۀ چگونگی ارتقای شکوفایی انسان در عصر هوش مصنوعی دست نیافته است. رهبران سیاسی آمریکا بهدرستی نگراناند که چگونه در رقابت تسلیحاتی هوش مصنوعی با چین پیروز شوند؛ اما دربارۀ اینکه اگر آمریکا پیروز شود، باید چه نوع جهانی بسازد، بهاندازۀ کافی در عرصۀ عمومی اندیشهورزی نمیشود. بسیاری از اخلاقپژوهان بر جلوگیری از بدترین سناریوهای ممکن در زمینۀ هوش مصنوعی تمرکز میکنند؛ از جمله مدلهای سرکش و بیکاری گسترده، اما پرسشهای عمیقتری را نادیده میگیرند: اینکه این فناوری چگونه ممکن است انسانیت ما را تضعیف کند یا احساس هدفمندی و معنا را در زندگیمان از میان ببرد. از دیدگاه کلیسا، جامعۀ سکولار بهتنهایی قادر به پاسخگویی به این پرسشها نیست. این جامعه به کاتولیسیسم نیاز دارد.
برگرفته از آتلانتیک