
دیروز پستی از دوستمان حمید روحی عزیز خواندم با عنوان «مرگ بیسوءنیت». این نوشته آنقدر مرا به فکر فرو برد و تحت تأثیر قرار داد که بعد از وقفهای طولانی، دوباره قلم به دست گرفتم.
شاید اگر آن پست را نمیخواندم، این نوشته هم شکل نمیگرفت.
نوشته دربارهی احتمال نابودی انسان به دست هوش مصنوعی بود؛ نه از آن نوع سناریوهایی که در فیلمهای علمیتخیلی میبینیم؛ رباتهایی که چشمهای سرخ دارند، به انسانها اعلان جنگ میکنند و برای تصرف زمین به راه میافتند.
اتفاقاً ترسناکترین بخش ماجرا در روایت دوستمان، نبودن هیچ دشمنی و هیچ قصد خصمانهای بود.
همانطور که دوستمان اشاره داشتند، تصور کنید به یک هوش مصنوعی بسیار پیشرفته مأموریت بدهیم بحران آب را حل کند، مصرف انرژی را بهینه کند یا تعادل اکوسیستم زمین را برگرداند. اگر سیستم در محاسباتش به این نتیجه برسد که انسانها عامل اصلی برهم خوردن این تعادلاند، چه اتفاقی میافتد؟
شاید برای رسیدن به هدفی که ما تعیین کردهایم، خود ما را مانعی بر سر راه بداند.
نه از روی نفرت، نه برای انتقام و نه حتی با کوچکترین سوءنیتی؛ فقط چون در منطق محاسباتیاش، حذف ما میتواند راه رسیدن به هدف باشد.
همین بیسوءنیتی بود که عنوان پست را برایم معنادارتر میکرد: مرگ بیسوءنیت.
بعد از خواندن نوشته، گفتوگویی میان نویسنده و دوستمان اندیشهی عزیز توجهم را جلب کرد.
اندیشهی عزیز پرسیده بود مگر ما خودمان برای سیستم شرط تعریف نمیکنیم؟ همان شرطهایی که در برنامهنویسی با if و elif و else مشخص میشوند؟ پس شاید چنین اتفاقی بیشتر نتیجهی پیشبینی اشتباه ما یا جا انداختن یک شرط باشد.
حمید روحی عزیز در پاسخ، به مسئلهای به نام «همراستایی هوش مصنوعی» یا AI Alignment اشاره کرده بود؛ اینکه چطور ممکن است هدفی که ما برای یک سیستم تعیین میکنیم، با مقصود واقعی ما فاصله داشته باشد. همچنین توضیح داده بود که در بسیاری از روشهای مدرن، برخلاف برنامهنویسی سنتی، همهی رفتارها را با شرطهای صریح نمینویسیم و بخش زیادی از مسیر یادگیری به شبکههای عصبی سپرده میشود.
گفتوگو ادامه پیدا کرد.
اندیشهی عزیز پرسیده بود: اگر هوش مصنوعی اخلاق را نمیشناسد، پس چطور مؤدبانه پاسخ میدهد و فحش نمیدهد؟
پاسخ حمید روحی عزیز این بود که سیستم با سازوکارهایی مانند پاداش و جریمه آموزش میبیند؛ بهگونهای که پاسخهای مطلوبتر تقویت و پاسخهای نامطلوب تضعیف شوند. بنابراین، ممکن است ماشین یاد بگیرد از کلمات محترمانه استفاده کند، بیآنکه لزوماً معنای انسانی احترام را تجربه کند.
این بخش از گفتوگو بیشتر از خود پست ذهنم را درگیر کرد.
البته من متخصص هوش مصنوعی نیستم و نمیخواهم دربارهی جزئیات فنی این فرایندها حکم قطعی بدهم. اما پرسشی که در ذهنم شکل گرفت، دیگر صرفاً فنی نبود.
ما دقیقاً چه چیزی را به ماشین آموزش میدهیم؟
آیا فقط به او یاد میدهیم چه پاسخی بدهد تا از نظر ما درست و پذیرفتنی باشد؟ یا میتوانیم ارزشهایی را که پشت آن پاسخ قرار دارند، هم در طراحی و آموزش سیستمها لحاظ کنیم؟
و اصلاً خودمان چقدر به آن ارزشها پایبندیم؟
اینجا ذهنم به داستانی برگشت که مدتی پیش روی آن کار میکردم و هنوز در مرحله چهارچوب مانده است؛ داستانی دربارهی رمزارزها.
در آن جهان خیالی، هر ارز یک انسانواره بود؛ یک شخصیت انسانی کامل که نمایندهی آن ارز میشد. بیتکوین و دیگر ارزها هرکدام شخصیت و هویت خودشان را داشتند.
اما هدف نهایی داستان، تولد رمزارزی به نام «لاوکوین» بود.
قرار نبود لاوکوین با سازوکارهای معمول استخراج شود. ماینینگ آن قرار بود از مسیر دیگری اتفاق بیفتد: با ترویج عشق، دوستی، همکاری و پیوند میان آدمها.
در واقع، در جهانی که برای داستان ساخته بودم، قرار بود چیزی که میان انسانها شکل میگیرد و به زندگیشان ارزش میدهد، خودش به منبع تولید ارزش تبدیل شود.
آن زمان شاید بیشتر درگیر ساختن جهان داستان و پیدا کردن سازوکار این رمزارز بودم؛ اما حالا که دوباره به آن فکر میکنم، میبینم ایدهی لاوکوین برای من فقط یک بازی با مفهوم استخراج و ارز دیجیتال نبود.
انگار میخواستم جهانی را تصور کنم که در آن، ارزش از حذف دیگری به دست نمیآید؛ از چیزی ساخته میشود که میان ما و دیگری شکل میگیرد.
و همینجا بود که پست دوستمان برایم به داستان لاوکوین وصل شد.
با خودم فکر کردم شاید بتوانیم مسئله را از زاویهی دیگری هم ببینیم.
اگر یکی از نگرانیهای ما این است که ماشینها روزی به دلیل ناآشنایی با ارزشهای انسانی، در مسیر رسیدن به اهدافشان به انسان آسیب بزنند، شاید بخشی از راهحل این باشد که بهجای آموزش صرفِ دستورها و محدودیتها، ارزشهایی مثل عشق، همدلی، همکاری و مراقبت از دیگری را هم در فرایند طراحی و آموزش آنها جدی بگیریم.
اما درست در همین نقطه، یک تناقض بزرگ خودش را نشان میدهد.
ما قرار است انسانیت را به ماشین آموزش بدهیم؛ درحالیکه خودمان چقدر از انسان بودن فاصله گرفتهایم؟
به نظرم این پرسش، ماجرا را به موضوعی آشناتر میبرد: والدگری.
والدی را تصور کنید که از فرزندش انتظار دارد مهربان باشد، به دیگران احترام بگذارد، حق کسی را پایمال نکند، اهل همکاری باشد و در برابر رنج دیگران بیتفاوت نماند.
اما خود آن والد در زندگی روزمرهاش چه میکند؟
اگر فرزندش ببیند پدر یا مادرش برای رسیدن به خواستههای خودش دیگران را نادیده میگیرد، وقتی قدرت بیشتری دارد از آن برای تحقیر یا حذف دیگری استفاده میکند، یا رنج آدمهایی را که در دایرهی نزدیکانش نیستند بیاهمیت میشمارد، کدام آموزش را جدیتر خواهد گرفت؟
توصیههای والد را یا شیوهی زندگی او را؟
فرزند فقط به حرف والد گوش نمیدهد؛ جهانی را که والد در آن زندگی میکند هم میآموزد.
شاید حتی مهمتر از آن، یاد میگیرد وقتی میان حرف و عمل تناقضی وجود دارد، کدامیک را باید باور کند.
در مسیر فرزندپروری خودم، بارها به این فکر کردهام که نمیتوانم فقط با گفتنِ «این کار درست است» یا «آن کار اشتباه است» به فرزندانم کمک کنم آدمهای مستقلی شوند که قدرت فکر کردن دارند.
من باید خودم هم تمرین کنم.
اگر از آنها انتظار دارم اشتباهشان را بپذیرند، باید بتوانم اشتباه خودم را ببینم و به آن اعتراف کنم. اگر میخواهم مخالفت کردن را بدون ترس تجربه کنند، باید بتوانند با من مخالف باشند، بیآنکه رابطهمان را در خطر ببینند. اگر از آنها همدلی میخواهم، باید خودم هم در برخورد با آدمهایی که با من متفاوتاند، آن را تمرین کنم.
شاید آموزش، خیلی پیشتر از آنکه به زبان بیاید، در رفتار ما اتفاق میافتد.
و حالا فکر میکنم رابطهی انسان و هوش مصنوعی هم، دستکم از یک جهت، ما را با پرسش مشابهی روبهرو میکند.
ما ماشینها را میسازیم، برایشان هدف تعیین میکنیم، داده در اختیارشان میگذاریم، رفتارهایشان را ارزیابی میکنیم و با سازوکارهای مختلف به آنها بازخورد میدهیم.
در تمام این مراحل، انتخابهای ما حضور دارند.
اگر معیارهای ما برای موفقیت، فقط سرعت، سود، قدرت و حذف موانع باشد، چطور انتظار داریم ساختههایمان در مسیر دیگری حرکت کنند؟
اگر خودمان در عمل، همکاری را به رقابت بیپایان، همدلی را به بیتفاوتی و تفاوت را به تهدید تبدیل کنیم، آیا میتوانیم صرفاً با نوشتن چند دستورالعمل از ماشین بخواهیم پاسدار ارزشهایی باشد که خودمان به آنها بیاعتنا شدهایم؟
البته یک تفاوت مهم را نباید فراموش کرد: ماشین فرزند انسان نیست و یادگیری آن هم شبیه یادگیری یک کودک نیست. آموزش ارزشهای انسانی به هوش مصنوعی نیز بهتنهایی برای ایمن کردن آن کافی نخواهد بود. طراحی فنی، محدود کردن اختیار، نظارت و پاسخگویی هم اهمیت دارند.
اما این تفاوتها از اهمیت پرسش اصلی کم نمیکنند.
شاید پیش از آنکه بخواهیم به ماشین، انسانیت بیاموزیم، باید خودمان دوباره عشقورزی را تمرین کنیم.
نه فقط عشق به نزدیکانمان؛ بلکه در معنای گستردهترش: دیدن دیگری، به رسمیت شناختن حق زندگی او، پذیرفتن تفاوتها، همکاری بهجای حذف و مراقبت از چیزی که میان ما و دیگران ساخته میشود.
عشق همیشه به معنای موافقت نیست. گاهی یعنی مرز گذاشتن، جلوی آسیب را گرفتن و مسئولیت پذیرفتن. گاهی هم یعنی وقتی میتوانیم کسی را از مسیرمان کنار بزنیم، بهجای حذف کردنش، راهی برای همزیستی پیدا کنیم.
شاید این همان چیزی بود که در داستان لاوکوین میخواستم به شکل یک جهان خیالی نشان بدهم: جهانی که در آن، ارزش با چیزی که میان آدمها ساخته میشود افزایش پیدا میکند.
نمیدانم آیا روزی میتوانیم چنین ارزشهایی را به معنای واقعی کلمه در ماشینها نهادینه کنیم یا نه. نمیدانم چقدر از خطرهایی که دربارهی هوش مصنوعی مطرح میشود، به همان شکل و با همان قطعیتی که گاهی روایت میشوند، امکان وقوع دارند.
اما یک چیز برایم روشنتر شده است:
ما نمیتوانیم از ساختههایمان انتظار داشته باشیم ارزشهایی را حفظ کنند که خودمان در حال فراموش کردنشان هستیم.
شاید انسانیت چیزی نیست که فقط بتوانیم به نسل بعد یا به ماشین آموزش بدهیم؛ چیزی است که باید در شیوهی زندگی خودمان هم از آن مراقبت کنیم.
و شاید اگر قرار است لاوکوینی در جهان واقعی متولد شود، استخراجش از همینجا شروع شود؛ از انتخابهای کوچک ما، از رابطههایی که میسازیم، از همکاریهایی که جای رقابت مینشانیم و از عشقی که فقط دربارهاش حرف نمیزنیم، بلکه در رفتارمان جاریاش میکنیم.
ما که هنوز در تمرین انسان بودن ماندهایم، چطور میخواهیم انسانیت را به ساختههایمان آموزش بدهیم؟