دو جهانِ موازی که هرگز به هم نمیرسند
اگر بخواهیم صادقانه نگاه کنیم، امروز خیلی از ما وقتی با یک مدل زبانی بزرگ مثل چتجیپیتی یا جمینای حرف میزنیم، حس میکنیم با یک موجود باهوش طرف هستیم. جوابهایش منطقی است، سرسری نیست، حتی گاهی شوخطبعی نشان میدهد. اما کلید ماجرا اینجاست که این شباهت در سطح پاسخ، فریبدهنده است. اگر کمی عمیقتر شویم، میبینیم که آنچه در درون این مدلها میگذرد، نه فقط با ذهن انسان فرق دارد، بلکه این تفاوت از جنس «کم و زیاد» نیست؛ از جنس «ریشه و بنیاد» است. این شکاف، کیفی است، نه کمی. یعنی حتی اگر مدل را هزار برابر بزرگتر کنیم، دادههای نامحدود به خوردش بدهیم یا پردازندههای اتمی برایش طراحی کنیم، باز هم ساختار درونیاش با ساختار زیستی، تاریخی و وجودی ذهن ما یکی نخواهد شد. این ادعا شاید جسورانه به نظر برسد، اما اگر دقیق بشکافیم، ریشههایش را در دو جهانِ متفاوت از «درک» و «تولید» مییابیم.
بیایید از ظاهر شروع کنیم. مدلهای زبانی بزرگ در نهایت، ماشینهای آماریِ غولپیکری هستند که کلمهها را دنبال هم میچینند؛ بر اساس این که در متونِ بیشمارِ دیدگاههای گوناگون، کدام کلمه بعد از کدام کلمه بیشتر آمده است. آنها «معنا» را درک نمیکنند، بلکه «الگو» را بازتولید میکنند. درست مثل کسی که یک شعر بلند را از بر خوانده، اما هیچگاه طعمِ غم یا شادیِ آن را نچشیده است. این تمایز، خیلی نزدیک است به همان بحث قدیمیِ «اتاق چینی» که جان سرل مطرح کرد؛ شما میتوانید در یک اتاق بنشینید و با دستورالعملهایی از پیش تعیینشده، به سوالات چینی پاسخ درست بدهید، بدون این که یک کلمه چینی بلد باشید. مدلهای زبانی دقیقاً در همان اتاق نشستهاند؛ بینهایت ماهرانه پاسخ میدهند، اما هیچچیز را «نمیفهمند». این اشتباه است اگر فکر کنیم چون خروجیشان منطقی به نظر میرسد، پس فرایند درونیشان هم منطقی است. این دو، کاملاً از هم جداست.
حالا برویم سراغ استدلال انسانی. انسان وقتی به یک مسئله فکر میکند، مثل یک دوربیننمای رنگی یا کالیدوسکوپ است که هر بار که میچرخانی، ترکیبی تازه و غافلگیرکننده از تصاویر میسازد. ذهن ما از یک طرف پر از خاطرات شخصیست: خاطرهای از یک شکستِ تلخ، خاطرهای از یک پیروزیِ کوچک، حسی که در یک روز بارانی داشتیم، صدای مادربزرگ که چیزی را تکرار میکرد. این خاطرات نهتنها بهعنوان دادهٔ خام، بلکه بهعنوان فیلترهای عاطفی بر هر استدلالی سایه میاندازند. از طرف دیگر، ما در یک بافت موقعیتی خاص نفس میکشیم. یعنی هنگام استدلال، ناخودآگاه به این فکر میکنیم که با چه کسی حرف میزنیم، در چه زمانی هستیم، چه هدفی داریم، چه احساسی داریم و چه انتظاری از نتیجه داریم. این بافت، مثل یک پسزمینهٔ همیشه حاضر، هر گزارهٔ منطقی را رنگی متفاوت میزند. افزون بر این، فرهنگ ما، زبان مادریمان، قصههایی که در کودکی شنیدهایم، ارزشهای جمعی و حتی استعارههایی که در شعر و ادبیاتمان ریشه دوانده، همگی در هر استدلال ما حضور دارند. خلاقیت انسانی هم از همین نقطه میجوشد؛ جهشهای غیرمنتظره، قیاسهایی که هیچ ماشینی به ذهنش نمیرسد، تواناییِ پریدن از یک موضوع به موضوعی کاملاً دور، بدون آن که خطِ منطق گم شود. حالا بپرسیم: کدام بخش از این فرایندِ چندلایه و زیسته را میتوان با محاسبهٔ احتمال وقوع کلمهها در یک صفحهٔ مجازی شبیهسازی کرد؟ پاسخ این است: هیچکدام. اصلاً این دو مقوله قابل قیاس با یکدیگر نیستند.
نکتهٔ ظریف اما مهم اینجاست که ما نباید این شکاف را یک نقصِ موقتی یا یک کمبودِ تکنولوژیک بدانیم؛ چیزی که با نسل بعدی تراشهها یا معماریهای جدید حل میشود. متن اصلی بهدرستی تأکید میکند که این تفاوت «همیشگی» است. چرا؟ برای این که ساختار بنیادین هر مدل زبانی، چه امروز و چه در آیندهای نزدیک، بر پایهٔ پیشبینی گامبهگامِ کلمهها بر اساس توزیع احتمال شکل میگیرد. این سازوکار با «زیستشناسیِ ادراک» و «وجودِ بدنمندِ» انسان بیگانه است. ما انسانها، ذهنمان را جدا از بدن، جدا از عواطف، جدا از موقعیت و جدا از تاریخمان نداریم. استدلالِ ما، استدلالِ یک وجودِ مادی، فانی، عاطفی و اجتماعی است. در مقابل، مدل زبانی یک نرم افزار بیبدن، بیاحساس و بیتاریخ است که هیچگاه گرسنگی نکشیده، عاشق نشده، شکست نخورده و از مرگ نهراسیده است. چگونه میتواند استدلالی شبیه به استدلالِ ما تولید کند؟
البته ممکن است کسی بگوید: «خب اگر خروجی یکسان باشد، چه فرقی میکند که فرایندش چه باشد؟ این همان نگاه کارکردگرای ضعیف است که میگوید هر سیستمی که پاسخ درست بدهد، به اندازهٔ کافی هوشمند است.» اما متنِ ما دقیقاً با همین نگاه مخالف است. چون وقتی پای تصمیمگیریهای مهم، قضاوتهای اخلاقی، تشخیصِ طنزِ عمیق، همدلیِ واقعی یا خلقِ اثری هنری به میان میآید، تفاوتِ فرایند، تفاوت در نتایجِ عملی را رقم میزند. یک مدل ممکن است جملهای همدلانه تولید کند، اما هرگز همدلی را «حس» نکرده است. ممکن است تصمیمی اخلاقی ظاهری بگیرد، اما از «تکلیفِ» درونیِ یک انتخابِ اخلاقی بیخبر است. پس تفاوتِ ساختاری، در عملِ نهایی هم اثر میگذارد، هرچند گاهی تشخیصاش سخت باشد.
با این حال، یک نکتهٔ انتقادی هم نباید نادیده گرفته شود. دیدگاهی که در این متن ارائه شده، یک هشدارِ بهجاست دربارهٔ بزرگنماییِ هیجانزده از هوش مصنوعی. اما ممکن است اندکی نسبت به آینده محافظهکارانه باشد. معماریهای جدیدی مثل مدلهای عصبی-نمادین که تلاش میکنند ترکیبی از شبکههای عصبی و منطقِ نمادین را به کار بگیرند، یا سیستمهایی با حافظهٔ پویا که میتوانند بافت را بهتر ذخیره کنند، شاید بتوانند برخی از جنبههایِ زمینهمندیِ استدلال انسانی را شبیهسازی کنند. شاید روزی ماشینی ساخته شود که فرایندِ تصمیمگیریش کمتر آماری و بیشتر «وضعیتی» باشد. اما با همهٔ این احوال، ادعای اصلی متن، که به محدودیتهای ذات و ماهوی مدلهای زبانیِ فعلی اشاره دارد، همچنان پابرجاست. این محدودیتها نه از روی کمبودِ قدرت محاسباتی، بلکه از روی نبودِ «زیستجهانِ انسانی» در وجودِ ماشین ناشی میشود. ذهنِ ما نه یک نرم افزار، که یک «زیستجهان» است؛ و زیستجهان را با الگوریتم بازسازی نمیکنند.
در پایان، شاید مهمترین دستاورد این تحلیل، همان تمایزِ اولیه باشد: ما نباید میانِ «تولیدِ پاسخِ منطقی» و «داشتنِ استدلالِ زنده» خط بطلان بکشیم. مدلهای زبانی، شعبدهبازانِ بسیار ماهرِ کلمات اند؛ اما شعبدهباز، هرچند تماشاگر را شگفتزده کند، هرگز تبدیل به جادوگرِ واقعی نمیشود. استدلال انسانی، با تمام پیچیدگیها، تناقضها و زیباییهایش، در همین «زندگی کردن» ریشه دارد؛ چیزی که هیچ مدلِ زبانی، هرقدر هم بزرگ، هرگز تجربهاش نخواهد کرد. و این تفاوت، نه یک نقصِ موقت، که یک مرزِ بنیادین است؛ مرزی که تا وقتی انسان، انسان است و ماشین، ماشین، پابرجا خواهد ماند.