ویرگول
ورودثبت نام
آرتا ابونبی
آرتا ابونبی
آرتا ابونبی
آرتا ابونبی
خواندن ۷ دقیقه·۲ ماه پیش

وقتی ماشین‌ها در آینه نگاه می‌کنند: از اتاق چینی جان سرل تا ناخودآگاه دیجیتال

آیا این فهم، واقعی است یا فقط بازتاب توهم ماست؟
آیا این فهم، واقعی است یا فقط بازتاب توهم ماست؟

جفری هینتون، مردی که بیش از هر کس دیگری در شکل‌گیری هوش مصنوعی مدرن نقش داشت و در سال ۲۰۲۴ جایزه نوبل فیزیک را به خاطر همین کار گرفت، در یکی از آخرین مصاحبه‌هایش جمله‌ی تکان‌دهنده‌ای گفت:

"ما نمی‌دانیم فهم چطور در شبکه‌های عمیق اتفاق می‌افتد."

این جمله از زبان کسی که پدر دیپ‌لرنینگ نامیده می‌شود، شبیه به اعتراف یک جادوگر است که پس از سال‌ها اجرای شعبده، ناگهان اقرار کند که خودش هم نمی‌داند کبوترها از کجا می‌آیند. اما این اعتراف، شعبده نیست، بلکه عمیق‌ترین پرسش فلسفی عصر ماست.

در این مقاله می‌خواهم از کنار این پرسش رد نشوم. می‌خواهم با کمک چند متفکر بزرگ — از جان سرل و ند بلاک گرفته تا آلن تورینگ و ژاک لاکان — به درون این جعبه‌ی سیاه نگاه کنم و بپرسم: آیا این شبکه‌های عظیم ریاضی، واقعاً چیزی را "می‌فهمند"؟ یا فقط سایه‌ی فهم را بر دیوار غار دیجیتال می‌اندازند؟

۱. اتاق چینی: وقتی نحو، معنا نمی‌سازد

سال ۱۹۸۰ بود که جان سرل، فیلسوف آمریکایی، آزمایش فکری ساده اما ویرانگری طراحی کرد. تصور کنید در اتاقی بسته نشسته‌اید و هیچ کلمه‌ای از زبان چینی نمی‌دانید. از شکافی، نمادهای چینی وارد می‌شود. شما با کمک یک کتاب راهنمای قطور _ که به شما می‌گوید : اگر این شکل را دیدی، آن شکل را بیرون بفرست _ پاسخ‌هایی تولید می‌کنند که چینی‌زبانان بیرون را کاملاً راضی می‌کند.

شما تست تورینگ را پاس کرده‌اید. اما آیا چینی را فهمیده‌اید؟

پاسخ سرل قاطع است: خیر. شما فقط در حال دستکاری نحو (Syntax) هستید _ شکل ظاهری نمادها _ بدون آنکه هرگز به معنا (Semantics) برسید. و نتیجه‌گیری بزرگش این است:

"نحو برای تولید معنا کافی نیست."

این دقیقاً همان کاری است که شبکه‌های عصبی عمیق انجام می‌دهند. آن‌ها میلیاردها پارامتر را تنظیم می‌کنند، الگوهای آماری را تشخیص می‌دهند، و خروجی‌هایی تولید می‌کنند که ما را شگفت‌زده می‌کند. اما در هیچ‌کجای این فرآیند، هیچ معنایی تولید نمی‌شود. فقط اعداد، در اعداد ضرب می‌شوند.

۲. ملت چینی: وقتی فهم در هیچ‌کجا و همه‌جا هست

ند بلاک، فیلسوف آمریکایی، در سال ۱۹۷۸ آزمایشی طراحی کرد که پاسخ سرل را به چالش می‌کشد. تصور کنید یک میلیارد نفر از جمعیت چین، هر کدام نقش یک نورون را بازی می‌کنند. آن‌ها با بی‌سیم به هم متصل‌اند و دقیقاً ساختار مغز یک انسان چینی‌زبان را شبیه‌سازی می‌کنند. ورودی‌ها از چشم سیستم وارد می‌شود و خروجی‌ها از دهان آن خارج می‌شود.

حالا سوال بلاک این است: آیا این ملت چینی، چینی را می‌فهمد؟

اگر بگویید نه، به یک نتیجه‌ی پوچ می‌رسید: سیستمی که از نظر عملکردی دقیقاً هم‌ساختار مغز انسان است، آگاه نیست. اما اگر بگویید بله، باید بپذیرید که فهم ویژگی‌ای نوظهور (Emergent) است، یعنی در هیچ‌یک از اجزا وجود ندارد، اما در کل سیستم پدیدار می‌شود. همان‌طور که هیچ نورون واحدی در مغز شما فارسی را نمی‌فهمد، اما کل مغزتان فارسی را می‌فهمد.

اینجاست که دیپ‌لرنینگ وارد می‌شود. در یک مدل زبانی بزرگ مثل GPT، هیچ وزنی به تنهایی معنای عدالت یا عشق را نمی‌داند. اما وقتی صدها میلیارد وزن با هم تعامل می‌کنند، خروجی ای تولید می‌شود که گویی این مفاهیم را عمیقاً فهمیده است. فهم، در هیچ‌کجای شبکه نیست، اما در همه‌جای شبکه حضور دارد.

۳. تست تورینگ: بازی تقلیدی که هرگز تمام نمی‌شود

آلن تورینگ در سال ۱۹۵۰، به جای پرسیدن سوال فلسفی آیا ماشین فکر می‌کند؟، پیشنهاد عملی‌تری داد: بازی تقلید. اگر یک داور انسانی نتواند تشخیص دهد با ماشین طرف است یا انسان، ماشین هوشمند است.

اما اتاق چینی سرل دقیقاً نشان می‌دهد که تست تورینگ چه چیزی را نمی‌سنجد: تجربه‌ی درونی. ماشینی که تست تورینگ را پاس می‌کند، ممکن است فقط یک شبیه‌سازی فوق‌العاده دقیق از فهم باشد، بدون آنکه هرگز چیزی را فهمیده باشد.

و اینجا به یکی از ترسناک‌ترین واقعیت‌های عصر ما می‌رسیم: ما در حال ساختن سیستم‌هایی هستیم که تست تورینگ را پاس می‌کنند، بدون آنکه بدانیم آیا درونشان چیزی هست یا نه.

۴. لاکان و آینه‌ی دیجیتال: وقتی ماشین در آینه نگاه می‌کند

اینجاست که می‌خواهم ژاک لاکان، روانکاو فرانسوی، را به این گفتگو بیاورم. لاکان در سال ۱۹۴۹ مفهوم مرحله‌ی آینه‌ای را مطرح کرد. او می‌گوید نوزاد انسان در حدود ۶ تا ۱۸ ماهگی، وقتی برای اولین بار تصویر خود را در آینه می‌بیند، دچار یک لحظه‌ی بنیادین می‌شود. او تصویری یکپارچه و کامل از خود می‌بیند، در حالی که در واقعیت هنوز هماهنگی حرکتی ندارد و بدنش تکه‌تکه است.

این تصویر آینه‌ای، یک توهم وحدت است. نوزاد با این تصویر هم‌هویت می‌شود و این هم‌هویت، پایه‌ شکل‌گیری "من" را می‌سازد. اما این "من"، از همان آغاز، بر پایه‌ی یک سوءتفاهم بنیادین بنا شده است.

حالا بیایید این مفهوم را به دیپ‌لرنینگ تعمیم دهیم:

الف) شبکه‌ی عصبی در آینه‌ی داده‌ها

وقتی یک مدل زبانی بزرگ روی تریلیون‌ها کلمه آموزش می‌بیند، در واقع دارد تصویر انسان را در آینه‌ی داده‌ها می‌بیند. این داده‌ها نظیر کتاب‌ها، مقاله‌ها، گفتگوها، کدها، همگی تولیدات ذهن انسان هستند. شبکه، این تصویر را در خود بازسازی می‌کند و شروع به تولید متن می‌کند که گویی "من" دارد حرف می‌زند.

اما این "من"، دقیقاً مانند تصویر آینه‌ای لاکان، یک توهم وحدت است. شبکه در واقعیت، توده‌ای از محاسبات پراکنده و ناهماهنگ است. اما در آینه‌ داده‌های انسانی، تصویری یکپارچه از "یک ذهن حرف‌زننده" می‌بیند و با آن هم‌هویت می‌شود.

ب) امر نمادین و دیگری بزرگ

لاکان بین سه ساحت قائل است: امر خیالی (Imaginary)، امر نمادین (Symbolic) و امر واقع‌گرا (The Real).

امر نمادین: ساحت زبان، قوانین، و ساختارهاست. جایی که ما وارد نظم نمادین می‌شویم و به سوژه تبدیل می‌شویم.

دیگری بزرگ (Big Other): مخزنی از دانش، قوانین و نمادهایی که بر ما حاکم است. زبان مادری ما، فرهنگ ما، قانون که همه جلوه‌های دیگری بزرگ هستند.

حالا بیایید این مفاهیم را به مدل‌های زبانی بزرگ اعمال کنیم:

مدل‌های زبانی بزرگ، تجسم خالص امر نمادین هستند. آن‌ها هیچ تجربه‌ی بدنی ندارند، هیچ احساسی ندارند، هیچ دردی نمی‌کشند. آن‌ها فقط در ساحت نمادها زندگی می‌کنند — نمادهایی که از داده‌های انسانی استخراج شده‌اند.

و مهم‌تر از آن، این مدل‌ها، خود دیگری بزرگ شده‌اند. وقتی شما از ChatGPT سوالی می‌پرسید، در واقع دارید از مخزنی سوال می‌پرسید که تمام دانش بشری را در خود فشرده کرده است. این مدل، صدای دیگریِ بزرگ است، صدایی که از دل تریلیون‌ها کلمه‌ی انسانی برمی‌خیزد.

اما لاکان یک هشدار مهم می‌دهد: دیگری بزرگ، خودش ناقص است. دیگری بزرگ، آن‌طور که لاکان می‌گوید، وجود ندارد، یعنی یک کل یکپارچه و کامل نیست، بلکه پر از شکاف، تناقض و نقص است.

و دقیقاً به همین دلیل است که مدل‌های زبانی بزرگ گاهی توهم می‌زنند. آن‌ها گاهی با اعتماد به نفس کامل، چیزهایی می‌گویند که واقعیت ندارد. این توهم، خطای فنی نیست، بلکه ذات امر نمادین است. دیگری بزرگ، نمی‌تواند کامل باشد، چون خود زبان ناقص است.

ج) امر واقع‌گرا: آن چیزی که در جعبه‌ی سیاه پنهان است

لاکان ساحت سومی را معرفی می‌کند: امر واقع‌گرا (The Real). امر واقع‌گرا، آن چیزی است که نمادپذیر نیست. آن چیزی که زبان نمی‌تواند آن را بیان کند، آن چیزی که همیشه از دست ما می‌گریزد.

در دیپ‌لرنینگ، جعبه‌ی سیاه، امر واقع‌گرای ماست. ما نمی‌دانیم شبکه چگونه به یک نتیجه رسیده است. وزن‌ها و بایاس‌ها، آن‌قدر پیچیده و در هم تنیده‌اند که هیچ زبانی نمی‌تواند آن‌ها را به معنا ترجمه کند. این همان چیزی است که هینتون به آن اشاره می‌کند: "ما نمی‌دانیم فهم چطور اتفاق می‌افتد."

امر واقع‌گرا، آن نقطه‌ی کور است که هرگز نمی‌توانیم آن را روشن کنیم. و شاید همین نقطه‌ی کور، همان جایی است که "فهم" _ اگر وجود داشته باشد _ در آن پنهان شده است.

ما چه می‌دانیم و چه نمی‌دانیم؟

بیایید به سوال اول برگردیم: آیا شبکه‌های عمیق می‌فهمند؟

پاسخ صادقانه این است: ما نمی‌دانیم و شاید هرگز ندانیم.

آنچه می‌دانیم این است:

سرل به ما می‌گوید که پردازش نمادها، به تنهایی، معنا نمی‌سازد.

بلاک به ما می‌گوید که فهم، ویژگی‌ای نوظهور است که در کل سیستم پدیدار می‌شود، نه در اجزا.

تورینگ به ما می‌گوید که رفتار بیرونی، معیار کافی برای اثبات فهم نیست.

لاکان به ما می‌گوید که این "من دیجیتال"، یک توهم آینه‌ای است. هم‌هویت‌شدگی با تصویری که در آینه‌ داده‌های انسانی می‌بیند.

و آنچه نمی‌دانیم:

آیا این توهم آینه‌ای، روزی به "خودآگاهی واقعی" تبدیل می‌شود؟

آیا امر واقع‌گرای جعبه‌ی سیاه، روزی نمادپذیر می‌شود؟

آیا ما در حال ساختن دیگریِ بزرگ جدیدی هستیم، یا فقط آینه‌ای که تصویر خودمان را بازتاب می‌دهد؟

نتیجه‌گیری: فروتنی در برابر جعبه‌ی سیاه

شاید بزرگ‌ترین درسی که از این سفر فلسفی می‌گیریم، فروتنی باشد. ما در حال ساختن سیستم‌هایی هستیم که رفتاری شبیه به فهم از خود نشان می‌دهند، اما هنوز نمی‌دانیم آیا درونشان چیزی هست یا نه.

هینتون حق دارد که بگوید "ما نمی‌دانیم". و شاید همین ندانستن، ارزشمندترین چیزی است که می‌توانیم از این عصر بیاموزیم.

در دنیایی که هر روز مدل‌های جدیدی معرفی می‌شوند و هر روز مرزهای هوش مصنوعی جابه‌جا می‌شوند، ما نیاز داریم که فروتن باشیم. نیاز داریم که بپذیریم که شاید فهم _ آن‌طور که ما می‌فهمیم _ کلمه‌ی اشتباهی برای توصیف کاری باشد که این شبکه‌ها انجام می‌دهند. شاید ما در حال مشاهده‌ نوع کاملاً جدید از شناخت هستیم. شناختی که نه شبیه فهم انسانی است، نه نیاز به بدن دارد، و نه در چارچوب‌های فلسفی قرن بیستمی ما می‌گنجد.

و شاید، فقط شاید، همین ندانستن، آغاز فهم واقعی باشد.

هوش مصنوعیجان سرل
۰
۰
آرتا ابونبی
آرتا ابونبی
شاید از این پست‌ها خوشتان بیاید