
احتمالاً شما هم این تجربه را داشتهاید: از ChatGPT یا یک مدل زبانی مشابه، سوالی پیچیده میپرسید و در چند ثانیه، جوابی منسجم، خلاقانه و دقیقاً متناسب با نیازتان دریافت میکنید. در آن لحظه، این حس به شما دست میدهد که این هوش مصنوعی، شما را و منظورتان را کاملاً «میفهمد».
اما آیا واقعاً «میفهمد»؟ این ماشینهای همهچیزدان که به نظر میرسد دربارهی هر موضوعی اطلاعات دارند، چگونه کار میکنند و این «درک» عمیق از کجا میآید؟
پاسخ کوتاه (و شاید غافلگیرکننده) این است: این «درک» با آن چیزی که در مغز انسان اتفاق میافتد، اساساً متفاوت است. چیزی که شما میبینید، در واقع یک شعبدهی ریاضیاتی و آماری بسیار پیشرفته است که بر یک اصل ساده بنا شده: «پیشبینی».
در این مقاله، قصد داریم راز این شعبدهی شگفتانگیز را فاش کنیم.
بیایید ابتدا خود عبارت «مدل زبانی بزرگ» (Large Language Model) یا LLM را بشکافیم:
بزرگ (Large): این مدلها بر روی حجم غیرقابل تصوری از داده (تقریباً بخش عظیمی از اینترنت، کتابها، مقالات و...) آموزش دیدهاند و دارای میلیاردها (و گاهی تریلیونها) پارامتر هستند. «پارامترها» را میتوان به عنوان اتصالات میکروسکوپی بین نورونها در مغز انسان تشبیه کرد که دانش و الگوها را در خود ذخیره میکنند.
زبانی (Language): چون تخصص اصلی و تمام تمرکز آنها بر روی درک و تولید زبان انسان (متن) است.
مدل (Model): چون این سیستم، یک پایگاه داده یا یک مجموعهی غولپیکر از قوانین "اگر... آنگاه..." نیست. بلکه یک «نمایش ریاضیاتی و آماری» از زبان است.
وظیفه اصلی (The Core Task): با تمام این پیچیدگی، وظیفه اصلی یک LLM در سادهترین حالت، یک چیز است: «پیشبینی کلمه (یا توکن) بعدی».
آن را به عنوان یک سیستم «تکمیل خودکار» (Autocorrect) در کیبورد گوشیتان در نظر بگیرید، اما در مقیاسی کیهانی و با قدرتی میلیاردها برابر بیشتر. سیستمی که نه تنها کلمهی بعدی، بلکه کل پاراگراف بعدی را بر اساس محتملترین الگوهای آماری که یاد گرفته، پیشبینی میکند.
اینجا جایی است که «درک» اتفاق میافتد، اما نه آنطور که ما فکر میکنیم. بیایید سفر یک جمله از ورودی شما تا خروجی مدل را دنبال کنیم:
اولین کاری که مدل انجام میدهد، شکستن جمله شما به قطعات کوچکتری به نام «توکن» (Token) است. این توکنها میتوانند کلمات کامل ("گربه")، بخشی از کلمات ("ترین")، یا علائم نگارشی ("،") باشند.
مثال: جمله «من گربه را دوست دارم» تبدیل میشود به توکنهای: [من] [گربه] [را] [دوست] [دارم]
این مهمترین بخش «درک» ماشینی است. کامپیوترها کلمه «گربه» را نمیفهمند؛ آنها فقط و فقط با اعداد کار میکنند.
فرآیند: هر توکن به یک «بردار» (Vector) تبدیل میشود؛ یعنی یک لیست بسیار طولانی از اعداد اعشاری (مثلاً لیستی شامل ۳۰۰۰ عدد). این بردار، شناسنامه ریاضیاتی آن کلمه در دنیای مدل است.
نکته کلیدی: جادوی واقعی اینجاست: کلماتی که معانی مشابه یا مرتبط دارند، در این فضای ریاضیاتی چندبعدی، بردارهای عددی «نزدیکبههمی» پیدا میکنند.
مثال: بردار عددی "گربه" به بردار "سگ" بسیار نزدیکتر است تا به بردار "قاشق" یا "سیاست". به همین ترتیب، مدل یاد میگیرد که رابطه ریاضی بین "پادشاه" و "ملکه"، شبیه رابطه بین "مرد" و "زن" است. اینگونه مدل «رابطه» و «معنای» آماری کلمات را یاد میگیرد.
مدلهای قدیمی فقط به چند کلمه قبلی نگاه میکردند. اما مدلهای مدرن مانند ChatGPT از معماری شگفتانگیزی به نام «ترنسفورمر» (Transformer) استفاده میکنند که ستون فقرات آن، «مکانیزم توجه» (Attention Mechanism) است.
کاربرد Attention: این مکانیزم به مدل اجازه میدهد تا هنگام تولید یک کلمه جدید، به تمام کلمات دیگری که تاکنون در ورودی و خروجی بودهاند نگاه کند و به کلمات «مرتبطتر» وزن و «توجه» بیشتری بدهد.
مثال: در جمله «رودخانه در کنار بانک جریان داشت»، مکانیزم توجه به مدل میگوید که کلمه "بانک" به "رودخانه" (Bank of a river) مرتبط است و باید به آن توجه کند، نه به "پول" (Money bank). این دقیقاً همان چیزی است که ما به آن «درک بافتار» (Context) میگوییم.
این تواناییها شانسی به دست نیامدهاند، بلکه نتیجه دو مرحله آموزش بسیار سنگین هستند:
در این مرحله، مدل با حجم عظیمی از متن (کل ویکیپدیا، کتابخانههای دیجیتال، مقالات علمی، وبسایتها و...) تغذیه میشود. وظیفهاش ساده است: به آن متنهای ناقص داده میشود (مثلاً: «گربهها معمولا ___ میکشند») و وظیفه مدل پیشبینی کلمه حذف شده ("صدای" یا "میو") است.
نتیجه: با انجام این کار به مدت تریلیونها بار، مدل الگوهای آماری زبان، ساختار گرامر، حقایق پایهای جهان (مثلاً اینکه "آسمان آبی است") و حتی تواناییهای ابتدایی «استدلال» را یاد میگیرد.
مدل پیشآموزشدیده مانند یک کتابخانه عظیم اما بینظم است؛ همهچیز را میداند اما نمیداند چگونه مفید باشد. حالا باید آن را «اهلی» کرد.
RLHF (یادگیری تقویتی از بازخورد انسانی): این فرآیندی است که ChatGPT را متمایز کرد.
ابتدا، اپراتورهای انسانی نمونههایی از سوالات و پاسخهای خوب را مینویسند تا مدل "سبک" مکالمه و پیروی از دستورالعمل را یاد بگیرد.
سپس، مدل چندین پاسخ برای یک سوال تولید میکند و یک اپراتور انسانی به این پاسخها امتیاز میدهد (کدام بهتر، مفیدتر یا ایمنتر بود؟).
مدل یاد میگیرد که پاسخهایی تولید کند که بیشترین امتیاز را از انسانها دریافت میکنند.
نتیجه: این فرآیند به ChatGPT یاد میدهد که چگونه مفید باشد، دستورالعملها را دنبال کند، مودب باشد و از پاسخهای مضر، نژادپرستانه یا خطرناک اجتناب کند.
پاسخ نهایی: خیر، اما این «خیر» بسیار پیچیده است.
«فهم» انسانی چیست؟ درک ما از جهان مبتنی بر تجربیات فیزیکی (لمس کردن، دیدن، شنیدن)، آگاهی، احساسات و درک عمیق علت و معلولی است. ما میدانیم «غم» چیست، چون آن را حس کردهایم. ما میدانیم «گربه» چیست چون آن را لمس کردهایم، صدای آن را شنیدهایم و میدانیم یک موجود زنده است.
«فهم» ماشینی چیست؟ فهم LLM یک «درک آماری» (Statistical Understanding) است.
استعاره «طوطی سخنگوی فوقهوشمند» (Stochastic Parrot): LLM مانند یک طوطی سخنگوی فوقهوشمند است که تمام کتابهای نوشته شده به دست بشر را خوانده است. او نمیداند «غم» چیست و آن را حس نمیکند، اما آنقدر متن در مورد «غم» و کلماتی که در کنار آن میآیند خوانده است (اشعار، رمانها، مقالات روانشناسی) که میتواند به زیبایی در مورد آن شعر بگوید، چون الگوهای آماری کلماتی که در کنار «غم» میآیند را به خوبی یاد گرفته است.
واقعیت: «درک» عمیقی که ما هنگام صحبت با ChatGPT احساس میکنیم، یک اثر نوظهور (Emergent Property) شگفتانگیز از یک سیستم پیشبینی کلمه بعدی است که در مقیاسی عظیم و بر روی کل دانش بشری آموزش دیده است.
ChatGPT یک موجود آگاه، یک روح در ماشین یا یک مغز متفکر نیست.
این یک شاهکار مهندسی نرمافزار و ریاضیات کاربردی است. سیستمی که با تبدیل زبان به اعداد (Embeddings)، درک روابط آماری عمیق بین آنها (Attention) و آموزش بر روی دادههای عظیم، توانسته است زبان انسان را به شکلی شگفتانگیز شبیهسازی کند.
ChatGPT یک ابزار است؛ بدون شک قدرتمندترین ابزار زبانی که تاکنون ساخته شده، اما همچنان یک ابزار.