ویرگول
ورودثبت نام
آرین فروتن
آرین فروتن
آرین فروتن
آرین فروتن
خواندن ۱ دقیقه·۲ ماه پیش

آیا آینده AI فقط LLMهای بزرگ‌تر است؟

یه مدت پیش برای پروژه Customer Support خودم، یک LLM رو Fine-tune کردم تا از روی پیام کاربر تشخیص بده درخواستش چیه و باید چه کاری انجام بشه.

مثلاً:

«می‌خوام سفارشم رو لغو کنم»

مدل باید بفهمه این یک Cancel Order هست و سیستم رو به سمت Action درست هدایت کنه.

اون موقع راه‌حل طبیعی این بود که برای چنین کاری هم از LLM استفاده کنیم.

ولی چیزی که با دیدن Jev برام جالب شد اینه که شاید همیشه لازم نباشه برای تصمیم‌های این‌چنینی سراغ یک LLM Generative بریم.

مثلاً اگر فقط قرار باشه از بین چند گزینه تصمیم بگیریم:

User Request → Decision → Action

چرا باید یک مدل Generative داشته باشیم که علاوه بر تصمیم‌گیری، توانایی تولید متن و کلی قابلیت دیگه هم داره؟

مدل‌های جدیدی مثل Jev این ایده رو جدی‌تر می‌کنن:
مدل تخصصی برای تصمیم‌گیری، به جای اینکه همه‌چیز رو به یک LLM بسپاریم.

البته به نظرم این به معنی کنار رفتن LLMها یا Agentic AI نیست.

اتفاقاً ممکنه معماری سیستم‌ها بیشتر ترکیبی بشه.

یک مدل کوچک برای Classification / Routing،
یک LLM برای Reasoning و Generation،
یک Agent برای Tool Use و اجرای چندمرحله‌ای،
و RAG برای زمانی که سیستم به اطلاعات خارجی نیاز داره.

یعنی به جای:

Everything → LLM

ممکنه برسیم به:

Task → مدل مناسب همان Task

و این برای من قسمت جالب ماجراست.

چون شاید رقابت آینده فقط سر این نباشه که کدوم LLM قوی‌تره؛
بلکه این باشه که چطور چند مدل و چند روش مختلف رو کنار هم قرار بدیم تا یک سیستم بهتر بسازیم.

به نظرم مسیرهایی مثل Fine-tuning، RAG و Agentic AI هم قرار نیست ناپدید بشن؛ بیشتر احتمال داره جای درست خودشون رو در این معماری پیدا کنن.

مدلllm
۰
۰
آرین فروتن
آرین فروتن
شاید از این پست‌ها خوشتان بیاید