سال‌هاست که مدل‌های زبانی بزرگ در تولید متن، پاسخ‌گویی و گفت‌وگو پیشرفت زیادی کردن اما یه سؤال مهم همچنان باقی مونده : اگر مدل‌های هوش مصنوعی تا این اندازه توانمند شده‌اند، چرا بخش بزرگی از نرم‌افزارهای ما هنوز نمی‌توانند به شکل مستقیم از آن‌ها استفاده کنند؟
شرکت TypeSafe پاسخ خود به این سؤال را با معرفی مفهوم System One Models و اولین مدل عمومی خود، یعنی Jev، ارائه کرده . ایده اصلی اینه که همیشه لازم نیست هوش مصنوعی برای انسان متن تولید کنه در بسیاری از کاربردها، چیزی که نرم‌افزار واقعاً نیاز دارد یک تصمیم ساختاریافته و قابل اعتماد هست.
مدل‌های زبانی معمولی مانند بسیاری از LLMها برای تولید متن طراحی شده‌اند. ورودی می‌تونه متن آزاد باشه و خروجی نیز معمولاً مجموعه‌ای از توکن‌های متوالی است. اگر بخواهیم این خروجی را وارد یک نرم‌افزار کنیم، معمولاً باید آن را پردازش، Parse و اعتبارسنجی کنیم.
برای مثال از هوش مصنوعی می پرسیم:
آیا این کاربر احتمالاً مشتری را ترک خواهد کرد؟
ممکنه جوابی مثل «بله، احتمالاً زیاد» تولید کنه. نرم‌افزار ما باید سعی کنه این پاسخ به یک مقدار قابل استفاده تبدیل کند.
اما ایده System One متفاوت است. به جای تولید متن، مدل مستقیماً مقداری با ساختار مشخص برمی‌گردونه؛ مثلاً:
highconfidence: 0.91
در این مدل، شکل خروجی از قبل مشخص است و نرم‌افزار دقیقاً می‌داند با چه نوع داده‌ای روبه‌رو است. TypeSafe این رویکرد را برای کارهایی مانند دسته‌بندی، مسیریابی، امتیازدهی، استخراج اطلاعات و تصمیم‌گیری شرطی مطرح می‌کند.
Jev اولین مدل عمومی TypeSafe در این خانواده است و شرکت آن را برای تصمیم‌های سریع و ساختاریافته طراحی کرده است.
یکی از تفاوت‌های مهم Jev این است که برای تولید متن آزاد بهینه نشده است. به گفته TypeSafe، خروجی‌های آن ساختاریافته و type-safe هستند و مدل همراه هر پاسخ، احتمال و میزان اطمینان خود را نیز ارائه می‌کند. در نتیجه، نرم‌افزار می‌تواند علاوه بر خود تصمیم، میزان اطمینان مدل را هم در منطق خود وارد کند.
مثلاً به جای این‌که فقط بگوییم:
کاربر احتمالاً ریزش می‌کند.
می‌توانیم تصمیمی شبیه این داشته باشیم:
{ level: "high", probability: 0.91}
این تفاوت در ظاهر کوچک است، اما برای سیستم‌های نرم‌افزاری اهمیت زیادی دارد؛ چون برنامه می‌تواند بر اساس احتمال تصمیم بگیرد که مثلاً در صورت اطمینان بیشتر از ۸۵ درصد، یک فرآیند خاص را اجرا کند.
در بسیاری از کاربردهای هوش مصنوعی، چند ثانیه تأخیر شاید مشکل بزرگی نباشد. اما در یک نرم‌افزار، اگر قرار باشد برای هر درخواست کاربر یا هر مرحله از یک Workflow از مدل استفاده کنیم، همین تأخیر و هزینه می‌تواند به یک مانع جدی تبدیل شود.
TypeSafe اعلام کرده که پاسخ‌های Jev در سرویس این شرکت حدود ۷۰ تا ۵۰۰ میلی‌ثانیه زمان می‌برند و در برخی سناریوهای مورد آزمایش، آن را بسیار سریع‌تر از مدل‌های مرزی متداول دانسته است. همچنین شرکت توضیح می‌دهد که Jev به جای تولید ترتیبی توکن‌ها، خروجی‌های ساختاریافته را به صورت موازی محاسبه می‌کند.
این موضوع بیشتر از آن‌که برای چت جذاب باشه، برای اتوماسیون بلادرنگ اهمیت داره؛ جایی که مدل باید داخل خود نرم‌افزار قرار بگیرد، نه صرفاً پشت یک صفحه چت.
شاید جالب‌ترین ایده TypeSafe همین باشد.
تولید متن آزاد نقطه قوت بزرگ LLMها است، اما همین آزادی می‌تواند در سیستم‌های نرم‌افزاری مشکل ایجاد کند. یک مدل ممکن است پاسخی بدهد که از نظر زبانی کاملاً منطقی باشد، اما با چیزی که نرم‌افزار انتظار دارد مطابقت نداشته باشد.
برای نمونه، اگر یک سرویس انتظار داشته باشد:
status = "approved"
اما مدل چیزی شبیه این برگرداند:
I think the request should probably be approved.
نرم‌افزار باید دوباره این متن را تفسیر کند.
System One تلاش می‌کند این مرحله را حذف کند. خروجی باید از ابتدا در قالبی باشد که برنامه بتواند مستقیماً از آن استفاده کند. TypeSafe این ویژگی را یکی از پایه‌های type-safety در اتوماسیون می‌داند.
TypeSafe فقط مدل را معرفی نکرده و بخش مهمی از رویکردش را روی Workflow قرار داده است.
در یک Workflow، به جای این‌که تمام تصمیم‌گیری را در یک Prompt بسیار بزرگ قرار دهیم، مسئله را به چند سؤال و مرحله کوچک‌تر تقسیم می‌کنیم. هر بخش احتمال یا تصمیم خودش را دارد و در نهایت این تصمیم‌ها در کد با یکدیگر ترکیب می‌شوند.
برای مثال، در یک سیستم فروش ممکن است Workflow چیزی شبیه این باشد:TypeSafe در ارزیابی‌های خود نیز به جای مقایسه صرفاً روی یک سؤال، مدل‌ها را داخل چنین Workflowهایی بررسی کرده و خروجی آن‌ها را با مدل‌های بزرگ‌تر به عنوان مرجع مقایسه کرده است. خود شرکت هم تأکید می‌کند که این ارزیابی‌ها دارای محدودیت‌ها و منابع بالقوه سوگیری هستند.
این رویکرد بیشتر برای جاهایی مناسب است که نرم‌افزار باید بین چند گزینه تصمیم بگیرد، نه این‌که با کاربر وارد یک گفت‌وگوی طولانی شود.
TypeSafe همچنین نمونه‌هایی مانند بازی بلادرنگ و Wikiracing را به عنوان نمایش قابلیت‌های این معماری ارائه کرده است.
به نظر می‌رسد پاسخ، حداقل در شکل فعلی، نه باشد.
LLMها همچنان برای تولید متن، کدنویسی، گفت‌وگو و کارهایی که به انعطاف بالا نیاز دارند بسیار مناسب‌اند. System One بیشتر یک ابزار مکمل برای بخشی از مسئله است؛ یعنی جایی که ما به جای «یک پاسخ متنی خوب»، به «یک تصمیم ساختاریافته که نرم‌افزار بتواند به آن تکیه کند» نیاز داریم.
این تفکیک می‌تواند به ساخت سیستم‌هایی منجر شود که در آن مدل زبانی بخش انعطاف‌پذیر مسئله را حل می‌کند و مدل تصمیم‌گیر بخش مشخص و قابل کنترل را بر عهده می‌گیرد.
شاید مهم‌ترین نکته این معرفی، خود Jev نباشد؛ بلکه تغییری باشد که TypeSafe در نحوه استفاده از هوش مصنوعی پیشنهاد می‌کند.اگر این ایده در عمل در مقیاس تولیدی جواب بدهد، هوش مصنوعی می‌تواند از یک ابزار صرفاً تعاملی به بخشی از منطق داخلی نرم‌افزار تبدیل شود؛ چیزی شبیه یک تابع هوشمند که ورودی می‌گیرد و به جای متن آزاد، یک تصمیم قابل استفاده تحویل می‌دهد.
Jev هنوز در مرحله دسترسی اولیه قرار دارد و خود TypeSafe نیز تأکید کرده که این محصول در ابتدای مسیر قرار دارد. بنابراین قضاوت نهایی درباره عملکرد و کاربردپذیری آن نیازمند تجربه و ارزیابی مستقل بیشتری است.
در نهایت، سؤال جالب این نیست که آیا System One جای LLMها را می‌گیرد یا نه؛ سؤال مهم‌تر این است که آیا نرم‌افزارهای آینده به جای استفاده از AI فقط برای «تولید»، از آن برای «تصمیم‌گیری درون سیستم» نیز به شکل گسترده استفاده خواهند کرد یا نه.
