ویرگول
ورودثبت نام
سید علی فرد سعیدی
سید علی فرد سعیدی
سید علی فرد سعیدی
سید علی فرد سعیدی
خواندن ۱۳ دقیقه·۳ ماه پیش

داستان مهندسی یک سیستم مبتنی بر هوش مصنوعی

یک مدل خوب کافی نیست؛ از مدل تا یک سیستم هوش مصنوعی واقعی

تصور کنید به‌ تازگی از یک جلسه استراتژی بیرون آمده‌اید و مهم‌ترین اولویت سازمان این است که سیستم پرچم‌دارش را «هوشمند» کند.
نه اینکه فقط یک قابلیت کوچک مبتنی بر هوش مصنوعی به سیستم اضافه شود؛ بلکه قرار است خود سیستم، در بخشی از فرایندهایش، بتواند استنباط کند، پیش‌بینی داشته باشد و تصمیم بگیرد.
به‌عنوان یک مهندس نرم‌افزار، احتمالاً اولین واکنش کمی دلهره‌آور است. ساختن یک سیستم نرم‌افزاری خوب به‌اندازه کافی پیچیده است؛ حالا قرار است سیستمی بسازیم که فقط محاسبه نکند، بلکه بتواند از داده‌ها استنباط کند.
اما خبر خوب این است که هوش مصنوعی یک قلمرو کاملاً جادویی و غیرقابل‌پیش‌بینی نیست. بخش بزرگی از مسئله همچنان با همان مفاهیمی سروکار دارد که ما به‌عنوان مهندسان نرم‌افزار با آن‌ها آشنا هستیم: معماری، چرخه حیات، استقرار، امنیت، پایش و کیفیت.
کتاب Engineering AI Systems دقیقاً از همین نقطه شروع می‌کند و ما را در مسیری قرار می‌دهد که نشان می‌دهد چطور می‌توان یک ایده مبهم هوش مصنوعی را به یک محصول قابل اعتماد، ایمن و کارا تبدیل کرد.

اول باید بفهمیم دقیقاً چه چیزی را داریم مهندسی می‌کنیم

یکی از اولین نکاتی که کتاب روی آن تأکید می‌کند این است که یک سیستم هوش مصنوعی صرفاً یک مدل ریاضی نیست.
یک سیستم AI، یک سیستم ماشینی است که به‌جای محاسبه صرف، می‌تواند استنباط کند؛ اما این استنباط در خلأ اتفاق نمی‌افتد. مدل داخل بستری از اجزای نرم‌افزاری قرار دارد و این بستر همان چیزی است که معماری سیستم را تشکیل می‌دهد.
معماری در واقع نقشه‌ای است که مشخص می‌کند اجزای سیستم چه هستند، چه رابطه‌ای با یکدیگر دارند و سیستم چگونه می‌تواند به ویژگی‌های کیفی مورد انتظار برسد.
اما معماری به‌تنهایی کافی نیست.
در کنار آن، دو بال دیگر هم وجود دارد: DevOps و MLOps.
اگر DevOps تلاش می‌کند فاصله بین یک تغییر در کد و استقرار آن در محیط تولید را کاهش دهد، MLOps همین نگاه را وارد چرخه حیات مدل می‌کند؛ یعنی مدیریت داده، آموزش، بسته‌بندی، نسخه‌بندی و نظارت بر مدل.
بنابراین سه ضلع اصلی را داریم:

Software Architecture + DevOps + MLOps

و کیفیت نهایی سیستم حاصل تعامل همین سه بخش است.
حالا که تصویر کلی را داریم، سؤال بعدی این است: این سیستم قرار است کجا و روی چه بستری اجرا شود؟

زیرساخت؛ جایی که مدل باید واقعاً زندگی کند

سیستم‌های مدرن هوش مصنوعی معمولاً در محیط‌های ابری اجرا می‌شوند و این یعنی با یک محیط توزیع‌شده سروکار داریم.
در اینجا دو مفهوم مهم یعنی Virtual Machine و Container مطرح می‌شوند.
کانتینرها نسبت به ماشین‌های مجازی سبک‌تر و سریع‌تر هستند و به همین دلیل به یکی از واحدهای اصلی بسته‌بندی و اجرای سرویس‌ها تبدیل شده‌اند.
حالا اگر سیستم بزرگ‌تر شود، می‌توانیم از معماری‌هایی مثل Client-Server، Service-Oriented Architecture و در نهایت Microservices استفاده کنیم.
ریزسرویس‌ها به تیم‌ها اجازه می‌دهند بخش‌های مختلف سیستم را مستقل‌تر توسعه و مستقر کنند؛ اما این استقلال بدون هزینه نیست. ارتباط بین سرویس‌ها می‌تواند باعث افزایش تأخیر شبکه و پیچیدگی بیشتر شود.
برای ارتباط بین این سرویس‌ها هم سبک‌های مختلفی وجود دارد. مثلاً REST بیشتر بر منابع و عملیات‌هایی مثل GET و POST تکیه دارد، در حالی که GraphQL اجازه می‌دهد کلاینت دقیقاً مشخص کند چه داده‌ای را نیاز دارد؛ قابلیتی که می‌تواند برای دستگاه‌های لبه با پهنای باند محدود مفید باشد.
پس حالا می‌دانیم مدل قرار نیست به‌تنهایی کار کند؛ مدل باید در یک معماری توزیع‌شده، در کنار مجموعه‌ای از سرویس‌ها و زیرساخت‌ها زندگی کند.
اما هنوز یک سؤال اساسی باقی مانده:
مغز این سیستم قرار است چه باشد؟

انتخاب مغز متفکر؛ از قواعد ساده تا مدل‌های بنیادین

انتخاب مدل احتمالاً یکی از مهم‌ترین تصمیم‌های طراحی سیستم است.
کتاب سه دسته اصلی را بررسی می‌کند.
دسته اول، مدل‌های نمادین یا قاعده‌محور هستند. این مدل‌ها در حوزه‌هایی که قوانین مشخص و محدودی داریم بسیار مناسب‌اند و یکی از مزیت‌های مهمشان قابلیت تبیین بالاست.
دسته دوم، مدل‌های کلاسیک یادگیری ماشین هستند؛ مدل‌هایی که برای کارهایی مثل طبقه‌بندی، رگرسیون و خوشه‌بندی استفاده می‌شوند. مثلاً تشخیص اسپم، پیش‌بینی قیمت مسکن یا بخش‌بندی مشتریان.
و بعد به دسته سوم می‌رسیم: Foundation Models.
مدل‌هایی که روی حجم عظیمی از داده، اغلب بدون برچسب، آموزش می‌بینند و می‌توانند طیف گسترده‌ای از وظایف را انجام دهند.
اما اینجا داستان کمی پیچیده‌تر می‌شود.
قلب بسیاری از این مدل‌های بنیادین، معماری Transformer و مکانیزم Attention است. به‌جای اینکه کلمات را کاملاً جدا از هم ببینیم، Attention به مدل اجازه می‌دهد ارتباط و بافتار کلمات را در نظر بگیرد.
مثلاً کلمه «کتاب» در یک جمله درباره حسابداری و در جمله‌ای درباره مطالعه، با توجه به بافت جمله معنای متفاوتی پیدا می‌کند.
اما داشتن یک مدل بزرگ به این معنی نیست که می‌توانیم آن را همان‌طور که هست وارد سیستم کنیم.
برای تطبیق مدل با نیاز خودمان، روش‌های مختلفی داریم.
ساده‌ترین روش Prompt Engineering است؛ یعنی با طراحی ورودی مناسب، رفتار و خروجی مدل را هدایت کنیم.
اگر مدل به دانش اختصاصی و به‌روز نیاز داشته باشد، می‌توانیم از RAG استفاده کنیم؛ یعنی مدل را به یک منبع خارجی مثل اسناد داخلی سازمان متصل کنیم تا اطلاعات موردنیاز را بازیابی کرده و در اختیار مدل قرار دهد.
اگر به تخصصی‌سازی بیشتری نیاز داشته باشیم، Fine-Tuning می‌تواند مدل را برای حوزه موردنظر تنظیم کند.
و در نهایت، برای کنترل رفتار مدل و جلوگیری از خروجی‌های ناامن یا نامناسب، Guardrails را داریم که می‌توانند ورودی و خروجی مدل را پایش و تصفیه کنند.
پس حتی انتخاب و استفاده از مدل هم یک تصمیم مستقل نیست؛ بخشی از معماری کل سیستم است.
اما حالا یک مشکل بزرگ‌تر داریم:
مدل را انتخاب کرده‌ایم؛ چطور آن را از محیط آزمایشگاه به Production برسانیم؟

از داده خام تا Production؛ جایی که MLOps وارد می‌شود

یک مدل عالی در محیط آزمایشگاهی، اگر نتواند به‌درستی در دنیای واقعی اجرا و نگهداری شود، ارزش چندانی برای محصول ما ندارد.
اینجاست که Lifecycle اهمیت پیدا می‌کند.
فرایند از داده شروع می‌شود.
داده باید از منابع مختلف جمع‌آوری، پاک‌سازی و تبدیل شود. مقادیر گمشده و داده‌های پرت باید مدیریت شوند و در مرحله Feature Engineering، ویژگی‌های مؤثر از دل داده‌های خام استخراج شوند.
بعد داده به مجموعه‌های Training، Validation و Test تقسیم می‌شود.
فرایند آموزش هم معمولاً می‌تواند در دو مرحله انجام شود: ابتدا یک مرحله اکتشافی با داده محدود برای آزمایش سریع ایده‌ها و بعد آموزش اصلی با داده کامل.
وقتی مدل آموزش دید، هنوز کار تمام نشده است.
مدل باید در Model Registry ذخیره و نسخه‌بندی شود تا دقیقاً بدانیم چه مدلی، با چه نسخه‌ای از داده و چه فرایندی ساخته شده است.
حالا نوبت ساخت سیستم می‌رسد.
در این مرحله، سرور Continuous Integration یا CI مدل را با ماژول‌های غیرهوش مصنوعی ترکیب می‌کند و یک Image قابل اجرا، معمولاً در قالب Container، می‌سازد.
در همین فرایند، SBOM یا Software Bill of Materials هم می‌تواند تهیه شود تا مشخص باشد چه مؤلفه‌ها و وابستگی‌هایی در سیستم استفاده شده‌اند.
اما بعد از ساخت، یک سؤال دیگر مطرح می‌شود:
چطور این نسخه جدید را بدون ایجاد مشکل برای کاربران مستقر کنیم؟
اینجاست که الگوهای مختلف Deployment وارد می‌شوند.
در Blue/Green Deployment محیط جدید به‌طور کامل آماده می‌شود و جایگزین محیط قبلی می‌شود.
در Rolling Upgrade، نمونه‌های قدیمی به‌تدریج با نمونه‌های جدید جایگزین می‌شوند.
و اگر بخواهیم ریسک را حتی بیشتر کاهش دهیم، می‌توانیم از Canary Testing استفاده کنیم؛ یعنی ابتدا نسخه جدید را فقط برای بخش کوچکی از کاربران اجرا کنیم و اگر مشکلی وجود داشت، دامنه آسیب محدود بماند.
در این میان، مسئله دیگری هم وجود دارد: Version Skew.
ممکن است کلاینت‌ها و سرویس‌ها هم‌زمان با نسخه‌های متفاوتی کار کنند. برای مدیریت این وضعیت، کتاب راهکارهایی مثل برچسب‌گذاری نسخه در پیام‌ها و حفظ Backward Compatibility را مطرح می‌کند.
حالا سیستم ما در Production قرار گرفته است.
ولی یک سؤال مهم‌تر داریم:
از کجا بفهمیم این سیستم واقعاً قابل اعتماد است؟

وقتی «کار کردن» کافی نیست؛ ویژگی‌های کیفی سیستم

اینجا به یکی از بخش‌های تخصصی و مهم کتاب می‌رسیم: Quality Attributes یا همان ویژگی‌های کیفی و غیرعملکردی.
همین ویژگی‌ها هستند که یک سیستم AI را از یک نمونه آزمایشگاهی به یک محصول صنعتی تبدیل می‌کنند.

اول: Reliability

اگر سیستم یا مدل دچار مشکل شود، چه اتفاقی می‌افتد؟
کتاب بین سه مفهوم Fault، Error و Failure تفاوت می‌گذارد.
برای پیشگیری، باید داده آموزشی را تا حد ممکن به شرایط واقعی نزدیک کنیم و از تکنیک‌هایی مثل Regularization و Adversarial Training استفاده کنیم.
برای تشخیص مشکل، می‌توانیم از Health Checkهایی مثل Ping و Echo و همچنین پایش متریک‌های دقت استفاده کنیم.
و اگر مشکلی رخ داد، برای بازیابی می‌توان از Redundancy و حتی طراحی مبتنی بر رأی‌گیری استفاده کرد.
پس Reliability فقط به این معنی نیست که «مدل معمولاً درست جواب می‌دهد»؛ بلکه یعنی سیستم در برابر خطاها هم بتواند رفتار قابل اعتمادی داشته باشد.

دوم: Performance

اینجا با یک Trade-off مهم روبه‌رو می‌شویم.
از یک طرف، در مهندسی نرم‌افزار می‌خواهیم تأخیر کم و Throughput بالا داشته باشیم.
از طرف دیگر، در مدل AI می‌خواهیم خروجی باکیفیت و دقیق باشد.
مشکل اینجاست که افزایش کیفیت مدل ممکن است به محاسبات بیشتر و در نتیجه منابع و زمان پاسخ بیشتر نیاز داشته باشد.
پس باید بین این دو هدف تعادل ایجاد کنیم.
در سطح معماری، می‌توانیم از Caching و هم‌جاگذاری سرویس‌ها استفاده کنیم.
در سطح مدل، ممکن است یک مدل ساده‌تر یا یک Small Language Model انتخاب بهتری نسبت به یک مدل بسیار بزرگ باشد.
در سطح عملیات هم می‌توان از Auto Scaling استفاده کرد.
برای سنجش کیفیت مدل‌های طبقه‌بندی، معیارهایی مثل Precision، Recall و F1 مهم هستند و برای Foundation Modelها می‌توان از بنچمارک‌هایی مثل MMLU استفاده کرد.
بنابراین در یک AI System، فقط «دقیق‌ترین مدل» لزوماً بهترین انتخاب نیست؛ باید مدلی را انتخاب کنیم که با نیازهای کل سیستم سازگار باشد.

سوم: Security

امنیت در سیستم‌های AI فقط همان تهدیدهای سنتی نرم‌افزار نیست.
کتاب چهار نوع حمله را بررسی می‌کند:
Evasion Attack؛ مثلاً تغییر چند پیکسل در یک تصویر برای گمراه کردن مدل.
Poisoning Attack؛ یعنی دستکاری داده‌های آموزشی برای تغییر رفتار مدل.
Privacy Attack؛ با هدف استخراج اطلاعاتی از داده‌های آموزشی.
و Misuse Attack؛ مثلاً استفاده از سیستم برای تولید محتوای مضر.
برای مقابله با این تهدیدها، یکی از اصول مهم Zero Trust است؛ یعنی هیچ درخواست یا کاربری، حتی اگر از شبکه داخلی آمده باشد، به‌صورت پیش‌فرض قابل اعتماد نیست و باید احراز هویت و مجوزدهی شود.
در سطح معماری هم رمزنگاری، بخش‌بندی شبکه و اصل Least Privilege اهمیت پیدا می‌کنند.

چهارم: Privacy و Fairness

یک سیستم خوب فقط نباید امن باشد؛ باید نسبت به کاربران و داده‌های آن‌ها هم مسئولانه رفتار کند.
در حوزه Privacy، کتاب چارچوب LOCKED را معرفی می‌کند که حقوقی مثل محدودیت استفاده، انصراف، تصحیح، آگاهی، برابری و حذف داده را پوشش می‌دهد.
اجرای این حقوق نیازمند آن است که بتوانیم داده‌ها را به هویت افراد مرتبط کنیم و از Guardrailها برای کنترل نحوه استفاده از آن‌ها کمک بگیریم.
از طرف دیگر، مسئله Fairness را داریم.
اگر داده‌های آموزشی سوگیری داشته باشند، مدل هم ممکن است همان سوگیری را یاد بگیرد.
برای بررسی این موضوع، معیارهایی مثل Statistical Parity و Equal Opportunity به ما کمک می‌کنند بفهمیم مدل نسبت به گروه‌های مختلف، مثلاً بر اساس جنسیت یا نژاد، رفتار متفاوت و ناعادلانه‌ای دارد یا نه.

پنجم: Observability

و در نهایت، حتی اگر همه چیز خوب به نظر برسد، هنوز یک سؤال باقی می‌ماند:
از کجا بفهمیم سیستم در Production واقعاً چه اتفاقی در آن می‌افتد؟
اینجا Observability اهمیت پیدا می‌کند.
کتاب تفاوت بین Monitoring و Observability را مطرح می‌کند.
Monitoring بیشتر به ما نشان می‌دهد چه اتفاقی افتاده و چه متریکی تغییر کرده؛ اما Observability کمک می‌کند از روی داده‌های سیستم، وضعیت داخلی و علت بروز مشکل را بهتر درک کنیم.
برای این کار می‌توان از Structured Logging، مثلاً لاگ‌های JSON، و Distributed Tracing استفاده کرد تا بتوانیم مسیر یک درخواست را در میان سرویس‌های مختلف دنبال کنیم.
برای درک رفتار مدل هم تکنیک‌هایی مثل LIME و SHAP مطرح می‌شوند که کمک می‌کنند بفهمیم ویژگی‌های مختلف چقدر در تصمیم نهایی مدل نقش داشته‌اند.
حالا سیستم ما از نظر معماری، Lifecycle و ویژگی‌های کیفی شکل گرفته است.
اما سؤال این است:
آیا این مفاهیم واقعاً در پروژه‌های واقعی هم همین‌طور کنار هم قرار می‌گیرند؟

وقتی نظریه وارد دنیای واقعی می‌شود

کتاب برای پاسخ به همین سؤال، سه مطالعه موردی را بررسی می‌کند.
در مطالعه Fraunhofer، یک تأمین‌کننده قطعات الکترونیکی با مشکلی کاملاً واقعی مواجه است: تطبیق درخواست‌های مناقصه با محصولات موجود، فرایندی دستی و زمان‌بر است.
راه‌حل، استفاده از مدل BERT برای خودکارسازی این فرایند است.
اما نکته جالب اینجاست که موفقیت پروژه فقط به مدل وابسته نیست.
برای آموزش و استقرار، Pipelineهای جداگانه CI/CD ایجاد شده و کاربران نهایی نیز در چرخه بازخورد نقش فعالی دارند.
یعنی همان مفاهیمی که تا اینجا درباره‌شان صحبت کردیم، در یک سیستم واقعی کنار هم قرار گرفته‌اند.
در مطالعه دوم، یعنی ARM Hub، مسئله متفاوت است.
شرکت‌های کوچک و متوسط تولیدی در استرالیا نیاز دارند به دانش و اطلاعاتی که در اسناد مختلف سازمانی پراکنده شده دسترسی پیدا کنند.
راه‌حل، ارائه AI-as-a-Service در قالب یک Chatbot مبتنی بر RAG است که با استفاده از زیرساخت Data Lakehouse و سرویس‌های ابری، مدیریت دانش را ساده‌تر می‌کند.
و در مطالعه سوم، وارد یک محیط حساس‌تر یعنی بانکداری می‌شویم.
اینجا از مدل‌های درختی مثل XGBoost برای پیش‌بینی Customer Churn استفاده می‌شود.
اما مسئله فقط پیش‌بینی دقیق نیست.
کالیبراسیون احتمال‌ها، ردیابی منشأ داده و رعایت مقررات سخت‌گیرانه بانکی هم باید در نظر گرفته شوند.
این سه مطالعه موردی یک پیام مشترک دارند:
موفقیت یک سیستم AI فقط به انتخاب یک مدل خوب وابسته نیست؛ بلکه به نحوه تعامل Data، Model، Architecture، Deployment، Monitoring و الزامات کسب‌وکار بستگی دارد.
و شاید همین، مهم‌ترین درس کل کتاب باشد.

حالا آینده چه شکلی خواهد بود؟

اگر این روند را ادامه دهیم، سؤال بعدی این است که آینده مهندسی سیستم‌های هوش مصنوعی به کجا می‌رود؟ در فصل پایانی به حرکت DevOps به سمت نسخه ۲.۰ اشاره می‌شود.
در این نگاه، دیگر هدف فقط خودکارسازی کارهای تکراری نیست؛ بلکه درک بهتر تعامل میان مؤلفه‌های مختلف و حتی استفاده از Digital Twin برای شبیه‌سازی تغییرات قبل از استقرار اهمیت پیدا می‌کند.
اما شاید عمیق‌ترین تحول، ایده AIWare یا «هوش مصنوعی به‌عنوان نرم‌افزار» باشد.
در این سناریو، بخش بیشتری از منطق کسب‌وکار ممکن است به‌جای اینکه به شکل مجموعه‌ای از قواعد و کدهای صریح نوشته شود، در پارامترهای یک مدل عصبی بزرگ قرار بگیرد.
نمونه‌هایی مثل نرم‌افزار خودران تسلا که بخش بزرگی از قوانین رانندگی را در یک مدل واحد یاد می‌گیرد، یا نمونه‌هایی از Gemini که می‌تواند رابط کاربری مناسب برای یک مسئله را خودش طراحی و تولید کند، نشان می‌دهند که این آینده آن‌قدرها هم دور نیست.
اما اینجا یک نکته بسیار مهم وجود دارد:
این آینده به معنی حذف مهندسان نرم‌افزار نیست.
برعکس، نقش مهندس شاید حتی مهم‌تر شود؛ فقط ماهیت آن تغییر می‌کند.
ما به‌عنوان معماران، باید Guardrailهای قابل‌فهم برای انسان تعریف کنیم تا سیستم‌های خودمختار از چارچوب‌های ارزشی و حقوقی خارج نشوند.
ما طراحان سیستم‌های چندعاملی خواهیم بود و باید تعامل میان Agentهای هوشمند را مدیریت کنیم.
و در نهایت، باید به نوعی متولی اعتماد باشیم؛ یعنی کسانی که کمک می‌کنند کاربران بتوانند به سیستم‌های هوشمند و گاهی جعبه‌سیاه اعتماد کنند، بدون اینکه این اعتماد کورکورانه باشد.

پس در نهایت چه چیزی تغییر کرده است؟

اگر از ابتدای این مسیر دوباره به نقطه شروع برگردیم، می‌بینیم مسئله‌ای که در ابتدا فقط یک «پروژه هوش مصنوعی» به نظر می‌رسید، در واقع یک مسئله کامل مهندسی سیستم است.
ما از معماری شروع کردیم، به زیرساخت رسیدیم، مدل مناسب را انتخاب کردیم، داده و چرخه حیات آن را مدیریت کردیم، مدل را به Production رساندیم و بعد سراغ Reliability، Performance، Security، Privacy، Fairness و Observability رفتیم.
بعد دیدیم که همین اصول در پروژه‌های واقعی چگونه استفاده می‌شوند و در نهایت به آینده‌ای رسیدیم که در آن AI بخش بزرگ‌تری از نرم‌افزار را شکل خواهد داد.
بنابراین اگر بخواهیم کل کتاب Engineering AI Systems را در یک جمله خلاصه کنیم، شاید بهترین جمله این باشد:
یک مدل خوب، فقط شروع ماجراست.
مسئله واقعی این است که چگونه یک سیستم کامل بسازیم که بتواند از آن مدل به شکلی قابل اعتماد، ایمن، کارا، قابل مشاهده و قابل نگهداری استفاده کند.
شاید همین‌جا تفاوت بین «استفاده از AI» و مهندسی یک AI System مشخص می‌شود.
هوش مصنوعی قرار نیست جای مهندسی نرم‌افزار را بگیرد؛ بلکه دارد مرزهای آن را گسترش می‌دهد.
و برای مهندسان نرم‌افزار، این یعنی یک نقش جدید و مهم‌تر:
طراحی و ساخت سیستم‌هایی که نه‌فقط هوشمند باشند، بلکه بتوانیم به آن‌ها اعتماد کنیم.

منبع:

Engineering AI Systems: Architecture and DevOps Essentials. Len Bass, Qinghua Lu, Ingo Weber, Liming Zhu.

  • اين مطلب، بخشی از تمرينهای درس معماری نرم‌افزار در دانشگاه شهيدبهشتی است.

هوش مصنوعیمهندسی نرم افزارمعماری نرم افزارمعماری نرم افزار بهشتیمعماری_نرم_افزار_بهشتی
۰
۰
سید علی فرد سعیدی
سید علی فرد سعیدی
شاید از این پست‌ها خوشتان بیاید