ویرگول
ورودثبت نام
فرزانه کوئینی
فرزانه کوئینیفرزانه کوئینی نویسنده و پژوهشگر هوش مصنوعی
فرزانه کوئینی
فرزانه کوئینی
خواندن ۸ دقیقه·۱ ماه پیش

از CIFAR-10 تا پایان‌نامه؛ پشت پرده‌ی یک پروژه هوش مصنوعی چیست؟

وقتی از هوش مصنوعی حرف می‌زنیم، معمولاً نتیجه را می‌بینیم، نه مسیری را که به آن نتیجه رسیده است.

یک مدل که تصویر را تشخیص می‌دهد.
یک چت‌بات که به سؤال‌ها پاسخ می‌دهد.
یا سیستمی که می‌تواند در چند ثانیه کاری را انجام دهد که شاید چند سال پیش غیرممکن به نظر می‌رسید.

اما پشت این چند ثانیه، چه اتفاقی می‌افتد؟

آیا کافی است یک مدل را انتخاب کنیم، چند خط کد بنویسیم و منتظر بمانیم تا هوشمند شود؟

تجربه من در رشته هوش مصنوعی و رباتیک، به‌خصوص هنگام کار روی پایان‌نامه‌ام، باعث شد بیشتر به این سؤال فکر کنم.

برای فهمیدن ماجرا، بیایید از یک مجموعه داده به نام CIFAR-10 شروع کنیم.

CIFAR-10 چیست و چرا به آن نیاز داریم؟

فرض کنید می‌خواهیم به کامپیوتر یاد بدهیم تصویر یک گربه را از یک ماشین تشخیص دهد.

برای ما انسان‌ها، این کار معمولاً ساده است. تصویر را نگاه می‌کنیم و تقریباً بلافاصله می‌فهمیم با چه چیزی روبه‌رو هستیم.

اما کامپیوتر در ابتدا چنین درکی ندارد. تصویر برای آن مجموعه‌ای از اعداد است که مقادیر پیکسل‌های آن را نشان می‌دهند.

پس باید راهی پیدا کنیم تا مدل بتواند از این اعداد، الگوهایی یاد بگیرد که به تشخیص اشیا کمک می‌کنند.

اینجاست که مجموعه‌های داده وارد ماجرا می‌شوند.

CIFAR-10 یکی از مجموعه‌داده‌های شناخته‌شده در حوزه بینایی ماشین است. این مجموعه شامل ۶۰ هزار تصویر رنگی کوچک با ابعاد ۳۲ در ۳۲ پیکسل است که در ۱۰ دسته قرار گرفته‌اند؛ از جمله هواپیما، خودرو، پرنده، گربه، گوزن، سگ، قورباغه، اسب، کشتی و کامیون.

از این تعداد، ۵۰ هزار تصویر برای آموزش و ۱۰ هزار تصویر برای آزمون در نظر گرفته شده‌اند.

شاید این تصاویر در نگاه اول چندان چشمگیر نباشند؛ کوچک‌اند و گاهی تشخیص سوژه حتی برای انسان هم آسان نیست.

اما برای پژوهشگر هوش مصنوعی، همین تصاویر می‌توانند نقطه شروع یک آزمایش جدی باشند.

هدف این است که مدل با دیدن نمونه‌های آموزشی، الگوهایی را یاد بگیرد و سپس بتواند درباره تصاویری که در آموزش ندیده است، پیش‌بینی کند.

البته نکته مهم اینجاست: حفظ کردن تصاویر آموزشی کافی نیست. ما می‌خواهیم مدل روی داده‌های جدید هم عملکرد مناسبی داشته باشد.

این تفاوت، یکی از پایه‌های اصلی یادگیری ماشین است.

بعد از انتخاب داده، نوبت انتخاب مدل است

وقتی داده را آماده کردیم، باید تصمیم بگیریم از چه مدلی استفاده کنیم.

اینجا نام‌هایی مثل CNN، ResNet، MobileNet و EfficientNet وارد بحث می‌شوند.

این مدل‌ها یکسان نیستند و هرکدام معماری و ویژگی‌های خاص خودشان را دارند.

برای مثال، شبکه‌های عصبی کانولوشنی یا CNNها برای پردازش داده‌های تصویری بسیار کاربرد دارند. آن‌ها می‌توانند الگوهای تصویری را در لایه‌های مختلف استخراج کنند؛ از ویژگی‌های ساده‌تر تا الگوهای پیچیده‌تر.

ResNet با ایده اتصال‌های میان‌بُر به آموزش شبکه‌های عمیق کمک می‌کند.

MobileNet با هدف ارائه معماری‌های سبک‌تر و مناسب‌تر برای محیط‌های دارای منابع محدود طراحی شده است.

EfficientNet نیز خانواده‌ای از مدل‌هاست که به دنبال ایجاد تعادل مناسب میان دقت و پیچیدگی محاسباتی است.

اما سؤال این نیست که کدام مدل اسم جذاب‌تری دارد یا کدام‌یک در مقاله‌ای دیگر بهترین نتیجه را ثبت کرده است.

سؤال واقعی این است:

کدام مدل برای مسئله‌ای که می‌خواهیم حل کنیم مناسب‌تر است؟

و برای پاسخ دادن به این سؤال، باید آزمایش کنیم.

آموزش مدل؛ جایی که کار واقعاً شروع می‌شود

در مرحله آموزش، مدل پیش‌بینی می‌کند و نتیجه پیش‌بینی آن با برچسب واقعی مقایسه می‌شود.

اختلاف میان این دو، با معیاری به نام تابع خطا یا Loss اندازه‌گیری می‌شود.

سپس الگوریتم بهینه‌سازی، پارامترهای مدل را تغییر می‌دهد تا در مراحل بعدی پیش‌بینی‌های بهتری انجام دهد.

این فرایند بارها تکرار می‌شود.

مدل نمونه‌ها را دریافت می‌کند، پیش‌بینی می‌کند، خطا محاسبه می‌شود و پارامترها به‌روزرسانی می‌شوند.

اما این فرایند همیشه ساده و بی‌دردسر نیست.

ممکن است مدل به‌خوبی آموزش نبیند. ممکن است بیش از حد به داده‌های آموزشی وابسته شود. ممکن است تنظیمات اولیه مناسب نباشند یا منابع محاسباتی کافی در اختیار نداشته باشیم.

گاهی هم نتایج به دست می‌آیند، اما آن چیزی نیستند که انتظارش را داشتیم.

در چنین شرایطی، پژوهشگر باید بررسی کند که مشکل از کجاست: داده‌ها، معماری، تنظیمات آموزش، روش ارزیابی یا حتی فرض اولیه پژوهش؟

این بخش از کار به ما یادآوری می‌کند که ساختن یک مدل فقط اجرای یک دستور آماده نیست؛ بخش مهمی از آن، تصمیم‌گیری و بررسی مداوم است.

آیا دقت بالاتر همیشه به معنی مدل بهتر است؟

تصور کنید دو مدل برای یک مسئله داریم.

مدل اول دقت بیشتری دارد، اما حجم آن بالاست و برای اجرا به حافظه و توان پردازشی بیشتری نیاز دارد.

مدل دوم کمی ضعیف‌تر عمل می‌کند، اما سبک‌تر است، سریع‌تر اجرا می‌شود و انرژی کمتری مصرف می‌کند.

کدام بهتر است؟

پاسخ به کاربرد بستگی دارد.

اگر منابع محاسباتی محدود باشند، مثلاً بخواهیم مدل را روی یک دستگاه لبه‌ای یا سخت‌افزاری با توان محدود اجرا کنیم، مدل بزرگ‌تر لزوماً انتخاب بهتری نیست.

در پروژه‌های واقعی، معیارهایی مانند دقت، حجم مدل، سرعت اجرا، مصرف حافظه و انرژی می‌توانند هم‌زمان اهمیت داشته باشند.

به همین دلیل، ارزیابی مدل نباید فقط به یک عدد محدود شود.

دقت بالا مهم است؛ اما باید بدانیم این دقت با چه هزینه‌ای به دست آمده و آیا برای کاربرد موردنظر ما مناسب است یا نه.

اینجا بود که موضوع پایان‌نامه‌ام شکل جدی‌تری پیدا کرد

موضوع پایان‌نامه من به انتخاب مدل‌های شبکه عصبی و کوانتیزه‌سازی مدل‌های یادگیری عمیق برای استفاده کارآمدتر از منابع محاسباتی مربوط بود.

شاید واژه «کوانتیزه‌سازی» در ابتدا کمی پیچیده به نظر برسد، اما ایده اصلی را می‌توان نسبتاً ساده توضیح داد.

در بسیاری از مدل‌های یادگیری عمیق، پارامترها با دقت عددی مشخصی ذخیره و محاسبه می‌شوند. کوانتیزه‌سازی تلاش می‌کند نمایش عددی این پارامترها و گاهی محاسبات را با دقت پایین‌تری انجام دهد؛ برای مثال، در شرایط مناسب، استفاده از اعداد ۸ بیتی به جای اعداد ممیز شناور ۳۲ بیتی می‌تواند حجم حافظه موردنیاز را کاهش دهد.

البته این تغییر همیشه بدون هزینه نیست. ممکن است دقت مدل کاهش پیدا کند و میزان سود حاصل از آن نیز به سخت‌افزار، نوع کوانتیزه‌سازی و روش اجرا بستگی دارد.

بنابراین، هدف فقط کوچک کردن مدل نیست.

هدف این است که بفهمیم چگونه می‌توان میان کیفیت پیش‌بینی و هزینه محاسباتی تعادل برقرار کرد.

در چنین پژوهشی، چند سؤال اساسی مطرح می‌شود:

  • کدام مدل برای مسئله موردنظر مناسب‌تر است؟

  • کوانتیزه‌سازی چه تغییری در دقت ایجاد می‌کند؟

  • حجم مدل و زمان اجرا چقدر تغییر می‌کنند؟

  • آیا کاهش حجم واقعاً به کاهش مصرف انرژی منجر می‌شود؟

  • و در نهایت، آیا نتیجه برای کاربردی با منابع محدود ارزشمند است؟

این سؤال‌ها هستند که یک تمرین ساده برنامه‌نویسی را به مسئله‌ای پژوهشی تبدیل می‌کنند.

پشت یک نتیجه علمی، فقط یک عدد نیست

وقتی در یک مقاله علمی می‌خوانیم که یک روش توانسته دقت مدل را حفظ کند یا هزینه محاسباتی را کاهش دهد، معمولاً نتیجه نهایی بیشتر از مسیر رسیدن به آن دیده می‌شود.

اما برای اینکه بتوانیم به یک نتیجه اعتماد کنیم، باید بدانیم آزمایش چگونه انجام شده است.

از چه داده‌ای استفاده شده؟

مدل‌ها چگونه انتخاب شده‌اند؟

شرایط آموزش یکسان بوده است؟

معیار ارزیابی چه بوده؟

نتایج چند بار بررسی شده‌اند؟

آیا مقایسه منصفانه بوده است؟

و آیا اطلاعات کافی برای تکرار آزمایش وجود دارد؟

پاسخ به این سؤال‌ها اهمیت زیادی دارد؛ چون یک عدد بدون زمینه ممکن است گمراه‌کننده باشد.

برای مثال، اگر دو مدل را با تنظیمات، سخت‌افزار یا شرایط ارزیابی متفاوت مقایسه کنیم، ممکن است نتوانیم نتیجه بگیریم که اختلاف مشاهده‌شده فقط به معماری آن‌ها مربوط است.

پژوهش خوب فقط ارائه نتیجه جذاب نیست؛ باید بتواند توضیح دهد نتیجه چگونه به دست آمده و چه محدودیت‌هایی دارد.

آیا برای انجام پروژه هوش مصنوعی به سخت‌افزار قدرتمند نیاز داریم؟

یکی دیگر از نکات مهم در این مسیر، تفاوت میان یادگیری، آزمایش و اجرای پروژه‌های بزرگ است.

برای شروع برنامه‌نویسی و آشنایی با مفاهیم یادگیری ماشین، الزاماً به یک کامپیوتر بسیار قدرتمند نیاز نداریم.

اما با بزرگ‌تر شدن مدل‌ها و مجموعه‌های داده، زمان آموزش و نیاز به منابع محاسباتی می‌تواند افزایش پیدا کند.

نداشتن GPU اختصاصی ممکن است بعضی آزمایش‌ها را کندتر کند، اما به معنی غیرممکن بودن تمام پروژه‌ها نیست. می‌توان از مدل‌های کوچک‌تر، مجموعه‌داده‌های مناسب، آموزش محدودتر یا منابع محاسباتی ابری استفاده کرد؛ البته هرکدام محدودیت‌ها و هزینه‌های خودشان را دارند.

در چنین شرایطی، انتخاب هوشمندانه مسئله و طراحی درست آزمایش اهمیت بیشتری پیدا می‌کند.

همیشه قرار نیست بزرگ‌ترین مدل را آموزش دهیم. گاهی باید مسئله را طوری تعریف کنیم که با امکانات در دسترس قابل بررسی باشد.

این هم بخشی از مهندسی است: کار کردن با منابع واقعی، نه فقط منابع ایده‌آل.

از یک مجموعه‌داده کوچک تا یک سؤال بزرگ‌تر

شاید CIFAR-10 در مقایسه با مسئله‌های بزرگ امروزی مجموعه‌داده‌ای ساده به نظر برسد، اما برای یادگیری و آزمایش بسیاری از مفاهیم بینایی ماشین همچنان کاربرد دارد.

البته نتیجه‌ای که روی CIFAR-10 به دست می‌آید، به‌تنهایی ثابت نمی‌کند که همان روش روی تصاویر پزشکی، دوربین‌های نظارتی یا دستگاه‌های واقعی هم به همان خوبی کار خواهد کرد.

هر مسئله شرایط خودش را دارد و انتقال نتایج به کاربردهای دیگر به آزمایش‌های بیشتر نیاز دارد.

با این حال، مسیر پژوهش از همین‌جا شروع می‌شود: تعریف یک مسئله، انتخاب داده، ساختن فرضیه، طراحی آزمایش، بررسی نتایج و تلاش برای فهمیدن اینکه واقعاً چه اتفاقی افتاده است.

برای من، کار روی این مفاهیم باعث شد هوش مصنوعی را نه فقط به‌عنوان مجموعه‌ای از الگوریتم‌ها، بلکه به‌عنوان فرایندی از سؤال پرسیدن، آزمودن و اصلاح کردن ببینم.

در نهایت، پشت پرده یک پروژه هوش مصنوعی چیست؟

اگر بخواهم همه این مسیر را در چند جمله خلاصه کنم، می‌گویم یک پروژه هوش مصنوعی با انتخاب یک مدل شروع نمی‌شود و با رسیدن به یک عدد خوب هم به پایان نمی‌رسد.

از یک مسئله شروع می‌شود.

باید بفهمیم دقیقاً چه چیزی را می‌خواهیم حل کنیم، چه داده‌ای در اختیار داریم، چه محدودیت‌هایی وجود دارد و موفقیت را چگونه اندازه می‌گیریم.

بعد نوبت انتخاب مدل، آموزش، ارزیابی و تحلیل نتایج می‌رسد.

و گاهی بعد از همه این مراحل، به جای اینکه پاسخ نهایی را پیدا کنیم، به سؤال دقیق‌تری می‌رسیم.

شاید همین یکی از جذاب‌ترین بخش‌های پژوهش باشد.

در هوش مصنوعی، همیشه قرار نیست از همان ابتدا بدانیم پاسخ چیست. گاهی باید راهی طراحی کنیم که بتوانیم پاسخ‌های احتمالی را آزمایش کنیم و بفهمیم کدام‌یک با شواهد سازگارتر است.

از بیرون، نتیجه ممکن است فقط یک مدل آموزش‌دیده یا یک عدد در جدول باشد.

اما پشت آن، مجموعه‌ای از تصمیم‌ها، آزمایش‌ها، خطاها و اصلاح‌ها قرار دارد.

و شاید ارزش واقعی یک پروژه علمی فقط در این نباشد که مدل چقدر خوب کار می‌کند؛ بلکه در این هم باشد که ما از انجام آن، چقدر بهتر فهمیده‌ایم مسئله واقعاً چیست.

هوش مصنوعیپایان نامه
۰
۰
فرزانه کوئینی
فرزانه کوئینی
فرزانه کوئینی نویسنده و پژوهشگر هوش مصنوعی
شاید از این پست‌ها خوشتان بیاید