ویرگول
ورودثبت نام
mastane hayati
mastane hayati
mastane hayati
mastane hayati
خواندن ۲ دقیقه·۵ سال پیش

Bias-Variance

بایاس، خطای تقریب یک پدیده‌ی پیچیده با یک مدل ساده‌ست. برای مثال، فرض کنید مدل ما یک ساده‌سازی انجام داده و هروقت هوای شهر ابری باشه، وضعیت هوای فردا رو بارانی اعلام میکنه؛ اما واقعیت پیچیده‌تر از اینه و ممکنه هوا ابری باشه و به دلایل مختلف باران نباره (اما چون کم این اتفاق میفته، مدل این حالات رو نادیده میگیره). در این حالت میگیم مدل‌مون بایاس داره.

زماني كه باياس داشته باشيم underfit اتفاق ميافته. Underfit شدن نیز زمانی رخ می دهد که الگوریتم یک مدلِ خیلی کلی از مجموعه آموزشی به دست می‌آورد. یعنی حتی اگر خودِ داده‌های مجموعه‌ی آموزشی را نیز به این الگوریتم بدهیم، این الگوریتم خطایی قابل توجه خواهد داشت

واریانس نمایان‌گر این هست که با تغییرات کوچک در داده، چه مقدار پیش‌بینی‌های مدل‌مون تغییر میکنه. فرض کنید در داده‌هامون به جای این‌که روز ۱۳ام ماه «بارانی» ثبت شده باشه، به اشتباه «آفتابی» ثبت بشه (بر اثر خطای انسانی! )در این صورت اگه واریانس مدل‌مون کم باشه انتظار داریم این خطای کوچک در داده‌ها، به پیش‌بینی‌مون لطمه نزنه.

زماني كه واريانس داشته باشيم over fit اتفاق ميافته. وقتی درباره Overfitting صحبت میکنیم صحبت از بالا رفتن یادگیری مدل بر روی داده های آموزشی میکنیم .به عبارتی الگوریتم مورد استفاده مدل ما بدلیل یاد گرفتن یکایک نمونه های آموزشی تبدیل به یک مدل پیچیده شده تا جایی که اگر یک نمونه جدید تست به این مدل داده شود خطای بالایی را تولید خواهد کرد


فرض کنید شما برای یک آزمون در حال درس خواندن هستید. استاد هم به شما 50عدد نمونه سوال داده است تا با استفاده از آن‌ها بتوانید خود را برای امتحان آماده کنید. اگر شما طوری مطالعه کنید که فقط این 50نمونه سوال را کامل بلد باشید و هر سوالِ دیگری که کمی از این 50 سوال فاصله داشته باشد، اشتباه جواب دهید، یعنی ذهنِ شما بر روی سوالاتِ آموزشی که استاد برای یادگیری داده است Overfit یا بیش‌برازش شده است.

حال اگر تمامی سوالات را به صورت مفهومی بلد باشید ولی هیچ کدام از سوالات را به صورتِ دقیق بلد نباشید، حتی اگر دقیقاً همان سوال‌ها هم در جلسه امتحان به شما داده شود، باز هم نمی‌توانید به درستی و با دقت پاسخ آن ها را بدهید، البته شاید بتوانید یک پاسخ نصفه و نیمه از سوالات بنویسید. اینجا ذهن شما Underfit شده است. این در حالی است که سوالات دیگری که نزدیک به این سوالات هستند را هم شاید بتوانید نصفه و نیمه پاسخ دهید



۲
۰
mastane hayati
mastane hayati
شاید از این پست‌ها خوشتان بیاید