به نام خدا
یک سری نام های گیج کننده و شبیه به هم در دنیای یادگیری عمیق وجود دارد که قصد داریم در این پست به تفکیک آن ها بپردازیم.
1- مسائل Multi-Class Classification
در این مسائل دسته بندی، در هر تصویر فقط یک کلاس داریم. در این مسائل به تعداد کلاس ها نورون در لایه ی خروجی خواهیم داشت و خروجی آن ها یک بردار خواهد بود که مقدار درایه ی متناظر کلاسی که در تصویر بوده است عدد 1 و مابقی درایه ها صفر خواهد بود. در شکل زیر، سه کلاس داریم که در هر تصویر نمونه نیز فقط یکی از این کلاس ها آمده است و بردار متناسب با آن ها در قسمت Labels نمایش داده شده است.
2-مسائل Multi-Label Classification
در این مسائل دسته بندی، هر تصویر نمونه شامل چند کلاس است و باز هم خروجی شبکه به تعداد کلاس ها نورون دارد اما می تواند چند درایه ی آن 1 و چند درایه ی آن 0 باشد. هر نورون خروجی از دیگر نورون های دیگر مقدار مستقلی دارد و به هم وابسته نیستند. 3 نمونه ی آن در شکل زیر آمده است.

توابع فعالساز:
یک سری تابع فعالساز داریم که روی بردار خروجی شبکه عصبی، قبل از اینکه به تابع loss فرستاده شوند اعمال می شوند که اینها عبارتند از:
1- تابع سیگموید(sigmoid) یا logistic function
مقادیر بردار خروجی شبکه ی عصبی توسط این تابع به مقادیری در محدوده ی 0 و 1 تبدیل می شود. همان طور که از رابطه ی آن مشخص است که برای هر مقدار ورودی این تابع، خروجی از دیگر مقادیر ورودی مستقل است.


2- تابع سافت مکس(softmax)
تابع سافت مکس، تابع است و loss نیست. مقادیر درایه های بردار ورودی را بین 0 و 1 می برد. این تابع به صورت مستقل از دیگر درایه ها نمی تواند به یک درایه اعمال شود و خروجی را محاسبه کند. همان طور که در فرمول 2 مشخص است برای محاسبه ی i امین درایه باید در صورت کسر امتیاز بدست آمده از شبکه عصبی و در مخرج کسر مجموع همه ی امتیازات قرار گیرد.

ادامه دارد...