مسئله ي بازشناسي از مسائل مطرح در كاربرد شبكه ها عصبي است. نكته ي خاص اين دسته از مسائل اين است كه نمونه ها بسيار به هم شبيه بوده و پيدا كردن ويژگي هاي تمييز دهنده به نسبت دشوار است. همچنين در يك سيستم باز شناسي، يكي از مسائل مهم اين است كه بتوان براي نمونه هاي جديد كه به سيستم اضافه مي شوند هم بتوان عمل بازشناسي را انجام داد. از ديگر مسائل مهم در اين حوزه، اهميت تشخيص نمونه هاي ناشناس و دسته بندي آن ها به عنوان ناشناس است. به اين دلايل، استفاده از روش هاي كلاسيك classification نتايج بهينه را حاصل نخواهند كرد. در راستاي اين مشكل، شبكه هاي Siamese مطرح شدند. سپس ايده هاي مختلفي براي بهبود اين نوع از شبكه ها مطرح شد كه از معروف ترين آنها مي توان استفاده از loss triplet را نام برد. در اين مقاله مروري خواهيم داشت بر ايده هاي مورد استفاده در مقاله ي a: loss triplet Beyond فهوم م ابتدا منظور بدين. deep quadruplet network for person re-identification loss triplet را بررسي خواهيم كرد و به لزوم بهبود اين روش خواهيم پرداخت. سپس به سراغ ايده ي ارائه شده در اين مقاله براي بهبود عملكرد اين loss ،و loss quadruplet خواهيم رفت. سپس روش ارائه شده براي mining negative hard در اين مقاله را مورد بررسي قرار خواهيم داد و در نهايت نتايج بدست آمده را مرور خواهيم كرد.
اين loss روي يك دسته ي سه تايي از نمونه ها استفاده مي شود، بدين شكل كه يك نمونه، نمونه ي اصلي(anchor ،(يك نمونه متعلق به همان دسته ي نمونه ي اصلي(positive (و نمونه ي ديگر متعلق به يك دسته ي ديگر(negative (مي باشد. نمونه ها از سه شبكه ي مشابه عبور ميكنند و در نهايت به تابع lossداده مي شوند با اعمال گراديان اين تابع رو ي شبكه، انتظار اين است كه نمونه هاي متعلق به دسته ي مشابه در فضاي ويژگي به هم نزديك شده، و نمونه هاي متعلق به دسته هاي مختلف از هم دور شوند.معيار خطاي triplet بر اساس فاصله ي اقليدسي ميان نمونه ها در فضاي ويژگي عمل مي كند. در اين مقاله فاصله ي اقليدسي با يك معيار قابل آموزش جايگزين شده است هنگام استفاده از فاصله ي اقليدسي، (x(f نرمال شده و اختلاف دو عبارت بين ٠ و ١ قرار دارد. در روش جديد متريك قابل ياد گيري مي تواند مانند يك سلول در انتهاي شبكه ي عصبي پياده سازي شود لذا حد مشخصي نخواهد داشت
در ابتدا براي حل مشكل حدود خروجي loss ، راه حلي پيشنهاد شد. در مرحله ي آخر، هر شبكه دو سلول را به عنوان خروجي خود در نظر ميگيرد و يك لايه ي softmax براي نرمال كردن خروجي ها لحاظ ميكند.. يكي از آنها احتمال عدم شباهت ورودي هايش را مدل ميكند(در شكل٥ با رنگ قرمز مشخص شده است) به عنوان loss در نظر گرفته شده و براي آموزش شبكه استفاده مي شود. در نتيجه مقادير نرمال بوده و در رنج ٠ تا ١ قرار دارند و مشكل عدم مشخص بودن حدود خروجي بر طرف شده و مي توان threshold را بدون نگراني روي تابع خطا اعمال كرد. همچنين با اين روش خروجي سلول ديگر را مي توان به عنوان احتمال شباهت در نظر گرفت. حال به معرفي loss quadruplet مي پردازيم. در اين روش، علاوه بر عبارات موجود در loss triplet عبارت جديدي به خطا اضافه شده كه اختلاف فاصله ي اقليدسي دو نمونه ي هم دسته از دو نمونه ي غير هم دسته كه هر كدام متعلق به دسته هاي جداگانه اي هستند را مدل مي كند. اين مقاله ادعا مي كند كه اين عبارت جديد باعث مي شود تا فاصله ي ميان دسته ها از هم افزايش يابد چون براي كاهش خطا بايد كمترين فاصله ي بين كلاس ها بيشتر از بيشترين فاصله ي بين اعضاي يك كلاس باشد. لازم به ذكر است كه در پياده سازي، عبارت جديد با تاثير كمتري بايد لحاظ شود تا روند يادگيري دچار مشكل نشود. اين امر در پياده سازي با مقدار دهي مناسب به threshold ها صورت گرفته است
حال به معرفي loss quadruplet مي پردازيم. در اين روش، علاوه بر عبارات موجود در loss triplet عبارت جديدي به خطا اضافه شده كه اختلاف فاصله ي اقليدسي دو نمونه ي هم دسته از دو نمونه ي غير هم دسته كه هر كدام متعلق به دسته هاي جداگانه اي هستند را مدل مي كند. اين مقاله ادعا مي كند كه اين عبارت جديد باعث مي شود تا فاصله ي ميان دسته ها از هم افزايش يابد چون براي كاهش خطا بايد كمترين فاصله ي بين كلاس ها بيشتر از بيشترين فاصله ي بين اعضاي يك كلاس باشد. لازم به ذكر است كه در پياده سازي، عبارت جديد با تاثير كمتري بايد لحاظ شود تا روند يادگيري دچار مشكل نشود. اين امر در پياده سازي با مقدار دهي مناسب به threshold ها صورت گرفته است در نهايت طبق روش SGD بايد گراديان تابع loss را حساب كنيم پس هر بار مقدار threshold به طورadaptive-self و با توجه به ميانگين نمونه ها محاسبه مي شود. هر بار نمونه هاي هر batch كه فاصله هايي كمتر از مقدار threshold دارند به عنوان hard sample در نظر گرفته شده و براي آموزش انتخاب مي شوند . در نهايت گراديان تابع خطاي بدست آمده از اين نمونه ها روي شبكه اعمال مي شود.
