تفاوت دقت و حساسیت در ارزیابی مدل های هوش مصنوعی
تصور کنید در شهری، یک بیمارستان مدرن به نام بیمارستان هوشمند راهاندازی شده است. این بیمارستان یک سیستم پیشرفته تشخیص بیماری دارد که به کمک هوش مصنوعی، افراد مبتلا به یک بیماری خاص را شناسایی میکند. حالا، همه منتظرند ببینند این سیستم چقدر خوب کار میکند.
- 100 نفر وارد بیمارستان میشوند:
- 10 نفر از آنها واقعاً بیمار هستند. 😷 90 نفر دیگر کاملاً سالم هستند. 😊
سیستم شروع به کار میکند. بعد از چند ثانیه، نتایج را اعلام میکند:
- از 10 بیمار، سیستم فقط 8 نفر را درست شناسایی میکند (آنها را بیمار اعلام میکند).با این حساب 2 بیمار از دست رفتهاند و سیستم آنها را سالم میداند.(باید درمان را شروع می کردند ولی فکر کردند سالمند و به زندگی عادی خود ادامه دادند)
- از 90 فرد سالم، سیستم 85 نفر را درست شناسایی میکند و میگوید سالم هستند.ولی به اشتباه 5 نفر سالم را بیمار تشخیص میدهد.(5 نفر که سالم هستند احتمالا شوکه خواهند شد و وارد مراحل چکاپ بعدی می شوند و با تاخیر پی به سالم بودن خود میبرند)
حالا تیم پزشکان میخواهند بفهمند که سیستم چقدر خوب عمل کرده. آنها دو معیار مهم بررسی میکنند: دقت و حساسیت.
یکی از پزشکان میپرسد:
"سیستم در کل چقدر درست پیشبینی کرده؟"
جواب اینطور حساب میشود:
- موارد درست:سیستم 8 بیمار را درست شناسایی کرده (True Positive = 8). همچنین 85 فرد سالم را درست شناسایی کرده (True Negative = 85). مجموع موارد درست = 8+85=93
- کل پیشبینیها: 100 نفر.
Accuracy=93/100=93%
✅ نتیجه: دقت سیستم 93% است، یعنی از هر 100 نفر، 93 نفر را درست تشخیص داده.
پزشک دیگری میپرسد:
"اما... سیستم چقدر توانسته بیماران واقعی را پیدا کند؟ مهم است که هیچ بیماری از دست نرود!"
حساسیت اینطور حساب میشود:
- موارد درست مثبت: 8 بیمار.
- کل بیماران واقعی: 10 بیمار.
Recall=8/10=80%
✅ نتیجه: سیستم توانسته 80% بیماران واقعی را شناسایی کند، اما 2 نفر از بیماران از دست رفتهاند.
پزشکان شروع به بحث میکنند:
- یکی از پزشکان میگوید: "سیستم خیلی خوب عمل کرده! 93% دقت دارد، یعنی بیشتر افراد را درست شناسایی کرده."
- اما پزشک دیگری مخالفت میکند: "نه، برای ما مهمتر این است که هیچ بیماری از دست نرود. حساسیت 80% کافی نیست، چون هنوز 2 بیمار شناسایی نشدهاند!"
نتیجهگیری اخلاقی این داستان:
- اگر هدف شما این است که سیستم به طور کلی درست عمل کند و پیشبینیهایش دقیق باشد، دقت (Accuracy) معیار مناسبی است.
- اما اگر هدف شما این است که هیچ مورد مثبت واقعی (مانند بیمار یا مشکل) از دست نرود و از اشتباهات در شناسایی مثبتها (حتی اگر برخی سالمها به اشتباه شناسایی شوند) جلوگیری کنید، حساسیت (Recall) مهمتر خواهد بود.
در نهایت، بسته به اهمیت اولویتها و نیازها، ممکن است نیاز باشد که بین این دو معیار انتخاب کنید یا آنها را ترکیب کنید تا عملکرد بهینه را بدست آورید.