ویرگول
ورودثبت نام
سهراب خان‌بدر | Sohrab Khanbadr
سهراب خان‌بدر | Sohrab Khanbadrچیزی مثبت بگو، و چیز مثبت خواهی دید." — جیم تامپسون من کیستم ؟ من کجا هستم ؟ من چه میخواهم ؟
سهراب خان‌بدر | Sohrab Khanbadr
سهراب خان‌بدر | Sohrab Khanbadr
خواندن ۱ دقیقه·۲ ماه پیش

هنرِ ظریفِ آلزایمر گرفتن در هوش مصنوعی! 🤖🧠

تا همین چند وقت پیش، تمام دردسر متخصصان هوش مصنوعی این بود که با التماس و کلی هزینهٔ برق و GPU به مدل بفهمانند: «لطفاً یاد بگیر!» اما حالا کار به جایی رسیده که در معتبرترین کنفرانس‌های جهان مثل NeurIPS دور هم جمع می‌شوند و مسابقه می‌گذارند تا به شبکهٔ عصبی یاد بدهند: «جانِ هر کی دوست داری، شتر دیدی ندیدی!» ماجرا از این قرار است که مدل‌های عمیق علاقهٔ عجیبی به حفظ کردن تمام جزئیات دارند و مغزشان هم متأسفانه دکمهٔ Delete ندارد که بشود خاطرات ناخواسته را با یک کلیک پاک کرد.

گیرِ کار کجاست؟ طبق قوانین سفت‌وسخت بین‌المللی مثل GDPR، هر کاربری «حق فراموش شدن» دارد؛ یعنی اگر کسی بگوید «عکس چهرهٔ من را از حافظهٔ مدلت پاک کن»، نمی‌توانید به او بگویید کل مدل را از نو آموزش می‌دهیم، چون هزینه‌اش سر به فلک می‌کشد. چالش فراموشی ماشین (Machine Unlearning) دقیقاً روی همین مسئله دست گذاشته است: چطور می‌توان اثر داده‌های یک چهره را طوری از وزن‌های مدل بیرون کشید که انگار از روز ازل اصلاً این عکس را ندیده، بدون اینکه بقیهٔ دانش و دقت مدل در تخمین سن بقیه خراب شود؟

در نهایت، خروجی ایده‌آل این چالش ساخت مدلی است که هیچ آزمون آماری نتواند مچش را بگیرد و بفهمد چه چیزهایی را قبلاً دیده و حالا ماست‌مالی کرده است! دنیای فناوری واقعاً جای عجیبی شده است؛ در روزگاری که همه برای ثبت و حفظ داده‌ها دست‌وپا می‌زنند، در لبهٔ علم هوش مصنوعی مدرن، برنده کسی است که بلد باشد چطور تمیز، سریع و باکلاس فراموش کند.


NeurIPS 2023 Machine Unlearning Challenge

https://unlearning-challenge.github.io/

هوش مصنوعی
۰
۰
سهراب خان‌بدر | Sohrab Khanbadr
سهراب خان‌بدر | Sohrab Khanbadr
چیزی مثبت بگو، و چیز مثبت خواهی دید." — جیم تامپسون من کیستم ؟ من کجا هستم ؟ من چه میخواهم ؟
شاید از این پست‌ها خوشتان بیاید