https://virgool.ir/feed/@Shekari.ahبرنامه نویس علاقه مندfa2026-11-11 10:00:52https://files.virgool.ir/upload/users/11389/avatar/Ddwkd7.pnghttps://virgool.ir/@Shekari.ahhttps://virgool.ir/LogisiaMag/deepmind-ai-reiforcement-learning-reveals-dopamine-neurons-in-brain-vumzlhnkxxxlالگوریتم یادگیری تقویتی جدید شناختمان را نسبت به خودمان تغییر خواهد دادبرای علاقه‌مندان به هوش مصنوعی واژه یادگیری تقویتی ناآشنا نیست. یادگیری تقویتی الگوریتمی است که تلاش می‌کند با پاداش و مجازات ماشین را آموزش دهد. لاجیسیا در جدیدترین ترجمه خود مقاله‌ای از MIT Technology Review برای مخاطبان خود آماده کرده است که الگوریتم جدید یادگیری تقویتی شرکت دیپ‌مایند گوگل را برسی میکند و در ادامه به تاثیرات آن بر علم عصب‌شناسی و شناخت ما از مغز خودمان می‌پردازد.تربیت سگ‌ها الهام بخش هوش مصنوعی اولیهماروین مینسکی که در سال 1951 دانشجوی دانشگاه هاروارد بود، از مشاهدات رفتارشناسی حیوانات برای طراحی یک ماشین هوشمند استفاده کرد. او از ایده‌های کار ایوان پاولوف، فیزیولوژیستی مشهوری که با استفاده از سگ‌ها چگونگی یادگیری حیوانات از طریق مجازات و پاداش نشان داده بود، استفاده نمود تا رایانه‌ای بسازد که می‌توانست از طریق مشابه یعنی پاداش و مجازات مداوم برای هر کاری که انجام می‌دهد یاد بگیرد و یک هزارتوی مجازی را حل کند.هر چند در آن زمان، دانشمندان علوم اعصاب مکانیسم‌های موجود در مغز را که به حیوانات اجازه می‌داد از طریق یادگیری تقویتی آموزش ببینند را کشف نکرده بودند، اما مینسکی هنوز هم قادر بود خود این رفتار را تا حدی شبیه‌سازی کرده و به پیشبرد هوش مصنوعی خود بپردازد. چند دهه بعد، همانطور که یادگیری تقویتی به بلوغ خود ادامه می‌داد به نوبه خود به حوزه علوم اعصاب کمک کرد تا این مکانیسم‌ها را کشف کرده و باعث ایجاد چرخه‌ای از پیشرفت متقابل بین این دو زمینه شود.طبق مقاله‌ای که در سایت Nature today منتشر شده؛ شرکت دیپ‌مایند(DeepMind) بار دیگر موفق به ارائه نظریه‌‌ جدیدی در مورد مکانیزم‌های پاداش‌دهی در مغز آن هم با استفاده از اطلاعاتی که از یادگیری تقویتی به دست آورده، شود. این فرضیه که توسط یافته‌های تجربی اولیه تقویت می‌شود، نه تنها می‌تواند درک ما نسبت به سلامت روان و انگیزه بهبود بخشد؛ هم‌چنین می‌تواند جهت فعلی تحقیقات هوش مصنوعی را به سمت ساختن هوش مصنوعی انسان گونه‌تر هدایت کند. اما این فرضیه جدید چه می‌گوید؟ قبل از توضیح این نظریه یک توضیح کوتاه درباره یادگیری تقویتی ارايه می‌دهیم.نورون‌های دوپامین چه نقشی در یادگیری تقویتی انسان دارند؟یادگیری تقویتی در دنیای واقعیاساس روش یادگیری تقویتی از شیوه تربیت سگ‌های پائولو الهام می‌گیرد؛ می‌توان به یک عامل (agent) مهارت‌های جدید و پیچیده را از طریق بازخورد مثبت و منفی (مجازات و پاداش) آموزش داد. یک الگوریتم وظیفه اختصاص‌ داده ‌شده را با پیش‌بینی تصادفی این که کدام عمل ممکن است پاداشی به همراه داشته باشد، یاد می‌گیرد. پس از میلیون‌ها یا حتی میلیارد‌ها آزمایش، خطای پیش‌بینی الگوریتم به صفر همگرا می‌شود. در این مرحله عامل می‌داند که دقیقاً برای رسیدن به حداکثر پاداش خود چه اقداماتی را باید انجام دهد و بنابراین وظیفه خود را به اتمام می‌رساند.به نظر می‌رسید مکانیزم پاداش مغز که در دهه ۱۹۹۰ با الهام از الگوریتم‌های یادگیری تقویتی کشف شد نیز به همین روش کار می‌کند. هنگامی که یک انسان یا حیوان در حال انجام عملی است نورون‌های دوپامین موجود، یعنی نورون‌هایی که وظیفه ساخت دوپامین را بر عهده دارند، پاداش مورد انتظار را پیش‌بینی می‌کنند. پس از دریافت پاداش واقعی آنها مقداری دوپامین، که منطبق با خطای پیش‌بینی است، ترشح می‌کنند. پاداش بهتر از حد انتظار باعث آزاد شدن دوپامین می‌شود، در حالی که پاداش بدتر از حد انتظار تولید شیمیایی آن را سرکوب می‌کند. به عبارت بهتر، دوپامین به عنوان یک سیگنال تصحیح کننده عمل می کند و به نورون‌ها می‌گوید پیش‌بینی‌های خود را تا زمانی که به واقعیت نزدیک شوند تنظیم نمایند. این پدیده معروف به خطای پیش‌بینی پاداش، بسیار به یک الگوریتم یادگیری تقویتی شبیه است.مطالب مجله لاجیسیا در خرداد سال 1399 به سایت اصلی لاجیسیا منتقل شد و مطالب جدید نیز به شیوه سابق در سایت اصلی منتشر خواهد شد.تاثیرات الگوریتم جدید یادگیری تقویتی دیپ‌ماینددر سال 2017، محققان دیپ‌مایند الگوریتم یادگیری تقویتی را معرفی کردند که از آن زمان تاکنون عملکرد چشمگیری در انجام وظایف گوناگون به نمایش گذاشته‌است. آن‌ها باور دارند مقاله‌ی جدید آن‌ها که بر پایه ارتباط بین هوش مصنوعی و علوم اعصاب بنا شده‌است می‌تواند توضیحی دقیق‌تر درباره عملکرد نورون‌های دوپامین در مغز ارائه کند.این الگوریتم بهبود یافته نحوه پیش‌بینی پاداش را تغییر می‌دهد. رویکرد قدیمی پاداش را به صورت یک عدد اسکالر برآورد می‌کرد که نمایش‌دهنده میانگین خروجی مورد انتظار بود اما رویکرد جدید آن را با دقت بیشتری به صورت یک توزیع احتمالاتی نشان می‌دهد. برای اینکه بهتر متوجه موضوع بشوید به یک دستگاه شانسی (Slot machine) فکر کنید: شما در هر دور با احتمال خاصی برنده یا بازنده می‌شوید ولی امکان ندارد در یک دور بازی مقادیر میانگین را به عنوان خروجی ماشین دریافت کنید؛ به عبارت دیگر مقادیر میانگین نمایش‌دهنده خروجی مورد انتظار ما نیست.slot machineاین تغییرات ما را به سمت نظریه جدیدی سوق میدهند: آیا نورون‌های دوپامین نیز با همان روش و به صورت توزیع احتمالاتی پاداش را پیش بینی می کنند؟برای آزمایش این تئوری دیپ‌مایند با گروهی از محققان دانشگاه هاروارد همکاری کرد تا رفتار نورون‌های دوپامین را در موش‌ها مشاهده کند. آن‌ها پس از اختصاص یک وظیفه به موش‌ها، توسط یک تاس به آن‌ها پاداش دادند و سپس الگوی ترشح نورون‌های دوپامین آن‌ها را بررسی کردند. نتایج آزمایش‌ها نشان داد که هر نورون مقدار متفاوتی از دوپامین را آزاد می‌کند؛ یعنی هر نورون نتیجه متفاوتی پیش‌بینی ‌می‌کرد. برخی بیش از حد "خوش‌بینانه" بودند و مقادیر بیشتری را نسبت به واقعیت پیش‌بینی می‌کردند، برخی دیگر "بدبین‌تر" بودند و مقادیر کمتری نسبت به واقعیت پیش‌بینی می‌کردند. هنگامی که محققان توزیع آن پیش‌بینی‌ها را نگاشت کردند، نتایج به مقادیر پاداش اصلی شباهت زیادی داشت. این داده‌ها شواهد قانع‌کننده‌ای را ارائه می دهند مبنی بر اینکه مغز در واقع از پیش‌بینی‌های توزیع پاداش برای الگوریتم یادگیری تقویتی خود استفاده می‌کند.محققان با اندازه گیری رفتار نورون دوپامین در موش ها، دریافتند که توزیع احتمالاتی پیش بینی نورون ها (رمز گشایی شده) به مقدار پاداش اصلی بسیار نزدیک است. نتایج مطالعات جدید در کامپیوتر و علوم شناختیاین مطالعه پیامدهایی برای هوش مصنوعی و علوم اعصاب دارد. در وهله اول یادگیری تقویتی با توزیع احتمالاتی را به عنوان یک مسیر امیدوار کننده برای توانایی‌های پیشرفته‌تر هوش مصنوعی تأیید می‌کند. مت بوتووینک، مدیر تحقیقات علوم اعصاب دیپ‌مایندو یکی از نویسندگان اصلی مقاله در گفتگوی مطبوعاتی گفت: "اگر مغز از آن استفاده می‌کند، پس این روش احتمالا یک روش مناسب است. نتایج این تحقیق به ما می‌گوید که این روش محاسباتی به خوبی می‌تواند در دنیای واقعی اجرا شود و همچنین به خوبی با سایر فرایندهای محاسباتی مطابقت داشته باشد. "در وهله دوم می تواند یکی از تئوری‌های متعارف در علوم اعصاب درباره سیستم پاداش دهی مغز را به‌ بروزرسانی کند که به نوبه خود می‌تواند درک ما را نسبت به همه چیز، از انگیزه گرفته تا سلامت روان، بهبود بخشد. برای مثال وجود نورون های "خوشبین" و "بدبین" چه معنایی خواهد داشت؟ اگر مغز به طور انتخابی فقط به یکی از آن دسته واکنش نشان دهد می تواند منجر به عدم تعادل شیمیایی و افسردگی شود؟سرانجام رمزگشایی بیشتر فرآیندهای مغز می‌تواند روشن کند که چه چیزی باعث ایجاد هوش انسانی می‌شود. بوتووینک گفت: "این تحقیق دیدگاه جدیدی به ما در مورد آنچه به مغز در طول زندگی روزمره می‌گذرد، می‌دهد."مطالب مجله لاجیسیا در خرداد سال 1399 به سایت اصلی لاجیسیا منتقل شد و مطالب جدید نیز به شیوه سابق در سایت اصلی منتشر خواهد شد.امیر حسین شکاریامیر حسین شکاریFri, 17 Apr 2020 02:57:30 +0430https://virgool.ir/@Shekari.ah/نحوه-اجرای-برنامه-های-گرافیکی-لینوکس-در-ویندوز-10-onrkbjitci3xسیستم فرعی ویندوز برای لینوکس (WSL) توسط مایکروسافت در بروز رسانی سالگرد ویندوز 10 معرفی شد و این امکان را به کاربران میدهد تا یک فضای کاربری کامل لینوکس را در ویندوز اجرا کنند. این روش نسبت به استفاده از Cygwin یا استفاده از سیستم عامل مجازی (Virtual machine) بسیار بهتر است. در واقع این برنامه یک کرنل کامل لینوکس را بر روی سیستم شما نصب می کند، بنابراین لینوکس دسترسی کامل به سخت افزار شما دارد ( برای مواقعی که میخواهید از کارت گرافیک خود برای اجرای برنامه های یادگیری ماشین استفاده کنید )آپدیت: متاسفانه WSL هنوز از cuda پشتیبانی نمیکند ولی به حال سرعت بیشتری نسبت به یک سیستم عامل مجازی دارد.برای نصب WSL بر روی کامپیوتر خود مراحل زیر را دنبال کنید.1) ابتدا PowerShell را به صورت administrator باز کرده و کد زیر را در آن اجرا کنید:Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Windows-Subsystem-Linux2) ویندوز را ریبوت کرده و از طریق Store مایکروسافت Ubuntu را نصب کنید. ( میتوانید توزیع های دیگر را نیز نصب کنید )3) توزیع نصب شده را اجرا کنید و یک کاربر جدید در آن ایجاد کنید.4) برای اجرا برنامه ها به صورت گرافیکی:ابتدا یک Xserver بر روی ویندوز نصب کنید.سپس bash را طوری Configure کنید که از آن به عنوان خروجی تصویر استفاده کند.تنها برنامه ی Xserver کاملا متن باز در حال حاضر VcXsrv میباشد. پس از نصب آن باید bash لینوکس را باز کرده و با دستورات زیر Xserver را به عنوان نمایشگر خروجی Configure کنید.echo "export DISPLAY=localhost:0.0" >> ~/.bashrcسپس bash را بسته و دوباره باز کنید تا تغییرات اعمال شود.شما میتوانید با روش های دیگری نیز برنامه های خود را وادار کنید از WSL برای اجرای کدهای تان استفاده کنند (Configure an interpreter using WSL) ولی اجرای برخی از برنامه های خاص لینوکس تنها از این روش ممکن است.برای اطلاعات بیشتر به مقاله اصلی مراجعه کنید.امیر حسین شکاریامیر حسین شکاریFri, 03 Apr 2020 17:07:46 +0430https://virgool.ir/LogisiaMag/why-asking-an-ai-to-explain-itself-can-make-things-worse-dkzxgzmlc5shروزی روزگاری آپول احسان(Upol Ehsan)، جهت اهداف آزمایشی، سوار یکی از ماشین های خودران اوبر شد. مسافران در این ماشین به جای حس اضطراب ناشی از تماشای جای خالی راننده، با دیدن یک صفحه نمایش از سیستم خودران ماشین دلگرم میشدند. در این نمایشگر مناطق خطرناک با رنگ قرمز و نارنجی، و نقاط امن با رنگ آبی علامت گذاری شده بود. برای احسان که علم تعامل انسان با هوش مصنوعی را در مؤسسه فناوری جورجیا خوانده بود پیام این حرکت مشخص بود؛ "وحشت نکنید؛ با توجه به تصویر نمایشگر، ماشین در حال انجام کاری است که باید انجام دهد." ولی نمای تخیلی ماشین از وضعیت راه به جای تداعی حس اطمینان بیشتر تداعی کننده یک تجربه عجیب بود. و همین موضوع احسان را به فکر انداخت: "چه میشود اگر ماشین خودران واقعا بتواند خودش را توضیح دهد؟"بهترین شبکه های عصبی طوری تنظیم و سازگار می‌شوند که به مدل های بهتری تبدیل شوندموفقیت شبکه های عصبی به خاطر توانایی آن در تنظیم شدن و تطبیق پذیری میباشد، بهترین شبکه های عصبی طوری تنظیم و سازگار می‌شوند که به مدل های بهتری تبدیل شوند و در نتیجه آن نتایج عملی پا را فراتر از نظریه‌های تئوری گذاشته‌اند. به همین دلیل درک ما از یک مدل آموزش داده شده (trained model) معمولا نامشخص است. ما اسم آن را جعبه سیاه گذاشته‌ایم. البته این موضوع در اکثر مواقع هیچ مشکلی ایجاد نمی‌کند، مانند مواقعی که هوش مصنوعی قرار است GO بازی کند یا به ترجمه یک متن بپردازد. ولی اگر هوش مصنوعی برای اجرای قانون یا سیستم ماشین‌های خودران استفاده شود ما نیاز داریم تا متوجه شویم سیستم با چه استدلالی به یک تصمیم رسیده است، و اشتباهات آن را اصلاح کنیم.آیریس هاولی (Iris Howley) یک دانشمند کامپیوتر از کالج ویلیامز گفته است: "مردم برای رد کردن تصمیمی که به صورت اتوماتیک گرفته شده نیاز به قدرت دارند. شما میتوانید این موضوع را در مورد سیستم های تشخیص چهره مشاهده کنید." بدون این قدرت، آنها از فناوری روی برمیگرداند.احسان جزو گروهی از محققان است که سعی میکنند هوش مصنوعی را در توضیح دادن خودش بهتر کنند تا بالاخره بتوانیم نگاهی به درون این جعبه ی سیاه بیندازیم. به این تکنیک، هوش مصنوعی قابل تفسیر یا قابل توضیح (XAI) گفته میشود. این علم در تلاش است تا متوجه شود که یک شبکه عصبی دقیقا چه چیزی از دیتا را یاد میگیرد تا متوجه شود آیا این مدل به طور دقیق و بیطرفانه آموزش داده شده یا نه. یکی از روش‌های ساخت همچین شبکه عصبی ای به نام جعبه شیشه‌ای (متضاد کلمه جعبه سیاه) شناخته میشود. جعبه شیشه ای یک مدل به شدت ساده شده یک هوش مصنوعی است که در آن ردگیری تاثیرات دیتا بر قسمت های مختلف مدل راحت‌تر است. علم در تلاش است تا متوجه شود که یک شبکه عصبی دقیقا چه چیزی از دیتا را یاد میگیردجنیفر وردتمن یک دانشمند کامپیوتر در قسمت تحقیقات ماکروسافت میگوید: "برخی افراد در جامعه وجود دارند که حامی استفاده از جعبه شیشه ای در هر شرایط پر‌ریسک هستند. من به شدت با این موضوع موافق هستم." جعبه های شیشه ای ساده میتوانند همان کار شبکه‌های عصبی پیشرفته را برای نوع خاص دیتا مانند جداول آماری انجام دهند. برای یک سری از سیستم‌ها این تمام چیزی است که شما به آن نیاز دارید.ولی این موضوع وابسته به دامنه کار است. اگر ما بخواهیم دیتا‌های پیچیده و نامنظم مانند عکس یا متن را آموزش دهیم، چاره‌ای به جز استفاده از شبکه‌های عمیق، و در نتیجه غیر‌شفاف، نداریم. توانایی استخراج ویژگی‌های معنادار از میان ویژگی‌های بسیار زیاد در داده‌های پیچیده، وابسته به پیچیدگی شبکه عصبی مورد استفاده است.حتی در اینجا هم یادگیری ماشین شیشه‌ای می تواند کمک کند. یکی از روش ها این است که که دو مرحله عملیات بر روی دیتا انجام داده شود، آموزش یک مدل جعبه شیشه‌ای غیرکامل (imperfect) به عنوان مرحله اشکال زدایی، جهت پیدا کردن اشکالات احتمالی که ممکن است بخواهید اصلاحشان کنید. و بعد از اصلاح و پاکسازی داده ها، یک مدل دقیق از جعبه سیاه می‌توان آموزش داد.با این که این یک روش زیرکانه است ولی شفافیت زیاد میتواند باعث سربار اطلاعات شود. در یک مطالعه در سال 2018 با بررسی چگونگی تعامل کاربران غیر‌متخصص با ابزارهای یادگیری ماشین ، واگان (Vaughan) دریافت که مدل های شفاف در واقع می‌توانند تشخیص و تصحیح اشتباهات مدل را سخت‌تر کنند.شفافیت زیاد میتواند باعث سربار اطلاعات شودروش دیگر به تصویر کشیدن قسمت‌هایی از بخش‌های اصلی مدل و داده‌های مرتبط با آن است. ایده این عمل از اینجا آمده است که شما می توانید با یک نگاه مشکلات جدی را تشخیص دهید. به عنوان مثال، مدل شما ممکن است بر روی داده‌‍‌های خاصی تمرکز کند که منجر به جانبداری آن شود.ماشین خودران اوبرابزار‌های تصویر‌سازی اطلاعات (visualizations) در مدت زمان کوتاهی پس از عرضه به شدت معروف شدند. اما آیا آنها واقعا تاثیر مثبتی دارند؟ در اولین سری مطالعات درباره این موضوع، وگان و تیمش شروع به تحقیق در این مورد کردند، و این تحقیق مشکلات بسیار جدی‌ای را نمایان کرد.تیم از دو مدل معروف تفسیر اطلاعات (interpretability tools) استفاده کرد که دیدگاهی کلی از مدل را توسط نمودار‌ها و تصویرسازی اطلاعات به نمایش میگذارند و اطلاعاتی که بیشترین تاثیر در آموزش مدل دارند را مشخص میکنند. ۱۱ نفر از متخصصان هوش‌ مصنوعی مایکروسافت که از نظر آموزش، موقعیت شغلی و تجربه کاری متفاوت بودند، استخدام شدند تا با مدل یادگیری ماشینی که بر اساس داده‌های سرشماری سال ۱۹۹۴ تهیه شده بود، تعامل کنند. آنها در یک تعامل تقلیدی با مدل یادگیری ماشینی که براساس داده های درآمد ملی تهیه شده از سرشماری سال 1994 ایالات متحده درست شده بود، شرکت کردند. این آزمایش به طور ویژه طراحی شده بود تا شیوه‌ی استفاده‌ی دانشمندان از ابزارهای تفسیر اطلاعات در کارهای معمولی که با آنان روبه رو می‌شوند را تقلید کند.آنچه تیم پیدا کرد قابل توجه بود. درست است که این ابزارها بعضا به افراد كمک می كنند مقادیر گمشده در داده ها را پیدا كنند، اما این سودمندی تحت الشعاع "تمایل به اعتماد بیش از حد" و "سوء‌ برداشت" از اطلاعات تصویری (visualizations) قرار گرفته است. در بعضی موارد ، کاربران حتی نمی توانستند آنچه را که داده های تصویری نشان می دهد توصیف کنند. این امر منجر به فرضیات نادرست درباره مجموعه دیتا‌ها (data set)، مدل ها و خود ابزارهای تفسیر اطلاعات شد. و باعث ایجاد اعتماد به نفس کاذب نسبت به ابزارهایی شد که کاربران را بیشتر مشتاق پیاده سازی(deploy) مدل میکنند، حتی وقتی که احساس می کردند که مشکلی در اینکار وجود دارد. این موضوع، به طور نگران کننده ای، حتی در مواقعی که خروجی دستکاری شده بود تا نتایج بی معنی تولید کند، صادق بود.در بعضی موارد ، کاربران حتی نمی توانستند آنچه را که داده های تصویری نشان می دهد توصیف کنندبرای تایید بیشتر داده های یافته شده، محققات سپس همین آزمایش را بر روی 200 نفر از متخصصان هوش مصنوعی در سطح اینترنت انجام دادند. آنها همان اعتماد به نفس کاذب و سردگمی افراد قبلی را در این افراد مشاهده کردند.بدتر اینکه بسیاری از شرکت کنندگان خوشحال بودند که از تصویر سازی اطلاعات (visualizations) برای پیاده سازی مدل استفاده کرده‌اند با اینکه به اقرار خودشان قادر به درک ریاضیات به کار رفته در پشت آن نبودند. هارمنپرت کور (Harmanpreet Kaur) از دانشگاه میشیگان، یکی از محققین در این تحقیق، می گوید: "دیدن اینکه مردم با ساختن داستان، این ابهام در داده ها را توجیه میکنند تعجب آور بود. این تعصب نسبت به اتوماسیون، یکی از فاکتور های مهم بود که ما آن را در مشاهدات خود لحاظ نکرده بودیم"تعصب نسبت به اتوماسیون یا به زبان دیگر رغبت مردم نسبت به اعتماد به کامپیوتر ها پدیده جدیدی نیست. تحقیقات نشان میدهد که مردم نسبت به تصمیمات سیستم های اتوماتیک مانند بررسی کننده های غلط املایی (spell checkers) اعتماد دارند حتی اگر آنها به صورت محسوسی در اشتباه باشند. بدترین جنبه ای این پدیده زمانی است که این اتفاق در مورد ابزار های اتفاق می‌افتد که ساخته شده اند تا همین اشتباه را اصلاح کنند.مردم نسبت به تصمیمات سیستم های اتوماتیک مانند بررسی کننده های غلط املایی (spell checkers) اعتماد دارند حتی اگر آنها به صورت محسوسی در اشتباه باشنداین همان موضوعی است که احسان در هنگام نشست در ماشین خودران اوبر به آن پی برد. درک این مسئله که یک سیستم اتوماتیک چه کاری انجام می دهد، و مشاهده اینکه چه زمانی این اشتباه را انجام می دهد ساده است به شرطی که مانند انسان برای اعمال خود دلیل بیاورد. احسان و همکارش مارک ریدل در حال ساختن یک سیستم یادگیری ماشینی هستند که بطور خودکار چنین استدلال هایی را به زبان طبیعی(natural language) تولید میکند. در نمونه ی اولیه این دونفر یک شبکه عصبی آموزش داده بودند که یاد گرفته بود چگونه بازی قدیمی Frogger را بازی کند و برای هر حرکت خود یک دلیل بیآورد.در میان ماشین ها... به جلو نمی توان رفت... انتظار برای باز شدن یک مسیربرای انجام این کار آنها مثال هایی زیاد از انسان هایی به مدل نشان دادند که در حین بازی کردن با صدای بلند کاری که قرار است انجام بدهند را به زبان می آورند. آنها سپس یک شبکه عصبی برای ترجمه بین دو زبان طبیعی را به نحوی تطبیق دادن که اعمال انجام شده در بازی را به منطق پشت سر آن، به زبان طبیعی ترجمه کند. . اکنون وقتی شبکه عصبی عملی را در بازی مشاهده می کند آن را به "توضیح" ترجمه می کند. نتیجه آن یک بازی هوش مصنوعی Frogger است که هر بار حرکت می کند چیزهایی مانند "من در حال حرکت به سمت چپ برای ماندن در پشت کامیون آبی هستم" میگویید.کار احسان ریدل فقط یک آغاز است. برای مثال، مشخص نیست که آیا یک سیستم یادگیری ماشین همواره قادر به ارائه یک دلیل طبیعی برای اقدامات خود خواهد بود؟ هوش مصنوعی که برای بازی کردن بازی های تخته‌ای طراحی شده است، آلفا-زرو (AlphaZero)، را در نظر بگیرید. یکی از قابل توجه ترین ویژگی های این نرم افزار توانایی آن در انجام حرکات پایانی (winning move) است که به فکر بیشتر بازیکنان انسانی نمیرسد تا آن را امتحان کنند. به گفته احسان دلیل آوردن یک فرایند کمک کننده است، چه منجر به درک هوش مصنوعی شود چه نشود. به گفته او هوش مصنوعی انسان محور تنها برای ایجاد اعتماد بین کاربر و تصمیمات اتوماتیک نیست بلکه همچنین برای "به تفکر انداختن" میباشد. ریدل پخش زنده مسابقه بین DeepMind's AI و لی سدول، قهرمان جهان در بازی GO، را به یاد می آورد. گزارشگران در مورد آنچه آلفاگو(AlphaGo) میبیند و فکر میکند حرف میزدند. ریدل میگوید: "آلفاگو آنگونه که آنها فکر می کردند کار نمیکرد. اما احساس کردم این گزارشگری برای درک آنچه اتفاق می افتد ضروری است."آنچه این موج جدید محققان XAI در مورد آن اتفاق نظر دارند این است که اگر قرار باشد سیستم های هوش مصنوعی توسط افراد بیشتری مورد استفاده قرار گیرند، این افراد باید از ابتدا بخشی از طراحی آن باشند و همچنین نکته مهم در این زمینه این است که افراد متفاوت نیاز به توضیحات متفاوت دارند. (این موضوع در تحقیق جدیدی از هاولی و همكارانش تأیید شده است كه نشان می دهد توانایی افراد در درک اطلاعات تصویری(visualization)، بستگی به میزان تحصیلات آنها دارد.) احسان می گوید: "به یک هوش مصنوعی مبتلا به سرطان فکر کنید. شما می خواهید توضیحی که به پزشک معالج ارائه می شود با توضیحی که به بیمار داده میشود بسیار متفاوت باشد."در نهایت ، ما می خواهیم هوش مصنوعی خود را نه تنها به دانشمندان علم داده و پزشکان، بلکه به افراد معمولی مانند معلمان، دانش آموزان و افسران پلیس که از آن آن برای تحلیل داده های خود استفاده میکنند، توضیح دهد. ریدل می گوید: "ما همیشه می دانیم كه مردم به فناوری بیش از حد اعتماد دارند، و این به ویژه در مورد سیستم های هوش مصنوعی صادق است. هرچه که بیشتر بگوییم آنها باهوشند، مردم بیشتر اطمینان می یابند که آنها باهوش تر از آنچه که به نظر می‌آید هستند." مطالب مرتبط از لاجیسیا https://virgool.io/LogisiaMag/transparent-neural-network-mqcupab0ftae این متن ترجمه مقاله Why asking an AI to explain itself can make things worse با اندکی دخل و تصرف است.امیر حسین شکاریامیر حسین شکاریWed, 11 Mar 2020 21:47:38 +0330https://virgool.ir/LogisiaMag/transparent-neural-network-mqcupab0ftaeشبکه های عصبی شفافمحققان دانشگاه MIT ادعا کرده‌اند که موفق به طراحی مدلی از هوش مصنوعی شده‌اند که استانداردهای جدیدی برای فهمیدن نحوه‌ی تصمیم‌گیری در شبکه‌های عصبی ایجاد می‌کند. تیم هوش و تصمیم‌گیری آزمایشگاه Lincoln این دانشگاه، شبکها‌ی عصبی طراحی کرده‌اند که با استدلال‌های شبه انسانی به سوالات مربوط به محتوای تصاویر پاسخ می‌دهد.این سیستم در طی فرایند حل مسئله، توسط شبکه‌ی (TbD (Transparency by Design Network نحوه ی کار خود را با تفسیر گرافیکی پروسه‌ی تصمیم گیری نشان می‌دهد. این عمل به محققین کمک می‌کند تا علت هر تصمیم سیستم را در فرایند حل مسئله متوجه شوند. این مدل نه تنها سطح جدیدی از شفافیت (transparency) را در شبکه های عصبی به دست می‌آورد، بلکه بسیار بهتر از اکثر مدل‌های visual-reasoning (مترجم: نشان دادن تصمیم گیری‌های سیستم به صورت گرافیکی) عمل می‌کند.نمونه ای از کار این مدلای مقاله را میتوانید از لینک Transparency by Design: Closing the Gap Between Performance and Interpretability in Visual Reasoning دریافت کنید.شبکه‌ی عصبی شفافویژگی شفاف بودن شبکه‌های TbD به پژوهشگران اجازه می‌دهد هرگونه استدلال اشتباه که سیستم ممکن است مرتکب شود را اصلاح کنند، به صورتی که توسعه‌دهندگان این مدل باور دارند که این" سیستم اصلاح" دقیقا همان کمبودی هست که در شبکه‌های عصبی امروزی دیده میشود.برای مثال ماشین‌های خودران باید به صورت مداوم عابرین را با دقت بالا تشخیص دهند، به همین دلیل طراحی این سیستم با توجه به پیچیدگی آن به شدت چالش‌برانگیز است. حتی با وجود یک شبکه‌ی عصبی کارا نیز درک سیستم تصمیم‌گیری آن ممکن است برای توسعه‌دهندگان نامفهوم باشد؛ مشکلی که رویکرد جدید MIT به دنبال حل آن است.رایان سوکلاسکی (Ryan Soklaski)، کسی که شبکه‌ی TbD را با کمک همکاران محقق خود، آرژون مجومدار (Arjun Majumdar)، دوید ماشارکا (David Mascharka) و فلیپ تران (Philip Tran) ایجاد کرده، گفته است:پیشرفت در بهبود کارایی visual-reasoning به بهای از دست دادن "تفسیر پذیری" آن است.تیم توسعه با یک رویکرد مدولار این شبکه عصبی را ساخته اند؛ ساخت زیرشبکه‌هایی (sub-networks) که برای انجام دادن یک سری زیرعملیات (sub-problems) تخصص یافته‌اند به صورتی که شبکه TbD یک سوال را به بخش‌های کوچک‌تر تقسیم می‌کند و آن را به مدل‌های مرتبط تحویل می‌دهد. در این مدل هر زیرشبکه بر روی استنتاج شبکه‌ی دیگر ساخته شده‌است.شکستن سلسله‌ی پیچیده‌ای از استدلال ها به یک سری از زیرمسئله‌ها که هر کدام قادر اند به صورت مجزا حل شوند، یک ابزار قدرتمند و شهودی برای استدلال است. -- آرژون مجومدارپروسه حل مسئله این شبکه عصبی شبیه به پروسه حل مسئله انسان است، به همین دلیل قادر است به سوالات پیچیده استدلال مکانی مانند "رنگ مکعب‌ای که در سمت راست کره‌ی فلزی بزرگ است " پاسخ دهد. شبکه ی عصبی این سوال را به موئلفه‌های سازنده‌اش تبدیل میکند، کره‌ی فلزی بزرگ را تشخیص میدهد، مفهوم سمت راست بودن یک شئ را درک میکند و سرانجام مکعب را پیدا کرده و رنگ آن را اعلام میکند. این شبکه عصبی خروجی هر مدل را به صورت یک "attention mask" نشان میدهد؛ یک نقشه حرارتی که بر روی شئ نشان داده میشود تا به پژوهشگران نشان دهد هر مدل چگونه تفسیر میشود، این عملیات به آن ها کمک میکند فرایند تصمیم گیری شبکه عصبی را درک کنند. باوجود طراحی این سیستم برای "شفافیت بیشتر"، شبکه TbD موفق به کسب دقت ۹۹.۱ درصدی در state-of-the-art، توسط استفاده از یک دیتابیس معروف به CLEVR، شده است. همچنین به لطف شفافیت سیستم محققان میتوانند اشتباهات شبکه عصبی را دیده و بر اساس آن شبکه را اصلاح کنند.تیم تحقیقاتی باور دارد با چنین بینشی به عملکرد شبکه‌های عصبی میتوان در آینده اعتماد کاربران را نسبت به سیستم‌های استدلال مکانی افزایش داد.منبع: Transparent neural network boasts human-like reasoningامیر حسین شکاریامیر حسین شکاریSun, 01 Mar 2020 02:54:52 +0330https://virgool.ir/@Shekari.ah/intp-pwzytib2fhkaتست MBTIبذارید اول شفاف سازی کنم، کل هدفم از نوشتن این مطلب اول آگاه کردن مردم، دوم تعریف از خودم و شبیه خودم ها هست....نمیدونم تا به حال در مورد تست های شخصیت شنیدین یا نه ولی ابن تست ها انسان ها رو بر اساس چند تا ویژگی خاص و کلیدی به تعدادی گروه تقسیم میکنهیکی از این تست ها MBTI هست که با این که در جامعه ی تخصصی قبول شده نیست ولی طرفدار زیادی بین اقشار غیر تخصصی داره و قابل اتکا هست در موارد معمولییکی از این شخصیت های این تست INTP هستدر مورد این گروه اولین چیز اینه که => به شدت عجیب و غریب به نظر میان بین مردم، برای همین میخوام در مورد این گروه و در واقع خودم توضیح بدماولین ویژگی این گروه این هست که به شدت از موقعیت های اجتماعی بدشون میاد، و بعضی از پدر و مادر ها فکر میکنن اون ها خجالتی هستن و روش درمان اشتباهی رو در مقابل اون ها پیش میگیرندومین ویژگی کلیدی اینه که این افراد به شدت منطقی هستن و از رسم رسومات و چیز های خرافاتی بدشون میاد و متنفر هستنسومین ویژگی اینه که این افراد به شدت باهوش هستند (از لحاظ آماری اثبات شده) ولی مشکل عدم تمرکز در موضوعات مختلف رو دارن و اغلب از معلم های خودشون میشنوند که "تو استعداد داری ولی نمیخونی"این افراد به شدت در موارد دانشگاهی قوی هستند و نمونه بارز اون انیشتین هست که قطعا از ظاهر عجیب و غریب اون تعجب کردید، و البته چندین استاد فوق العاده مطرح در دانشگاه خودم هم نمونه های این افراد هستناکثر این افراد در ایران به عنوان "خر خوان" و در انگلیسی معمولا به عنوان "Nerd" شناخته میشن،جالب این جا هست که اکثر این افراد از شنیدن توهین هایی که بهشون میشه در مورد "عقاید متفاوتشون" لذت میبرن و باز هم کار خودشونو انجام میدن و اهمیتی برای حرف دیگران قائل نیستن. درواقع گفتن این حرف ها که "تو خیلی عجیب و غریبی" و ... به اون ها انرژی میدهاین افراد اگر به موقع استعداد یابی بشوند، قدرت بسیار بالایی در مسائل علمی خواهند داشت. این افراد مانند انسان های عادی از فوتبال دیدن یا مهمانی رفتن لذت نمیبرند، اونا ترجیح میدن در خونه بمونن و یک کتاب فوق العاده پیچیده رو بخونن و درکش کنن در حالی که متوجه هستند خیلی از افراد اصلا طرف اون نمیرندعدم توجه این افراد به مسائل افراد دور و برشون مثل عوض کردن مدل مو، باعث میشه برای افراد معمولی خوشآیند نباشند و اون ها این موضوع رو به عنوان بی ادبی و بد تربیتی در نظر میگیرند.این افراد میتوانند ساعت ها پشت کامپیوتر بشینند و درگیر حل یک پروژه ی سخت باشند ولی نمیتوانند کار های عادی که همه ی افراد میتواند انجام دهند را انجام دهند و بزرگترین عیب این موضوع در نمره های امتحانی این نوع افراد نمود پیدا میکند و باعث مشکلات درسی اونا میشوداین افراد در وسایل نقلیه عمومی اغلب یا در حال مطالعه و یا گوش دادن به موسیقی هستند و قدرت بالایی در یادگیری موسیقی هم دارند، زیرا الگویابی از قدرت این افراد است این افراد ممکن است ساعت ها در خودشان باشند و افکار خود را دنبال کنند تا حدی که اصلا متوجه دور و بر خود نباشند و این موضوع برای آنها مشکلات زیادی از جمله سو تفاهم دیگران به وجود میآورددر طرف دیگر این افراد اصلا توانایی ای در ارایه مطالبی که یاد گرفتند به دیگران ندارنداز جمله هایی جالبی که در مورد این افراد گفته میشود این است که آن ها از هنگام بیدار شدن تا رفتن به دستشویی 50 ایده مختلف به سرشان میزندو البته به خاطر عدم علاقه و توانایی، ممکن است به هیچ عنوان کار مناسب هوششان را پیدا نکنند و به اصطلاح از گشنگی بمیرندیا ساعت ها در یک جمع بشینند و به بحث دیگران گوش دهند و حرف نزننداین افراد تا حد ممکن سعی میکنند تا در مورد تصمیمات خود منطقی رفتار کنند و احساست افراد دور و برشان در این موارد برای آنها کم ارزش است. در عین حال آنها روابط دوستانه عمیقی با 2 یا 3 نفر برقرار میکنند و به این روابط بها میدهند.مطلبی برای پایان این مقاله به ذهنم نمیرسد، ولی دوست دارم از الان به همه ی INTP هایی که این مقاله را میخواند بگوییم که خود را به کار های کم ارزش مشغول نکنند و زندگی علمی خود را تا حد ممکن به جلو ببرند.امیر حسین شکاریامیر حسین شکاریWed, 27 Jun 2018 00:27:22 +0430