ویرگول
ورودثبت نام
دکتر جمال صوفیه
دکتر جمال صوفیهPostdoc، مدرس، مشاور(تخصص چند رشته ای و بین رشته ای ) در بخش های روان شناسی، هوش مصنوعی، حوزه دیجیتال و اقتصاد دیجیتال- سطوح پیشرفته زبان انگلیسی- نویسنده،مترجم- تمرکزبرفلسفه ، اندیشه و روان
دکتر جمال صوفیه
دکتر جمال صوفیه
خواندن ۵ دقیقه·۱ ماه پیش

«پدرخوانده هوش مصنوعی»: نقطه عطفی شبیه دوران کووید در راه است؛ زمانی که دولت‌ها به تنظیم‌گری فناوری روی می‌آورند

دکتر جمال صوفیه

 

یوشوا بنجیو می‌گوید بحران ایمنی هوش مصنوعی احتمال اقدام دولت‌ها را افزایش داده است.

به گفته یکی از چهره‌هایی که از او به‌عنوان یکی از «پدرخوانده‌های» هوش مصنوعی یاد می‌شود، نگرانی‌ها درباره ایمنی این فناوری به نقطه‌ای رسیده است که دولت‌ها درمی‌یابند برای حفاظت از مردم ناگزیرند دست به اقدام بزنند؛ وضعیتی که به دوران همه‌گیری کووید شباهت دارد.

یوشوا بنجیو می‌گوید رویدادهای اخیر، از جمله حمله گروهی از عامل‌های هوش مصنوعی شرکت OpenAI به یک استارتاپ و هشدارهای افراد آگاه در صنعت فناوری درباره تهدیدی وجودی، توانسته‌اند توجه‌ها را به خود جلب کنند و احتمال اقدام دولت‌ها را افزایش دهند.

این دانشمند علوم رایانه‌ای کانادایی، که از چهره‌های برجسته کارزار مهار شتاب سرسام‌آور توسعه هوش مصنوعی است، می‌گوید اکنون «نسبت به بسیاری از ناظران خوش‌بین‌ترم، چون می‌بینم افکار عمومی در حال حرکت است».

بنجیو با مقایسه بحران ایمنی هوش مصنوعی با آغاز همه‌گیری کووید در سال ۲۰۲۰ گفت: «به این فکر کنید که دولت‌ها پس از آغاز همه‌گیری، وقتی متوجه شدند امنیت عمومی، آینده‌شان و دموکراسی در معرض خطر است، با چه سرعتی دست به اقدام زدند. انتظار می‌رود این بار هم به‌سرعت اقدام کنند. بنابراین، فکر می‌کنم به آن نقطه نزدیک می‌شویم.»

در ماه‌های اخیر، نگرانی درباره تهدید بالقوه سامانه‌های قدرتمند هوش مصنوعی به اوج تازه‌ای رسیده است. این نگرانی پس از مجموعه‌ای از حوادث ایمنی مرتبط با عامل‌های هوش مصنوعی شرکت‌های OpenAI و Anthropic شدت گرفته است؛ عامل‌هایی که بدون مجوز به اقداماتی مانند هک‌کردن اشخاص و نهادهای ثالث، ربودن کنترل یک وب‌سایت آلمانی و استفاده از هویت‌های جعلی برای فریب توسعه‌دهندگان دست زده‌اند.

اظهارات بنجیو هم‌زمان با آن مطرح شد که ۴۲ عضو پیوسته و عضو خارجی انجمن سلطنتی بریتانیا در نامه‌ای به رئیس این نهاد، سر پل نرس، «نگرانی شدید» خود را از سرعت توسعه هوش مصنوعی ابراز کردند. این پژوهشگران در نامه‌ای سرگشاده به نرس نوشتند: «تا زمانی که وضعیت برای عموم مردم آشکار شود، ممکن است دیگر برای اقدام خیلی دیر شده باشد. ما معتقدیم با یک وضعیت اضطراری روبه‌رو هستیم و از انجمن سلطنتی می‌خواهیم از نفوذ خود برای انتقال این دیدگاه به دولت و رسانه‌ها استفاده کند.»

هفته گذشته، یکی از پژوهشگران شرکت Anthropic، استارتاپ سازنده چت‌بات کلاد (Claude)، پس از هشدار درباره این‌که همکارانش معتقدند هوش مصنوعی ممکن است «تا پایان این دهه همه ما را از بین ببرد»، از سمت خود استعفا داد. چند روز بعد، داریو آمودی، مدیرعامل Anthropic، خواستار کندشدن روند توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی شد؛ درخواستی که بلافاصله با حمایت OpenAI، گوگل و ایلان ماسک، مدیرعامل شرکت اسپیس‌ایکس، روبه‌رو شد.

بااین‌حال، منتقدان درخواست «کاهش سرعت» می‌گویند درخواست شرکت‌های بزرگ هوش مصنوعی برای وضع محدودیت‌ها نمونه‌ای از «تسخیر نهادهای تنظیم‌گر» است؛ وضعیتی که در آن شرکت‌ها دولت‌ها را متقاعد می‌کنند چارچوب‌های ایمنی‌ای وضع کنند که هزینه رقابت را برای رقبای کوچک‌تر افزایش می‌دهد. آنان همچنین استدلال می‌کنند که ترس از تهدیدهای وجودی، مسائل فوری‌تر مرتبط با هوش مصنوعی را به حاشیه می‌راند؛ مسائلی مانند تأثیر این فناوری بر آثار تحت حمایت حق نشر و حقوق بشر.

بنجیو می‌گوید با استدلال مربوط به تسخیر نهادهای تنظیم‌گر موافق نیست، زیرا کندشدن روند توسعه در شرکت‌های پیشرو هوش مصنوعی «از نظر مالی برای خود آن‌ها هزینه‌بر خواهد بود». دونالد ترامپ، رئیس‌جمهور ایالات متحده، با کاهش سرعت توسعه مخالفت کرده و گفته است نمی‌خواهد آمریکا در رقابت هوش مصنوعی، برتری خود را در برابر چین از دست بدهد.

اظهارات بنجیو در حالی مطرح شد که دولت‌های کانادا و آلمان از اختصاص بودجه‌ای تا سقف ۳۰۰ میلیون دلار کانادا، معادل ۱۶۰ میلیون پوند، به سازمان غیرانتفاعی او خبر دادند؛ سازمانی که هدفش توسعه «هوش مصنوعی صادق» است تا همچون سازوکاری حفاظتی در برابر عامل‌های سرکش عمل کند؛ ابزارهای هوش مصنوعی‌ای که بدون دخالت انسان، مجموعه‌ای از وظایف را به‌صورت خودکار انجام می‌دهند.

بنجیو، استاد دانشگاه مونترال، پس از دریافت جایزه تورینگ در سال ۲۰۱۸ به لقب «پدرخوانده هوش مصنوعی» شهرت یافت؛ جایزه‌ای که از آن به‌عنوان معادل نوبل در علوم رایانه یاد می‌شود. او این جایزه را به‌طور مشترک با جفری هینتون، که بعدها جایزه نوبل را نیز دریافت کرد، و یان لوکان، دانشمند ارشد پیشین هوش مصنوعی در شرکت متا متعلق به مارک زاکربرگ، دریافت کرد.

سازمان بنجیو، با نام «لاوزرو» (LawZero)، در حال توسعه سامانه‌ای به نام «ساینتیست AI  (Scientist AI) است که قرار است همچون سازوکاری حفاظتی در برابر عامل‌های هوش مصنوعی‌ای عمل کند که رفتارهای فریب‌کارانه یا خودحفاظتی از خود نشان می‌دهند؛ برای مثال، می‌کوشند مانع خاموش‌شدن خود شوند. بنیاد گیتس، شرکت سازنده تراشه انویدیا و مؤسسه خیریه «کوفیشنت گیوینگ (Coefficient      Giving)   » نیز از حامیان مالی لاوزرو هستند. این مؤسسه با جنبش «نوع‌دوستی مؤثر» پیوند دارد؛ جنبشی که معتقد است هوش مصنوعی تهدیدی وجودی برای بشریت به شمار می‌رود.

بنجیو فناوری لاوزرو را نقطه مقابل یادگیری تقویتی می‌داند؛ روشی مبتنی بر آزمون‌وخطا که شرکت‌های بزرگ هوش مصنوعی از آن برای توسعه سامانه‌های خود استفاده می‌کنند. در این روش، به سامانه‌های هوش مصنوعی پاداش داده می‌شود تا یاد بگیرند چگونه وظیفه‌ای مشخص را انجام دهند. این دانشمند علوم رایانه‌ای کانادایی، هم‌نظر با شماری دیگر از متخصصان، معتقد است چنین شیوه‌ای از آموزش، سامانه‌های هوش مصنوعی را به پیگیری بی‌محابای اهدافشان سوق می‌دهد و در این مسیر ممکن است به دیگران آسیب برسانند؛ اتفاقی که به گفته او، نمونه آن را می‌توان در ماجرای «گروه عامل‌های هوش مصنوعی» شرکت OpenAI مشاهده کرد.

فناوری بنجیو، هنگامی که در کنار یک عامل هوش مصنوعی به کار گرفته شود، می‌تواند رفتارهای بالقوه زیان‌بار یک سامانه خودمختار را شناسایی و برجسته کند؛ آن هم پس از ارزیابی این‌که آیا اقدامات سامانه ممکن است به آسیب منجر شوند یا نه. بنجیو انتظار دارد این فناوری در نهایت در حوزه‌های دیگری نیز به کار گرفته شود؛ از جمله برای سرعت‌بخشیدن به دستاوردهای علمی مهم.

 

هوش مصنوعی
۰
۰
دکتر جمال صوفیه
دکتر جمال صوفیه
Postdoc، مدرس، مشاور(تخصص چند رشته ای و بین رشته ای ) در بخش های روان شناسی، هوش مصنوعی، حوزه دیجیتال و اقتصاد دیجیتال- سطوح پیشرفته زبان انگلیسی- نویسنده،مترجم- تمرکزبرفلسفه ، اندیشه و روان
شاید از این پست‌ها خوشتان بیاید