
همانطور که هوش عمومی مصنوعی (AGI) به سرعت در حال پیشرفت است، گفتگو از بحث های فلسفی به بحث های کاربردی تغییر می کند و فرصت های بسیار زیادی برای تغییر مشاغل جهانی و پتانسیل انسانی دارد.
مجموعه رویدادهای AGI Icons تورینگ، مبتکران هوش مصنوعی را گرد هم می آورد تا در مورد پیشرفت های عملی و مسئولانه راه حل های AGI بحث کنند. در 24 جولای، تورینگ دومین رویداد AGI Icons ما را در SHACK15، مرکز انحصاری سانفرانسیسکو برای کارآفرینان و نوآوران فناوری میزبانی کرد. با مدیریت آنیتا راماسوامی، ستون نویس مالی در The Information، من با مدیر اجرایی Quora، آدام دی آنجلو، صحبت کردم تا در مورد مسیر AGI بحث کنیم و بینش هایی را در مورد جدول زمانی توسعه، برنامه های کاربردی در دنیای واقعی و اصول استقرار مسئولانه به اشتراک بگذاریم.
📷
“ستاره شمالی” که تحقیقات هوش مصنوعی را هدایت می کند، پیگیری “هوش” در سطح انسانی است. چیزی که AGI را از هوش مصنوعی استاندارد جدا می کند، پیشرفت آن از عملکرد محدود به سمت کلیت (عرض) و عملکرد (عمق) بیشتر است، حتی فراتر از توانایی های انسانی.
این «راهی به سوی AGI» است، جایی که هوش مصنوعی به سمت سیستمهای خودمختارتر، استدلال برتر، قابلیتهای پیشرفته و عملکرد بهبود یافته پیش میرود. این پیشرفت ها به پنج سطح طبقه بندی تقسیم می شوند:
📷
در طول بحث ما، آدام مفهوم AGI را اینگونه تعریف کرد: “نرم افزاری که می تواند هر کاری را که یک انسان می تواند انجام دهد.” او آینده ای را تصور می کند که در آن هوش مصنوعی خودش را بهبود می بخشد و در نهایت وظایف پیچیده انسانی را که توسط محققان یادگیری ماشین انجام می شود، بر عهده می گیرد.
با برداشتن یک قدم جلوتر، دیدگاههایم در مورد AGI را با یک «مغز مصنوعی» که قادر به انجام وظایف مختلفی مانند «ترجمه ماشینی، پرسوجوهای پیچیده و کدنویسی» است مقایسه کردم. این تمایز بین AGI و هوش مصنوعی پیشگویانه تر و اشکال باریک ML است که قبل از آن آمده است. شبیه رفتارهای اضطراری است.
درست مانند یک سفر جاده ای، سوال اصلی در مورد AGI این است که “آیا ما هنوز آنجا هستیم؟” پاسخ کوتاه منفی است، اما با سرعت بخشیدن به تحقیقات هوش مصنوعی، سوال درست این است که “چگونه می توانیم جاه طلبی AGI را با انتظارات واقع بینانه متعادل کنیم ؟”
آدام تاکید کرد که افزایش اتوماسیون از AGI به جای حذف نقشهای انسانی تغییر میدهد و منجر به رشد اقتصادی سریعتر و بهرهوری کارآمدتر میشود. با قویتر شدن این فناوری، به نقطهای میرسیم که 90 درصد از کارهایی که امروزه مردم انجام میدهند خودکار است، اما همه به کارهای دیگر تغییر خواهند کرد.»
در حال حاضر، بسیاری از اقتصاد جهان به دلیل تعداد افراد در دسترس برای کار محدود شده است. هنگامی که به AGI دست یابیم، می توانیم اقتصاد را با سرعتی بسیار سریعتر از آنچه امروز ممکن است رشد دهیم.
ما نمیتوانیم جدول زمانی قطعی برای زمان تحقق AGI واقعی ارائه کنیم، اما من و آدام چندین نمونه از پیشرفتهای هوش مصنوعی را ذکر کردیم که راه را برای پیشرفتهای AGI آینده ایجاد میکند. به عنوان مثال، آزمایشهای تورینگ با ابزارهای توسعهدهنده هوش مصنوعی افزایش 33 درصدی را در بهرهوری توسعهدهندگان نشان داد که حاکی از پتانسیل بیشتر است.
یکی از امیدوارکننده ترین کاربردهای AGI در زمینه توسعه نرم افزار نهفته است. مدلهای زبان بزرگ (LLM)، پیشروی AGI، در حال حاضر برای بهبود توسعه نرمافزار و بهبود کیفیت کد استفاده میشوند. من این دوره هوش مصنوعی را به زیست شناسی نزدیکتر می بینم تا فیزیک، جایی که همه انواع کار دانش بهبود خواهد یافت. بهره وری بسیار بیشتری از بشریت و برای بشریت باز خواهد شد.
دیدگاه من از تجربه ناشی می شود، جایی که من شاهد افزایش 10 برابری بهره وری شخصی در هنگام استفاده از LLMs و ابزارهای توسعه دهنده هوش مصنوعی بوده ام. ما همچنین از هوش مصنوعی در تورینگ برای ارزیابی استعدادهای فنی استفاده میکنیم و مهندسان نرمافزار مناسب و کارشناسان حوزه دکترا را با مشاغل مناسب مطابقت میدهیم.
چیزی که من در فضای آموزش LLM می بینم، برای مثال، این است که مربیان از این مدل ها برای افزایش بهره وری توسعه دهندگان و سرعت بخشیدن به جدول زمانی پروژه استفاده می کنند. LLM ها با خودکار کردن وظایف کدگذاری معمول و ارائه پیشنهادهای کد هوشمند، توسعه دهندگان را آزاد می کنند تا بر جنبه های استراتژیک و خلاقانه کار خود تمرکز کنند.
آدام گفت: “”LLM ها همه کدها را نمی نویسند، اما درک اصول نرم افزار بسیار مهم است. ماشینحسابها نیاز به یادگیری حساب را از بین نمیبرند.» او افزود: «توسعهدهندگان با استفاده از این مدلها ارزشمندتر میشوند. وجود LLM ها برای مشاغل توسعه دهنده مثبت است و دستاوردهای زیادی برای توسعه دهندگان به همراه خواهد داشت.”
ما در حال ورود به دوران طلایی توسعه نرمافزار هستیم که در آن یک مهندس نرمافزار میتواند ۱۰ برابر بازدهی بیشتری داشته باشد، بیشتر خلق کند و برای جهان مفید باشد.
با وجود پتانسیل امیدوارکننده AGI، چالش ها باید مورد توجه قرار گیرند. فرآیندهای ارزیابی قوی و چارچوب های نظارتی برای ایجاد تعادل بین نوآوری AGI و امنیت عمومی ضروری است.
آدام بر نیاز به آزمایش کامل و سندباکس برای محدود کردن بدترین سناریوها تاکید کرد. “شما می خواهید نوعی فرآیند ارزیابی قوی داشته باشید… و توزیعی را که در برابر آن آزمایش می کنید تا حد امکان به دنیای واقعی نزدیک کنید.”
و من موافقم. گلوگاه پیشرفت AGI اکنون به جای قدرت محاسباتی یا داده، هوش انسانی است. تخصص انسانی برای تنظیم دقیق و سفارشی کردن مدلهای هوش مصنوعی بسیار مهم است، به همین دلیل است که تورینگ بر روی منبعیابی و تطبیق متخصصان فناوری سطح بالا برای متعادل کردن مدلها با هوش انسانی تمرکز میکند.
ما باید با تمرکز بر قابلیتها در فرآیندها، کلیات و عملکرد، و پتانسیل، چالشهای AGI را مستقیماً برطرف کنیم.
برخی از بهترین روش ها برای مقابله با چالش های AGI عبارتند از:
من و آدام با افزودن به این بهترین شیوه ها، بر اهمیت بهبود تعاملات انسان-AGI تاکید کردیم. آدام بر ارزش یادگیری نحوه و زمان استفاده از این مدل ها تاکید کرد و آنها را به عنوان ابزارهای یادگیری قدرتمندی در نظر گرفت که می توانند به سرعت هر زیردامنه برنامه نویسی را آموزش دهند و در عین حال بر اهمیت درک اصول اولیه تأکید کنند.
به طور مشابه، من پیشنهاد میکنم که تبدیل کردن هر انسان به یک کاربر قدرتمند LLM میتواند به طور قابلتوجهی بهرهوری و درک را در زمینههای مختلف افزایش دهد. LLM ها می توانند اطلاعات پیچیده را در دسترس همه قرار دهند و بهره وری را در زمینه های مختلف افزایش دهند. اما این نیاز به یک رویکرد مرحلهای و تکراری دارد: با کمک خلبانان هوش مصنوعی به انسانها شروع شود، سپس به سمت عوامل با نظارت انسانی حرکت کند و در نهایت دستیابی به عوامل کاملاً مستقل در وظایفی که به خوبی ارزیابی شدهاند.
با آن، تمایز پس از آموزش بسیار مهم است، که شامل تنظیم دقیق نظارت شده (SFT) و استفاده از هوش انسانی برای ساخت مدلهای سفارشی است. شرکتهایی که میتوانند مربیها، مهندسان و سایرین را منبع و مطابقت دهند، به تنظیم دقیق و قابلیتهای مهندسی سفارشی خود سرعت میبخشند. همکاری با شرکت های پیشرو مانند OpenAI و Anthropic نیز کلیدی برای به کارگیری این مدل ها در صنایع مختلف است.
“توسعه AGI باید مسئولانه و اخلاقی باشد و ضمن تقویت نوآوری، ایمنی و شفافیت را تضمین کند.” – آدام دآنجلو
توسعه مسئولانه AGI مستلزم رعایت چندین اصل اصلی است:
جاده AGI پیچیده است، اما هر توقف در طول مسیر برای سفر مهم است. با درک پیشرفتهای تکراری AGI – همراه با پیامدهای آن – افراد و کسبوکارها میتوانند مسئولانه از این فناوری در حال تکامل استفاده کنند. این محور توسعه AGI مسئولانه است، جایی که تعامل در دنیای واقعی نحوه گذر از این مرز جدید را نشان می دهد.