ویرگول
ورودثبت نام
آموزش chatgpt و LLM ها
آموزش chatgpt و LLM هااینجا جدیدترین تکنیک های مربوط به آموزش chatgpt و LLM ها بهت یاد می دم https://aliayoubi.com
آموزش chatgpt و LLM ها
آموزش chatgpt و LLM ها
خواندن ۸ دقیقه·۲ سال پیش

راهیابی به سوی هوش عمومی مصنوعی (AGI)

همانطور که هوش عمومی مصنوعی (AGI) به سرعت در حال پیشرفت است، گفتگو از بحث های فلسفی به بحث های کاربردی تغییر می کند و فرصت های بسیار زیادی برای تغییر مشاغل جهانی و پتانسیل انسانی دارد.

مجموعه رویدادهای AGI Icons تورینگ، مبتکران هوش مصنوعی را گرد هم می آورد تا در مورد پیشرفت های عملی و مسئولانه راه حل های AGI بحث کنند. در 24 جولای، تورینگ دومین رویداد AGI Icons ما را در SHACK15، مرکز انحصاری سانفرانسیسکو برای کارآفرینان و نوآوران فناوری میزبانی کرد. با مدیریت آنیتا راماسوامی، ستون نویس مالی در The Information، من با مدیر اجرایی Quora، آدام دی آنجلو، صحبت کردم تا در مورد مسیر AGI بحث کنیم و بینش هایی را در مورد جدول زمانی توسعه، برنامه های کاربردی در دنیای واقعی و اصول استقرار مسئولانه به اشتراک بگذاریم.

📷

جاده از هوش مصنوعی به AGI

“ستاره شمالی” که تحقیقات هوش مصنوعی را هدایت می کند، پیگیری “هوش” در سطح انسانی است. چیزی که AGI را از هوش مصنوعی استاندارد جدا می کند، پیشرفت آن از عملکرد محدود به سمت کلیت (عرض) و عملکرد (عمق) بیشتر است، حتی فراتر از توانایی های انسانی.

این «راهی به سوی AGI» است، جایی که هوش مصنوعی به سمت سیستم‌های خودمختارتر، استدلال برتر، قابلیت‌های پیشرفته و عملکرد بهبود یافته پیش می‌رود. این پیشرفت ها به پنج سطح طبقه بندی تقسیم می شوند:

  • سطح ۰: بدون هوش مصنوعی – ابزارهای ساده مانند ماشین حساب
  • سطح ۱: AGI در حال ظهور – LLM های فعلی مانند ChatGPT
  • سطح ۲: AGI توانا – سیستم‌های هوش مصنوعی که با بزرگسالان ماهر در وظایف خاص مطابقت دارند
  • سطح ۳: AGI خبره – سیستم های هوش مصنوعی در صدک 90 بزرگسالان ماهر
  • سطح ۴: Virtuoso AGI – سیستم های هوش مصنوعی در صدک 99
  • سطح ۵: ابرانسان AGI – سیستم های هوش مصنوعی که از همه انسان ها بهتر عمل می کنند

📷

در طول بحث ما، آدام مفهوم AGI را اینگونه تعریف کرد: “نرم افزاری که می تواند هر کاری را که یک انسان می تواند انجام دهد.” او آینده ای را تصور می کند که در آن هوش مصنوعی خودش را بهبود می بخشد و در نهایت وظایف پیچیده انسانی را که توسط محققان یادگیری ماشین انجام می شود، بر عهده می گیرد.

با برداشتن یک قدم جلوتر، دیدگاه‌هایم در مورد AGI را با یک «مغز مصنوعی» که قادر به انجام وظایف مختلفی مانند «ترجمه ماشینی، پرس‌و‌جوهای پیچیده و کدنویسی» است مقایسه کردم. این تمایز بین AGI و هوش مصنوعی پیشگویانه تر و اشکال باریک ML است که قبل از آن آمده است. شبیه رفتارهای اضطراری است.

جدول زمانی توسعه واقع بینانه در مسیر AGI

درست مانند یک سفر جاده ای، سوال اصلی در مورد AGI این است که “آیا ما هنوز آنجا هستیم؟” پاسخ کوتاه منفی است، اما با سرعت بخشیدن به تحقیقات هوش مصنوعی، سوال درست این است که “چگونه می توانیم جاه طلبی AGI را با انتظارات واقع بینانه متعادل کنیم ؟”

آدام تاکید کرد که افزایش اتوماسیون از AGI به جای حذف نقش‌های انسانی تغییر می‌دهد و منجر به رشد اقتصادی سریع‌تر و بهره‌وری کارآمدتر می‌شود. با قوی‌تر شدن این فناوری، به نقطه‌ای می‌رسیم که 90 درصد از کارهایی که امروزه مردم انجام می‌دهند خودکار است، اما همه به کارهای دیگر تغییر خواهند کرد.»

در حال حاضر، بسیاری از اقتصاد جهان به دلیل تعداد افراد در دسترس برای کار محدود شده است. هنگامی که به AGI دست یابیم، می توانیم اقتصاد را با سرعتی بسیار سریعتر از آنچه امروز ممکن است رشد دهیم.

ما نمی‌توانیم جدول زمانی قطعی برای زمان تحقق AGI واقعی ارائه کنیم، اما من و آدام چندین نمونه از پیشرفت‌های هوش مصنوعی را ذکر کردیم که راه را برای پیشرفت‌های AGI آینده ایجاد می‌کند. به عنوان مثال، آزمایش‌های تورینگ با ابزارهای توسعه‌دهنده هوش مصنوعی افزایش 33 درصدی را در بهره‌وری توسعه‌دهندگان نشان داد که حاکی از پتانسیل بیشتر است.

برنامه ها و جلوه های دنیای واقعی

یکی از امیدوارکننده ترین کاربردهای AGI در زمینه توسعه نرم افزار نهفته است. مدل‌های زبان بزرگ (LLM)، پیش‌روی AGI، در حال حاضر برای بهبود توسعه نرم‌افزار و بهبود کیفیت کد استفاده می‌شوند. من این دوره هوش مصنوعی را به زیست شناسی نزدیکتر می بینم تا فیزیک، جایی که همه انواع کار دانش بهبود خواهد یافت. بهره وری بسیار بیشتری از بشریت و برای بشریت باز خواهد شد.

دیدگاه من از تجربه ناشی می شود، جایی که من شاهد افزایش 10 برابری بهره وری شخصی در هنگام استفاده از LLMs و ابزارهای توسعه دهنده هوش مصنوعی بوده ام. ما همچنین از هوش مصنوعی در تورینگ برای ارزیابی استعدادهای فنی استفاده می‌کنیم و مهندسان نرم‌افزار مناسب و کارشناسان حوزه دکترا را با مشاغل مناسب مطابقت می‌دهیم.

چیزی که من در فضای آموزش LLM می بینم، برای مثال، این است که مربیان از این مدل ها برای افزایش بهره وری توسعه دهندگان و سرعت بخشیدن به جدول زمانی پروژه استفاده می کنند. LLM ها با خودکار کردن وظایف کدگذاری معمول و ارائه پیشنهادهای کد هوشمند، توسعه دهندگان را آزاد می کنند تا بر جنبه های استراتژیک و خلاقانه کار خود تمرکز کنند.

آدام گفت: “”LLM ها همه کدها را نمی نویسند، اما درک اصول نرم افزار بسیار مهم است. ماشین‌حساب‌ها نیاز به یادگیری حساب را از بین نمی‌برند.» او افزود: «توسعه‌دهندگان با استفاده از این مدل‌ها ارزشمندتر می‌شوند. وجود LLM ها برای مشاغل توسعه دهنده مثبت است و دستاوردهای زیادی برای توسعه دهندگان به همراه خواهد داشت.”

ما در حال ورود به دوران طلایی توسعه نرم‌افزار هستیم که در آن یک مهندس نرم‌افزار می‌تواند ۱۰ برابر بازدهی بیشتری داشته باشد، بیشتر خلق کند و برای جهان مفید باشد.

چالش های فنی و حاکمیتی

با وجود پتانسیل امیدوارکننده AGI، چالش ها باید مورد توجه قرار گیرند. فرآیندهای ارزیابی قوی و چارچوب های نظارتی برای ایجاد تعادل بین نوآوری AGI و امنیت عمومی ضروری است.

آدام بر نیاز به آزمایش کامل و سندباکس برای محدود کردن بدترین سناریوها تاکید کرد. “شما می خواهید نوعی فرآیند ارزیابی قوی داشته باشید… و توزیعی را که در برابر آن آزمایش می کنید تا حد امکان به دنیای واقعی نزدیک کنید.”

و من موافقم. گلوگاه پیشرفت AGI اکنون به جای قدرت محاسباتی یا داده، هوش انسانی است. تخصص انسانی برای تنظیم دقیق و سفارشی کردن مدل‌های هوش مصنوعی بسیار مهم است، به همین دلیل است که تورینگ بر روی منبع‌یابی و تطبیق متخصصان فناوری سطح بالا برای متعادل کردن مدل‌ها با هوش انسانی تمرکز می‌کند.

ما باید با تمرکز بر قابلیت‌ها در فرآیندها، کلیات و عملکرد، و پتانسیل، چالش‌های AGI را مستقیماً برطرف کنیم.

دیدگاه‌های چالش‌ها: بهبود تعاملات انسان-AGI

برخی از بهترین روش ها برای مقابله با چالش های AGI عبارتند از:

  • به جای فرآیندها یا «نحوه انجام آن» روی قابلیت ها یا «آنچه AGI می تواند انجام دهد» تمرکز کنید.
  • تعادل عمومی و عملکرد به عنوان اجزای اساسی AGI.
  • تمرکز بر وظایف شناختی/ فراشناختی و توانایی های یادگیری بیش از وظایف/خروجی های فیزیکی.
  • AGI را با پتانسیل و قابلیت های آن اندازه گیری کنید.
  • با همسو کردن معیارها با وظایف دنیای واقعی که مردم برایشان ارزش قائل هستند، روی اعتبار زیست محیطی تمرکز کنید.
  • به یاد داشته باشید که مسیر AGI یک نقطه پایانی واحد نیست، بلکه یک فرآیند تکراری است.

من و آدام با افزودن به این بهترین شیوه ها، بر اهمیت بهبود تعاملات انسان-AGI تاکید کردیم. آدام بر ارزش یادگیری نحوه و زمان استفاده از این مدل ها تاکید کرد و آنها را به عنوان ابزارهای یادگیری قدرتمندی در نظر گرفت که می توانند به سرعت هر زیردامنه برنامه نویسی را آموزش دهند و در عین حال بر اهمیت درک اصول اولیه تأکید کنند.

به طور مشابه، من پیشنهاد می‌کنم که تبدیل کردن هر انسان به یک کاربر قدرتمند LLM می‌تواند به طور قابل‌توجهی بهره‌وری و درک را در زمینه‌های مختلف افزایش دهد. LLM ها می توانند اطلاعات پیچیده را در دسترس همه قرار دهند و بهره وری را در زمینه های مختلف افزایش دهند. اما این نیاز به یک رویکرد مرحله‌ای و تکراری دارد: با کمک خلبانان هوش مصنوعی به انسان‌ها شروع شود، سپس به سمت عوامل با نظارت انسانی حرکت کند و در نهایت دستیابی به عوامل کاملاً مستقل در وظایفی که به خوبی ارزیابی شده‌اند.

با آن، تمایز پس از آموزش بسیار مهم است، که شامل تنظیم دقیق نظارت شده (SFT) و استفاده از هوش انسانی برای ساخت مدل‌های سفارشی است. شرکت‌هایی که می‌توانند مربی‌ها، مهندسان و سایرین را منبع و مطابقت دهند، به تنظیم دقیق و قابلیت‌های مهندسی سفارشی خود سرعت می‌بخشند. همکاری با شرکت های پیشرو مانند OpenAI و Anthropic نیز کلیدی برای به کارگیری این مدل ها در صنایع مختلف است.

اصول توسعه مسئولیت پذیر AGI

“توسعه AGI باید مسئولانه و اخلاقی باشد و ضمن تقویت نوآوری، ایمنی و شفافیت را تضمین کند.” – آدام دآنجلو

توسعه مسئولانه AGI مستلزم رعایت چندین اصل اصلی است:

  • ایمنی و امنیت: اطمینان از قابل اعتماد بودن و مقاوم بودن سیستم‌های AGI در برابر استفاده نادرست، به‌ویژه زمانی که مدل‌ها برای گنجاندن ورودی‌های داده یا الگوریتم‌های جدید مقیاس می‌شوند.
  • شفافیت: واقع بین بودن در مورد قابلیت های AGI، محدودیت ها و «نحوه کارکرد آن».
  • ملاحظات اخلاقی: مقابله با انصاف، تعصب، و اینکه چگونه AGI بر اشتغال و سایر عوامل اجتماعی-اقتصادی تأثیر می گذارد.
  • مقررات: همکاری با دولت ها و سایر سازمان ها برای ایجاد چارچوب هایی که پیشرفت را با امنیت عمومی متعادل می کند.
  • محک گذاری: معیارهای آینده باید رفتار و قابلیت های AGI را در مقابل ملاحظات اخلاقی و سطوح طبقه بندی کمی تعیین کنند.

نتیجه: روی مسیر AGI تمرکز کنید، نه یک نقطه پایانی واحد

جاده AGI پیچیده است، اما هر توقف در طول مسیر برای سفر مهم است. با درک پیشرفت‌های تکراری AGI – همراه با پیامدهای آن – افراد و کسب‌وکارها می‌توانند مسئولانه از این فناوری در حال تکامل استفاده کنند. این محور توسعه AGI مسئولانه است، جایی که تعامل در دنیای واقعی نحوه گذر از این مرز جدید را نشان می دهد.

۱
۰
آموزش chatgpt و LLM ها
آموزش chatgpt و LLM ها
اینجا جدیدترین تکنیک های مربوط به آموزش chatgpt و LLM ها بهت یاد می دم https://aliayoubi.com
شاید از این پست‌ها خوشتان بیاید