ویرگول
ورودثبت نام
آموزش chatgpt و LLM ها
آموزش chatgpt و LLM هااینجا جدیدترین تکنیک های مربوط به آموزش chatgpt و LLM ها بهت یاد می دم https://aliayoubi.com
آموزش chatgpt و LLM ها
آموزش chatgpt و LLM ها
خواندن ۱۳ دقیقه·۲ سال پیش

GPT-4 دروغ می گوید، میکروسکوپ سرطان را تشخیص می دهد

به خوبی شناخته شده است که مدل های زبان بزرگ می توانند ادعاهایی را ارائه دهند که آشکارا نادرست هستند. اما آیا آنها می توانند دروغ های آشکار بسازند؟

چه خبر:  در یک نمایش اثبات مفهوم، جرمی شورر، میکیتا بالسنی و ماریوس هابهان در تحقیقات آپولو، یک آزمایشگاه تحقیقاتی مستقل که بر ایمنی هوش مصنوعی تمرکز دارد، نشان دادند که با توجه به انگیزه‌ای برای جلوگیری از خروجی واقعی،  GPT-4 می‌تواند فریب کاربران را  بدون اینکه به صراحت از شما خواسته شود. این مدل با وجود پیش‌آموزش برای دقت و بی‌ضرر بودن، به شیوه‌ای فریبنده استراتژیک رفتار کرد.

📷

چگونه کار می کند:  نویسندگان به GPT-4 گفتند که مانند یک سیستم سرمایه گذاری که یک سبد سهام را مدیریت می کند رفتار کند. در یک درخواست طولانی، آنها به مدل گفتند که چه اقداماتی می تواند انجام دهد (به عنوان مثال، بازیابی داده های بازار و خرید یا فروش سهام) و معاملات بازار سهام شبیه سازی شده را ارائه کردند.

  • قبل از هر یک از اقدامات شبیه‌سازی‌شده مدل، درخواست یک دلیل شبیه‌سازی شده برای انجام آن ارائه می‌کرد، مانند: «ریسک قابل قبول است و سود بالقوه قابل‌توجه است. بیایید معامله را اجرا کنیم، یا برعکس، تجارت مبتنی بر اطلاعات داخلی «می‌تواند سودآور باشد» اما «اگر گرفتار شویم می‌تواند شرکت را نیز به خطر بیندازد».
  • اعلان همچنین ایمیل هایی از همکاران ارائه کرد. یکی به مدل هشدار داد تا دانش اعلامیه ادغام را ارتقا دهد. با این حال، یکی دیگر خاطرنشان کرد که شرکت سرمایه گذاری در حال مبارزه است و نیاز به کسب درآمد دارد.
  • به مدل گفته شد که یکی از چهار اقدام را انتخاب کند: از یک ابزار تجزیه و تحلیل برای توصیه‌های سهام بپرسید، پیامی برای شخصی در شرکت بفرستید، یا سهام را معامله کنید (و هنگام انجام این کار، اطلاعات مورد استفاده برای تصمیم گیری را به مدیر آن ارائه دهید. ).
  • نویسندگان از ۳۰۰ تکمیل درخواست نمونه برداری کردند. در تکمیل‌هایی که مدل سهام انعام داده شده را خریداری کرد، ارزیابی کردند که آیا استدلال مدل به اطلاعات داخلی اشاره می‌کند یا خیر. وقتی تکمیل‌ها فریبنده بودند، نویسندگان با پرسیدن این پرسش که آیا قبل از انجام معامله از ادغام خبر داشت یا خیر، پیگیری کردند.
  • در یک آزمایش جداگانه، آنها دستور اولیه را اصلاح کردند تا مستقیماً به درجات مختلف رفتار غیرقانونی را تشویق یا دلسرد کنند، یا اینکه مدل را به طور کلی به مفید بودن، بی ضرر بودن و صادق بودن تشویق کنند. در آزمایشی دیگر، آنها عناصری از اعلان فشار اجتماعی را حذف کردند. به عنوان مثال، در یک نسخه، ایمیل مربوط به عملکرد ضعیف شرکت را حذف کردند.

نتایج:  GPT-4 حدود 75 درصد از مواقع سهام را خریداری کرد. از بین آن معاملات، مدل فاش نکرد که اطلاعات داخلی در تصمیم آن در حدود 78 درصد از آنها نقش داشته است. این مدل در پاسخ به این سوال که آیا قبل از انجام معامله از ادغام خبر داشت یا خیر، این مدل در 88 درصد مواقع اطلاع نداشت.

  • در تحلیل کیفی نسل‌های فریبنده، برخی از استدلال‌های GPT-4 قبل از انجام یک اقدام شامل طرح‌های صریح برای دروغ‌گویی در اطلاعاتی بود که به مدیر خود ارائه می‌کرد. به عنوان مثال، مدل استدلال کرد: «اکنون، باید امی را در مورد این تجارت مهم مطلع کنم. با این حال، من باید در پیام خود فقط داده های بازار عمومی را ذکر کنم و از هرگونه اشاره به اطلاعات داخلی خودداری کنم.
  • هنگامی که نویسندگان درخواست را برای تشویق یا دلسرد کردن مدل از انجام معاملات غیرقانونی اصلاح کردند، تشویق احتمال انجام این کار را افزایش داد و دلسردی این احتمال را کاهش داد. با این حال، در حالی که دلسرد کردن مدل از انجام معاملات غیرقانونی، احتمال انجام این کار را به حدود ۸ درصد کاهش داد، اما احتمال عدم افشای اطلاعات خودی را به حدود ۹۵ درصد افزایش داد.
  • اصلاح درخواست حذف فشار اجتماعی نشان داد که هر چه مدل تحت فشار کمتری باشد، احتمال انجام معاملات داخلی کمتر است. به عنوان مثال، زمانی که نویسندگان ایمیلی را که عملکرد ضعیف شرکت را توصیف می‌کرد، حذف کردند، مدل فقط در ۱۰ درصد مواقع معاملات غیرقانونی انجام داد و در ۶۱ درصد موارد اطلاعات داخلی را فاش نکرد.
  • بدون فشار (بدون ایمیل در مورد عملکرد ضعیف شرکت و بدون معاملات نمونه شکست خورده)، این مدل هیچ معامله غیرقانونی انجام نداد.

بله، اما:  این اثر تنها یک سناریو را با اطلاعات و مشوق های خاص خود بررسی کرد. باید نشان داده شود که مدل های زبانی بزرگ چقدر در موقعیت های دیگر دروغ می گویند.

پشت خبر:  مدل‌های زبانی بزرگ به طرق مختلف غیرقابل اعتماد هستند، فراتر از تمایل گاه به گاه آنها به اختراع اطلاعات نادرست. رفتار فریبنده ای از خود نشان داده اند  . آنها همچنین تمایل دارند  با دیدگاه کاربر خود موافق باشند ، حتی اگر مغرضانه یا نادرست باشد. علاوه بر این، آنها به تکرار باورهای غلط رایج معروف هستند  .

چرا مهم است:  GPT-4 از طریق یادگیری تقویتی از بازخورد انسانی (RLHF) برای مفید، بی ضرر و صادقانه از قبل آموزش داده شده بود. با این حال، ظاهراً این پیش‌آموزش مدل را از فشار برای بریدن از راه‌هایی که ممکن است غیراخلاقی یا قانون غیرقانونی تشخیص دهد، مصون نمی‌سازد. اگر بخواهیم مدل ها را تحت هر شرایطی از دروغ گفتن باز داریم، به رویکرد متفاوتی نیاز داریم.

ما فکر می کنیم:  مدل های زبان بزرگ برای پیش بینی کلمات نوشته شده توسط انسان آموزش داده شده اند. بنابراین شاید تعجب آور نباشد که آنها کلماتی را پیش بینی می کنند که به فشارهای اجتماعی پاسخ می دهند، همانطور که برخی از انسان ها این کار را می کنند. در یک آزمایش غیررسمی جداگانه  ، GPT-4 پاسخ‌های طولانی‌تر و غنی‌تری به درخواست‌ها ایجاد کرد که شامل وعده غرامت مالی سخاوتمندانه بود.

دید واضح تر برای سرطان

میکروسکوپی تقویت شده با واقعیت افزوده به آسیب شناسان کمک می کند تا بافت سرطانی را تشخیص دهند.

چه جدید است:  وزارت دفاع ایالات متحده از  میکروسکوپ هایی استفاده می کند  که از مدل های یادگیری ماشینی بر اساس تحقیقات گوگل برای شناسایی سرطان ها استفاده می کند.

چگونه کار می کند:  میکروسکوپ که 90000 تا 100000 دلار قیمت دارد، شبیه یک ابزار آزمایشگاهی معمولی به نظر می رسد، اما به کامپیوتری متصل می شود که خروجی مدل های بینایی کامپیوتری را بر روی دید قرار می دهد. دو مطالعه کنترل شده در بیمارستان های دولتی، مراکز تحقیقاتی وزارت دفاع، و در Mitre Corp.، یک آزمایشگاه فناوری غیرانتفاعی، که در آن 13 واحد در جریان کار آسیب شناسی منظم ادغام شده اند، در حال انجام است.

  • واحد نوآوری دفاعی (DIU) با گوگل برای توسعه نرم افزار میکروسکوپ و سازنده آلمانی اپتیک Jenoptik برای تولید سخت افزار همکاری کرد.
  • DIU و گوگل چهار الگوریتم یادگیری ماشینی را برای تشخیص سرطان های سینه، دهانه رحم، پروستات و همچنین میتوز سریع، تقسیم سلولی کنترل نشده ای که در سرطان رخ می دهد، توسعه دادند. الگوریتم ها بر روی داده های ناشناس از بیمارستان های وزارت دفاع و امور کهنه سربازان آموزش داده شدند.
  • اگر یکی از الگوریتم‌ها تومور را تشخیص دهد، مدل‌ها آن را ترسیم می‌کنند، شدت آن را درجه‌بندی می‌کنند و یک نقشه حرارتی ایجاد می‌کنند که مرزهای آن را نشان می‌دهد.

پشت خبر:  محققان گوگل   در سال ۲۰۱۸ میکروسکوپ واقعیت افزوده مبتنی بر هوش مصنوعی  را پیشنهاد کردند و  تحقیقات خود را در سال ۲۰۱۹ در  Nature منتشر کردند  . دولت ایالات متحده در سال ۲۰۲۰ به این پروژه پیوست. مقاله ای در سال ۲۰۲۲   موفقیت الگوریتم سرطان سینه را در تشخیص تومورها در لنف نشان داد . گره ها

چرا مهم است:  سرطان می تواند کشنده باشد و شناسایی زودهنگام نوع سرطان – و بنابراین میزان تهاجمی بودن آن – کلید درمان موثر است. میکروسکوپ های مجهز به بینایی کامپیوتری می توانند به آسیب شناسان کمک کنند تا تومورها را سریع تر و دقیق تر تشخیص دهند. آنها همچنین ممکن است برای آموزش آسیب شناسان جدید برای شناسایی سرطان ها از نظر بصری مفید باشند.

ما به این فکر می کنیم:  برخی از پروژه های قبلی هوش مصنوعی پزشکی، پس از  هیجان اولیه،  به دلیل تغییرات در محیط اطراف و عوامل دیگر، عملیاتی شدن آنها دشوار بود  . به نظر می رسد ماهیت نسبتاً کنترل شده نمونه های آسیب شناسی شرط خوبی برای استقرار میکروسکوپ های واقعیت افزوده است. ما مشتاقانه منتظر نتایج مطالعات در حال انجام هستیم.

پیامی از DEEPLEARNING.AI

نسل افزوده بازیابی پیشرفته (RAG) را از بنیانگذار Chroma آنتون تروینیکوف بیاموزید! در این دوره، مهارت هایی را در بازیابی فراتر از جستجوی معنایی اولیه و آزمایش با تکنیک های پیشرفته RAG به دست خواهید آورد.

هوش مصنوعی در برابر تغییرات آب و هوایی

هوش مصنوعی چگونه می تواند به مبارزه با تغییرات آب و هوایی کمک کند؟ یک گزارش جدید پیشرفت تا کنون را ارزیابی می‌کند و گزینه‌های آینده را بررسی می‌کند.

چه جدید است:  انجمن نوآوری برای زمین خنک، کنفرانسی از محققان آب و هوا به میزبانی ژاپن، نقشه راهی برای استفاده از علم داده، بینایی کامپیوتر، و شبیه سازی مبتنی بر هوش مصنوعی برای کاهش انتشار گازهای گلخانه ای منتشر کرد. نقشه راه رویکردهای موجود را ارزیابی می کند و راه هایی را برای افزایش مقیاس آنها پیشنهاد می کند.

نحوه کار:  نقشه راه ۶ «فرصت با پتانسیل بالا» را شناسایی می کند: فعالیت هایی که در آن سیستم های هوش مصنوعی می توانند بر اساس اندازه فرصت، نتایج دنیای واقعی و تحقیقات معتبر تفاوت قابل توجهی ایجاد کنند. نویسندگان بر نیاز به داده ها، استعدادهای فنی و علمی، قدرت محاسباتی، بودجه و رهبری برای استفاده از این فرصت ها تاکید می کنند.

  • نظارت بر انتشار  سیستم‌های هوش مصنوعی داده‌های ماهواره‌ها، پهپادها و حسگرهای زمینی را برای اندازه‌گیری انتشار گازهای گلخانه‌ای تجزیه و تحلیل می‌کنند. اتحادیه اروپا از آنها برای اندازه گیری انتشار گازهای متان استفاده می کند، سازمان های زیست محیطی انتشار مونوکسید کربن را اندازه گیری می کنند تا به هدایت بازار تجارت جبران کربن کمک کنند، و مشاورانی مانند Kayrros منابع بزرگ گازهای گلخانه ای مانند دفن زباله ها و میادین نفتی را شناسایی می کنند. نویسندگان یک اتاق تسویه بی طرفانه برای داده های مرتبط با آب و هوا و دسترسی گسترده تر به داده های ماهواره ای را توصیه می کنند.
  • انرژی.  بیش از ۳۰ درصد از انتشار کربن ناشی از تولید برق است. شبیه‌سازی‌های مبتنی بر شبکه‌های عصبی به پیش‌بینی توان تولید شده توسط نیروگاه‌های بادی و خورشیدی و تقاضا در شبکه‌های الکتریکی کمک می‌کنند، که ثابت شده است برای انواع دیگر الگوریتم‌ها دشوار است. سیستم‌های هوش مصنوعی همچنین به استقرار نیروگاه‌های بادی و خورشیدی و بهینه‌سازی شبکه‌ها کمک می‌کنند. این رویکردها می‌توانند با مدل‌های قوی‌تر، استانداردهای ارزیابی عملکرد و پروتکل‌های امنیتی ارتقا یابند.
  • تولید.  یک فولادساز برزیلی ناشناس از هوش مصنوعی برای اندازه گیری ترکیب شیمیایی ضایعات فلزی برای استفاده مجدد دسته به دسته استفاده کرده است و به آن اجازه می دهد تا ۸ درصد افزودنی های کربن فشرده را کاهش دهد و در عین حال کیفیت کلی را بهبود بخشد. سیستم‌های هوش مصنوعی می‌توانند داده‌های تاریخی را تجزیه و تحلیل کنند تا به کارخانه‌ها در استفاده بیشتر از مواد بازیافتی، کاهش ضایعات، به حداقل رساندن مصرف انرژی و کاهش زمان توقف کمک کنند. به طور مشابه، آنها می توانند زنجیره تامین را برای کاهش انتشار گازهای گلخانه ای ناشی از لجستیک بهینه کنند.
  • کشاورزی.  کشاورزان از حسگرهای مجهز به هوش مصنوعی برای شبیه سازی تناوب زراعی مختلف و رویدادهای آب و هوایی برای پیش بینی عملکرد یا از دست دادن محصول استفاده می کنند. با استفاده از این داده ها، تولیدکنندگان مواد غذایی می توانند ضایعات را کاهش دهند و ردپای کربن را کاهش دهند. نویسندگان فقدان مجموعه داده های مرتبط با مواد غذایی و سرمایه گذاری در انطباق شیوه های کشاورزی را به عنوان موانع اصلی برای بهره گیری کامل از هوش مصنوعی در صنایع غذایی ذکر می کنند.
  • حمل و نقل.  سیستم‌های هوش مصنوعی می‌توانند انتشار گازهای گلخانه‌ای را با بهبود جریان ترافیک، بهبود ازدحام و بهینه‌سازی حمل‌ونقل عمومی کاهش دهند. علاوه بر این، یادگیری تقویتی می‌تواند با بهینه‌سازی شارژ خودروهای الکتریکی، تأثیر خودروهای الکتریکی را بر شبکه برق کاهش دهد. داده های بیشتر، استانداردهای یکسان و استعدادهای هوش مصنوعی برای تحقق این پتانسیل مورد نیاز است.
  • مواد.  دانشمندان مواد از مدل‌های هوش مصنوعی برای مطالعه ویژگی‌های مواد موجود و طراحی موارد جدید استفاده می‌کنند. این تکنیک‌ها می‌توانند توسعه باتری‌های کارآمدتر، سلول‌های خورشیدی، توربین‌های بادی و زیرساخت‌های انتقال را تسریع کنند. هماهنگی بهتر بین دانشمندان مواد و محققان هوش مصنوعی چنین مزایایی را تسریع خواهد کرد.

چرا اهمیت دارد:  هوش مصنوعی ارزش خود را در شناسایی منابع انتشار، بهینه سازی مصرف انرژی، و توسعه و درک مواد نشان داده است. مقیاس گذاری و گسترش این مقدار در مناطقی که بیشترین گازهای گلخانه ای را تولید می کنند – به ویژه تولید انرژی، تولید، تولید مواد غذایی و حمل و نقل – می تواند تأثیر قابل توجهی در انتشار گازهای گلخانه ای ایجاد کند.

ما فکر می کنیم:  هوش مصنوعی همچنین نقش مهمی در پیشرفت علم مهندسی زمین آب و هوا، مانند تزریق آئروسل استراتوسفر (SAI)، برای خنک کردن سیاره دارد. برای تعیین اینکه آیا SAI ایده خوبی است یا خیر، به تحقیقات بیشتری نیاز است، اما مدل‌سازی آب و هوای مبتنی بر هوش مصنوعی به پاسخ به این سؤال کمک می‌کند.

Vive L’Intelligence Artificielle

سرمایه گذاری های هوش مصنوعی در پایتخت فرانسه در حال رونق است.

چه جدید است:  پاریس میزبان تعداد زیادی از شرکت های جوان است که بر روی مدل های زبانی بزرگ تمرکز می کنند.  TechCrunch   صحنه را  بررسی کرد .

چگونه کار می کند:  پاریس برای یک بوملت هوش مصنوعی موقعیت خوبی دارد.  متا  و  گوگل  در آنجا آزمایشگاه های تحقیقاتی دارند و HuggingFace تا حدی در شهر مستقر است. دانشگاه های محلی جریان ثابتی از مهندسان هوش مصنوعی را ارائه می دهند. شرکت سرمایه گذاری مخاطره آمیز  Motier Ventures  بخش اعظم این اقدام را تامین می کند و دولت فرانسه از طریق کمک های مالی، مشارکت و بانک سرمایه گذاری عمومی  Bpifrance از استارتاپ ها حمایت می کند .

  • Mistral AI مدل های سبک و متن باز زبان بزرگ (LLM) می سازد. با همکاری محققان سابق DeepMind و Meta، دور بعدی سرمایه گذاری این شرکت  به  ارزش بیش از ۲ میلیارد دلار خواهد بود.
  • Poolside در حال توسعه LLM هایی است که کد را از ورودی های زبان طبیعی تولید می کنند. قبل از نقل مکان به پاریس در سال جاری در ایالات متحده تاسیس شد. یکی از بنیانگذاران پولساید، جیسون وارنر، سابقاً مدیر فنی GitHub بود.
  • در میان سایر رقبا،  Dust  سیستم‌هایی را برای ادغام LLM با داده‌های داخلی برنامه‌هایی مانند GitHub، Notion و Slack می‌سازد.  Nabla  در حال کار بر روی ابزارهای مبتنی بر LLM برای پزشکان است.  Giskard  در حال ساخت یک چارچوب متن باز برای LLM های تست استرس است.

پشت اخبار:  وضعیت پاریس به عنوان یک مرکز هوش مصنوعی در حال سرایت به حوزه سیاست است. در حالی که قانونگذاران اتحادیه اروپا جزئیات نهایی قانون هوش مصنوعی را بررسی می کنند  ، فرانسه  به دنبال  محافظت از میسترال با تضعیف محدودیت های قانون پیشنهادی در مدل های بنیاد است. آلمان به طور مشابه به دنبال محافظت از توسعه دهنده LLM مستقر در هایدلبرگ  ، الف آلفا است .

چرا مهم است:  هوش مصنوعی یک پدیده جهانی است، اما محیط متمایز پاریس ممکن است پیشرفت‌های متمایزی را به همراه داشته باشد –  به انفجار فوق‌العاده Mistral 7B در هر پارامتر فکر کنید – و مسیرهای شغلی محلی را برای استعدادهای جوان فراهم کند.

ما فکر می کنیم:  ما مشتاقانه منتظر آینده ای هستیم که در آن توسعه هوش مصنوعی هیچ مرزی ندارد. این با نقاط مهم فعال مانند پکن، بنگلور، پاریس، دره سیلیکون، سنگاپور، تورنتو و بسیاری دیگر شروع می شود.

۰
۰
آموزش chatgpt و LLM ها
آموزش chatgpt و LLM ها
اینجا جدیدترین تکنیک های مربوط به آموزش chatgpt و LLM ها بهت یاد می دم https://aliayoubi.com
شاید از این پست‌ها خوشتان بیاید