
به خوبی شناخته شده است که مدل های زبان بزرگ می توانند ادعاهایی را ارائه دهند که آشکارا نادرست هستند. اما آیا آنها می توانند دروغ های آشکار بسازند؟
چه خبر: در یک نمایش اثبات مفهوم، جرمی شورر، میکیتا بالسنی و ماریوس هابهان در تحقیقات آپولو، یک آزمایشگاه تحقیقاتی مستقل که بر ایمنی هوش مصنوعی تمرکز دارد، نشان دادند که با توجه به انگیزهای برای جلوگیری از خروجی واقعی، GPT-4 میتواند فریب کاربران را بدون اینکه به صراحت از شما خواسته شود. این مدل با وجود پیشآموزش برای دقت و بیضرر بودن، به شیوهای فریبنده استراتژیک رفتار کرد.
📷
چگونه کار می کند: نویسندگان به GPT-4 گفتند که مانند یک سیستم سرمایه گذاری که یک سبد سهام را مدیریت می کند رفتار کند. در یک درخواست طولانی، آنها به مدل گفتند که چه اقداماتی می تواند انجام دهد (به عنوان مثال، بازیابی داده های بازار و خرید یا فروش سهام) و معاملات بازار سهام شبیه سازی شده را ارائه کردند.
نتایج: GPT-4 حدود 75 درصد از مواقع سهام را خریداری کرد. از بین آن معاملات، مدل فاش نکرد که اطلاعات داخلی در تصمیم آن در حدود 78 درصد از آنها نقش داشته است. این مدل در پاسخ به این سوال که آیا قبل از انجام معامله از ادغام خبر داشت یا خیر، این مدل در 88 درصد مواقع اطلاع نداشت.
بله، اما: این اثر تنها یک سناریو را با اطلاعات و مشوق های خاص خود بررسی کرد. باید نشان داده شود که مدل های زبانی بزرگ چقدر در موقعیت های دیگر دروغ می گویند.
پشت خبر: مدلهای زبانی بزرگ به طرق مختلف غیرقابل اعتماد هستند، فراتر از تمایل گاه به گاه آنها به اختراع اطلاعات نادرست. رفتار فریبنده ای از خود نشان داده اند . آنها همچنین تمایل دارند با دیدگاه کاربر خود موافق باشند ، حتی اگر مغرضانه یا نادرست باشد. علاوه بر این، آنها به تکرار باورهای غلط رایج معروف هستند .
چرا مهم است: GPT-4 از طریق یادگیری تقویتی از بازخورد انسانی (RLHF) برای مفید، بی ضرر و صادقانه از قبل آموزش داده شده بود. با این حال، ظاهراً این پیشآموزش مدل را از فشار برای بریدن از راههایی که ممکن است غیراخلاقی یا قانون غیرقانونی تشخیص دهد، مصون نمیسازد. اگر بخواهیم مدل ها را تحت هر شرایطی از دروغ گفتن باز داریم، به رویکرد متفاوتی نیاز داریم.
ما فکر می کنیم: مدل های زبان بزرگ برای پیش بینی کلمات نوشته شده توسط انسان آموزش داده شده اند. بنابراین شاید تعجب آور نباشد که آنها کلماتی را پیش بینی می کنند که به فشارهای اجتماعی پاسخ می دهند، همانطور که برخی از انسان ها این کار را می کنند. در یک آزمایش غیررسمی جداگانه ، GPT-4 پاسخهای طولانیتر و غنیتری به درخواستها ایجاد کرد که شامل وعده غرامت مالی سخاوتمندانه بود.
میکروسکوپی تقویت شده با واقعیت افزوده به آسیب شناسان کمک می کند تا بافت سرطانی را تشخیص دهند.
چه جدید است: وزارت دفاع ایالات متحده از میکروسکوپ هایی استفاده می کند که از مدل های یادگیری ماشینی بر اساس تحقیقات گوگل برای شناسایی سرطان ها استفاده می کند.
چگونه کار می کند: میکروسکوپ که 90000 تا 100000 دلار قیمت دارد، شبیه یک ابزار آزمایشگاهی معمولی به نظر می رسد، اما به کامپیوتری متصل می شود که خروجی مدل های بینایی کامپیوتری را بر روی دید قرار می دهد. دو مطالعه کنترل شده در بیمارستان های دولتی، مراکز تحقیقاتی وزارت دفاع، و در Mitre Corp.، یک آزمایشگاه فناوری غیرانتفاعی، که در آن 13 واحد در جریان کار آسیب شناسی منظم ادغام شده اند، در حال انجام است.
پشت خبر: محققان گوگل در سال ۲۰۱۸ میکروسکوپ واقعیت افزوده مبتنی بر هوش مصنوعی را پیشنهاد کردند و تحقیقات خود را در سال ۲۰۱۹ در Nature منتشر کردند . دولت ایالات متحده در سال ۲۰۲۰ به این پروژه پیوست. مقاله ای در سال ۲۰۲۲ موفقیت الگوریتم سرطان سینه را در تشخیص تومورها در لنف نشان داد . گره ها
چرا مهم است: سرطان می تواند کشنده باشد و شناسایی زودهنگام نوع سرطان – و بنابراین میزان تهاجمی بودن آن – کلید درمان موثر است. میکروسکوپ های مجهز به بینایی کامپیوتری می توانند به آسیب شناسان کمک کنند تا تومورها را سریع تر و دقیق تر تشخیص دهند. آنها همچنین ممکن است برای آموزش آسیب شناسان جدید برای شناسایی سرطان ها از نظر بصری مفید باشند.
ما به این فکر می کنیم: برخی از پروژه های قبلی هوش مصنوعی پزشکی، پس از هیجان اولیه، به دلیل تغییرات در محیط اطراف و عوامل دیگر، عملیاتی شدن آنها دشوار بود . به نظر می رسد ماهیت نسبتاً کنترل شده نمونه های آسیب شناسی شرط خوبی برای استقرار میکروسکوپ های واقعیت افزوده است. ما مشتاقانه منتظر نتایج مطالعات در حال انجام هستیم.
نسل افزوده بازیابی پیشرفته (RAG) را از بنیانگذار Chroma آنتون تروینیکوف بیاموزید! در این دوره، مهارت هایی را در بازیابی فراتر از جستجوی معنایی اولیه و آزمایش با تکنیک های پیشرفته RAG به دست خواهید آورد.
هوش مصنوعی چگونه می تواند به مبارزه با تغییرات آب و هوایی کمک کند؟ یک گزارش جدید پیشرفت تا کنون را ارزیابی میکند و گزینههای آینده را بررسی میکند.
چه جدید است: انجمن نوآوری برای زمین خنک، کنفرانسی از محققان آب و هوا به میزبانی ژاپن، نقشه راهی برای استفاده از علم داده، بینایی کامپیوتر، و شبیه سازی مبتنی بر هوش مصنوعی برای کاهش انتشار گازهای گلخانه ای منتشر کرد. نقشه راه رویکردهای موجود را ارزیابی می کند و راه هایی را برای افزایش مقیاس آنها پیشنهاد می کند.
نحوه کار: نقشه راه ۶ «فرصت با پتانسیل بالا» را شناسایی می کند: فعالیت هایی که در آن سیستم های هوش مصنوعی می توانند بر اساس اندازه فرصت، نتایج دنیای واقعی و تحقیقات معتبر تفاوت قابل توجهی ایجاد کنند. نویسندگان بر نیاز به داده ها، استعدادهای فنی و علمی، قدرت محاسباتی، بودجه و رهبری برای استفاده از این فرصت ها تاکید می کنند.
چرا اهمیت دارد: هوش مصنوعی ارزش خود را در شناسایی منابع انتشار، بهینه سازی مصرف انرژی، و توسعه و درک مواد نشان داده است. مقیاس گذاری و گسترش این مقدار در مناطقی که بیشترین گازهای گلخانه ای را تولید می کنند – به ویژه تولید انرژی، تولید، تولید مواد غذایی و حمل و نقل – می تواند تأثیر قابل توجهی در انتشار گازهای گلخانه ای ایجاد کند.
ما فکر می کنیم: هوش مصنوعی همچنین نقش مهمی در پیشرفت علم مهندسی زمین آب و هوا، مانند تزریق آئروسل استراتوسفر (SAI)، برای خنک کردن سیاره دارد. برای تعیین اینکه آیا SAI ایده خوبی است یا خیر، به تحقیقات بیشتری نیاز است، اما مدلسازی آب و هوای مبتنی بر هوش مصنوعی به پاسخ به این سؤال کمک میکند.
سرمایه گذاری های هوش مصنوعی در پایتخت فرانسه در حال رونق است.
چه جدید است: پاریس میزبان تعداد زیادی از شرکت های جوان است که بر روی مدل های زبانی بزرگ تمرکز می کنند. TechCrunch صحنه را بررسی کرد .
چگونه کار می کند: پاریس برای یک بوملت هوش مصنوعی موقعیت خوبی دارد. متا و گوگل در آنجا آزمایشگاه های تحقیقاتی دارند و HuggingFace تا حدی در شهر مستقر است. دانشگاه های محلی جریان ثابتی از مهندسان هوش مصنوعی را ارائه می دهند. شرکت سرمایه گذاری مخاطره آمیز Motier Ventures بخش اعظم این اقدام را تامین می کند و دولت فرانسه از طریق کمک های مالی، مشارکت و بانک سرمایه گذاری عمومی Bpifrance از استارتاپ ها حمایت می کند .
پشت اخبار: وضعیت پاریس به عنوان یک مرکز هوش مصنوعی در حال سرایت به حوزه سیاست است. در حالی که قانونگذاران اتحادیه اروپا جزئیات نهایی قانون هوش مصنوعی را بررسی می کنند ، فرانسه به دنبال محافظت از میسترال با تضعیف محدودیت های قانون پیشنهادی در مدل های بنیاد است. آلمان به طور مشابه به دنبال محافظت از توسعه دهنده LLM مستقر در هایدلبرگ ، الف آلفا است .
چرا مهم است: هوش مصنوعی یک پدیده جهانی است، اما محیط متمایز پاریس ممکن است پیشرفتهای متمایزی را به همراه داشته باشد – به انفجار فوقالعاده Mistral 7B در هر پارامتر فکر کنید – و مسیرهای شغلی محلی را برای استعدادهای جوان فراهم کند.
ما فکر می کنیم: ما مشتاقانه منتظر آینده ای هستیم که در آن توسعه هوش مصنوعی هیچ مرزی ندارد. این با نقاط مهم فعال مانند پکن، بنگلور، پاریس، دره سیلیکون، سنگاپور، تورنتو و بسیاری دیگر شروع می شود.