هدف از پروژه Galactica یا برنامه هوش مصنوعی فیس بوک افزایش اطلاعات در علوم مختلف با استفاده از هوش مصنوعی برای غربال کردن ۴۸ میلیون مقاله و کتاب درسی بود. به گفته کارشناسانی که این برنامه را آزمایش کرده اند، این برنامه انواع مزخرفات را مطرح می کند، و برخی از چیزهایی که میگوید «توهینآمیز و خطرناک» بوده اند.

خبر مرتبط:
این آزمایش همچنین دستورالعمل های نادرستی در مورد نحوه ساخت ناپالم ماده ای که برای ساختن بمب استفاده می شود، در وان حمام ارائه کرده است. چند روز پس از انتشار این نرم افزار، روسای متا مجبور شدند آن را از اینترنت خارج کنند.
این شبکه اجتماعی اعلام کرده است: "هیچ تضمینی برای خروجی واقعی یا قابل اعتماد مدلهای زبان، حتی مدلهای بزرگی که بر روی دادههای با کیفیت بالا مانند Galactica آموزش دیدهاند، وجود ندارد. هرگز توصیههای یک مدل زبان را بدون بررسی آن دنبال نکنید."
فیس بوک تأکید کرده است: "مدل های زبانی بعضا قابل اعتماد هستند اما اغلب حاوی اشتباه هستند."
اگر به هوش مصنوعی و یادگیری ماشین علاقه مند هستید، همین امروز شروع کنید:
که قبلاً بهعنوان واحد تحقیقات هوش مصنوعی فیسبوک شناخته میشد، کار خود را روی این هوش مصنوعی مبتنی بر یادگیری ماشینی آغاز کرد تا محتواهای علمی را سازماندهی کند. هفته گذشته نسخه آزمایشی Galactica منتشر شد، ولی بلافاصله نظر منتقدان را به خود جلب کرد. منتقدان میگفتند این ابزار برای استفاده عمومی هنوز آماده نیست و محتوایی تولید میکند که صحت آن تأیید نشده است.
تیم Meta AI این هوش مصنوعی را برای تولید محتوای تحقیقاتی، حل کردن برخی مسائل ریاضی و حتی خلاصهسازی برخی مقالهها طراحی کرده است. با این وجود، منتقدان میگویند Galactica هنوز نمیتواند چنین اهدافی را محقق کند.
در ابتدا به نظر میرسید Galactica روشی هوشمندانه برای نشر مقالههای علمی و توسعه دانش است. برای مثال اگر فردی بخواهد آخرین تحقیقات در مورد موضوعی مانند محاسبات کوانتومی را درک کند، احتمالاً باید صدها مقاله را مطالعه کند که کار سختی است. هوش مصنوعی Galactica با این هدف طراحی شده بود تا کاربر بتواند با پرسیدن یک سؤال ساده مانند محاسبات کوانتومی چیست؟ به پاسخی روشنتر و خلاصهشده از انبوهی از دادهها دست پیدا کند.
منتقدان میگویند Galactica نمیتواند در حال حاضر در دسترس عموم قرار بگیرد و اطلاعات درستی ارائه نمیکند. باید دید در ادامه متا چه تصمیمی در مورد هوش مصنوعی Galactica میگیرد و سرنوشت آن به چه سمتی خواهد رفت.
منبع:
https://digiato.com/article/2022/11/21/meta-trained-ai-48-million-science-papers