
منتشر شده در: thenextweb به تاریخ ۲۰ آوریل ۲۰۲۰
لینک مطلب اصلی: Facebook’s teaching AI to lie like a human
محققان هوش مصنوعی فیسبوک اعلام کردند که بلندر، مجموعهای از مدلهای ربات سخنگوی متنباز مدرن است. انتظار میرود که این مدلهای جدید نسبت به تکرارهای قبلی «انسانیتر» باشند و مکالمات قویتری را ارایه دهند.
براساس نشانههای اولیه، به نظر میرسد که این محصول به خوبی رباتهای رقیب، گوگل و مایکروسافت، یا بهتر از آنها باشد. اما به هیچ وجه از فراز و نشیبها حرف نمیزنیم. چون، در اصل، کاری که فیسبوک انجام دادهاست این است که به رباتهای سخنگوی بلندر یاد داده میشود که نسبتا بهتر از دیگران دروغ بگویند.
ایده اصلی در اینجا این است که فیسبوک یک مجموعه داده بزرگ از اطلاعات را گرفته و هوش مصنوعی را نسبت به این مجموعه داده آموزشدیده میکند. رباتهای سخنگوی بلندر دامنه باز هستند، به این معنی که آنها نمیتوانند فقط برای پاسخ به یک سری از سوالات خاص مانند آنهایی که در وبسایتها میبینید آموزش داده شوند. در عوض، این روباتها از نظر تئوری قادر به درگیر شدن در صحبت بر روی هر موضوعی هستند.
همانند GPT-۲، مولد متن خوب OpenAI، تعداد پارامترهای مورد استفاده توسط بلندر نقش بزرگی در چگونگی متقاعد کردن خروجی هوش مصنوعی ایفا میکند. در اعداد بالاتر، هوش مصنوعی به قدرت محاسباتی بیشتری نیاز دارد، اما نتایج کاملا بهتری تولید میکند.
با این حال، بهترین بودن به چیزی بیش از حجم نیاز دارد، و کار فیسبوک فراتر از افزایش ساده اندازه پارامترها تاثیرگذار است.
هوش مصنوعی فیس بوک یک کلمه از آنچه میگوید را درک نمیکند. این موضوع «گوش دادن» به هیچکس نیست، نمیتواند زبان یا معنای کلمات را درک کند. تنها بین بیانیههایی ارتباط برقرار میکند که توسعهدهندگان آن پاسخهای مناسبی دریافت خواهند کرد و توسعهدهندگان آن پاسخ نخواهند داد.
نمیتواند «دانش را نمایش دهد» چون در واقع پایه دانش ندارد. ارتباطهایی ایجاد میکند که به نظر منطقی میرسند. به طور مثال اگر شما به آن بگویید که آهنگ محبوب شما یعنی «اSmashing Pumpkins» است، میتوانید ادعا کنید که آهنگ دیگری را بیشتر دوست دارید، اما هرگز در معرض تجربه واقعی موسیقی قرار نگرفته است. آن فقط زبان طبیعی را پردازش میکند. او نمیداند صدا، تصویر و یا ویدیو چیست.
هم چنین همدلی ندارد، نمیتواند احساسات شما را تجزیه کند و یا با احساسات خودش پاسخ دهد. صرفا با اظهاراتی که برای درک پاسخهای مناسب آموزش داده شدهاست پاسخ میدهد. به طور مثال اگر بگویید که ناراحت هستید،حداقل تحت شرایط بهینه، «تبریک» نخواهد گفت.
اساسا، هوش مصنوعی فیس بوک در gaslighting (یک نوع سواستفاده احساسی است که باعث میشود مخاطب افکار، حوادث و احساسات خود را زیرسوال ببرد) و catfishing (جعل هویت در شبکههای اجتماعی) واقعا خوب عمل میکند. این در حال تبدیل شدن به یک دروغگو کامل است زیرا گزینه دیگری وجود ندارد. هوش مصنوعی احساس یا فکر نمیکند، پس نمیتواند تجربه کند. و بدون تجربه هیچ نوع انسانیتی وجود ندارد. بنابراین یک روبات باید دروغ بگوید تا به هر جایی در یک نمونه برسد که موفقیت براساس این باشد که چگونه تواناییهای مکالمه انسان را داراست.
ممکن است زمانی فرا برسد که بشر یاد بگیرد از تصمیم خود برای دنبال کردن حیلههای قابل باور به عنوان نماینده هوش مکالمه انسانی متاسف باشد. اما، همانطور که تقریبا همیشه در مورد تهدید وجودی هوش مصنوعی وجود دارد، بزرگترین خطر این نیست که روباتها از قدرتهای در حال رشد خود برای آسیب رساندن به ما استفاده کنند، بلکه این است که انسانهای دیگر این کار را خواهند کرد.
ترجمه این مقاله با استفاده از ربات ترجمه آنلاین مقالات هوش مصنوعی انجام شده و بصورت محدود مورد بازبینی انسانی قرار گرفته است. در نتیجه ممکن است دارای برخی اشکالات ترجمه باشد.