
پیش از ورود به بحث مدلهای ترنسفورمر، مروری خواهیم داشت بر مفهوم NLP (پردازش زبان طبیعی) و اهمیت آن. این بخش قسمت سوم از دوره آموزش پردازش زبان طبیعی است که هر یکشنبه در سایت هوشیو منتشر میشود. در انتهای مطلب میتوانید به صفحه مربوط به دوره و قسمتهای دیگر دسترسی داشته باشید.
در واقع NLP یا پردازش زبان طبیعی حوزهای از یادگیری ماشینی و زبانشناسی است که تمرکز آن بر روی درک هر چیزی است که مربوط به زبان انسان باشد. هدف مسائل NLP فقط درک تک کلمات به صورت جداگانه نیست، بلکه توانایی درک کل مفهوم آن کلمات است.
در زیر فهرستی از مسائل رایج در حوزه NLP، با ذکر چند نمونه از هر یک، آورده شده است:
البته استفاده از NLP محدود به متون نوشتاری نیست. NLP میتواند مسائل و چالشهای پیچیدهتر در حوزه مسائل تشخیص گفتار و بینایی رایانهای از قبیل تولید متن از یک فایل صوتی یا توصیف یک تصویر را نیز حل کند.
رایانه ها اطلاعات را مانند ما انسانها پردازش نمیکنند. برای درک بهتر مفهوم NLP به این مثال دقت کنید: ما وقتی جمله «من گرسنه ام» را میخوانیم، میتوانیم به راحتی معنی آن را درک کنیم. به همین ترتیب، میتوانیم به راحتی شباهات بین دو جمله «من گرسنه ام» و «من ناراحتم» را تعیین کنیم. اما چنین کاری برای مدلهای یادگیری ماشین (ML)، دشوارتر از این هاست. متن باید به گونهای پردازش شود که مدل بتواند نکات لازم را از آن یاد بگیرد. و از آنجا که زبان پیچیده است، باید به دقت در مورد چگونگی انجام این پردازش فکر کنیم. تحقیقات زیادی در مورد نحوه نمایش متن انجام شده است و ما در فصل بعدی به برخی از این روشها خواهیم پرداخت.
از طریق لینک زیر میتوانید به دیگر قسمتها دسترسی داشته باشید:
منبع: هوشیو