یادگیری ماشین از دهههای گذشته تا به امروز تحولاتی شگرف در علوم کامپیوتر و فناوری اطلاعات ایجاد کرده است و با پیشرفت مداوم، مدلهای متنوع و قدرتمندی به وجود آورده است که در حل مسائل پیچیدهای چون پردازش تصویر، ترجمه زبان، پیشبینی رفتار مشتری، و بسیاری دیگر موفق بودهاند. این مقاله به تاریخچه مدلهای معروف یادگیری ماشین از آغاز تا به امروز میپردازد و تحولات و مراحل کلیدی در توسعه هر یک را مورد بررسی قرار میدهد.
یادگیری ماشین شاخهای از هوش مصنوعی است که هدف آن طراحی سیستمهایی است که بدون نیاز به برنامهریزی صریح، توانایی یادگیری و بهبود عملکرد خود را از دادهها داشته باشند. ایدههای اولیه درباره یادگیری ماشین به اواسط قرن بیستم بازمیگردد، زمانی که دانشمندانی چون آلن تورینگ مفاهیمی همچون "ماشینهای یادگیرنده" را مطرح کردند.
اولین الگوریتمهای یادگیری ماشین شامل روشهایی چون رگرسیون خطی و تحلیل تفکیک خطی (LDA) بود که به عنوان ابزارهای آماری برای تحلیل و پیشبینی دادهها استفاده میشدند. بعدها در دهه ۱۹۵۰، پرسیپترون به عنوان یکی از اولین مدلهای شبکه عصبی معرفی شد که تلاش داشت فرایندهای یادگیری را شبیهسازی کند. این مدل که توسط فرانک روزنبلات توسعه یافت، به عنوان پایهای برای توسعه شبکههای عصبی پیچیدهتر شناخته میشود.
در دهههای ۱۹۶۰ و ۱۹۷۰، مفاهیمی چون بیز ساده و ماشین بردار پشتیبان (SVM) مطرح شدند که تا امروز نیز در بسیاری از کاربردها استفاده میشوند. این الگوریتمها امکان دستهبندی و پیشبینی را با استفاده از دادههای آماری فراهم میکردند.
با افزایش توان محاسباتی در دهه ۱۹۸۰، شبکههای عصبی با لایههای چندگانه مطرح شدند. شبکههای عصبی چندلایه یا MLP با استفاده از الگوریتمهای یادگیری نظیر پسانتشار خطا (backpropagation) قادر به یادگیری و پیشبینیهای پیچیدهتری شدند. ایده پسانتشار خطا توسط دیوید راملهارت و همکارانش معرفی شد و در آن زمان بهطور گسترده در جامعه علمی پذیرفته شد.
دهه ۱۹۹۰ شاهد پیشرفتهای گستردهای در بهبود روشهای یادگیری ماشین بود. مدلهای درختی مانند درخت تصمیم و بگینگ و بوسٹنگ معرفی شدند. این مدلها به دلیل قابلیت تفسیرپذیری بالا و انعطافپذیری در حل مسائل مختلف، توجه زیادی را به خود جلب کردند.
یکی از مهمترین الگوریتمهای این دهه جنگلهای تصادفی بود که توسط لئو بریمن معرفی شد. این مدل، که از ترکیب چندین درخت تصمیم به دست میآید، توانست به دقت بالاتری در دستهبندی دادهها دست یابد و به عنوان یکی از مدلهای برجسته در یادگیری ماشین مورد استفاده قرار گرفت.
در اوایل دهه ۲۰۰۰، مدلهای مبتنی بر احتمالات و شبکههای عصبی با لایههای بیشتر، راهی برای حل مسائل پیچیدهتر پیدا کردند. در این زمان، الگوریتمهای مختلفی معرفی شد که شامل مدلهای پنهان مارکوف (HMM) و ماشینهای بولتزمن محدود شده (RBM) بود.
یادگیری عمیق با شبکههای عصبی پیچیدهتر مانند شبکههای کانولوشنی (CNN) و شبکههای بازگشتی (RNN) محبوبیت یافت. CNN، که در پردازش تصویر به کار میرود، توسط یَن لیکون توسعه داده شد و برای اولین بار در شناسایی اعداد دستنویس با دقت بالا استفاده شد.
در این دهه، دسترسی به دادههای بزرگ و توان پردازشی بالا، به ظهور مدلهای یادگیری عمیق و شبکههای عصبی بسیار بزرگ کمک کرد. شبکههای عمیق کانولوشنی (DNN) در پردازش تصویر و شبکههای بازگشتی عمیق (DRNN) در پردازش زبان به کار گرفته شدند.
یکی از مهمترین دستاوردهای این دهه، معرفیم مدل ترانسفورمر در سال ۲۰۱۷ توسط تیم گوگل بود. ترانسفورمرها به دلیل مکانیزم توجه (attention mechanism) خود، انقلابی در پردازش زبان طبیعی ایجاد کردند و به عنوان پایهای برای مدلهای زبانی بزرگ نظیر BERT و GPT عمل کردند. این مدلها با توانایی درک و تولید زبان طبیعی، به طور گسترده در پردازش زبان و حتی بینایی کامپیوتری استفاده شدند.
در دهه ۲۰۲۰، یادگیری تقویتی عمیق و مدلهای زبانی بزرگ به اوج رسیدند. مدلهای زبانی نظیر GPT-3 و GPT-4 به عنوان مدلهای چندمنظوره در تولید متن و حتی کدنویسی استفاده شدند.
یکی از دستاوردهای مهم در این دهه یادگیری تقویتی عمیق بود که به کمک آن مدلهایی مانند AlphaGo و AlphaStar به موفقیتهای بزرگی در بازیهای پیچیده دست یافتند. یادگیری تقویتی عمیق توانست با ترکیب یادگیری تقویتی و شبکههای عصبی، سیستمهایی بسازد که قابلیت یادگیری از محیط و تصمیمگیری هوشمندانه را دارند.
مدلهای زبانی بزرگ (LLMs) نظیر GPT-3 ،GPT-4 و ChatGPT به دلیل قابلیتهای چندمنظوره و توانایی پردازش و تولید زبان طبیعی، توجه بسیار زیادی جلب کردهاند. این مدلها از ساختارهای ترانسفورمر بهره میبرند و قادرند در زمینههای متنوعی همچون نوشتن مقاله، ترجمه زبان، و حتی برنامهنویسی مشارکت کنند.
تاریخچه یادگیری ماشین نشاندهنده یک مسیر پیشرفت مداوم و ترکیب نوآوریهای محاسباتی و آماری است. از مدلهای ساده اولیه تا مدلهای پیچیده یادگیری عمیق و مدلهای زبانی بزرگ، مسیر یادگیری ماشین همچنان به سمت هوش مصنوعی عمومی (AGI) پیش میرود.