
این بخش، فصل اول خلاصهی کتاب «هوشمند, تا وقتی که نادان شود» نوشتهی امانوئل ماجیوری است.
برخی از بزرگترین چهرههای صنعتِ فناوری، هوش مصنوعی را عمیقترین اختراعِ تاریخِ بشر توصیف کردهاند. اما اگر این حرف درست است، چرا هوش مصنوعی باز هم زیرِ وعدههایش میماند؟ این اولین باری نیست که هوش مصنوعی امیدهای بزرگی برانگیخته است. در دههی ۱۹۶۰، برنامههای اولیهای که میتوانستند بازی کنند یا متن ترجمه کنند، این ادعا را دامن زدند که هوش در سطحِ انسان چیزی نزدیک است. اما این سیستمها به قواعدی از پیش تعیینشده تکیه داشتند که بهمحضِ اینکه واقعیت با آن اسکریپت جور درنمیآمد، از کار میافتادند. خوشبینی فروپاشید و بودجه هم به دنبالش. این حوزه وارد دورهای شد که بعدها «زمستانِ هوش مصنوعی» نام گرفت؛ دورهای از سرخوردگی که پیشرفت متوقف شد، هیجانها فروکش کرد و سرمایهگذاری خشک شد. دههی ۱۹۸۰ موجِ تازهای آورد، اینبار با «سیستمهای خبره» که قرار بود تصمیمگیریِ انسانی را شبیهسازی کنند. اما اینها هم زیرِ بارِ پیچیدگی از پا درآمدند و به دومین زمستانِ هوش مصنوعی و شکِ دوباره به کلِ این حوزه انجامیدند.
چیزی که موجِ امروزی را متفاوت میکند، یادگیریِ ماشین است. بهجای کدنویسیِ دستیِ منطق، این سیستمها با پیدا کردنِ الگوها در مجموعهدادههای بزرگ یاد میگیرند. اگر بخواهی مدلی محصولات را پیشنهاد بدهد یا غلطِ املایی را تصحیح کند، لازم نیست برایش توضیح بدهی اینها چه هستند؛ کافیست مثالهایی به آن بدهی تا یاد بگیرد چه ورودیهایی معمولاً با چه خروجیهایی جور درمیآیند. مدل نمیفهمد دارد چهکار میکند؛ فقط همبستگیها را پیدا میکند و قواعدی انعطافپذیر میسازد تا آنها را تکرار کند.
این فرایند در حوزههای محدود خوب کار میکند، اما اغلب اشتباه فهمیده میشود. ماشین استدلال نمیکند، فقط الگوها را کپی میکند. در یک مورد، مدلی که برای پیشبینیِ احتمالِ زندهماندنِ عابران هنگامِ عبور از خیابان آموزش دیده بود، یاد گرفت که ترکیبِ «شماره تلفن» و «قد» شاخصِ قدرتمندی است. نتیجه دقیق به نظر میرسید، اما فقط یک اتفاقِ تصادفی در دادهها بود. مدل نمیدانست شماره تلفن چیست؛ فقط به الگوهایی چسبیده بود که از قضا جور درمیآمدند. وقتی قواعد بیش از حد انعطافپذیرند یا دادهها ساختارِ ضعیفی دارند، هوش مصنوعی میتواند نتایجی تولید کند که هوشمندانه به نظر میرسند اما هیچ منطقِ واقعیای پشتشان نیست.
برخلافِ ظاهرش، یادگیریِ ماشین خودکفا نیست. هر مدلی به تصمیمهای طراحیِ انسانی وابسته است: چه دادهای استفاده شود، سیستم چطور ساختاربندی شود و چه اجازههایی داشته باشد. بیشترِ مدلها فقط با دادههای آموزشیِ برچسبخوردهی دقیق موفق میشوند، کاری که زمان، نیرویِ کار و تخصصِ زیادی میطلبد.
پس هرچند یادگیریِ ماشین از رویکردهای قبلی موفقتر بوده، هوش را حل نکرده است. بخشهایی از استدلال را تقلید میکند اما معنا را درک نمیکند. این فناوری بازتابِ ساختار و فرضیاتی است که به آن داده شده، و وقتی آنها سطحی یا معیوب باشند، خروجی هم همینطور میشود. همین فاصلهی میانِ عملکرد و درکِ واقعی است که در قلبِ سردرگمیِ مداومِ هوش مصنوعی -و محدودیتهایش- نشسته است.
برای اینکه ببینیم این فاصلهی میانِ عملکرد و درک تا کجا میتواند برسد، بیا نگاهی به یادگیریِ عمیق بیندازیم؛ بخشی از هوش مصنوعی که اغلب باهوشترین به نظر میرسد، اما عجیبترین رفتار را دارد.
