https://virgool.ir/feed/@m_67041077فهم‌نوشت، دعوتی‌ است برای آنان که می‌خواهند در میانه‌ی هیاهوی هوش مصنوعی، صدای پرسشگری و اندیشه را زنده نگه دارند.fa2026-11-10 21:35:22https://files.virgool.ir/upload/users/4916164/avatar/y6QEF3.pnghttps://virgool.ir/@m_67041077https://virgool.ir/@m_67041077/خودمختاری-در-سیستم-های-هوشمند-مبتنی-بر-یادگیری-عمیق-nbpkcanmdtk7پرسش از خودمختاری هوش مصنوعی، به‌ویژه در مدل‌های مبتنی بر شبکه‌های عصبی عمیق، یکی از مهم‌ترین مسائل فلسفه و اخلاق هوش مصنوعی در سال‌های اخیر است. سامانه‌های یادگیری عمیق امروز قادرند متن، تصویر، موسیقی و دیگر محتواهای بدیع تولید کنند و در حوزه‌های گوناگون خروجی‌هایی ارائه دهند که گاه برای ناظران انسانی غیرمنتظره است. بااین‌حال، مسئله اصلی نه توانایی این سامانه‌ها، بلکه شفافیت و دسترس‌پذیری شناختی سازوکار تولید خروجی آن‌هاست. لایه‌های پنهان شبکه‌های عصبی به‌گونه‌ای عمل می‌کنند که حتی طراحان و توسعه‌دهندگان این سامانه‌ها نیز غالبا قادر به تبیین دقیق رابطه‌ی میان ورودی‌ها و خروجی‌ها نیستند. این وضعیت که معمولا با استعاره «جعبه سیاه» توصیف می‌شود، پرسش‌های تازه‌ای درباره اراده، خودمختاری و خلاقیت ماشین‌ها پدید آورده است.(Burrell, 2016)ناتوانی ما در توضیح سازوکار درونی شبکه‌های عمیق، می‌تواند این تصور را ایجاد کند که سامانه از کنترل انسانی فراتر رفته و به‌گونه‌ای «خود» تصمیم می‌گیرد. اما این ندانستن، لزوما به معنای وجود اراده در ماشین نیست؛ بلکه ممکن است صرفا بازتابی از پیچیدگی محاسباتی سامانه و محدودیت‌های شناختی ما باشد. از همین‌جا پرسش اصلی این یادداشت شکل می‌گیرد: آیا هنگامی که یک مدل زبانی جمله‌ای بدیع تولید می‌کند یا راه‌حلی پیش‌بینی‌نشده ارائه می‌دهد، باید آن را مصداقی از خلاقیت و خودمختاری دانست، یا آنچه مشاهده می‌کنیم صرفا بازترکیبی پیچیده از الگوهای آموخته‌شده است؟شانون والور در کتاب The AI Mirror (2024) استدلال می‌کند که هوش مصنوعی بیش از آنکه موجودی خلاق و خودمختار باشد، آینه‌ای است که داده‌ها، فرهنگ و الگوهای انسانی را با نوعی اعوجاج آماری بازمی‌تاباند. از نظر او، خطر اصلی نه در پیشی گرفتن ماشین‌ها از انسان، بلکه در این است که انسان این بازتاب آماری را با خلاقیت و عاملیت واقعی اشتباه بگیرد (Vallor, 2024). بر همین اساس، این یادداشت می‌کوشد به این پرسش بپردازد که آیا عدم شفافیت ناشی از لایه‌های پنهان شبکه‌های عصبی را باید نشانه‌ای از خودمختاری و خلاقیت ماشینی دانست یا صرفا پیامد پیچیدگی محاسباتی و محدودیت‌های فهم انسانی است.خودمختاری ساختاری در شبکه‌های عصبی عمیقمفهوم «خودمختاری» در سامانه‌های مبتنی بر یادگیری عمیق، بیش از هر چیز از شیوه یادگیری و ساختار درونی آن‌ها ناشی می‌شود. شبکه‌های عصبی عمیق از لایه‌های متعددی تشکیل شده‌اند که داده‌های ورودی را گام به گام به بازنمایی‌های انتزاعی‌تر تبدیل می‌کنند تا در نهایت به یک خروجی برسند. در این میان، لایه‌های پنهان (Hidden Layers) نقش محوری دارند؛ لایه‌هایی که الگوهای پیچیده موجود در داده‌ها را شناسایی و ترکیب می‌کنند، بی‌آنکه این فرایند به‌سادگی برای انسان قابل مشاهده یا تبیین باشد. از همین رو، برخلاف سامانه‌های قاعده‌محور، تصمیم‌های یک شبکه عصبی را نمی‌توان به مجموعه‌ای از قواعد صریح و از پیش نوشته‌شده فروکاست. برنامه‌نویس ساختار شبکه، الگوریتم یادگیری و هدف آموزش را طراحی می‌کند، اما روابط میان میلیون‌ها پارامتر در جریان فرایند یادگیری و بر اساس داده‌ها شکل می‌گیرد (Goodfellow, Bengio, & Courville, 2016).از این منظر، می‌توان از نوعی «خودمختاری ساختاری» سخن گفت؛ بدین معنا که سامانه قادر است ساختار درونی خود را در چارچوب فرایند یادگیری تنظیم و اصلاح کند، بی‌آنکه هر گام از این فرایند مستقیما توسط انسان تعریف شده باشد. این ویژگی، تفاوت بنیادین یادگیری عمیق با بسیاری از سامانه‌های سنتی است که در آن‌ها مسیرهای تصمیم‌گیری و قواعد استنتاج به‌طور صریح توسط برنامه‌نویس تعریف می‌شوند. اما آیا چنین خودمختاری‌ای را باید «واقعی» تلقی کرد؟ برخی فیلسوفان استدلال می‌کنند که خودمختاری این سامانه‌ها تنها ظاهری است؛ زیرا در نهایت چارچوب یادگیری، داده‌های آموزشی، معیارهای بهینه‌سازی و هدفگذاری نهایی همگی از پیش توسط انسان تعیین می‌شوند و سامانه تنها در همین چارچوب عمل می‌کند.(Floridi & Cowls, 2021).شانون والور نیز در کتاب The AI Mirror بر این تمایز تأکید می‌کند. از نظر او، آنچه در سامانه‌های هوش مصنوعی مشاهده می‌کنیم، بیشتر نوعی استقلال عملکردی است تا خودمختاری به معنای فلسفی آن. این سامانه‌ها اگرچه می‌توانند بدون مداخله لحظه‌به‌لحظه انسان خروجی تولید کنند، اما فاقد توانایی تعیین اهداف خویش هستند؛ ازاین‌رو، نمی‌توان آن‌ها را صاحبان اراده مستقل دانست (Vallor, 2024). نسبت دادن خودمختاری به این سامانه‌ها، بیش از آنکه حاصل ویژگی ذاتی آن‌ها باشد، اغلب از ناتوانی ما در فهم کامل سازوکارهای درونی‌شان ناشی می‌شود.بنابراین، «خودمختاری ساختاری» را باید مفهومی فنی دانست، نه فلسفی. این اصطلاح به ظرفیت شبکه برای بازتنظیم درونی اشاره دارد، نه به وجود عاملیت یا اراده مستقل. تمایز میان این دو معنا، مبنای فهم دقیق‌تر مسئله خلاقیت در سامانه‌های یادگیری عمیق است؛ موضوعی که در بخش بعد به آن پرداخته خواهد شد. عدم شفافیت و دسترس‌پذیری شناختییکی از ویژگی‌های بنیادین سامانه‌های یادگیری عمیق، عدم شفافیت در فرایند تصمیم‌گیری آن‌هاست؛ ویژگی‌ای که معمولا با استعاره «جعبه سیاه» توصیف می‌شود. در این سامانه‌ها، آنچه برای کاربر و حتی طراح قابل مشاهده است، تنها داده‌های ورودی و خروجی‌های نهایی است؛ اما روابط پیچیده‌ای که در میان میلیون‌ها پارامتر و صدها لایه پنهان شکل می‌گیرد، به‌سادگی قابل مشاهده یا بازسازی نیست (Russell & Norvig, 2020).با این حال، باید میان پیچیدگی محاسباتی و خودمختاری تمایز قائل شد. دشواری در تبیین فرایندهای درونی یک مدل، لزوما به این معنا نیست که آن مدل دارای اراده یا عاملیت مستقل است. آنچه برای انسان مبهم است، ممکن است صرفا پیامد تعداد بسیار زیاد پارامترها،روابط غیرخطی و محدودیت ابزارهای تبیین باشد، نه نشانه ظهور نوعی خودمختاری در ماشین.در سال‌های اخیر، پژوهش در حوزه هوش مصنوعی تبیین‌پذیر (Explainable AI) نیز دقیقا در پاسخ به همین مسئله شکل گرفته است. هدف این حوزه، نسبت دادن عاملیت به ماشین نیست، بلکه توسعه روش‌هایی برای تبیین تصمیم‌های الگوریتمی و قابل‌فهم‌کردن آن‌ها برای انسان است. میلر (2019) با بهره‌گیری از یافته‌های علوم اجتماعی نشان می‌دهد که انسان‌ها از یک «توضیح» صرفاً انتظار توصیف فرایندهای محاسباتی را ندارند؛ بلکه توضیح زمانی رضایت‌بخش است که امکان فهم، ارزیابی و نسبت‌دادن مسئولیت را نیز فراهم کند. ازاین‌رو، شفافیت الگوریتمی صرفاً یک مسئله فنی نیست، بلکه به نحوه فهم انسان از تصمیم و مسئولیت نیز مربوط می‌شود.همین مسئله، پیامدهای مهم اخلاقی به همراه دارد. سامانه‌های هوش مصنوعی امروز در تصمیم‌هایی مانند استخدام، اعطای وام، تشخیص پزشکی و ارزیابی ریسک کیفری نقش فزاینده‌ای ایفا می‌کنند. اگر مبنای این تصمیم‌ها برای انسان قابل تبیین نباشد، امکان نقد، اصلاح و پاسخ‌خواهی نیز از بین می‌رود. در چنین شرایطی، این پرسش مطرح می‌شود که مسئولیت یک تصمیم ناعادلانه بر عهده چه کسی است: طراح، کاربر،سازمان بهره‌بردار یا خود سامانه؟ازاین‌رو، همان‌گونه که راسل و نوروینگ یادآور می‌شوند، عدم شفافیت ذاتی شبکه‌های عصبی می‌تواند مرز میان «ابزار» و «کنشگر» را در نگاه ما مخدوش کنند (Russell & Norvig, 2020). اما این ابهام نباید به نسبت دادن خودمختاری  اخلاقی به ماشین بینجامد. نسبت دادن خودمختاری اخلاقی به چنین سیستم‌هایی ساده‌انگاری است، زیرا آنها در نهایت محصول طراحی، داده‌ها و اهدافی است که انسان تعیین کرده است. بنابراین، آنچه در نگاه نخست خودمختاری به نظر می‌رسد، بیش از آنکه ویژگی ذاتی سامانه باشد، بازتاب محدودیت‌های معرفتی ما در مواجهه با سامانه‌های پیچیده است. خلاقیت یا بازتاب؟توانایی سامانه‌های هوش مصنوعی در تولید متن، تصویر، موسیقی و دیگر خروجی‌هایی که برای ناظر انسانی تازه و بدیع به نظر می‌رسند، یکی از مهم‌ترین دلایل نسبت دادن خلاقیت به این سامانه‌هاست. اما پرسش اساسی این است که آیا بدیع بودن یک خروجی، به‌تنهایی برای خلاق نامیدن پدیدآورنده آن کافی است؟مارگارت بودن (Boden, 1998) در تحلیل خود از خلاقیت، میان سه گونه خلاقیت تمایز می‌گذارد: خلاقیت ترکیبی (Combinational Creativity)، که حاصل بازترکیب عناصر موجود در قالبی تازه است؛ خلاقیت اکتشافی (Exploratory Creativity)، که به کشف امکانات جدید در یک فضای مفهومی می‌انجامد؛ و خلاقیت تحول‌آفرین (Transformational Creativity)، که خود فضای مفهومی را دگرگون می‌کند. بر این اساس، بسیاری از سامانه‌های یادگیری عمیق را می‌توان در بهترین حالت واجد نوعی خلاقیت ترکیبی یا اکتشافی دانست؛ زیرا خروجی‌های آن‌ها از بازترکیب الگوهایی شکل می‌گیرد که پیش‌تر در داده‌های آموزشی فراگرفته‌اند (Boden, 1998).با این حال، بدیع بودن آماری یک خروجی هوش مصنوعی را نباید با خلاقیت به معنای فلسفی آن یکسان دانست. خروجی یک مدل زبانی ممکن است برای کاربر غیرمنتظره یا حتی شگفت‌آور باشد، اما این به‌خودی‌خود نشان‌دهنده وجود نیت، آگاهی یا عاملیت در فرایند تولید آن نیست. آنچه مدل انجام می‌دهد، بهینه‌سازی روابط آماری میان داده‌ها از طریق تنظیم پارامترهای خود است، نه انتخاب آگاهانه میان ایده‌ها یا تأمل درباره ارزش و معنای آن‌ها.شانون والور در The AI Mirror همین تمایز را با استعاره «آینه» توضیح می‌دهد. از نظر او، هوش مصنوعی بیش از آنکه آفریننده باشد، بازتاب‌دهنده‌ی فرهنگ، زبان و الگوهای انسانی است؛ بازتابی که به دلیل پیچیدگی محاسباتی و حجم عظیم داده‌ها، گاه چنان بدیع به نظر می‌رسد که انسان آن را با خلاقیت اصیل اشتباه می‌گیرد (Vallor, 2024). خطر اصلی، نه در توانایی ماشین برای تولید خروجی‌های نو، بلکه در تمایل ما به انسان‌انگاری این فرایندها و نسبت دادن ویژگی‌هایی مانند خلاقیت و خودمختاری به آن‌هاست.مقایسه این فرایند با خلاقیت انسانی نیز همین تمایز را آشکار می‌کند. حتی اگر خلاقیت انسان را تا حدی مبتنی بر بازترکیب تجربه‌های پیشین بدانیم، این فرایند با نیت، معنا، خودآگاهی و امکان بازاندیشی نسبت به انتخاب‌های خویش همراه است (Gaut, 2010). برای مثال، یک شاعر می‌تواند توضیح دهد چرا استعاره‌ای خاص را انتخاب کرده است؛ اما شبکه‌ی عصبی تنها وزن‌ها را بهینه کرده و مسیر محاسباتی‌اش را طی می‌کند که قابل بازسازی یا توضیح معنادار نیست. همین رو، بسیاری از فیلسوفان، آنچه «خلاقیت ماشینی» نامیده می‌شود را نه خلاقیتی اصیل، بلکه نوعی شبیه‌سازی یا تقلید پیشرفته از فرایندهای خلاق اصیل و انسانی می‌دانند (Bostrom, 2014).ازاین‌رو، همان‌گونه که عدم شفافیت شبکه‌های عصبی را نمی‌توان دلیلی بر خودمختاری آن‌ها دانست، بداعت خروجی‌هایشان نیز به‌تنهایی گواه خلاقیت نیست. در هر دو مورد، آنچه ما به سامانه نسبت می‌دهیم، بیش از آنکه ناشی از ویژگی‌های ذاتی آن باشد، بازتابی از پیچیدگی محاسباتی مدل و محدودیت‌های معرفتی ما در فهم سازوکارهای آن است. نتیجه‌گیریبحث درباره‌ی خودمختاری در سامانه‌های مبتنی بر یادگیری عمیق، بیش از آنکه به توانایی‌های فنی این سامانه‌ها مربوط باشد، به نحوه تفسیر ما از این توانایی‌ها بازمی‌گردد. پیچیدگی شبکه‌های عصبی و عدم شفافیت فرایندهای درونی آن‌ها، این تصور را پدید می‌آورد که ماشین‌ها به سطحی از عاملیت و خلاقیت مستقل دست یافته‌اند. اما آنچه در این یادداشت بررسی شد، نشان می‌دهد که چنین برداشتی بیش از آنکه بیانگر ویژگی‌های ذاتی این سامانه‌ها باشد، بازتابی از محدودیت‌های معرفتی ما در فهم سازوکارهای آن‌هاست.از همین رو، دشواری در تبیین تصمیمات الگوریتمی را نباید با وجود خودمختاری در ماشین یکسان دانست و بدیع بودن خروجی‌های هوش مصنوعی نیز به‌تنهایی نمی‌تواند دلیل برای خلاقیت اصیل باشد. آنچه این سامانه‌ها انجام می‌دهند، هرچند از منظر فنی شگفت‌انگیز است، همچنان در چارچوب داده‌ها، اهداف و محدودیت‌هایی شکل می‌گیرد که انسان طراحی کرده است.شانون والور در The AI Mirror به‌درستی هشدار می‌دهد که مهم‌ترین چالش عصر هوش مصنوعی نه تبدیل شدن ماشین‌ها به موجوداتی خودمختار و خلاق است و نه رقابت انسان با ماشین‌های خودمختار؛ بلکه چالش اصلی، شیوه مواجهه‌ی ما با این فناوری‌هاست. اگر بازتاب‌های آماری را با عاملیت، خودمختاری یا خلاقیت اشتباه بگیریم، در واقع مرزهای مفاهیم بنیادین فلسفی را مخدوش کرده‌ایم و مسئولیت اخلاقی را از انسان به سامانه‌هایی منتقل کرده‌ایم که نه قصد دارند، نه معنا می‌آفرینند و نه پاسخ‌گو هستند. راه برون‌رفت از این وضعیت، همان‌گونه که والور پیشنهاد می‌کند، بازسازی نهادها و فضیلت‌های انسانی است تا اطمینان حاصل شود هوش مصنوعی نه جایگزین، بلکه مکملِ توانایی‌های انسانی باقی بماند. در نهایت، تنها از رهگذر چنین ژرف‌اندیشی است که می‌توان همچنان خلاقیت و خودمختاری را، دست‌کم به معنای فلسفی آن، خصیصه‌ای متمایز و انسانی دانست (Vallor, 2024).از این منظر، پرسش اصلی دیگر این نیست که آیا هوش مصنوعی خودمختار یا خلاق شده است؛ بلکه این است که ما با چه معیارهایی خودمختاری و خلاقیت را به آن نسبت می‌دهیم. تا زمانی که این معیارها با مفاهیمی چون نیت، معنا و مسئولیت اخلاقی گره خورده‌اند، به نظر می‌رسد آنچه امروز در هوش مصنوعی مشاهده می‌کنیم، بیش از آنکه نشانه ظهور یک فاعل مستقل باشد، بازتابی پیچیده از توانایی‌ها، داده‌ها و محدودیت‌های خود انسان است.منابع • Boden, M. A. (1998). Creativity and artificial intelligence. Artificial Intelligence, 103(1–2), 347–356. • Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.• Burrell, J. (2016). How the machine “thinks”: Understanding opacity in machine learning algorithms. Big Data & Society, 3(1).• Floridi, L., & Cowls, J. (2021). A unified framework of five principles for AI in society. Harvard Data Science Review, 3(1).• Gaut, B. (2010). The philosophy of creativity. Philosophy Compass, 5(12), 1034–1046.• Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep learning. MIT Press.• Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1–38.• Russell, S., & Norvig, P. (2020). Artificial intelligence: A modern approach (4th ed.).Pearson.• Vallor, S. (2024). The AI Mirror: How to reclaim our humanity in an age of machine thinking. نوشته: نرجس صابرینسخه اولیه این یادداشت پیش‌تر در زاویه منتشر شده است. نسخه حاضر با هدف آرشیو و دسترسی آسان‌تر در ویرگول بازنشر شده است.https://zaviehmag.ir/?p=34440Oxford University Pressفهم_نوشتفهم_نوشتSun, 30 Aug 2026 15:24:44 +0330https://virgool.ir/@m_67041077/هوش-مصنوعی-انسان-و-جهانی-که-در-حال-تغییر-است-xg2ioj80zghiهوش مصنوعی را نمی‌توان صرفا در چارچوب توسعه یک فناوری جدید فهم کرد. ظهور یادگیری عمیق، هوش مصنوعی مولد و سامانه‌های خودکار، در حال تغییر نسبت میان انسان و فناوری و بازتعریف مفاهیمی است که علوم انسانی دهه‌ها درباره آن‌ها اندیشیده است؛ از آگاهی، شناخت، عاملیت و تصمیم‌گیری گرفته تا اخلاق، مسئولیت، قدرت و آزادی.مسئله از جایی جدی می‌شود که هوش مصنوعی دیگر فقط ابزاری برای انجام کارهای ما نیست؛ بلکه کم‌کم در فرایندهای شناختی و تصمیم‌گیری ما مداخله می‌کند: می‌بیند، پیش‌بینی می‌کند، پیشنهاد می‌دهد، روایت می‌سازد و حتی بر تصمیم‌های ما اثر می‌گذارد. در چنین شرایطی، مرز میان ابزار و عامل، انسان و ماشین، پیشنهاد و تصمیم، واقعیت و روایت دیگر به سادگی قابل ترسیم نیست.به همین دلیل، مطالعه هوش مصنوعی نمی‌تواند به مهندسی و علوم کامپیوتر محدود بماند. هوش مصنوعی به همان اندازه که یک مسئله فنی است، یک مسئله شناختی، فلسفی، اخلاقی، اجتماعی و سیاسی نیز هست.شاید مهم‌ترین وظیفه علوم انسانی در عصر هوش مصنوعی، پیش‌بینی آینده فناوری نباشد؛ بلکه طرح پرسش‌هایی باشد که فناوری به‌تنهایی نمی‌تواند به آن‌ها پاسخ دهد.اگر الگوریتم‌ها انتخاب کنند چه چیزی ببینیم و چه چیزی نبینیم، آیا هنوز انتخاب‌هایمان کاملا متعلق به خودمان است؟اگر هوش مصنوعی بتواند برای هر فرد متقاعدکننده‌ترین روایت را تولید کند، حقیقت در جهانی که هرکس نسخه‌ای شخصی‌سازی‌شده از واقعیت دریافت می‌کند چه معنایی خواهد داشت؟اگر یک ماشین بتواند در تشخیص بیماری، انتخاب شغل یا ارزیابی افراد تصمیم‌هایی دقیق‌تر از انسان بگیرد، آیا باید تصمیم‌گیری را به آن واگذار کنیم؟اگر هوش مصنوعی بتواند شعر بگوید، موسیقی بسازد و تصویر خلق کند، خلاقیت انسانی چه جایگاهی پیدا می‌کند؟و اگر روزی دیگر نتوانیم مطمئن باشیم صدایی که می‌شنویم یا تصویری که می‌بینیم واقعا توسط یک انسان تولید شده، اعتماد اجتماعی چگونه دوام خواهد آورد؟شاید عجیب‌تر از همه این باشد که هوش مصنوعی فقط در حال یادگیری درباره جهان نیست بلکه در حال یادگیری درباره خود ماست: علایقمان، رفتارمان، انتخاب‌هایمان و الگوهای تصمیم‌گیری‌مان.پس مسئله هوش مصنوعی فقط این نیست که:«ماشین‌ها در آینده چه خواهند کرد؟»پرسش مهم‌تر این است:ما در کنار ماشین‌های هوشمند چه نوع انسان‌هایی خواهیم بود؟و شاید وظیفه علوم انسانی دقیقا از همین‌جا آغاز شود؛ جایی که دیگر سؤال فقط این نیست که:«چه چیزی می‌توانیم بسازیم؟»بلکه باید بپرسیم:«آیا باید آن را بسازیم؟»«چه کارهایی را نباید به ماشین واگذار کنیم؟»و مهم‌تر از همه:«در این آینده، چه چیزی را باید از انسان بودن حفظ کنیم؟»این صفحه از همین پرسش‌ها آغاز می‌شود؛یادداشت‌هایی درباره هوش مصنوعی، انسان و جهانی که در حال تغییر است.نرجس صابری|پژوهشگر علوم شناختی و هوش مصنوعیفهم_نوشتفهم_نوشتTue, 25 Aug 2026 20:53:45 +0330