چند روز پیش داشتم مقاله تازهای از BCG را با عنوان «وقتی همه از هوش مصنوعی استفاده میکنند، شرکتها در معرض از دستدادن مهارتهای حیاتی قرار میگیرند» میخواندم. در ماههای اخیر تعداد مقالههایی از این جنس، آن هم از منابع مهم و معتبر، پیوسته بیشتر شده است؛ مقالههایی درباره کاهش حافظه، تضعیف تفکر انتقادی، افت توان یادگیری و حالا از دسترفتن قابلیتهای شناختی. خود عبارت «از دستدادن قابلیتهای شناختی» هم بهاندازه کافی ترسناک و مبهم هست، چه برسد به اینکه واقعاً بخواهیم آن را از دست بدهیم! :)) و متوجه از دست دادن آن هم نشویم!
البته من احتمالاً آخرین نفری هستم که بتواند از موضع یک مخالف سرسخت هوش مصنوعی درباره خطرات آن سخنرانی کند. استفاده من از هوش مصنوعی آنقدر زیاد شده که گاهی واقعاً یادم نمیآید پیش از ChatGPT برخی کارها را چگونه انجام میدادم، اطلاعات مورد نیازم را چطور پیدا میکردم یا برای یادگرفتن یک موضوع از کجا شروع میکردم. بنابراین این نوشته اعلام جنگ با AI نیست. بیشتر شبیه نگرانی کسی است که داخل قطار نشسته، از سرعتش هم لذت میبرد، اما گاهی از پنجره بیرون را نگاه میکند و با خودش میگوید:
مطمئنیم هنوز روی ریل درستی حرکت میکنیم؟

مقاله BCG برای این وضعیت از اصطلاح «مهارتزدایی توزیعشده» استفاده میکند. منظور وضعیتی است که در آن ضعف شناختی فقط برای یک یا چند کارمند اتفاق نمیافتد، بلکه تعداد زیادی از افراد سازمان بهطور همزمان بخشی از فهم مسئله، تحلیل، قضاوت، خلاقیت و تصمیمگیری خود را به هوش مصنوعی واگذار میکنند. در بررسی BCG از ۷۰ مدیر ارشد، نیمی از آنها گفتهاند نشانههایی از این فرسایش مهارتی را همین حالا در سازمان خود مشاهده میکنند و بیش از ۶۰ درصد معتقدند این موضوع طی سه تا پنج سال آینده به یک تهدید جدی تبدیل خواهد شد. بااینحال، فقط حدود یک شرکت از هر ده شرکت، برنامه مشخصی برای مواجهه با آن دارد. این تحقیق بهتنهایی برای اثبات یک رابطه علّی قطعی کافی نیست، اما به نظرم برای جدیگرفتن مسئله کاملاً کافی است.

مهمترین نکتهای که از این مقاله برای من باقی ماند این بود که ممکن است یک سازمان از بیرون سریعتر، پربازدهتر، چابکتر و مدرنتر به نظر برسد، اما درون آن توان فهم مسئله، مقاومت در برابر پاسخ غلط، ساخت فرضیه جایگزین و پذیرش مسئولیت بهتدریج تحلیل برود. چنین سازمانی میتواند خروجی بیشتری تولید کند، اما لزوماً عقل بیشتری تولید نمیکند.
احتمالاً همه ما این تغییر را تا حدی تجربه کردهایم. گزارشها سریعتر آماده میشوند، ارائهها از همیشه منظمترند، تقریباً برای هر مسئلهای چند چارچوب، چند سناریو و چند پیشنهاد اجرایی وجود دارد و حتی متوسطترین خروجیها نیز ظاهر نسبتاً حرفهای پیدا کردهاند. مسئله این است که این ظاهر مرتب، تشخیص اینکه چه کسی واقعاً موضوع را فهمیده و چه کسی صرفاً یک خروجی مرتب تولید کرده، دشوارتر میکند.
شاید تا چند سال پیش، کیفیت پایین یک تحلیل خودش را با متن آشفته، استدلال ناقص یا ساختار ضعیف نشان میداد. امروز یک تحلیل میتواند از اساس اشتباه باشد، اما با تیترهای دقیق، دستهبندیهای تمیز و ادبیاتی کاملاً مطمئن ارائه شود. حتی ممکن است یک جدول دو در دو هم وسط آن داشته باشد که دیگر تقریباً جای هیچ تردیدی باقی نگذارد!
اینجاست که تفاوت میان تقویتشدن با هوش مصنوعی و وابستگی به هوش مصنوعی اهمیت پیدا میکند. در حالت اول، فرد ابتدا مسئله را میفهمد، بر اساس تجربه و دانش خود فرضیه میسازد و سپس از هوش مصنوعی برای گسترش دامنه تحلیل، نقد استدلال یا افزایش سرعت استفاده میکند. در حالت دوم، خود مسئله، چارچوب تحلیل و حتی نتیجهگیری اولیه از مدل دریافت میشود و سهم انسان به انتخاب، مرتبسازی و کمی ویرایش محدود میماند.
خطر دقیقاً از جایی آغاز میشود که این وابستگی دیگر فقط یک عادت فردی نیست و به شیوه غالب کار در کل سازمان تبدیل میشود. در چنین شرایطی ممکن است بهرهوری کوتاهمدت واقعاً افزایش پیدا کند، اما قابلیت بنیادی سازمان برای فکرکردن در بلندمدت کاهش یابد. به بیان ساده، ممکن است بدنه فکری سازمان از همیشه پرکارتر باشد، ولی کمتر از همیشه فکر کند.
بخش دیگری که برای من بسیار جالب بود، مفهوم «بدهی شناختی» است. ما سالها درباره بدهی فنی شنیدهایم؛ تصمیمهای سریعی که تیم فنی برای جلوبردن کار میگیرد، اما بعداً خودشان را در پیچیدگی کد، افزایش خطا و هزینه نگهداری نشان میدهند. درباره بدهی مدیریتی هم میتوان صحبت کرد؛ تصمیمهای عقبافتاده، مسئولیتهای مبهم، تعارضهای حلنشده و ساختارهایی که برای مدتی کار را جلو میبرند، اما در آینده هزینه سنگینی به سازمان تحمیل میکنند.
بدهی شناختی از جایی شکل میگیرد که برای رسیدن سریعتر به خروجی، بخشی از فرایند تفکر، یادگیری و قضاوت را کنار میگذاریم. تفاوتش با بدهی فنی این است که بدهی فنی بالاخره خودش را داخل محصول یا کد نشان میدهد، اما بدهی شناختی میتواند برای مدت زیادی پشت یک پرامپت خوب، گزارشهای شکیل و خروجیهای تر و تمیز قایم شود.
همهچیز تا زمانی خوب پیش میرود که سازمان با مسائل نسبتاً آشنا روبهروست؛ مسائلی که نمونه مشابه دارند، داده تاریخی دربارهشان وجود دارد و میتوان با ترکیب الگوهای گذشته برایشان پاسخ قابلقبولی تولید کرد. مشکل زمانی آشکار میشود که اتفاقی رخ دهد که غیرخطی، غیرمنتظره و بهشدت نیازمند خلاقیت و قضاوت انسانی باشد. آنجا دیگر کافی نیست چند گزارش قبلی را کنار هم بگذاریم و یک جمعبندی منطقی تولید کنیم. سازمان باید بتواند بفهمد چه چیزی تغییر کرده، چرا الگوهای قبلی دیگر کار نمیکنند و مسئله جدید اساساً چگونه باید تعریف شود.
ممکن است درست در همان لحظه بفهمیم مهارتی که تصور میکردیم در مدیران ارشد و نیروهای فکری سازمان وجود دارد، مدتهاست تمرین نشده و بهتدریج از بین رفته است. تا پیش از بحران، خروجیها همچنان خوب بودهاند و کسی هم چیز خاصی احساس نکرده است. بدهی شناختی دقیقاً به همین دلیل خطرناک است؛ چون معمولاً زمانی خودش را نشان میدهد که به نظرم دیگه همه قبول داریم که یکم دیر شده!
من بهدلیل علاقهای که به نظریه قابلیتهای پویای دیوید تیس (David Teece) دارم، ناخودآگاه این مسئله را از همان زاویه هم میبینم. سازمان برای بقا فقط نباید عملیات فعلی خود را بهتر انجام دهد؛ باید بتواند تغییرات محیط را تشخیص دهد، فرصتهای جدید را بهموقع تصاحب کند و در صورت لزوم خودش را دگرگون سازد. هر سه توانمندی به کنجکاوی، درک زمینه، قضاوت در ابهام، خلاقیت و تعریف درست مسئله وابستهاند.
هوش مصنوعی ممکن است یک سازمان را در پیمودن مسیر فعلی بسیار سریعتر کند، اما اگر در همان زمان توان تشخیص مسیر جدید را از آن بگیرد، عملاً با سازمانی مواجهیم که در جاده مستقیم فوقالعاده سریع حرکت میکند، ولی شاید دیگر نتواند سر پیچ فرمان را بچرخاند.
یکی دیگر از پیامدهای مهم این وضعیت، چیزی است که میتوان آن را مسئولیتزدایی الگوریتمی نامید. در بررسی BCG، بیش از نیمی از مدیران نشانههایی از کاهش مالکیت و مسئولیتپذیری را مشاهده کردهاند. شاید یکی از دلایلش این باشد که جمله «هوش مصنوعی این را پیشنهاد داد» آرامآرام دارد به یک سپر جدید برای فاصلهگرفتن از نتیجه تصمیم تبدیل میشود.
در سازمانهای بوروکراتیک، افراد اغلب پشت فرایند پنهان میشدند: «روال سازمان این بود»، «از بالا ابلاغ شده بود» یا «طبق دستورالعمل عمل کردیم». در سازمان مبتنی بر هوش مصنوعی، ممکن است همان رفتار با ادبیات جدیدی تکرار شود: «مدل این نتیجه را داده بود.»
اما هوش مصنوعی تصمیمگیرنده مستقل سازمان نیست. یک نفر تصمیم گرفته از کدام ابزار استفاده شود، یک نفر اطلاعات و زمینه را در اختیار آن قرار داده، یک نفر خروجی را پذیرفته و یک نفر آن را وارد فرایند تصمیمگیری کرده است. نمیتوانیم بخشی از قضاوت خود را به ابزار واگذار کنیم و بعد مسئولیت نتیجه را هم همراه آن تحویل بدهیم.
به نظرم اصل باید بسیار ساده باشد: هر کس خروجی هوش مصنوعی را در یک تصمیم سازمانی به کار میگیرد، همچنان مالک آن تصمیم و پیامدهایش باقی میماند. این اصل هم نباید فقط در یکی از همان فایلهای جذاب «چارچوب اخلاقی استفاده از هوش مصنوعی» نوشته شود و بعد در یک پوشه بسیار امن آرام بگیرد! باید در شرح مسئولیت، فرایند تأیید، ارزیابی عملکرد و سازوکارهای نظارتی سازمان دیده شود.
یکی از بخشهای مقاله که با مشاهدات شخصی من همخوانی زیادی داشت، خطر کاهش تنوع فکری و اختلافنظر در سازمان بود. ۴۹ درصد مدیران مورد بررسی از کاهش تنوع فکری و ۴۳ درصد از کاهش بحثهای سازنده صحبت کردهاند. وقتی افراد از مدلهای مشابه، منابع مشابه و الگوهای فکری مشابه استفاده میکنند، طبیعی است که خروجیهای آنها نیز به یکدیگر نزدیکتر شود.
من خودم مدتی است در برخی جلسات مرتبط با پروژههای استراتژیک و محصولی، اختلافنظرهای کمتری میبینم. طبیعتاً نمیتوان تمام این موضوع را به هوش مصنوعی نسبت داد. فشار زمان، روابط قدرت، فرهنگ سازمانی و حتی خستگی افراد هم میتواند باعث شود افراد کمتر مخالفت کنند. بااینحال، تصور کنید اعضای یک تیم پیش از جلسه، همگی مسئله را با یک مدل نسبتاً مشابه بررسی کرده باشند. احتمال زیادی وجود دارد که با چارچوبها، فرضها و حتی واژگان نزدیک به هم وارد جلسه شوند.
در این حالت، جلسهای که باید محل برخورد چند مدل ذهنی مستقل باشد، آرامآرام به مراسم تأیید یک اجماع مصنوعی تبدیل میشود. همه کموبیش با هم موافقاند، جلسه سریعتر پیش میرود و تصمیم هم بدون دردسر گرفته میشود؛ دقیقاً همان چیزی که معمولاً در ظاهر نشانه یک جلسه موفق تلقی میکنیم.
اما اختلافنظر فقط مانعی در برابر سرعت نیست. اختلافنظر خودش اطلاعات تولید میکند. وقتی دو نفر با دادههای یکسان به نتایج متفاوتی میرسند، ناچار میشویم فرضهای آنها، منطق تحلیل و معیارهای تصمیمشان را بررسی کنیم. ممکن است یکی از آنها چیزی را دیده باشد که دیگری ندیده است. اگر هوش مصنوعی این تفاوتها را صاف کند، احتمالاً سرعت بالاتر میرود، ولی بخشی از تنوع شناختی سازمان نیز از بین میرود.
به نظرم تفکر انتقادی یکی از نخستین قابلیتهایی است که هوش مصنوعی میتواند از ما بگیرد؛ نه با منعکردن آن، بلکه با ایجاد این احساس که دیگر چندان به آن احتیاج نداریم. وقتی پاسخها سریع، مرتب و قانعکنندهاند، انرژی روانی کمتری برای مخالفت باقی میماند. بهویژه اینکه مخالفت با یک همکار هنوز ممکن است به بحثی واقعی منجر شود، اما مخالفت با یک متن بسیار مطمئن و منظم که ظاهراً «همه جوانب را بررسی کرده»، کمی سختتر است.
شاید استفاده بهتر این باشد که از هوش مصنوعی فقط برای رسیدن به یک جواب واحد استفاده نکنیم. میتوانیم از آن بخواهیم مسئله را از منظر یک رقیب، مشتری ناراضی، نهاد ناظر یا یک مدیر عملیاتی بدبین ببیند. نه برای اینکه اختلافنظر مصنوعی را جایگزین اختلافنظر انسانی کنیم، بلکه برای اینکه دوباره چیزی برای بحثکردن روی میز بگذاریم. گاهی بهترین نقش هوش مصنوعی این نیست که باهوشترین فرد جلسه باشد؛ شاید بهتر باشد اعصابخردکنترین فرد جلسه باشد!
اما شاید مهمترین بخش مقاله برای من، مسئله تبدیل نیروی تازهکار به نیروی باتجربه بود. ۵۳ درصد مدیران مورد بررسی BCG، کندشدن رشد نیروهای جوان را یکی از نشانههای اصلی فرسایش مهارت دانستهاند. مسئله این است که بسیاری از کارهایی که اکنون بهراحتی به هوش مصنوعی واگذار میشوند، فقط کارهای ساده و کماهمیت نبودند؛ بخشی از مسیر یادگیری افراد نیز بودند.
اگر بیش از شش سال سابقه کاری دارید، احتمالاً بخشی از یادگیری خود را در دورهای گذراندهاید که ChatGPT وجود نداشت. مجبور بودید خودتان جستوجو کنید، گزارشهای طولانی بخوانید، با فایلهای ناقص سروکله بزنید، چند بار اشتباه کنید و برای فهمیدن یک فرایند از چند نفر سؤال بپرسید. بخشی از کارها هم واقعاً تکراری، خستهکننده و بهظاهر بیمعنا بودند؛ همان چیزی که معمولاً از آن با عنوان «خاک خوردن» یاد میکنیم.
من قصد ندارم کار بیهوده یا مدیریت بد را رمانتیک کنم. هر کار تکراری الزاماً ارزش آموزشی ندارد و بسیاری از کارهایی که زمانی به نیروهای تازهکار سپرده میشدند، واقعاً بهتر است برای همیشه خودکار شوند. اما بخش مهمی از درک من از عملیات، نه از مطالعه مدلها و چارچوبها، بلکه از دل همان کارهای روتین و جزئی به وجود آمد. از همانجا فهمیدم فاصله میان تصمیم مدیریتی و اجرای واقعی آن چقدر زیاد است، استثناها چگونه کل فرایند را تغییر میدهند و چرا چیزی که روی کاغذ بسیار ساده است، در عمل میتواند چندین هفته همه را درگیر کند.
حالا نیروی تازهکاری را تصور کنید که از نخستین روز ورود به سازمان با هوش مصنوعی کار میکند. احتمالاً خود ما هم تشویقش میکنیم بیشتر از آن استفاده کند، سریعتر یاد بگیرد و خروجی حرفهایتری تحویل دهد. این فرد ممکن است در همان ماههای اول گزارش یا تحلیلی آماده کند که از نظر ظاهر به خروجی فردی با چند سال سابقه نزدیک باشد. اما شباهت خروجی، لزوماً به معنای شباهت قضاوت و مدل ذهنی نیست.
اینجا با تناقض عجیبی روبهرو میشویم. از یک طرف بسیاری از کارهای سطح ورودی را حذف میکنیم؛ از طرف دیگر انتظار داریم نیروی تازهکار خیلی زود در سطح فردی عمل کند که پنج یا ده سال تجربه دارد. در واقع نردبان شغلی را کوتاه میکنیم، بدون اینکه توضیح دهیم نردبان یادگیری قرار است چگونه جایگزین شود.
راستش را بخواهید، من پاسخ روشنی برای این مسئله ندارم. حتی درباره خودم گاهی فکر میکنم اگر امروز تا این اندازه به هوش مصنوعی وابسته شدهام، فردی که از نخستین روز زندگی حرفهای خود با آن شروع کرده، قرار است چگونه به یک نیروی واقعاً باتجربه تبدیل شود؟ آیا بعد از دو سال، فقط در تولید خروجی سریعتر خواهد بود یا در فهم مسئله، تشخیص خطا و تصمیمگیری نیز رشد کرده است؟
یکی از مثالهای جالب مقاله به شرکت شل مربوط است. در آنجا از نیروهای تازهکار خواسته میشود ابتدا خودشان مسئله را تعریف کنند، فرضهایشان را بنویسند و تحلیل اولیهای ارائه دهند و فقط پس از آن از هوش مصنوعی برای توسعه یا نقد کار استفاده کنند. نکته مهم این نیست که استفاده از هوش مصنوعی به تعویق میافتد؛ مهم این است که فرد پیش از دیدن پاسخ آماده، ناچار میشود چیزی از خودش روی میز بگذارد.
شاید قرار نیست نیروهای جدید همان سختیهای نسل قبل را عیناً تکرار کنند. اصلاً منطقی هم نیست که برای حفظ سنت، آنها را وادار کنیم کارهایی را انجام دهند که یک ابزار در چند ثانیه بهتر انجام میدهد. اما سازمان باید بهصورت آگاهانه جایگزینی برای آن تجربههای ازدسترفته طراحی کند. اگر بخشی از کار حذف میشود، باید روشن باشد قابلیت شناختی نهفته در آن کار چگونه قرار است از مسیر دیگری ساخته شود. وگرنه ممکن است چند سال بعد تعداد زیادی نیروی میانی داشته باشیم که خروجیهای بسیار خوبی تولید میکنند، اما تعداد افراد واقعاً باتجربه کمتر و کمتر شود.
از میان تمام مهارتهایی که مقاله درباره آنها هشدار میدهد، به نظرم توان فهم و صورتبندی مسئله از همه مهمتر است. پاسخ خوب به سؤال اشتباه، همچنان پاسخ اشتباه است؛ فقط ممکن است بهدلیل کیفیت بالای نگارش و ظاهر منطقی آن، دیرتر متوجه اشتباه خود شویم.
در بسیاری از مسائل کسبوکار، مزیت اصلی در یافتن پاسخ نیست. مزیت در این است که بفهمیم اساساً باید چه سؤالی بپرسیم. کاهش فروش ممکن است مسئله اصلی نباشد و فقط نشانه افت کیفیت مشتریان، ضعف محصول یا تغییر رفتار بازار باشد. پایینبودن بهرهوری شاید ناشی از عملکرد افراد نباشد و ریشه آن در طراحی غلط فرایند قرار داشته باشد. مشتری هم ممکن است ویژگی تازهای نخواهد و مسئله واقعی او در نقطه دیگری از تجربه شکل گرفته باشد.
هوش مصنوعی میتواند برای هرکدام از این صورتبندیها تحلیل مفصلی تولید کند. مسئله این است که انتخاب صورتبندی، خودش یک تصمیم استراتژیک است. اگر بتوانیم همین یک قابلیت را از دهان شیر هوش مصنوعی بیرون بکشیم و برای خودمان نگه داریم، به نظرم واقعاً گل را زدهایم!
پرسش سخت این است که چگونه. پاسخ مقاله بیش از آنکه در محدودکردن استفاده از هوش مصنوعی باشد، در طراحی شیوه استفاده از آن است. بعضی مراحل کار باید انسانی باقی بمانند، نه چون هوش مصنوعی توان انجامشان را ندارد، بلکه چون ما نیاز داریم انسانها همچنان انجامدادنشان را بلد باشند. تعریف اولیه مسئله، نوشتن فرضها، توضیح منطق تصمیم و پذیرش مسئولیت نتیجه، از جمله این مراحلاند.
در برخی مسائل نیز شاید بهتر باشد انسان پیش از دیدن پاسخ مدل، برداشت خود را ثبت کند. پاسخ آماده، هرچقدر هم که ناقص باشد، میتواند بهسرعت تبدیل به لنگر ذهنی شود و مسیر فکر را محدود کند. همچنین سازمانها باید برای بحث، مخالفت و تفکر مستقل عمداً فضا بسازند. مقاله از تجربههایی مانند جلسات حل مسئله بدون هوش مصنوعی و تمرینهایی برای نقد خروجی مدلها نام میبرد. ممکن است این کارها از منظر بهرهوری کوتاهمدت کمی عجیب به نظر برسند، اما همانطور که سازمان برای شرایط بحرانی تمرین میکند، شاید لازم باشد برای حفظ توان فکرکردن نیز تمرین داشته باشد.
در نهایت، مهارت انسانی چیزی نیست که یک بار به دست بیاوریم و برای همیشه در اختیارمان باقی بماند. اگر از قضاوت، خلاقیت، استدلال و صورتبندی مسئله استفاده نکنیم، احتمالاً بهتدریج ضعیف میشوند. اینکه هوش مصنوعی میتواند کاری را انجام دهد، لزوماً به این معنا نیست که انسان دیگر نباید هیچگاه آن را انجام دهد.
به نظرم بزرگترین ریسک هوش مصنوعی این نیست که انسان را از فرایند حذف کند. خطر بزرگتر این است که انسان را ظاهراً در فرایند نگه دارد، اما توانایی مستقل او برای فهم مسئله، قضاوت، مخالفت و پذیرش مسئولیت را آرامآرام از بین ببرد.
در این صورت احتمالاً با سازمانهایی روبهرو خواهیم شد که از همیشه سریعترند، خروجی بیشتری تولید میکنند و بسیار مدرن به نظر میرسند؛ اما درست در لحظهای که واقعاً باید فکر کنند، دیگر معلوم نیست چه کسی در آن سازمان هنوز این کار را بلد است.