وقتی سازمان AI را پس می‌زند؛ آیا استفاده از آن متوقف می‌شود؟
در یادداشت قبلی، با عنوان «آینده شرکت‌ها را مدل‌های عملیاتی تعیین می‌کند؛ نه مدل‌های زبانی»[1]، به پدیده «سیستم ایمنی سازمان» اشاره کردم که آن را نامیدم.
سیستم ایمنی سازمان، محصول طبیعی تمایل هر سازمان به حفظ ثبات است؛ تمایلی که در ساختار، فرهنگ و مدل حکمرانی سازمان خود را نشان می‌دهد. فرایندهای تصمیم‌گیری و برنامه‌ریزی، لایه‌های تأیید، نظام‌های پاسخگویی و چرخه‌های عملیاتی، همگی برای کاهش ریسک و حفظ انسجام سازمان شکل گرفته‌اند. اما همین سازوکارها می‌توانند در مواجهه با فناوری AI که بر یادگیری، عدم قطعیت و تغییر مداوم استوار است، به نیرویی برای خنثی‌کردن تغییر تبدیل شوند.
نکته مهم این است که این مقاومت لزوماً آگاهانه نیست. سازمان ممکن است رسماً از AI حمایت کند، بودجه اختصاص دهد و حتی پروژه‌های متعددی را آغاز کند؛ اما DNA سازمان (همان ترکیب ساختار، فرهنگ و مدل حکمرانی) به‌تدریج AI را به سمت کاربردهایی سوق دهد که کم‌ریسک‌تر، محدودتر و سازگارتر با ساختار موجود هستند.
اما وقتی AI در سطح سازمان به حاشیه رانده می‌شود، یک پرسش جالب‌تر مطرح می‌شود: آیا استفاده از AI در سازمان متوقف می‌شود؟
پاسخ کوتاه این است: نه!
عموماً هوش مصنوعی به لایه‌ای دیگر از سازمان منتقل می‌شود؛ جایی خارج از فرایندهای رسمی، خارج از معماری فناوری اطلاعات و گاهی حتی خارج از دید مدیران! اینجاست که مفهوم Shadow AI پدیدار می‌شود. هوش مصنوعی در سایه به استفاده کارکنان از ابزارها و قابلیت‌های هوش مصنوعی خارج از چارچوب‌های رسمی و کنترل‌شده سازمان اشاره دارد. در واقع، اگر سیستم ایمنی سازمان مانع ورود AI به ساختار رسمی شود، ممکن است AI به‌جای آنکه از سازمان حذف شود، به زیر پوست سازمان برود.
مقاله‌ای از محمدحسین جراحی[2] دقیقاً از همین زاویه به موضوع نگاه می‌کند. او نشان می‌دهد که چرا بخشی از تحول واقعی ناشی از AI ممکن است در لایه‌هایی اتفاق بیفتد که سازمان در داشبوردها، گزارش‌ها و فرایندهای رسمی خود قادر به مشاهده آن نیست. به همین دلیل، ترجمه کامل این مقاله را در ادامه می‌آورم. به نظرم، این مقاله بخش دیگری از همان پازلی است که در یادداشت قبلی درباره آمادگی سازمان برای AI مطرح کردم:
چگونه ممکن است سازمان‌ها از این واقعیت بی‌خبر باشند که بهره‌وری فردی ناشی از AI، در لایه‌های زیرین، در حال تغییر دادن شیوه کار است؟
یکی از نقاط کور رو به رشد در گفت‌وگوهای پیرامون هوش مصنوعی این است که بخش قابل توجهی از بحث‌ها بر هوش مصنوعی سازمانی یا ارزیابی سرمایه‌گذاری سازمان‌ها در AI بر اساس بازگشت سرمایه (ROI) متمرکز است.
برای مثال، پژوهش State of AI شرکت McKinsey میزان پذیرش AI و دستاوردهای گزارش‌شده در واحدهای مختلف سازمانی را بررسی می‌کند؛ در حالی که همین گزارش و بسیاری از مطالعات دیگر بارها نشان داده‌اند که بسیاری از سازمان‌ها هنوز برای مشاهده تأثیر ملموس و تحول‌آفرین سرمایه‌گذاری‌های خود در AI بر نتایج نهایی کسب‌وکار با مشکل مواجه‌اند.
اما این ارزیابی‌ها لزوماً به درون سازمان نمی‌روند تا نشان دهند واقعاً کار چگونه انجام می‌شود و میلیون‌ها نیروی دانش‌محور دقیقاً چگونه از هوش مصنوعی برای انجام کارهایشان استفاده می‌کنند. هرچه کارمندان، بیشتر و پنهانی‌تر از AI استفاده کنند، سازمان‌ها کمتر می‌توانند درک کنند که هوش مصنوعی چگونه پویایی‌های فردی و سازمانی را تغییر می‌دهد. به دلیل همین استفاده‌های شخصی و تأییدنشده‌ای که داشبوردهای سازمانی قادر به مشاهده آنها نیستند، ممکن است بهره‌وری افزایش پیدا کند، در حالی که دید سازمان نسبت به نحوه انجام کار کاهش پیدا می‌کند. و حتی بدتر از آن، ممکن است سازمان با سیاستی شبیه «نگو، نپرس» عملاً به رفتاری پاداش دهد که آن را نسبت به این تغییرات کورتر می‌کند.
پژوهش‌هایی مانند گزارش اخیر OpenAI با عنوان State of Enterprise AI به ما کمک می‌کنند تا ابعاد و عمق استفاده از AI در سازمان‌ها را بهتر ببینیم؛ از استفاده‌های ساده برای کمک به کارکنان گرفته تا حرکت به سمت واگذاری واقعی‌تر وظایف به AI. این مطالعات اگرچه ارزشمند هستند، اما ناگزیر فقط بخشی از کل کوه یخ را به تصویر می‌کشند.
این تحلیل‌ها معمولاً بر داده‌های تجمیع‌شده مربوط به استفاده سازمانی از AI متکی هستند و بنابراین نمی‌توانند به‌خوبی ببینند کارکنان از طریق حساب‌های شخصی، ابزارهای عمومی یا سایر روش‌هایی که خارج از اکوسیستم رسمی سازمان قرار دارند، چه می‌کنند.
به نظر من، این لایه پنهان اهمیت بسیار زیادی دارد. در یک نظرسنجی جهانی از ۴۸٬۳۴۰ نفر در ۴۷ کشور، ۵۷ درصد کارکنان اعلام کردند که استفاده خود از AI در محیط کار را پنهان کرده و محتوای تولیدشده توسط AI را به‌عنوان کار خود ارائه داده‌اند. آسان است که این عدم افشا را صرفاً به بی‌مسئولیتی کارکنان نسبت دهیم؛ اما کارکنان دلایل قابل درکی برای پنهان کردن استفاده خود دارند. مطالعه‌ای که در مجله PNAS منتشر شده است نشان می‌دهد افرادی که از AI استفاده می‌کنند، ارزیابی‌های منفی‌تری از شایستگی و انگیزه خود را پیش‌بینی می‌کردند و در واقع نیز با چنین ارزیابی‌هایی مواجه می‌شوند.
به چنین کارکنانی گاهی «سایبورگ‌های مخفی - Secret Cyborgs» گفته می‌شود. فکر می‌کنم این عبارت گویا است، اما پرسش مهم‌تر برای سازمان این است که وقتی چنین رویه‌هایی پنهانی باقی می‌مانند، چگونه می‌توانیم حاکمیت مؤثر AI را توسعه کنیم؟
به نظر من، این پدیده لزوماً جدید نیست. سال‌ها پیش، John Seely Brown و Paul Duguid نشان دادند که شیوه واقعی انجام کار توسط افراد می‌تواند تفاوت بنیادینی با شیوه‌ای داشته باشد که سازمان از طریق دستورالعمل‌ها، برنامه‌های آموزشی، شرح شغل‌ها و نمودارهای سازمانی تجویز می‌کند. هوش مصنوعی در سایه (Shadow AI) صرفاً شکل جدیدی از همین شکاف شناخته‌شده میان «فرایند رسمی» و «رویه واقعی انجام کار» است.
با این حال، استفاده فردی از AI در کارهای دانش‌محور ممکن است تفاوت‌هایی با فناوری‌های گذشته داشته باشد. استفاده از AI شخصی‌تر، تجربی‌تر و بیشتر در دل راه‌حل‌های کوچک و ابتکاری تنیده شده است که کارکنان برای انجام کارهای خود به وجود می‌آورند. پژوهش‌های ما نشان داده‌اند که یک کارمند ممکن است از AI برای تولید پیش‌نویس اولیه استفاده کند، در حالی که کارمند دیگری از آن برای به چالش کشیدن یک قضاوت در حال شکل‌گیری یا خودکار کردن یک کار تکراری و خسته‌کننده استفاده می‌کند.
وقتی چنین رویه‌های مهمی پنهان می‌مانند، به‌خصوص زمانی که بر مبنای ابزارهای شخصی GenAI شکل گرفته‌اند، سازمان درک محدودی از واقعیتی پیچیده پیدا می‌کند که در زیر نوک کوه یخ پنهان شده است:
چه بخشی از قضاوت همچنان توسط انسان انجام می‌شود؟
چه بخشی به مجموعه‌ای از ابزارها و Agentهای هوش مصنوعی واگذار شده است؟
خطاها در کجای فرایند ممکن است وارد شوند؟
و کدام یک از نوآوری‌های فردی ارزش آن را دارند که در کل سازمان گسترش پیدا کنند؟
پارادوکس اینجاست که سازمان ممکن است نتیجه را ببیند، اما فرصت مشاهده فرایند و یادگیری از آن را از دست بدهد.
جریمه اعتباری و ادراکی که پیش‌تر به آن اشاره کردم، احتمالاً تنها بخشی از محاسبه کارکنان است. اگر کارمندی اعلام کند که AI باعث شده یک کار سه‌ساعته را در سی دقیقه انجام دهد، چه اتفاقی می‌افتد؟ آیا بابت این بهره‌وری بیشتر مورد تقدیر قرار می‌گیرد یا صرفاً کار بیشتری به او داده می‌شود؟ آیا سازمان زمان ذخیره‌شده را فرصتی برای یادگیری و خلق ارزش بیشتر تلقی می‌کند، یا سطح انتظار عملکرد را بالا می‌برد و می‌پرسد چرا برای انجام این کارها هنوز به این میزان مشارکت انسانی نیاز بوده است؟
بنابراین گمان می‌کنم هرچه یک رویه کاری مبتنی بر AI ارزش بیشتری ایجاد کند، برخی کارکنان انگیزه بیشتری برای محافظت از آن پیدا می‌کنند. در نتیجه، ارزشمندترین شیوه‌های استفاده از AI در یک سازمان ممکن است دقیقاً همان‌هایی باشند که بیش از همه احتمال دارد پنهان بمانند.
به همین دلیل، من نمی‌توانم Shadow AI را پدیده‌ای جدا از فرهنگ سازمانی بدانم. در فرهنگی باز که آزمایش کردن بخشی از یادگیری مشترک تلقی می‌شود، کارکنان انگیزه بیشتری دارند که تجربه‌های موفق خود با AI را با دیگران به اشتراک بگذارند.
اما در محیط‌های رقابتی و تنبیهی، شیوه‌های کاری مبتنی بر AI می‌توانند به مزیت‌های شخصی تبدیل شوند که کارکنان ترجیح می‌دهند آنها را برای خود نگه دارند. از این منظر، فرهنگ سازمانی عاملی بیرونی نسبت به Shadow AI نیست؛ خودِ فرهنگ می‌تواند به تولید Shadow AI کمک کند.
مشکل عمیق‌تر این نیست که کارمندان قوانین را نقض می‌کنند و من فکر نمی‌کنم پاسخ این مسئله صرفاً نظارت و پایش بیشتر باشد؛ رویکردی که متأسفانه در برخی رویکردهای حاکمیت AI مشاهده می‌کنم. چنین رویکردی فقط باعث می‌شود آزمایش‌های کارکنان بیشتر به زیرزمین بروند.
این وضعیت در واقع یک تناقض ایجاد می‌کند: سازمان می‌خواهد بهره‌وری ایجادشده توسط AI را به دست آورد، اما همزمان افشای نحوه دستیابی کارکنان به این بهره‌وری را برای آنها پرهزینه می‌کند.
صادقانه بگویم، هنوز مطمئن نیستم پاسخ‌های کاملاً مناسبی برای این مسئله داشته باشیم؛ زیرا هم فناوری و هم شیوه‌های استفاده از آن با سرعت زیادی در حال تحول هستند. اما فکر می‌کنم مدیران به یک چک‌لیست دیگر نیاز ندارند. شواهد ما را به مسیری بهتر از نظارت هدایت می‌کنند: افشای استفاده از AI در محیط‌هایی که امنیت روانی و سیاست‌های روشن AI وجود دارد، بیشتر است و در محیط‌هایی که ترس از ارزیابی منفی غالب است، کاهش پیدا می‌کند. بنابراین، پیش از آنکه سیاست جدیدی برای AI یا یک سیستم نظارتی جدید ایجاد کنید، یک سؤال اساسی از خود بپرسید: چه چیزی در این سازمان باعث شده است کارکنان باور کنند ارزشمندترین شیوه‌های استفاده آنها از AI بهتر است پنهان بماند؟
محمدحسین جراحی
استاد دانشگاه UNC-Chapel Hill که درباره تأثیر AI بر کار، سازمان‌ها و قضاوت انسانی پژوهش می‌کند و در زمینه همزیستی انسان و AI، حاکمیت AI و آینده کار دانش‌محور فعالیت دارد.
[2] Shadow AI and What Organizations May See; https://jarrahi.substack.com/p/shadow-ai-and-what-organizations
