در کتاب The Human Side of Digital Business Transformation (2022)، نوشته Ludwig Lipinski و Kamales Lardi، با یک مطالعه موردی جالب مواجه میشویم.
سازمانی با هدف افزایش بهرهوری، یک سیستم اطلاعاتی جدید پیادهسازی کرده بود؛ اما برخلاف انتظار، نهتنها کارایی افزایش نیافت، بلکه عملکرد سازمان با اختلال مواجه شد.
بررسیها نشان داد که در کنار ساختار رسمی سازمان، یک «سازمان سایه» شکل گرفته است؛ کارکنان برای انجام امور روزمره، به فرآیندها و روشهای غیررسمی خودشان روی آورده بودند و همین موضوع باعث کندی و اختلال در عملکرد سیستم جدید شده بود.
یکی از راهکارهای اصلی، آموزش کارکنان و کمک به سازگاری آنها با سیستم جدید بود.
اما امروز، با گسترش هوش مصنوعی در محیط کار، با شکل جدیدی از این چالش مواجه هستیم: Shadow AI
به استفاده کارکنان از ابزارهای هوش مصنوعی بدون اطلاع، تأیید یا نظارت سازوکارهای رسمی سازمان، Shadow AI یا هوش مصنوعی سایه گفته میشود.
کارکنان ممکن است برای افزایش سرعت و بهرهوری، اطلاعات سازمانی را در ابزارهای عمومی AI وارد کنند یا از دستیارهای هوشمندی استفاده کنند که سازمان هیچ کنترل و شناختی از آنها ندارد.
این اتفاق میتواند پیامدهای جدی داشته باشد:
نشت اطلاعات محرمانه و دادههای مشتریان
نقض حریم خصوصی و الزامات قانونی
تولید خروجیهای نادرست و تصمیمگیری بر مبنای اطلاعات غیرقابلاعتماد
نبود شفافیت و امکان ردیابی فعالیتهای هوش مصنوعی
ایجاد ریسکهای امنیتی، حقوقی و اعتباری برای سازمان
۱. AI Governance | حاکمیت هوش مصنوعی
تدوین سیاستها و دستورالعملهای مشخص برای هر واحد سازمانی، تعیین ابزارهای مجاز، سطح دسترسی، محدودیت استفاده و مسئولیت افراد.
۲. Private AI & Enterprise AI Agents | هوش مصنوعی اختصاصی سازمانی
توسعه دستیارها و Agentهای اختصاصی متناسب با نیاز هر واحد سازمانی، با دسترسی مبتنی بر نقش (RBAC)، محدودیت دسترسی به اطلاعات حساس، ثبت فعالیتها و نظارت انسانی.
۳. Data Security & Privacy | امنیت و حریم خصوصی دادهها
استفاده از راهکارهایی مانند Data Loss Prevention (DLP)، رمزنگاری، کنترل دسترسی و محیطهای امن پردازش داده. همچنین بهرهگیری از Data Clean Room در کاربردهای مناسب برای تحلیل و اشتراکگذاری کنترلشده دادهها.
۴. AI Literacy | ارتقای سواد هوش مصنوعی کارکنان
آموزش کارکنان درباره نحوه استفاده مسئولانه از AI، حفاظت از اطلاعات محرمانه، تشخیص خروجیهای نادرست و شناخت محدودیتهای مدلهای هوش مصنوعی.
۵. AI Monitoring & Risk Assessment | پایش و ارزیابی ریسک
شناسایی ابزارهای هوش مصنوعی مورد استفاده در سازمان، ارزیابی ریسک آنها، ثبت و پایش فعالیتها و بازبینی مستمر سطح امنیت و انطباق با سیاستهای سازمان.
راهکار Shadow AI، ممنوعیت مطلق استفاده از هوش مصنوعی نیست!
باید پذیرفت که کارکنان برای افزایش سرعت و کیفیت کار خود به ابزارهای هوشمند روی میآورند. بنابراین، سازمان باید بهجای سرکوب این نیاز، دلایل استفاده غیررسمی را شناسایی و جایگزینهای امن، کاربردی و در دسترس فراهم کند.
مسئله اصلی این نیست که کارکنان از هوش مصنوعی استفاده میکنند؛ مسئله این است که سازمان نمیداند چه ابزارهایی، با چه دادههایی و با چه سطحی از ریسک در حال استفاده هستند.
تحول دیجیتال موفق، فقط به معنای ورود فناوریهای جدید نیست؛ بلکه به معنای همراستا کردن فناوری، انسان، فرهنگ و ساختار سازمانی است.