هوش مصنوعی در سال‌های اخیر از یک فناوری تخصصی و آزمایشگاهی، به یکی از مهم‌ترین ابزارهای تصمیم‌سازی، تحلیل و خودکارسازی در سازمان‌ها تبدیل شده است. بسیاری از سازمان‌ها از هوش مصنوعی برای تحلیل داده‌ها، پیش‌بینی فروش، شناسایی رفتار مشتریان، کشف تقلب، بهینه‌سازی زنجیره تأمین، تولید گزارش و خودکارسازی فرآیندهای عملیاتی استفاده می‌کنند.
این قابلیت‌ها واقعی و ارزشمندند؛ اما هوش مصنوعی به‌تنهایی تضمین‌کننده تصمیم درست یا ایجاد ارزش برای سازمان نیست. اگر این فناوری بدون تعریف مسئله، شناخت زمینه کسب‌وکار و نظارت انسانی به کار گرفته شود، ممکن است به چیزی شبیه «بز اخفش دیجیتال» تبدیل شود؛ ابزاری که خروجی تولید می‌کند، فعالیت‌ها را تکرار می‌کند و حتی با ظاهری بسیار دقیق و علمی به کار خود ادامه می‌دهد، اما درک نمی‌کند که آیا آن فعالیت‌ها واقعاً برای سازمان مفید هستند یا خیر.
هوش مصنوعی در شناسایی الگوها، پردازش حجم زیادی از داده و تولید پاسخ یا پیش‌بینی توانمند است؛ اما توانایی آن با «درک کامل مسئله» یکسان نیست. مدل ممکن است رابطه‌ای آماری میان چند متغیر پیدا کند، بدون آنکه بداند این رابطه در چه شرایطی شکل گرفته، آیا پایدار است یا نه، و چه پیامدهایی برای سازمان دارد.
برای مثال، یک مدل می‌تواند نشان دهد که در ماه‌های خاصی، فروش یک محصول افزایش یافته است. اما ممکن است علت این افزایش، یک کمپین تبلیغاتی موقت، کمبود محصول رقیب، تغییر قیمت، شرایط اقتصادی یا حتی خطای ثبت داده باشد. مدل ممکن است الگو را شناسایی کند، اما توضیح چرایی آن و تشخیص اینکه آیا این الگو در آینده نیز معتبر خواهد بود، نیازمند تحلیل انسانی و شناخت محیط کسب‌وکار است.
به همین دلیل، میان «دیدن الگو» و «فهمیدن معنا» فاصله وجود دارد. هوش مصنوعی معمولاً در بخش نخست بسیار قدرتمند است، اما بخش دوم همچنان به تجربه، قضاوت و مسئولیت انسانی وابسته است.
مسئله اصلی همیشه کمبود داده نیست!
در بسیاری از پروژه‌های هوش مصنوعی، تمرکز بیش از اندازه‌ای بر حجم داده وجود دارد. سازمان‌ها تصور می‌کنند هرچه داده بیشتری در اختیار داشته باشند، تصمیم‌های بهتری نیز خواهند گرفت؛ در حالی که کیفیت، کامل‌بودن، به‌روز بودن و تناسب داده با مسئله اهمیت بیشتری دارد.
داده‌ها ممکن است:
ناقص یا پراکنده باشند.
با تأخیر ثبت شوند.
تعاریف متفاوتی در واحدهای مختلف داشته باشند.
شامل خطاهای انسانی یا سیستمی باشند.
سوگیری تاریخی سازمان را بازتاب دهند.
نماینده تمام مشتریان یا شرایط واقعی بازار نباشند.
به‌دلیل تغییر فرآیندها، دیگر برای وضعیت فعلی معتبر نباشند.
اگر داده‌های ورودی مشکل داشته باشند، مدل نیز می‌تواند خروجی‌هایی تولید کند که از نظر ظاهری منطقی، اما از نظر عملیاتی گمراه‌کننده‌اند. این مسئله را می‌توان به شکل ساده چنین بیان کرد: هوش مصنوعی الزاماً حقیقت را از داده‌ها استخراج نمی‌کند؛ بلکه الگوهایی را بر اساس داده‌های موجود تولید می‌کند. اگر داده‌ها تصویری ناقص یا تحریف‌شده از واقعیت ارائه دهند، خروجی مدل نیز ممکن است همان تحریف را با ظاهری دقیق‌تر بازتولید کند.
یکی از مهم‌ترین خطرها در استفاده از هوش مصنوعی، ظاهر علمی و دقیق خروجی‌های آن است. عدد، نمودار، درصد، امتیاز ریسک یا پیش‌بینی الگوریتمی ممکن است برای مدیران قانع‌کننده باشد؛ اما عدد دقیق الزاماً به معنای تصمیم درست نیست.
گاهی یک گزارش با چندین نمودار و شاخص تولید می‌شود، اما مشخص نیست:
این شاخص دقیقاً چه مسئله‌ای را اندازه‌گیری می‌کند.
داده‌ها از چه منابعی جمع‌آوری شده‌اند.
آخرین به‌روزرسانی داده چه زمانی بوده است.
چه فرض‌هایی در تولید خروجی به کار رفته است.
میزان خطای پیش‌بینی چقدر است.
در چه شرایطی مدل عملکرد مناسبی ندارد.
چه کسی باید خروجی را تفسیر و اعتبارسنجی کند.
در چنین شرایطی، سازمان ممکن است به‌جای تصمیم‌گیری آگاهانه، صرفاً به خروجی الگوریتم واکنش نشان دهد. این وضعیت زمانی خطرناک‌تر می‌شود که مدیران تصور کنند استفاده از مدل، مسئولیت تصمیم‌گیری را از آن‌ها سلب می‌کند. در واقع، هوش مصنوعی می‌تواند ابزار تصمیم‌سازی باشد، اما نباید به پوششی برای حذف مسئولیت مدیریتی تبدیل شود.
1) تولید گزارش بدون اقدام
ممکن است سازمان سامانه‌ای برای تولید روزانه گزارش‌های فروش، مشتریان و عملکرد واحدها راه‌اندازی کند. گزارش‌ها دقیق، منظم و به‌موقع تولید شوند، اما هیچ‌کس مشخص نکرده باشد که پس از مشاهده این گزارش‌ها باید چه تصمیمی گرفته شود.
در این حالت، سازمان به‌جای حل مسئله، صرفاً حجم بیشتری از اطلاعات تولید کرده است. گزارش‌سازی به فعالیتی تکراری تبدیل می‌شود که منابع انسانی و محاسباتی مصرف می‌کند، اما اثر قابل‌اندازه‌گیری بر عملکرد سازمان ندارد.
2) پیش‌بینی فروش بدون شناخت بازار
مدل پیش‌بینی فروش ممکن است بر اساس روندهای گذشته، فروش ماه آینده را برآورد کند. اما اگر بازار دچار تغییر جدی شده باشد، رقیب جدیدی وارد شده باشد، قیمت مواد اولیه تغییر کرده باشد یا رفتار مشتریان به‌دلیل یک رویداد بیرونی دگرگون شده باشد، اتکا به گذشته می‌تواند تصمیم‌های اشتباهی ایجاد کند.
در چنین شرایطی، مدل ممکن است همان روندهای قبلی را با دقت ریاضی بالا ادامه دهد، در حالی که واقعیت کسب‌وکار دیگر از آن روندها پیروی نمی‌کند.
3) امتیازدهی خودکار به مشتریان
یک سازمان ممکن است مشتریان را با استفاده از یک مدل بر اساس احتمال خرید، ریسک یا ارزش اقتصادی رتبه‌بندی کند. اگر داده‌های تاریخی سازمان در گذشته به برخی گروه‌های مشتری توجه بیشتری نشان داده باشد، مدل نیز ممکن است همان الگو را به‌عنوان معیار ارزشمند بودن مشتری تکرار کند.
نتیجه می‌تواند کاهش خدمات به گروه‌هایی از مشتریان، حذف فرصت‌های بالقوه یا تقویت تبعیض‌های پنهان در فرآیند تصمیم‌گیری باشد.
4) خودکارسازی فرآیند ناکارآمد
خودکارسازی یک فرآیند معیوب، آن فرآیند را اصلاح نمی‌کند؛ بلکه ممکن است خطاهای آن را سریع‌تر و در مقیاس بزرگ‌تر تکرار کند.
اگر فرآیند تأیید درخواست‌ها، تخصیص منابع یا رسیدگی به شکایت‌ها از ابتدا طراحی مناسبی نداشته باشد، افزودن هوش مصنوعی بدون بازنگری فرآیند می‌تواند تنها سرعت تولید خطا را افزایش دهد. در این حالت، فناوری به‌جای حل مسئله، ناکارآمدی موجود را تثبیت می‌کند.
یکی از خطاهای رایج در پروژه‌های هوش مصنوعی، اشتباه گرفتن افزایش فعالیت با افزایش ارزش است. افزایش تعداد گزارش‌ها، بیشترشدن تعاملات خودکار، رشد حجم تحلیل‌ها یا کاهش زمان انجام یک کار، به‌خودی‌خود نشان نمی‌دهد که سازمان موفق‌تر شده است.
ارزش واقعی زمانی ایجاد می‌شود که استفاده از هوش مصنوعی به نتایجی مانند موارد زیر منجر شود:
کدام مشکل واقعی سازمان نیازمند حل شدن است؟
این مشکل اکنون چه هزینه‌ای ایجاد می‌کند؟
چرا روش‌های فعلی کافی نیستند؟
هوش مصنوعی دقیقاً کدام بخش از مسئله را بهبود می‌دهد؟
خروجی مطلوب چگونه اندازه‌گیری خواهد شد؟
چه سطحی از خطا قابل‌قبول است؟
تصمیم نهایی بر عهده چه فرد یا واحدی خواهد بود؟
در صورت خطا، چه سازوکاری برای اصلاح یا توقف سیستم وجود دارد؟
اگر پاسخ این پرسش‌ها روشن نباشد، پروژه ممکن است صرفاً به نمایش فناوری تبدیل شود. در این حالت، سازمان یک ابزار جدید در اختیار دارد، اما هنوز نمی‌داند قرار است چه مسئله‌ای را حل کند.
نظارت انسانی به معنای بی‌اعتمادی کامل به هوش مصنوعی یا بررسی دستی تک‌تک خروجی‌ها نیست. منظور، طراحی یک سازوکار مشخص برای کنترل، تفسیر و پاسخ‌گویی است.
در فرآیندهای حساس، انسان باید بتواند:
منطق کلی خروجی را بررسی کند؛
موارد غیرعادی را شناسایی کند؛
خروجی مدل را با دانش عملیاتی مقایسه کند؛
در شرایط خاص تصمیم مدل را نادیده بگیرد؛
بازخورد لازم را برای بهبود سیستم ثبت کند؛
مسئولیت نهایی تصمیم را بپذیرد.
سطح نظارت نیز باید با میزان ریسک تناسب داشته باشد. برای پیشنهاد عنوان یک ایمیل، کنترل انسانی ممکن است ساده و محدود باشد؛ اما برای اعطای اعتبار، ارزیابی کارکنان، قیمت‌گذاری، تصمیم‌های مالی یا تخصیص منابع حیاتی، کنترل و پاسخ‌گویی باید بسیار جدی‌تر طراحی شود.
برای جلوگیری از تبدیل شدن هوش مصنوعی به «بز اخفش دیجیتال»، سازمان‌ها می‌توانند چند اصل عملی را رعایت کنند:
1) تعریف شاخص موفقیت
پیش از شروع پروژه، باید معیارهای موفقیت مشخص باشند. این معیارها باید به نتیجه کسب‌وکار مرتبط باشند، نه فقط به عملکرد فنی مدل.
2) شناخت محدودیت‌های مدل
هر مدل باید دامنه اعتبار مشخصی داشته باشد. کاربران باید بدانند مدل با چه داده‌هایی آموزش دیده، در چه شرایطی عملکرد مناسبی دارد و در چه موقعیت‌هایی ممکن است دچار خطا شود.
3) کنترل کیفیت داده
منبع داده، مالک داده، تناوب به‌روزرسانی، کامل‌بودن، سازگاری و سطح دسترسی باید مشخص باشد. بدون حاکمیت داده، حتی بهترین مدل‌ها نیز قابل اتکا نخواهند بود.
4) ثبت تصمیم‌ها و خروجی‌ها
لازم است ورودی‌ها، نسخه مدل، خروجی تولیدشده، تصمیم نهایی و مداخلات انسانی ثبت شوند. این کار امکان بررسی خطا، پاسخ‌گویی و اصلاح فرآیند را فراهم می‌کند.
5) بازبینی دوره‌ای
عملکرد مدل در طول زمان ثابت نمی‌ماند. تغییر رفتار مشتریان، شرایط اقتصادی، قوانین، محصولات و فرآیندهای داخلی می‌تواند موجب کاهش دقت یا افزایش سوگیری مدل شود. بنابراین مدل باید به‌صورت دوره‌ای ارزیابی و در صورت نیاز بازآموزی یا جایگزین شود.
6) امکان توقف و بازگشت
هر فرآیند خودکار باید امکان توقف، مداخله انسانی و بازگشت به وضعیت قبل را داشته باشد. سازمان نباید به سیستمی وابسته شود که در صورت خطا، راهی برای کنترل آن وجود ندارد.
7) توجه به اخلاق و محرمانگی
استفاده از اطلاعات شخصی، داده‌های کارکنان، اطلاعات مالی و داده‌های مشتریان باید با رعایت قوانین، سیاست‌های داخلی و اصول محرمانگی انجام شود. سرعت و کارایی نمی‌تواند توجیهی برای نقض حقوق افراد یا استفاده بی‌ضابطه از داده‌ها باشد.
فرهنگ سازمانی مهم‌تر از ابزار است!
استفاده مسئولانه از هوش مصنوعی تنها به انتخاب مدل یا خرید نرم‌افزار وابسته نیست. سازمان باید فرهنگی ایجاد کند که در آن پرسیدن، بررسی کردن و به چالش کشیدن خروجی‌های هوش مصنوعی پذیرفته باشد.
اگر کارکنان تصور کنند مخالفت با خروجی مدل نشانه عقب‌ماندگی است، احتمال خطا افزایش می‌یابد. مدل باید به‌عنوان یک همکار تحلیلی قدرتمند در نظر گرفته شود، نه مرجعی که همیشه درست می‌گوید.
کارکنان باید بدانند:
خروجی هوش مصنوعی قطعی و بدون خطا نیست؛
هر پاسخ باید با زمینه واقعی کسب‌وکار سنجیده شود؛
مسئولیت تصمیم نهایی همچنان بر عهده انسان است؛
گزارش‌دادن خطاهای مدل بخشی از فرآیند بهبود است؛
استفاده از ابزار باید با سیاست‌های امنیتی و محرمانگی سازمان هماهنگ باشد.
هوش مصنوعی می‌تواند سرعت تحلیل را افزایش دهد، الگوهای پنهان را آشکار کند و بخشی از فعالیت‌های سازمان را خودکار سازد؛ اما ارزش آن از خود فناوری به‌وجود نمی‌آید. ارزش زمانی ایجاد می‌شود که هوش مصنوعی در خدمت یک هدف روشن، بر پایه داده‌های معتبر، با معیارهای قابل‌اندازه‌گیری و تحت نظارت مسئولانه به کار گرفته شود.
در غیر این صورت، سازمان ممکن است به خروجی‌های عددی، نمودارهای زیبا و پاسخ‌های سریع عادت کند، بدون آنکه واقعاً تصمیم‌های بهتری بگیرد. در چنین وضعیتی، هوش مصنوعی به «بز اخفش دیجیتال» تبدیل می‌شود: ابزاری که بدون فهم کامل مسئله، فعالیت‌ها را با اطمینان تکرار می‌کند و سازمان نیز به‌دلیل اعتماد بی‌چون‌وچرا، همان فعالیت‌های بی‌فایده یا حتی زیان‌بار را در فرآیندهای خود نهادینه می‌سازد.
مسئله اصلی این نیست که آیا سازمان باید از هوش مصنوعی استفاده کند یا نه؛ مسئله این است که آیا سازمان می‌داند چرا، کجا، چگونه و با چه میزان کنترلی باید از آن استفاده کند.
