ویرگول
ورودثبت نام
Mohamad Takalloo
Mohamad Takallooنیمچه روانشناس - علاقه‌مند به مدیریت محصول
Mohamad Takalloo
Mohamad Takalloo
خواندن ۱۵ دقیقه·۴ ماه پیش

اقتصاد استثنا؛ ارزش انسان در سیستم‌های خودکار

مقدمه: وقتی مسیر عادی دیگر مسئله اصلی نیست

اتوماسیون معمولاً از جایی شروع می‌شود که قواعد روشن، ورودی‌ها استاندارد و نتیجه مطلوب تا حد زیادی قابل پیش‌بینی است. فاکتورهایی که ساختار یکسان دارند خودکار پردازش می‌شوند، درخواست‌های پرتکرار را چت‌بات پاسخ می‌دهد، تراکنش‌های کم‌ریسک بی‌درنگ تأیید می‌شوند و عامل هوشمند کارهای اداری روزمره را جلو می‌برد. در این مرحله، ارزش اتوماسیون آشکار است: سرعت بیشتر، هزینه کمتر و ظرفیت بالاتر.

اما هرچه سیستم به پوشش گسترده‌تری می‌رسد، ماهیت مسئله تغییر می‌کند. دیگر سؤال اصلی این نیست که «چطور مسیر معمول را سریع‌تر اجرا کنیم؟»؛ سؤال مهم‌تر این است که «با چیزی که در مسیر معمول جا نمی‌شود چه کنیم؟» مشتری‌ای که هم‌زمان چند مسئله دارد، تراکنشی که از نظر الگو مشکوک است اما تقلب نیست، قراردادی که با سیاست عمومی سازگار است اما یک بند خاص دارد، یا درخواست ساده‌ای که به‌دلیل یک محدودیت حقوقی، عاطفی یا عملیاتی به مسئله‌ای پیچیده تبدیل می‌شود.

در سیستم دستی، این موارد در میان حجم زیادی از کار عادی پخش‌اند. در سیستم خودکار، کار عادی ناپدید می‌شود و آنچه برای انسان باقی می‌ماند، به‌طور متوسط نادرتر، مبهم‌تر و پرهزینه‌تر است. به همین دلیل، خودکارسازی فقط کار انسان را کم نمی‌کند؛ ترکیب کار انسان را عوض می‌کند.

می‌توان این جابه‌جایی را «اقتصاد استثنا» نامید: وضعیتی که در آن اجرای قاعده ارزان و فراوان می‌شود، اما تشخیص، ارجاع، حل و یادگیری از موارد خارج از قاعده به بخش مهم‌تری از ارزش محصول و هزینه سازمان تبدیل می‌شود.

اقتصاد استثنا چیست؟

استثنا صرفاً خطای نرم‌افزار نیست. استثنا هر موقعیتی است که سیستم نتواند با سطح اطمینان، مجوز یا ایمنی کافی مسیر استاندارد را ادامه دهد. ممکن است داده ناقص باشد، دو قاعده با یکدیگر تعارض داشته باشند، پیامد تصمیم زیاد باشد، نیت کاربر روشن نباشد، شرایطی تازه رخ داده باشد یا خود سیستم نشانه‌هایی از رفتار غیرعادی ببیند.

از این منظر، بیشتر فرایندها دو اقتصاد هم‌زمان دارند:

  1. اقتصاد مسیر عادی: حجم بالا، تنوع کم، هزینه نهایی پایین و اجرای استاندارد.

  2. اقتصاد مسیر استثنا: حجم پایین‌تر، تنوع زیاد، نیاز به قضاوت، هزینه بیشتر و پیامد بالقوه سنگین‌تر.

اتوماسیون معمولاً اقتصاد اول را بهینه می‌کند. مسئله اینجاست که سازمان‌ها گاهی موفقیت آن را فقط با درصد پوشش خودکار می‌سنجند و اقتصاد دوم را نادیده می‌گیرند. ممکن است ۹۵ درصد درخواست‌ها بدون دخالت انسان حل شوند، اما پنج درصد باقی‌مانده بیشترِ شکایت، ریسک حقوقی، زیان مالی و فرسودگی کارکنان را بسازند. در چنین سیستمی، عدد ۹۵ درصد به‌تنهایی تصویری گمراه‌کننده از کیفیت می‌دهد.

هزینه واقعی یک سیستم خودکار را می‌توان مفهومی چنین دید:

هزینه کل = هزینه مسیر خودکار + هزینه تشخیص و ارجاع استثنا + هزینه حل و بازیابی + هزینه خطا و اعتماد ازدست‌رفته

اگر تنها جزء اول را بهینه کنیم، ممکن است صرفه‌جویی ظاهری در عملیات به هزینه‌ای بزرگ‌تر در پشتیبانی، ریسک، بازپرداخت، جبران خسارت یا از دست دادن مشتری تبدیل شود. مزیت رقابتی نیز دقیقاً می‌تواند در همین فاصله شکل بگیرد: دو محصول ممکن است برای مسیر عادی از مدل و زیرساختی مشابه استفاده کنند، اما محصولی برنده شود که موارد دشوار را سریع‌تر، منصفانه‌تر و قابل‌اعتمادتر حل می‌کند.

تناقض اتوماسیون: انسان کار آسان را تمرین نمی‌کند، اما باید سخت‌ترین لحظه را نجات دهد

بحث اقتصاد استثنا تازه نیست. لیزان بین‌بریج در مقاله کلاسیک «تناقض‌های اتوماسیون» در سال ۱۹۸۳ توضیح داد که هرچه طراحان بخش‌های بیشتری از کار را خودکار می‌کنند، انسان اغلب برای همان کارهایی باقی می‌ماند که خودکارسازی‌شان دشوار بوده است؛ از جمله نظارت بر رفتار غیرعادی و مداخله هنگام شکست سیستم [1].

مشکل فقط دشواربودن این وظایف نیست. اپراتوری که بیشتر زمان خود را به نظارت منفعل می‌گذراند، ممکن است در لحظه بحران آمادگی لازم برای کنترل دستی را نداشته باشد. پژوهش Endsley و Kiris درباره «خارج‌ماندن از حلقه» نشان داد که اتوماسیون می‌تواند آگاهی موقعیتی و سرعت تصمیم‌گیری انسان پس از شکست سیستم را کاهش دهد؛ به‌ویژه وقتی نقش او از پردازش فعال به مشاهده منفعل تغییر می‌کند [2].

این همان تناقضی است که امروز در محصولات AI نیز تکرار می‌شود. از انسان می‌خواهیم فقط وقتی وارد شود که مدل مطمئن نیست، سیاست‌ها تعارض دارند، کاربر عصبانی است یا پیامد تصمیم زیاد است. یعنی سیستم کارهای تکراری را انجام می‌دهد و دشوارترین پرونده‌ها را برای کسی می‌فرستد که شاید دیگر با جریان عادی کار تماس کافی نداشته باشد.

بنابراین «انسان در حلقه» (Human-in-the-Loop) به‌تنهایی راه‌حل نیست. اگر انسان دیر خبردار شود، زمینه کافی نداشته باشد، اختیار اصلاح نداشته باشد یا زیر بار صفی از هشدارهای کم‌کیفیت قرار بگیرد، حضور او بیشتر یک امضای صوری است تا کنترل واقعی.

خودکارسازی یک کلید روشن و خاموش نیست

یکی از خطاهای طراحی این است که فرایند را دوحالته ببینیم: یا دستی است یا کاملاً خودکار. پژوهش Parasuraman، Sheridan و Wickens نشان می‌دهد که اتوماسیون را باید در چند نوع فعالیت—گردآوری اطلاعات، تحلیل، انتخاب تصمیم و اجرای اقدام—و در سطوح مختلف دید [3]. ممکن است سیستم داده را خودکار جمع کند، گزینه‌ها را پیشنهاد دهد، اما انتخاب نهایی با انسان باشد. یا تصمیم کم‌ریسک را بگیرد، ولی برای اجرای اقدام برگشت‌ناپذیر تأیید بخواهد.

برای یک محصول عامل‌محور، این پیوستار می‌تواند چنین باشد:

  • خودکارسازی کامل مسیر کم‌ریسک: سیستم تصمیم می‌گیرد و اقدام می‌کند.

  • اقدام محدود با کنترل پسینی: سیستم عمل می‌کند، اما نمونه‌ها و الگوهای غیرعادی زیر نظر انسان‌اند.

  • اقدام مشروط به تأیید: سیستم پرونده را آماده می‌کند و انسان تصمیم نهایی را می‌گیرد.

  • پیشنهاد بدون اقدام: سیستم گزینه و استدلال ارائه می‌دهد، اما اختیار اجرا ندارد.

  • توقف ایمن و ارجاع: سیستم به‌جای حدس‌زدن، مسیر را متوقف و پرونده را به فرد مناسب منتقل می‌کند.

طراحی بالغ الزاماً بالاترین سطح خودکارسازی را انتخاب نمی‌کند. سطح مناسب به فراوانی خطا، برگشت‌پذیری اقدام، هزینه پیامد، کیفیت داده و توان نظارت بستگی دارد. در برخی کارها، ۸۰ درصد خودکارسازی همراه با توقف‌های باکیفیت، بهتر از ۹۸ درصد خودکارسازی همراه با خطاهای نادر اما فاجعه‌بار است.

استثنا یک شکست محصول نیست؛ بخشی از محصول است

در بسیاری از تیم‌ها، مسیر استثنا دیر و به‌عنوان یک مسیر جایگزین طراحی می‌شود. ابتدا «تجربه اصلی» ساخته می‌شود و سپس برای موارد حل‌نشده، یک دکمه تماس با پشتیبانی یا صف بررسی دستی اضافه می‌کنند. نتیجه معمولاً این است که بهترین طراحی، داده و ابزار به مسیر عادی می‌رسد و دشوارترین مشتریان وارد ضعیف‌ترین بخش تجربه می‌شوند.

نگاه اقتصاد استثنا این ترتیب را برعکس می‌کند. مسیر ارجاع، بخشی از معماری اصلی محصول است؛ زیرا لحظه‌ای است که محدودیت سیستم آشکار می‌شود و اعتماد کاربر آزموده می‌شود. پژوهش «راهنماهای تعامل انسان و AI» نیز بر طراحی برای زمانی که سیستم اشتباه می‌کند، امکان رد یا اصلاح خروجی و فراهم‌کردن کنترل مناسب برای کاربر تأکید دارد [4].

یک مسیر استثنای خوب دست‌کم شش جزء دارد:

۱. تشخیص اینکه سیستم چه زمانی نباید ادامه دهد

سیستم باید فقط پاسخ یا تصمیم تولید نکند؛ باید درباره کفایت اطلاعات، تعارض قواعد، سطح اطمینان و پیامد اقدام هم سیگنال داشته باشد. توقف به‌موقع نشانه ضعف نیست. سیستمی که محدودیت خود را می‌شناسد، معمولاً قابل‌اعتمادتر از سیستمی است که برای حفظ نرخ اتوماسیون همیشه پاسخی می‌سازد.

۲. طبقه‌بندی شدت و مالکیت

همه استثناها یکسان نیستند. برخی فقط به اطلاعات بیشتر از کاربر نیاز دارند؛ برخی باید به کارشناس دامنه برسند؛ برخی امنیتی یا حقوقی‌اند و برخی نشانه یک اختلال گسترده. طبقه‌بندی استثناها (Taxonomy) باید مشخص کند چه نوع موردی با چه فوریتی به چه نقش یا تیمی می‌رسد.

۳. بسته زمینه برای تحویل به انسان

ارجاع نباید به معنی شروع دوباره باشد. انسان باید بداند کاربر چه می‌خواست، سیستم چه داده‌ای دید، کدام قواعد اعمال شد، در کدام نقطه متوقف شد، چه اقدام‌هایی انجام شده و چه چیزی هنوز نامطمئن است. اگر مشتری مجبور شود همه چیز را دوباره توضیح دهد یا کارشناس میان چند سیستم دنبال تاریخچه بگردد، تحویل پرونده عملاً شکست خورده است.

۴. اختیار متناسب با مسئولیت

فردی که پرونده پیچیده را دریافت می‌کند باید اختیار کافی برای حل آن داشته باشد: امکان اصلاح، بازپرداخت، توقف، ارجاع بالاتر یا اعمال یک استثنای مستند. اگر هر پرونده دوباره وارد زنجیره‌ای طولانی از تأیید شود، انسان در حلقه وجود دارد اما سازمان همچنان فاقد ظرفیت تصمیم‌گیری است.

۵. طراحی بازیابی، نه فقط تشخیص خطا

تشخیص اینکه مشکلی رخ داده پایان کار نیست. باید بتوان اثر را محدود کرد، وضعیت را به حالت امن برگرداند، مشتری را مطلع کرد و مسیر ادامه را روشن ساخت. NIST در چارچوب مدیریت ریسک AI، مدیریت ریسک را در چهار کارکرد Govern، Map، Measure و Manage قرار می‌دهد [5]. پیام عملی آن برای محصول این است که صرف شناخت ریسک کافی نیست؛ مسئولیت، اندازه‌گیری و سازوکار پاسخ نیز باید از قبل طراحی شده باشد.

۶. بازگشت یادگیری به مسیر عادی

اگر یک استثنا بارها رخ دهد و هر بار فقط با تلاش انسانی حل شود، سازمان در حال پنهان‌کردن بدهی محصول است. نتیجه بررسی باید به اصلاح سیاست، داده، رابط، مدل، آموزش یا جریان کار برگردد. استثنا زمانی ارزش انباشتی می‌سازد که حل امروز، احتمال یا هزینه تکرار فردا را کاهش دهد.

سه مثال: پشتیبانی، پرداخت و کار دانشی

پشتیبانی مشتری

یک عامل پشتیبانی می‌تواند وضعیت سفارش را اعلام کند، رمز عبور را بازیابی کند یا سیاست بازگشت را توضیح دهد. اما پرونده‌ای که در آن سفارش هدیه بوده، زمان تحویل گذشته، بخشی از مبلغ با اعتبار خرید پرداخت شده و مشتری تجربه بد قبلی دارد، دیگر یک سؤال ساده نیست. انسان فقط متن بهتری نمی‌نویسد؛ میان سیاست، رابطه و هزینه جبران قضاوت می‌کند.

در اینجا مزیت محصول از درصد پاسخ خودکار به‌تنهایی نمی‌آید. از این می‌آید که عامل چه زمانی مسئله را پیچیده تشخیص می‌دهد، چه زمینه‌ای به کارشناس تحویل می‌دهد، کارشناس چه اختیاری دارد و آیا نتیجه این پرونده به بهبود سیاست یا مدل بازمی‌گردد.

پرداخت و تقلب

سیستم‌های ریسک مالی ناچارند میان دو خطا تعادل برقرار کنند: پذیرفتن تراکنش متقلبانه و ردکردن تراکنش سالم. Stripe در مستندات Radar Reviews صریحاً بررسی انسانی را لایه‌ای مکمل برای سیستم خودکار تشخیص تقلب معرفی می‌کند [6]. صف بررسی دستی در این مثال فقط پشتیبان یک الگوریتم ناقص نیست؛ محل ترکیب سیگنال ماشینی با شناخت زمینه کسب‌وکار است.

با این حال، صف دستی هم می‌تواند مشکل‌ساز شود. اگر آستانه ارجاع بد تنظیم شده باشد، تیم با موارد مثبت کاذب پر می‌شود. اگر داده کافی نمایش داده نشود، تصمیم انسانی بهتر از تصمیم ماشین نخواهد بود. اگر هیچ نتیجه‌ای به مدل بازنگردد، صف بررسی به هزینه دائمی تبدیل می‌شود. طراحی درست باید هم «چه چیزی ارجاع شود» و هم «حل انسانی چگونه سیستم را بهتر کند» را مشخص کند.

کار دانشی و عامل‌های سازمانی

عامل هوشمند می‌تواند گزارش بسازد، ایمیل آماده کند یا داده‌ها را تحلیل کند. اما استثناهای واقعی معمولاً در مرز میان واحدها رخ می‌دهند: دو KPI که جهت‌های متفاوت نشان می‌دهند، تصمیمی که اثر مالی و اعتباری هم‌زمان دارد، یا درخواستی که با قاعده سازگار است اما با استراتژی شرکت نه.

Anthropic در راهنمای ساخت Agentها میان workflowهای ازپیش‌تعریف‌شده و Agentهای دارای اختیار انتخاب مسیر تفکیک می‌کند و توصیه می‌کند تیم‌ها از ساده‌ترین الگوی مؤثر شروع کنند [7]. از منظر اقتصاد استثنا، این توصیه یک پیام سازمانی هم دارد: برای فرایندهای روشن، مسیرهای محدود و قابل‌پیش‌بینی اغلب بهترند؛ اختیار گسترده را باید جایی به Agent داد که ارزش انعطاف از هزینه خطا و نظارت بیشتر باشد.

سنجه‌هایی که اقتصاد استثنا را قابل مشاهده می‌کنند

اگر داشبورد فقط نرخ اتوماسیون را نشان دهد، تیم به‌طور طبیعی استثنا را دشمن KPI می‌بیند. سنجه‌ها باید کیفیت کل سیستم را نشان دهند، نه فقط مقدار کاری را که از انسان حذف شده است.

چند سنجه مفید عبارت‌اند از:

  • نرخ پردازش مستقیم (Straight-Through Processing): چند درصد پرونده‌ها بدون مداخله تکمیل می‌شوند؟

  • نرخ استثنا: چه سهمی از موارد از مسیر استاندارد خارج می‌شوند و روند آن چگونه است؟

  • دقت ارجاع: چند ارجاع واقعاً به مداخله نیاز داشتند و چند مورد مهم اصلاً ارجاع نشدند؟

  • زمان تا تشخیص و زمان تا بازیابی: از وقوع مشکل تا فهم و سپس حل آن چقدر طول می‌کشد؟

  • کامل‌بودن زمینه تحویل: چه سهمی از پرونده‌ها بدون درخواست دوباره اطلاعات قابل بررسی‌اند؟

  • نرخ حل در سطح اول: مالک اولیه استثنا چند درصد موارد را بدون پاس‌کاری حل می‌کند؟

  • هزینه هر مورد حل‌شده: هزینه ماشین، نیروی انسانی، جبران و دوباره‌کاری در مجموع چقدر است؟

  • نرخ تکرار استثنا: چه تعداد از موارد شناخته‌شده دوباره با همان علت رخ می‌دهند؟

  • اثر بر مشتری: شکایت، ریزش، بازپرداخت یا کاهش اعتماد در مسیر استثنا چقدر است؟

  • بازده مداخله انسانی: ورود انسان در چه نوع پرونده‌هایی واقعاً نتیجه را بهتر می‌کند؟

یک سنجه مهم دیگر، هزینه دم توزیع است: چه سهمی از کل هزینه و ریسک توسط یک درصد نادر از پرونده‌ها ساخته می‌شود؟ این سنجه کمک می‌کند سازمان بفهمد آیا افزایش پوشش خودکار واقعاً اقتصاد کل را بهتر کرده یا فقط کار عادی را حذف و هزینه را در دم توزیع متمرکز کرده است.

انسان در حلقه، روی حلقه یا بیرون حلقه؟

اقتصاد استثنا نباید به این نتیجه ساده‌انگارانه برسد که «پس همیشه باید یک انسان حضور داشته باشد». انسان گران، محدود، خسته‌شونده و خود مستعد خطاست. علاوه بر آن، اگر هر تصمیم کم‌ریسک منتظر تأیید انسان بماند، ارزش اصلی اتوماسیون از بین می‌رود.

سه الگوی متفاوت باید از هم تفکیک شوند:

  • Human-in-the-Loop: انسان پیش از تصمیم یا اقدام نهایی وارد می‌شود؛ مناسب پیامدهای بالا یا اقدامات برگشت‌ناپذیر.

  • Human-on-the-Loop: سیستم کار می‌کند و انسان الگوها، نمونه‌ها و هشدارها را زیر نظر دارد؛ مناسب عملیات پرتعداد با ریسک کنترل‌شده.

  • Human-out-of-the-Loop: سیستم در دامنه محدود و کم‌ریسک مستقل عمل می‌کند و فقط سازوکار ممیزی یا بازیابی وجود دارد.

انتخاب میان این سه حالت باید محصول یک ارزیابی صریح باشد، نه نتیجه سلیقه یا هیجان خودکارسازی. معیارهایی مانند هزینه خطا، سرعت لازم، امکان برگشت، قابلیت کشف پسینی و حق اعتراض کاربر در این انتخاب نقش دارند.

حتی در حالت نظارت انسانی، باید مراقب فرسودگی توجه بود. کسی که هزار تصمیم درست ماشین را می‌بیند، احتمالاً در هزارویکمین مورد کمتر آماده تشخیص خطاست. تمرین سناریو، نمونه‌برداری هوشمند، چرخش نقش و حفظ تماس با عملیات عادی برای جلوگیری از «خارج‌شدن از حلقه» ضروری‌اند.

ضد استدلال: آیا هدف اتوماسیون حذف استثنا نیست؟

ممکن است گفته شود بهترین سیستم آن است که استثناها را هم به‌مرور خودکار کند. این گزاره تا حدی درست است. هر استثنای پرتکرار و قابل‌قاعده‌سازی باید به نامزدی برای بهبود مسیر عادی تبدیل شود. اگر تیم از ابهام‌ها یاد نگیرد، «اقتصاد استثنا» می‌تواند به بهانه‌ای برای حفظ عملیات دستی و ناکارآمد تبدیل شود.

اما سه محدودیت وجود دارد.

اول، با خودکارشدن استثناهای شناخته‌شده، مرز تازه‌ای از موارد ناشناخته شکل می‌گیرد. بازار، رفتار مهاجم، مقررات، محصولات و نیازهای کاربران ثابت نمی‌مانند. سیستم زنده همیشه با شرایطی روبه‌رو می‌شود که در داده و قواعد قبلی کامل نمایندگی نشده‌اند.

دوم، برخی مسائل ذاتاً تعارض ارزش‌ها هستند، نه کمبود قاعده. اینکه در یک پرونده خاص میان انصاف با مشتری، هزینه شرکت و سابقه سوءاستفاده چگونه تعادل ایجاد شود، لزوماً با افزودن چند if حل نمی‌شود.

سوم، خودکارکردن یک استثنا ممکن است از نظر فنی ممکن اما از نظر اقتصادی یا اخلاقی ناموجه باشد. اگر رخداد بسیار نادر، پیامد بسیار سنگین و داده آموزشی محدود باشد، حفظ کنترل انسانی می‌تواند انتخاب بهتری باشد.

بنابراین هدف، زیادکردن کار انسان نیست. هدف این است که انسان فقط در جایی وارد شود که قضاوت او ارزش افزوده دارد، و هر مداخله نیز سیستم را آگاه‌تر کند.

پیامد سازمانی: نیروی انسانی کمتر، اما مسئولیت و مهارت بیشتر

وقتی مسیرهای عادی خودکار می‌شوند، برنامه‌ریزی نیروی انسانی بر اساس میانگین حجم کار کافی نیست. استثناها معمولاً یکنواخت وارد نمی‌شوند؛ ممکن است یک اختلال، تغییر مقررات یا حمله تقلبی ناگهان حجم بزرگی از پرونده‌های پیچیده بسازد. سازمان باید برای دم ظرفیت برنامه داشته باشد، نه فقط برای روز عادی.

الگوهای مدیریت رخداد در مهندسی قابلیت اتکا نیز بر تعریف نقش، مسیر فرماندهی، ارتباطات و هماهنگی هنگام مسائل غیرعادی تأکید می‌کنند [8]. همین منطق در عملیات AI و محصول هم کاربرد دارد. باید از قبل روشن باشد چه کسی مالک رخداد است، چه کسی اجازه توقف سیستم دارد، چه زمانی تیم حقوقی یا امنیتی وارد می‌شود و ارتباط با کاربر چگونه انجام می‌گیرد.

نقش‌های انسانی نیز تخصصی‌تر می‌شوند. کارشناس آینده کمتر یک اجراکننده قاعده و بیشتر یک تشخیص‌دهنده ابهام، حل‌کننده تعارض و طراح بازخورد است. این تغییر می‌تواند کیفیت شغل را بالا ببرد، اما یک خطر هم دارد: اگر سازمان آموزش، اختیار و جبران متناسب ندهد، دشوارترین و پراسترس‌ترین کارها را بر دوش تعداد کمتری از افراد می‌گذارد و صرفه‌جویی اتوماسیون را با فرسودگی انسانی تأمین می‌کند.

اقتصاد استثنا، در نتیجه، فقط مسئله معماری نرم‌افزار نیست؛ مسئله طراحی سازمان، مهارت، اختیار و عدالت در توزیع بار کار نیز هست.

یک چارچوب عملی برای طراحی سیستم استثنا

برای هر فرایندی که قرار است خودکار شود، می‌توان این ده سؤال را پیش از لانچ پرسید:

  1. مسیر عادی دقیقاً چیست و کجا به پایان موفق می‌رسد؟

  2. چه نوع استثناهایی را از قبل می‌شناسیم و چه چیزهایی هنوز ناشناخته‌اند؟

  3. سیستم با چه سیگنالی باید توقف کند یا کمک بخواهد؟

  4. هزینه خطای مثبت کاذب و منفی کاذب در ارجاع چیست؟

  5. هر نوع استثنا به چه نقش، تیم یا سطح اختیاری تعلق دارد؟

  6. انسان هنگام تحویل چه زمینه‌ای دریافت می‌کند؟

  7. چه اقدام‌هایی قابل بازگشت‌اند و برای کدام موارد تأیید پیشینی لازم است؟

  8. اگر حجم استثنا ناگهان ده برابر شد، چه برنامه‌ای داریم؟

  9. نتیجه بررسی چگونه به سیاست، مدل، داده یا طراحی محصول بازمی‌گردد؟

  10. آیا بهبود نرخ اتوماسیون، نتیجه مشتری و هزینه کل را هم بهتر کرده است؟

تست ساده دیگری نیز مفید است: یک پرونده واقعی و پیچیده را از لحظه ورود تا حل نهایی دنبال کنید. چند بار میان تیم‌ها جابه‌جا می‌شود؟ چند بار کاربر اطلاعات را تکرار می‌کند؟ چه کسی اختیار تصمیم دارد؟ چه چیزی ثبت می‌شود؟ و آیا همان استثنا ماه بعد دوباره رخ می‌دهد؟ پاسخ این سؤال‌ها معمولاً بیشتر از یک دمو درباره بلوغ سیستم می‌گوید.

جمع‌بندی: مزیت آینده در اجرای قاعده نیست، در مدیریت مرز قاعده است

هرچه مدل‌ها، APIها و ابزارهای اتوماسیون در دسترس‌تر شوند، اجرای مسیر عادی بیشتر به یک قابلیت پایه تبدیل می‌شود. شرکت‌ها همچنان از خودکارسازی سرعت و صرفه‌جویی می‌گیرند، اما تمایز پایدارتر در جایی شکل می‌گیرد که سیستم با جهان نامرتب روبه‌رو می‌شود: داده ناقص، نیاز مبهم، تعارض سیاست، رفتار تازه، شکست عملیات و پیامد پیش‌بینی‌نشده.

در این جهان، ارزش انسان صرفاً در انجام کاری که ماشین نتوانسته نیست. ارزش او در تعریف مرز اختیار ماشین، تشخیص استثنای مهم، قضاوت میان اهداف متعارض، بازیابی از خطا و تبدیل تجربه نادر به یادگیری سیستم است.

اما این ارزش خودکار به وجود نمی‌آید. باید مسیر ارجاع را مثل بخشی از محصول طراحی کرد؛ زمینه، اختیار، ظرفیت و سنجه داد؛ و مراقب بود انسان به آخرین پناهگاه بی‌ابزار سیستم تبدیل نشود.

آینده متعلق به سازمانی نیست که بیشترین درصد کار را به هر قیمت خودکار کرده است. متعلق به سازمانی است که مسیر عادی را ارزان، مسیر استثنا را قابل‌اعتماد و فاصله میان هر خطا و یادگیری بعدی را کوتاه کرده باشد.

منابع و برای مطالعه بیشتر

[1] Lisanne Bainbridge, Ironies of Automation, Automatica, 1983: https://doi.org/10.1016/0005-1098(83)90046-8

[2] Mica R. Endsley & Esin O. Kiris, The Out-of-the-Loop Performance Problem and Level of Control in Automation, Human Factors, 1995: https://doi.org/10.1518/001872095779064555

[3] Raja Parasuraman, Thomas B. Sheridan & Christopher D. Wickens, A Model for Types and Levels of Human Interaction with Automation, IEEE Transactions on Systems, Man, and Cybernetics, 2000: https://doi.org/10.1109/3468.844354

[4] Saleema Amershi et al., Guidelines for Human-AI Interaction, CHI 2019: https://doi.org/10.1145/3290605.3300233

[5] NIST, AI Risk Management Framework: https://www.nist.gov/itl/ai-risk-management-framework

[6] Stripe Documentation, Review Payments — Use reviews to supplement automated systems with human expertise: https://docs.stripe.com/radar/reviews

[7] Anthropic, Building Effective AI Agents: https://www.anthropic.com/engineering/building-effective-agents

[8] Google SRE Workbook, Incident Response: https://sre.google/workbook/incident-response/

نیروی انسانیaiهوش مصنوعی
۰
۰
Mohamad Takalloo
Mohamad Takalloo
نیمچه روانشناس - علاقه‌مند به مدیریت محصول
شاید از این پست‌ها خوشتان بیاید