ویرگول
ورودثبت نام
احمد احمدی
احمد احمدیکنج کاو Telegram: @JalebDevOps
احمد احمدی
احمد احمدی
خواندن ۳ دقیقه·۳ ماه پیش

وقتی هوش مصنوعی بین ما قضاوت می‌کند

در یادداشت قبلی درباره این صحبت کردم که چرا گاهی به پاسخ هوش مصنوعی بیشتر از نظر یک متخصص انسانی اعتماد می‌کنیم؛ پاسخی که ممکن است فقط به خاطر ظاهر مرتب، منطقی و مطمئنش، معتبرتر به نظر برسد.

اما یک سؤال دیگر وجود دارد:
اگر این اتفاق فقط بین انسان و هوش مصنوعی نباشد و روی رابطه‌ی ما با یکدیگر هم اثر بگذارد، چه می‌شود؟

در یک تیم، اختلاف نظر طبیعی است. یک متخصص ممکن است با مدیر، همکار یا متخصص دیگری مخالف باشد. اتفاقاً همین اختلاف نظرها می‌توانند باعث شوند تصمیم‌ها بهتر بررسی شوند.

اما گاهی به جای اینکه درباره‌ی اختلاف نظر صحبت کنیم، دنبال یک داور بیرونی می‌گردیم؛ چیزی که فکر می‌کنیم بی‌طرف است و تحت تأثیر روابط، جایگاه سازمانی یا اختلافات بین افراد قرار نمی‌گیرد.

مثلاً وقتی دو نفر درباره‌ی یک راه‌حل فنی اختلاف نظر دارند، ممکن است یکی از آنها بگوید:
«بیا از AI بپرسیم.»
در نگاه اول، این کار منطقی به نظر می‌رسد. اما اگر پاسخ AI تبدیل شود به پایان بحث، یک اتفاق مهم افتاده است: ما به جای حل اختلاف، داوری را به یک ابزار سپرده‌ایم.

هوش مصنوعی لزوماً بی‌طرف نیست. پاسخ آن به داده‌هایی که با آنها آموزش دیده، محدودیت‌های مدل و حتی نحوه‌ی پرسیدن سؤال وابسته است.

بنابراین:
«مدل گفته این بهتر است» نباید پایان یک بحث باشد.

شاید باید شروع سؤال‌های بهتری باشد:
چرا؟
بر چه اساسی؟
چه فرض‌هایی پشت این پاسخ وجود دارد؟
آیا با تجربه‌ی واقعی ما سازگار است؟

اختلاف نظر همیشه نشانه‌ی مشکل نیست

گاهی در تیم‌ها، هدف از بین بردن اختلاف نظر است؛ انگار اگر همه با یک تصمیم موافق باشند، یعنی تصمیم خوبی گرفته‌ایم.

اما اختلاف نظر می‌تواند نشانه‌ی این باشد که افراد از زاویه‌های متفاوتی به مسئله نگاه می‌کنند.

یک متخصص ممکن است چیزی را ببیند که دیگری ندیده است. ممکن است تجربه‌ای داشته باشد که در داده‌های یک مدل وجود ندارد. یا حتی ممکن است اشتباه کند و همین مخالفت باعث شود فرضی که بدون بررسی پذیرفته شده بود، دوباره مورد سؤال قرار بگیرد.

اگر هر اختلاف نظری را به AI ارجاع دهیم، ممکن است به مرور به جای یاد گرفتن چطور با یکدیگر فکر کنیم، یاد بگیریم چطور یک پاسخ بیرونی پیدا کنیم که اختلاف را تمام کند.

این دو با هم فرق دارند.

AI باید بحث را بهتر کند، نه تمامش کند

استفاده از هوش مصنوعی برای بررسی یک تصمیم، پیدا کردن نقاط ضعف یک راه‌حل یا مطرح کردن دیدگاه‌های متفاوت می‌تواند بسیار ارزشمند باشد.

اما شاید بهتر باشد نقش آن را از «داور» به «هم‌فکر» تغییر دهیم.

به جای اینکه بپرسیم:
«کدام‌یک از ما درست می‌گوید؟»

می‌توانیم بپرسیم:
«چه چیزی را در استدلال هر دو طرف ندیده‌ایم؟»

این تفاوت کوچکی به نظر می‌رسد، اما نتیجه‌ی متفاوتی دارد.

در حالت اول، به دنبال یک برنده هستیم.
در حالت دوم، به دنبال تصمیم بهتر هستیم.

شاید استفاده‌ی حرفه‌ای از هوش مصنوعی فقط به این معنی نباشد که جواب‌های بهتری از آن بگیریم؛ بلکه به این معنی باشد که از آن برای بهتر فکر کردن، بهتر سؤال پرسیدن و بهتر گفت‌وگو کردن با یکدیگر استفاده کنیم.

AI می‌تواند به ما کمک کند اختلاف نظرها را بهتر بررسی کنیم.

اما اگر قرار باشد جای اعتماد بین آدم‌ها را بگیرد، شاید بخشی از ارزشی را که قرار بود ایجاد کند، از بین ببرد.

آیا در تیم یا محیط کاری خودتان تجربه کرده‌اید که «AI گفته...» تبدیل به پایان یک بحث شود؟
خوشحال می‌شوم تجربه‌تان را در میان بگذارید.

یادداشت: این نوشته ادامه‌ی یادداشت قبلی من درباره‌ی اعتماد به هوش مصنوعی است. در یادداشت بعدی می‌خواهم به جنبه‌ی دیگری از این موضوع بپردازم: وقتی AI کمک می‌کند کاری را انجام دهیم، اما لزوماً باعث نمی‌شود آن را یاد گرفته باشیم.

هوش مصنوعی
۱
۰
احمد احمدی
احمد احمدی
کنج کاو Telegram: @JalebDevOps
شاید از این پست‌ها خوشتان بیاید