ویرگول
ورودثبت نام
احمد احمدی
احمد احمدیکنج کاو Telegram: @JalebDevOps
احمد احمدی
احمد احمدی
خواندن ۳ دقیقه·۴ ماه پیش

چرا گاهی هوش مصنوعی از متخصص قابل اعتمادتر به نظر می‌رسد؟

ما خیلی سریع یاد گرفته‌ایم چطور از ابزارهای هوش مصنوعی استفاده کنیم؛ چطور سؤال بهتری بپرسیم، خروجی بهتری بگیریم و بعضی از کارهایمان را سریع‌تر انجام دهیم.

اما کمتر درباره‌ی یک موضوع حرف می‌زنیم:
وقتی یک پاسخ از طرف هوش مصنوعی می‌گیریم، چقدر باید به آن اعتماد کنیم؟

استفاده از هوش مصنوعی برای من هم مثل خیلی‌های دیگر جذاب است. سرعتی که در پیدا کردن ایده، نوشتن، تحلیل کردن و حتی حل بعضی مسائل ایجاد می‌کند، واقعاً قابل توجه است. اما چیزی که بیشتر از خود تکنولوژی توجهم را جلب کرده، تغییری است که در رفتار ما ایجاد می‌کند.

گاهی در محیط‌های کاری دیده می‌شود که یک پاسخ تولیدشده توسط هوش مصنوعی، فقط به خاطر اینکه مرتب، سریع و مطمئن به نظر می‌رسد، اعتبار زیادی پیدا می‌کند؛ حتی بیشتر از نظر افرادی که سال‌ها در همان حوزه تجربه دارند.

اینجا بحث این نیست که هوش مصنوعی بد است یا انسان‌ها همیشه بهتر تصمیم می‌گیرند.
مسئله این است که ما به چه چیزی اعتماد می‌کنیم.

چون ممکن است پاسخ قانع‌کننده، جای پاسخ درست را بگیرد

یکی از ویژگی‌های جذاب هوش مصنوعی این است که خیلی خوب می‌تواند جواب بدهد. پاسخ‌ها معمولاً ساختار دارند، مرتب هستند و با لحنی نوشته می‌شوند که حس اطمینان ایجاد می‌کند.

اما اینجا یک خطر وجود دارد: ما انسان‌ها گاهی چیزی را که بهتر توضیح داده شده، با چیزی که درست‌تر است اشتباه می‌گیریم.

یک پاسخ می‌تواند خیلی حرفه‌ای به نظر برسد، اصطلاحات تخصصی داشته باشد و حتی کاملاً منطقی به نظر برسد؛ اما همچنان اشتباه باشد.

این موضوع البته جدید نیست و فقط مربوط به هوش مصنوعی هم نمی‌شود. سال‌ها قبل از چت جی‌پی‌تی، در حوزه‌هایی مثل هوانوردی و پزشکی هم چنین مسئله‌ای دیده شده بود. گاهی خلبان‌ها یا پزشک‌ها فقط به این دلیل که یک سیستم پیشنهادی داده، قضاوت خودشان را کنار می‌گذاشتند.

این پدیده که به آن سوگیری ناشی از اتوماسیون (Automation Bias) گفته می‌شود، نشان می‌دهد انسان‌ها گاهی بیشتر از حد منطقی به سیستم‌های خودکار اعتماد می‌کنند.

امروز همین اتفاق می‌تواند با مدل‌های هوش مصنوعی رخ دهد؛ با این تفاوت که این بار سیستم فقط یک عدد یا هشدار نشان نمی‌دهد. یک پاسخ کامل، روان و قانع‌کننده تولید می‌کند و همین موضوع تشخیص درست و غلط را سخت‌تر می‌کند.

آیا هوش مصنوعی پاسخگوی اشتباهاتش است؟

تقریباً همه‌ی ابزارهای هوش مصنوعی یک هشدار مشابه دارند:
«این پاسخ ممکن است اشتباه باشد.»
اولین واکنش خیلی‌ها این است:
«خب، انسان هم اشتباه می‌کند.»
و درست هم می‌گویند. حتی متخصص‌ترین افراد هم ممکن است تصمیم اشتباه بگیرند.
اما یک تفاوت مهم وجود دارد: مسئولیت.

وقتی یک متخصص نظر می‌دهد، پشت آن تجربه، دانش و شناخت شرایط وجود دارد. می‌توانیم سؤال بپرسیم، مخالفت کنیم و درباره‌ی دلیل یک تصمیم صحبت کنیم. اما هوش مصنوعی مسئولیتی ندارد. نمی‌توانیم از یک مدل بخواهیم مسئولیت اشتباهاتش را بپذیرد.

پس سؤال اصلی این نیست که:
«به هوش مصنوعی اعتماد کنیم یا به انسان؟»
چون هر دو می‌توانند اشتباه کنند.

سؤال بهتر این است:
چه چیزی را می‌توانیم به ابزار بسپاریم و کجا هنوز به قضاوت انسانی نیاز داریم؟

ابزار بهتر، نیازمند قضاوت بهتر

هوش مصنوعی احتمالاً یکی از مهم‌ترین ابزارهایی خواهد بود که در اختیار ما قرار گرفته. اما هرچه این ابزارها قوی‌تر می‌شوند، اهمیت قضاوت انسانی هم بیشتر می‌شود.

چالش آینده فقط این نیست که یاد بگیریم چطور از هوش مصنوعی استفاده کنیم. چالش مهم‌تر این است که بدانیم چه زمانی باید به آن اعتماد کنیم، چه زمانی باید خروجی آن را بررسی کنیم و چه زمانی تصمیم نهایی را خودمان بگیریم.

استفاده‌ی حرفه‌ای از هوش مصنوعی شاید بیشتر از اینکه درباره‌ی گرفتن جواب بهتر باشد، درباره‌ی پرسیدن سؤال بهتر، بررسی پاسخ و پذیرفتن مسئولیت تصمیم‌هایمان باشد.

آیا تا به حال با موقعیتی روبه‌رو شده‌اید که پاسخ هوش مصنوعی، صرفاً به خاطر ظاهر منطقی و مطمئنش، از نظر یک متخصص معتبرتر تلقی شود؟
خوشحال می‌شوم تجربه‌تان را در میان بگذارید.

یادداشت: ایده و دغدغه‌ی اصلی این نوشته متعلق به من است و برای نگارش و ویرایش متن از هوش مصنوعی کمک گرفته‌ام.

هوش مصنوعی
۱
۱
احمد احمدی
احمد احمدی
کنج کاو Telegram: @JalebDevOps
شاید از این پست‌ها خوشتان بیاید