ویرگول
ورودثبت نام
مهرداد نادری
مهرداد نادریبنیانگذار و مدیرعامل شرکت بین المللی ناپرولیتی، دکترای آموزش تکنولوژی های نوظهور
مهرداد نادری
مهرداد نادری
خواندن ۱۰ دقیقه·۴ ماه پیش

هوش مصنوعی، پزشکان را حذف نمی‌کند؛ خطر بدتری در راه است

خطر اصلی هوش مصنوعی برای پزشکان، حذف‌شدن نیست. چیز دیگری است که کمتر درباره‌اش حرف می‌زنیم.


یک لحظه یک بیمارستان را تصور کنید.

نه یک بیمارستان خالی و ترسناک، از فیلم‌های علمی‌تخیلی. یک بیمارستان کاملاً عادی. پزشک آنجاست، روپوش سفیدش تنش است، با بیمار حرف می‌زند. همه‌چیز آرام و امن به نظر می‌رسد.

اما یک چیز را نمی‌بینید.

پیش از آنکه آن پزشک حتی یک کلمه با بیمار حرف بزند، یک سیستم کامپیوتری، بی‌سروصدا، همه‌چیز را از قبل چیده است. تعیین کرده او اول چه چیزی را ببیند. کدام احتمال پررنگ باشد و کدام کم‌رنگ. و در واقع، بدون اینکه کسی متوجه شود، مسیر فکر کردن آن پزشک را از پیش ساخته است.

حالا اگر همه‌چیز خوب پیش برود، می‌گوییم چه پزشک باهوشی. اما اگر روزی اشتباهی رخ بدهد؟ سیستم می‌گوید «من فقط یک پیشنهاد دادم». بیمارستان می‌گوید «پزشک خودش تأیید کرد». و آخرش، فقط یک نفر تنها می‌ماند؛ کسی که باید جواب همه‌چیز را بدهد.

این نوشته دربارهٔ همین است. چون به نظر من بزرگ‌ترین خطر هوش مصنوعی برای یک پزشک این نیست که شغلش از بین برود. خطر واقعی موذیانه‌تر است: اینکه تمام مسئولیت را روی دوش او بگذاریم، اما قدرت تصمیم‌گیری را کم‌کم از او بگیریم. آن‌قدر آرام که خودش هم متوجهش نشود.


سؤال اشتباه، سؤال درست

سال‌هاست همه یک سؤال را تکرار می‌کنند: آیا هوش مصنوعی جای پزشک را می‌گیرد؟

سؤال بدی نیست، اما ذهن ما را می‌برد به یک آیندهٔ دور؛ رباتی که روپوش پوشیده. در حالی که آنچه همین حالا دارد اتفاق می‌افتد، در اتاق‌هایی رخ می‌دهد که هیچ رباتی در آن‌ها نیست.

سؤال دقیق‌تر این است: وقتی یک سیستم تعیین می‌کند تو اول چه ببینی و چه فکری اصلاً به ذهنت برسد، واقعاً چه کسی دارد تصمیم می‌گیرد؟

چون قدرت، همیشه دست کسی نیست که آخر امضا می‌کند. خیلی وقت‌ها، قدرت دست کسی است که تعیین می‌کند تو اول چه گزینه‌ای را ببینی.


اول: دسترسی به ابزار قوی، تیم قوی نمی‌سازد

بگذارید از حرف بیاییم بیرون و به داده نگاه کنیم.

سال ۲۰۲۴، در یکی از معتبرترین مجلات پزشکی دنیا، JAMA Network Open، پژوهشگران، پنجاه پزشک را کاملاً تصادفی به دو گروه تقسیم کردند. یک گروه علاوه بر منابع همیشگی‌شان به GPT-4 هم دسترسی داشت. گروه دیگر فقط منابع سنتی.

نتیجه؟ گروهی که هوش مصنوعی داشت ۷۶ درصد. گروهی که نداشت ۷۴ درصد.

دو واحد درصد. آن‌قدر ناچیز که از نظر آماری اصلاً تفاوت معنادار حساب نمی‌شود.

اما یک عدد دیگر هم در همان مطالعه بود که آدم را به فکر می‌برد: وقتی خود مدل، تنها و بدون هیچ پزشکی کار کرد، نمره‌اش شد ۹۲ درصد. یعنی حدود شانزده واحد درصد بالاتر از پزشکان.

وسوسه‌انگیز است که نتیجه بگیریم «پس ماشین بهتر است». اما نتیجهٔ واقعی ظریف‌تر و مهم‌تر است:

ماشین به‌تنهایی درخشان بود. انسان به‌تنهایی خوب بود. اما وقتی کنار هم گذاشتیمشان، هیچ اتفاق خاصی نیفتاد.

و این یعنی، صرف اینکه یک ابزار فوق‌العاده را دست کسی بدهی، به این معنا نیست که یک تیم فوق‌العاده ساخته‌ای.

یک نکتهٔ مهم: این آزمایش روی سناریوهای فرضی انجام شده، نه بیمار واقعی. پس نباید بیش از آنچه داده می‌گوید، ادعا کرد.


دوم: پس چه چیزی جواب می‌دهد؟ طراحی روش کار

اگر دادن ابزار کافی نیست، چه چیزی کار می‌کند؟

مارس ۲۰۲۶، در مجلهٔ npj Digital Medicine، پژوهشگران همین را آزمودند. این‌بار هفتاد پزشک و یک روش متفاوت: پزشک و ماشین هرکدام جداگانه نظرشان را می‌دادند، مثل دو متخصص مستقل. بعد سیستم نشان می‌داد کجا با هم موافق‌اند و مهم‌تر از آن، کجا با هم مخالف.

و عددها بالا رفتند. گروه سنتی ۷۵ درصد. با این روش ساختارمند، ۸۲ و ۸۵ درصد.

معمولاً داستان همین‌جا تمام می‌شود. اما یک عدد دیگر هم بود: ماشین به‌تنهایی ۹۰ درصد گرفت. و تفاوت آن تیم انسان و ماشین با ماشین تنها، معنادار نبود.

دو درس از این یافته می‌گیریم. درس اول امیدوارکننده است: طراحی درست روش کار واقعاً معجزه می‌کند. تفاوت فقط «هوش مصنوعی بیشتر» نبود؛ نحوهٔ کنار هم نشستن انسان و ماشین عوض شده بود.

درس دوم تلخ‌تر است و باید در چشمش نگاه کرد: اگر انسان چیزی به آن معادله اضافه نکند، «همکاری» فقط یک اسم محترمانه است برای تأیید کردن.


سوم: جایی که ابزار، انسان را بدتر می‌کند

تا اینجا بدترین اتفاق این بود که ماشین کمکی نکرد. اما یافتهٔ بعدی واقعاً باید نگرانمان کند.

سال ۲۰۲۳، در JAMA، چهارصد و پنجاه و هفت متخصص بالینی روی پرونده‌های بیماران تنفسی کار کردند. اول بدون هیچ کمکی دقتشان را سنجیدند: ۷۳ درصد. این خط پایه است؛ یعنی خود انسان، تنها.

بعد یک هوش مصنوعی سالم و درست به آن‌ها دادند، همراه با توضیح. دقتشان ۴٫۴ واحد درصد بهتر شد. تا اینجا همه‌چیز خوب است.

و بعد پژوهشگران کار هوشمندانه‌ای کردند: عمداً یک مدل سوگیر و خطادار دادند.

دقت همان متخصص‌ها ۱۱٫۳ واحد درصد سقوط کرد و رسید به ۶۱٫۷ درصد.

به این عدد خوب فکر کنید. این پایین‌تر از حالتی است که اصلاً هیچ هوش مصنوعی‌ای در کار نبود. ابزار، آن‌ها را از خودشان هم بدتر کرد.

شاید بگویید حتماً توضیحات سیستم را نخواندند. اما نه؛ توضیحات آنجا بود. قشنگ، مفصل و قانع‌کننده. و دقیقاً همان توضیحات قشنگ بود که گولشان زد.

این پدیده اسم دارد: سوگیری اعتماد به ماشین (Automation Bias). یعنی ما آدم‌ها یک میل درونی داریم که حرف ماشین را بپذیریم، حتی وقتی نباید.

یک توضیح زیبا، همیشه درست نیست. گاهی فقط یک اشتباه را قانع‌کننده‌تر جلوه می‌دهد.


یک قیاس: نشستن در کابین، با فرماندهی فرق دارد

بگذارید یک لحظه از پزشکی بیرون بیاییم.

تصور کنید در کابین یک هواپیمای مسافربری نشسته‌اید. خلبان خودکار روشن است، آسمان آرام است، و خلبان دقیقاً سر جای خودش نشسته. خیالتان راحت است.

حالا سه چیز را از او بگیرید:

۱. نگذارید بفهمد چرا سیستم این تصمیم‌ها را می‌گیرد ۲. کاری کنید حتی اگر بخواهد، نتواند تصمیم سیستم را لغو کند ۳. بگذارید سال‌ها بگذرد بدون اینکه کسی مهارت مستقل خودش را بسنجد

اما اگر اتفاقی افتاد، امضای گزارش نهایی پای اوست.

حالا از خودتان بپرسید: هنوز هم صرف حضور آن خلبان خیالتان را راحت می‌کند؟

در پزشکی هم همان روپوش سفید می‌تواند همین توهم را بسازد. اگر پزشک اطلاعات نداشته باشد، وقت کافی نداشته باشد، اجازهٔ مخالفت نداشته باشد و توان مستقل قضاوت نداشته باشد، آن‌وقت حضورش دیگر یک لایهٔ ایمنی نیست. فقط یک نام محترم است، پای مسئولیتی که قدرتش را از او گرفته‌اند.


چهارم: نگرانی عمیق‌تر، فرسایش مهارت

شاید بدترین اثر هوش مصنوعی، پاسخ غلط امروز نباشد؛ بلکه چیزی باشد که آرام‌آرام از ما می‌گیرد.

سال ۲۰۲۵، در مجلهٔ Lancet Gastroenterology and Hepatology، پژوهشگران در چهار مرکز آندوسکوپی، نرخ کشف ضایعه را سنجیدند: سه ماه پیش از ورود هوش مصنوعی و سه ماه پس از آن. اما این‌بار وقتی خود ماشین خاموش بود؛ یعنی خالص مهارت خود پزشک.

عدد از ۲۸٫۴ درصد افتاد به ۲۲٫۴ درصد. شش واحد درصد افت، آن هم وقتی پزشک بدون کمک ماشین کار می‌کرد. مثل عضله‌ای که وقتی کار نکند، کم‌کم آب می‌رود.

و اینجا باید صادق بود. یک نویسندهٔ ضعیف همین‌جا می‌ایستد و می‌گوید «دیدید؟ فاجعه!». اما این یک مطالعهٔ مشاهده‌ای بود، نه آزمایش کنترل‌شده؛ عوامل دیگری هم می‌توانستند دخیل باشند و علیت قطعی ثابت نشد.

و جالب اینکه سال ۲۰۲۶، مطالعه‌ای دقیق‌تر و آینده‌نگر با بیش از پنج هزار آندوسکوپی، افت معناداری پیدا نکرد.

پس حقیقت این است: ما هنوز مطمئن نیستیم.

و بگذارید بگویم چرا این مهم‌ترین جملهٔ این نوشته است. چون پاسخ یک ذهن علمی به شواهد متناقض، نه ترس است و نه انکار. پاسخ یک کلمه است: اندازه‌گیری.

یعنی باید عملکرد را هم با کمک ماشین بسنجیم، هم بدون آن. وگرنه بهره‌وری امروز را می‌بینیم و فرسایش مهارت فردا را نمی‌بینیم.


و در دنیای واقعی: پذیرش از نظارت جلو زده است

در پیمایش ۲۰۲۶ انجمن پزشکی آمریکا از حدود هزار و هفتصد پزشک، ۸۱ درصد گفتند در کارشان از هوش مصنوعی استفاده می‌کنند. سه سال پیش این عدد فقط ۳۸ درصد بود. در سه سال، بیش از دو برابر.

و نکتهٔ جالب: همین پزشکان هم امیدوارند، هم می‌ترسند. ۷۶ درصد آن را برای مراقبت از بیمار یک مزیت می‌دانند. اما ۸۸ درصد دست‌کم نوعی نگرانی دربارهٔ از دست دادن مهارت دارند؛ به‌ویژه پزشکان جوان‌تر.

این پیمایش ثابت نمی‌کند آسیبی رخ داده. فقط نشان می‌دهد امید و نگرانی می‌توانند همزمان و هر دو واقعی باشند.

و در همین دوره، اتحادیهٔ اروپا اجرای سخت‌گیرانه‌ترین الزاماتش برای هوش مصنوعی تعبیه‌شده در تجهیزات پزشکی را به اوت ۲۰۲۸ موکول کرد. دقت کنید: این تجهیزات از فهرست پرخطر حذف نشدند؛ فقط زمان بیشتری داده شد.

پس تصویر را کنار هم بگذارید: از یک طرف موجی عظیم از پذیرش، از طرف دیگر قوانینی که هنوز نرسیده‌اند. و آن فاصله، همان‌جایی است که خطر زندگی می‌کند.


اسم این پدیده: واگذاری خاموش

تا وقتی چیزی اسم نداشته باشد، نمی‌شود درست درباره‌اش حرف زد.

این انتقال قدرت هیچ‌وقت با یک اعلام رسمی اتفاق نمی‌افتد. هیچ مدیری نمی‌گوید «از فردا قضاوت پزشکی را به الگوریتم می‌سپاریم». این خیلی آرام‌تر رخ می‌دهد:

اول، توجه منتقل می‌شود. سیستم تعیین می‌کند پزشک اول چه ببیند.

بعد، قاب‌بندی منتقل می‌شود. سیستم تعیین می‌کند چه فرضیه‌هایی منطقی به نظر برسند.

و کم‌کم، خود قضاوت هم می‌لغزد. چون مخالفت با ماشین انرژی می‌خواهد، وقت می‌خواهد، و بعضی روزها جرئت می‌خواهد.

اما در تمام این مسیر، یک چیز اصلاً منتقل نمی‌شود: امضای پزشک.

من اسم این الگو را گذاشته‌ام واگذاری خاموش (Silent Delegation): واگذاری قضاوت، بدون اینکه کسی رسماً چیزی را واگذار کرده باشد.

و شکافی که می‌سازد، فاصلهٔ میان کسی است که پاسخگوست و سیستمی که واقعاً تصمیم را شکل داده است.


راه‌حل: هفت پرسش برای کنترل انسانی معنادار

راه‌حل نه هوش مصنوعی کمتر است، نه بیشتر. راه‌حل طراحی هوشمندانه‌تر همکاری انسان و ماشین است.

من برای هر تصمیم پرخطر، این هفت پرسش را می‌پرسم. تأکید می‌کنم اینها دستورالعمل پزشکی نیستند؛ ابزار طراحی‌اند:

۱. جایگاه قضاوت: کدام بخش این تصمیم باید حتماً انسانی بماند؟ ۲. اختیار مداخله: آیا پزشک واقعاً می‌تواند رد کند، اصلاح کند، یا متوقف کند؟ ۳. صلاحیت: آیا ناظر انسانی هم دانش بالینی دارد، هم محدودیت‌های سیستم را می‌فهمد؟ ۴. زمان و توجه: آیا فرصت بررسی واقعی هست، یا فقط دکمهٔ تأیید زده می‌شود؟ ۵. قابلیت ردیابی: آیا بعداً می‌شود سهم داده، مدل و انسان را از هم جدا کرد؟ ۶. مسیر اعتراض: آیا بیمار راه مؤثری برای شکایت و اصلاح دارد؟ ۷. تاب‌آوری مهارت: آیا توان مستقل پزشک، بدون کمک ماشین، دوره‌ای سنجیده می‌شود؟

و یک قاعدهٔ ساده: قرار نیست انسان هر تصمیم کم‌خطر را دستی بررسی کند. شدت کنترل باید با میزان خطر و برگشت‌ناپذیری تصمیم متناسب باشد.


سه کاری که از فردا می‌شود کرد

یک: اول خودتان فکر کنید. در کارهای حساس، نظر مستقل خودتان را پیش از دیدن خروجی سیستم ثبت کنید. چون وقتی اول جواب ماشین را ببینی، دیگر هیچ‌وقت نمی‌فهمی فکر خودت چه بود.

دو: از ماشین بخواهید با شما مخالفت کند. فقط «جواب» نخواهید. بپرسید «چه چیز دیگری ممکن است باشد؟ چه شواهدی خلاف حرف توست؟». یک دستیار خوب، بله‌قربان‌گو نیست.

سه: هرازگاهی ماشین را خاموش کنید. فقط برای اینکه مطمئن شوید هنوز خودتان بلدید. مثل ورزشکاری که گاهی بدون دستگاه تمرین می‌کند.

چون ما آینده را با تعداد دستورهایی که به ماشین می‌دهیم نمی‌سازیم. با شواهد می‌سازیم، با طراحی درست، و با یک مرز روشن که پشت آن قضاوت انسانی تسلیم نمی‌شود.


حرف آخر

آیندهٔ پزشکی به آن کسی نمی‌رسد که از هوش مصنوعی می‌ترسد و به آن پشت می‌کند. و به آن کسی هم نمی‌رسد که چشم‌بسته، سریع‌تر از همه، هرچه ماشین گفت را تأیید می‌کند.

آینده به آن پزشکی می‌رسد که از قدرت ماشین استفاده می‌کند، اما حق مخالفت، توان قضاوت، و مسئولیت انسانی‌اش را به هیچ قیمتی نمی‌فروشد.

چون در پایان، یک امضا فقط جوهر روی کاغذ نیست.

یک امضا فقط وقتی معنا دارد که پشت آن، یک انسان واقعی ایستاده باشد. کسی که هنوز خودش تصمیم می‌گیرد.


دربارهٔ نویسنده

من مهرداد نادری هستم و روی تحول هوش مصنوعی در سه لایه کار می‌کنم: سازمان‌ها، تیم‌ها، و متخصصان.

برنامه‌ای که ساخته‌ام، TenXPros، نه آموزش پزشکی است و نه سیستم تصمیم‌گیری بالینی. یک مسیر توسعهٔ حرفه‌ای است برای متخصصان هر حوزه، تا یک مسئلهٔ واقعی را درست تعریف کنند، همکاری انسان و ماشین را خودشان طراحی کنند، مرز قضاوت انسانی را روشن نگه دارند، و یک سند زنده و قابل‌بازبینی از راهکارشان بسازند.

فارسی‌زبانان: tenxpros.ir — دسترسی جهانی: tenxpros.com


منابع

۱. Goh E, et al. Large Language Model Influence on Diagnostic Reasoning: A Randomized Clinical Trial. JAMA Netw Open. 2024;7(10):e2440969

۲. Everett SS, et al. From tool to teammate in a randomized controlled trial of clinician-AI collaborative workflows for diagnosis. npj Digit Med. 2026;9:409

۳. Jabbour S, et al. Measuring the Impact of AI in the Diagnosis of Hospitalized Patients: A Randomized Clinical Vignette Survey Study. JAMA. 2023;330(23):2275-2284

۴. Budzyń K, et al. Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. Lancet Gastroenterol Hepatol. 2025;10(10):896-903

۵. Learning and deskilling effects of artificial intelligence in colonoscopy among endoscopists with different levels of experience: a pragmatic, prospective trial. Endoscopy. 2026

۶. American Medical Association. 2026 Physician Survey on Augmented Intelligence

۷. Regulation (EU) 2024/1689 (AI Act), Article 14؛ با اصلاحات Digital Omnibus مصوب ژوئن ۲۰۲۶

این نوشته مشاورهٔ پزشکی یا دستورالعمل بالینی نیست. تحلیل ارائه‌شده دربارهٔ طراحی فرایند کار و حاکمیت هوش مصنوعی است. وضعیت مقررات تا ژوئیه ۲۰۲۶.

هوش مصنوعیپزشکیبهداشت و درمانربات
۰
۰
مهرداد نادری
مهرداد نادری
بنیانگذار و مدیرعامل شرکت بین المللی ناپرولیتی، دکترای آموزش تکنولوژی های نوظهور
شاید از این پست‌ها خوشتان بیاید