ویرگول
ورودثبت نام
مهرداد نادری
مهرداد نادریبنیانگذار و مدیرعامل شرکت بین المللی ناپرولیتی، دکترای آموزش تکنولوژی های نوظهور
مهرداد نادری
مهرداد نادری
خواندن ۹ دقیقه·۳ ماه پیش

هوش مصنوعی دارد تو را قوی‌تر می‌کند، یا فقط قوی‌تر نشان می‌دهد؟

یک سؤال دارم که احتمالاً جوابش کمی ناراحت‌کننده است.

اگر از فردا ChatGPT، Claude، Copilot و هر ابزار هوش مصنوعی دیگری که استفاده می‌کنی برای ۳۰ روز خاموش شوند، چند درصد از کیفیت کاری که امروز تحویل می‌دهی باقی می‌ماند؟

هشتاد درصد؟

پنجاه درصد؟

بیست درصد؟

اصلاً می‌دانی؟

این سؤال مدتی است بیشتر از خودِ پیشرفت مدل‌های هوش مصنوعی ذهن من را درگیر کرده.

چون به‌نظرم خطر اصلی AI الزاماً این نیست که یک روز جای ما را بگیرد.

یک خطر آرام‌تر وجود دارد:

ممکن است خروجی ما خیلی سریع‌تر از خودمان بهتر شود.

و چون خروجی خوب است، اصلاً متوجه این فاصله نشویم.


چند وقت پیش به یک آزمایش بسیار جالب برخوردم.

نزدیک به هزار دانش‌آموز دبیرستانی در ترکیه در یک مطالعه تصادفی شرکت کردند.

یک گروه بدون هوش مصنوعی تمرین می‌کرد.

یک گروه به GPT-4 دسترسی داشت و می‌توانست تقریباً آزادانه از آن کمک بگیرد.

گروه سوم هم GPT-4 داشت، اما با یک تفاوت مهم: سیستم طوری طراحی شده بود که جواب نهایی را راحت تحویل ندهد و بیشتر دانش‌آموز را به سمت قدم بعدی هدایت کند.

نتیجه اول اصلاً عجیب نبود.

وقتی ابزار در اختیار دانش‌آموزان بود، گروهی که آزادانه از GPT-4 استفاده می‌کرد حدود ۴۸ درصد بهتر از گروه کنترل عمل کرد.

عالی است دیگر، نه؟

هوش مصنوعی آمده، عملکرد بالا رفته، تمام.

نه.

بخش مهم آزمایش تازه بعد از این شروع شد.

ابزار را برداشتند.

دانش‌آموزان باید بدون کمک AI امتحان می‌دادند.

همان گروهی که چند دقیقه قبل با GPT-4 بهترین عملکرد را داشت، این بار حدود ۱۷ درصد ضعیف‌تر از کسانی عمل کرد که از روز اول اصلاً به AI دسترسی نداشتند.

یعنی چه؟

یعنی ممکن است چیزی که روی صفحه می‌بینیم واقعاً بهتر شده باشد، اما چیزی که در ذهن ساخته‌ایم نه.

خروجی بهتر شده بود. توانایی، نه.

به‌نظرم اگر قرار باشد فقط یک جمله از این نوشته یادت بماند، همین است.


ما یک اشتباه عجیب درباره «متخصص شدن در AI» داریم

تقریباً هر هفته از من می‌پرسند:

اول Python یاد بگیرم یا Machine Learning؟

ریاضی چقدر لازم است؟

رشته‌ام مرتبط نیست، چه کار کنم؟

۳۵ سالم است، دیر نشده؟

چه مدرکی بگیرم؟

چه دوره‌ای ببینم؟

این سؤال‌ها بی‌ربط نیستند.

ولی من دیگر فکر نمی‌کنم سؤال اول این‌ها باشد.

قبل از همه‌شان یک سؤال مهم‌تر وجود دارد:

وقتی ابزار را از روی میز بردارند، چه چیزی از توانایی تو باقی می‌ماند؟

اینجاست که مرز بین «کسی که خوب از AI استفاده می‌کند» و «کسی که واقعاً در AI تخصص ساخته» آرام‌آرام معلوم می‌شود.

این دو یکی نیستند.

ممکن است کسی فوق‌العاده Prompt بنویسد، در چند دقیقه گزارش درست کند، کد تولید کند، تحلیل بنویسد و حتی محصول بسازد، ولی اگر نتواند درباره انتخاب‌هایش توضیح بدهد، خطا را تشخیص بدهد یا خروجی را راستی‌آزمایی کند، هنوز یک مسئله جدی وجود دارد.

اتفاقاً هرچه مدل‌ها بهتر می‌شوند، دیدن این مسئله سخت‌تر می‌شود.

چون خروجی بد به ما هشدار می‌دهد.

خروجی بسیار خوب، نه.


من اسم این فاصله را گذاشته‌ام «بدهی پاسخ»

فرض کن هر بار که با یک مسئله روبه‌رو می‌شوی، به‌جای اینکه خودت چند دقیقه با آن کلنجار بروی، جواب کامل را از AI می‌گیری.

یک بار؟

هیچ اتفاق خاصی نمی‌افتد.

ده بار؟

باز هم احتمالاً چیزی حس نمی‌کنی.

اما اگر این رفتار تبدیل به الگوی روزانه شود، اتفاق جالبی می‌افتد.

تو همچنان خروجی تحویل می‌دهی.

شاید حتی خروجی‌ات هر ماه بهتر هم بشود.

ولی بخشی از مسیری که قبلاً برای ساختن قضاوت، شهود و توان حل مسئله طی می‌کردی، دیگر طی نمی‌شود.

خروجی را امروز تحویل گرفته‌ای.

هزینه‌اش را بعداً می‌دهی.

مثل خرید با کارت اعتباری.

من اسم این را گذاشته‌ام:

Answer Debt

یا «بدهی پاسخ».

هر بار که به‌جای قدم بعدی، پاسخ نهایی را می‌گیری، چیزی به حسابت واریز می‌شود: خروجی.

اما ممکن است چیزی به همان اندازه ساخته نشود: توانایی.

و کم‌کم فاصله‌ای به وجود می‌آید میان کاری که می‌توانی تحویل بدهی و کاری که واقعاً می‌توانی بفهمی، بررسی کنی و از آن دفاع کنی.

این فاصله برای من از تعداد Promptهایی که بلدی خیلی مهم‌تر است.


چون AI همیشه وقتی اشتباه می‌کند، قیافه‌اش عوض نمی‌شود

این قسمت ماجرا حتی مهم‌تر است.

در یک آزمایش میدانی مشهور روی ۷۵۸ نیروی دانشی و مشاور حرفه‌ای، استفاده از AI در کارهایی که داخل محدوده توانایی مدل بودند، واقعاً نتیجه خوبی داد.

افراد کار بیشتری انجام دادند و سریع‌تر هم بودند.

اما پژوهشگران عمداً یک مسئله طراحی کردند که خارج از محدوده توانایی مدل باشد.

آنجا داستان برعکس شد.

افرادی که از AI استفاده می‌کردند، ۱۹ درصد کمتر احتمال داشت به پاسخ درست برسند.

این عدد برای من از بسیاری از رکوردهای Benchmark مهم‌تر است.

چرا؟

چون مدل وقتی از مرز توانایی خودش عبور می‌کند، الزاماً چراغ قرمز روشن نمی‌کند.

جواب اشتباه هم ممکن است مرتب باشد.

منطقی به‌نظر برسد.

منبع داشته باشد.

جدول داشته باشد.

با اعتمادبه‌نفس نوشته شده باشد.

و دقیقاً همین‌جا است که تخصص انسان ارزش پیدا می‌کند.

نه وقتی AI جواب درست می‌دهد.

وقتی جوابش درست به‌نظر می‌رسد ولی درست نیست.

من معمولاً این را با خلبانی مقایسه می‌کنم.

ارزش یک خلبان فقط این نیست که بتواند هواپیما را در شرایط عادی هدایت کند. بخش مهم‌تری از تخصصش این است که وقتی یکی از instrumentها اطلاعات غلط می‌دهد، بتواند بفهمد کدام را نباید باور کند.

در AI هم به‌نظرم داریم به همان نقطه می‌رسیم.

متخصص واقعی فقط کسی نیست که بتواند از مدل خروجی بگیرد.

کسی است که مرز اعتماد به خروجی را می‌شناسد.


پس مسیر درست ورود به AI چیست؟

اینجا دقیقاً همان جایی است که من با بیشتر Roadmapهای اینترنت مشکل دارم.

یک فلش می‌کشند:

Python
بعد Math
بعد Machine Learning
بعد Deep Learning
بعد LLM
بعد Agent

تمام.

انگار یک مدیر مالی ۴۵ ساله، یک دانشجوی ۱۹ ساله علوم کامپیوتر و یک پزشک ۳۲ ساله باید از یک در وارد شوند و یک مسیر را طی کنند.

به‌نظرم این نگاه از اساس اشتباه است.

سن مهم است.

رشته مهم است.

مدرک هم ممکن است مهم باشد.

اما برای طراحی مسیر، من از این‌ها شروع نمی‌کنم.

اول هفت سؤال دیگر می‌پرسم. همین هفت سؤال در چارچوبی که برای این پروژه طراحی کرده‌ام، مبنای مسیر هستند.

اول: الان واقعاً چه چیزی بلدی؟

نه چیزی که در رزومه نوشته‌ای.

نه دوره‌ای که تمام کرده‌ای.

چیزی که همین امروز می‌توانی انجام بدهی.

منبع آموزشی باید با نسخه امروز تو متناسب باشد، نه با آدمی که امیدوار هستی شش ماه بعد باشی.

دوم: در کدام حوزه می‌فهمی اشتباه چه قیمتی دارد؟

این سؤال خیلی مهم‌تر از چیزی است که به‌نظر می‌رسد.

کسی که ده سال در مالی کار کرده، فقط «دانش مالی» ندارد.

او می‌داند کدام عدد بو می‌دهد.

کدام فرض روی کاغذ قشنگ است ولی در دنیای واقعی جواب نمی‌دهد.

کدام اشتباه کوچک می‌تواند چند میلیارد هزینه ایجاد کند.

این دانش را نباید موقع ورود به AI دور بریزی.

باید AI را روی آن سوار کنی.

سوم: اصلاً می‌خواهی چه نقشی داشته باشی؟

می‌خواهی سیستم بسازی؟

می‌خواهی عملکرد سیستم را ارزیابی کنی؟

می‌خواهی بر استفاده از AI در یک سازمان نظارت کنی؟

این‌ها یک شغل نیستند و طبیعتاً یک مسیر آموزشی هم ندارند.

چهارم: سقف راستی‌آزمایی تو کجاست؟

تا کجا می‌توانی خروجی مدل را واقعاً بررسی کنی؟

اگر AI کدی تولید کند که از سطح فهم تو بالاتر باشد، از آن لحظه دیگر برنامه‌نویس آن بخش نیستی.

مصرف‌کننده‌اش هستی.

اگر تحلیل آماری تحویل بگیری ولی نتوانی بفهمی فرض‌هایش درست بوده یا نه، همان اتفاق افتاده.

این همان چیزی است که من به آن Verification Ceiling می‌گویم.

پنجم: بیشتر از AI جواب می‌خواهی یا راهنمایی؟

یک هفته فقط این را اندازه بگیر.

چند بار نوشته‌ای «انجامش بده»؟

چند بار گفته‌ای «جواب را نگو، فقط قدم بعدی را نشانم بده»؟

همین نسبت اطلاعات زیادی درباره نحوه یادگیری تو می‌دهد.

ششم: آخرین بار کی بدون AI خودت را امتحان کردی؟

اگر همیشه Calculator روشن باشد، دیگر دقیق نمی‌دانی محاسبه ذهنت چقدر خوب است.

برای AI هم همین اتفاق دارد می‌افتد.

هفتم: می‌توانی از کارت دفاع کنی؟

فرض کن فردا ۳۰ دقیقه درباره پروژه‌ای که تحویل داده‌ای از تو سؤال کنند.

چرا این روش؟

چرا این داده؟

چرا این مدل؟

چرا این معیار؟

اگر نتیجه برعکس می‌شد چه؟

محدودیتش چیست؟

اگر نمی‌توانی انتخاب‌هایت را توضیح بدهی، احتمالاً بخشی از خروجی هنوز تبدیل به تخصص نشده است.


حالا ریاضی و Python و Machine Learning بالاخره لازم‌اند یا نه؟

اینجا معمولاً بحث یا مذهبی می‌شود یا تبلیغاتی.

یک گروه می‌گویند بدون ریاضی اصلاً وارد AI نشو.

یک گروه می‌گویند دیگر هیچ‌چیز لازم نیست، مدل خودش همه کار می‌کند.

من با هیچ‌کدام موافق نیستم.

من خودم دوره ریاضیات هوش مصنوعی ساخته‌ام.

دوره Python ساخته‌ام.

دوره Machine Learning ساخته‌ام.

پس اگر قرار بود صرفاً چیزی بفروشم، راحت‌ترین جمله این بود:

«اول این سه دوره را کامل کن، بعد وارد AI شو.»

ولی فکر نمی‌کنم این حرف دقیق باشد.

حتی در چارچوب مرجع CS2023 هم ریاضیات به شکل یک دیوار واحد تعریف نشده. احتمال، آمار و جبر خطی در هسته جای مهمی دارند، درحالی‌که Calculus به همان شکل یک پیش‌نیاز عمومی و یکسان برای همه مسیرها قرار نگرفته است.

برای من جایگاه این مهارت‌ها چیز دیگری است.

ریاضی سقف فهمت را بالا می‌برد.

کمکت می‌کند بفهمی یک عدد چه معنی‌ای دارد، یک Metric چه چیزی را پنهان می‌کند و مدل در واقع چه چیزی را optimize کرده.

Python سقف ساختنت را بالا می‌برد.

ایده را از ذهن بیرون می‌آوری، با داده آزمایش می‌کنی، API را صدا می‌زنی، Prototype می‌سازی و فرضیه را تست می‌کنی.

Machine Learning سقف قضاوتت را بالا می‌برد.

می‌فهمی چرا مدل روی داده‌ای عالی است و در دنیای واقعی خراب می‌شود.

می‌فهمی Overfitting چیست.

Data Leakage چیست.

چرا Accuracy گاهی تقریباً هیچ چیز مهمی به تو نمی‌گوید.

پس برای من این سه «بلیت ورود» نیستند.

ابزارهایی هستند برای بالابردن سقف راستی‌آزمایی.

و خودم هم دوره‌هایی که ساخته‌ام دقیقاً با همین نگاه معرفی می‌کنم: میان‌بر نیستند و قرار نیست جای طراحی مسیر را بگیرند.


اگر فقط سه کار بخواهم پیشنهاد بدهم

نه ده دوره.

نه بیست ابزار.

سه کار.

یک مسئله واقعی را بدون AI انجام بده.

۹۰ دقیقه.

هیچ ابزاری باز نباشد.

نتیجه را ثبت کن.

یک ماه بعد دوباره همان آزمایش را تکرار کن.

نه برای اینکه ثابت کنی AI بد است.

برای اینکه بفهمی سهم خودت چقدر است.

برای مدتی به‌جای جواب، Hint بخواه.

به مدل بگو:

«جواب را نگو. فقط بگو قدم بعدی چیست.»

خیلی زود متوجه می‌شوی کجا واقعاً بلد هستی و کجا فقط همراه خروجی حرکت می‌کنی.

یک دفتر شکست مدل داشته باش.

هر بار AI با اعتمادبه‌نفس جواب اشتباه داد، ثبتش کن.

چه پرسیدی؟

چرا جوابش متقاعدکننده بود؟

خطا کجا بود؟

چطور فهمیدی؟

بعد از شش ماه، این دفتر احتمالاً از لیست صد ابزار AI برایت ارزشمندتر است.

چون دارد چیزی را به تو یاد می‌دهد که هر روز مهم‌تر می‌شود:

مرز توانایی مدل.


من از پیشرفت هوش مصنوعی نمی‌ترسم.

اتفاقاً فکر می‌کنم داریم وارد یکی از جذاب‌ترین دوره‌های تاریخ کار و یادگیری می‌شویم.

ولی یک نگرانی جدی دارم.

اینکه آن‌قدر سریع ابزارهای قدرتمند بگیریم که فرصت نکنیم آدم‌های قدرتمندی برای استفاده از آن ابزارها بسازیم.

ممکن است گزارش‌هایمان بهتر شوند.

کدهایمان بیشتر شوند.

اسلایدهایمان زیباتر شوند.

تحلیل‌هایمان حرفه‌ای‌تر به‌نظر برسند.

و در تمام این مدت، متوجه نشویم فاصله بین چیزی که تولید می‌کنیم و چیزی که واقعاً بلدیم آرام‌آرام بیشتر شده.

برای همین اگر امروز کسی از من بپرسد:

«چطور متخصص هوش مصنوعی شوم؟»

قبل از Python، قبل از ریاضی، قبل از Machine Learning و قبل از هر دوره دیگری، یک سؤال از او می‌پرسم:

اگر فردا ابزار را از تو بگیرند، چه چیزی از تو باقی می‌ماند؟

چون در نهایت، قابلیت واقعی همان چیزی است که بعد از برداشتن ابزار هنوز با تو می‌ماند.

و حالا برگردیم به همان سؤال اول.

اگر از فردا برای ۳۰ روز همه ابزارهای AI از دسترس تو خارج شوند، چند درصد از ارزش حرفه‌ای‌ای که امروز تولید می‌کنی هنوز باقی می‌ماند؟

اگر عددش را نمی‌دانی، شاید قبل از دوره بعدی، ابزار بعدی و مدل بعدی، همین مهم‌ترین چیزی باشد که باید اندازه بگیری.

هوش مصنوعیmachine learningartificial intelligenceکامپیوتر
۰
۰
مهرداد نادری
مهرداد نادری
بنیانگذار و مدیرعامل شرکت بین المللی ناپرولیتی، دکترای آموزش تکنولوژی های نوظهور
شاید از این پست‌ها خوشتان بیاید