در مقاله قبلی درباره رابطه انسان و هوش مصنوعی نوشتم؛ درباره اینکه شاید آینده، بیشتر از آنکه درباره جایگزینی انسان باشد، درباره همکاری انسان و AI باشد.
اما بعد از نوشتن آن مطلب، یک سؤال بیشتر از قبل ذهنم را درگیر کرد:
اگر قرار باشد هوش مصنوعی واقعاً همکار ما باشد، این همکاری در عمل چه شکلی خواهد داشت؟
این سؤال شاید در نگاه اول ساده به نظر برسد، اما هرچه بیشتر به آن فکر میکنم، میبینم پاسخ سادهای ندارد.
ما سالهاست از فناوری به عنوان «ابزار» استفاده میکنیم.
ابزار چیزی است که در اختیار ماست.
آن را انتخاب میکنیم، به کار میگیریم و وقتی کارمان تمام شد، کنار میگذاریم.
اما «همکار» تعریف متفاوتی دارد.
همکار فقط منتظر دستور نمیماند؛ مسئله را میفهمد، درباره مسیر کار فکر میکند، پیشنهاد میدهد، اشتباه میکند، اصلاح میشود و در نهایت بخشی از مسئولیت رسیدن به نتیجه را بر عهده میگیرد.
و شاید همین تفاوت، یکی از مهمترین اتفاقاتی باشد که هوش مصنوعی میتواند برای شیوه کار ما رقم بزند.
از چت کردن تا انجام دادن
نسل جدید ابزارهای هوش مصنوعی، ما را با یک تجربه متفاوت روبهرو کردهاند.
قبلاً اگر از یک نرمافزار چیزی میخواستیم، باید دقیقاً میدانستیم کدام گزینه را انتخاب کنیم و چه مراحلی را طی کنیم.
بعدتر، رابطهای کاربری سادهتر شدند.
و حالا میتوانیم با زبان طبیعی با یک سیستم صحبت کنیم و خواستهمان را توضیح دهیم.
اما به نظرم قدم بعدی فقط این نیست که AI بهتر جواب بدهد.
قدم بعدی این است که AI بتواند بخشی از کار را انجام دهد.
اینجاست که مفهوم AI Agent برای من جذاب میشود.
ایجنت را میتوان نقطهای دانست که در آن هوش مصنوعی از یک پاسخدهنده صرف، به سیستمی نزدیک میشود که میتواند برای رسیدن به یک هدف، مجموعهای از مراحل را دنبال کند.
هدف را میگیرد.
مسئله را بررسی میکند.
مسیرهای ممکن را میسنجد.
اقدام میکند.
نتیجه را بررسی میکند.
و در صورت نیاز، مسیرش را اصلاح میکند.
البته این تصویر، بسیار سادهتر از واقعیت ساخت چنین سیستمی است.
و دقیقاً همینجاست که داستان برای من جدی شد.
ایده ساختن با ساختن ایده فرق دارد
مدتی است درگیر تجربه ساخت چند ایده در این حوزه هستم.
در ابتدا، همهچیز روی کاغذ بسیار ساده به نظر میرسد.
یک هدف مشخص.
چند مرحله.
چند تصمیم.
و در نهایت یک خروجی.
اما وقتی وارد مرحله ساخت میشوی، متوجه میشوی مسئله فقط این نیست که یک مدل هوش مصنوعی چه تواناییهایی دارد.
مسئله این است که چطور باید این تواناییها را در یک فرایند واقعی کنار هم قرار داد.
چه زمانی باید تصمیم بگیرد؟
چه زمانی باید سؤال بپرسد؟
اگر اطلاعات کافی نداشت چه کند؟
اگر پاسخ اشتباه بود چطور متوجه شود؟
اگر در میانه مسیر با مسئلهای روبهرو شد که برایش پیشبینی نشده بود، چه اتفاقی میافتد؟
و شاید سختتر از همه:
چطور میتوان کاری کرد که خروجی فقط جذاب نباشد، بلکه قابل اتکا باشد؟
اینها سؤالاتی هستند که روی کاغذ شاید چندان پیچیده به نظر نرسند، اما در ساخت یک سیستم واقعی اهمیت زیادی پیدا میکنند.
تفاوت یک دموی جذاب با یک سیستم قابل اعتماد
یکی از چیزهایی که در مسیر کار بیشتر به آن فکر کردهام، تفاوت میان نمایش توانایی AI و استفاده واقعی از آن است.
ساختن یک نمونه که در چند سناریوی مشخص عملکرد فوقالعادهای داشته باشد، میتواند بسیار هیجانانگیز باشد.
اما زندگی واقعی با سناریوهای از پیش تعیینشده جلو نمیرود.
کاربر ممکن است سؤال متفاوتی بپرسد.
اطلاعات ناقص باشد.
شرایط تغییر کند.
یک مرحله نتیجهای غیرمنتظره ایجاد کند.
یا حتی چیزی که برای انسان بدیهی است، برای یک سیستم هوشمند بدیهی نباشد.
بنابراین به نظرم فاصله میان:
«ببینید AI چه کار جالبی میتواند انجام دهد»
و
«میتوانم این کار را با خیال راحت به AI بسپارم»
فاصله بسیار مهمی است.
و شاید آینده AI را همین فاصله تعیین کند.
انسان هنوز در حلقه است
هرچه بیشتر به این موضوع فکر میکنم، بیشتر به این نتیجه میرسم که ساخت یک Agent خوب لزوماً به معنی حذف انسان نیست.
اتفاقاً ممکن است برعکس باشد.
شاید یک سیستم خوب، سیستمی باشد که دقیقاً بداند چه زمانی باید خودش ادامه دهد و چه زمانی باید انسان را وارد تصمیم کند.
در بعضی کارها، سرعت مهمتر است.
در بعضی تصمیمها، دقت.
در بعضی موقعیتها، خلاقیت.
و در بعضی تصمیمها، مسئولیتپذیری انسانی.
بنابراین شاید مسئله این نباشد که:
«چطور انسان را از فرایند حذف کنیم؟»
بلکه:
«چطور بهترین تقسیم کار میان انسان و AI را پیدا کنیم؟»
این نگاه، برای من بسیار جذابتر است.
و حالا یک تجربه واقعی
در همین مسیر، یکی از ایجنتهایی که روی آن کار میکنیم، وارد مرحله تست شده است.
هنوز برای گفتن اینکه «موفق شده» خیلی زود است.
اتفاقاً مرحله تست جایی است که باید با سختگیری بیشتری به نتیجه نگاه کرد.
باید ببینیم چیزی که در زمان طراحی منطقی به نظر میرسید، در برخورد با شرایط واقعی چطور رفتار میکند.
باید نقاط ضعفش را پیدا کنیم.
باید بفهمیم کجاها نیاز به اصلاح دارد.
و شاید حتی در بعضی قسمتها مجبور شویم به عقب برگردیم و چیزی را از نو طراحی کنیم.
به نظرم این بخش از مسیر، از خود ساختن اولیه هم مهمتر است.
چون ساختن یک ایده آسانتر از اعتماد کردن به نتیجه آن است.
هنوز قرار نیست همهچیز را بگویم
فعلاً نمیخواهم درباره این ایجنت، اسمش، جزئیات عملکردش یا اینکه دقیقاً چه کاری انجام میدهد صحبت کنم.
نه به این دلیل که موضوعی برای گفتن وجود ندارد.
اتفاقاً برعکس.
فقط فکر میکنم هنوز کمی زود است.
قبل از اینکه درباره یک محصول یا یک تجربه جدید صحبت کنیم، بهتر است ابتدا خودمان مطمئن شویم که چیزی که ساختهایم واقعاً ارزش معرفی کردن دارد.
شاید نتیجه تستها ما را هیجانزده کند.
شاید هم مجبورمان کند دوباره خیلی چیزها را تغییر دهیم.
هر دو حالت، بخشی از مسیر ساختن هستند.
و من ترجیح میدهم به جای اینکه از ابتدا ادعا کنم، نتیجه را ببینم و بعد دربارهاش حرف بزنم.
یک سؤال که هنوز برایم باقی مانده
اگر هوش مصنوعی بتواند فقط پاسخ ندهد، بلکه بخشی از یک کار واقعی را از ابتدا تا انتها انجام دهد، آیا هنوز باید آن را صرفاً یک «ابزار» بدانیم؟
شاید نه.
شاید داریم به سمت دورهای میرویم که تعریف ما از ابزار، نرمافزار، دستیار و حتی همکار، دوباره باید بازنویسی شود.
اما برای فهمیدن این موضوع، تئوری کافی نیست.
باید ساخت.
باید آزمایش کرد.
باید شکست خورد و دوباره ساخت.
و شاید همینجاست که برای من، بحث هوش مصنوعی از یک موضوع جذاب تکنولوژیک، به یک تجربه واقعی تبدیل میشود.
یکی از این تجربهها حالا وارد مرحله تست شده است.
باید ببینیم چه چیزی از آن بیرون میآید.
شاید در نوشته بعدی، زمان آن رسیده باشد که کمی بیشتر دربارهاش صحبت کنیم.
البته اگر نتیجه تستها اجازه بدهد... 🎯