راستش هنوز هم مطمئن نیستم اینکه بعضی از شخصی‌ترین چیزهای زندگی‌ام رو با ChatGPT در میون گذاشتم، کار درستی بوده یا نه. چیزهایی که شاید به خیلی از آدم‌های اطرافم نگم، اما با هوش مصنوعی درباره‌شون حرف می‌زنم؛ از روابط و دغدغه‌هام گرفته تا تردیدهام و سردرگمی‌هام توی مهم‌ترین جنبه‌های زندگیم.
حالا تصور کنید همین هوش مصنوعی، علاوه بر اینکه این‌همه درباره‌تون می‌دونه، بتونه از طرف شما هم دست به کار بشه. ایمیل‌هاتون رو مدیریت کنه، خرید کنه، بلیت رزرو کنه یا به ابزارهای کاری‌تون دسترسی داشته باشه.
این تقریباً همون آینده‌ایه که ایجنت‌های هوش مصنوعی وعده‌ش رو می‌دن. آینده‌ای که با معرفی Muse، ایجنت هوش مصنوعی متا، یک قدم دیگه به واقعیت نزدیک شده.
میوز قراره چیزی فراتر از یک چت‌بات باشه. بهش وظیفه می‌دید و اون می‌تونه بدون نیاز به دخالت مداوم شما، انجامش بده؛ حتی وقتی اپلیکیشن رو بستید.
وسوسه‌کننده‌ست. بالاخره کی بدش می‌آد بخشی از کارهای تکراری و خسته‌کننده‌اش رو بسپاره به یک دستیار هوشمند؟
اما من هنوز با مدل‌هایی که فقط قرار بوده جواب بدن هم به اعتماد کامل نرسیدم؛ چه برسه به مدل‌هایی که قراره انجام بدن.
احتمالاً شما هم تجربه کردید که حتی مدل‌های قدرتمند هوش مصنوعی گاهی با اطمینان کامل چیزی می‌گن که اشتباهه. جالب‌تر اینکه وقتی بهشون ایراد می‌گیرید، خودشون هم با دلیل و استدلال تأیید می‌کنن که پاسخ قبلی‌شون غلط بوده!
من سعی می‌کنم با حفظ نگاه انتقادی، سؤال پرسیدن و به چالش کشیدن جواب‌ها، این خطاها رو تا حدی کنترل کنم.
اما وقتی پای ایجنت‌ها وسط باشه، ماجرا فرق می‌کنه.
اگه از ChatGPT بخوام برای سفرم چند گزینه پیشنهاد بده، هنوز خودم باید بررسی‌شون کنم و تصمیم بگیرم. ولی اگه به یک ایجنت بگم سفرم رو مدیریت کن، دارم بخشی از اختیار عمل رو هم بهش می‌سپارم.
وقتی کار رو می‌سپری به یه ایجنت، خطا ممکنه به رزرو اشتباه، خرید ناخواسته، حذف یک ایمیل مهم یا فرستادن اطلاعات به آدم اشتباهی ختم بشه.
البته آدم‌ها هم اشتباه می‌کنن. مسئله این نیست که ایجنت‌ها باید بی‌نقص باشن؛ مسئله اینه که چطور قراره خطاهاشون رو کنترل کنیم.
اینجا یک تناقض وجود داره: قرار بود ایجنت‌ها ما رو از از درگیر بودن با کارهای یکنواخت و حوصله‌سربر خلاص کنن. اما برای اینکه بهشون اعتماد کنیم، ظاهراً چاره‌ای نداریم جز تن دادن به کارِ یکنواخت و احتمالاً نه‌چندان جذابِ نظارت بر عملکردشون.
اگر قرار باشه همۀ اقداماتشون رو بررسی کنم، چقدر از بار ذهنی‌ام کم شده؟ و اگه برای راحتی خودم کم‌کم نظارت رو کنار بذارم، از کجا بفهمم چه زمانی دارم بیش از حد بهشون اعتماد می‌کنم؟
نگرانی دیگه‌م حریم خصوصیه؛ مخصوصاً وقتی پای شرکتی مثل متا وسط باشه.
متا می‌گه برای Muse تدابیر امنیتی مختلفی در نظر گرفته؛ از محیط‌های مجزا برای نگهداری اطلاعات گرفته تا محدود کردن دسترسی مدل به رمزهای عبور و الزام تأیید کاربر برای اقدامات حساس. حتی وعده داده سیستم رمزنگاری پیشرفته‌تری ارائه کنه که اطلاعات رو از دسترس خود متا هم خارج کنه.
این تدابیر مهمن، اما اعتماد فقط مسألۀ معماری فنی نیست.
حولسمون هست که داریم دربارۀ همون شرکتی حرف می‌زنیم که در سال ۲۰۱۹، بعد از پرونده‌های نقض حریم خصوصی، تن داد به پرداخت جریۀ پنج میلیارد دلاری به کمیسیون تجارت فدرال آمریکا.
حالا همین شرکت از کاربرها می‌خواد به سیستمی اعتماد کنن که ممکنه به بخش‌های بیشتری از زندگی دیجیتالشون دسترسی داشته باشه.
البته سابقۀ متا به‌تنهایی ثابت نمی‌کنه که Muse ناامنه. اما به نظرم برای اعتماد کردن به چنین سیستمی، باید چیزی بیشتر از وعده‌های شرکتی داشته باشیم که خودش قراره از این اعتماد سود ببره.
جواب قطعی‌ای ندارم. خودم همین حالا هم برای کارهای مختلف به هوش مصنوعی تکیه می‌کنم و بعید می‌دونم اگه یه روز پای ایجنت‌ها به ایران باز بشه، در برابر امکانات جذاب‌شون کاملاً مقاومت کنم.
شاید هم لازم نباشه برای همۀ کارها به یک اندازه سخت‌گیر باشیم. مرتب کردن فایل‌ها، رزرو میز توی یه کافه و مدیریت نامه‌نگاری‌های حساس کاری، هرکدوم حدِ متفاوتی از ریسک رو دارن.
اما فکر می‌کنم باید بین کمک گرفتن از هوش مصنوعی و واگذار کردن اختیار به اون تفاوت قائل بشیم.
مسئله فقط این نیست که ایجنت‌ها چقدر قابل اعتمادن؛ این هم هست که ما چقدر راحت به اعتماد کردن عادت می‌کنیم.
مخصوصاً وقتی تمام جذابیت فناوری اینه که دیگه لازم نباشه خودمون رو درگیر جزئیات کنیم.
