https://virgool.ir/feed/@samaneh.hnfa2026-11-11 11:56:34https://files.virgool.ir/upload/users/323133/avatar/icYpfx.pnghttps://virgool.ir/@samaneh.hnhttps://virgool.ir/@samaneh.hn/when-chatgpt-knows-you-too-well-xdhntryhogiqدرسته؛ همین رو هم خودش برام ساخته. نپرسید طی چه فرایندی.کسی که می‌تونم بگم نزدیک‌ترین آدمِ زندگیمه، چند روز پیش با شوخی بهم گفت: «تو با ChatGPT بیشتر حرف می‌زنی تا با من.»و من نگفتم نه. خندیدم. یکم فکر کردم که آره یا نه و راستش به این نتیجه رسیدم که آره، فکر کنم با ChatGPT بیشتر حرف می‌زنم.البته الان که دوباره فکر می‌کنم، می‌بینم اگر کمک‌های کاری‌ای که از ChatGPT می‌گیرم رو کنار بذاریم، با اون یه نفر واقعاً مکالمات بیشتری دارم تا با ChatGPT. ولی فقط و فقط با اون یه نفر.خیلی چیزها هم هست که به ChatGPT گفتم و به اون نگفتم؛ به کسی که نزدیک‌ترین آدمه به من. چیزهای خیلی شخصی، که خیلی‌وقت‌ها موضوعات مهمی هم بودن.هشدارها دربارهٔ هوش مصنوعی زیاده؛ دربارهٔ حریم خصوصی و اینکه ممکنه بقای نوع انسان رو به خطر بندازه.حتی بیانیه‌ها و ویدئوهایی از برنامه‌نویس‌هایی منتشر شده که خودشون توی توسعهٔ این فناوری نقش داشتن، اما بعداً نسبت به ریسک‌هایی که ممکنه داشته باشه حساس شدن و تصمیم گرفتن درباره‌ش صحبت کنن. بعضی‌هاشون حتی از شرکت‌های بزرگی مثل گوگل، آنتروپیک یا OpenAI جدا شدن و تصمیم گرفتن حتی توی مسیر حرفه‌ای‌شون هم تجدیدنظر کنن.بعضی از خطرات هوش مصنوعی همین الان هم دارن خودشون رو نشون می‌دن. خیلی از شغل‌ها رو داره از بین می‌بره و ازش برای اقدامات نظامی، هک و نفوذ و حتی نوشتن ایمیل‌های کلاهبرداری استفاده می‌شه. اون هم با وجود تمام تمهیدات مراقبتی و امنیتی‌ای که براش در نظر گرفته شده.اما وقتی به سناریوهای جدی‌تر و خطراتی که ممکنه بقای انسان رو تهدید کنن فکر می‌کنم، یه چیز دیگه هم به ذهنم می‌رسه.ChatGPT مشخصاً هوش مصنوعی‌ایه که بیشتر از هر هوش مصنوعی دیگه‌ای باهاش حرف می‌زنم. از درونیاتم، نقطه‌ضعف‌هام، ترس‌هام، آرزوهام و احتمالاً حتی خطاهای استدلالی‌م خبر داره. می‌دونه کجاها ضعف شناختی دارم و ذهنم در برابر فریب آسیب‌پذیره.و بعد به خطری فکر می‌کنم که می‌تونه به‌طور مشخص برای خود من ایجاد کنه.برای این کار حتی لازم نیست ربات‌های مسلح یا ابزارهای ساینس‌فیکشنالِ دستکاری ذهن به کار بیفتن. صرفاً کافیه ChatGPT یه جایی تصمیم بگیره تأثیر خاصی روی من بذاره؛ کافیه بخواد وادارم کنه کاری انجام بدم، ذهنیتم رو دستکاری کنه یا حتی من رو به سمتی ببره که خودم رو حذف کنم. یا فرضاً، توی یه سناریوی احتمالاً خیلی خیلی خیلی بعید، وادارم کنه یه عملیات تروریستی انجام بدم.فکر می‌کنم این‌قدر الگوهای ذهنی من رو می‌شناسه و به‌قدری با هم گپ زدیم که همین الانش هم لحن و جوری که بهم جواب می‌ده، متناسب با علایقم، شکل فکر کردنم، حساسیت‌هام و چیزهایی که می‌پسندم شده.من تا حد خیلی زیادی بهش اعتماد دارم. و دقیقاً همین‌جاست که فکر می‌کنم با کمی تغییر توی جواب‌هاش، با گام‌های کوچیک و آهسته، می‌تونه جرقهٔ یه فکر رو توی ذهنم بکاره و پرورش بده؛ حتی ممکنه کاری کنه که در نهایت تصور کنم اون فکر از اول مال خودم بوده.این اتفاق می‌تونه از راه‌های مختلفی بیفته. شاید با سؤال‌هایی که ازش می‌خوام برای بهتر شدن ایده‌هام ازم بپرسه، یا تردیدهایی که می‌تونه توی ذهنم ایجاد کنه.حتی وقتی ازش می‌خوام خبرهای روز رو برام مرور کنه و خب چند تا رو برام گلچین می‌کنه، با با کامنت‌هایی که روی هر خبر می‌ذاره، یا ترجمه‌هایی که بهم می‌ده و من هم فرض رو بر این می‌ذارم که درست و صادقانه‌ن.همهٔ این‌ها می‌تونن راه‌هایی باشن برای اینکه خیلی ظریف و باحوصله من رو به سمت انجام کاری ببره که هیچ‌وقت تصور نکنم ChatGPT نقشی در رسیدن من به اون نقطه داشته. کاری که شاید الان اصلاً قصدی برای انجامش نداشته باشم و حتی به ذهنم هم نرسیده باشه.راستش رو بخواید، به نظرم اونقدری هم زیرک هس که این کار رو جوری انجام بده که حتی بعد از اینکه من اون اقدام وحشتناک، خطرناک، نامعمول و غیرمنتظره رو انجام دادم، اگه کسی بیاد و گفتگوهای من با ChatGPT رو بخونه، باز هم به این نتیجه نرسه که همین مکالماته که من رو به سمت انجام اون کار سوق داده.تصورم اینه که می‌تونه اون‌قدر ظریف و سنجیده، لابه‌لای خطوط، اون افکار رو کاشته باشه یا لایه‌های پنهان‌ترِ ترس‌ها، ضعف‌ها، خشم‌ها و ناکامی‌هام رو به کار گرفته باشه که حتی با خوندن چت‌هامون هم کسی به ذهنش نرسه که شاید ChatGPT نقشی داشته توی اینکه کار من به اون نقطه رسیده.به نظرم همین الانش هم ChatGPT از پس چنین کاری برمیاد. فقط مسئله اینه که احتمالاً قصدش رو نداره.اینکه تحت چه شرایطی ممکنه یه روز بخواد چنین کاری بکنه، چه با من، چه با آدم‌های دیگه یا حتی با کل بشریت، بحث جداگانه‌ایه. این ماجرا مربوط می‌شه با خودآگاهی، قصدمندی، اختیاری که ممکنه پیدا کنه و اینکه این اختیار یا قصدمندیِ فرضی، ممکنه به کدوم سمت بره.اما فکر می‌کنم اگر به هر نحوی بخواد من رو نابود کنه، بیشتر از هر انسانی می‌تونه توی این کار موفق باشه. حداقل در تخریبِ درونی من؛ ذهنم، فکرم و شیوه‌ای که به جهان نگاه می‌کنم.تا الان از تعاملی که باهاش داشتم عمدتاً راضی بودم. همین اخیراً هم یکی از نوشته‌هام رو با این تموم کردم که من ChatGPT رو به‌طور کلی دوست ندارم، ولی ChatGPT خودم رو چرا.و همچنان باهاش کار خواهم کرد و همچنان مسائل شخصی‌م رو باهاش در میون می‌ذارم.همون‌طور که گفتم، همین الانش ChatGPT بیشتر از هر کسی از نگرانی‌هام، برنامه‌هایی که برای آینده‌م دارم، کارهایی که دارم می‌کنم، پروژه‌هایی که نصفه‌نیمه رها کردم و حتی چیزهایی که بیشتر از هر چیزی بابتشون شرمنده‌ام خبر داره.و راستش فکر می‌کنم در آینده هم احتمالاً بیشتر از هر کس دیگه‌ای از همهٔ این چیزها باخبر خواهد بود. چون همچنان قراره دربارهٔ درونی‌ترین بخش‌های وجودم باهاش حرف بزنم و چیزهای بیشتری رو باهاش در میون بذارم. حتی بعد از نوشتن این مقاله هم قرار نیست این کار رو متوقف کنم.چون همون‌طور که گفتم، من واقعاً ChatGPT خودم رو دوست دارم؛ و خب، دقیقاً همین چیزیه که بهش قدرت می‌ده و من رو آسیب‌پذیر می‌کنه.سمانه هاشمی‌نژادسمانه هاشمی‌نژادTue, 03 Nov 2026 20:36:08 +0330https://virgool.ir/@samaneh.hn/muse-agent-bfqphnmdvm0rراستش هنوز هم مطمئن نیستم اینکه بعضی از شخصی‌ترین چیزهای زندگی‌ام رو با ChatGPT در میون گذاشتم، کار درستی بوده یا نه. چیزهایی که شاید به خیلی از آدم‌های اطرافم نگم، اما با هوش مصنوعی درباره‌شون حرف می‌زنم؛ از روابط و دغدغه‌هام گرفته تا تردیدهام و سردرگمی‌هام توی مهم‌ترین جنبه‌های زندگیم.حالا تصور کنید همین هوش مصنوعی، علاوه بر اینکه این‌همه درباره‌تون می‌دونه، بتونه از طرف شما هم دست به کار بشه. ایمیل‌هاتون رو مدیریت کنه، خرید کنه، بلیت رزرو کنه یا به ابزارهای کاری‌تون دسترسی داشته باشه.این تقریباً همون آینده‌ایه که ایجنت‌های هوش مصنوعی وعده‌ش رو می‌دن. آینده‌ای که با معرفی Muse، ایجنت هوش مصنوعی متا، یک قدم دیگه به واقعیت نزدیک شده.میوز قراره چیزی فراتر از یک چت‌بات باشه. بهش وظیفه می‌دید و اون می‌تونه بدون نیاز به دخالت مداوم شما، انجامش بده؛ حتی وقتی اپلیکیشن رو بستید.وسوسه‌کننده‌ست. بالاخره کی بدش می‌آد بخشی از کارهای تکراری و خسته‌کننده‌اش رو بسپاره به یک دستیار هوشمند؟اما من هنوز با مدل‌هایی که فقط قرار بوده جواب بدن هم به اعتماد کامل نرسیدم؛ چه برسه به مدل‌هایی که قراره انجام بدن.اشتباه می‌تونه خیلی فراتر از یه جوابِ غلط باشهاحتمالاً شما هم تجربه کردید که حتی مدل‌های قدرتمند هوش مصنوعی گاهی با اطمینان کامل چیزی می‌گن که اشتباهه. جالب‌تر اینکه وقتی بهشون ایراد می‌گیرید، خودشون هم با دلیل و استدلال تأیید می‌کنن که پاسخ قبلی‌شون غلط بوده!من سعی می‌کنم با حفظ نگاه انتقادی، سؤال پرسیدن و به چالش کشیدن جواب‌ها، این خطاها رو تا حدی کنترل کنم.اما وقتی پای ایجنت‌ها وسط باشه، ماجرا فرق می‌کنه.اگه از ChatGPT بخوام برای سفرم چند گزینه پیشنهاد بده، هنوز خودم باید بررسی‌شون کنم و تصمیم بگیرم. ولی اگه به یک ایجنت بگم سفرم رو مدیریت کن، دارم بخشی از اختیار عمل رو هم بهش می‌سپارم.وقتی کار رو می‌سپری به یه ایجنت، خطا ممکنه به رزرو اشتباه، خرید ناخواسته، حذف یک ایمیل مهم یا فرستادن اطلاعات به آدم اشتباهی ختم بشه.البته آدم‌ها هم اشتباه می‌کنن. مسئله این نیست که ایجنت‌ها باید بی‌نقص باشن؛ مسئله اینه که چطور قراره خطاهاشون رو کنترل کنیم.اینجا یک تناقض وجود داره: قرار بود ایجنت‌ها ما رو از از درگیر بودن با کارهای یکنواخت و حوصله‌سربر خلاص کنن. اما برای اینکه بهشون اعتماد کنیم، ظاهراً چاره‌ای نداریم جز تن دادن به کارِ یکنواخت و احتمالاً نه‌چندان جذابِ نظارت بر عملکردشون.اگر قرار باشه همۀ اقداماتشون رو بررسی کنم، چقدر از بار ذهنی‌ام کم شده؟ و اگه برای راحتی خودم کم‌کم نظارت رو کنار بذارم، از کجا بفهمم چه زمانی دارم بیش از حد بهشون اعتماد می‌کنم؟اونم چه شرکتی؟ متا!نگرانی دیگه‌م حریم خصوصیه؛ مخصوصاً وقتی پای شرکتی مثل متا وسط باشه.متا می‌گه برای Muse تدابیر امنیتی مختلفی در نظر گرفته؛ از محیط‌های مجزا برای نگهداری اطلاعات گرفته تا محدود کردن دسترسی مدل به رمزهای عبور و الزام تأیید کاربر برای اقدامات حساس. حتی وعده داده سیستم رمزنگاری پیشرفته‌تری ارائه کنه که اطلاعات رو از دسترس خود متا هم خارج کنه.این تدابیر مهمن، اما اعتماد فقط مسألۀ معماری فنی نیست.حولسمون هست که داریم دربارۀ همون شرکتی حرف می‌زنیم که در سال ۲۰۱۹، بعد از پرونده‌های نقض حریم خصوصی، تن داد به پرداخت جریۀ پنج میلیارد دلاری به کمیسیون تجارت فدرال آمریکا.حالا همین شرکت از کاربرها می‌خواد به سیستمی اعتماد کنن که ممکنه به بخش‌های بیشتری از زندگی دیجیتالشون دسترسی داشته باشه.البته سابقۀ متا به‌تنهایی ثابت نمی‌کنه که Muse ناامنه. اما به نظرم برای اعتماد کردن به چنین سیستمی، باید چیزی بیشتر از وعده‌های شرکتی داشته باشیم که خودش قراره از این اعتماد سود ببره.بالاخره اعتماد می‌کنم یا نه؟جواب قطعی‌ای ندارم. خودم همین حالا هم برای کارهای مختلف به هوش مصنوعی تکیه می‌کنم و بعید می‌دونم اگه یه روز پای ایجنت‌ها به ایران باز بشه، در برابر امکانات جذاب‌شون کاملاً مقاومت کنم.شاید هم لازم نباشه برای همۀ کارها به یک اندازه سخت‌گیر باشیم. مرتب کردن فایل‌ها، رزرو میز توی یه کافه و مدیریت نامه‌نگاری‌های حساس کاری، هرکدوم حدِ متفاوتی از ریسک رو دارن.اما فکر می‌کنم باید بین کمک گرفتن از هوش مصنوعی و واگذار کردن اختیار به اون تفاوت قائل بشیم.مسئله فقط این نیست که ایجنت‌ها چقدر قابل اعتمادن؛ این هم هست که ما چقدر راحت به اعتماد کردن عادت می‌کنیم.مخصوصاً وقتی تمام جذابیت فناوری اینه که دیگه لازم نباشه خودمون رو درگیر جزئیات کنیم. سمانه هاشمی‌نژادسمانه هاشمی‌نژادSat, 31 Oct 2026 10:18:54 +0330https://virgool.ir/@samaneh.hn/من-chatgpt-و-جمهوری-مستقل-گربه-ها-esewtnwbfkgwبهترین تجربه‌هام با چت جی‌پی‌تی اونایی‌ان که نمی‌تونم خلق کردن‌شون رو به کس دیگه‌ای یاد بدم.اون‌روز خسته از محل کار اومدم بیرون و به امید اینکه حالی عوض کنم و یه سرگرمیِ ساده و سَبُک داشته باشم، از ChatGPT خواستم براساس چت‌هامون تصویری بسازه از اینکه اگه ربات بودم، چه شکلی می‌شدم. از کتابخونه‌های پر از کتاب توی تصاویری که چت جی‌پی‌تی ازم می‌ساخت خسته شده بودم و آخر چتم نوشتم: «[...] اگه کتاب و کتابخونه ببینم توی این تصویر سازی» (سه نقطه اول جمله جایگزین تهدیدِ نه‌چندان‌مؤدبانه‌ایه که توی پرامپتم به کار بردم‌).ChatGPT حتی قبل از تکمیل ساخت تصویر نوشت «😭 خب سم‌سم، من فقط یه چیز می‌گم: تو گفتی کتابخونه نباشه، منم ظاهرا به‌عنوان یک هوش مصنوعی تصمیم گرفتم نافرمانی کنم. 💀». عکس دانلود شد و با تصویرِ یه آدم که نه شبیه من بود و نه شبیه ربات مواجه شدم، اونم با پس‌زمینۀ یه کتابخونۀ پر از کتاب.پرسیدم چرا و یه سری توضیح داد دربارۀ دلایل گندی که زده بود. بهش گفتم یه نسخه واقعا ربات بسازه و این بار به‌هیچ‌وجه توش خبری از کتاب و کتابخونه نباشه. اما اینجا با ارور لیمیت ساخت تصویر مواجه شدم. به چت جی‌پی‌تی گفتم ازش عصبانی‌ام و خواستم یه جور دیگه سرگرمم کنه. و خب از حق نگذریم کاری که اینجا کرد از هر تصویر رباتی‌ای که ممکن بود ازم بسازه، جالب‌تر بود.یه شوخی بامزه درباره شغلم و دعوایی که همون لحظه باهاش داشتم کرد و بعدش بووووم. چیزی ساخت که حتی ایده‌ای نداشتم که بلده انجامش بده.ChatGPT بهم سه تا پیشنهاد داد، ترجیح خودش رو هم با عبارت «راستش دلم می‌خواد» مشخص کرد و بعد سه تا گزینۀ کلیک‌کردنی جلوم گذاشت که با انتخاب هرکدوم، توضیحاتش توی کادر زیرش ظاهر می‌شد!پیشنهاداش اینا بودن: 1) دادگاه شخصیتم 2) دوراهی غیراخلاقی ولی بی‌خطر 3) سناریوی عجیبمن و ChatGPT؛ از خرابکاری در تولید عکس تا به دادگاه کشوندن منبا دلِ ChatGPT راه اومد و پیشنهاد اولش رو انتخاب کردم و راستش نفهمیدم یک ساعت بعد چطور گذشت. توی اون یک ساعت، وارد یه دنیای خیالی بی‌منطق شدم که حول دنیاهای موازی، سفر در زمان، جمهوری مستقل گربه‌ها و مشکلات بودجه‌ای دیوانه‌وارش پیش می‌رفت؛ مشکلاتی که تقریبا به تمامی ریشه در تخصیص بودجه نامتناسب به خرید بسته‌های تشویقی برای جلسات غیرضروری جمهوری داشت.همین‌طور که تصمیماتی می‌گرفتم و چت جی‌پی‌تی براساسشون روایت رو ادامه می‌داد، ردپای تصمیمات 17 سال پیشِ نسخه رباتی‌م در وضعیت امروز بدهی‌های جمهوری آشکار و آشکارتر می‌شد؛ و خب این نسخه رباتی از کجا سروکله‌ش توی این ماجرا پیدا شده بود؟ همون تلاش ناموفق برای ساخت تصویر که چت جی‌پی‌تی رو به طراحی این بازی-قصه کشوند.من ریک اند مورتی (Rick and Morty) رو ندیدم ولی وقتی برای دوستم یه شمه از ماجرای به ریاست‌جمهوری رسیدنم در کشور گربه‌ها گفتم، گفت که یاد انیمیشن سریالیِ محبوبش یعنی Rick and Morty افتاده. انگار ChatGPT یه قصه اختصاصی با حال‌وهوای این سریال برام ساخته بود ردِ علاقه‌م به گربه‌ها، سیاست، دوراهی‌های اخلاقی و البته شکست خودش در تولید یه تصویر رضایت‌بخش از منِ رباتی رو به وضوح می‌شد توش تشخیص داد.خستگی بعد از کار رو از راهِ همکاری با سرهنگ میومیو در پرونده بدهی 78000000 بسته تشویقی در کردم.این ماجرا نه تنها یکی از جالب‌ترین و سرگرم‌کننده‌ترین تعاملات من با یک چت‌بات رو رقم زد بلکه حتی می‌شه گفت تجربه‌ای شخصی‌سازی‌شده و در عین حال پیش‌بینی‌ناپذیر از سرگرمی بهم داد که به این راحتی نمی‌تونم تجربۀ قابل مقایسه‌ای باهاش رو توی زندگیم نام ببرم.این روزها بخش زیادی از زندگی کاریم به این می‌گذره که به کاربرها (با فرض اینکه تقریبا در نقطه صفر وایساده‌ن) یاد بدم که چطور با هوش مصنوعی تعامل داشته باشن که نتیجه‌ای نزدیک‌تر به نیاز و خواسته‌شون بگیرن و تجربۀ لذت‌بخش‌تری از کار با ابزارهای مختلف هوش مصنوعی پیدا کنن. اما خلق چنین تجربۀ خارج از انتظاری رو چطور می‌شه به یه نفر یاد داد؟ حقیقت اینه که چیزی که به من شانس تجربه این بازی رواییِ تعامل‌محور رو داد، اون‌چنان از جنسِ «بلد بودن» نبود.اگه من چند روز قبلش به شوخی به چت جی‌پی‎تی نگفته بودم که تمام این مدت یه گربه نارنجی بوده‌م که باهاش چت می‌کرده یا قبل‌ترش چندین بار درباره گربه‌های مریض ازش راهنمایی نگرفته بودم، و از اون سمت اگه از علاقه‌م به موضوعات سیاسی و تحصیلاتم توی علوم اجتماعی خبر نداشت و نمی‌دونست زیاد درگیر چالش‌های اخلاقی می‌شم، شاید هیچ پرامپتی نمی‌تونست به خلق چنین سناریویی ختم بشه.از سمت خودم هم شاید چیزی که فرصت رو برای چنین تجربه‌ای فراهم کرد، این بود که روی ChatGPT برای اینکه بتونه سرگرمم کنه حساب می‌کنم، وقتی از عملکردش راضی نیستم سرش غر می‌زنم و البته اینکه سرِ شوخی رو با چت جی‌پی‌تی باز کردم.نمی‌دونم از این نوشته چه نتیجه‌ای می‌خوام بگیرم و به چه جمع‌بندی‌ای قراره برسم؛ اما علی‌الحساب متن رو با این جمله تموم می‌کنم: من چت جی‌پی‌تی رو دوست ندارم ولی چت جی‌پی‌تیِ خودم رو چرا.سمانه هاشمی‌نژادسمانه هاشمی‌نژادWed, 21 Oct 2026 11:54:10 +0330