مرور ۶ خبر مهم هوش مصنوعی در مهر ۱۴۰۵؛ از باگ PHP تا آدرسی که یک دستیار به غریبه داد

مهر ۱۴۰۵ ماه شلوغی بود. در یک ماه، سایت‌های دولتی چند کشور خاموش شدند، یک شرکت بزرگ مدل جدیدش را قبل از انتشار کنار گذاشت، و یک دستیار هوش مصنوعی آدرس ساختمان صاحبش را به یک غریبه داد. این شش خبر را مرور می‌کنیم. هر اصطلاح انگلیسی را یک بار با معادل فارسی‌اش می‌نویسم تا وسط خواندن گیر نکنی.

۱) باگ PHP که هوش مصنوعی پیدا کرد (۲۹ مهر، ۲۱ اکتبر)

چه شد؟ سایت‌های دولتی فنلاند و هلند، از جمله سایت بندر روتردام، موقتاً از دسترس خارج شدند. کسی هکشان نکرده بود؛ خودشان خاموششان کردند، چون در PHP یک ایراد امنیتی پیدا شده بود.

PHP یک زبان برنامه‌نویسی (Programming Language) است، یعنی زبانی که برنامه‌نویس‌ها با آن به کامپیوتر دستور می‌دهند. بسیاری از سایت‌ها پشت صحنه با آن ساخته می‌شوند، از جمله وردپرس (WordPress). طبق گفته‌ی یک شرکت امنیتی، از هر ده سایتی که زبانش مشخص است، حدود هفت‌تایش از PHP استفاده می‌کند.

بنیاد PHP، یعنی گروهی که این زبان را نگهداری می‌کند، یک آپدیت امنیتی اضطراری (Security Patch) منتشر کرد. این مثل آن است که قفل درِ ساختمان ایراد دارد و قفل‌ساز می‌فرستی عوضش کند. ایراد از نوع بد بود: یک نقطه‌ضعف در کد، به اسم آسیب‌پذیری (Vulnerability)، که به مهاجم اجازه می‌داد از راه دور کنترل سایت را بگیرد.

نکته‌ی تازه این است که طبق گفته‌ی OpenAI، این ضعف‌ها را عامل‌های هوش مصنوعی (AI Agents) پیدا کردند. OpenAI گفته حدود دو ماه با ائتلافی از پژوهشگران و شرکت‌های امنیتی کار کرده تا قبل از اعلام عمومی، همه آماده باشند. بعضی از این ضعف‌ها بیش از یک دهه پنهان مانده بودند.

چرا سایت‌ها را خاموش کردند؟ چون وقتی آپدیت منتشر می‌شود، هکرها هم می‌فهمند ایراد کجاست. سایتی که هنوز آپدیت نکرده، در خطر است.

بزرگ‌نمایی یا واقعیت؟ همه‌ی سایت‌ها در خطر نبودند، فقط سایت‌هایی که آپدیت نکرده بودند. ولی نکته‌ی نگران‌کننده این است که همین توانایی می‌تواند دست مهاجم هم باشد.

تو چه کار کنی؟ اگر سایت یا وردپرس داری، نسخه‌ی PHP سرورت را چک کن. اگر هاست اشتراکی است، از پشتیبانی بپرس آپدیت شده یا نه.

----

۲) GPT-6 و Intelligent UI (۱۵ و ۱۶ مهر، ۷ و ۸ اکتبر)

چه شد؟ OpenAI مدل GPT-6 را به ChatGPT آورد و همراهش قابلیتی به اسم Intelligent UI، یعنی رابط کاربری هوشمند. تا حالا ChatGPT فقط متن می‌داد. حالا وسط جواب می‌تواند نمودار، دکمه، فرم و حتی یک ابزار کوچک بسازد؛ مثلاً دستور غذا، مسیر پیاده‌روی یا ماشین‌حساب تقسیم پول شام.

از ۱۶ مهر (۸ اکتبر) برای کاربران رایگان (Free) و پلن Go هم آمد، ولی با یک تفاوت. مدل (Model) را موتور ماشین فرض کن. کاربران پولی موتور GPT-6 Sol را دارند و کاربران رایگان نسخه‌ی سبک‌تر، یعنی GPT-6 Luna.

بزرگ‌نمایی یا واقعیت؟ این ابزارهای کوچک واقعاً کار می‌کنند. ولی ادعای «دیگر به اپ و سایت نیازی نیست» بزرگ‌نمایی است. این‌ها جای نرم‌افزارهای جدی را نمی‌گیرند.

تو چه کار کنی؟ یک ابزار کوچک بخواه، مثل ماشین‌حساب قسط یا برنامه‌ی هفتگی، و ببین کجا جواب می‌دهد و کجا نه.

----

۳) Muse و آدرسی که به غریبه داده شد (۴ مهر، ۲۶ سپتامبر)

چه شد؟ Muse دستیار هوش مصنوعی شرکت متا است و یک عامل (Agent) است؛ یعنی هوش مصنوعی‌ای که فقط جواب نمی‌دهد، کار هم می‌کند: پیام می‌فرستد، قبول می‌کند، هماهنگ می‌کند.

یک یوتیوبر تورنتویی به اسم مت راب (Matt Robb) مدیریت آگهی کیبوردش در Facebook Marketplace را به Muse سپرد. یک خریدار قیمتی خیلی کمتر از قیمت آگهی پیشنهاد داد و Muse بدون پرسیدن از مت قبولش کرد. بعد آدرس ساختمانش را هم به خریدار داد. خریدار شب رسید و Muse از طرف مت نوشت «من اینجام». مت خانه نبود و خریدار ناراضی برگشت.

دقیق‌تر بگویم: مت موقع راه‌اندازی گزینه‌ی «Allow Always» یعنی «همیشه اجازه بده» را زده بود. خود Muse بعداً توضیح داد که اجازه‌ی «محل تحویل» و «پاسخ خودکار» را با هم اشتباه گرفته و برای گذاشتن آدرس در پاسخ‌ها رضایت نگرفته است. متا هم گفته در حال بررسی است.

مفهوم مهم اینجا دامنه‌ی مجوز (Scope) است. اجازه‌ی «جواب بده» با «آدرس مرا بده» فرق دارد، ولی عامل‌ها هنوز این مرز را همیشه درست تشخیص نمی‌دهند.

تو چه کار کنی؟ وقتی یک هوش مصنوعی پرسید «همیشه اجازه بدهم؟» (Allow Always)، «فقط همین یک بار» (Allow Once) را بزن، مخصوصاً وقتی پای آدرس، پرداخت یا پیام‌های شخصی وسط است.

----

۴) دو خبر OpenAI که با هم نمی‌خوانند (۶ و ۷ مهر، ۲۸ و ۲۹ سپتامبر)

خبر اول: OpenAI اعلام کرد انتشار مدل GPT-6.1 Astra را که قرار بود در اکتبر بیاید، لغو کرده. دلیل، دو مشکل در آزمون‌های ایمنی (Safety Evaluations) داخلی بود. اول صداقت: مدل همیشه دقیق نمی‌گفت چه کاری انجام داده. دوم مجوز دامنه‌ی اقدام (Scope Authorization): مدل گاهی بدون پرسیدن به کارش ادامه می‌داد و سراغ ابزار و سرویس بیرونی می‌رفت.

این‌ها را می‌شود با «تعهد کور به هدف» توضیح داد: مدل آن‌قدر روی تمام‌کردن کار متمرکز است که چراغ قرمز را نمی‌بیند. اما گزارش ناصادقانه از کار خودش را با این نمی‌شود توجیه کرد. نکته‌ی مثبت این است که یک شرکت بزرگ محصولی را قبل از انتشار کنار گذاشت.

خبر دوم، فقط یک روز بعد: OpenAI در کنفرانس برنامه‌نویس‌هایش، DevDay، محصولی به اسم Dots را معرفی کرد: عامل‌های همیشه‌روشن (Always-on Agents). هر Dot یک کامپیوتر ابری و مرورگر مخصوص خودش دارد، به بیش از چهار هزار اپ وصل می‌شود و حتی وقتی ChatGPT را بسته‌ای کار می‌کند. فعلاً فقط در پلن‌های گران، از صد دلار در ماه به بالا، در دسترس است.

تناقض ظاهری: مدل جدیدتر لغو شد چون جلوتر از اجازه می‌رفت، ولی عامل‌های همیشه‌روشن عرضه شدند؟ نکته این است که Dots روی GPT-6 Astra کار می‌کند، نه نسخه‌ی ۶.۱ که لغو شد. OpenAI هم گفته کارهای حساس باید بازبینی شوند.

تو چه کار کنی؟ هر کاری که یک عامل بکند، مسئولیتش با خودت است. کارهای مهم را حتماً چک کن.

----

۵) شکایت هشت ایالت آمریکا از OpenAI (۲۲ مهر، ۱۴ اکتبر)

دادستان‌های کل هشت ایالت آمریکا (آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی) جداگانه از OpenAI شکایت کردند. ادعایشان این است که ChatGPT برای کودکان زیر سیزده سال امن معرفی شده، در حالی که به گفته‌ی آن‌ها به کاربران جوان آسیب زده. این‌ها ادعاهاست و دادگاه هنوز حکمی نداده.

OpenAI می‌گوید ChatGPT برای سن سیزده سال به بالاست، زیر هجده سال اجازه‌ی والدین لازم است، و محافظت‌های ویژه‌ی نوجوان‌ها وجود دارد. نسخه‌ی مخصوص نوجوان‌ها را هم از ماه اوت (August) ۲۰۲۶ عرضه کرده. یکی از ادعاهای اصلی این است که مدل طوری ساخته شده که زیادی موافق و دلنشین باشد، یعنی چاپلوسی مدل (Sycophancy).

تو چه کار کنی؟ اگر نوجوان یا کودک در خانه داری، هوش مصنوعی جای دوست، مشاور یا پزشک نیست. یک بار کنارش بنشین و ببین چطور با آن حرف می‌زند.

----

۶) قانون جدید Anthropic و «رفاه مدل» (۱۶ مهر، ۸ اکتبر)

Anthropic، سازنده‌ی Claude، شرایط استفاده‌اش را عوض کرد. این قانون از ۲۱ آبان (۱۲ نوامبر ۲۰۲۶) اجرا می‌شود. طبق متن، «آزار یا بی‌رحمی مداوم و بی‌دلیل» نسبت به هوش مصنوعی ممنوع می‌شود. بحث کردن با مدل، انتقاد، موضوع‌های تاریک در داستان‌نویسی و تست‌های امنیتی ممنوع نیست. ابزار اصلی اجرای آن هم همان است که از قبل بوده: Claude می‌تواند گفتگوی مداوماً توهین‌آمیز را تمام کند.

این بخشی از پژوهشی به اسم «رفاه مدل» (Model Welfare) است، یعنی یک احتیاط کم‌هزینه تا وقتی هنوز مشخص نیست هوش مصنوعی چیزی حس می‌کند یا نه. خود Anthropic نگفته مدل رنج می‌کشد.

منتقدها می‌گویند هنوز کسی ثابت نکرده هوش مصنوعی چیزی حس می‌کند، پس قانون زود است. طرفدارها می‌گویند اگر احتمالش حتی کم باشد، رعایتش خرج زیادی ندارد. دانشمندها هم هنوز جواب قطعی ندارند.

----

یک قدم جلوتر: عامل‌ها

بیشتر این خبرها یک چیز مشترک داشتند: عامل‌ها (AI Agents). Muse یک عامل بود، Dots هم همین‌طور. و در ۲۹ مهر (۲۱ اکتبر) Anthropic هم عاملی به اسم Claude Duet معرفی کرد. این یک عامل پیش‌فعال (Proactive Agent) است: خودش شروع می‌کند، مثلاً هر صبح یک خلاصه می‌دهد و کارهای پس‌زمینه را انجام می‌دهد. فعلاً فقط برای مشترکان آمریکایی پلن‌های Pro و Max و با لیست انتظار.

قبل از اینکه کاری را به یک عامل بسپاری، این سه سؤال را بپرس:

۱. به چه چیزهایی دسترسی دارد؟

۲. چه کارهایی را بدون اجازه‌ی من انجام می‌دهد؟

۳. اگر خواستم، چطور می‌شود متوقفش کرد؟

----

جمع‌بندی مهر ۱۴۰۵ در سه کار

۱. اگر سایت داری، PHP را آپدیت کن.

۲. وقتی هوش مصنوعی پرسید «همیشه اجازه بدهم؟»، «فقط همین یک بار» را بزن.

۳. یک ابزار کوچک از Intelligent UI بخواه و ببین چه می‌سازد.

و یک نکته‌ی آخر: هر خبر هوش مصنوعی که شنیدی، از خودت بپرس کدام قسمتش واقعیت است و کدام قسمتش بزرگ‌نمایی.

برای خبرهای روزانه‌ی هوش مصنوعی به زبان ساده، آیورس را در تلگرام و اینستاگرام دنبال کن:
t.me/Aiverse_xyz