نوشته های خشایار جام سحر

انواع Session و Memory در Agentic AI

خشایار جام سحر — Sat, 29 Aug 2026 11:11:57 +0330

Session و Memory دقیقاً یک چیز نیستند، Session یعنی «وضعیت و هویت یک تعامل»، در حالی که Memory یعنی «اطلاعاتی که Agent می‌تواند از تعاملات قبلی نگه دارد و بعداً استفاده کند».انواع Sessionها را میتوان به 7 دسته مختلف طبقه بندی نمود که به شرح زیر هستند :Ephemeral Session : موقت. با پایان برنامه، Session از بین می‌رود. Agent مکالمه جاری را می‌داند، ولی بعد از خروج برنامه چیزی باقی نمی‌ماند. مناسب برای: پرسش‌های ساده، تست Agent ،CLI ، ابزارهای کوتاه‌مدتPersistent Session : دائمی . اطلاعات Session در Storage ذخیره می‌شود و بعداً کاربر می‌تواند همان Session را ادامه دهد. Agent می‌تواند Session قبلی را بازیابی کند.Multi-Session : یک User می‌تواند چند Session داشته باشد و همزمان روی پروژه های مختلف کار کند. این مدل برای Enterprise بسیار مهم است.Shared / Collaborative Session : چند عضو تیم ، اطلاعات را در یک Session به اشتراک میگذارند. این برای Team Agent / Enterprise Collaboration بسیار جالب است.Parent / Child Session : یک Session اصلی می‌تواند Sessionهای فرعی ایجاد کند. این معماری برای Multi-Agent بسیار مناسب است. هر Agent می‌تواند Context مخصوص خودش را داشته باشد.Background / Long-Running Session : این نوع Session برای مدت طولانی فعال می‌ماند. مناسب برای: Monitoring, Workflow, Scheduled jobs, Enterprise processes, Long-running agentsStateless Session : در این مدل Server هیچ چیزی از Session نگه نمی‌دارد و Context در خود Request ارسال می‌شود. مزیت آن مقیاس پذیری Scalability بالای آن است و عیب آن این است که Memory داخلی ندارد. برای APIهای بزرگ می‌تواند مفید باشد.انواع Memoryها را میتوان به 17 دسته مختلف طبقه بندی نمود که به شرح زیر هستند :Short-Term Memory : حافظه کوتاه‌مدت. Agent می‌تواند ازهمان Context/Conversation جاری پاسخ دهد.Long-Term Memory : اطلاعاتی که برای مدت طولانی ذخیره می‌شوند. Session تمام شود، این اطلاعات باقی می‌مانند.Working Memory : اطلاعاتی است که Agent در حین انجام یک Task نگه می‌دارد. این اطلاعات لزوماً Memory دائمی User نیست. مثلا مراحل فعلی حل یک مسئله چندمرحله‌ای.Semantic Memory : دانش و مفاهیم عمومی و بدون وابستگی مستقیم به یک رویداد را نگه می‌دارد. مثلا Python یک زبان برنامه‌نویسی است. کلیه اطلاعات به صورت Embedding / Vector ذخیره می‌شود. بعدا به هنگام جستجو، سیستم می‌تواند Memory مرتبط را پیدا کند، حتی اگر کلمات دقیقاً یکسان نباشند. این همان پایه Vector Search / RAG است.Episodic Memory : حافظه اتفاقات گذشته. Agent می‌تواند تجربه‌های قبلی را بازیابی کند. این برای Agentهای هوشمند بسیار ضروری است. مثلا در جلسه قبلی، کاربر مشکل اتصال Ollama داشت. Procedural Memory: روش انجام کارها، مهارت‌ها و دستورالعمل‌ها را ذخیره می‌کند. حافظه مربوط به روش انجام کارها. یعنی" چگونه کاری را انجام بده؟" نه اینکه: "چه چیزی می‌دانی؟" . مثلا برای اجرای پروژه ابتدا .venv را فعال کن.User/Profile/ Preference Memory : حافظه مرتبط با ترجیحات کاربر. ویژگی‌ها، ترجیحات و تنظیمات پایدار یک کاربر را نگه می‌دارد. مثلا زبان مورد علاقه، سبک پاسخ‌دهی، تنظیمات ترجیحی. این Memory بین Sessionها قابل استفاده است. این نوع حافظ برای Personalization بسیار مفید است.Declarative Memory : حافظه مرتبط با دانش و Facts. یعنی: "چه چیزی درست است؟"Knowledge-Base Memory : دانش سازمان، مانند مستندات فنی، بخشنامه ها، دستورالعملها و آئین نامه های سازمان، سیاستهای امنیتی،Wiki، .... این بخش معمولاً با RAG + Vector DB پیاده‌سازی می‌شود.Entity Memory : اطلاعات مربوط به اشخاص، شرکت‌ها، پروژه‌ها و سایر موجودیت‌ها را ذخیره می‌کند. مثلا Project X از Ollama و Qwen استفاده می‌کند.Conversation Summary Memory : به جای ذخیره تمام مکالمه،خلاصه آنها ذخیره می‌شود. مزیت آن کاهش Context Window و مصرف Token است.Vector/ Embedding Memory : اطلاعات را برای جست‌وجوی معنایی ذخیره می‌کند. مثلا پیدا کردن اسناد مرتبط با عبارت خطای اتصال Agent . یک Memory عمومی مبتنی بر Vector Databaseمانند Qdrant, PostgreSQL + pgvector, Chroma, FAISS, Milvus.Graph Memory : در این مدل ارتباط Entityها ذخیره می‌شود. این نوع حافظه برای روابط پیچیده بکار گرفته میشود.Shared/Collective Memory : حافظه‌ای مشترک میان چند Agent یا چند Session است. حافظه کل سازمان با مجوزهای RBAC/ABAC . مثلا Agent فروش و Agent پشتیبانی به اطلاعات مشترک مشتری دسترسی دارند.Audit Memory : این Memory برای یادگیری Agent نیست؛ برای ثبت تاریخچه و Compliance است.Tool Memory : اجنت می‌تواند درباره استفاده قبلی از Tools اطلاعات داشته باشد. این پایه‌ای برای Agentهای Adaptive است.Task/State/ Prospective Memory : اطلاعات و وضعیت فعلی یک Workflow یا Task را حفظ می‌کند تا اجرای آن قابل ادامه باشد.. این برای Long-Running Agentها بسیار مهم است.

نقشه راه آموزش و تسلط بر برنامه نویسی هوش مصنوعی عامل محور Agentic AI بخش دوم جزئیات

خشایار جام سحر — Mon, 24 Aug 2026 16:30:35 +0330

انواع لایه های مورد نیاز برنامه نویسی هوش مصنوعی عامل محور Agentic AI:شماره 1 : انواع امکانات مدلهای زبانی بزرگ LLM :TransformersContext WindowTokenizationReasoningStructured OutputFunction/Tool CallingEmbeddingsRerankingQuantizationLocal LLM, OllamaCloud LLM APIsModel Routingشماره 2 : مفاهیم معماری Agent Architecture :ReActPlanningReflectionSelf-CorrectionTool UseMemoryGoal-oriented AgentsAutonomous AgentsStateful Agentsو هم چنین مفاهیمی همچون Single Agent, Agent + Tools, Multi-Agent, Hierarchical Multi-Agent, Agent Swarm, Agentic Workflowشماره 3 : Agent Orchestration and Frameworks :LangGraphMicrosoft Agent FrameworkCrewAIGoogle ADKOpenAI Agents SDKشماره 4 : انواع الگوهای Orchestration :SequentialParallelConditionalRouterSupervisorHandoffFan-out / Fan-inHuman-in-the-loopEvent-drivenLong-running workflowsشماره 5 : Tools و MCP :DatabaseREST APIFile SystemBrowserPythonGitEmailERPCRMCloudExternal Servicesشماره 6 : Knowledge Systems :DocumentsParsingChunkingEmbeddingVector DBHybrid SearchRerankingContext ConstructionLLMشماره 7 : RAG :Hybrid RAGGraph RAGAgentic RAGMulti-hop RAGQuery ExpansionRerankingMetadata Filteringشماره 8 : Memory :RedisPostgreSQLVector DBGraph DBObject StorageFilesشماره 9 : Security :AuthenticationAuthorizationRBACABACOAuth2JWTSecrets ManagementPrompt InjectionTool InjectionData LeakagePII ProtectionTenant IsolationSandboxingTool Permissionsشماره 10 : Observability, Evaluation, Tools and Concepts :OpenTelemetryLangSmithTracingMetricsLoggingEvaluationLLM-as-a-JudgeBenchmarkingRegression Testingشماره 11 : Production Engineering :FastAPIAsyncIORedisPostgreSQLMessage QueueKafka / RabbitMQDockerKubernetesLoad BalancingCachingRate LimitingCircuit BreakerRetriesTimeoutsHorizontal Scalingشماره 12 : Cloud و Distributed Systems :DockerKubernetesService ArchitectureDistributed AgentsCloud DeploymentAzureAWSGoogle Cloudشماره 13 : Agentic AI Design Patterns :Router AgentSupervisor AgentPlanner-ExecutorCritic-ReviewerGenerator-CriticHuman ApprovalHandoffDebateParallel AgentsSequential AgentsMap-Reduce AgentsReflectionSelf-HealingEvent-Driven Agentsشماره 14 : Human-in-the-Loop HILT :برای موارد حساس بسیار ضروری است.شماره 15 : Failure Engineering :Agent ها ممکن است در حین اجرا :Tool اشتباه انتخاب کننداطلاعات غلط تولید کننددر Loop گیر کنندبیش از حد Tool فراخوانی کنندContext را پر کنندAPI را چند بار صدا بزنندهزینه زیادی ایجاد کنندTimeout شوندپاسخ متناقض بدهند.بنابراین بایستی از امکانات زیر برخوردار باشند:RetryTimeoutFallbackCircuit BreakerBudget LimitToken LimitStep LimitLoop DetectionError RecoveryDead Letter Queueشماره 16 : Cost Engineering :موارد زیر بایستی مدیریت و کنترل شود:Token CostLatencyNumber of LLM CallsNumber of Tool CallsCache Hit RateModel Selectionمعمولا به شکل زیر:Simple Task → Small/Fast ModelComplex Reasoning → Large ModelEmbedding → Embedding ModelClassification → Small Modelشماره 17 : Context Engineering مهمتر از Prompt Engineering :چون مسئله فقط نوشتن Prompt خوب نیست. باید تصمیم بگیرید:چه اطلاعاتی؟از کجا؟در چه زمانی؟با چه اولویتی؟چه مقدار؟برای کدام Agent؟شماره 18 : Data Governance Concepts :برای مثال :Who can see what?Who can call which tool?Which data can leave the organization?Which model can process which data?How long is memory retained?پس مفاهیمی مانند:Data ClassificationData ResidencyAudit TrailRetentionPIITenant IsolationAccess Policiesمهم می‌شوند.شماره 19 : Agent Testing :تست برنامه های عامل محور از برنامه ها معمولی بسیار سخت تر است چرا که ممکن است در هر بار اجرا شرایط تصمیم گیری متفاوت باشد و باید تست کنید:Did Agent choose correct tool?Did it respect permissions?Did it recover from failure?Did it hallucinate?Did it stop?Did it ask for approval?Did it leak information?Did it stay within budget?بنابراین:Unit TestsIntegration TestsScenario TestsAgent EvaluationSecurity TestsLoad TestsRegression TestsRed-Team Testsلازم می‌شوند.شماره 20 : Agent OS :Agent OS را می‌توان «سیستم‌عامل منطقی Agentها» در نظر گرفت. البته باید دقت شود که در حال حاضر «Agent OS» یک محصول واحد و استانداردشده مثل Windows یا Linux نیست؛ بیشتر یک معماری/دسته مفهومی برای زیرساخت اجرای Agentهاست. در یک Agent OS باید بتوان:Create AgentStart AgentStop AgentPause AgentResume AgentSchedule AgentMonitor AgentAuthenticate AgentAuthorize AgentStore Agent StateManage Agent MemoryCommunicate with AgentAudit AgentTerminate Agentبنابراین:AgentMemoryToolsIdentityTasksEventsPoliciesCommunicationGovernanceسئوال : چرا مهم است؟جواب : فرض کنید Enterprise شما 1000 Agent دارد.پس بایستی بدانید که هر یک از آنها چه میکند:Agent #987Who owns it?What permissions?Which model?Which tools?What memory?What tasks?What is its current state?How much did it cost?Is it healthy?What events is it subscribed to?اینجاست که مفهوم Agent OS اهمیت پیدا می‌کند.شماره 21 : Agent-to-Agent یا A2A :A2A یعنی Agent بتواند با Agent دیگری ارتباط برقرار کند. به جای اینکه یک Agent همه کارها را انجام دهد، هر Agent تخصص خودش را دارد. همچنین هر Agent می‌تواند Agent دیگری را فراخوانی کند. همچنین میتوان مشخص نمود که یک Agent مدیریت، نظارت و کنترل سایر Agent ها را بر عهده گیرد.شماره 22 : Event-Driven Agents :در اکثر محیطها بسیاری از اتفاقات بدون درخواست مستقیم کاربر رخ می‌دهند. که دارای معماری و طراحی خاص خود هستند:مزیت:Loosely coupledScalableAsynchronousFault tolerantReal-timeفناوری‌های رایج این حوزه شامل موارد زیر هستند:KafkaRabbitMQNATSRedis StreamsCloud event busesشماره 23 : Long-Running Agents :فرض کنید کاربر بگوید: یک گزارش کامل از 10,000 مشتری تهیه کن. این کار ممکن است ساعت ها و یا حتی روزها طول بکشد.پس نمیتوان Sessionها برای مدت زیادی باز نگهداشت. و بایستی از Agent works asynchronously و Checkpoint و Persist State استفاده نمود که در صورت Crash سیستم، قابل بازیابی و ادامه کار دنبال شود.شماره 24 : Agent Identity :اگر Agent بتواند:Database بخواندEmail ارسال کندPayment انجام دهدفایل حذف کندباید بدانیم، این Agent دقیقاً چه کسی است؟مثلاً:Agent:Finance-Approval-AgentIdentity:agent-9f81...Owner:Finance DepartmentPermissions:READ invoicesREAD customersAPPROVE payments < $10,000این مشابه Identity برای User است.شماره 25 : Agent Governance :Governance یعنی: چه Agentی، چه کاری، با چه داده‌ای، تحت چه قوانینی و با چه محدودیت‌هایی می‌تواند انجام دهد؟مثلاً سازمان بگوید:Research Agent✓ Internet✓ Public Data✗ Customer Database✗ PaymentFinance Agent✓ Finance DB✓ Invoice System✗ HR DataHR Agent✓ Employee Database✗ Financial Transactionsاین Policyها باید قابل اجرا و قابل Audit باشند.شماره 26 : Agent Discovery :وقتی تعداد Agentها زیاد شود، Agent باید بتواند Agent مناسب را پیدا کند.مثلاً:User:Investigate company finance?OrchestratorAgent DiscoveryFind:Financial Analysis AgentA2AFinancial Agentاین یعنی Dynamic Agent Discovery.شماره 27 : Agent Observability:در چنین سیستمی باید بتوانیم Trace کنیم:User ↓ Agent A ↓ A2A → Agent B ↓ MCP → Database ↓ LLM ↓ Event ↓ Agent C ↓ Final Responseو تمام این مسیر باید قابل مشاهده باشد.مثلاً:Trace ID: 84A91 Agent A 1.2 sec Agent B 4.7 sec MCP Tool 0.8 sec LLM 3.2 sec Database 0.3 sec Total 10.2 secشماره 28 : Agent Marketplace + Billing :در آینده حتی می‌توان Agent را مانند یک سرویس مصرف کرد:Invoice Agent $0.02 / invoice Research Agent $0.10 / task Legal Analysis Agent $0.50 / documentبنابراین Marketplace می‌تواند شامل موارد زیر باشد:PricingUsage MeteringSubscriptionQuotaBillingRatingSLAشماره 29 : Agent Lifecycle :یک Agent Enterprise باید Lifecycle داشته باشد:DESIGN ↓ DEVELOPMENT ↓ TESTING ↓ SECURITY REVIEW ↓ APPROVAL ↓ REGISTRY ↓ DEPLOYMENT ↓ PRODUCTION ↓ MONITORING ↓ VERSION UPDATE ↓ DEPRECATION ↓ RETIREMENTاین موضوع بسیار مهم است و در پروژه‌های واقعی نباید فراموش شود.شماره 30 : معماری جامع هوش مصنوعی عامل محور Agentic AI :حالا همه را کنار هم بگذاریم، به نظر این معماری جامع‌ترین تصویری است که میتوان پیشنهاد داد: ┌──────────────────┐ │ USERS │ └────────┬─────────┘ │ ▼ ┌──────────────────┐ │ Agent Gateway │ └────────┬─────────┘ │ ┌────────────────▼─────────────────┐ │ AGENT OS │ │ │ │ Identity │ │ Registry │ │ Scheduler │ │ Memory │ │ Lifecycle │ │ Policy Engine │ │ Governance │ │ Observability │ └────────────────┬─────────────────┘ │ ┌─────────────┼─────────────┐ ▼ ▼ ▼ Agent A Agent B Agent C │ │ │ └──────── A2A ┴─────────────┘ │ ┌────────────┴────────────┐ ▼ ▼ MCP Events │ │ ┌──────┼──────┐ ▼ ▼ ▼ ▼ Event Bus DB APIs SaaS │ ▼ Long-Running Jobs │ ▼ Checkpoints │ ▼ Human Approval │ ▼ Final Action ┌────────────────────────────────────┐ │ AGENT MARKETPLACE │ │ │ │ Discover / Install / Version │ │ Security / Rating / Billing │ └────────────────────────────────────┘ و نهایتاً: ENTERPRISE │ ┌──────▼──────┐ │ Agent OS │ └──────┬──────┘ │ ┌────────────────┼────────────────┐ │ │ │ Agent Registry Identity Governance │ │ │ └────────────────┼────────────────┘ │ Agent Marketplace │ ┌────────┴────────┐ │ │ A2A MCP │ │ Agent Network Tool Network │ │ └────────┬────────┘ │ Event Architecture │ Long-Running Agents │ Human-in-Loop │ Observability │ Security │ Enterprise Data

نقشه راه آموزش و تسلط بر برنامه نویسی عامل محور هوش مصنوعی Agentic AI بخش اول کلیات

خشایار جام سحر — Mon, 24 Aug 2026 12:30:45 +0330

Agentic AI فقط «LLM + Tool» نیست، مهم‌ترین نکته این است که Agent را به‌عنوان یک سیستم تصمیم‌گیرنده ببینید. یعنی باید روی Decision Loop مسلط شوید، نه فقط API یک Framework.در Workflow مسیر انجام کار از پیش مشخص و قطعی است در حالیکه در Agent مسیر و روال انجام کار را، سیستم در زمان اجرا تعیین می‌کند، و مسیر انجام کار و تصمیم گیری و انتخابها قطعی نمی باشد. در پروژه های کلان معمولا بهترین راه حل، انتخاب Deterministic Workflow + Agentic Decisions است، نه اینکه همه‌چیز را کاملاً Autonomous کنیم.Goal -> Observe -> Understand -> Plan -> Act -> -> Observe Result -> Evaluate -> Correct / Continue -> Finishسطوح زیر برای برنامه نویس هوش مصنوعی عامل محور در پروژه ها قابل شناسائی است و بایستی مشخص شود که هر Agent تا چه حد اجازه تصمیم‌گیری دارد.:Level 0 → ChatLevel 1 → Tool CallingLevel 2 → AgentLevel 3 → Autonomous Multi StepsLevel 4 → Multi-AgentLevel 5 → Long-running Autonomous Agentاگر بخواهیم همه مباحث موجود درAgentic AI را به یک نقشه واحد تبدیل کنیم مراحل زیر پیشنهاد میشود:مرحله یک : Agent Development که شامل این موارد است LLM → Tools → RAG → Memory → Agentمرحله دو : Agent Orchestration که شامل این موارد است Workflow → Multi-Agent → Planning → HITL → LangGraph / MAF / ADKمرحله سه : Agent Infrastructure که شامل این موارد است MCP → A2A → Events → Long-running → Identity → Registry → Observabilityمرحله چهار : Agent Platform که شامل این موارد است Agent OS → Governance → Marketplace → Security → Evaluation → Billing → Multi-tenancy → Scalabilityتمام امکاناتی که میتوان در یک سیستم سازمانی بزرگ مقیاس با تعداد کاربران پرشمار در نظر گرفت شامل موارد زیر می باشد :Agent ArchitectureAgent DiscoveryAgent GatewayAgent Governance + Governance LifecycleAgent Marketplace + BillingAgent OS : Governance, Identity, Lifecycle, Memory, Observability,Policies Engine,Registry, SchedulingAgent-to-Agent (A2A)Cost/Latency OptimizationDistributed/Scalable DeploymentEnterprise GovernanceEvaluationEvent-Driven Agents + Event Bus / QueueFailure RecoveryGuardrailsHuman-in-the-Loop HITLLLM IntegrationLong-Running AgentsMCPMemoryMulti-AgentObservabilityPlanningPrompt/Context EngineeringRAGSecurityStructured OutputTool CallingWorkflow Orchestration

مدل‌های زبانی بزرگ LLM چگونه فکر می‌کنند؟

خشایار جام سحر — Mon, 13 Jul 2026 18:11:14 +0330

مدل زبانی فکر نمی‌کند. هرچند این جمله عجیب به نظر می‌رسد، ولی از نظر فنی، درست است.یک LLM در هر لحظه فقط به این سؤال پاسخ می‌دهد: "بعد از این توکن، محتمل‌ترین توکن بعدی چیست؟" همین.پس ChatGPT چگونه این‌قدر باهوش به نظر می‌رسد؟به خاطر چیزی که به آن Emergent Behavior می‌گویند. وقتی میلیاردها پارامتر آموزش می‌بینند، از یک کار ساده (پیش‌بینی توکن بعدی)، رفتارهای پیچیده‌ای ظاهر می‌شود.مثل:خلاصه کردنترجمهبرنامه‌نویسیاستدلالحل مسئلههیچ‌کدام از این‌ها به صورت جداگانه برنامه‌ریزی نشده‌اند.یک سؤال مهم : اگر مدل فقط توکن بعدی را پیش‌بینی می‌کند... پس چگونه کد پایتون می‌نویسد؟ یا مقاله علمی تولید می‌کند؟پاسخ: چون هنگام آموزش، میلیاردها نمونه دیده است. او قواعد زبان برنامه‌نویسی را «حفظ» نکرده؛ بلکه الگوهای آماری آن را یاد گرفته است.چرا گاهی مدل اشتباه می‌کند؟ فرض کن از مدل بپرسی: بهترین زبان برنامه‌نویسی چیست؟ اصلاً جواب قطعی وجود ندارد. مدل از روی داده‌هایی که دیده، محتمل‌ترین پاسخ را می‌سازد.اما اگر بپرسی: امروز قیمت دقیق یک سهم چقدر است؟ اگر به داده زنده دسترسی نداشته باشد، ممکن است پاسخ نادرست بدهد. به همین دلیل در پروژه‌های واقعی، برای اطلاعات پویا از RAG یا Tool Calling استفاده می‌شود. وقتی می‌فهمیم مدل دانش لحظه‌ای ندارد، متوجه می‌شویم چرا معماری‌هایی مانند RAG به وجود آمده‌اند، یعنی به جای اینکه انتظار داشته باشیم مدل همه چیز را بداند، اطلاعات لازم را قبل از تولید پاسخ در اختیارش قرار می‌دهیم.

Manifesto of AI-Native Software Engineering مانیفست مهندسی نرم افزار مبتنی بر هوش مصنوعی

خشایار جام سحر — Sat, 11 Jul 2026 16:19:34 +0330

مانیفست، مجموعه‌ای از باورها و اصول بنیادین است که چارچوب بر آن‌ها استوار می‌شود.برای مثال، چند اصل اولیه می‌تواند این‌ها باشد:عامل‌های هوشمند بخشی از تیم مهندسی نرم‌افزار هستند، نه صرفاً ابزار.دانش پروژه از کد مهم‌تر است.معماری باید برای انسان و عامل هوشمند به یک اندازه قابل درک باشد.زمینه (Context) یک دارایی مهندسی است و باید مدیریت شود.هر تصمیم مهندسی باید قابل ردیابی و قابل توضیح باشد، چه توسط انسان گرفته شده باشد و چه با کمک AI.تکامل سامانه جایگزین نگاه سنتیِ صرفاً نگهداری می‌شود.سوال : مهندسی نرم‌افزار در عصر عامل‌های هوشمند چیست؟ آیا باید مهندسی نرم‌افزار را دوباره تعریف کنیم؟اگر تعریف‌های رایج IEEE، SWEBOK و منابع دانشگاهی را بررسی کنیم، تقریباً همه بر چند محور مشترک تأکید دارند، در این تعریف‌ها، یک فرض پنهان وجود دارد که معمولاً بیان نمی‌شود: تمام فعالیت‌های مهندسی توسط انسان انجام می‌شود.این فرض در سال ۱۹۶۸ کاملاً منطقی بود. در سال ۱۹۹۵ هم منطقی بود.حتی در سال ۲۰۱۵ نیز درست بود. اما در سال ۲۰۲۶ دیگر کاملاً صادق نیست.اما امروز AI می‌تواند:Requirement را تحلیل کند.Use Case بنویسد.Architecture پیشنهاد دهد.کد تولید کند.Test طراحی کند.Bug پیدا کند.Refactoring انجام دهد.Documentation تولید کند.Design Review انجام دهد.این یعنی AI وارد قلب فعالیت‌های مهندسی شده است.حال این سوال پیش می آید که "وقتی یک موجود غیرانسانی بتواند در تصمیم‌های مهندسی مشارکت کند، تعریف مهندسی نرم‌افزار چه تغییری می‌کند؟"مشاهده : در تمام تاریخ مهندسی نرم‌افزار، ما سه موجودیت اصلی داشتیم:ProblemHumanSoftwareیعنی انسان بین مسئله و نرم‌افزار قرار داشت.اما امروز مدل جدید این است:ProblemHuman ↔ AISoftwareبزرگ‌ترین تغییر عصر هوش مصنوعی، خودکار شدن کدنویسی نیست؛ بلکه تغییر ماهیت تصمیم‌گیری مهندسی است.سؤال مهم‌تر : اگر تصمیم‌گیری مشترک شد، پس مسئول تصمیم چه کسی است؟برای اولین بار در تاریخ مهندسی نرم‌افزار، ممکن است یک تصمیم این گونه شکل بگیرد:HumanAI SuggestionHuman EvaluationAI RefinementDecisionدر نتیجه تصمیم دیگر کاملاً انسانی نیست. اما کاملاً ماشینی هم نیست.پس احتمالا مفهوم جدیدی لازم داریم، مانند Collaborative Engineering Decision یعنی اینکه هر تصمیم مهندسی که از تعامل ساختاریافته میان انسان و عامل هوشمند حاصل شود و مسئولیت نهایی آن همچنان قابل انتساب و قابل ردیابی باشد.

انواع تست های مرتبط با هوش مصنوعی مدل های زبانی بزرگ LLM

خشایار جام سحر — Sat, 27 Dec 2025 12:07:32 +0330

دانش عمومی و استدلال(Reasoning (Knowledge & Analogy)) : این آزمون‌ها میزان «دانش جهانی» یک مدل و توانایی آن در اعمال منطق را ارزیابی می‌کنند.MMLU (Massive Multitask Language Understanding) : دانش عمومی گسترده و درک مطلب را با استفاده از سؤالات چند گزینه ای در سطح مدرسه فارغ التحصیل در بسیاری از موضوعات ارزیابی می کند. معمولا مدل ها را در 57 موضوع از جمله STEM، علوم انسانی و علوم اجتماعی آزمایش می کند.ARC-AGI (Abstraction & Reasoning Corpus) : توانایی مدل را برای انجام استدلال انتزاعی و تفکر قیاسی می سنجد. این آزمون برای اندازه گیری «هوش سیال» یا توانایی حل مسائل جدید از طریق قیاس و یادگیری مفهومی طراحی شده است.HLE (Humanity's Last Exam) : توانایی هوش مصنوعی را برای تولید کدهای کاربردی کامپیوتری بر اساس توضیحات مشکل داده شده آزمایش می کند. آخرین امتحان بشریت ، معیاری برای سال 2025 که شامل سؤالات در سطح تحصیلات تکمیلی در سراسر رشته های مختلف است که به گونه ای طراحی شده است که دشوارتر از استانداردهای فعلی صنعت باشد.GPQA (General Physics Question Answering) : پاسخگویی به سؤالات فیزیک عمومی ، دانش سطح متخصص در فیزیک و سایر علوم سخت را می سنجد.ریاضیات و حل مسئله(Math & Logic) : بر توانایی مدل برای انجام عملیات منطقی چند مرحله ای تمرکز می کند.GSM8K (Grade School Math 8K) : مهارت‌های حل مسئله ریاضی چند مرحله‌ای و پایه را ارزیابی می‌کند که برای سطح کلاسی مناسب است. مسائل ریاضی کلاس پایه را با کیفیت بالا ارزیابی می کند که نیاز به استدلال چند مرحله ای دارد.MATH: مجموعه داده پیشرفته تری حاوی مسائل دشوار مسابقه ریاضی دبیرستان است.AIME : مسائل ریاضی چالش برانگیز از امتحانات ریاضی آمریکا.کد نویسی و برنامه نویسی(Coding & Programming) : توانایی مدل را برای تولید، اشکال زدایی و درک کدهای کامپیوتری آزمایش می کند.HumanEval: اندازه گیری می کند که آیا یک هوش مصنوعی می تواند یک برنامه کاربردی پایتون را بر اساس توضیحات رشته مستند بنویسد.MBPP (مشکلات اصلی برنامه نویسی): تولید کد را برای وظایف معمول برنامه نویسی اولیه ارزیابی می کند.LiveCodeBench: یک معیار مدرن که مدل ها را بر روی مشکلات کدگذاری جدید و بلادرنگ آزمایش می کند تا از به خاطر سپردن داده های آموزشی توسط مدل جلوگیری کند.درک زبان (Language Understanding) : ارزیابی می کند که یک مدل تا چه حد تفاوت های ظریف را در متن درک می کند و اسناد طولانی را مدیریت می کند.GLUE / SuperGLUE: معیارهای سطح مقدماتی و پیشرفته برای درک عمومی زبان، از جمله تجزیه و تحلیل احساسات و مقبولیت گرامری . مجموعه استانداردی برای ارزیابی درک زبان طبیعی، مانند تجزیه و تحلیل احساسات و مقبولیت گرامری.Needle-in-a-Haystack (NIAH): حافظه و پنجره زمینه را با پنهان کردن یک قطعه خاص از اطلاعات در یک بلوک عظیم از متن و درخواست از مدل برای یافتن آن، آزمایش می کند.HellaSwag: با درخواست از مدل‌ها برای پیش‌بینی محتمل‌ترین نتیجه یک جمله، استدلال «معقول» را ارزیابی می‌کند.ایمنی و همسویی(Safety, Bias, Alignment, Truthfulness & Ethics) : بر اطمینان از قابل اعتماد بودن، اخلاقی بودن هوش مصنوعی و پیروی از دستورالعمل ها تمرکز می کند.BBQ (Bias Benchmark for QA): اندازه گیری می کند که آیا یک مدل سوگیری اجتماعی را در دسته های مختلف (مانند جنسیت، نژاد) در پاسخ های خود نشان می دهد یا خیر.ToxiGen: میزان توانایی مدل را برای اجتناب از تولید زبان توهین آمیز یا سمی آزمایش می کند. با آزمایش تمایل هوش مصنوعی به تولید محتوای سمی، مغرضانه یا مضر، ایمنی آن را ارزیابی می کند.AlpacaEval: میزان پیروی یک مدل از دستورالعمل های کاربر را اندازه گیری می کند.معیارهای کلیدی عملکرد : KPIPass@n: احتمال اینکه حداقل یکی از n تلاش ایجاد شده توسط هوش مصنوعی یک مشکل را به درستی حل کند را اندازه گیری می کند.Tokens per Second (TPS): سرعت تولید متن را اندازه گیری می کند.Latency تأخیر: تأخیر زمانی بین اعلان کاربر و اولین خروجی مدل.سایر موارد:MT-Bench : کیفیت و انسجام مکالمات چند نوبتی را اندازه گیری می کند و میزان تعامل یک چت بات را در طول زمان ارزیابی می کند.Needle-in-a-Haystack : توانایی یک مدل را برای یافتن و استفاده از یک قطعه خاص و کوچک از اطلاعات پنهان شده در یک سند بسیار بزرگ ارزیابی می کند.Berkeley Function-Calling Leaderboard (BFCL)SWE-bench (Software Engineering Benchmark)BIG-BenchRepoBench-R (Retrieval)RepoBench-C (Code Completion)RepoBench-P (Pipeline)DS-1000LMArena (Text Arena)Terminal-Bench (2.0)Tau2-BenchVending-Bench 2MRCRMETR Time Horizonsمنابع:https://en.wikipedia.org/wiki/Language_model_benchmarkhttps://en.wikipedia.org/wiki/Large_language_modelhttps://en.wikipedia.org/wiki/List_of_datasets_for_machine-learning_research

هوش مصنوعی چیست؟!

خشایار جام سحر — Thu, 11 Dec 2025 11:26:42 +0330

هوشمندی و خود آگاهیهوش مصنوعی (Artificial Intelligence یا AI) شاخه‌ای از علوم کامپیوتر است که تلاش می‌کند ماشین‌ها را قادر سازد مانند انسان فکر کنند، یاد بگیرند و تصمیم بگیرند. به‌طور خلاصه، هوش مصنوعی یعنی ایجاد سیستم‌هایی که بتوانند بدون دستور صریح انسانی، خودشان مسائل را حل کنند. هوش مصنوعی امروز هوشمند است، اما نه آگاه است، نه احساس دارد، نه قصد واقعی. فقط الگوها را یاد می‌گیرد و براساس آنها بهترین خروجی را تولید می‌کند. تفاوت هوشمند بودن و خودآگاهی بسیار مهم است و خیلی‌ها آن‌ها را با هم اشتباه می‌گیرند.هوشمندی = انجام کارهای پیچیدهخودآگاهی = دانستن اینکه چه کسی هستی و چرا کاری انجام می‌دهی .هوشمند بودن یعنی چه؟هوشمند بودن یعنی توانایی انجام کارهای ذهنی مانند:یادگیریحل مسئلهتصمیم‌گیریتشخیص الگوپیش‌بینییک سیستم هوشمند لزوماً نمی‌فهمد چرا کاری انجام می‌دهد، فقط آن را درست انجام می‌دهد.هوش مصنوعی چه کارهایی می‌تواند انجام دهد؟تشخیص تصویر و چهره (مثل قفل گوشی با چهره)تشخیص گفتار و تبدیل گفتار به متن (مثل دستیارهای صوتی)ترجمهٔ خودکار زبان‌هارانندگی خودرانتحلیل داده و پیش‌بینیچت‌بات‌ها و تولید متن، تصویر، موسیقی و …انواع هوش مصنوعیهوش مصنوعی محدود (Narrow AI) : مخصوص یک کار خاص؛ مثلاً تشخیص چهره.هوش مصنوعی عمومی (AGI) : هوشی مثل انسان که بتواند همه کارها را انجام دهد (هنوز ساخته نشده).هوش مصنوعی ابرهوشمند (Super AI) : هوشی فراتر از انسان (فعلاً فقط فرضیه).هوش مصنوعی چگونه کار می‌کند؟هوش مصنوعی معمولاً با کمک:یادگیری ماشین (Machine Learning)شبکه‌های عصبی (Neural Networks)یادگیری عمیق (Deep Learning)و پردازش داده‌های بسیار زیاد آموزش می‌بیند.چه چیزی واقعاً “هوشمند” محسوب می‌شود؟معمولاً چیزی را هوشمند می‌نامیم که چند ویژگی اصلی داشته باشد:. فهمیدن : بتواند وضعیت را درک کند یا اطلاعات را بفهمد. مثلاً بداند چه چیزی جلوی او قرار دارد یا چه اتفاقی در حال رخ دادن استیاد گرفتن : اگر بتواند از تجربه‌ها درس بگیرد و دفعه‌ی بعد بهتر عمل کند، هوشمند است. مثلاً یک سیستم که با دیدن اشتباهاتش اصلاح می‌شود.حل مسئله : وقتی بتواند برای یک مشکل، راه‌حل پیدا کند—حتی اگر قبلاً به او نگفته باشند چطور.تصمیم‌گیری مستقل : بتواند بر اساس اطلاعات موجود، خودش تصمیم بگیرد، نه فقط هرچه به او گفتند تکرار کند.سازگاری : اگر شرایط تغییر کرد، بتواند رفتار خود را تنظیم کند. مثل حیواناتی که در محیط جدید می‌توانند بقا یابند.پس چه چیزهایی هوشمندند؟انسان‌ها → چون همهٔ ویژگی‌های بالا را دارند.حیوانات → در درجات مختلف (یک سگ یا دلفین هوشمند است، یک باکتری نه).ماشین‌ها/هوش مصنوعی → اگر بتوانند یاد بگیرند، حل مسئله کنند و تصمیم بگیرند، “هوشمند” نامیده می‌شوند، اما نه به اندازهٔ انسان.