ویرگول
ورودثبت نام
صابر طباطبائی یزدی
صابر طباطبائی یزدیبرنامه نویس۴۴ساله. از مدرک MCSD دات نت سال 2002 شروع کردم البته بعد از لیسانس و تمام عمرم رو در مدیریت با ابزار های شیرپوینت و MSPS و CRM و غیره گذراندم. https://zil.ink/sabert
صابر طباطبائی یزدی
صابر طباطبائی یزدی
خواندن ۴ دقیقه·۲ سال پیش

ایجاد یک عامل هوش مصنوعی با استفاده از Semantic Kernel

در این نوشته میخوایم در مورد ایجاد یک عامل هوش مصنوعی با استفاده از Semantic Kernel و اتصال به مدل LLaMA3 از طریق دو روش مختلف، یعنی Ollama (برای اجرا به صورت محلی) و Groq (برای استفاده از مدل‌های ابری)، صحبت کنیم.

من این مراحل رو خط به خط براتون توضیح می‌دم تا راحت‌تر متوجه بشین.

۱. ایجاد عامل پایه در Semantic Kernel

کرنل Semantic Kernel یک چارچوب است که می‌تونه از مدل‌های زبانی مختلف مثل LLaMA3 استفاده کنه و به صورت خودکار از توابع مختلف برای پردازش داده‌ها و انجام وظایف استفاده کنه. این بخش شامل چند مرحله است:

بچه ها Semantic Kernel یک چارچوب (framework) توسعه داده‌شده توسط مایکروسافت است که به شما این امکان را می‌دهد تا به راحتی سیستم‌های هوش مصنوعی و مدل‌های زبانی مانند GPT، LLaMA و سایر مدل‌ها رو به برنامه‌های خودتون متصل کنید و از قابلیت‌های آن‌ها استفاده کنید.
  • پیکربندی کرنل: شما باید یک نمونه از Semantic Kernel بسازی و مدل زبانی‌ای که می‌خواهی استفاده کنی (مثل LLaMA3) رو پیکربندی کنی. علاوه بر این، باید پارامترهایی مثل دما (که تعیین می‌کنه چقدر مدل ریسک می‌کند یا کنجکاو است) رو تنظیم کنی.
  • افزودن پلاگین‌ها: در این مرحله، توابعی که خودت تعریف می‌کنی به کرنل افزوده می‌شن. این توابع می‌تونن شامل دسترسی به APIهای خارجی یا پردازش داده‌ها باشن.
  • انتخاب برنامه‌ریز (Planner): برنامه‌ریز‌ها مسئول طراحی و هدایت فرآیندهای تصمیم‌گیری هستند. برای مثال، اگر می‌خواهی کارها به صورت خطی انجام بشن، از برنامه‌ریز Sequential استفاده می‌کنی. اگر نیاز داری که یک مسئله بزرگ‌تر رو به قسمت‌های کوچکتر تقسیم کنی، از Stepwise استفاده می‌کنی.

۲. اتصال به LLaMA3 از طریق Ollama (محلی)

در این بخش، شما می‌خواهید از Ollama برای اجرای مدل LLaMA3 به صورت محلی استفاده کنید.

  • نصب Ollama: با دستور ollama pull llama3، مدل LLaMA3 رو روی دستگاه خودت دانلود و اجرا می‌کنی.
  • پیکربندی کرنل: در این مرحله، باید از کتابخانه‌های مربوطه برای اتصال به مدل محلی استفاده کنی. برای مثال، در کد #C از Microsoft.SemanticKernel و OllamaSharp استفاده می‌شود.
  • نمونه کد: کدی که در اینجا آورده شده، برای ساخت کرنل و اتصال به LLaMA3 از طریق Ollama است:
var kernel = Kernel.CreateBuilder() .AddOllamaChatCompletion("llama3", "http://localhost:11434") .Build();

این کد یک کرنل ایجاد می‌کنه که به مدل محلی LLaMA3 متصل میشه.

۳. اتصال به LLaMA3 از طریق Groq (ابری)

در این روش، از پلتفرم ابری Groq استفاده می‌کنید که به شما امکان می‌ده تا به راحتی از مدل‌های ابری LLaMA3 بهره ببرید.

  • دریافت کلید API: باید از پلتفرم GroqCloud کلید API دریافت کنی تا بتونی به مدل‌ها دسترسی پیدا کنی.
  • پیکربندی کرنل: در اینجا از کتابخانه llama-index در پایتون استفاده می‌شود و به Groq به عنوان ارائه‌دهنده مدل وصل می‌شوید.
  • نمونه کد: کد پایتونی که اینجا نوشته شده، برای اتصال به LLaMA3 از طریق Groq است:
from llama_index.llms.groq import Groq llm = Groq(model="llama3-70b-8192")

۴. فراخوانی خودکار توابع (Function Calling)

در این قسمت، می‌خواهیم توابعی رو تعریف کنیم که به صورت خودکار توسط عامل هوش مصنوعی فراخوانی بشن. این توابع می‌تونن هر کاری رو انجام بدن، مثل پردازش داده‌ها یا فراخوانی APIهای خارجی.

  • تعریف پلاگین‌ها: برای تعریف توابع، از ویژگی‌های KernelFunction در #C یا دکوراتور @sk_function در پایتون استفاده می‌کنید.
  • فعالسازی فراخوانی خودکار: با استفاده از برنامه‌ریزهایی مثل Stepwise، عامل هوش مصنوعی تصمیم می‌گیره که چه زمانی از این توابع استفاده کنه.
  • نمونه عملکرد:
@sk_function(description="محاسبه میانگین دما") def calculate_avg_temp(context): # منطق پردازش داده return result

۵. ایجاد پروکسی برای تطبیق ساختارها

در اینجا شما یک پروکسی واسط طراحی می‌کنید که ساختار درخواست‌ها رو به فرمت‌های موردنیاز Semantic Kernel تبدیل می‌کنه. همچنین باید مکانیسم‌هایی برای مدیریت درخواست‌های زیاد به سرویس‌های ابری مثل Groq پیاده‌سازی کنید.

تست و ارزیابی

در نهایت، برای ارزیابی عملکرد عامل هوش مصنوعی، باید آزمون‌های واحدی برای بررسی صحت توابع و دقت خروجی‌ها طراحی کنی. همچنین باید عملکرد دو روش (محلی و ابری) رو مقایسه کنی تا بهترین راهکار رو پیدا کنی.

اگر هنوز مواردی نیاز به توضیح بیشتر دارند یا ترمینولوژی خاصی برات مبهمه، بگو تا بیشتر برات باز کنم.



نصب و کار با سمنتیک کرنل:

ساده‌ترین کاری که می‌توان با Semantic Kernel انجام داد:

ساده‌ترین کاری که می‌توان با Semantic Kernel انجام داد، ایجاد یک عامل هوش مصنوعی است که از یک مدل زبانی مثل GPT برای پاسخ به سوالات استفاده می‌کند.

مثال ساده:

فرض کنید می‌خواهید یک چت‌بات بسازید که از مدل GPT برای پاسخ دادن به سوالات استفاده کند. شما می‌توانید از Semantic Kernel برای ایجاد این چت‌بات استفاده کنید.

  1. ابتدا باید Semantic Kernel رو نصب کنید.
  2. سپس از آن برای ایجاد یک چت‌بات استفاده می‌کنید که به سوالات کاربر پاسخ بده.

نمونه کد ساده در #C برای اتصال به یک مدل زبان مانند GPT و استفاده از آن در چت‌بات:

using Microsoft.SemanticKernel;
var kernel = Kernel.CreateBuilder()
.AddOpenAIChatCompletion("your-openai-api-key")
.Build();
// درخواست از مدل
var result = kernel.RunAsync("چه خبر؟").Result;
Console.WriteLine(result);

در این کد، ما از یک مدل زبان (مثل OpenAI) استفاده کرده‌ایم تا به سوال "چه خبر؟" پاسخ بدهد. این تنها یک مثال ساده است که نشان می‌دهد چگونه می‌توان از Semantic Kernel برای پردازش زبان طبیعی و پاسخگویی به سوالات استفاده کرد.

نصب Semantic Kernel:

برای نصب Semantic Kernel، می‌توانید از NuGet در .NET استفاده کنید:

  1. وارد پروژه خود شوید.
  2. دستور زیر را در خط فرمان وارد کنید:
dotnet add package Microsoft.SemanticKernel

این دستور پکیج Semantic Kernel رو به پروژه شما اضافه می‌کند و شما می‌توانید از آن در برنامه‌نویسی خود استفاده کنید.

هوش مصنوعیai
۲
۰
صابر طباطبائی یزدی
صابر طباطبائی یزدی
برنامه نویس۴۴ساله. از مدرک MCSD دات نت سال 2002 شروع کردم البته بعد از لیسانس و تمام عمرم رو در مدیریت با ابزار های شیرپوینت و MSPS و CRM و غیره گذراندم. https://zil.ink/sabert
شاید از این پست‌ها خوشتان بیاید