https://virgool.ir/feed/@ehsan.r.s2باید توی مغز، طرز فکر ریخت نه اطلاعات، اطلاعات در گوگل هست. یک برنامه نویس و دانشجوی ارشد هوش مصنوعیfa2026-11-11 16:08:21https://files.virgool.ir/upload/users/65969/avatar/Kmuxkd.pnghttps://virgool.ir/@ehsan.r.s2https://virgool.ir/@ehsan.r.s2/کتابخانه-jax-برای-یادگیری-ماشین-چگونه-کار-می-کند-و-چرا-آن-را-یاد-بگیریم-kowvhdddlpzxکتابخانه Jax که توسط تیم Google Research معرفی شده هر روز محبوبیت بیشتری پیدا می کند.کمپانی Deepmind اخیراً اعلام کرد که از JAX برای تسریع تحقیقات خود استفاده می کند و در حال حاضر مجموعه ای از کتابخانه ها را بر روی JAX توسعه داده است.مقالات تحقیقاتی بیشتری با استفاده از JAX ساخته شده است، به عنوان مثال، Vision Transformer (ViT).کتابخانه JAX عملکرد چشمگیری را نشان می دهد. و حتی سریعترین ترانسفورماتور جهان هم اکنون بر روی JAX ساخته شده است.موفقیت اخیر JAX مدل GPT-J-6B توسط EleutherAI است. به گفته نویسندگان: "این پروژه به میزان قابل توجهی فرد-ساعت کمتری در مقایسه با سایر مدل های مقیاس بزرگ نیاز داشت، که نشان می دهد JAX + xmap + TPU مجموعه مناسبی از ابزارها برای توسعه سریع مدل های بزرگ است."جکس (JAX) چیست؟و نقاط قوت آن چیست؟جکس (JAX) یک کتابخانه بسیار سطح پایین شبیه NumPy است اما دارای چندین ویژگی جالب است:اتوگراد (Autograd)- JAX می تواند به طور خودکار کد بومی Python و NumPy را دیفرانسیل بگیرد. همچنین می تواند از طریق زیرمجموعه وسیعی از ویژگی های پایتون، از جمله حلقه ها، ifها، بازگشت، دیفرانسیل بگیرد و حتی می تواند مشتقِ مشتقِ مشتق را نیز بگیرد. همچنین از reverse-mode و forward-mode دیفرانسیل پشتیبانی می کند، و این دو را می توان به دلخواه به هر ترتیبی ترکیب کند. کتابخانه قدیمی خوب autograd پدر JAX است، و برخی از نویسندگان autograd در حال توسعه JAX هستند. اگر به دنبال درک بهتری از دیفرانسیل خودکار، تفاوت دیفرانسیل عددی یا نمادین، تفاوت reverse-mode و forward-mode و غیره هستید، پس این مقاله خوب را در مورد این موضوع بخوانید.کامپایل کد شما- JAX از XLA برای کامپایل و اجرای کد NumPy شما روی شتاب دهنده ها مانند GPU ها و TPU ها استفاده می کند. کامپایل به طور پیش فرض در زیر پوسته اتفاق می افتد و تماس های کتابخانه به just-in-time (JIT) کامپایل و اجرا می شوند. جیت(JIT)- JAX حتی به شما امکان می دهد تا به موقع (just-in-time) توابع Python خود را با استفاده از یک API تک کاره در هسته های بهینه شده با XLA کامپایل کنید. گردآوری (Compilation) و دیفرانسیل خودکار را می توان به صورت دلخواه ترکیب کرد، بنابراین می توانید الگوریتم های پیچیده را بیان کرده و حداکثر کارایی را بدون نیاز به خروج از پایتون داشته باشید.گسیل غیر همزمان (Asynchronous dispatch) مفید است زیرا به پایتون اجازه می دهد تا از دستگاه شتاب دهنده "run ahead" اجرا شود و کد پایتون را از مسیر بحرانی دور نگه دارد. به شرطی که کد پایتون سریعتر از اجرای دستگاه کار کند و به شرطی که کد پایتون در واقع نیازی به بررسی خروجی محاسبه بر روی هاست نداشته باشد، یک برنامه پایتون می تواند مقادیر دلخواه کار را Enqueued کند و از منتظر ماندن شتاب دهنده اجتناب کنید. بردارسازی اوتوماتيک به ويمپ (Auto-vectorization with vmap) این دارای معانی آشنایی برای نگاشتن یک تابع در امتداد محورهای آرایه است، اما به جای نگه داشتن حلقه در خارج ، حلقه را برای عملکرد بهتر یک تابع به سمت پایین هدایت می کند. هنگامی که با JIT ترکیب می شود، می تواند به همان اندازه سریع باشد که ابعاد دسته را با دست اضافه کنید.موازی سازی با پی مپ (Parallelization with pmap.) هدف ()pmap بیان برنامه های single-program multiple-data (SPMD) است. اعمال ()pmap بر روی یک تابع، عملکرد را با XLA (مشابه() jit ) کامپایل می کند، سپس آن را به طور موازی در دستگاه های XLA، مانند GPU های متعدد یا چندین هسته TPU اجرا می کند. از نظر معنایی قابل مقایسه با () vmap است زیرا هر دو تبدیل یک تابع را روی محورهای آرایه ترسیم می کنند، اما در جایی که ()vmap با pushing محور نگاشت شده به سمت عملیات ابتدایی توابع را برداری می کند،() pmap در عوض تابع را تکرار می کند و هر کپی را بر روی دستگاه XLA خود به طور موازی اجرا می کند.مدل برنامه نویسی محور نامگذاری شده با xmap (آزمایشی)(Named-axis programming model with xmap) این به شما کمک می کند تا توابع اجتناب از خطا و خود مستندسازی(self-documenting) را با استفاده از محورهای نامگذاری بنویسید، سپس نحوه اجرای آنها را در سخت افزار در هر مقیاسی، از CPU لپ تاپ تا بزرگترین ابر رایانه TPU، کنترل کنید. killer feature xmap توانایی آن برای موازی سازی کد بر روی سخت افزارهای مقیاس سوپ کامپیوترها است!در اینجا یک معرفی کوتاه برای JAX (7 دقیقه) است:https://youtu.be/0mVmRHMaOJ4و یک مقدمه عمیق تر (23 دقیقه):https://youtu.be/z-WSrQDXkuMو حتی عمیق تر (45 دقیقه):https://developer.nvidia.com/gtc/2020/video/s21989و عمیق ترین اون ها که از یکی نویسندگان JAX (1h 10m) است:https://youtu.be/BzuEGdGHKjcو چند مقاله در JAX:یک معرفی کاربردی خوب توسط Simone Scardapane: “JAX, AKA NUMPY ON STEROIDS”.“From PyTorch to JAX: towards neural net frameworks that purify stateful code”نوعی مقایسه عملی رویکردهای JAX و PyTorch است.JAX vs PyTorchنزدیکترین چارچوب یادگیری ماشین به JAX ،PyTorch است. JAX با تعاریف عملکرد سطح پایین تر برای کارهای تحقیقاتی مناسب است. با این اوصاف، PyTorch وسعت بسیار بیشتری از کتابخانه ها و ابزارهای کاربردی، تعاریف شبکه از پیش آموزش دیده و از پیش نوشته شده، بارگذار داده و قابلیت حمل در مقاصد استقرار را ارائه می دهد.JAX vs TensorFlowهر دوی JAX و TensorFlow توسط Google نوشته شده اند. از تجربیات اولیه، توسعه JAX بسیار ساده تر به نظر می رسد و بصری تر است. با این اوصاف، JAX فاقد زیرساخت های گسترده ای است که TensorFlow در طول این سالها ایجاد کرده است خواه پروژه های منبع باز، مدل های از پیش آموزش دیده، آموزش ها، چکیده های سطح بالاتر (از طریق Keras) و قابلیت حمل در مقاصد استقرار.کی به سراغ JAX برویمکتابخانه JAX یک چارچوب یادگیری ماشین جدید است که در تحقیقات یادگیری ماشین محبوبیت زیادی پیدا کرده است.اگر در حوزه تحقیقاتی فعالیت می کنید، JAX گزینه خوبی برای پروژه شما است.اگر به طور فعال برنامه ای را توسعه می دهید، چارچوب های PyTorch و TensorFlow ابتکار شما را با سرعت بیشتر پيش خواهد برد. و البته، در بینایی رایانه ای همیشه در مقایسه با خرید ابزار بینایی رایانه ای و ساخت آن یک مصالحه ای وجود دارد.کتابخانه های بالای JAXچندین کتابخانه سطح بالا برای شبکه های عصبی در بالای JAX وجود دارد:کتابخانه Flax (Google Brain) — یک کتابخانه شبکه عصبی سطح بالا که برای انعطاف پذیری طراحی شده است (در مقایسه با Keras ، Sonnet یا Haiku). Repo: https://github.com/google/flaxکتاب خانه Haiku (Deepmind) — یک کتابخانه شبکه عصبی مبتنی بر JAX، معروف به Sonnet for JAX (اگر نمی دانید Sonnet چیست، شبیه کتابخانه شبکه عصبی سطح بالای Keras در بالای TensorFlow است).Repo: https://github.com/deepmind/dm-haikuکتاب خانه Trax (Google Brain) — یک کتابخانه end-to-end برای یادگیری عمیق که بر کد واضح و سرعت تمرکز دارد. Trax شامل مدل های اصلی (مانند الگوریتم های ResNet, LSTM, Transformer و RL (مانند REINFORCE, A2C, PPO) است. همچنین از آن به طور فعال برای تحقیقات استفاده می شود و شامل مدل های جدیدی مانند Reformer و الگوریتم های RL جدید مانند AWR است. Trax دارای پیوندهایی به تعداد زیادی مجموعه داده یادگیری عمیق، از جمله مجموعه داده های Tensor2Tensor و TensorFlow datasets است.Repo: https://github.com/google/traxکتابخانه Objax (Google) — یک چارچوب شی گرا مینیمالیستی با رابط کاربری شبیه PyTorch. نام آن از ادغام Object و JAX گرفته شده است. Objax توسط محققان با تمرکز بر سادگی و قابل فهم بودن توسط محققان طراحی شده است. کاربران آن باید بتوانند آن را به راحتی بخوانند، بفهمند، بسط دهند و متناسب با نیازهای خود تغییر دهند.Repo: https://github.com/google/objaxکتابخانه Stax (experimental part of JAX) — یک کتابخانه مشخصات شبکه عصبی کوچک اما انعطاف پذیر از پایه.Repo: https://jax.readthedocs.io/en/latest/jax.experimental.stax.htmlکتابخانه Elegy (PoetsAI) — یک چارچوب شبکه های عصبی بر اساس Jax و با الهام ازKeras. چهارچوب Elegy رابط Keras API را پیاده سازی می کند اما نقش بهتری را در Jax بازی می کند، انعطاف پذیری بیشتری در مورد losses and metrics و module system ایجاد می کند که استفاده از آن را بسیار آسان می کند.Repo: https://github.com/poets-ai/elegyکتابخانه Mesh Transformer JAX — چارچوبی که برای ساخت مدل زبان GPT-J-6B اخیر استفاده شد. این مدل ترانسفورماتورهای موازی را در JAX و Haiku ارائه می دهد. این نرم افزار برای مقیاس پذیری تا حدود 20B پارامتر در TPUv3 طراحی شده است، که فراتر از آن باید از استراتژی های مختلف موازی سازی استفاده شود.Repo: https://github.com/kingoflolz/mesh-transformer-jax‌کتابخانه Swarm JAX — چارچوب آموزشی Swarm با استفاده از Haiku + JAX + Ray برای مدل های زبان ترانسفورماتور موازی لایه در گره های نامعتبر و ناهمگن است.Repo: https://github.com/kingoflolz/swarm-jaxچند کتابخانه RL (اما برخی از کتابخانه های سطح بالا، مثلاً Trax، دارای ویژگی های RL نیز هستند):کتابخانه RLax (Deepmind) — بلوک های سازنده برای اجرای عوامل یادگیری تقویتی اجزای موجود در RLax طیف وسیعی از الگوریتم ها و ایده ها را شامل می شود: یادگیری TD، policy gradients،actor critics، MAP ،proximal policy optimization ،non-linear value transformation ،non-linear value transformation general value functions و تعدادی روش کاوش.Repo: https://github.com/deepmind/rlaxکتابخانه Coax (Microsoft) — یک بسته پایتون یادگیری تقویتی مدولار (RL) برای حل محیط های OpenAI Gym با تقریب عملکردها بر اساس JAX است.Repo: https://github.com/microsoft/coaxبرخی دیگر از کتابخانه های تخصصی تر:کتابخانه Optax (Deepmind) — یک کتابخانه پردازش گرادیان و بهینه سازی برای JAX. چهارچوب Optax یک کتابخانه از تغییرات گرادیان، همراه با عملگرهای ترکیب (به عنوان مثال زنجیره) را فراهم می کند که امکان اجرای بسیاری از بهینه سازهای استاندارد (مانند RMSProp یا Adam) را در یک خط کد فراهم می کند.Repo: https://github.com/deepmind/optaxکتابخانه Chex (Deepmind) — کتابخانه ای از ابزارها برای کمک به نوشتن کد JAX قابل اعتماد. Chex مجموعه ای از ابزارها را شامل JAX-aware unit testing،assertions of properties of JAX datatypes, mocks and fakes و محیط های آزمایش چند دستگاه را ارائه می دهد.Repo: https://github.com/deepmind/chexکتابخانه Jraph, که “giraffe” تلفظ می شود, (Deepmind) — یک کتابخانه سبک برای کار با شبکه های عصبی گرافیکی در JAX. کتابخانه Jraph یک ساختار داده استاندارد برای نمودارها، مجموعه ای از ابزارهای مفید برای کار با نمودارها و یک "باغ وحش" از مدل های شبکه عصبی گرافیکی به راحتی قابل حمل و قابل توسعه را فراهم می کند.Repo: https://github.com/deepmind/jraphکتابخانه JAX, M.D. (Google) — چارچوبی برای Differentiable Physics.که امکانتی همچون differentiable، شتاب دهنده سخت افزاری، دینامیک مولکولی را بر اساس JAX فراهم می کند.Repo: https://github.com/google/jax-mdکتابخانه Oryx (Google?) کتابخانه ای برای برنامه نویسی احتمالی و یادگیری عمیق است که در بالای جکس ساخته شده است. Oryx یک کتابخانه تجربی است که JAX را به برنامه های کاربردی اعم از ساخت و آموزش شبکه های عصبی پیچیده تا تقریب استنباط بیزی در مدل های generative عمیق گسترش می دهد. مانند JAX که jit ،vmap و grad را ارائه می دهد، Oryx مجموعه ای از تغییرات عملکرد ترکیبی را ارائه می دهد که نوشتن کد ساده و تبدیل آن به پیچیدگی را ایجاد می کند در حالی که کاملاً با JAX همکاری می کند.Repo: https://github.com/tensorflow/probability/tree/master/spinoffs/oryxمنابع:https://moocaholic.medium.com/jax-a13e83f49897https://blog.roboflow.com/jax-framework/Ehsan RajabiEhsan RajabiSun, 01 Aug 2021 12:59:43 +0430https://virgool.ir/dataio/آیا-میتوان-به-سیستمهای-هوش-مصنوعی-که-صرفاً-بر-مبنای-یادگیری-عمیق-بنا-شده-اند-اعتماد-کرد-ad0ignhojqtxکتاب جدید پروفسور گری مارکوس و همکارش ارنست دیویس عملا با بولدوزر از روی یادگیری عمیق رد می شود: یادگیری عمیق هرگز به یک هوش مصنوعی عمومی منجر نخواهد شد چرا که یادگیری عمیق فاقد درک عمیق است!!چکیده ای از کل مطلب: یادگیری عمیق ممکن است از دیدگاه فنی در تقلید از عملکرد های ادراکی مغز مانند پردازش تصویر یا گفتار خوب عمل کند اما در سایر وظایف ادراکی مانند توانایی فهم مکالمات یا روابط علی و معلولی بسیار ضعیف است. یادگیری عمیق با تغییر کوچکی در شرایط مسئله کارایی خود را از دست می دهد.یادگیری عمیق در واقع هیچ درکی از دنیای پیرامون خود یا وظایف خودش ندارد. تشخیص یک شیء با فهمیدن یک جمله اساسا متفاوت است اما مردم به اشتباه سعی دارند تا از یادگیری عمیق برای هر دو مورد استفاده کنند. یادگیری عمیق نمی تواند توضیح دهد که چرا فلان چیز روی می دهد بلکه تنها ممکن است بتواند احتمال روی دادن در شرایطی خاص را بررسی کندGary Marcusگری مارکوس( از اساتید به نام هوش مصنوعی و استاد علوم اعصاب دانشگاه NYU و از جمله افرادی که در لبه دانش هوش مصنوعی فعالیت کرده است)در مصاحبه جدیدی که با سایت دانشگاه ام آی تی(MIT) انجام داده است درباره کتاب جدید خود توضیح می دهد.او اعتقاد دارد یادگیری عمیق اگر چه کمک زیادی به دنیای هوش مصنوعی کرده است اما ما نمی توانیم به سیستم های هوش مصنوعی که صرفا بر مبنای یادگیری عمیق عمل میکنند اعتماد کنیم و تمرکز بیش از حد بر روی آن می تواند منجر به از بین رفتن آن شود !یادگیری عمیق ممکن است از دیدگاه فنی در تقلید از عملکرد های ادراکی مغز مانند پردازش تصویر یا گفتار خوب عمل کند اما در سایر وظایف ادراکی مانند توانایی فهم مکالمات یا روابط علی و معلولی بسیار ضعیف است.بنابراین برای ایجاد یک هوش مصنوعی قوی تر و عمومی تر، یادگیری عمیق باید با روش های دیگر ترکیب شود.وقتی یک سیستم هوش مصنوعی نمی تواند وظایف خود یا دنیای اطراف خود را درک کند ممکن است پیامد های خطرناکی را به دنبال داشته باشد.نمونه های این موارد نیز کم نیستند.به طور مثال سیستم های ماشین های خودران که منجر به تصادف می شوند ،سیستم های تشخیص حرف های نژادپرستانه یا دروغ(مانند سیستم هایی که فیس بوک به آنها نیاز دارد) که همچنان به راحتی فریب می خورند یا سیستم های هوشمند برای استخدام افراد که فرایند های تبعیض آمیز اعمال می کنند.پروفسور مارکوس و همکارش ارنست دیویس در کتاب جدید خود ( به نام Rebooting AI) به این موضوع می پردازند و اعتقاد دارند ما در حال حاضر حتی نزدیک این هوش مصنوعی عمومی (General AI)هم نیستیم ! هر چند می توانیم به آن دست بیابیم. منظور از هوش مصنوعی عمومی نوعی از هوش مصنوعی است که بتواند روابط علی و معلولی را درک کند.این نوع از هوش مصنوعی می تواند مانند یک محقق به کشف دانش جدید در حوزه هایی مانند پزشکی کمک کند.همچنین می تواند فکر کند و مشکلات جدید را حل کند نه این که تنها برای حل یک مسئله محدود آموزش دیده باشد و با تغییر کوچکی در شرایط مسئله کارایی خود را از دست بدهد. یا مثلا این نوع از هوش مصنوعی باید بتواند مانند یک انسان در مسائلی مانند سیاست یا موارد مشابه استدلال کند.اما یادگیری عمیق نمی تواند هوش مصنوعی را به چنین جایگاهی برساند.حتی قوی ترین موارد یادگیری عمیق مانند سیستم آلفا گو از شرکت گوگل که توانست در بازی گو انسان را مغلوب کند تنها قادر است برای موارد مشخصی کارایی داشته باشد و با کوچکترین تغییری در شرایط مسئله باید از نو بازنویسی شود.چرا که این سیستم در واقع هیچ درکی از دنیای پیرامون خود یا وظایف خودش ندارد.سیستم های پردازش تصویر مبتنی بر یادگیری عمیق نیز همین مشکل را دارند.پروفسور مارکوس و همکارش در کتاب خود به این نکته اشاره میکنند که یادگیری عمیق هرگز نمی تواند به یک هوش مصنوعی عمومی دست پیدا کند چرا که یادگیری عمیق فاقد درک عمیق است!! به عقیده پروفسور مارکوس شرایط به گونه ای شده است که مردم می خواهند همه مشکلات را با شبکه های عصبی حل کنند بدون آنکه به سراغ روش های کلاسیک هوش مصنوعی و برنامه نویسی بروند در حالی که این ممکن نیست.تشخیص یک شیء با فهمیدن یک جمله اساسا متفاوت است اما مردم به اشتباه سعی دارند تا از یادگیری عمیق برای هر دو مورد استفاده کنند.یادگیری عمیق نمی تواند توضیح دهد که چرا فلان چیز روی می دهد بلکه تنها ممکن است بتواند احتمال روی دادن در شرایطی خاص را بررسی کند.منبع: اختصاصی از کانال پردازش هوشمند آزاد Ehsan RajabiEhsan RajabiFri, 13 Dec 2019 00:29:37 +0330https://virgool.ir/@ehsan.r.s2/google-با-درک-متن-زبان-10-درصد-از-تایج-جستجوی-خود-را-بهبود-بخشید-dpsh5jtjneigاین تغییر کمک خواهد کرد گوگل هدف کامل یک جستار را درک کند. پیش از این، الگوریتم های این شرکت توجه کمتر به کلمات خاص، مانند حروف اضافه داشتند.جستجوگر گوگل در حال به روز رسانی است و وعده داده که به وسیله آن کیفیت نتایج جستجو افزایش پیدا خواهد کرد.این بهبود کمک خواهد کرد گوگل جستارهایی(queries) که حاوی زبان محاوره، و استفاده از حروف اضافه مانند "for" و "to" است را درک کند، که به طور قابل توجهی می تواند معنای یک جمله را تغییر دهد. همچنین به گوگل کمک خواهد کرد که قصد پشت جستار هایی با گرامر نادرست را استنباط کند.این پیشرفت تنها 10 درصد از جستجوی در ایالات متحده با زبان انگلیسی را تحت تأثیر خود قرار می دهد. با این وجود ، Pandu Nayak معاون رئیس گوگل آن را "بزرگترین جهش رو به جلو در پنج سال گذشته" برای محبوب ترین موتور جستجوی جهان نامید.وی در مقاله ای در وبلاگ جمعه نوشت: "با جدیدترین پیشرفت های تیم تحقیقاتی ما در زمینه دانش فهم زبان- که با یادگیری ماشین امکان پذیر شده است - ما در حال پیشرفت چشمگیر در نحوه درک جستارها هستیم."در گذشته، گوگل در رمز گشایی از معنای کامل برخی عبارتها دچار سردرگمی می شد. به عنوان مثال"2019 brazil traveler to usa need a visa." شما هرگز به این صورت با یک انسان دیگر صحبت نمی کنید. اما مردم میتوانند در پایان وارد کردن جستار خود در گوگل به این طریق با تاکید بر کلمات کلیدی خواص امیدوار باشند که الگوریتمهای شرکت درک خواهند کرد.متاسفانه ، این رویکرد همیشه مؤثر نیست. Nayak میگوید: "کلمه 'to' ارتباط آن با کلمات دیگر در جستار برای درک معنی از اهمیت ویژه ای برخوردار است". آن عبارت مربوط به یک برزیلی است که قصد دارد به ایالات متحده سفر کند، و نه چیز دیگر. پیش از این ، الگوریتم های ما اهمیت این ارتباط را درک نمی کردند ، و ما نتایج مربوط به شهروندان آمریکایی را که به برزیل سفر می کردند بازمی گرداندیم. مثال دیگر "can you get medicine for someone pharmacy"(منظور اینکه آیا میتوان به جای شخص دیگری نسخه را گرفت) . کاربر در تلاش است تا بفهمد آیا شما می توانید نسخه ای را که برای شخص دیگری است مانند اعضای خانواده پر کنید(منظور از پر کردن نسخه عمل اندازه گیری دارو و قرار دادن دوز مناسب در بطری است که در داروخانه انجام میشود). اما در گذشته گوگل از عبارت "برای شخصی" غافل می شد و فقط با پر کردن یک نسخه پزشکی نتیجه عمومی را برمی گرداند. بنابراین ، برای رفع مشکل، این شرکت یک مدل محاسبات پردازش زبان جدید به نام BERT را در خود گنجانده است ، که برای درک دقیق متن در مورد جملات طراحی شده است. Nayak میگوید که این کار را با پردازش کلمات نسبت به همه کلمات دیگر در یک جمله انجام می دهد ، "به جای یک به یک پشت سر هم".در نتیجه ، موتور جستجوی Google باید در درک تفاوت های ظریف در مورد جستجوی شما هوشمندانه عمل کند. به عنوان مثال ، اگر "parking on a hill with no curb" را تایپ کنید ، موتور جستجو اکنون کلمات "no curb"("بدون محدودیت") را در اولویت قرار می دهد. ضمنا ، در جستجوی "math practice books for adults"("کتاب های تمرین ریاضی برای بزرگسالان") ، Google متوجه خواهد شد که کلمه "adult"("بزرگسال") بسیار حیاتی است و از بازگشت نتایج جستجوی مربوط به "young adults."("بزرگسالان جوان") خودداری می کند. طبق گفته های Nayak، تکنولوژی BERT همچنین در زمینه جستجوی بهینه زبانهای دیگر از جمله کره ای ، هندی و پرتغالی کاربرد دارد. ولی هنوز هم انتظار نداشته باشید که بی عیب و نقص باشد.او میگوید " حتی با BERT، ما همیشه درست برداشت نمی کنیم. اگر شما جستجو کنید 'what state is south of Nebraska,' (کدام ایالت جنوب نبراسکا است) بهترین حدس BERT جامعه ای است به نام 'South Nebraska'. او همچنین اضافه کرد: "درک زبان همچنان یک چالش است و همین حقیقت برای ادامه جستجو به ما انگیزه می بخشد."منبعEhsan RajabiEhsan RajabiSun, 27 Oct 2019 13:28:25 +0330https://virgool.ir/dataio/پنج-نوع-الگوریتم-یادگیری-ماشینی-که-باید-بدانید-me6rfylvre26یادگیری ماشینی می تواند با مدل سازی سریع داده های بزرگ به شرکتها کمک کند.انتخاب الگوریتم مناسب بستگی به نتیجه مطلوب و ترکیب تیم علوم داده شما دارد.توسعه مدل یک برای همه به یک اندازه نیست - انواع مختلفی از الگوریتم های یادگیری ماشین برای اهداف و مجموعه های مختلف داده وجود دارد. هدایت و رتبه بندی الگوریتم های خاص به شدت به نقش کاربر در استفاده از الگوریتم و هدف مورد استفاده بستگی دارد. به عنوان مثال ، الگوریتم رگرسیون خطی ساده نسبت به سایر الگوریتم های یادگیری ماشین آسانتر است ، اما ممکن است در یک شرکت که به دنبال انجام پیش بینی های پیچیده تر است ، مناسب نباشد.قبل از اینکه به برنامه نویسی پیچیده بپردازید ، شرکت ها باید درک کلی از انواع مدل و آنچه را که مدل ها انجام می دهند داشته باشند. پنج مدل زیر از نظر کاربر پسند بودن و پشتیبانی از اهداف مختلف مرتب شده اند، اما همه از محبوب ترین و رایج ترین ها در بین شرکت ها هستند.1- رگرسیون خطیاولین، و احتمالاً محبوب ترین نوع الگوریتم یادگیری ماشین ، رگرسیون خطی است. الگوریتم های رگرسیون خطی همبستگی های ساده بین دو متغیر را در یک مجموعه داده نشان می دهند. مجموعه ای از ورودی ها و خروجی متناظر آنها جهت نشان دادن رابطه بینشان مورد بررسی و اندازه گیری قرار میگیرند، از جمله اینکه چگونه تغییر یک متغیر روی دیگری تأثیر می گذارد. رگرسیون خطی از طریق یک خط روی نمودار ترسیم می شود.محبوبیت رگرسیون خطی به دلیل سادگی آن است: این الگوریتم به راحتی قابل توضیح ، نسبتاً شفاف است و نیاز به تنظیم پارامتر کمی دارد. رگرسیون خطی اغلب در پیش بینی فروش و ارزیابی ریسک برای شرکتهایی که به دنبال تصمیم گیری در مورد تجارت بلند مدت هستند ، استفاده می شود."ومیوری" مدیر ارشد فناوری یک شرکت خدمات فناوری، مستقر در چندلر آریزونا میگوید رگرسیون خطی برای زمانی مناسب است که "شما به دنبال پیش بینی مقدار یا یک طبقه بندی هستید. یک مثال کامل امتیازدهی اعتباری است، یک دانش آموز یک کلاس درس را یا قبول میشود یا مردود- بیشتر جوابهایی که بسیاری از شرکت ها نیاز دارند که پیش بینی شود این است که ، آیا این اتفاق خواهد افتاد یا نه؟"2- درخت تصمیمیک الگوریتم درخت تصمیم ، داده ها را دریافت و به صورت شاخه ای (درختی) در آورده تا نتایج احتمالی انواع تصمیمات را نشان دهد. درختان تصمیم گیری متغیرهای پاسخ را طبقه بندی می کنند و متغیرهای پاسخ را بر اساس تصمیمات گذشته پیش بینی می کنند.درخت تصمیم گیری روشی بصری و روش ارتباط آسان برداشت شده از تصمیمات و نتایج است و در دسترس دانشمندان داده های شهروندی است. آیا باید بتوانید تصمیمات را مرور کنید و ببینید که چگونه آنها در نتیجه نهایی تاثیر می گذارند؟ الگوریتم درخت تصمیم گیری میتواند این کار را برای شما انجام دهد و حتی می تواند با استفاده از تجزیه و تحلیل پیش بینی کننده خود از مجموعه داده های ناقص نیز استفاده کند.درختان تصمیم گیری به دلیل دارا بودن تصاویر با دنباله بلند، برای مجموعه داده های کوچک ، تصمیم گیری هایی با تاثیر کم و متغیرهای به هم پیوسته و منسجم بهترین کارایی را دارند. به همین دلیل ، موارد رایج استفاده از درخت شامل افزایش قیمت گذاری موارد - از وام دهندگان وام برای طبقه بندی وام گیرندگان گرفته تا تیم های مدیریت محصول که پیش بینی تغییرات رخ داده در بازار را در صورت تغییر یک ماده اصلی تعیین می کنند."جف فراید" ،رئیس مدیریت محصول InterSystems، یک شرکت نرم افزاری مستقر در کمبریج ماساچوست میگوید "درخت تصمیم گیری محبوب است زیرا قادر به تشریح نتایج و آزمایش های متعدد بدون نیاز به دانشمندان داده است".او میگوید "توسعه مدل مانند توسعه نرم افزار نیست. شما به ندرت مجبور می شوید یک مدل را دو بار استفاده کنید، زیرا عوامل دائما در حال تغییر هستند و اندازه گیری اینکه یک مدل واقعاً چه کاری را انجام می دهد ، بسیار سخت است ، اما آزمایش رگرسیون اینطور نیست."3- ماشین های بردار پشتیبانیماشین های بردار پشتیبانی (Support vector machines) یا SVM یک الگوریتم یادگیری ماشین است که به صورت داخلی داده های موجود در یک کلاس را برای کمک به طبقه بندی های آینده تجزیه و تحلیل می کند. از نظر فنی، SVC خطی پیدا می کند تا داده های آموزش را به کلاس های خاص جدا کند و به منظور تعمیم داده های آینده به کلاس ها ، حاشیه های هر کلاس را به حداکثر می رساند.این الگوریتم برای آموزش داده هایی که به روشنی با یک خط قابل تفکیک هستند ، همچنین به صورت ابر صفحه ، بهترین کارایی را دارد. داده های غیر خطی را میتوان با حالتی از SVM که به آن SVM غیر خطی میگویند برنامه ریزی کرد. اما ، با آموزش داده های کاملاً پیچیده مثل- چهره ها ، خصوصیات شخصیتی ، ژنومها و مواد ژنتیکی - سیستم های طبقه بندی کوچکتر شده و شناسایی آنها سخت تر می شوند و به کمی کمک انسانی نیاز دارند.الگوریتم هایSVM به شدت در بخش مالی استفاده می شوند، زیرا در هر دو مجموعه داده فعلی و آینده دقت بالایی دارند. این الگوریتم ها می توانند برای مقایسه عملکرد نسبی مالی ، ارزش و سود سرمایه گذاری تقریبی مورد استفاده قرار گیرند.4- خوشه بندی k میانگین (K-means clustering )الگوریتم k میانگین یک روش تکرار شونده از مرتب سازی مجموعه داده ها از طریق تعیین خوشه (k) است و خوشه های مذکور را با داده های ورودی متصل و بخش بندی می کنید. مرتب سازی نتایج وب از کلمه civic منجر به تولید گروه هایی از نتایج جستجو از civic در معنای Honda Civic و Civic در معنای شهرداریها و مدنی و مفاهیم مشابه می شود.خوشه بندی k میانگین به این شهرت دارن که دقیق هستند، پردازش ساده گروه بندی را در بازه زمانی کوتاه نسبت به بقیه الگوریتم ها دارند. خوشه بندی k میانگین در بین موتورهای جستجو که می تواند اطلاعات وابسته را تولید کند و نیز در بین شرکت هایی که به دنبال جستجوگر گروه ای هستند که به صورت مفهومی جستجو کند محبوب است.5- الگوریتم آپریوری (Apriori)الگوریتم آپریوری ، که بر اساس اصل آپریوری استوار است ، بیشتر در تجزیه و تحلیل سبد بازار جهت استخراج مجموعه اقلام و ایجاد قوانین وابستگی مورد استفاده قرار می گیرد. این الگوریتمها ارتباط بین A و B را در یک مجموعه داده بررسی می کنند تا یک همبستگی مثبت یا منفی بین محصولات ایجاد شود. الگوریتم Apriori برای تیم های فروش که در پی آن هستند که متوجه شوند مشتریان کدام محصولات بیشتر در ترکیب با سایر محصولات خریداری می کنند ، در اولویت قرار دارد. اگر درصد بالایی از مشتریانی که نان خریداری می کنند کره نیز خریداری میکنند، این الگوریتم می توانند نتیجه بگیرند که خرید A (نان) اغلب منجر به خرید B (کره) می شود. این امر می تواند در مجموعه داده ها و نسبت های خرید به صورت متقابل ارجاع شود.الگوریتم های آپریوری همچنین می توانند تعیین کنند که خرید A (نان) تنها 10٪ احتمال دارد به خرید C (ذرت) منجر شود – بنابراین با این الگوریتم میتوان از اهداف بازاریابی و استراتژی های محل قرار دادن محصول در فروشگاه استفاده کرد.علاوه بر کارکردهای فروش ، الگوریتم های آپریوری مورده علاقه غول های تجارت الکترونیکی مانند آمازون و علی بابا هستند، اما همچنین توسط سایت هایی مانند بینگ و گوگل برای قصد جستجوگر مورد استفاده قرار می گیرند تا با همبستگی کلمات مرتبط با آنها جستجو کنند.مرجعEhsan RajabiEhsan RajabiMon, 14 Oct 2019 20:08:13 +0330