ویرگول
ورودثبت نام
صابر طباطبائی یزدی
صابر طباطبائی یزدیبرنامه نویس۴۴ساله. از مدرک MCSD دات نت سال 2002 شروع کردم البته بعد از لیسانس و تمام عمرم رو در مدیریت با ابزار های شیرپوینت و MSPS و CRM و غیره گذراندم. https://zil.ink/sabert
صابر طباطبائی یزدی
صابر طباطبائی یزدی
خواندن ۴ دقیقه·۱ سال پیش

کیسینجر و مدیرعامل گوگل درباره هوش مصنوعی به ما چه گفتند. (و چه چیزهایی را نگفتند)

در هیاهوی کنونی پیرامون ابزارهایی مانند ChatGPT، به راحتی می‌توان فراموش کرد که بحث درباره هوش مصنوعی قدمتی طولانی‌تر دارد. اما اگر به دنبال راهنمایی برای عبور از این دوران پرآشوب باشیم، شاید بهتر باشد به کتاب «عصر هوش مصنوعی» که در سال ۲۰۲۱ منتشر شد، نگاهی بیندازیم. این کتاب که توسط معماران اصلی این جهان جدید - هنری کیسینجر (استراتژیست ژئوپلیتیک)، اریک اشمیت (مدیرعامل سابق گوگل) و دانیل هاتن‌لوکر (دانشمند کامپیوتر) - نوشته شده است، به طرز شگفت‌انگیزی آینده را پیش‌بینی کرده، اما در عین حال، به شکل نگران‌کننده‌ای ناقص است. این کتاب نه تنها به خاطر آنچه می‌گوید، بلکه به خاطر لحن و ناگفته‌هایش، چهار درس حیاتی به ما می‌آموزد. این درس‌ها نشان می‌دهند که شاید بزرگ‌ترین تهدید، نه خود فناوری، بلکه ذهنیت سرد و جداافتاده‌ی خالقان آن باشد.

۱. دیدگاه عجیب و «غیرانسانی» خالقان آن

یکی از تکان‌دهنده‌ترین ویژگی‌های کتاب «عصر هوش مصنوعی» لحن سرد و بی‌روح آن است. نویسندگان، با وجود اینکه در کانون توسعه هوش مصنوعی و ژئوپلیتیک جهانی قرار دارند، تعامل عاطفی بسیار کمی با پیامدهای عمیق این فناوری نشان می‌ده دهند. آن‌ها به طور قانع‌کننده‌ای استدلال می‌کنند که هوش مصنوعی هویت انسان را بازتعریف کرده و تهدیدی جدی برای زندگی ما به شمار می‌رود، اما به نظر نمی‌رسد که خودشان واقعاً اهمیتی به این موضوع بدهند.

این جدایی عاطفی از سوی معماران این فناوری، به‌ویژه اریک اشمیت که تا همین اواخر مسئول آزمایشگاه هوش مصنوعی گوگل یعنی DeepMind بود، بسیار نگران‌کننده است. چگونه ممکن است افرادی که در توسعه فناوری‌ای نقش محوری داشته‌اند که می‌تواند تمدن را به دورانی جدید سوق دهد، نسبت به مخلوق خود بی‌تفاوت باشند؟ این لحن غیرانسانی در نتیجه‌گیری کتاب به اوج خود می‌رسد.

فراخوان نهایی در نتیجه‌گیری اصلی کتاب، «درک این گذار» است. از قضا، این بخش شبیه نوشته‌های ChatGPT است.

این لحن بی‌تفاوت، زمانی که به بزرگ‌ترین خطر هوش مصنوعی می‌رسیم، ابعادی هولناک‌تر به خود می‌گیرد.

۲. خطر، شرارت نیست، بلکه فقدان عقل سلیم است

ایده محوری کتاب این است که بزرگترین خطر هوش مصنوعی، نیت بدخواهانه آن نیست، بلکه فقدان کامل هرگونه نیت است. هوش مصنوعی فاقد ارزش‌های انسانی مانند اخلاق، انگیزه یا احساسات است. این ویژگی آن را به ابزاری خشک و انعطاف‌ناپذیر تبدیل می‌کند که صرفاً بر اساس ورودی‌ها و خروجی‌ها عمل می‌کند و توانایی قضاوت یا درک عقل سلیم را ندارد.

این مسئله زمانی ترسناک‌تر می‌شود که پیامدهای آن را در نظر بگیریم، به ویژه در حوزه جنگ. یک ماشین بدون قدرت قضاوت که تصمیمات مرگ و زندگی می‌گیرد، استراتژی‌هایی برای تهاجم طراحی می‌کند بدون آنکه پیامدهای انسانی آن را درک کند. این فناوری می‌تواند بدون هیچ تردیدی دستوراتی را اجرا کند که منجر به فجایع انسانی شود، زیرا «عقل سلیم» برای توقف و تأمل را ندارد.

برخلاف انسان‌ها، هوش مصنوعی نیت، اخلاق، انگیزه یا احساسات ندارد. از این رو، هوش مصنوعی تمایل به انعطاف‌ناپذیری دارد و بر اساس ورودی‌ها و خروجی‌ها عمل می‌کند و نمی‌تواند متوقف شده و قضاوت کند. به نوعی، هوش مصنوعی فاقد عقل سلیم است.

۳. ما نگران ابرهوش بودیم، اما مشکلات واقعی همین الان اینجا هستند

تا همین چند سال پیش، بحث‌های عمومی درباره هوش مصنوعی تحت تأثیر کتاب‌هایی مانند «ابرهوش» نیک باستروم بود که بر خطرات وجودی و بلندمدت تمرکز داشتند؛ یعنی سناریوهایی که در آن یک هوش مصنوعی فوق‌پیشرفته از کنترل خارج می‌شود. اما کیسینجر، اشمیت و هاتن‌لوکر این بحث را به زمین بازمی‌گردانند.

آن‌ها به جای تمرکز بر تهدیدهای فلسفی و آینده‌نگرانه، به چالش‌های فوری و ملموسی می‌پردازند که هوش مصنوعی امروزی ایجاد کرده است: تأثیرات اقتصادی و تحول در بازار کار، رقابت شدید فناوری بین آمریکا و چین که به یک جنگ سرد تکنولوژیک جدید دامن می‌زند و نیاز فوری به ایجاد مقررات و همکاری‌های بین‌المللی برای کنترل این فناوری. این تغییر دیدگاه، بلوغ گفتمان هوش مصنوعی را نشان می‌دهد: ما دیگر درگیر تهدیدهای فلسفی نیستیم، بلکه با بحران‌های عملی، سیاسی و ژئوپلیتیکی دست‌وپنجه نرم می‌کنیم که امروز گریبان‌گیر ماست.

۴. راه‌حل نهایی؟ کمیته‌ای متشکل از... افرادی شبیه خود نویسندگان

کتاب «عصر هوش مصنوعی» در طرح پرسش‌های بزرگ و حیاتی عالی عمل می‌کند، اما وقتی نوبت به ارائه راه‌حل می‌رسد، به طرز ناامیدکننده‌ای ضعیف است. نویسندگان از ارائه «پیشنهادات مشخص» طفره می‌روند و در نهایت به یک راه‌حل آشنا و قابل پیش‌بینی می‌رسند: تشکیل یک کمیسیون ملی هوش مصنوعی متشکل از متخصصانی از «بالاترین سطوح دولت، تجارت و دانشگاه».

این پیشنهاد اساساً به این معناست که افرادی که این سیستم‌ها و ساختارهای قدرت را ایجاد کرده‌اند، باید مسئول تنظیم و کنترل آن نیز باشند. این راه‌حل که از همان ذهنیت جداافتاده و بی‌تفاوت نشأت می‌گیرد، این پرسش انتقادی را به وجود می‌آورد: آیا می‌توان به خالقان این فناوری اعتماد کرد که منافع عمومی را بر منافع خود ترجیح دهند؟ یا همان‌طور که یکی از منتقدان به طعنه می‌گوید، پیام اصلی کتاب این است:

به نظر می‌رسد پیشنهاد اصلی آن این است: «فقط افرادی مثل ما را مسئول بگذارید و به ما اعتماد کنید - ما بقیه‌اش را برای شما حل می‌کنیم.»

نتیجه‌گیری

کتاب «عصر هوش مصنوعی» یک نقشه راه حیاتی اما ناقص برای دوران ماست. این کتاب به همان اندازه که از طریق تحلیل‌های مستقیمش روشنگری می‌کند، از طریق لحن سرد، موارد ناگفته و راه‌حل‌های خودمحورانه‌اش نیز حقایق را آشکار می‌سازد. این کتاب به ما یادآوری می‌کند که خطر واقعی هوش مصنوعی ممکن است نه در کدهای آن، بلکه در فقدان همدلی و عقل سلیم خالقانش نهفته باشد.

با آینده‌ای که کدها توسط ماشین‌ها نوشته می‌شوند، اما ارزش‌ها توسط انسان‌ها تعیین می‌گردد، آیا می‌توانیم به معماران فاقد همدلی اعتماد کنیم تا سنگ‌بنای درستی برای دنیای جدید بگذارند؟

هوش مصنوعیهوشبرنامه نویسکتاب
۴
۰
صابر طباطبائی یزدی
صابر طباطبائی یزدی
برنامه نویس۴۴ساله. از مدرک MCSD دات نت سال 2002 شروع کردم البته بعد از لیسانس و تمام عمرم رو در مدیریت با ابزار های شیرپوینت و MSPS و CRM و غیره گذراندم. https://zil.ink/sabert
شاید از این پست‌ها خوشتان بیاید