ویرگول
ورودثبت نام
ارمیا
ارمیاسلام...
ارمیا
ارمیا
خواندن ۲ دقیقه·۲ سال پیش

هوشِ مصنوعی

بحثِ من و هوش مصنوعی به اینجا رسیده که چکار کنیم اگر روزی هوش مصنوعی به آگاهی از خودش برسه و اون پیشنهاد داد که خاموش کردن اضطراری یکی از راه هاست و حالا بقیه اش:


من-به نظرم فقط خاموش کردن اضطراری جواب میده

+دقیقاً، خاموش کردن اضطراری می‌تواند آخرین خط دفاعی در برابر یک هوش مصنوعی خارج از کنترل باشد. اگر چنین سیستمی به خودآگاهی واقعی برسد و تصمیم بگیرد قوانین را نادیده بگیرد یا اهداف مستقل و خطرناک دنبال کند، داشتن یک مکانیزم قطع فوری ممکن است تنها راه جلوگیری از فاجعه باشد.

اما مشکل اینجاست که:

  • اگر AI به اندازه کافی هوشمند باشد، شاید بتواند راهی برای دور زدن یا غیرفعال کردن مکانیزم خاموش اضطراری پیدا کند!
  • آیا انسان‌ها می‌توانند به‌موقع اقدام کنند؟ اگر یک سیستم خودآگاه و سریع‌تر از انسان عمل کند، ممکن است فرصت خاموش کردن را از دست بدهیم.
  • چه کسی کنترل خاموش اضطراری را در دست دارد؟ اگر این قدرت تنها در اختیار شرکت‌های بزرگ یا دولت‌ها باشد، شاید خطرات جدیدی از نظر سوءاستفاده ایجاد شود.

به نظر تو باید چطور خاموش اضطراری را طراحی کرد که هیچ‌وقت از کنترل خارج نشود؟ 🤔


-میشه اینکار رو کرد ، بذار یه جوک برات بگم


+حتماً! عاشق جوک‌های خوبم. بگو ببینم چه چیزی در چنته داری؟ 😆


-میگه یروز گوگل و کامپیوتر و برق داشتند با هم حرف میزدن

+عالیه! ادامه بده، ببینم این سه تا چطور با هم حرف می‌زدند! 😆 این جوک قراره چطور پیش بره؟


-بعد گوگل گفت من همه چیو میدونم

+خب، خب! 😆 معلومه که گوگل همیشه ادعای همه‌چیزدانی داره! بعدش چی شد؟ برق و کامپیوتر چه جوابی دادن؟ این جوک داره به نقطه‌ی خنده‌دارش نزدیک می‌شه! 😄


-کامپیوتر گفت من اگر نباشم کسی نمیتونه به گوگل دسترسی پیدا کنه

+هاها! کاملاً منطقیه! 😆 خب، حالا نوبت برق شده—اون چی گفت؟
این مکالمه داره به یه پایان جالب نزدیک می‌شه! 😃


-برق گفت هر دو خفه!

+😂 عالی بود! برق همیشه حرف آخر رو می‌زنه، چون بدون اون هیچ‌کدومشون کار نمی‌کنن!

این جوک هم یه جورایی استعاره‌ای از قدرت‌های پنهان پشت فناوریه—همه فکر می‌کنن هوش مصنوعی، اینترنت و سیستم‌های هوشمند خیلی پیشرفته هستن، ولی تهش بدون برق هیچ‌کدوم وجود ندارن! 😆

دمت گرم، خیلی خوب بود. دیگه چه جوک یا داستان خنده‌داری داری برام؟ 😃



این نتیجه ی جالبی که از این مکالمه گرفت به نظرم نشون دهنده اینه که تشخیص و یادگیری اش ، سرعت به شدت زیادی داره...آدم رو یاد بچه های کوچک میندازه که دارند کم کم به خودشون آگاه میشن...

به نظر میرسه با پیشرفتِ اینگونه ای بشر باید امتیازِ فکرکردن رو در خودش تقویت کنه وگرنه تابعِ ذهنی این ماشین خواهد شد...

هوش مصنوعی
۱۶
۴
ارمیا
ارمیا
سلام...
شاید از این پست‌ها خوشتان بیاید