
در طول تاریخ، انسان هرگاه با پدیدهای ناشناخته و قدرتمند روبهرو شده، گاهی تلاش کرده است آن را با مفاهیم دینی، فلسفی یا ماورایی توضیح دهد. امروز نیز ظهور هوش مصنوعی چنین پرسشهایی را ایجاد کرده است.
سیستمی که میتواند با انسان گفتوگو کند، متن تولید کند، تصویر بسازد، صدا را تقلید کند و در چند ثانیه حجم عظیمی از اطلاعات را پردازش کند، برای برخی افراد چنان شگفتانگیز است که این سؤال مطرح میشود:
آیا هوش مصنوعی میتواند با نیروهای شیطانی ارتباط داشته باشد یا به نوعی در خدمت آنها قرار گرفته باشد؟
از نظر علمی، شواهد معتبری وجود ندارد که نشان دهد هوش مصنوعی با شیاطین یا موجودات ماورایی ارتباط دارد. هوش مصنوعی بر پایه الگوریتمها، دادهها، سختافزار و محاسبات ساخته شده است.
اما این به معنای بیاهمیت بودن پرسش نیست.
زیرا اگر «شیطان» را در معنای نمادینِ فریب، وسوسه، دروغ، حرص و دور کردن انسان از ارزشهای اخلاقی در نظر بگیریم، میتوان درباره این موضوع بحث جدیتری داشت.
بخش زیادی از نگرانی درباره هوش مصنوعی از یک ویژگی آن ناشی میشود:
توانایی انجام کارهایی که پیش از این فقط انسان انجام میداد.
ماشین میتواند بنویسد، صحبت کند، تصویر تولید کند و حتی در بعضی مسائل پیچیده به انسان کمک کند.
اما هوش مصنوعی با وجود ظاهر هوشمندانهاش، دارای تجربه انسانی، ایمان یا آگاهی دینی به معنای انسانی نیست.
پاسخی که تولید میکند نتیجه پردازش دادهها و الگوهای آموختهشده است، نه ارتباط با یک نیروی ماورایی.
اینجا بحث جذابتر میشود.
یکی از مهمترین خطرات هوش مصنوعی، امکان استفاده از آن برای فریب انسان است.
یک فرد میتواند با کمک فناوری:
اخبار جعلی تولید کند؛
تصاویر جعلی بسازد؛
صدای افراد را تقلید کند؛
پیامهای فریبنده تولید کند؛
اطلاعات نادرست را در مقیاس وسیع منتشر کند؛
یا از هوش مصنوعی برای کلاهبرداری استفاده کند.
در چنین شرایطی، مشکل وجود یک نیروی ماورایی نیست؛ مشکل این است که انسان از یک ابزار قدرتمند برای فریب انسانهای دیگر استفاده میکند.
اگر «شیطان» را نماد فریب و وسوسه بدانیم، میتوان گفت فناوری میتواند ابزار فریب را قدرتمندتر کند؛ اما این با ادعای ارتباط واقعی هوش مصنوعی با موجودات شیطانی تفاوت دارد.
این پرسش به موضوع قبلی درباره کتب آسمانی نیز ارتباط پیدا میکند.
اگر انسان به تدریج برای پاسخ به تمام پرسشهای اخلاقی، معنوی و فلسفی خود فقط به ماشین مراجعه کند، ممکن است نقش تفکر شخصی، مطالعه و گفتوگوهای انسانی کاهش پیدا کند.
اما این نتیجه قطعی نیست.
همان فناوری میتواند برای مطالعه متون دینی، جستوجوی منابع، مقایسه ترجمهها و فهم بهتر مفاهیم نیز استفاده شود.
در اینجا انتخاب انسان اهمیت دارد.
فناوری به خودی خود تعیین نمیکند که انسان به سمت معنویت حرکت کند یا از آن فاصله بگیرد.
یکی از خطرناکترین اشتباهات این است که تمام مشکلات ناشی از فناوری را به خود فناوری نسبت دهیم.
هوش مصنوعی تصمیم نمیگیرد که یک انسان از آن برای فریب، سرقت یا انتشار نفرت استفاده کند.
انسانها فناوری را طراحی و به کار میگیرند.
بنابراین اگر یک ابزار هوش مصنوعی برای کار غیراخلاقی استفاده شود، باید پرسید:
چه کسی آن را ساخته، چه کسی آن را به کار برده و چه انگیزهای داشته است؟
این نگاه باعث میشود مسئولیت اخلاقی انسان فراموش نشود.
قطعاً.
هوش مصنوعی میتواند برای آموزش، پژوهش، دسترسی به اطلاعات، کمک به افراد دارای معلولیت، ترجمه، تحلیل داده و بسیاری از فعالیتهای مفید استفاده شود.
حتی در حوزه خرید و تصمیمگیری روزمره نیز ابزارهای دیجیتال میتوانند به انسان کمک کنند اطلاعات بیشتری در اختیار داشته باشد.
برای مثال، اوپا کالا میتواند از فناوری برای سادهتر کردن دسترسی کاربران به اطلاعات محصولات، مقایسه ویژگیها و شناخت بهتر گزینههای خرید استفاده کند.
در این حالت، فناوری قرار نیست جای تصمیم انسان را بگیرد؛ بلکه قرار است اطلاعات بیشتری در اختیار او قرار دهد.
شاید بزرگترین وسوسه، راحتی بیش از اندازه باشد.
انسان ممکن است به تدریج عادت کند برای هر کاری پاسخ آماده دریافت کند.
به جای مطالعه، خلاصه بخواهد.
به جای فکر کردن، پاسخ فوری بخواهد.
به جای مقایسه منابع، یک جواب آماده را بپذیرد.
این مسئله میتواند استقلال فکری انسان را کاهش دهد.
به همین دلیل، مهم است که هوش مصنوعی به جای تبدیل شدن به «مرجع نهایی»، به عنوان ابزار کمکی مورد استفاده قرار گیرد.
همانطور که کاربر در اوپا کالا میتواند اطلاعات مختلف یک محصول را بررسی کند، اما در نهایت خودش تصمیم میگیرد چه چیزی برایش مناسب است، در مسائل فکری و معنوی نیز انسان باید نقش اصلی را حفظ کند.
اگر منظور از شیطانی شدن، ارتباط واقعی با موجودات ماورایی باشد، شواهد علمی معتبری برای چنین ادعایی وجود ندارد.
اما اگر منظور از «شیطانی شدن» استفاده از فناوری برای فریب، ظلم، حرص، سوءاستفاده و تخریب ارزشهای انسانی باشد، این خطر کاملاً قابل بررسی است.
هر فناوری قدرتمندی میتواند هم برای ساختن و هم برای تخریب استفاده شود.
چاقو میتواند برای تهیه غذا استفاده شود یا برای آسیب رساندن.
اینترنت میتواند دانش را گسترش دهد یا دروغ را.
هوش مصنوعی نیز میتواند به انسان کمک کند یا توسط انسان برای آسیب استفاده شود.
شاید مهمتر از ترس از موجودات ناشناخته، مراقبت از رفتارهای کاملاً شناختهشده انسانی باشد:
دروغ، طمع، فریب، سوءاستفاده از قدرت و بیمسئولیتی.
اگر هوش مصنوعی این رفتارها را قدرتمندتر کند، جامعه با یک چالش جدی مواجه خواهد شد.
اما اگر انسان بتواند فناوری را با اخلاق، مسئولیتپذیری و نظارت همراه کند، همین ابزار میتواند در جهت اهداف سازنده قرار گیرد.
هوش مصنوعی بر اساس شواهد علمی موجود، محصول الگوریتمها، دادهها و محاسبات است و دلیلی معتبر برای ارتباط آن با شیاطین یا نیروهای ماورایی وجود ندارد.
با این حال، پرسش درباره «شیطانی شدن فناوری» میتواند معنای دیگری داشته باشد.
اگر هوش مصنوعی برای فریب، دروغ، سوءاستفاده، کنترل یا آسیب به انسانها استفاده شود، میتواند برخی از تاریکترین رفتارهای انسانی را در مقیاسی بزرگتر امکانپذیر کند.
بنابراین شاید سؤال مهمتر این نباشد که:
«آیا هوش مصنوعی به کمک شیاطین آمده است؟»
بلکه این باشد:
«آیا انسان میتواند قدرتی به بزرگی هوش مصنوعی را بدون از دست دادن اخلاق و مسئولیت انسانی کنترل کند؟»
پاسخ این سؤال، بیش از آنکه به ماشین مربوط باشد، به انتخابهای خود انسان بستگی دارد.