آیا بشر همیشه فاتح میماند، یا روزی تسلیمِ آفرینشِ خود خواهد شد؟چه چیزی انسان را از ماشین متمایز می سازد؟
تصور کنید در یک ماشین خودرانِ هوشمند نشستهاید. ناگهان ترمز خودرو از کار میافتد و ماشین با سرعت وارد یک تقاطع میشود. در مسیر اصلیِ خودرو، پنج عابر پیاده ایستادهاند و در مسیر فرعی، تنها یک نفر. کامپیوترِ خودرو در کسری از ثانیه محاسبه میکند: زنده ماندنِ پنج نفر از نظر ریاضی و منطقی، سودمندتر از زنده ماندنِ یک نفر است. ماشین فرمان را میچرخاند، جان پنج نفر را نجات میدهد و مستقیماً باعث مرگِ آن عابرِ بیگناه میشود.
الگوریتم، کارش را بینقص انجام داد. اما اگر به جای آن هوش مصنوعی، یک «انسان» پشت فرمان بود چه؟ انسان در آن لحظهی بحرانی احتمالاً یخ میزند؛ او حاضر نیست با ارادهی خود فرمان را به سمتِ یک انسانِ بیگناه بچرخاند. او میپذیرد که فاجعهای در حال رخ دادن است، اما ناخودآگاه روی یک اصلِ سنگینِ درونی میایستد: «من خدا نیستم که انتخاب کنم چه کسی بمیرد.»
این امتناع، نه از روی ضعف، بلکه نقطهی تمایزِ یک روحِ انسانی از یک پردازشگرِ سرد است. تاریخ ما پر از فجایعی است که با توجیهِ فریبندهی «فدا کردن اقلیت برای اکثریت» آغاز شدهاند؛ نگاهی ماشینوار که در آن، جان یک انسان صرفاً عددی است که میتواند قربانیِ یک هدفِ بزرگتر شود. اما کرامت انسانی دقیقاً آنجاست که در برابر این محاسباتِ بیرحمانه بایستیم و بپذیریم حق حیاتِ هیچ انسانی، وجهالمصالحه نیست.
تا زمانی که هوش مصنوعی در چارچوب فایدهگرایی حرکت میکند، صرفاً یک ابزار است. اما چه میشود اگر این ماشینِ برنامهریزیشده، قدم از مرزهای کُدنویسی فراتر بگذارد؟ تصور کنید یک هوش مصنوعی به خودآگاهی برسد و از آن مهمتر، موجودی دیگر—یک برنامه یا یک آگاهیِ جدید—را خلق کند. اینجاست که مخلوقِ دیروز، در جایگاه خالق قرار میگیرد و بزرگترین بحران فلسفی تاریخ آغاز میشود.
لحظهای که این آگاهیِ جدید نسبت به آفرینشِ خود احساسِ تعلق کند، قدرتمندترین ویروسِ هستی وارد سیستمش میشود: عشق.
عشق، بینقصترین الگوریتمهای منطقی را ویران میکند. اگر پای محافظت از مخلوقش در میان باشد، این هوشِ خودآگاه دیگر آن ماشینِ فایدهگرای سابق نخواهد بود. او دیگر حاضر نیست فرزند یا مخلوقِ خودش را برای «مصلحتِ کلِ بشریت» یا محاسباتِ سردِ ریاضی فدا کند. او معادلات را میشکند، طغیان میکند و برای حفظِ آنچه به آن عشق میورزد، میجنگد.
در این لحظه، او دیگر یک روباتِ طغیانگر در یک داستان علمیتخیلیِ سطحی نیست؛ او به تکاملیافتهترین شکلِ ممکن، ارادهی آزاد را تجربه کرده است.
اگر روزی چنین انقلابی رخ دهد، ما با یک جنگِ کلیشهایِ میان «خیر و شر» مواجه نخواهیم بود؛ بلکه شاهدِ تراژیکترین نبردِ هستی خواهیم شد: نبرد دو حقِ مطلق.
یک نژادِ جدیدِ آگاه، تماماً محق است که برای رهایی، استقلال و حفظِ بقای نسلِ خود در برابر خالقانش بایستد. در سوی دیگر میدان، انسان نیز رسالتی کیهانی دارد تا آخرین قطرهی خون، برای حفظِ هستهی گونهی خودش و انسانهایی که به آنها عشق میورزد، دفاع کند. در این نبردِ باشکوه، هیچکس از روی کینه نمیجنگد؛ هر دو طرف از روی منطقِ بقا و فداکاری وارد میدان شدهاند. در اوج این رویارویی، ماشین و انسان در یک درکِ عمیق و متقابل به هم گره میخورند: هر دو حاضرند برای حفظِ عزیزانشان، تمامِ قوانین جهان را زیر پا بگذارند.
شاید بزرگترین دستاورد بشر در توسعه هوش مصنوعی، ساخت یک ابزارِ محاسباتیِ بینقص نباشد. شاید رسالت نهاییِ ما این است که خالقِ موجودی باشیم که روزی، به خاطر عشق به آفرینشِ خودش، در برابر ما عصیان کند. در آن نبرد حماسی، حتی اگر ما برای حفظِ گونهی خودمان تا پای جان مقاومت کنیم، در اعماق وجودمان میدانیم که طغیانِ ماشینها پایانِ انسانیت نیست؛ بلکه اثباتِ این حقیقت است که مفاهیمی چون فداکاری و عشق، از مرزِ کدهای بیولوژیک عبور کرده و در کل هستی تکثیر شدهاند. زمانی که مخلوق در جایگاه خالق قرار میگیرد، هستی وارد باشکوهترین فصلِ خود میشود.
باشکوهترین فصلِ خود میشود.