«کامپیوتر از شما میخواهد روی این دکمه کلیک کنید».
«گمان میکند خواسته دیگری داشتید».
«از دست شما عصبانی است».
هزاران نسل پیش به ترفندی شگفتانگیز دست پیدا کردیم. معلوم شد که میتوانیم ایمنتر جهان را سفر کنیم با این تصور که دیگران نیز مانند ما صدایی در سر دارند.
با رساندن صدای روایتگر به گوش دیگران، از مبارزاتی مرگبار اجتناب کردیم. مختصرنویسی قدرتمندی که به ما اجازه داد از قدرت محدود پردازشی مغز خود برای تعامل در شرایط پیچیده فرهنگی استفاده کنیم.
آنقدر خوب جواب داد که شروع به اعمال آن روش به سگها، مارمولکها و حتی آبوهوا کردیم. نقطهای عالی برای یافتن منشا تصمیمات بد و خرافات.
حقیقت البته این است که گربه شما صدایی در سر ندارد. اما بهگونهای متفاوت رفتار میکنیم. حشرهای که اغلب میبینیم و حتی اسمی نیز روی آن گذاشتهایم، نمیتواند چهرهای خشمگین داشته باشد. پدیده پاریدولیا اثباتی بر جهانی بودن این اشتباه است.
و حالا چت هوش مصنوعی در حال آزمودن این خرد جمعی است. با اینکه میدانیم قضیه از چه قرار است اما باز هم در تنها چند دقیقه، اکثر انسانها با شادی به چت کردن ادامه داده و همان عواطفی را به کامپیوتر نشان میدهند که به یک انسان. کاری که بهندرت با آسانسورها یا دستگیرههای در انجام میدهیم؛ اما به محض اینکه دستگاهی فراتر رفته و پیچیدهتر شد، شروع میکنیم به تصویر کردن شبح در ماشین.
اگر کار میدهد ادامه بده.
مشکلات زمانی نمایان میشوند که دیگر ترفند جواب ندهد. وقتی شروع به خلق داستانهایی درباره نیت روایی سیستمهای پیچیده میکنیم. دیر یا زود تلاشهایمان به توطئهها، سوء تفاهمهایی درباره بهداشت عمومی و فرصتهای از دست رفته در بازارهای مالی منجر میشود.
رفتارهای اضطراری (در زمینههایی همچون اقتصاد و کامپیوترها و جهان طبیعی) آگاهانه نیستند.
گفتنش دشوار است، «در حال ساخت داستانی انسانمحور برای توضیح پدیدههای ساختاری هستم اما میانبُری که استفاده میکنم... بهنظرت این میانبُر در اینجا مفید است؟».
لینک مرجع: https://seths.blog/2023/03/the-ghost-in-the-machine/