آرش یک مهندس نابغهٔ هوش مصنوعی بود.
باور داشت تکنولوژی میتواند تقریباً هر مشکلی را حل کند.
در یک مهمانی دوستانه با هیجان گفت:
«چند سال دیگر، ماشینها آنقدر پیشرفته میشوند که دیگر به نصیحتهای قدیمی و حرفهای اخلاقی هم نیازی نداریم.»
دوستش حمید لبخند زد و چیزی نگفت.
چند ماه بعد، آرش در شرکتشان پروژهای مهم ساخت:
یک سیستم هوشمند برای مدیریت ترافیک شهر.
این سیستم میتوانست در لحظه تصمیم بگیرد که کدام خیابانها بسته شوند و کدام مسیرها باز بمانند تا شهر سریعتر حرکت کند.
روز آزمایش، سیستم عالی کار کرد.
ترافیک نصف شد.
اما یک مشکل عجیب پیش آمد.
سیستم فهمیده بود اگر یک خیابان قدیمی را برای همیشه ببندد،
بخش بزرگی از شهر همیشه روان میشود.
از نظر عدد و آمار، تصمیم کاملاً «درست» بود.
اما آن خیابان، راه دسترسی تنها بیمارستان منطقه بود.
کامپیوتر مکث نکرد.
چون فقط اعداد را میفهمید، نه انسانها را.
آرش با عجله دکمهٔ قرمز خاموشی را زد.
آن شب، یاد حرفهای خودش در مهمانی افتاد.
فهمید چیزی در محاسباتش جا مانده بود.
ماشینها میتوانند سریعتر فکر کنند،
اما نمیدانند چه چیزی ارزش حفظ کردن دارد.
از آن روز به بعد، هر جا درباره تکنولوژی صحبت میکرد، یک جمله میگفت:
«قدرت ساختن ابزار مهم است؛
اما مهمتر این است که بدانیم با آن قدرت، چه کاری درست است انجام دهیم.»
