معمولا انسان وقتی تاثیرگذارتر است که اندکی شکستهنفسی کند. «فکر کنم»، «شاید» یا «احتمال دارد چیزی را جا انداخته باشم اما...»، راههای خوبی برای فرصت دادن به ادعاهایمان بهمنظور در نظر گرفته شدن است.
ماشین حساب خورشیدی که در زمان مدرسه از آن استفاده میکردیم چنین کاری نمیکرد. ۶ ضربدر ۷ برابر است با ۴۲. بدون هیچ اگر و امایی.
بخشی از جادوی جستجوی گوگل این بود که نه تنها از خود راضی بلکه اغلب صحیح نیز بود. ترکیب اعتماد به نفس و کارایی آن بهگونهای بود که حس یک معجزه به آدم میداد.
البته که گوگل هیچگاه بدون اشکال نبوده. بهندرت میشود هر بار دقیقا صفحه درست را پیدا کند. این بخشی است که به ما سپرده شده بود. اما جو قدرت مطلق همچنان ادامه داشت. در واقع وقتی گوگل شکست خورد، قرار بر این بود هکرهای کلاه سیاه شیطانیِ سئو را سرزنش کنیم و نه الگوریتم ناقص و انحصارطلب حریص را.
و حالا ChatGPT به هر پرسشی که از او داشته باشیم با اطمینان پاسخ میدهد.
تعجب نمیکنم که یکی از بزرگترین نقدهایی که میشنویم، حتی از صاحبنظران متفکر، اعتماد به نفس بالای آن است. اینکه بدون هیچ قیدی اعلام میکند، بریانی بخشی از یک ناهار سنتی جنوب هند است. در صورتی که اینطور نیست.
آیا تفاوتی حاصل میشد اگر در ابتدا هر پاسخ مینوشت: «من تنها نسخه آزمایشی از برنامهای هستم که در حقیقت به همه چیز آگاه نیست اما، مغز انسان خلاف این را نتیجهگیری میکند؛ در نتیجه با شک به پاسخها نگاه کنید...».
در حقیقت این وظیفه ماست.
زمانیکه داده ساده و مرسومی بر صفحه نمایش رایانه شما نقش میبندد، با شک به آن نگاه کنید...
همه ایمیلها اسپم نیستند.
همه پیشنهادها کلاهبرداری نیستند.
و همه پاسخهای GPT3 نیز نادرست نیستند.
اما ضرر ندارد اگر پیش از پذیرش درستی پاسخ، پیشفرض خود را نیز در نظر بگیرید.
اعتماد به نفس کاذب، مشکل هوش مصنوعی نیست. تغییرات فرهنگی و اقتصادی بسیاری سبب این موضوع شدهاند. زودباوری یکی از مسائلی است که باید در ذهن داشته باشیم.
لینک مرجع: https://seths.blog/2023/01/overconfidence-and-ai/