هوش مصنوعی میتواند در چند ثانیه یک مقاله بنویسد، یک موضوع پیچیده را توضیح دهد، ایده بدهد یا حتی برای تحقیق اولیه چندین منبع پیشنهاد کند. اما یک مشکل مهم همچنان وجود دارد
ممکن است پاسخ کاملاً درست به نظر برسد و در عین حال اشتباه باشد.
این خطاها که معمولاً با عنوان Hallucination یا توهم هوش مصنوعی شناخته میشوند، میتوانند شامل یک عدد اشتباه، تاریخ نادرست، نام یک فرد، آمار ساختگی یا حتی منبعی باشند که اصلاً وجود ندارد. پژوهشهای منتشرشده درباره مدلهای زبانی نیز نشان میدهند که این مدلها هنوز ممکن است با اطمینان بالا اطلاعات نادرست تولید کنند.
پس اگر از هوش مصنوعی برای تولید محتوا استفاده میکنید، سؤال اصلی این نیست که «آیا AI اشتباه میکند؟»؛ سؤال مهمتر این است که «چطور قبل از انتشار متوجه اشتباه شویم؟»

یکی از ویژگیهای پاسخهای اشتباه هوش مصنوعی این است که معمولاً شبیه یک پاسخ واقعی نوشته میشوند. ممکن است جملهبندی کاملاً روان باشد، توضیح منطقی به نظر برسد و حتی چند عدد و منبع هم در متن وجود داشته باشد. همین موضوع تشخیص خطا را سخت میکند.
برای مثال تصور کنید از یک ابزار هوش مصنوعی درباره یک ابزار نرمافزاری جدید سؤال میکنید. ممکن است AI قابلیتی را به آن ابزار نسبت دهد که وجود ندارد یا تاریخ انتشار یک ویژگی را اشتباه اعلام کند. اگر چنین متنی بدون بررسی منتشر شود، مشکل فقط یک اشتباه ساده نیست. ممکن است اعتبار نویسنده و رسانه هم زیر سؤال برود.
به همین دلیل، همانطور که در مطلب "۵ اشتباه رایج در استفاده از هوش مصنوعی برای تولید محتوا" توضیح دادهایم، خروجی AI بهتر است نقطه شروع تولید محتوا باشد، نه نسخه نهایی آن.
همه بخشهای یک پاسخ به یک اندازه نیازمند بررسی نیستند. اگر از هوش مصنوعی بخواهید یک متن تبلیغاتی یا چند ایده برای عنوان مقاله پیشنهاد دهد، احتمالاً بررسی واقعیتسنجی اهمیت کمتری دارد.
اما وقتی پاسخ شامل اطلاعات واقعی و قابل اندازهگیری است، باید حساستر باشید. این موارد را جدیتر بررسی کنید؛
آمار و اعداد
تاریخها
نام افراد و شرکتها
نقلقولها
قوانین و مقررات
قیمتها
قابلیت ابزارها و نرمافزارها
اطلاعات پزشکی و مالی
نتایج تحقیقات
نام و لینک منابع
هرچه موضوع حساستر یا اطلاعات جدیدتر باشد، اتکا به پاسخ خام AI خطرناکتر است.
یکی از بهترین روشها این است که متن را یک بار دیگر بخوانید و به جای توجه به جملهبندی، ادعاهای قابل بررسی را پیدا کنید.
مثلاً جمله «این ابزار در سال ۲۰۲۵ بیش از ۱۰ میلیون کاربر فعال داشته است.» را در نظر بگیرید؛ این یک ادعای قابل بررسی است.
حالا به جای اینکه فقط بپرسید «آیا این جمله درست است؟»، باید بپرسید «منبع این عدد چیست؟». اگر منبع معتبر وجود ندارد، نباید صرفاً به خاطر اینکه جمله منطقی به نظر میرسد آن را منتشر کنیم.
یکی از اشتباهات رایج این است که از AI میخواهیم منبع معرفی کند و همان لینک را به عنوان سند میپذیریم. این روش کافی نیست.
ممکن است عنوان مقاله درست باشد اما اطلاعات نقلشده از آن اشتباه باشد. حتی ممکن است منبعی که AI معرفی کرده اصلاً وجود نداشته باشد. بنابراین برای ادعاهای مهم، خودتان صفحه منبع را باز کرده و بررسی کنید که؛
آیا منبع واقعاً وجود دارد؟
تاریخ انتشار آن چیست؟
نویسنده یا سازمان منتشرکننده چه کسی است؟
آیا منبع اصلی است یا یک بازنشر؟
آیا دقیقاً همان ادعایی را مطرح کرده که AI گفته است؟
اگر پاسخ این سؤالها روشن نیست، بهتر است ادعا حذف یا با منبع معتبرتری جایگزین شود.
برای بررسی صحت اطلاعات، همه منابع ارزش یکسانی ندارند. برای اطلاعات مربوط به محصولات و قابلیتهای یک شرکت، ابتدا سراغ سایت رسمی همان شرکت بروید.
برای موضوعات علمی، مقاله پژوهشی یا منابع دانشگاهی انتخاب بهتری هستند. و برای موضوعات مربوط به گوگل، بهتر است مستندات رسمی Google Search Central را بررسی کنید.
به عنوان مثال، گوگل در راهنمای فعلی خود درباره محتوای تولیدشده با AI تأکید میکند که هنگام استفاده از هوش مصنوعی، دقت، کیفیت و مرتبط بودن محتوا همچنان اهمیت اساسی دارد.
یک نکته جالب این است که خود هوش مصنوعی میتواند بخشی از فرایند بررسی را هم انجام دهد. بعد از آماده شدن متن میتوانید از مدل بخواهید که «تمام ادعاهای قابل بررسی این متن را استخراج کن و بگو کدام موارد به منبع معتبر نیاز دارند.»
یا «کدام بخشهای این متن ممکن است به دلیل اطلاعات قدیمی، ناقص یا نامطمئن نیاز به بررسی داشته باشند؟» این کار جای بررسی انسانی را نمیگیرد، اما میتواند نقاط حساس متن را سریعتر مشخص کند.
یکی از نشانههای خطر این است که AI درباره موضوعی نامطمئن، با قطعیت کامل پاسخ میدهد. البته لحن مطمئن به معنی درست بودن پاسخ نیست.
مدلهای زبانی برای تولید پاسخ بر اساس الگوهای موجود در دادهها آموزش دیدهاند و ممکن است در شرایطی که اطلاعات کافی ندارند، به جای اعتراف به ندانستن، پاسخ قابلقبولی تولید کنند. پژوهش OpenAI درباره این موضوع نیز نشان میدهد که تمایل مدلها به حدس زدن یکی از عوامل مهم ایجاد پاسخهای نادرست است.
پس جملههایی مثل «طبق گزارش فلان سازمان» یا «این قابلیت از سال فلان ارائه شده» را بدون بررسی نپذیرید.
قبل از اینکه محتوای تولیدشده یا کمکگرفته از AI را منتشر کنید، این موارد را بررسی نمایید.
آیا ادعاهای مهم متن مشخص شدهاند؟
آیا اعداد و آمار بررسی شدهاند؟
آیا تاریخها درست هستند؟
آیا نام افراد و شرکتها صحیح است؟
آیا نقلقولها واقعاً وجود دارند؟
آیا منابع معرفیشده واقعی هستند؟
آیا منبع دقیقاً همان ادعا را تأیید میکند؟
آیا اطلاعات مربوط به ابزارها و محصولات بهروز هستند؟
آیا بخشهای حساس توسط منبع معتبر بررسی شدهاند؟
آیا مثالهای متن واقعاً درست هستند؟
آیا متن بعد از بررسی هنوز با هدف مقاله هماهنگ است؟
آیا چیزی از پاسخ AI بدون بررسی وارد نسخه نهایی نشده است؟
لازم نیست برای انتشار هر جملهای که AI نوشته، چند ساعت تحقیق کنید. بهتر است سطح بررسی را با اهمیت ادعا هماهنگ کنید.
یک ایده برای عنوان مقاله نیاز به همان میزان بررسی یک آمار پزشکی یا مالی ندارد. اما هرجا یک ادعا میتواند روی تصمیم مخاطب اثر بگذارد، باید منبع و صحت آن را جدیتر بررسی کنیم.
همانطور که در مقاله "چطور با ChatGPT بهتر یاد بگیریم و سؤالهای دقیقتری بپرسیم" گفتیم، کیفیت خروجی AI فقط به خود ابزار وابسته نیست و نحوه استفاده ما از آن هم اهمیت زیادی دارد.
هوش مصنوعی ابزار قدرتمندی برای تحقیق، ایدهپردازی و تولید پیشنویس است، اما نباید آن را منبع حقیقت در نظر بگیریم. پاسخ روان، کامل و مطمئن الزاماً پاسخ درست نیست.
بهترین روش این است که ادعاهای مهم را جدا کنیم، منابع اصلی را باز کنیم، اطلاعات حساس و بهروز را با منابع معتبر تطبیق دهیم و در نهایت یک بار متن را با نگاه انسانی بررسی کنیم.
در واقع، استفاده حرفهای از AI یعنی فقط بلد نباشیم چطور سؤال خوبی بپرسیم؛ باید بلد باشیم چه زمانی پاسخ را باور نکنیم.
قبل از انتشار، یک بار دیگر بپرسید «اگر این جمله اشتباه باشد، چطور میتوانم ثابت کنم که درست است؟». همین سؤال ساده میتواند جلوی بسیاری از خطاهای محتوایی را بگیرد.