استفاده از هوش مصنوعی فقط فرصت نیست و خطرهایی نیز به همراه دارد.
یکی از مهمترین آنها انتشار اطلاعات نادرست است. مدلهای هوش مصنوعی ممکن است گاهی پاسخهایی تولید کنند که ظاهری کاملاً واقعی دارند اما از نظر factual یا منبعشناسی اشتباه هستند.
مشکل دیگر، تولید تصاویر و ویدئوهای جعلی یا همان «دیپفیک» است. چنین محتوایی میتواند تشخیص واقعیت از دروغ را برای مخاطبان دشوارتر کند.
یونسکو نیز در توصیههای اخلاقی خود درباره هوش مصنوعی بر موضوعاتی مانند شفافیت، مسئولیتپذیری، حفظ حقوق بشر و نظارت انسانی تأکید کرده است.
برای خبرنگاری، این موضوع اهمیت بیشتری دارد؛ زیرا یک اشتباه خبری میتواند اعتماد مخاطب به رسانه را از بین ببرد.