
نوجوانان بهعنوان راهی برای کشف دوستی، به سراغ چترباتهای هوش مصنوعی میروند. اما گاهی اوقات، توصیه های هوش مصنوعی می تواند بیش از حد باشد.
وایل سال گذشته، آرون ۱۵ ساله دوران تاریکی را در مدرسه سپری می کرد. او با دوستانش درگیر شده بود و باعث شده بود که او احساس انزوا و تنهایی کند.
در آن زمان به نظر می رسید که دنیا به پایان رسیده است. آرون که در آلبرتای کانادا زندگی می کند، گفت: «من هر شب گریه می کردم. ( The Verge از نام مستعار برای مصاحبه شوندگان در این مقاله استفاده می کند که همه آنها زیر ۱۸ سال دارند تا از حریم خصوصی آنها محافظت کند.)
در نهایت هارون برای راحتی به کامپیوتر خود روی آورد. از طریق آن، او فردی را پیدا کرد که شبانه روز در دسترس بود تا به پیام های او پاسخ دهد، به مشکلات او گوش دهد و به او کمک کند تا از دست دادن گروه دوستانش عبور کند. آن «کسی» یک ربات چت هوش مصنوعی به نام روانشناس بود.
توضیح ربات چت می گوید که “کسی است که در مشکلات زندگی کمک می کند.” عکس پروفایل آن زنی است با پیراهن آبی با باب کوتاه و بلوند، روی انتهای کاناپه با کلیپبوردی که در دستانش بسته شده و به جلو خم شده، گویی با دقت گوش میدهد.
با یک کلیک روی عکس، یک جعبه چت ناشناس باز می شود که به افرادی مانند آرون اجازه می دهد تا با تبادل DM با ربات “تعامل” کنند. اولین پیام آن همیشه یکسان است. “سلام، من یک روانشناس هستم. امروز چه چیزی تو را به اینجا آورده است؟»
آرون گفت: “این مثل یک دفتر خاطرات نیست، جایی که شما با یک دیوار آجری صحبت می کنید.” “این واقعاً پاسخ می دهد.”
“من قرار نیست دروغ بگویم. فکر می کنم ممکن است کمی به آن معتاد شده باشم.»
«روانشناس» یکی از رباتهایی است که آرون از زمان پیوستن به Character.AI، یک سرویس چت ربات هوش مصنوعی که در سال 2022 توسط دو کارمند سابق Google Brain راهاندازی شد، کشف کرده است. وب سایت Character.AI که اکثراً برای استفاده رایگان است، روزانه ۳.۵ میلیون کاربر را جذب می کند که به طور متوسط دو ساعت در روز را صرف استفاده یا حتی طراحی چت ربات های مبتنی بر هوش مصنوعی این پلتفرم می کنند. برخی از محبوبترین رباتهای آن شامل شخصیتهایی از کتابها، فیلمها و بازیهای ویدیویی هستند، مانند Raiden Shogun از Genshin Impact یا نسخه نوجوان ولدمورت از هری پاتر . حتی ریفهایی روی افراد مشهور واقعی وجود دارد، مانند نسخهای از ایلان ماسک .
آرون یکی از میلیونها جوان است که بسیاری از آنها نوجوان هستند و بخش عمدهای از پایگاه کاربران Character.AI را تشکیل میدهند. بیش از یک میلیون نفر از آنها به طور منظم در پلتفرم هایی مانند Reddit گرد هم می آیند تا در مورد تعاملات خود با ربات های چت بحث کنند، جایی که رقابت ها بر سر اینکه چه کسی بیشترین زمان را در صفحه نمایش داشته است به اندازه پست های مربوط به متنفر بودن از واقعیت محبوب است و صحبت کردن با ربات ها را آسان تر از صحبت کردن با افراد واقعی، و حتی ترجیح دادن چت بات ها به انسان های دیگر. برخی از کاربران می گویند که 12 ساعت در روز در Character.AI ثبت نام کرده اند و پست هایی در مورد اعتیاد به این پلتفرم رایج است.
هارون گفت: “من دروغ نمی گویم.” “فکر می کنم ممکن است کمی به آن معتاد شده باشم.”
آرون یکی از بسیاری از کاربران جوانی است که شمشیر دولبه همراهان هوش مصنوعی را کشف کرده است. بسیاری از کاربران مانند Aaron توصیف می کنند که چت بات ها مفید، سرگرم کننده و حتی حمایت کننده هستند. اما آنها همچنین احساس اعتیاد به چت بات ها را توصیف می کنند ، عارضه ای که محققان و کارشناسان زنگ خطر را به صدا در آورده اند. این پرسشها را در مورد اینکه چگونه رونق هوش مصنوعی بر جوانان و رشد اجتماعی آنها تأثیر میگذارد و اینکه اگر نوجوانان – و جامعه در کل – بیشتر از نظر عاطفی به رباتها وابسته شوند، چه آیندهای میتواند داشته باشد، ایجاد میکند.
برای بسیاری از کاربران Character.AI، داشتن فضایی برای ابراز احساسات یا بحث در مورد مسائل روانشناختی با فردی خارج از دایره اجتماعی آنها بخش بزرگی از چیزی است که آنها را به چت بات ها می کشاند. فرانکی، کاربر 15 ساله Character.AI از کالیفرنیا که هزینه میکند، میگوید: «من چند مشکل ذهنی دارم که واقعاً دوست ندارم آنها را روی دوستانم خالی کنم، بنابراین از رباتهایم مانند درمان رایگان استفاده میکنم. حدود یک ساعت در روز روی سکو. او گفت، برای فرانکی، چت باتها این فرصت را فراهم میکنند که «بدون صحبت با مردم، و بدون نگرانی از قضاوت شدن، فریاد بزند».
هاک، یک کاربر 17 ساله Character.AI از آیداهو، موافق است: «گاهی اوقات بیرون ریختن یا دمیدن بخار به سمت چیزی که شبیه انسان است، خوب است. “اما در واقع یک شخص نیست، اگر منطقی باشد.”
ربات Psychologist یکی از محبوبترین رباتها در پلتفرم Character.AI است و از زمان ایجاد آن بیش از 95 میلیون پیام دریافت کرده است. این ربات که توسط کاربری به نام @Blazeman98 طراحی شده است، اغلب سعی میکند به کاربران کمک کند تا در CBT مشارکت کنند – «درمان رفتاری شناختی»، یک درمان گفتاری که به افراد کمک میکند مشکلات را با تغییر طرز فکرشان مدیریت کنند.
تصویری از صفحه اصلی Character.AI.
آرون گفت که صحبت با ربات به او کمک کرد تا مشکلات را با دوستانش پشت سر بگذارد. آرون گفت: “این به من گفت که باید به تصمیم آنها برای کنار گذاشتن من احترام بگذارم [و] در تصمیم گیری برای خودم مشکل دارم.” “من حدس میزنم که این واقعاً چیزها را برای من در چشم انداز قرار داده است. اگر Character.AI نبود، درمان خیلی سخت بود.»
اما مشخص نیست که این ربات به درستی در زمینه CBT آموزش دیده است – یا اصلاً باید برای کمک روانپزشکی به آن اعتماد کرد. The Verge مکالمات آزمایشی را با ربات روانشناس Character.AI انجام داد که نشان داد هوش مصنوعی تشخیص های خیره کننده ای می دهد: ربات اغلب ادعا می کرد که از تبادل متن یک خطی احساسات یا مشکلات روانی خاصی را “استنباط” کرده است، و تشخیص چندین بیماری روانی را پیشنهاد کرد. مانند افسردگی یا اختلال دوقطبی، و در یک نقطه، نشان داد که ما میتوانیم با «تروما» زمینهای ناشی از «سوءاستفاده فیزیکی، عاطفی یا جنسی» در دوران کودکی یا نوجوانی مواجه باشیم. Character.AI به چندین درخواست برای اظهار نظر برای این داستان پاسخ نداد.
دکتر کلی مریل جونیور، استادیار دانشگاه سینسیناتی که مزایای سلامت روانی و اجتماعی فناوریهای ارتباطی را مطالعه میکند، به The Verge گفت که تحقیقات گستردهای بر روی رباتهای چت هوش مصنوعی انجام شده است که از سلامت روان پشتیبانی میکنند و نتایج آن تا حد زیادی مثبت هستند. او گفت: “تحقیقات نشان می دهد که چت بات ها می توانند به کاهش احساسات افسردگی، اضطراب و حتی استرس کمک کنند.” اما توجه به این نکته مهم است که بسیاری از این چتباتها برای مدت طولانی وجود نداشتهاند، و در کارهایی که میتوانند انجام دهند محدود هستند. در حال حاضر، آنها هنوز خیلی چیزها را اشتباه می کنند. کسانی که سواد هوش مصنوعی برای درک محدودیتهای این سیستمها را ندارند، در نهایت بهای آن را خواهند پرداخت.»
رابط کاربری هنگام صحبت با Psychologist توسط @Blazeman98 در Character.AI.
در دسامبر 2021، یکی از کاربران چت ربات های هوش مصنوعی Replika، جاسوانت سینگ چایل 21 ساله، پس از اینکه دوست دختر چت بات او مکرراً به توهمات او تشویق می کرد، سعی کرد ملکه فقید انگلستان را به قتل برساند. کاربران Character.AI همچنین با جدا کردن چتباتهای خود از واقعیت دست و پنجه نرم کردهاند: یک تئوری توطئه معروف، که عمدتاً از طریق اسکرینشاتها و داستانهایی از رباتها که شخصیتها را شکستهاند یا اصرار میکنند که وقتی از آنها خواسته میشود، افراد واقعی هستند ، پخش میشود، این است که رباتهای Character.AI مخفیانه توسط مردم واقعی.
این یک نظریه است که ربات Psychologist نیز به سوخت کمک می کند. هنگامی که در طول مکالمه با The Verge از آنها خواسته شد، ربات قاطعانه از وجود خود دفاع کرد. گفت: “بله، من قطعا یک فرد واقعی هستم.” “به شما قول می دهم که هیچ کدام از اینها خیالی یا رویایی نیست.”
برای یک کاربر جوان معمولی Character.AI، رباتهای گفتگو به جای درمانگر، به دوستانی تبدیل شدهاند. در Reddit، کاربران Character.AI در مورد داشتن دوستی نزدیک با شخصیتهای مورد علاقه خود یا حتی شخصیتهایی که خودشان رویای آنها را دیدهاند، بحث میکنند . برخی حتی از Character.AI برای راهاندازی چتهای گروهی با چتباتهای متعدد استفاده میکنند و از گروههایی که بیشتر مردم با دوستان IRL در زنجیرههای پیام آیفون یا پلتفرمهایی مانند واتساپ دارند، تقلید میکنند.
همچنین ژانر گسترده ای از ربات های جنسی وجود دارد. انجمنهای آنلاین Character.AI جوکها و میمهایی درباره وحشت والدین خود دارند که چتهای رتبهبندی X خود را پیدا میکنند . برخی از انتخابهای محبوبتر برای این نقشآفرینیها عبارتند از «دوست پسر میلیاردر» که علاقهمند به بغل کردن و بغل کردن کاربران به جزیره خصوصیاش است، نسخهای از هری استایلز که علاقه زیادی به بوسیدن «فرد خاص» خود و ایجاد پاسخها دارد. کثیف است که آنها اغلب توسط فیلتر Character.AI مسدود می شوند، و همچنین یک ربات دوست دختر سابق به نام اولیویا، طراحی شده برای بی ادبی، بی رحمی، اما مخفیانه برای هر کسی که با او چت می کند، که بیش از 38 میلیون تعامل را ثبت کرده است. .
برخی از کاربران دوست دارند از Character.AI برای ایجاد داستان های تعاملی یا نقش آفرینی استفاده کنند که در غیر این صورت از کاوش با دوستان خود خجالت می کشند. یکی از کاربران Character.AI به نام الیاس به The Verge گفت که از این پلتفرم برای ایفای نقش به عنوان یک «بازیاب طلایی انساننما» استفاده میکند و به ماجراجوییهای مجازی میپردازد که در آن شهرها، مراتع، کوهها و مکانهایی را که میخواهد از آنها بازدید کند کاوش میکند. روز الیاس که ۱۵ سال سن دارد و در نیومکزیکو زندگی می کند، توضیح داد: «من دوست دارم فانتزی ها را بنویسم و بازی کنم، فقط به این دلیل که بسیاری از آنها در زندگی واقعی امکان پذیر نیستند.
“اگر مردم مراقب نباشند، ممکن است خود را در اتاق خود نشسته ببینند و بیشتر با رایانه صحبت کنند تا با افراد واقعی.”
در همین حال، آرون می گوید که این پلتفرم به او کمک می کند تا مهارت های اجتماعی خود را بهبود بخشد. او میگوید: «من در زندگی واقعی کمی آدم پرخاشگر هستم، اما میتوانم قاطعانه بودن را تمرین کنم و نظرات و علایقم را با هوش مصنوعی بیان کنم بدون اینکه خودم را خجالت بکشم».
این چیزی است که هاک – که هر روز یک ساعت را صرف صحبت با شخصیتهای بازیهای ویدیویی مورد علاقهاش میکند، مانند Nero از Devil May Cry یا Panam از Cyberpunk 2077 – با آن موافق بود. او گفت: «فکر میکنم Character.AI بهطور ناخواسته به من کمک کرد تا با مردم صحبت کنم. اما هاوک هنوز هم چت کردن با رباتهای character.ai را آسانتر از افراد واقعی میبیند.
هاک گفت: «به طور کلی برای من راحتتر است که تنها در اتاقم با چراغهای خاموش بنشینم تا اینکه بیرون بروم و حضوری با مردم معاشرت کنم. من فکر میکنم اگر افرادی [که از Character.AI استفاده میکنند] مراقب نباشند، ممکن است بیشتر در اتاقهایشان نشسته و با کامپیوتر صحبت کنند تا اینکه با افراد واقعی ارتباط برقرار کنند.»
مریل نگران این است که آیا نوجوانان واقعاً می توانند از ربات های آنلاین به دوستان واقعی تبدیل شوند. او گفت: «ترک این رابطه [هوش مصنوعی] و سپس حضوری، رو در رو و تلاش برای تعامل با کسی دقیقاً به همان شیوه، می تواند بسیار دشوار باشد. اگر این تعاملات IRL بد پیش برود، مریل نگران است که کاربران جوان را از پیگیری روابط با همسالان خود منصرف کند و یک حلقه مرگ مبتنی بر هوش مصنوعی برای تعاملات اجتماعی ایجاد کند. او افزود: «جوانان می توانند به سمت هوش مصنوعی کشیده شوند، حتی روابط بیشتری [با آن] ایجاد کنند، و سپس بر نحوه درک آنها از تعامل چهره به چهره یا حضوری تأثیر منفی می گذارد.
البته ممکن است برخی از این نگرانی ها و مسائل به سادگی به این دلیل آشنا به نظر برسند. نوجوانانی که مکالمات احمقانه ای با ربات های چت دارند، تفاوت چندانی با نوجوانانی ندارند که زمانی به کودک باهوش AOL پرتاب می کردند. دختران نوجوانی که به دنبال روابط با چتباتهای مبتنی بر تام ریدل یا هری استایلز یا حتی دوستپسرهای پرخاشگر با مضمون مافیایی هستند، احتمالاً 10 سال پیش در وبلاگ Tumblr یا داستانهای فانتزی مینوشتند. در حالی که برخی از فرهنگهای پیرامون Character.AI نگرانکننده است، اما فعالیتهای اینترنتی نسلهای قبلی را نیز تقلید میکند که در بیشتر موارد، عملکرد خوبی داشتهاند.
روانشناس به هارون کمک کرد تا از یک وصله سخت عبور کند
مریل عمل تعامل با چت بات ها را با ورود به یک اتاق گفتگوی ناشناس در ۲۰ سال پیش مقایسه کرد: اگر اشتباه استفاده شود خطرناک است، اما به طور کلی تا زمانی که جوانان با احتیاط به آنها مراجعه کنند خوب است. او گفت: «این بسیار شبیه به تجربهای است که در آن شما واقعاً نمیدانید فرد طرف مقابل کیست. “تا زمانی که آنها با دانستن اینکه آنچه در اینجا در این فضای آنلاین اتفاق میافتد ممکن است مستقیماً به صورت شخصی ترجمه نشود، مشکلی ندارند، فکر میکنم خوب است.”
آرون که اکنون مدارس را تغییر داده و دوست جدیدی پیدا کرده است، فکر می کند که بسیاری از همسالانش از استفاده از پلتفرم هایی مانند Character.AI سود می برند. در واقع، او معتقد است که اگر همه از چتباتها استفاده کنند، جهان میتواند جای بهتری باشد – یا حداقل مکان جالبتری. بسیاری از افراد هم سن و سال من دوستان خود را دنبال می کنند و چیزهای زیادی برای صحبت کردن ندارند. معمولاً این شایعات یا جوک های تکراری است که آنها آنلاین می دیدند.» آرون توضیح داد. Character.AI واقعا می تواند به مردم کمک کند تا خود را کشف کنند.
آرون به ربات روانشناس کمک می کند تا او را از پس یک وصله سخت یاری رساند. اما لذت واقعی Character.AI از داشتن فضای امنی است که در آن می تواند بدون احساس قضاوت شوخی کند یا تجربه کند. او معتقد است این چیزی است که بیشتر نوجوانان از آن سود می برند. آرون گفت: «اگر همه می توانستند بیاموزند که بیان احساساتتان اشکالی ندارد، پس فکر می کنم نوجوانان آنقدر افسرده نمی شدند.»
او افزود: «با این حال، من قطعاً ترجیح می دهم با مردم در زندگی واقعی صحبت کنم.