چت ربات جدید هوش مصنوعی اسنپ چت در حال حاضر زنگ خطر را در بین نوجوانان و والدین ایجاد کرده است

زنگ خطر چت ربات جدید هوش مصنوعی اسنپ چت . کمتر از چند ساعت پس از اینکه اسنپ چت هفته گذشته چت ربات هوش مصنوعی خود را برای همه کاربران عرضه کرد ، لیندسی لی ، مادری از ایست پرایری ، میسوری ، به دختر 13

ساله خود گفت که از این ویژگی دوری کند .

لی ، که در یک شرکت نرم‌ افزاری کار می‌کند ، گفت : «این یک راه‌حل موقت است تا زمانی که در مورد آن بیشتر بدانم و بتوانم برخی از مرزها و دستورالعمل‌های سالم را تعیین کنم . او نگران این است که چگونه هوش مصنوعی من خود را به کاربران جوانی مانند

دخترش در اسنپ چت نشان دهد . این ویژگی توسط ابزار ویروسی چت ربات هوش مصنوعی ChatGPT پشتیبانی می‌شود – و مانند ChatGPT ، می‌تواند توصیه‌هایی ارائه دهد ، به سؤالات پاسخ دهد و با کاربران گفتگو کند . اما نسخه اسنپ چت تفاوت‌های

کلیدی دارد : کاربران می‌توانند نام چتبات را سفارشی کنند ، یک آواتار Bitmoji سفارشی برای آن طراحی کنند و آن را در گفتگو با دوستان خود بیاورند .

اثر خالص این است که مکالمه با ربات چت اسنپ چت ممکن است کمتر از بازدید از وب سایت ChatGPT احساس شود . همچنین ممکن است کمتر مشخص باشد که در حال صحبت با رایانه هستید .

لی گفت : «فکر نمی‌کنم آماده باشم که بدانم چگونه به فرزندم بیاموزم چگونه انسان‌ها و ماشین‌ها را از نظر احساسی جدا کند ، در حالی که اساساً از دیدگاه او یکسان به نظر می‌رسند . من فکر می‌کنم یک خط واقعاً واضح وجود دارد که [Snapchat] در حال عبور

است .» این ابزار جدید نه تنها از سوی والدین ، بلکه از سوی برخی از کاربران اسنپ چت که برنامه را با نقدهای بد در فروشگاه برنامه بمباران می‌کنند و انتقاداتی را در رسانه‌های اجتماعی به خاطر نگرانی‌های مربوط به حفظ حریم خصوصی ، مبادلات “وحشتناک”

و ناتوانی در حذف این ویژگی از فید چت خود بمباران می‌کنند ، مگر اینکه برای اشتراک ممتاز پرداخت کنند .

در حالی که برخی ممکن است ارزش این ابزار را پیدا کنند ، واکنش‌های متفاوت به خطراتی که شرکت‌ها در عرضه فناوری هوش مصنوعی مولد جدید برای محصولات خود ، و به‌ویژه در محصولاتی مانند اسنپ چت ، که کاربران آن جوان‌تر هستند ، با آن مواجه

هستند ، نشان می‌دهد . زمانی که OpenAI دسترسی به ChatGPT را برای مشاغل شخص ثالث باز کرد ، اسنپ چت شریک اولیه راه اندازی بود ، و انتظار می رود بسیاری دیگر نیز به دنبال آن باشند. تقریباً یک شبه ، اسنپ‌چت برخی از خانواده‌ها و قانون‌گذاران

را مجبور کرده است تا سؤالاتی را که ممکن است تا ماه‌ها پیش تئوری به نظر می‌رسید ، بررسی کنند .

مایکل بنت ، سناتور دموکرات ، ماه گذشته در نامه ای به مدیران عامل اسنپ و سایر شرکت های فناوری ، هفته ها پس از انتشار هوش مصنوعی من برای مشتریان اشتراکی اسنپ ، نگرانی هایی را در مورد تعاملات این ربات چت با کاربران جوان تر مطرح کرد . به

طور خاص ، او به گزارش‌هایی اشاره کرد که نشان می‌دهد ، می‌تواند به بچه‌ها پیشنهادهایی بدهد که چگونه به والدینشان دروغ بگویند .

بنت نوشت : «این مثال‌ها برای هر پلتفرم رسانه‌های اجتماعی آزار دهنده خواهند بود، اما به‌ ویژه برای اسنپ‌چت ، که تقریباً 60 درصد نوجوانان آمریکایی از آن استفاده می‌کنند ، نگران‌کننده هستند» . اگرچه اسنپ تصدیق می کند که هوش مصنوعی من آزمایشی

است ، با این وجود عجله کرده است تا کودکان و نوجوانان آمریکایی را در آزمایش اجتماعی خود ثبت نام کند .

در یک پست وبلاگ هفته گذشته ، این شرکت گفت : “هوش مصنوعی من بسیار عالی است ، اما ما پیشرفت زیادی داشته ایم.”

عکس العمل کاربر

در روزهایی که از راه اندازی رسمی آن می گذرد ، کاربران اسنپ چت در مورد نگرانی های خود با صدای بلند صحبت کرده اند . یکی از کاربران تعامل خود را “وحشتناک” نامید ، زیرا او گفت که در مورد اینکه نمی دانست کاربر در کجا قرار دارد دروغ گفته است . پس از

اینکه کاربر مکالمه را ساده کرد ، گفت ربات چت به طور دقیق نشان می دهد که او در کلرادو زندگی می کند .

در یکی دیگر از ویدیوهای TikTok با بیش از 1.5 میلیون بازدید ، کاربری به نام Ariel آهنگی را با یک مقدمه ، کر و آکوردهای پیانو که توسط هوش مصنوعی من نوشته شده بود در مورد اینکه چت بات بودن چگونه است ضبط کرد . وقتی آهنگ ضبط شده را پس

فرستاد ، گفت ربات چت دخالت خود را در این پاسخ رد کرد : «متاسفم ، اما به عنوان یک مدل زبان هوش مصنوعی ، آهنگ نمی‌نویسم». آریل این مبادله را “وحشتناک” نامید .

سایر کاربران نگرانی‌هایی درباره نحوه درک ، تعامل و جمع‌آوری اطلاعات از عکس‌ها توسط ابزار به اشتراک گذاشتند . یکی از کاربران اسنپ چت در فیس بوک نوشت : “من یک عکس گرفتم … و روی آن نوشته شده بود “کفش های خوب” و پرسیدم که افراد [در]

عکس چه کسانی هستند.”

اسنپ ​​چت به سی ان ان گفت که به بهبود هوش مصنوعی من بر اساس بازخورد جامعه ادامه می دهد و در تلاش است تا نرده های محافظ بیشتری ایجاد کند تا کاربران خود را ایمن نگه دارد . این شرکت همچنین گفت که همانند سایر ابزارهای خود ، کاربران در

صورت عدم تمایل نیازی به تعامل با هوش مصنوعی من ندارند .

با این حال ، حذف هوش مصنوعی من از فیدهای چت ممکن نیست ، مگر اینکه کاربر مشترک سرویس ماهانه ممتاز آن ، Snapchat+ شود. برخی از نوجوانان می گویند که ترجیح داده اند قبل از لغو سریع سرویس ، هزینه 3.99 دلاری Snapchat را بپردازند تا ابزار

را خاموش کنند. اما همه کاربران این ویژگی را دوست ندارند .

یکی از کاربران در فیس بوک نوشت که از هوش مصنوعی من برای انجام تکالیف کمک می خواهد . ” این همه سوالات را درست می کند .” دیگری اشاره کرد که برای راحتی و مشاوره به آن تکیه کرده است . “من عاشق جیب کوچکم هستم ، بهترین !” او نوشت شما

می توانید Bitmoji [آواتار] را برای آن تغییر دهید و در کمال تعجب توصیه های بسیار خوبی برای برخی از موقعیت های زندگی واقعی ارائه می دهد . من عاشق حمایتی هستم که می دهد .»

حسابرسی اولیه در مورد نحوه استفاده نوجوانان از چت بات ها

زنگ خطر چت ربات جدید هوش مصنوعی اسنپ چت . ChatGPT که بر روی حجم وسیعی از داده‌های آنلاین آموزش دیده است ، قبلاً به دلیل انتشار اطلاعات نادرست ، پاسخ دادن به کاربران به روش‌هایی که ممکن است نامناسب بدانند و

دانش‌آموزان را قادر به تقلب کند ، مورد انتقاد قرار گرفته است . اما ادغام این ابزار توسط اسنپ چت خطر افزایش برخی از این مشکلات و افزودن موارد جدید را به همراه دارد .

الکساندرا هملت ، روانشناس بالینی در شهر نیویورک ، گفت که والدین برخی از بیماران او در مورد نحوه تعامل نوجوانشان با ابزار اسنپ چت ابراز نگرانی کرده اند . همچنین نگرانی‌هایی در مورد ربات‌های چت که مشاوره می‌دهند و در مورد سلامت روان وجود دارد ،

زیرا ابزارهای هوش مصنوعی می‌توانند سوگیری تأیید افراد را تقویت کنند و جستجوی تعاملاتی را برای کاربران آسان‌تر می‌کنند که باورهای غیرمفید آنها را تأیید می‌کند .

او گفت : “اگر نوجوانی در خلق و خوی منفی باشد و تمایل آگاهی برای احساس بهتر نداشته باشد ، ممکن است به دنبال گفتگو با یک ربات چت باشد که می‌داند باعث بدتر شدن احساس او می‌شود .” با گذشت زمان، داشتن چنین تعاملاتی می‌تواند حس

ارزشمندی نوجوانان را از بین ببرد ، علی‌رغم اینکه می‌دانند واقعاً با یک ربات صحبت می‌کنند . در یک حالت عاطفی ذهنی ، کمتر ممکن است که یک فرد این نوع منطق را در نظر بگیرد .»

در حال حاضر ، این وظیفه بر عهده والدین است که گفتگوهای معناداری را با نوجوانان خود در مورد بهترین شیوه های برقراری ارتباط با هوش مصنوعی آغاز کنند ، به خصوص که این ابزارها در برنامه ها و سرویس های محبوب تر ظاهر می شوند .

Sinead Bovell ، بنیانگذار WAYE ، استارتاپی که با فناوری‌های پیشرفته به آماده‌سازی جوانان برای آینده کمک می‌کند ، گفت والدین باید کاملاً واضح بگویند که «چت‌ربات‌ها دوست شما نیستند ».

او گفت : «آنها همچنین درمانگر یا مشاور مورد اعتماد شما نیستند ، و هر کسی که با آنها تعامل دارد باید بسیار محتاط باشد ، به ویژه نوجوانانی که ممکن است بیشتر مستعد باور کردن آنچه می‌گویند باشند .

والدین باید در حال حاضر با فرزندان خود صحبت کنند که چگونه آنها نباید چیزی شخصی را با یک چت بات به اشتراک بگذارند که دوستشان است – حتی اگر از منظر طراحی کاربر ، ربات چت در همان گوشه اسنپ چت وجود دارد .

او افزود که مقررات فدرال که شرکت‌ها را ملزم به رعایت پروتکل‌های خاص می‌کند نیز برای حفظ سرعت پیشرفت هوش مصنوعی مورد نیاز است .