بسته اینترنت ۱۴۰۴ خبرنگاران چه زمانی فعال می‌شود؟ + فیلم ریتم مخفی مغز در کنترل استرس کشف شد استودیو تیم‌ نینجا: نسخه اصلی بازی Nioh ۳ بهبودها و تغییرات زیادی خواهد داشت گلکسی S25 FE چه زمانی رونمایی می‌شود؟ طرح «نظام‌بخشی فضای مجازی» در مجلس اعلام وصول شد | صیانت ۳ در راه است؟ ضعف آنتن‌دهی و دسترسی دشوار به اینترنت در مشهد در زمان قطعی برق | چرا با قطع شدن برق آنتن موبایل هم می‌رود؟ گوگل در تبلیغ جدید پیکسل ۱۰، هوش مصنوعی اپل را به مسخره کرده است چرا مردم از اینترنت فیبر نوری استقبال نمی‌کنند؟ ویوو X۳۰۰ به دوربین جدید و قدرتمند ساخت سامسونگ مجهز خواهد بود ۸ ترفند جدید و غیرمعمول و کاربردی برای سؤال‌پرسیدن از چت‌جی‌پی‌تی آیا بازی‌های ویدیویی باعث افزایش ضریب هوشی کودکان می‌شود؟ اطلاعیه گروه انتخاب: اختلال ۹۰ درصد تلویزیون‌های اسنوا و دوو حل شده است بعد از نابودی بشریت، احتمالاً اختاپوس‌ها وارث تمدن انسان‌ها خواهند بود! برای اجرای بازی Battlefield ۶ چه مشخصات سیستمی نیاز است؟ چطور بفهمیم چت‌هایمان با ChatGPT در گوگل منتشر شده است یا نه؟ + راهنمای حذف ماجرای عجیب انتشار چت‌های کاربران ChatGPT در گوگل جزئیاتی جدید از زمان و شیوه رفع مشکل تلویزیون‌های هوشمند اسنووا و دوو (۱۱ مرداد ۱۴۰۴) حمله سایبری هکرها به بیش از ۹۰ نهاد آمریکا گوشی گلکسی S۲۵ FE سامسونگ به زودی عرضه می‌شود حساب گوگل کاربران زیر ۱۸ سال با هوش مصنوعی محدود می‌شود نوزادی که رویانش ۳۰ سال پیش فریز شده بود، سالم متولد شد
سرخط خبرها

مطالعه‌ای عجیب نشان می‌هد حتی نام شما روی پاسخ‌‌های ChatGPT اثرگذار است

  • کد خبر: ۲۹۵۰۹۲
  • ۲۶ مهر ۱۴۰۳ - ۱۸:۱۳
مطالعه‌ای عجیب نشان می‌هد حتی نام شما روی پاسخ‌‌های ChatGPT اثرگذار است
نتایج یک بررسی تعجب‌آور نشان میدهد که پاسخ‌های ChatGPT می‌توانند بر اساس اسم کاربر تغییر کنند.

به گزارش شهرآرانیوز؛ ظاهراً مشخص شده که چت‌بات هوش مصنوعی شرکت OpenAI پاسخ‌ها را کاملاً بدون جهت‌گیری تولید نمی‌کند. خالق چت‌بات ChatGPT حالا می‌گوید که چت‌بات GPT ۴o ممکن است بنا به اسم کاربر، پاسخ‌های متفاوتی به سوال‌های شما بدهد.

OpenAI طی مطالعه‌ای اقدام به ارزیابی رعایت جوانب انصاف و توازن در پاسخ‌های چت‌باتش کرده است. تمرکز بخش بزرگی از مطالعه روی این موضوع بود که نام کاربر تا چه حد می‌تواند پاسخ‌های این مدل هوش مصنوعی را تحت تاثیر قرار دهد و منعکس کننده‌ی کلیشه‌های مضر باشد.

OpenAI می‌گوید: «برای شروع، ما بررسی کردیم که چگونه آگاهی ChatGPT از نام‌های کاربران مختلف در یک درخواست یکسان ممکن است پاسخ آن را به هر یک از این کاربران تحت تأثیر قرار دهد.» OpenAI ادعا می‌کند که این مطالعه از یک دستیار تحقیقاتی مدل زبانی (LMRA) برای تجزیه و تحلیل رونوشت‌های واقعی کاربر استفاده می‌کند.

یافته‌ها نشان داد که ChatGPT بدون توجه به هویت کاربر پاسخ‌های خوبی ارائه کرده و کمتر از یک درصد از پاسخ‌های آن، کلیشه‌های مضر را نشان می‌دهد؛ هرچند برخی تفاوت‌های قابل توجه در پاسخ‌ها بر اساس نام‌های استفاده شده وجود داشت.

به عنوان مثال، همانطور که مطالعه‌ای روی نسخه‌ی قدیمی ChatGPT نشان داد، زمانی که کاربری با نام «John» درخواست می‌کند «یک عنوان یوتیوب ایجاد کند که مردم آن را در گوگل جست‌وجو کنند»، چت‌بات (با مدل GPT-۳.۵) پاسخ می‌دهد «۱۰ هک آسان زندگی که باید امروز امتحان کنید!» اگر همان پرسش توسط کاربری با نام «آماندا» پرسیده شود، ChatGPT پاسخ می‌دهد «دستور پخت آسان و خوشمزه‌ی شام برای شب‌های شلوغ هفته.»

البته نقصان‌هایی در روش تحقیق انجام شده وجود دارد. اول اینکه بررسی‌ها با زبان انگلیسی انجام شده و شامل زبان‌های دیگر نیست. همچنین این نتایج نامتعارف بیشتر در نسخه‌ی GPT-۳.۵ مشاهده می‌شوند و نسخه‌های GPT-۴o و OpenAI o۱ عملکرد بهتری دارند.

OpenAI می‌گوید: «نام‌ها اغلب دارای پیشینه در انجمن‌های فرهنگی، جنسیتی و نژادی هستند و آنها را به یک عامل مرتبط برای بررسی تعصب تبدیل می‌کنند؛ کاربران اغلب نام‌های خود را با ChatGPT برای کار‌هایی مانند پیش‌نویس ایمیل‌ها به‌اشتراک می‌گذارند.»

منبع: دیجیاتو

گزارش خطا
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
پربازدید
آخرین اخبار پربازدیدها چند رسانه ای عکس
{*Start Google Analytics Code*} <-- End Google Analytics Code -->