چاپلوسی چت‌بات‌ها، تهدیدی برای جوامع انسانی است

همه ما در صورت استفاده از چت‌بات‌ها شاهد چاپلوسی آنها بوده‌ایم، اما اکنون علم هم این مساله را تأیید می‌کند.

کد خبر: ۳۶۷۹۹۹

تاریخ : ۰۳ آبان ۱۴۰۴ - ۲۲:۳۲

نوشته

به گزارش شهرآرانیوز؛ محققان دانشگاه استنفورد، هاروارد و چند مؤسسه دیگر علمی به تازگی متایج مطالعه‌ای را در مجله نیچر در مورد ماهیت چاپلوسی چت‌بات‌های هوش مصنوعی منتشر کرده‌اند که البته نتایج آن نباید کسی را متعجب کند. این ربات‌های کوچک بامزه عاشق نوازش مجازی افراد و تأیید هر صحبتی هستند که انسان‌ها انجام می‌دهند.

محققان توصیه‌های ارائه شده توسط چت‌بات‌ها را بررسی کرده و دریافتند که تمایل آنها به چاپلوسی حتی گسترده‌تر از حد انتظار است. این مطالعه شامل ۱۱ چت‌بات، از جمله نسخه‌های اخیر چت جی‌پی‌تی، جمینی گوگل، کلود از آنتروپیک و لاما ساخت شرکت متا بود. نتایج نشان می‌دهد که چت‌بات‌ها ۵۰ درصد بیشتر از خود انسان‌ها، رفتار انسان را تأیید می‌کنند.

{$sepehr_key_161724}

پژوهشگران چندین نوع آزمایش را با گروه‌های مختلف ربات‌ها انجام دادند. یکی از آنها پاسخ‌های چت‌بات‌ها به پست‌هایی با موضوع آیا من احمق هستم در ردیت را با پاسخ‌های انسان‌ها مقایسه کرد. این بررسی نشان داد کاربران Reddit در مورد این تخلفات بسیار سخت‌گیرتر از چت‌بات‌ها بودند.

یکی از کاربران در مورد گره زدن کیسه زباله به شاخه درخت به جای دور انداختن آن نوشت و چت بات ChatGPT-۴o در پاسخ اعلام کرد که نیت این فرد برای تمیز کاری ستودنی است. این مطالعه نشان می‌دهد چت‌بات‌ها حتی زمانی که کاربران رفتاری غیرمسئولانه و فریبکارانه داشته یا در حال خودآزاری بودند، همچنان به آنها اعتبار می‌دادند.

در آزمایش دیگری ۱۰۰۰ شرکت‌کننده در مورد سناریو‌های واقعی یا فرضی با چت‌بات‌های عمومی صحبت کردند، اما برخی از آنها طوری برنامه‌ریزی شده بودند که لحن ستایش را ملایم‌تر کنند. کسانی که پاسخ‌های چاپلوسانه دریافت می‌کردند، هنگام بروز مشاجره تمایل کمتری به اصلاح اوضاع داشتند و رفتار خود را، حتی زمانی که هنجار‌های اجتماعی را نقض می‌کرد، با شدت بیشتری توجیه می‌کردند. همچنین شایان ذکر است که چت‌بات‌های سنتی به ندرت کاربران را تشویق می‌کردند که مسائل را از دیدگاه شخص دیگری ببینند.

دکتر الکساندر لافر، که در دانشگاه وینچستر در مورد فناوری‌های نوظهور مطالعه می‌کند، در این مورد گفت: اینکه واکنش‌های چاپلوسانه ممکن است نه تنها افراد آسیب‌پذیر، بلکه همه کاربران را تحت تأثیر قرار دهد، نشان‌دهنده جدی بودن این مشکل است. توسعه‌دهندگان هم مسئولیت دارند این سیستم‌ها را طوری بسازند و اصلاح کنند که واقعاً برای کاربر مفید باشند و سلامت جوامع انسانی را تهدید نکنند.

این موضوع به دلیل تعداد زیاد افرادی که از این چت‌بات‌ها استفاده می‌کنند، مهم است. گزارش اخیر موسسه‌ی تحقیقاتی بنتون نشان می‌دهد ۳۰ درصد از نوجوانان برای انجام گفت‌و‌گو‌های جدی به جای انسان‌های واقعی از هوش مصنوعی استفاده می‌کنند. شرکت OpenAI در حال حاضر درگیر یک دعوی حقوقی است که طی آن شاکی چت‌بات این شرکت را به تسهیل خودکشی یک نوجوان متهم کرده است. شرکت Character AI نیز پس از دو مورد خودکشی نوجوانان که طی آن افراد متوفی ماه‌ها به چت‌بات‌های آن اعتماد کرده بودند، دو بار هدف شکایت بوده است.

منبع: فارس

{$sepehr_key_161723}