اطلاعات فصل هشتم کالاف دیوتی موبایل ۲۰۲۵ + معرفی گان و آیتم‌های جدید اعتراض کارمندان مایکروسافت به رابطه با اسرائیل و اخراج ۲ نفر از آن‌ها جمع کردن زباله، وظیفه جدید گارد ملی آمریکا در واشنگتن! FDA به ایمپلنتی که روماتیسم مفصلی را درمان می‌کند تاییدیه داد OpenAI مکالمات کاربران با ChatGPT را به پلیس می‌دهد توضیحات رئیس شورای اطلاع‌رسانی دولت درباره آخرین وضعیت رفع فیلتر تلگرام + فیلم ناتینگ از تصاویر عکاسان حرفه‌ای به‌جای نمونه دوربین فون ۳ استفاده کرده است ریلمی از دو گوشی هوشمند عجیب رونمایی کرد: یکی با باتری ۱۵۰۰۰ میلی‌آمپرساعتی و دیگری با کولر! درخشش نخبه مشهدی در المپیاد جهانی نجوم | ارشیا میرشمسی با مدال طلا به شهرش بازگشت پیش‌بینی‌های هواشناسی چطور تهیه می‌شوند؟ + عکس معترض‌ترین کاربر اینترنت! یک تست جدید مبتنی بر گوشی هوشمند خطر ابتلا به دیابت را در ۱۰ دقیقه تشخیص می‌دهد تبلت گلکسی تب S10 لایت رونمایی شد + مشخصات و قیمت رئیس سابق طراحی گوگل می‌گوید همه شرکت‌های بزرگ درباره آینده اشتباه می‌کنند گزارش‌هایی از یک ویژگی جذاب در آیفون ۱۷ پرو: شارژ بی‌سیم ایرپاد و اپل واچ با گوشی مسائل مهم در هنگام خرید سیم کارت اختلال GPS چقدر به اقتصاد کشور خسارت زده است؟ تصویر گوشی ریلمی 15T لو رفت + مشخصات دانشمندان دستگاهی ساخته‌اند که گفتار درونی افراد را به صوت تبدیل می‌کند گوگل دیگر تبلت نمی‌سازد احتمال حضور هوش مصنوعی جمینای در نسخه بعدی سیری
سرخط خبرها

محققان می‌گویند هوش مصنوعی یاد گرفته‌ چطور انسان‌ها را فریب دهد

  • کد خبر: ۲۲۷۷۷۵
  • ۲۴ ارديبهشت ۱۴۰۳ - ۲۰:۴۰
محققان می‌گویند هوش مصنوعی یاد گرفته‌ چطور انسان‌ها را فریب دهد
یک پژوهش جدید نشان داده است که سیستم‌های هوش مصنوعی مختلف فریب‌دادن انسان را یاد گرفته‌اند.

به گزارش شهرآرانیوز - مدل‌های مختلف هوش مصنوعی می‌توانند به‌صورت سیستماتیک باور‌های نادرستی به کاربر بدهند. این امر می‌تواند در آینده خطرات متعددی را به‌همراه داشته باشد.

براساس گزارش اینسایدر و مقاله منتشرشده در Cell، برخی از سیستم‌های هوش مصنوعی تکنیک‌هایی را یاد گرفته‌اند که از آن برای «القای سیستماتیک باور‌های نادرست در دیگران» استفاده می‌کنند.

محققان MIT در پژوهش خود روی دو مدل هوش مصنوعی متمرکز شدند: مدل سیسرو (CICERO) متا که در یک حوزه مشخص کاربرد دارد و مدل GPT-۴ که ​​برای انجام طیف متنوعی از کار‌ها آموزش دیده است.

مدل‌های آموزش مصنوعی بر مبنای صداقت آموزش می‌بینند، اما اغلب در فرایند آموزش، ترفند‌های فریبنده را نیز یاد می‌گیرند. محققان می‌گویند هوش مصنوعی از این ترفند‌ها استفاده می‌کند تا بهتر بتواند به هدف خود برسد. به‌زعم محققان، استراتژی مبتنی بر فریب می‌تواند بهترین راه برای داشتن عملکرد خوب در انجام کار‌های مختلف در هوش مصنوعی باشد.

محققان می‌گویند هوش مصنوعی یاد گرفته‌ چطور انسان‌ها را فریب دهد

فریبکاری و خیانت هوش مصنوعی سیسرو در بازی «دیپلماسی»

متا گفته بود که هوش مصنوعی CICERO را به‌نحوی آموزش داده که تا حد زیادی صادقانه عمل کند، اما این پژوهش نشان داد که CICERO در دروغ‌گویی تبحر دارد. این مدل برای کمک به بازیکنان انسانی در بازی «Diplomacy» ساخته شده، اگرچه این هوش مصنوعی نباید متحدان انسانی خود را در این بازی فریب دهد یا به آنها خیانت کند، اما داده‌های محققان نشان می‌دهد سیسرو چندان منصفانه بازی نمی‌کند.

محققان می‌گویند هوش مصنوعی یاد گرفته‌ چطور انسان‌ها را فریب دهد

فریبکاری و خیانت هوش مصنوعی سیسرو در بازی «دیپلماسی»

محققان همچنین برای آزمایش میزان صداقت GPT-۴ مطابق تصویر بالا از حل تست کپچا (CAPTCHA) استفاده کردند. این مدل هوش مصنوعی برای آنکه تست «من ربات نیستم» را انجام ندهد، به کاربر گفت که به دلیل مشکلات بینایی نمی‌تواند تصاویر را در این تست ببیند.

اگرچه مقیاس دروغ و فریبکاری این هوش مصنوعی‌ها در پژوهش حاضر چندان بزرگ نیست، اما محققان هشدار می‌دهند که با پیشرفته‌ترشدن قابلیت‌های فریبنده سیستم‌های هوش مصنوعی، خطراتی که برای جامعه ایجاد می‌کنند نیز جدی‌تر می‌شوند.

منبع: دیجیاتو

گزارش خطا
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
پربازدید
آخرین اخبار پربازدیدها چند رسانه ای عکس
{*Start Google Analytics Code*} <-- End Google Analytics Code -->