شرکت متا می‌خواهد برای مصرف برق مراکز داده و هوش‌ مصنوعی‌اش انرژی هسته‌ای بخرد ادوبی اپلیکیشن اندروید فتوشاپ را به‌صورت آزمایشی منتشر کرد بسته‌های ویژه همراه اول ویژه عرفه تا اربعین ۱۴۰۴ + روش فعالسازی بخش زیادی از ثروت ۲۰۰ میلیارد دلاری بیل گیتس برای توسعه آفریقا صرف می‌شود به‌کارگیری پهپادها و هوش مصنوعی برای رصد حریم تهران خبرهایی از دردست‌ساخت‌بودن نسخه چندنفره بازی مرد عنکبوتی چین اولین ربات انسان‌نمای نظافت‌گر هتل را رونمایی کرد + فیلم آیا XChat همان‌قدر که ایلان ماسک ادعا می‌کند امنیت دارد؟ نامه وزارت اقتصاد به رئیس‌جمهور درباره ممنوعیت همکاری داروخانه‌ها با پلتفرم‌های توزیع دارو مایکروسافت قوانین ویندوز ۱۱ برای پورت‌های USB-C را تغییر داد بهرام عکاشه، نخستین استاد زلزله‌شناسی ایران درگذشت NotebookLM: ده نکته طلایی برای استادشدن در ابزار قدرتمند گوگل + راهنما به‌زودی امکان پرداخت با ریال دیجیتال در فروشگاه‌های اینترنتی فراهم می‌شود معرفی بازی Tofu Drifter + دانلود اندروید و IOS هشدار مایکروسافت به کاربران اپلیکیشن Authenticator: رمزهای عبور خود را ذخیره کنید واردات همه برند‌های گوشی همراه آزاد شد (۱۰ خرداد ۱۴۰۴) شرکت ایکس سرویس پیام‌رسان XChat را برای برخی کاربران فعال کرد نمونه ارتقایافته ماهواره کوثر آماده پرتاب می‌شود واکنش ایلان ماسک به اضافه‌شدن گراک به تلگرام: هنوز قراردادی امضا نشده است! گوگل: برای حل مشکل خالی‌شدن سریع باتری در اندروید اینستاگرامتان را آپدیت کنید!
سرخط خبرها

محققان می‌گویند هوش مصنوعی یاد گرفته‌ چطور انسان‌ها را فریب دهد

  • کد خبر: ۲۲۷۷۷۵
  • ۲۴ ارديبهشت ۱۴۰۳ - ۲۰:۴۰
محققان می‌گویند هوش مصنوعی یاد گرفته‌ چطور انسان‌ها را فریب دهد
یک پژوهش جدید نشان داده است که سیستم‌های هوش مصنوعی مختلف فریب‌دادن انسان را یاد گرفته‌اند.

به گزارش شهرآرانیوز - مدل‌های مختلف هوش مصنوعی می‌توانند به‌صورت سیستماتیک باور‌های نادرستی به کاربر بدهند. این امر می‌تواند در آینده خطرات متعددی را به‌همراه داشته باشد.

براساس گزارش اینسایدر و مقاله منتشرشده در Cell، برخی از سیستم‌های هوش مصنوعی تکنیک‌هایی را یاد گرفته‌اند که از آن برای «القای سیستماتیک باور‌های نادرست در دیگران» استفاده می‌کنند.

محققان MIT در پژوهش خود روی دو مدل هوش مصنوعی متمرکز شدند: مدل سیسرو (CICERO) متا که در یک حوزه مشخص کاربرد دارد و مدل GPT-۴ که ​​برای انجام طیف متنوعی از کار‌ها آموزش دیده است.

مدل‌های آموزش مصنوعی بر مبنای صداقت آموزش می‌بینند، اما اغلب در فرایند آموزش، ترفند‌های فریبنده را نیز یاد می‌گیرند. محققان می‌گویند هوش مصنوعی از این ترفند‌ها استفاده می‌کند تا بهتر بتواند به هدف خود برسد. به‌زعم محققان، استراتژی مبتنی بر فریب می‌تواند بهترین راه برای داشتن عملکرد خوب در انجام کار‌های مختلف در هوش مصنوعی باشد.

محققان می‌گویند هوش مصنوعی یاد گرفته‌ چطور انسان‌ها را فریب دهد

فریبکاری و خیانت هوش مصنوعی سیسرو در بازی «دیپلماسی»

متا گفته بود که هوش مصنوعی CICERO را به‌نحوی آموزش داده که تا حد زیادی صادقانه عمل کند، اما این پژوهش نشان داد که CICERO در دروغ‌گویی تبحر دارد. این مدل برای کمک به بازیکنان انسانی در بازی «Diplomacy» ساخته شده، اگرچه این هوش مصنوعی نباید متحدان انسانی خود را در این بازی فریب دهد یا به آنها خیانت کند، اما داده‌های محققان نشان می‌دهد سیسرو چندان منصفانه بازی نمی‌کند.

محققان می‌گویند هوش مصنوعی یاد گرفته‌ چطور انسان‌ها را فریب دهد

فریبکاری و خیانت هوش مصنوعی سیسرو در بازی «دیپلماسی»

محققان همچنین برای آزمایش میزان صداقت GPT-۴ مطابق تصویر بالا از حل تست کپچا (CAPTCHA) استفاده کردند. این مدل هوش مصنوعی برای آنکه تست «من ربات نیستم» را انجام ندهد، به کاربر گفت که به دلیل مشکلات بینایی نمی‌تواند تصاویر را در این تست ببیند.

اگرچه مقیاس دروغ و فریبکاری این هوش مصنوعی‌ها در پژوهش حاضر چندان بزرگ نیست، اما محققان هشدار می‌دهند که با پیشرفته‌ترشدن قابلیت‌های فریبنده سیستم‌های هوش مصنوعی، خطراتی که برای جامعه ایجاد می‌کنند نیز جدی‌تر می‌شوند.

منبع: دیجیاتو

گزارش خطا
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
پربازدید
{*Start Google Analytics Code*} <-- End Google Analytics Code -->