اطلاعات فصل هشتم کالاف دیوتی موبایل ۲۰۲۵ + معرفی گان و آیتم‌های جدید اعتراض کارمندان مایکروسافت به رابطه با اسرائیل و اخراج ۲ نفر از آن‌ها جمع کردن زباله، وظیفه جدید گارد ملی آمریکا در واشنگتن! FDA به ایمپلنتی که روماتیسم مفصلی را درمان می‌کند تاییدیه داد OpenAI مکالمات کاربران با ChatGPT را به پلیس می‌دهد توضیحات رئیس شورای اطلاع‌رسانی دولت درباره آخرین وضعیت رفع فیلتر تلگرام + فیلم ناتینگ از تصاویر عکاسان حرفه‌ای به‌جای نمونه دوربین فون ۳ استفاده کرده است ریلمی از دو گوشی هوشمند عجیب رونمایی کرد: یکی با باتری ۱۵۰۰۰ میلی‌آمپرساعتی و دیگری با کولر! درخشش نخبه مشهدی در المپیاد جهانی نجوم | ارشیا میرشمسی با مدال طلا به شهرش بازگشت پیش‌بینی‌های هواشناسی چطور تهیه می‌شوند؟ + عکس معترض‌ترین کاربر اینترنت! یک تست جدید مبتنی بر گوشی هوشمند خطر ابتلا به دیابت را در ۱۰ دقیقه تشخیص می‌دهد تبلت گلکسی تب S10 لایت رونمایی شد + مشخصات و قیمت رئیس سابق طراحی گوگل می‌گوید همه شرکت‌های بزرگ درباره آینده اشتباه می‌کنند گزارش‌هایی از یک ویژگی جذاب در آیفون ۱۷ پرو: شارژ بی‌سیم ایرپاد و اپل واچ با گوشی مسائل مهم در هنگام خرید سیم کارت اختلال GPS چقدر به اقتصاد کشور خسارت زده است؟ تصویر گوشی ریلمی 15T لو رفت + مشخصات دانشمندان دستگاهی ساخته‌اند که گفتار درونی افراد را به صوت تبدیل می‌کند گوگل دیگر تبلت نمی‌سازد احتمال حضور هوش مصنوعی جمینای در نسخه بعدی سیری
سرخط خبرها

فریب هوش مصنوعی گوگل توسط محققان MIT

  • کد خبر: ۱۷۳۳۵
  • ۲۰ بهمن ۱۳۹۸ - ۱۶:۳۲
فریب هوش مصنوعی گوگل توسط محققان MIT
تا به حال از شیوه‌های مختلفی برای فریب سیستم‌های هوش مصنوعی استفاده شده و در تازه‌ترین رویداد از این دست، محققان دانشگاه ام آی تی سیستم هوش مصنوعی گوگل را فریب داده اند.
به گزارش شهرآرانیوز؛ پژوهشگران این دانشگاه یک سیستم متنی موسوم به تکست فولر ابداع کرده‌اند که می‌تواند مدل‌های هوش مصنوعی که از سیستم پردازش زبان‌های طبیعی استفاده می‌کنند را گول بزند.

بسیاری از دستیار‌های صوتی مانند الکسای آمازون و سیری اپل از سیستم پردازش زبان‌های طبیعی برای درک دستورات کاربران استفاده می‌کنند و لذا فریب آن‌ها می‌تواند امنیت چنین سیستم‌هایی را به خطر بیاندازد. همچنین فریب سیستم مذکور موجب سوءاستفاده از آن‌ها برای ارسال هرزنامه یا متون غیرمؤدبانه می‌شود.

تکست فولر یک سیستم فریبنده است که با درک نقص‌ها و ضعف‌های سیستم پردازش زبان‌های طبیعی آن‌ها را فریب می‌دهد.

این سیستم جملاتی را با دستکاری چند کلمه آن‌ها به خورد سیستم پردازش زبان‌های طبیعی می‌دهد، بدون اینکه دستکاری یادشده موجب تغییر معنا یا ایجاد غلط‌های دستور زبانی شود.

بعد از این کار و بررسی واکنش سیستم پردازش زبان‌های طبیعی به این تغییر، به تدریج تغییرات جدی‌تر و عمیق‌تری در جملات ایجاد می‌شود تا در نهایت از حساسیت و دقت این سیستم کاسته شود و بتوان آن را فریب داد.

محققان دانشگاه ام آی تی می‌گویند با همین روش سه مدل متداول در سیستم پردازش زبان‌های طبیعی را دستکاری کرده و فریب داده‌اند.

یکی از این مدل‌ها که برت نام دارد، یک مدل زبانی متن باز ابداع شده توسط گوگل است که تنها تغییر ۱۰ درصد از بخش‌های هر جمله توسط تکست فولر به فریب آن منجر شد. بر همین اساس انتظار می‌رود شرکت‌های فناوری برای ارتقای سیستم پردازش زبان‌های طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.
گزارش خطا
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
پربازدید
آخرین اخبار پربازدیدها چند رسانه ای عکس
{*Start Google Analytics Code*} <-- End Google Analytics Code -->