ایلان ماسک کارمند ایرانی شرکت تسلا را اخراج کرد + علت هک بیش از صد سایت فعال رژیم صهیونیستی توسط گروه هکری ابابیل+تصاویر هدست اپل ویژن پرو در اتاق کولونوسکوپی به پزشکان در تشخیص سرطان کمک می‌کند سامسونگ از ارزان‌ترین ایرباد خود با نام Galaxy Buds Core رونمایی کرد + مشخصات آیا اینستاگرام رفع فیلتر شده است؟ (۴ تیر ۱۴۰۴) اختلال گسترده در مکان‌یاب اپلیکیشن‌‌های کاربران | آیا GPS در ایران قطع شده است؟ آیا قرار است تلگرام رفع فیلتر شود؟ (۴ تیر ۱۴۰۴) اینترنت بین‌الملل در تمام اپراتور‌ها وصل شد (۴ تیر ۱۴۰۴) شهرداری مشهد در «محور مالی و اقتصادی» نخستین لیگ خلاقیت کلان‌شهر‌ها رتبه دوم را کسب کرد اطلاعیه جدید نوبیتکس | همه چیز را به حالت عادی برمی گردانیم حملات سایبری ایران در کمین آمریکا و اسرائیل استفاده از واتساپ روی تمام دستگاه‌های مجلس نمایندگان آمریکا ممنوع شد زمان رفع محدودیت‌های اینترنت بین‌الملل بعد از آتش‌بس میان ایران و رژیم صهیونیستی ویدئو انفجار ورودی زندان اوین، غیرواقعی و ساختۀ هوش مصنوعی است! + عکس دارایی‌های رمزارزی صرافی‌ها به کیف‌پول‌های سرد منتقل شد | امکان برداشت رمزارز وجود ندارد مکالمه نامحدود و رایگان تلفن ثابت تا پایان تیرماه ۱۴۰۴ تفاوت راکتور هسته‌ای و مرکز غنی‌سازی اورانیوم چیست؟ | بمباران کدام‌یک خطرناک‌تر است؟ همه‌چیز درباره بمب‌افکن B‑2، مشخصات آن و مأموریت‌هایش + عکس و جدول فعال استرالیایی حمایت گوگل از صهیونیست‌ها را افشا کرد آیا پلتفرم «رمزینکس» هک شده است؟ توضیحات جدید مدیرعامل «نوبیتکس» درباره حمله هکری اخیر (۳۱ خرداد ۱۴۰۴)
سرخط خبرها

فریب هوش مصنوعی گوگل توسط محققان MIT

  • کد خبر: ۱۷۳۳۵
  • ۲۰ بهمن ۱۳۹۸ - ۱۶:۳۲
فریب هوش مصنوعی گوگل توسط محققان MIT
تا به حال از شیوه‌های مختلفی برای فریب سیستم‌های هوش مصنوعی استفاده شده و در تازه‌ترین رویداد از این دست، محققان دانشگاه ام آی تی سیستم هوش مصنوعی گوگل را فریب داده اند.
به گزارش شهرآرانیوز؛ پژوهشگران این دانشگاه یک سیستم متنی موسوم به تکست فولر ابداع کرده‌اند که می‌تواند مدل‌های هوش مصنوعی که از سیستم پردازش زبان‌های طبیعی استفاده می‌کنند را گول بزند.

بسیاری از دستیار‌های صوتی مانند الکسای آمازون و سیری اپل از سیستم پردازش زبان‌های طبیعی برای درک دستورات کاربران استفاده می‌کنند و لذا فریب آن‌ها می‌تواند امنیت چنین سیستم‌هایی را به خطر بیاندازد. همچنین فریب سیستم مذکور موجب سوءاستفاده از آن‌ها برای ارسال هرزنامه یا متون غیرمؤدبانه می‌شود.

تکست فولر یک سیستم فریبنده است که با درک نقص‌ها و ضعف‌های سیستم پردازش زبان‌های طبیعی آن‌ها را فریب می‌دهد.

این سیستم جملاتی را با دستکاری چند کلمه آن‌ها به خورد سیستم پردازش زبان‌های طبیعی می‌دهد، بدون اینکه دستکاری یادشده موجب تغییر معنا یا ایجاد غلط‌های دستور زبانی شود.

بعد از این کار و بررسی واکنش سیستم پردازش زبان‌های طبیعی به این تغییر، به تدریج تغییرات جدی‌تر و عمیق‌تری در جملات ایجاد می‌شود تا در نهایت از حساسیت و دقت این سیستم کاسته شود و بتوان آن را فریب داد.

محققان دانشگاه ام آی تی می‌گویند با همین روش سه مدل متداول در سیستم پردازش زبان‌های طبیعی را دستکاری کرده و فریب داده‌اند.

یکی از این مدل‌ها که برت نام دارد، یک مدل زبانی متن باز ابداع شده توسط گوگل است که تنها تغییر ۱۰ درصد از بخش‌های هر جمله توسط تکست فولر به فریب آن منجر شد. بر همین اساس انتظار می‌رود شرکت‌های فناوری برای ارتقای سیستم پردازش زبان‌های طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.
گزارش خطا
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
پربازدید
{*Start Google Analytics Code*} <-- End Google Analytics Code -->