علم و فناوری هوش مصنوعی

توهمات هوش مصنوعی در گزارش موسسه KMPG

بررسی محققان نشان می‌دهد گزارش KPMG درباره کاربرد‌های هوش مصنوعی عاملی، مملو از استناد‌های نادرست و نمونه‌های غیرواقعی بوده است.

به گزارش شهرآرانیوز؛ موسسه KMPG در اکتبر سال گذشته گزارشی با عنوان «تجربه کامل: باز تعریف ایده آل در عصر هوش مصنوعی عاملی» منتشر کرد که درباره آن بود که چگونه شرکت‌ها از هوش مصنوعی برای تامین نیاز‌های مشتری استفاده می‌کنند. KMPG یکی از چهار شرکت ارائه دهنده خدمات حرفه‌ای و حسابداری در جهان به شمار می‌رود. اکنون به نظر می‌رسد این گزارش مملو از توهمات هوش مصنوعی بوده و برخی نمونه‌های هوش مصنوعی عاملی در آن به کار رفته که وجود ندارد، اما قابلیت‌هایی که این شرکت در گزارش اشاره کرده را ندارند.

محققان موسسه GPTZero، سازنده ابزار‌های ردیابی محتوای هوش مصنوعی، متوجه موارد نادرست و پانوشت‌های جعلی در تمام گزارش شده است. نشریه فایننشال تایمز نیز این امر را تایید کرده است. محققان GPRZero در تحقیق خود اعلام کردند از ۴۵ استناد فقط پنج مورد به درستی به منابع واقعی اشاره کرده‌اند. در کل ۲۸ مورد از استناد‌ها عنوان منابع را به‌صورت بازنویسی‌شده ارائه کرده بودند یا اجزای ساختگی و غیرواقعی به منابع واقعی اضافه کرده بودند. از سوی دیگر ۱۲ استناد نیز به اندازه‌ای مبهم باز نویسی شده بودند که امکان تشخیص وجود واقعی بودن آنها وجود نداشت. GPTZero پدیده تولید منابع و ارجاعات ساختگی توسط مدل‌های هوش مصنوعی را اصطلاح «استناد بر اساس حدس و گمان» یا «Vibe Citing» نامیده است.

محققان علاوه بر استنادات جعلی یا نادرست متوجه شدند حدود نیمی از ادعا‌های مطرح شده در پژوهش مذکور جعلی یا به اشتباه منتسب شده است.GPTZero در این باره نوشته است: این موارد احتمالا در نتیجه آن به وجود آمده که یک ابزار تحقیق هوش مصنوعی از دستوری برای یافتن نمونه‌های «هوش مصنوعی عاملی» بیش از اندازه پیروی کرده است. KMPG در یک نمونه مدعی شده بوده شرکت هواپیمایی «امارات» یک چت‌بات موبایلی به نام «سارا» راه‌اندازی کرده که می‌تواند با مسافران گفت‌و‌گو کند و حتی پرواز‌های آنها را از طرفشان تغییر دهد.

همچنین KMPG مدعی شد بانک چند ملیتی سرمایه گذاری سوییسی «یو بی اس» هوش مصنوعی عاملی را در بخش‌های مشاوره سرمایه گذاری، مدیریت ریسک و رصد پیروی از قوانین یکپارچه کرده است. این بانک به نشریه تایمز گفته بود اطلاعات مذکور نادرست هستند.

منبع: مهر