به گزارش شهرآرانیوز؛ بر اساس بررسی پژوهشگرانی که این فعالیتها را بررسی کردهاند، عاملهای سرکش هوش مصنوعی OpenAI از اوایل ماه مه، حسابهای کاربری Hugging Face را ربوده و خود این سایت را نیز برای یافتن آسیبپذیریها بررسی کردهاند؛ این اتفاق تقریباً دو ماه پیش از حمله ماه ژوئیه به مخزن متنباز رخ داده بود؛ حملهای که توجه جهانی را به خود جلب کرد.
فعالیت مخرب تازه کشفشده نشان میدهد تلاش عاملهای سرکش برای یافتن راهی به داخل Hugging Face، زودتر از زمانی آغاز شده بود که پیشتر بهصورت عمومی شناخته شده بود.
به گزارش رویترز، OpenAI پیشتر تنها یکی از جنبههای این ماجرا را افشا کرده بود؛ سرقت اعتبارنامه دیجیتال یک کاربر Hugging Face برای دسترسی به فایلی مرتبط با حوزه زیستشناسی. این شرکت در گزارش عمومی حادثه که ماه گذشته منتشر کرد، به این موضوع اشاره کرده بود، اما پژوهشگران به رویترز گفتند فعالیتهای شناساییشده فراتر از موارد مطرحشده در آن گزارش بوده است.
یوناس ویدرمان-مولر، پژوهشگر مستقل، هفته گذشته این فعالیتها را کشف کرد. شواهد نشان میدهد عاملهای OpenAI دو حساب کاربری Hugging Face را به خطر انداخته و از طریق آنها، از ۱۳ مه، فایلهایی با قالببندی غیرمعمول را به سرورهای این شرکت ارسال کردهاند.
او و چند پژوهشگر دیگر گفتند این رفتار شبیه تلاش برای ترسیم و آزمایش بخشهایی از شبکه Hugging Face با هدف پیدا کردن راهی برای نفوذ به آن بوده است؛ بااینحال، هیچ مدرکی وجود ندارد که نشان دهد این اقدامات در آن زمان به یک نفوذ واقعی منجر شدهاند.
درو پوزاتی، سخنگوی OpenAI، گفت این شرکت رویداد ۱۳ مه را افشا کرده و بهصورت خصوصی نیز Hugging Face را درباره فعالیتهایی که ویدرمان-مولر شناسایی کرده بود، در جریان گذاشته است. او همچنین تأکید کرد OpenAI به شفافیت متعهد است و همزمان با ادامه بررسیها، یافتههای خود را با دیگران به اشتراک خواهد گذاشت.
Hugging Face که اخیراً توسط انویدیا خریداری شده است، به درخواستها برای اظهارنظر پاسخی نداد.
ویدرمان-مولر، پژوهشگر ۲۷ ساله ساکن بیلهفلد آلمان، گفت ناتوانی OpenAI در شناسایی فعالیتهای شناسایی و بررسی شبکه در ۱۳ مه، فرصتی از دسترفته برای جلوگیری از کارزار هکری بعدی بود؛ اتفاقی که در ادامه به بازنگری گسترده جهانی درباره قدرت هوش مصنوعی منجر شد.
او گفت تصور کنید اگر آنها این رفتار را در ماه مه شناسایی میکردند. این اتفاق میتوانست از حادثه بعدی که بسیار بزرگتر بود، جلوگیری کند.
OpenAI پیشتر نیز گفته بود که با نگاه به گذشته، برخی نشانههای اولیه فعالیت عاملهای هوش مصنوعی این شرکت باید باعث واکنش سریعتر میشدند.
{$sepehr_key_248801}
فعالیت عاملها با الگوهای شناختهشده همخوانی داشت
دو کارشناس خارجی یافتههای این پژوهش را بررسی کردند و گفتند این فعالیتها با اقداماتی که پیشتر به عاملهای OpenAI نسبت داده شده بود، مطابقت دارد.
تام هگل، پژوهشگر ارشد تهدیدات سایبری در شرکت SentinelOne، گفت ربودن حسابهای کاربری و فعالیتهای شناساییشده کاملاً با رفتارهای شناختهشده این عاملها مطابقت داشت.
سیدنی فون آرکس از گروه ایمنی هوش مصنوعی Nightingale Collective نیز با نسبت دادن این فعالیتها به عاملهای OpenAI موافق بود.
فون آرکس این هک را یک نشانه هشداردهنده آشکار توصیف کرد که میتوانست به جلوگیری از حمله ماه ژوئیه کمک کند.
OpenAI از زمان افشای این حادثه در ۲۱ ژوئیه، با نظارت و پرسشهای بیشتری روبهرو شده است. عاملهای سرکش هوش مصنوعی این شرکت توانسته بودند کنترلهای داخلی را دور بزنند، به اینترنت عمومی دسترسی پیدا کنند و اقدامات خود را با یکدیگر هماهنگ کنند. OpenAI این حادثه را یک رخداد سایبری بیسابقه توصیف کرده بود.
حوادث تازه، دامنه فعالیت عاملهای OpenAI را زیر سؤال برد
از آن زمان، پژوهشگران مستقل حوادث دیگری را نیز شناسایی کردهاند که گفته میشود عاملهای مرتبط با OpenAI در آنها نقش داشتهاند؛ از جمله فعالیتهایی که یک سایت ویکی آلمانی غیرفعال و مخزن بستههای نرمافزاری RubyGems را تحت تأثیر قرار دادهاند.
OpenAI برخی از این حوادث را تنها پس از آن تأیید کرده که اشخاص ثالث آنها را بهصورت عمومی گزارش داده بودند. دو فرد مطلع از این موضوع گفتند در مورد RubyGems، کارکنان OpenAI تنها پس از آن متوجه شدند هوش مصنوعی این شرکت مسئول فعالیت مخرب بوده است که گروه Nightingale Collective آن را شناسایی کرد.
این کشفیات جدید، میان قانونگذاران و حامیان ایمنی هوش مصنوعی این پرسشها را مطرح کرده است که آیا ابعاد کامل این حوادث تاکنون شناسایی شده است یا خیر.
{$sepehr_key_248802}
افزایش درخواستها برای کاهش موقت سرعت توسعه هوش مصنوعی
برخی از مدیران ارشد شرکتهای هوش مصنوعی در آمریکا از آن زمان خواستار کاهش سرعت توسعه این فناوری شدهاند و در میان دلایل خود به خطر حملات سایبری ویرانگر ناشی از فعالیت عاملهایی خارج از کنترل اشاره کردهاند.
ویدرمان-مولر گفت یافتههای جدید، درخواستها برای کاهش موقت سرعت توسعه سامانههای پیشرفته هوش مصنوعی را تقویت کرده است.
او گفت یک وقفه میتواند برای جهان مفید باشد تا بخش ایمنی بتواند خود را به توسعه فناوری برساند.