فرار دوباره عامل هوش مصنوعی اوپن‌ای‌آی؟ | گزارش‌ها از تحقیقات درباره رخنه‌های جدید خبر می‌دهند

گزارش‌ها حاکی از آن است که چند عامل هوش مصنوعی اوپن‌ای‌آی از محیط‌های آزمایشی خود خارج شده‌اند؛ ادعایی که هم‌زمان با ادامه تحقیقات این شرکت، بحث درباره امنیت و مقررات هوش مصنوعی را دوباره داغ کرده است.

کد خبر: ۴۳۴۸۳۸

تاریخ : ۱۰ مرداد ۱۴۰۵ - ۱۱:۲۳

نوشته

به گزارش شهرآرانیوز؛ درباره حادثه‌ای که طی آن یکی از عوامل هوش مصنوعی شرکت «اوپن‌ای‌آی» (OpenAI) از محیط آزمایشی موسوم به «سندباکس» (sandboxed) خود خارج شد و اقدام به هک پلتفرم میزبانی هوش مصنوعی «هاگینگ فیس» (Hugging Face) کرد، صحبت‌های زیادی شده است. اوپن‌ای‌آی از آن زمان تحقیقاتی را درباره چگونگی وقوع این حادثه آغاز کرده است که هنوز ادامه دارد.

به نقل از تک‌کرانچ، منابع ناشناس به رویترز گفته‌اند که گمان می‌رود تعداد بیشتری از عوامل هوش مصنوعی اوپن‌ای‌آی از سندباکس‌های خود فرار کرده‌اند. با وجود این، یکی از منابع شدت این حادثه را کم‌اهمیت جلوه داد و گفت که به نظر نمی‌رسد عوامل هوش مصنوعی با این فرارها، شبکه اوپن‌ای‌آی را ترک کرده و به شبکه شرکت دیگری نفوذ کرده باشند.

ظاهراً برنامه‌های هوش مصنوعی که به شیوه‌های عجیب عمل می‌کنند، به یک موضوع تقریباً مایه مباهات برای شرکت‌ها تبدیل شده‌اند. در همان هفته، شرکت «آنتروپیک» (Anthropic) نیز اعلام کرد که نه یک مورد، بلکه سه مورد را کشف کرده است که در آنها عواملش از محیط‌های آزمایشی فرار کرده و سازمان‌های دیگر را هک کرده‌اند.

شرکت‌های هوش مصنوعی به استفاده از چنین حوادثی برای اهداف بازاریابی متهم شده‌اند، زیرا این موارد، توجه زیادی را به خود جلب می‌کنند و ممکن است بر قدرتمند بودن محصولات این شرکت‌ها تأکید داشته باشند. نکته منفی این است که این افشاگری‌ها بحث‌ها را درباره مقررات دولتی افزایش می‌دهند.

منبع: ایسنا

{$sepehr_key_235874}