ائتلاف غول‌های فناوری برای امنیت هوش مصنوعی

شرکت‌های بزرگ فناوری از جمله انویدیا، مایکروسافت، اسپیس‌ایکس، ادوبی، سیسکو و آی‌بی‌ام با راه‌اندازی «اتحاد هوش مصنوعی امن باز»، توسعه ابزارهای متن‌باز برای تقویت دفاع سایبری، حفاظت از زیرساخت‌های حیاتی و افزایش امنیت سامانه‌های مبتنی بر هوش مصنوعی را آغاز کردند.

کد خبر: ۴۳۳۹۷۶

تاریخ : ۰۶ مرداد ۱۴۰۵ - ۱۰:۵۱

نوشته

به گزارش شهرآرانیوز؛ شرکت‌های انویدیا، مایکروسافت، اسپیس‌ایکس و دیگر شرکت‌های بزرگ دنیای فناوری، «اتحاد هوش مصنوعی امن باز» (Open Secure AI Alliance) را برای ساخت ابزار‌های باز برای دفاع سایبری راه‌اندازی کردند.

این شرکت‌ها با کمک شرکت‌های توسعه دهنده امنیت سایبری، برای راه‌اندازی اتحاد هوش مصنوعی امن باز، ابتکار جدیدی که بر توسعه ابزار‌های باز برای دفاع از نرم‌افزار، عوامل هوش مصنوعی و زیرساخت‌های حیاتی در برابر تهدیدات سایبری متمرکز است، با یکدیگر متحد شده‌اند.

این اتحاد، نام‌های برجسته‌ای را در حوزه‌های رایانش ابری، امنیت سایبری، نرم‌افزار‌های سازمانی، بنیاد‌های متن‌باز و تحقیقات هوش مصنوعی گرد هم می‌آورد که از جمله آنها می‌توان به نام‌هایی نظیر انویدیا، ادوبی، سیسکو، کلادفلر، دل، آی‌بی‌ام، لینوکس، مایکروسافت، اوپن‌کلاو، زیمنس و اسپیس‌ایکس‌ای‌آی اشاره کرد.

شرکت انویدیا در یک اعلامیه مطبوعاتی اعلام کرد که این اتحاد برای توسعه و به اشتراک گذاری فناوری‌های باز، تکنیک‌ها و ابزار‌هایی برای محافظت از نرم‌افزار‌ها و عامل‌ها با گسترش گسترده‌تر هوش مصنوعی تلاش خواهد کرد. این شرکت در حال ارائه مدل‌های باز، وزن‌های مدل، داده‌ها و تحقیقات مهار عامل به این ابتکار عمل است.

گفتنی است که شرکت‌های گوگل، اوپن‌ای‌آی و آنتروپیک به طور قابل توجهی در فهرست شرکای اولیه غایب هستند. غیبت اوپن‌ای‌آی به ویژه با توجه به تمرکز این اتحاد بر ابزار‌های دفاعی باز و حادثه امنیتی اخیر در Hugging Face قابل توجه است، جایی که این شرکت اعلام کرد پس از اینکه ابزار‌های هوش مصنوعی بسته قادر به پشتیبانی از بخش‌هایی از تحلیل‌های قانونی آن نبودند، به یک مدل با وزن باز روی آورده است.

مدل‌های باز برای دفاع سایبری

این اتحاد استدلال می‌کند که امنیت سایبری یکی از حوزه‌هایی است که مدل‌های باز می‌توانند در آن مزیت قابل توجهی ارائه دهند. برخلاف سیستم‌های بسته، مدل‌ها و ابزار‌های باز را می‌توان در زیرساخت‌های خود سازمان بررسی و مستقر کرد و تطبیق داد و به مدافعان کنترل بیشتری بر داده‌های حساس و عملیات امنیتی داد.

این گروه گفت که حادثه اخیر Hugging Face نشان داد که چرا مدافعان به دسترسی به سیستم‌های باز پیشرفته نیاز دارند. طبق این اعلامیه، Hugging Face از یک مدل GLM ۵.۲ با وزن باز در زیرساخت خود برای تجزیه و تحلیل بیش از ۱۷ هزار اقدام و مهار نفوذ پس از اینکه ابزار‌های هوش مصنوعی بسته نتوانستند بین مهاجمان و مدافعان تمایز قائل شوند، استفاده کرد.

کارشناسان می‌گویند آن حادثه یک حقیقت عملی را نشان داد؛ اینکه وقتی مدافعان نمی‌توانند هوش مصنوعی پیشرفته را در زیرساخت‌های خود بررسی، تطبیق و اجرا کنند، توانایی آنها برای پاسخگویی دقیقاً در لحظه‌ای که سرعت، بیشترین اهمیت را دارد، محدود می‌شود.

این اتحاد تاکید دارد که شرکت‌ها و دولت‌ها به ابزار‌های دفاعی باز نیاز دارند که بتوانند در یک اکوسیستم چندعاملی عمل کنند، وابستگی به ارائه‌دهندگان منفرد را کاهش دهند و از نقاط شکست احتمالی جلوگیری کنند.

کارشناسان همچنین اذعان کردند که مدل‌های باز از جمله در حملات سایبری یا تلاش برای حذف حفاظ‌ها می‌توانند مورد سوءاستفاده قرار گیرند. با این حال، این گروه استدلال کرد که این خطرات هم در سیستم‌های باز و هم در سیستم‌های بسته وجود دارد.

پاسخ درست این نیست که دسترسی مدافعان به سیستم‌های باز توانمند را سلب کنیم. این است که باز بودن را با حفاظ‌های قوی، قوانین روشن در برابر سوءاستفاده مخرب، ارزیابی دقیق و اصلاح سریع همراه کنیم.

{$sepehr_key_234901}

ایجاد یک سنگر دفاعی باز

این اتحاد بر سیستم‌های گسترده‌تری که از عوامل هوش مصنوعی پشتیبانی می‌کنند، تمرکز دارد، نه فقط خود مدل‌ها. این اتحاد می‌گوید که امنیت مؤثر نیاز به کنترل‌هایی دارد که هویت، مجوزها، مهار‌های عامل، گاردریل‌ها، ثبت وقایع و ارزیابی را پوشش می‌دهد.

پروژه جدید عامل شی‌ءگرای انویدیا که متن‌باز است، به این ابتکار عمل کمک می‌کند. این چارچوب به گونه‌ای طراحی شده است که به مهارکننده‌های عامل کمک کند تا با مدل‌ها به روش‌هایی کار کنند که آزمایش، ردیابی، حسابرسی و مدیریت رفتار عامل را آسان‌تر کند. ضمن اینکه سایر اعضا نیز در حال ارائه فناوری‌هایی در سراسر این سنگر امنیتی هستند.

این اتحاد از سیاست‌گذاران می‌خواهد که با مدل‌های باز، مهارکننده‌های عامل و ابزار‌های امنیتی به عنوان دارایی‌های دفاعی رفتار کنند. این گزارش هشدار داد که محدودیت‌های فراگیر بر سیستم‌های مرز باز می‌تواند دفاع سایبری را تضعیف کند و وابستگی به تعداد کمی از ارائه‌دهندگان بسته را افزایش دهد.

اتحادیه هوش مصنوعی امن و باز اعلام کرد که شرکت‌ها و دولت‌ها باید در زیرساخت‌های مشترک مانند مجموعه داده‌ها، چارچوب‌های ارزیابی، شبیه‌ساز‌های حمله و ابزار‌های تیم مهاجم سرمایه‌گذاری کنند تا امنیت را با گسترش روزافزون عوامل هوش مصنوعی تقویت کنند.

منبع: ایسنا

{$smarty_live_blog}{$sepehr_key_234902}