مدیر آنتروپیک: مدل‌های متن‌باز ذاتاً خطرناک‌تر از مدل‌های اختصاصی هستند

به گزارش شهرآرانیوز، گیوم پرنسن، مدیر آنتروپیک، این دیدگاه را در جریان یک اجلاس دولتی در دوبلین مطرح کرده است. او تأکید کرده که در حوزه ایمنی هوش مصنوعی باید نسبت به مدل‌های متن‌باز بسیار محتاط بود؛ زیرا این دسته از مدل‌ها، براساس تعریفی که برای آنها وجود دارد، خطرات به‌مراتب بیشتری ایجاد می‌کنند. مدل‌های متن‌باز اساساً به مدل‌هایی گفته می‌شود که کدها، معماری و وزن‌های پردازشی آنها به‌صورت عمومی منتشر می‌شود و هر کاربری می‌تواند آنها را دانلود و روی سیستم‌های شخصی خود اجرا کند یا تغییر دهد.

چالش‌های امنیتی و رقابت در عرصه مدل‌های متن‌باز هوش مصنوعی

این اظهارات هم‌زمان با تشدید رقابت شرکت‌های اروپایی مطرح شده است. Mistral هفته گذشته مدل Large ۴ موسوم به Le Chonk را معرفی کرد؛ مدلی با یک تریلیون پارامتر که در اروپا آموزش دیده و بر حاکمیت داده‌ها تأکید دارد. البته عرضه وزن‌های باز این مدل هنوز نهایی نشده و دسترسی فعلی تنها از طریق API میسترال امکان‌پذیر است و انتشار وزن‌ها برای ۲۷ اکتبر (۵ آبان) برنامه‌ریزی شده است.

پرنسن درحالی به نگرانی‌ها پیرامون مدل‌های متن‌باز اشاره کرده که طی هفته‌های اخیر نیز برخی پژوهش‌ها نتایج یکسانی به همراه داشته‌اند. برای مثال ارزیابی‌های مؤسسه SaferAI مشخص کرده بود که مدل چینی GLM-۵.۲ هیچ‌کدام از وظایف مربوط به حملات سایبری مخرب یا زیست‌شناسی دومنظوره را رد نکرده است؛ درحالی‌که مدل Claude آنتروپیک آن‌قدر درخواست‌ها را به دلیل ملاحظات ایمنی رد کرده که امکان به پایان رساندن بنچمارک وجود نداشت. همچنین تحقیقات گروه Frontier Red Team آنتروپیک نشان داده بود که مدل‌های کوچک توانسته‌اند روی اندروید تی‌وی باکس‌های ارزان‌قیمت تکثیر شوند و تمام مدل‌های این آزمون، از جمله Gemma۴ و GLM-۵.۲، متن‌باز بودند.

پرنسن همچنین درباره قیمت‌گذاری مدل‌ها اعلام کرده که هزینه معمول Claude Opus ۵.۵ نسبت به نسخه قبلی خود ۴۰ درصد کاهش یافته است. این صرفه‌جویی حاصل افت ۲۰ درصدی قیمت رسمی و کاهش استفاده از توکن‌ها در نسخه جدید است.

درنهایت باید اشاره کرد که ادعای مدیر آنتروپیک در اجلاس رسمی هوش مصنوعی تحت نظارت اتحادیه اروپا در دوبلین ایرلند مطرح شده است. انتخاب ایرلند به تعبیر برخی نشریات حاشیه‌ساز است؛ چراکه این کشور به‌دلیل گرفتن مالیات بسیار کم از غول‌های فناوری، سال‌هاست به پناهگاه مالیاتی آنها در اروپا تبدیل شده و از همین پول سود کلانی می‌برد؛ تا جایی که نهاد‌های مدنی معتقد هستند دولت ایرلند به‌خاطر همین سود مالی نمی‌تواند در مدیریت قوانین هوش مصنوعی بی‌طرف باشد. در این میان، آنتروپیک هم منافع بزرگی دارد؛ اروپا سریع‌ترین بازار درحال رشد آن است، نخستین دفتر اروپایی این شرکت در دوبلین تأسیس شده و با نزدیک‌شدن به ورود به بورس با ارزش نجومی ۹۶۵ میلیارد دلار، به‌شدت نگران از دست دادن بازار به رقبای اروپایی است.

منبع: دیجیاتو