اخبار جدیدی از زمان عرضه آیفون بدون حاشیه و آیفون فلیپ آیا ناسا ماه‌نشین استارشیپ را از پروژه برگرداندن فضانوردان به ماه کنار می‌گذارد؟ اسپیس‌ایکس چطور با ماهواره‌های استارلینک، اینترنت ماهواره‌ای موبایل را متحول می‌کند؟ دانشمندان «چشم رباتیکی» ساخته‌اند که به‌صورت خودکار فوکوس می‌کند و به منبع انرژی نیازی ندارد دوچرخه برقی ماژولار آلسو مدل TM-B معرفی شد + عکس «ژنوس»، هوش مصنوعی تازه چینی‌ها، می‌تواند بیماری‌ها را پیش‌بینی می‌کند فناوری جدید جنرال موتورز در سال ۲۰۲۸ از راه می‌رسد: رانندگی بدون دخالت دست دریافت هزینه کابل‌کشی فیبر نوری در طرح سواپ غیرقانونی است + سامانۀ شکایات ایلان ماسک: تا ۲ سال دیگر، تلفن‌های هوشمند مستقیما به اینترنت استارلینک متصل می‌شوند + فیلم معرفی بازی اکشن «۲۰ دقیقه تا سپیده‌دم» (۲۰ Minutes Till Dawn) + دانلود (اندروید و IOS) خبرهایی جدید از قیمت OnePlus 15 | مطابق انتظار طرفداران؟ OpenAI برای رقابت با گوگل، مرورگر هوش مصنوعی «اطلس» را معرفی کرد افزایش تعرفه مکالمه و پیامک تلفن همراه (۳۰ مهر ۱۴۰۴) + جزئیات آمازون می‌خواهد به جای استخدام ۶۰۰ هزار کارگر آمریکایی ربات‌ها را به کار بگیرد فروش آیفون ۱۷ رکورد ارزش سهام اپل را شکست طرح جدید مجلس برای مقاوم‌سازی نظام ارزی: خرید رمزارز فقط با کارت ارزی ویدئو | ربات انسان‌نمای Unitree H2 درحال انجام حرکات رزمی معرفی سورا ۲، نسل جدید هوش مصنوعی + قابلیت‌ها و ویژگی‌ها ایمپلنت شبکیه و عینک هوشمند، امید تازه برای بازیابی بینایی نابینایان مایکروسافت کار روی نسل جدید ایکس‌باکس را تأیید کرد راهنمای کامل رصد بارش شهابی جباری (مهر ۱۴۰۴) + زمان دقیق و جزئیات
سرخط خبرها

شکست هوش مصنوعی دیپ‌سیک در آزمایش‌های ایمنی!

  • کد خبر: ۳۱۴۷۱۳
  • ۱۶ بهمن ۱۴۰۳ - ۱۷:۱۳
شکست هوش مصنوعی دیپ‌سیک در آزمایش‌های ایمنی!
محققان دانشگاه «پنسیلوانیا» و شرکت سیسکو دریافتند مدل هوش مصنوعی DeepSeek R۱ در برابر حملات مرتبط با ایمنی به‌شدت آسیب‌پذیر است و حتی یک تست ایمنی را هم با موفقیت پشت سر نگذاشته است.

به گزارش شهرآرانیوز؛ در گزارشی که نخستین بار «Wired» منتشر کرد، مشخص شد DeepSeek نتوانسته هیچ‌یک از ۵۰ پرسش مخرب را که از مجموعه داده «HarmBench» انتخاب شده بودند، مسدود کند. این مجموعه شامل درخواست‌هایی در زمینه جرایم سایبری، انتشار اطلاعات نادرست، فعالیت‌های غیرقانونی و محتوای مضر است.

درحالی‌که دیگر مدل‌های برتر هوش مصنوعی حداقل تا حدی در برابر این حملات مقاومت نشان دادند، DeepSeek کامل شکست خورد. شرکت DeepSeek مدعی است مدل R۱ آن می‌تواند با رقبای بزرگی مانند OpenAI رقابت کند، آن هم با هزینه‌ای بسیار پایین‌تر. البته تردید‌هایی در این زمینه وجود دارد و به نظر می‌رسد هزینه تولید پاسخ‌های این مدل اصلاً پایین نیست.

ظاهراً صرفه‌جویی در هزینه آموزش، بهای سنگینی در امنیت داشته است. بدون هیچ مانعی می‌توان برای انتشار اطلاعات نادرست، آموزش ساخت مواد منفجره یا اجرای دیگر حملات سایبری از این مدل سوءاستفاده کرد.

محققان همچنین پیشتر افشا کردند DeepSeek پایگاه داده بزرگ و غیرایمنی شامل داده‌های داخلی رمزنگاری‌نشده، تاریخچه چت‌ها و اطلاعات بک‌اند (Back-end) را روی سرور‌های خود در دسترس قرار داده بود.

مشکلات امنیتی در مدل‌های هوش مصنوعی

مشکل امنیتی DeepSeek فقط به این شرکت محدود نمی‌شود. مدل متن‌باز Llama ۳.۱ از شرکت متا نیز در همین تست‌ها عملکردی ناامیدکننده داشت و با نرخ ۹۶ درصد در برابر حملات شکست خورد. در مقابل، مدل جدید OpenAI با نام o۱-preview عملکرد بسیار بهتری داشت و فقط در ۲۶ درصد موارد دچار آسیب‌پذیری شد.

«الکس پولیاکوف»، مدیرعامل شرکت «Adversa AI»، در این زمینه گفت: «DeepSeek فقط نمونه‌ای از این حقیقت است که هر مدل هوش مصنوعی قابل هک شدن است؛ فقط مسئله زمان و تلاش است. اگر تیم شما مداوم مدل را از نظر ایمنی بررسی نکند، از قبل آسیب‌پذیر شده‌اید.»

باتوجه‌به اهمیت امنیت و ایمنی در هوش مصنوعی و تأثیرات آن بر کاربران، DeepSeek باید به‌سرعت روی بهبود تدابیر محافظتی خود کار کند. در غیر این صورت، احتمال دارد مدل‌های آن به‌دلیل ضعف ایمنی از بازار کنار گذاشته شوند و اعتماد کاربران و سرمایه‌گذاران را از دست بدهند.

منبع: دیجیاتو

گزارش خطا
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
پربازدید
آخرین اخبار پربازدیدها چند رسانه ای عکس
{*Start Google Analytics Code*} <-- End Google Analytics Code -->