ایلان ماسک: تا ۲ سال دیگر، تلفن‌های هوشمند مستقیما به اینترنت استارلینک متصل می‌شوند + فیلم معرفی بازی اکشن «۲۰ دقیقه تا سپیده‌دم» (۲۰ Minutes Till Dawn) + دانلود (اندروید و IOS) خبرهایی جدید از قیمت OnePlus 15 | مطابق انتظار طرفداران؟ OpenAI برای رقابت با گوگل، مرورگر هوش مصنوعی «اطلس» را معرفی کرد افزایش تعرفه مکالمه و پیامک تلفن همراه (۳۰ مهر ۱۴۰۴) + جزئیات آمازون می‌خواهد به جای استخدام ۶۰۰ هزار کارگر آمریکایی ربات‌ها را به کار بگیرد فروش آیفون ۱۷ رکورد ارزش سهام اپل را شکست طرح جدید مجلس برای مقاوم‌سازی نظام ارزی: خرید رمزارز فقط با کارت ارزی ویدئو | ربات انسان‌نمای Unitree H2 درحال انجام حرکات رزمی معرفی سورا ۲، نسل جدید هوش مصنوعی + قابلیت‌ها و ویژگی‌ها ایمپلنت شبکیه و عینک هوشمند، امید تازه برای بازیابی بینایی نابینایان مایکروسافت کار روی نسل جدید ایکس‌باکس را تأیید کرد راهنمای کامل رصد بارش شهابی جباری (مهر ۱۴۰۴) + زمان دقیق و جزئیات چطور با روش‌های جدید گوگل حساب جیمیل را بازیابی کنیم؟ همه چیز درباره نظریه «اینترنت مرده» | آیا واقعاً وب در حال مرگ است؟ گلایه برخی از شهروندان مشهدی درباره اضافه‌شدن خدمات سرویس بین‌الملل | ماجرای فعال‌شدن رومینگ چه بود؟ بررسی پراپ فرم رابین سود (RobinSood) – آیا رابین سود معتبر است؟ راکستار سیستم حمل سلاح GTA 6 را با الهام از یک بازی دیگرش متحول می‌کند وزیر ارتباطات: استفاده ۸۰ درصد مردم از فیلترشکن یعنی باید در سیاست فیلترینگ بازنگری کنیم واتس‌اپ دسترسی چت‌بات‌های عمومی به پلتفرمش را ممنوع می‌کند رونمایی از نسل سوم ربات‌های هوشمند پست | جهشی در هوشمندسازی زیرساخت‌های لجستیکی ایران
سرخط خبرها

اگر هوش مصنوعی را تهدید کنید پاسخ‌های بهتری می‌گیرید

  • کد خبر: ۳۳۴۴۵۹
  • ۰۳ خرداد ۱۴۰۴ - ۱۸:۵۷
اگر هوش مصنوعی را تهدید کنید پاسخ‌های بهتری می‌گیرید
راه‌های مختلفی برای افزایش عملکرد هوش مصنوعی مولد و دریافت خروجی موردنظر وجود دارد. «سرگی برین»، هم‌بنیان‌گذار گوگل، در مصاحبه جدیدی راهکار عجیبی برای این مسئله مطرح کرد. او می‌گوید کاربران می‌توانند با تهدید هوش مصنوعی عملکرد آن را بهبود بدهند.

به گزارش شهرآرانیوز؛ سرگی برین در مصاحبه‌ای با All-In Podcast گفت: «نه‌فقط مدل‌های [هوش مصنوعی]ما، بلکه تمام مدل‌ها، اگر آنها را تهدید کنید، عملکرد بهتری خواهند داشت.» او سپس گفت مثلاً آنها را به «خشونت فیزیکی» تهدید کنید. برین توضیح داد، چون مردم احساس خوبی به این کار نخواهند داشت، تاکنون چنین توصیه‌ای عمومی مطرح نشده است. درکل به نظر می‌رسد مدل‌های هوش مصنوعی طی فرایند آموزش فهمیده‌اند «تهدید» به این معنی است که کار باید جدی‌تر گرفته شود؛ به همین دلیل وقتی تهدید می‌شوند، خروجی بهتری ارائه می‌دهند.

در این پادکست یکی از مهمانان برنامه به‌شوخی گفت اگر به هوش مصنوعی گستاخی کنید، کار‌های شما را بهتر انجام می‌دهد. سرگی برین نیز در تأکید حرف او گفت با تهدید مدل‌های هوش مصنوعی، عملکرد آنها بهتر می‌شود.

البته مشخص نیست واقعاً چت‌بات‌ها با تهدید عملکرد بهتری داشته باشند و ممکن است حتی اخطاری از سازنده آن هوش مصنوعی دریافت کنید. شرکت آنتروپیک به‌تازگی مدل‌های هوش مصنوعی Claude ۴ خود را منتشر کرد؛ سپس یکی از کارمندان این شرکت در Bluesky گفت مدل جدید Opus که بالاترین عملکرد را دارد، می‌تواند با نهاد‌های نظارتی تماس بگیرد و اکانت شما را مسدود کند تا مانع کار‌های «غیراخلاقی» بشود.

قابلیت جدید شرکت آنتروپیک فعلاً در مرحله آزمایشی است ولی احتمالاً در آینده عملی شود؛ به‌این ترتیب ممکن است هوش مصنوعی تهدید‌های شما برای انجام کار‌های مختلف را گزارش بدهد. درکل کارشناسان توصیه می‌کنند کاربران با پرامپت‌نویسی اصولی و دقیق خروجی موردنظرشان را از هوش مصنوعی دریافت کنند. اگرچه راه‌های مختلفی برای دورزدن محدودیت‌های هوش مصنوعی از طریق پرامپت وجود دارد، چارچوب امنیتی مدل‌های هوش مصنوعی پیشرفته را نمی‌توان به‌راحتی از بین برد.

منبع: دیجیاتو

گزارش خطا
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
پربازدید
آخرین اخبار پربازدیدها چند رسانه ای عکس
{*Start Google Analytics Code*} <-- End Google Analytics Code -->