چرا زمان با افزایش سن سریع‌تر می‌گذرد؟ + راهکارهایی برای طولانی‌تر کردن روزها مهلت بازپرداخت اقساط تسهیلات شرکت‌های دانش‌بنیان خسارت‌دیده در جنگ تمدید شد برای اولین‌بار نصب ویندوز ۱۱ از ویندوز ۱۰ بیشتر شد چگونه با شارژ حساب دمو در لایت فارکس، بدون ریسک وارد دنیای معاملات شوید؟ افشای مشخصات گوشی جدید سامسونگ ایلان ماسک در مخالفت با دونالد ترامپ، یک حزب سیاسی جدید تشکیل داد اپلیکیشن‌ها چگونه جاسوسی می‌کنند؟ هوش مصنوعی منابع انرژی را غارت می‌کند | زنگ خطر در مصرف برق و آب گوشی تاشوِ آیفون به‌زودی عرضه خواهد شد | باکیفیت و البته گران! بسته‌های اینترنت اپراتور همراه ایرانسل تا ۷۰ درصد گران شد! (۱۱ تیر ۱۴۰۴) نامه انجمن تجارت الکترونیک به وزیر ارتباطات درباره محدودیت پلتفرم‌ها مجیک V۵ آنر، باریک‌ترین گوشی تاشوی جهان + مشخصات و قیمت وزیر ارتباطات: اختلالات اینترنت ناشی از حملات خارجی است تحقیقات جدید: آلزایمر ممکن است یک بیماری مغزی نباشد مصوبه جدید دولت: پلتفرم‌های آنلاین طلا باید زیر نظر بورس بروند ماینرهای غیرمجاز، سالانه، بیش از ۲ میلیارد دلار به صنعت برق کشور خسارت می‌زنند آیا رابطه‌ای بین خوردن پنیر و کابوس‌دیدن وجود دارد؟ بازارها و خدمات مالی نوبیتکس به تدریج درحال بازگشایی است خستگی ناشی از هوش مصنوعی چیست و چطور با آن مقابله کنیم؟ مایکروسافت: هوش مصنوعی در تشخیص شرایط پیچیده بهتر از پزشکان عمل می‌کند دانشمندان می‌گویند مغز انسان نور تولید می‌کند
سرخط خبرها

اگر هوش مصنوعی را تهدید کنید پاسخ‌های بهتری می‌گیرید

  • کد خبر: ۳۳۴۴۵۹
  • ۰۳ خرداد ۱۴۰۴ - ۱۸:۵۷
اگر هوش مصنوعی را تهدید کنید پاسخ‌های بهتری می‌گیرید
راه‌های مختلفی برای افزایش عملکرد هوش مصنوعی مولد و دریافت خروجی موردنظر وجود دارد. «سرگی برین»، هم‌بنیان‌گذار گوگل، در مصاحبه جدیدی راهکار عجیبی برای این مسئله مطرح کرد. او می‌گوید کاربران می‌توانند با تهدید هوش مصنوعی عملکرد آن را بهبود بدهند.

به گزارش شهرآرانیوز؛ سرگی برین در مصاحبه‌ای با All-In Podcast گفت: «نه‌فقط مدل‌های [هوش مصنوعی]ما، بلکه تمام مدل‌ها، اگر آنها را تهدید کنید، عملکرد بهتری خواهند داشت.» او سپس گفت مثلاً آنها را به «خشونت فیزیکی» تهدید کنید. برین توضیح داد، چون مردم احساس خوبی به این کار نخواهند داشت، تاکنون چنین توصیه‌ای عمومی مطرح نشده است. درکل به نظر می‌رسد مدل‌های هوش مصنوعی طی فرایند آموزش فهمیده‌اند «تهدید» به این معنی است که کار باید جدی‌تر گرفته شود؛ به همین دلیل وقتی تهدید می‌شوند، خروجی بهتری ارائه می‌دهند.

در این پادکست یکی از مهمانان برنامه به‌شوخی گفت اگر به هوش مصنوعی گستاخی کنید، کار‌های شما را بهتر انجام می‌دهد. سرگی برین نیز در تأکید حرف او گفت با تهدید مدل‌های هوش مصنوعی، عملکرد آنها بهتر می‌شود.

البته مشخص نیست واقعاً چت‌بات‌ها با تهدید عملکرد بهتری داشته باشند و ممکن است حتی اخطاری از سازنده آن هوش مصنوعی دریافت کنید. شرکت آنتروپیک به‌تازگی مدل‌های هوش مصنوعی Claude ۴ خود را منتشر کرد؛ سپس یکی از کارمندان این شرکت در Bluesky گفت مدل جدید Opus که بالاترین عملکرد را دارد، می‌تواند با نهاد‌های نظارتی تماس بگیرد و اکانت شما را مسدود کند تا مانع کار‌های «غیراخلاقی» بشود.

قابلیت جدید شرکت آنتروپیک فعلاً در مرحله آزمایشی است ولی احتمالاً در آینده عملی شود؛ به‌این ترتیب ممکن است هوش مصنوعی تهدید‌های شما برای انجام کار‌های مختلف را گزارش بدهد. درکل کارشناسان توصیه می‌کنند کاربران با پرامپت‌نویسی اصولی و دقیق خروجی موردنظرشان را از هوش مصنوعی دریافت کنند. اگرچه راه‌های مختلفی برای دورزدن محدودیت‌های هوش مصنوعی از طریق پرامپت وجود دارد، چارچوب امنیتی مدل‌های هوش مصنوعی پیشرفته را نمی‌توان به‌راحتی از بین برد.

منبع: دیجیاتو

گزارش خطا
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
پربازدید
{*Start Google Analytics Code*} <-- End Google Analytics Code -->