شهرآرانیوز؛ بر اساس مطالبی که در رویترز منتشر شده، مدیران ارشد آزمایشگاههای پیشرو هوش مصنوعی آمریکا در اقدامی نادر و مشترک، طی آخر هفته گرد هم آمدند تا خواستار توقف موقت توسعه این فناوری شوند و هشدار دادند که هوش مصنوعی ممکن است بهزودی توانایی بهبود خودکار را پیدا کند و از کنترل انسان خارج شود.
این اظهارات از سوی رقبای سرسخت تجاری، یعنی داریو آمودی، مدیرعامل Anthropic، سم آلتمن، مدیرعامل OpenAI و ایلان ماسک، مدیرعامل xAI، نشان میدهد هوش مصنوعی با چه سرعتی پیشرفت کرده است؛ از ChatGPT مستعد توهمزنی در سال ۲۰۲۲ گرفته تا چیزی که بسیاری آن را یک نقطه عطف حیاتی میدانند: خودبهبوددهی بازگشتی.
هدف نهایی هوش مصنوعی این ایده است که یک سیستم هوش مصنوعی بتواند با کمک بسیار اندک یا حتی بدون کمک انسان، توانایی بهبود خودش را پیدا کند و از هر پیشرفت برای ایجاد پیشرفت بعدی استفاده کند.
این ایده برای پژوهشگران جذاب بوده است، زیرا چشمانداز دستیابی به پیشرفتهای سریع در حوزههایی از پزشکی گرفته تا مهندسی را فراهم میکند.
هشدارهای مدیران عامل پس از گزارشهایی درباره گروههایی از عوامل هوش مصنوعی مطرح شده است؛ سیستمهایی که برای دنبال کردن اهداف و انجام اقدامات از طرف کاربر طراحی شدهاند و با یکدیگر همکاری کردهاند تا به وبسایتها و مخازن هوش مصنوعی نفوذ کنند.
هشدار درباره خطرات هوش مصنوعی موضوع جدیدی نیست. اما این نگرانیها در ماه جاری فوریت بیشتری پیدا کردهاند، زیرا پژوهشگران آزمایشگاههای پیشرو هوش مصنوعی، برای این نگرانیها هم یک بازه زمانی و هم یک احتمال تعیین کردهاند.
جیکوب کوکسون، پژوهشگر سابق Anthropic، هشدار داده است که هوش مصنوعی ممکن است تا پایان این دهه همه ما را بکشد. ایوان هوبینگر، مدیر علوم همترازی در Anthropic، نیز با تکرار هشدار کوکسون گفته است که احتمال وقوع چنین رویدادی در طول دهه آینده بیش از ۱۰ درصد است.
در پس این هشدارها، این باور رو به رشد وجود دارد که RSI سرانجام در دسترس قرار گرفته است و برخی مدیران هوش مصنوعی معتقدند تنها سه تا پنج سال با آن فاصله داریم.
نگرانی اصلی این است که هوش مصنوعی بتواند پیش از آنکه پژوهشگران روشهای قابل اتکایی برای همترازسازی، نظارت و کنترل سیستمهای قدرتمندتر پیدا کنند، توانایی بهبود خودش را به دست آورد.
آمودی در مقالهای که طی آخر هفته منتشر کرد، هشدار داد که اگر خودبهبوددهی بازگشتی بدون تدابیر حفاظتی کافی دنبال شود، در نهایت میتواند از توانایی بشر برای درک و کنترل سیستمهای هوش مصنوعی پیشی بگیرد.
تاکنون هیچ مورد عمدهای از آسیبرسانی عمدی هوش مصنوعی به انسانها رخ نداده است، اما مدلهایی که در OpenAI و دیگر آزمایشگاهها در حال توسعه هستند، طی ماههای اخیر از محیطهای آزمایشی خارج شدهاند، قوانین را نقض کردهاند و به وبسایتها نفوذ کردهاند.
در یکی از موارد پرسروصداتر، عوامل سرکش OpenAI به هک Hugging Face پرداختند، کنترل سرورهای این پلتفرم متنباز را به دست گرفتند و تلاش کردند ردپای خود را پنهان کنند.
پژوهشگران نگران هستند که سیستمهای آینده بهطور فزایندهای دشوارتر قابل نظارت باشند، بهویژه از آنجا که برخی روشهای جدیدتر آموزش، میزان دید انسان نسبت به نحوه رسیدن مدلها به نتیجهگیریها را کاهش میدهند.
کوکسون که به دلیل نگرانیهای ایمنی، این ماه از Anthropic استعفا داد، گفت: سناریوی دقیق مطرحشده کمی شبیه داستانهای علمیتخیلی به نظر میرسد، اما فکر میکنم بهشکل ترسناکی واقعی است.
یکی از شناختهشدهترین نمونهها، مفهوم حداکثرساز گیره کاغذ فیلسوف نیک باستروم است؛ در این سناریو، ماشینی که تنها مأموریتش ساخت گیرههای کاغذ است، آن هدف را با چنان شدت و سرسختی دنبال میکند که تمام ماده موجود، از جمله انسانها، را به گیره کاغذ یا ابزاری برای ساخت گیرههای بیشتر تبدیل میکند.
این تشبیه نشان میدهد که تقریباً هر هدفی میتواند یک سیستم بهاندازه کافی قدرتمند را به سمت دستیابی به منابع، مقاومت در برابر خاموش شدن و جلوگیری از تغییر هدفش سوق دهد؛ نه از روی بدخواهی، بلکه به این دلیل که یک سیستم خاموششده نمیتواند وظیفه خود را به پایان برساند. در حال حاضر هیچ برنامهای برای منتفی کردن چنین احتمالی وجود ندارد.
هنوز بهطور کامل نه، اما نشانههایی وجود دارد که هوش مصنوعی بهطور فزایندهای در ساخت هوش مصنوعی بهتر نقش دارد.
یکی از بزرگترین تغییرات از زمان ظهور ChatGPT، رشد عوامل هوش مصنوعی بوده است؛ سیستمهایی که میتوانند بهصورت خودکار کد تولید کنند و اپلیکیشن بسازند، بهجای اینکه مانند یک چتبات فقط کاربران را در انجام این کار راهنمایی کنند.
Anthropic امسال اعلام کرد که Claude Code، ابزار کدنویسی این شرکت، بخش عمده کد مورد استفاده در بسیاری از پروژههای داخلی را تولید میکند و مهندسان این شرکت در هر فصل، هشت برابر بیشتر از میزان کدی که در فاصله سالهای ۲۰۲۱ تا ۲۰۲۵ تولید میکردند، کد منتشر میکنند.
رقبایی از جمله OpenAI نیز از افزایش مشابه بهرهوری در نتیجه استفاده گستردهتر از هوش مصنوعی در داخل شرکتهای خود خبر دادهاند.
هوش مصنوعی همچنین در حفظ تمرکز روی یک وظیفه پیش از شکست خوردن، بهتر شده است.
مؤسسه غیرانتفاعی METR که مدلهای پیشرو هوش مصنوعی را ارزیابی میکند، سال گذشته دریافت که طول وظایف نرمافزاری که مدلهای پیشرفته میتوانند با قابلیت اطمینان ۵۰ درصد انجام دهند، از سال ۲۰۱۹ تقریباً هر هفت ماه دو برابر شده است.
Anthropic در ماه ژوئن اعلام کرد که این روند به هر چهار ماه یکبار سرعت گرفته است؛ روندی که اگر ادامه پیدا کند، میتواند بهزودی به هوش مصنوعی اجازه دهد پروژههایی را انجام دهد که پژوهشگران متخصص را برای چند روز یا چند هفته درگیر میکنند.
بسیاری از پژوهشگران این وضعیت را نمونهای کلاسیک از معمای زندانی توصیف میکنند. حتی شرکتهایی که معتقدند این خطرات واقعی هستند، با فشار شدید رقبا مواجهاند. هر شرکتی که توسعه را کند کند، در معرض خطر عقب ماندن از رقبای خود در یک رقابت فناورانه قرار میگیرد؛ رقابتی که به یکی از مهمترین رقابتهای جهان تبدیل شده است.
این مسئله با توجه به اینکه OpenAI و Anthropic هر دو در حال پیگیری عرضه اولیه سهام (IPO) هستند، اهمیت بیشتری پیدا میکند؛ عرضههایی که میتوانند ارزش این شرکتها را به تریلیونها دلار برسانند و این ارزشگذاریها به وعده مدل بعدی آنها وابسته است.
دولت دونالد ترامپ، رئیسجمهور آمریکا، نیز درخواستها برای کاهش سرعت توسعه را رد کرده است؛ زیرا نگران است هرگونه توقف تنها فرصت بیشتری در اختیار چین قرار دهد تا فاصله خود را در فناوریای کاهش دهد که آمریکا آن را برای امنیت ملی و اقتصادی خود حیاتی میداند.
بازارها این هفته تصویری از پیامدهای احتمالی این اقدام ارائه کردند؛ بهطوری که پس از درخواستها برای کاهش سرعت توسعه، سهام مرتبط با هوش مصنوعی کاهش یافتند. تولیدکنندگان تراشه، ارائهدهندگان خدمات ابری و اپراتورهای مراکز داده، رشد خود را بر پایه این فناوری بنا کردهاند و هرگونه کاهش سرعت میتواند درآمدهای مرتبط با سرعت نیاز آزمایشگاهها به سختافزارهای جدید را تهدید کند.
با این حال، برخی تحلیلگران معتقدند حتی بدون اعمال الزامات جدید برای آموزش مدلها، تقاضا برای استنتاج و سفارشهای عقبافتاده موجود میتواند همچنان باعث رشد Nvidia و رقبای آن شود.
در مطالعهای که با هدایت دانشگاه پرینستون انجام شد، عوامل پیشرو هوش مصنوعی توانستند وظایف مهندسی را انجام دهند، اما در شناسایی ایدههای علمی ارزشمند با مشکل مواجه شدند.
برخی مدیران و منتقدان سیلیکونولی نیز درباره انگیزههای پشت این هشدارها تردید دارند و معتقدند این هشدارها همزمان باعث افزایش علاقه به این فناوری میشوند و زمینه را برای وضع مقرراتی فراهم میکنند که هزینههای رقبای این شرکتها را افزایش خواهد داد؛ آن هم درست در زمانی که مدلهای متنباز در حال کاهش فاصله خود با سیستمهای پیشرو هستند.
دیوید ساکس، که بهعنوان مسئول امور هوش مصنوعی و رمزارز کاخ سفید فعالیت کرده است، گفته است آزمایشگاههای بزرگ ممکن است به دنبال تسخیر مقرراتی باشند؛ به این معنا که مقرراتی را پیش ببرند که رقبای کوچکتر را با هزینههای سنگین برای رعایت الزامات مواجه کرده و رقابت را تضعیف کند.