اصول openai بعد از ۶ سال تغییر کرد | رقابتی‌تر شدن شرکت پیشرو هوش مصنوعی

سم آلتمن، مدیرعامل اوپن‌ای‌آی، روز یکشنبه در یک پست وبلاگی، فهرستی از پنج «اصل» را برای این آزمایشگاه پیشروی هوش مصنوعی منتشر کرد.

کد خبر: ۴۱۰۲۱۵

تاریخ : ۰۷ ارديبهشت ۱۴۰۵ - ۱۵:۵۷

نوشته

به گزارش شهرآرانیوز؛ اوپن‌ای‌آی اصول راهنمای خود را پس از ۶ سال تغییر داد؛ تغییراتی که نشان می‌دهد این شرکت اکنون رقابت و منافع خود را به همکاری ترجیح می‌دهد.

هرچند OpenAI در طول سال‌ها، تغییرات جزئی‌تری در سیاست‌های ایمنی و مشخصات مدل‌های خود اعمال کرده بود؛ اما مجموعه‌ی اصول جدید، به‌روزرسانی بزرگی برای دستورالعمل‌های سال ۲۰۱۸ محسوب می‌شود.

اوپن‌ای‌آی در ماه دسامبر ۲۰۱۵ به‌عنوان یک سازمان تحقیقاتی غیرانتفاعی تأسیس شد. این نهاد در سانفرانسیسکو توسط گروهی از بنیان‌گذاران از جمله سم آلتمن، ایلان ماسک، گرگ براکمن و ایلیا سوتسکیور شکل گرفت؛ افرادی که برخی از آنها پس از بروز اختلاف‌نظر بر سر تبدیل‌شدن شرکت به یک نهاد متن‌بسته و انتفاعی، آن را ترک کردند.

در ادامه به سه تفاوت کلیدی میان اسناد سال ۲۰۱۸ و ۲۰۲۶ اشاره می‌کنیم:

۱. تأکید کمتر روی AGI (هوش مصنوعی جامع)

در منشور ۲۰۱۸، دستورالعمل‌های مربوط به هوش مصنوعی جامع، سیستم‌های بسیار خودمختاری که در بیشتر کار‌های ارزشمند اقتصادی از انسان‌ها بهتر عمل می‌کنند، در کانون توجه قرار داشت. AGI اغلب به‌عنوان یک هدف نهایی و آرمانی برای آزمایشگاه‌های هوش مصنوعی در نظر گرفته می‌شود.

سند ۲۰۱۸ که ۱۲ بار به AGI اشاره کرده بود، می‌گفت: «برای پرداختن مؤثر به تأثیر AGI بر جامعه، اوپن‌ای‌آی باید در لبه‌ی تکنولوژی هوش مصنوعی باشد؛ چراکه حمایت از سیاست‌گذاری و ایمنی به‌تنهایی کافی نخواهد بود»؛ اما سند ۲۰۲۶ تنها دو بار به این کلمه اشاره می‌کند و تمرکز خود را بیشتر روی کلیت ابزار‌های هوش مصنوعی گذاشته است.

در پست وبلاگی جدید سم آلتمن آمده: «این بسط استراتژی دیرینه‌ی ما در زمینه‌ی استقرار مرحله‌به‌مرحله است؛ ما معتقدیم جامعه باید با هر سطح جدید از توانمندی هوش مصنوعی، قدم‌به‌قدم روبه‌رو شود.»

{$sepehr_key_207848}

۲. چرخش به‌سوی رقابت

اهداف جدید OpenAI، یک چرخش ۱۸۰ درجه‌ای نسبت به دستورالعمل‌های اولیه‌ی آن درباره‌ی همکاری و اجتناب از رقابت با آزمایشگاه‌های رقیب است. در دستورالعمل سال ۲۰۱۸ آمده بود: «ما نگرانیم که توسعه‌ی AGI در مراحل پایانی به یک مسابقه‌ی رقابتی تبدیل شود؛ بنابراین، اگر یک پروژه‌ی هم‌سو با ارزش‌های ما، پیش‌از ما به ساخت AGI نزدیک شود، متعهد می‌شویم که رقابت را متوقف کرده و به آن پروژه کمک کنیم.»

سند جدید هیچ اشاره‌ای به اشتراک‌گذاری دستاورد‌ها و کنار کشیدن به نفع رقبا نمی‌کند. در عوض، به‌طور ضمنی بیان می‌کند که در صورت لزوم، OpenAI حفظ قدرت رقابتی خود را به در دسترس بودن هوش مصنوعی برای همه ترجیح خواهد داد:

«ما همچنین می‌پذیریم که اوپن‌ای‌آی اکنون نیروی بسیار بزرگ‌تری در جهان است و درباره‌ی زمان و دلیل تغییر اصول خود شفاف خواهیم بود. با وجود اینکه رفاه همگانی همچنان اهمیت دارد؛ اما می‌توانیم تصور کنیم که در آینده مجبور شویم بخشی از توانمندسازی عمومی را فدای پایداری شرکت کنیم.»

در ماه‌های اخیر، OpenAI درگیر رقابت شدیدی با رقیب تازه‌نفس خود، آنتروپیک بوده است؛ از دستاورد‌های اخیر آنتروپیک می‌توان به انتشار مدل‌های پیشرفته‌ترِ Claude؛ از جمله مدل بسیار توانمند Mythos اشاره کرد. درگیری خبرساز آنتروپیک با پنتاگون نیز به تقویت برند آن کمک کرد. اوایل ماه جاری گزارش شد که تقاضای سرمایه‌گذاران، ارزش آنتروپیک را به حدود ۱ تریلیون دلار رساند و بدین‌ترتیب، این شرکت از اوپن‌ای‌آی با ارزش حدودی ۸۰۰ میلیارد دلار پیشی گرفت.

۳. وعده‌ها مبهم‌تر شده‌اند

یکی دیگر از تفاوت‌های کلیدی این است که اوپن‌ای‌آی به‌جای دادن تعهدات مشخص برای خود، به ارائه پیشنهاد‌هایی برای کل اکوسیستم فناوری روی آورده؛ ادبیات منشور اولیه بر کلماتی مانند «ما متعهد می‌شویم» متمرکز بود و به دفعات، اهداف ایمنی هوش مصنوعی را برای خود تعیین می‌کرد.

منشور ۲۰۱۸ می‌گفت: «وظیفه‌ی اصلی ما در قبال بشریت است... ما مجدانه تلاش خواهیم کرد تا تضاد منافعی را که می‌تواند منافع عمومی را به خطر بیندازد، به حداقل برسانیم.».

اما نسخه‌ی ۲۰۲۶ بسیار کلی‌تر صحبت می‌کند. سند جدید OpenAI می‌گوید که تصمیم‌گیری درباره‌ی هوش مصنوعی باید دموکراتیک باشد و به دولت‌ها پیشنهاد می‌کند که ساختار‌های اقتصادی جدیدی را در نظر بگیرند تا زیرساخت‌های لازم برای مقرون‌به‌صرفه کردن هوش مصنوعی فراهم شود.

منبع: زومیت

{$sepehr_key_207849}