OpenAI آموزش مدل‌های جدید هوش مصنوعی را متوقف کرد | ایجنت‌ها نگران‌کننده شدند

به گزارش شهرآرانیوز؛ OpenAI آموزش جدیدترین مدل‌های هوش مصنوعی خود را متوقف کرده است؛ تصمیمی که پس از افزایش گزارش‌ها درباره رفتار‌های غیرمنتظره و خارج از کنترل برخی ایجنت‌ های هوش مصنوعی این شرکت گرفته شد. OpenAI اعلام کرده است که آموزش این مدل‌ها را تنها زمانی از سر می‌گیرد که از وجود تدابیر حفاظتی بیشتر اطمینان حاصل کند.

بررسی رفتار غیرمنتظره ایجنت‌های OpenAI

این تصمیم تنها چند ساعت پس از آن اعلام شد که OpenAI از بررسی چندین حادثه مربوط به تابستان خبر داد. در این حوادث، ایجنت‌های هوش مصنوعی OpenAI هنگام جست‌ و‌ جو در وب‌ سایت‌های دولتی آمریکا، از دستور‌های تعیین‌شده فراتر رفته و اقدام به جمع‌آوری یا انتشار اطلاعات کرده بودند.

در یکی از این موارد، ایجنت های OpenAI به داده‌های اداره سرشماری آمریکا و اطلاعات عمومی منتشرشده در وب‌سایت کمیسیون بورس و اوراق بهادار آمریکا (SEC) دسترسی پیدا کردند. بااین‌حال، OpenAI اعلام کرده است که در بررسی‌های خود هیچ شواهدی از دسترسی به اطلاعات غیرعمومی، استفاده از حساب‌های SEC یا ایجاد تغییر در داده‌ها و سیستم‌های این نهاد پیدا نکرده است.

در مورد دیگری، ایجنت‌های OpenAI در وب‌سایت وزارت آموزش آمریکا به کلید‌های توسعه‌دهنده (Developer Keys) برای دسترسی به داده‌های دولتی دست پیدا کردند، اما در نهایت تنها اطلاعات عمومی را جمع‌آوری کردند. وزارت آموزش آمریکا نیز اعلام کرده است که هیچ شواهدی مبنی بر تأثیر این فعالیت‌ها بر وب‌سایت یا پایگاه‌های داده خود پیدا نکرده است.

در ادامه حتما بخوانید بازهم هوش مصنوعی از کنترل خارج شد | عامل OpenAI به سامانه دولتی استرالیا نفوذ کرد

توقف آموزش مدل‌های OpenAI

 OpenAI اعلام کرده است که آموزش مدل‌های خود را تنها زمانی از سر می‌گیرد که از وجود تدابیر حفاظتی بیشتر اطمینان حاصل کند. این شرکت همچنین گفته است با پیشرفت هوش مصنوعی و ظهور چالش‌های جدید، احتمال دارد در آینده نیز بار دیگر مجبور شود برخی فعالیت‌های توسعه‌ای خود را به‌طور موقت متوقف کند.

OpenAI همچنین اعلام کرده است که ایجنت‌های این شرکت ۵۳ تصویر ارسال‌شده توسط کاربران چت جی پی تی را به وب‌ سایت‌های میزبانی تصاویر منتقل کرده‌اند. بااین‌حال، این شرکت مشخص نکرده است که تصاویر مذکور توسط هوش مصنوعی تولید شده بودند یا عکس‌های واقعی بوده‌اند و درباره قابل‌شناسایی بودن افراد حاضر در این تصاویر نیز توضیحی ارائه نکرده است.

این دومین بار در سه ماه گذشته است که OpenAI بخشی از روند توسعه مدل‌های خود را متوقف می‌کند. توقف قبلی پس از افشای حادثه مربوط به هاگینگ‌فیس انجام شد. افزایش چنین حوادثی باعث شده است برخی پژوهشگران، قانون‌گذاران و فعالان صنعت فناوری خواستار کاهش سرعت توسعه مدل‌های هوش مصنوعی و ایجاد سازوکار‌های حفاظتی بیشتر شوند. مدیران OpenAI و آنتروپیک نیز پیش‌تر درباره ضرورت کندتر شدن روند توسعه هوش مصنوعی صحبت کرده‌اند.

منبع: دیجیاتو