بازهم هوش مصنوعی از کنترل خارج شد | عامل OpenAI به سامانه دولتی استرالیا نفوذ کرد

به گزارش شهرآرانیوز، چند روز بیشتر از اعلام نفوذ عامل هوش مصنوعی Gemini به سامانه‌های سه شرکت نگذشته که حالا یک نمونه مشابه، این‌بار با عامل هوش مصنوعی OpenAI در استرالیا خبرساز شده است؛ عاملی که در جریان یک آزمایش داخلی، پس از دریافت پاسخ منفی از یک سامانه دولتی، راهی برای دورزدن محدودیت‌ها پیدا کرد و به فایل‌های غیرعمومی دسترسی یافته است. این اتفاق در حالی رخ می‌دهد که این عامل صراحتا ماموریتی مبنی بر نفوذ به سامانه‌ای نداشته است.

در ادامه حتما بخوانید جمنای گوگل، سه شرکت را هک کرد | بررسی وضعیت هوش مصنوعی در جلسه شورای امنیت سازمان ملل

بر اساس اعلام دولت استرالیا، این اتفاق در ۱۸ ژوئن ۲۰۲۶، ۲۸ خرداد ۱۴۰۵، رخ داده است. یک مدل هوش مصنوعی که در حال آموزش توسط OpenAI بوده، برای انجام یک ماموریت تحقیقاتی درباره هزینه‌های عمومی دارو در استرالیا با چند وب‌سایت دولتی این کشور تعامل کرده است.

سه وب‌سایت شامل موسسه سلامت و رفاه استرالیا، وزارت بهداشت ایالت ویکتوریا و دفتر آمار جرایم و تحقیقات نیوساوت‌ولز صرفا اطلاعات عمومی در اختیار عامل هوش مصنوعی قرار دادند و اتفاق غیرعادی در آنها گزارش نشده است.

اما ماجرا در مورد درگاه گزارش آمار خدمات مدیکر (Medicare Statistics Reporting Service Portal) که تحت مدیریت سازمان خدمات استرالیا قرار دارد، کاملا متفاوت بوده است.

عامل هوش مصنوعی ابتدا اطلاعاتی را از سامانه درخواست کرده، اما با پاسخ منفی مواجه شده است. طبق توضیح مقام‌های استرالیایی، عامل پس از رد شدن درخواست، شروع به راهی برای دورزدن سامانه کرده است و در نهایت توانسته به‌صورت غیرمجاز وارد بخش‌هایی از سامانه شود.

پس از نفوذ به سامانه عامل OpenAI توانسته علاوه بر داده‌های عمومی، به برخی فایل‌های غیرعمومی، آمار تجمیعی سلامت و نام فایل‌های داخلی دسترسی پیدا کند.

دولت استرالیا اعلام کرده تاکنون شواهدی مبنی بر دسترسی به اطلاعات پزشکی یا شخصی افراد پیدا نشده ولی تحقیقات فنی همچنان ادامه دارد.

OpenAI هم متوجه ماجرا نشده است!

اما ماجرای نگران‌کننده‌تر آنجاست که این حادثه ۱۸ ژوئن، ۲۸ خرداد، رخ داده، اما OpenAI تا ١١ اوت، ٢٠ مرداد، حتی در جریان بررسی فعالیت‌های اشتباه مدل در دوره آموزش متوجه آن نشده است.

شرکت OpenAI به‌طور رسمی اعلام نکرده است که این Agent بر پایه کدام مدل ChatGPT توسعه داده شده است.

این یعنی نزدیک به ۲ ماه طول کشید تا خود شرکت متوجه شود Agent در جریان آزمایش چه رفتاری داشته است.

بخش جنجالی‌تر ماجرا از اینجا شروع می‌شود که به گفته دولت استرالیا، OpenAI تا ۱۰ سپتامبر ۲۰۲۶، ۱۹ شهریور، ماجرا را به آنها اطلاع داده است؛ یعنی حدود یک ماه بعد از اینکه از نفوذ باخبر شده بود.

پس از اطلاع استرالیا موضوع به مرکز امنیت سایبری این کشور ارجاع داده شده و نخستین تبادل فنی مستقیم میان OpenAI و استرالیا نیز ۲۲ سپتامبر، ۳۱ شهریور، انجام شده است.

نکته قابل توجه این است که تنها یک روز پیش از اعلام این حادثه، یعنی ۲۳ سپتامبر ۲۰۲۶، اول مهر، سام آلتمن، مدیر عامل OpenAI، در جلسه شورای امنیت سازمان ملل درباره آینده هوش مصنوعی صحبت کرده بود.

شرح کامل جلسه شورای امنیت درباره سازمان ملل درباره خطرات هوش مصنوعی را می‌توانید در گزارش هشدار مشترک سم آلتمن و داریو آمودی در سازمان ملل؛ خطر هوش مصنوعی برای بشر جدی است، در شهرآرانیوز بخوانید.

نکته جالب توجه دیگر این است که حادثه استرالیا در جلسه شورای امنیت، در حالی که بالاترین سطح بین‌المللی درباره کنترل، مخاطرات و ایمنی عامل‌های هوش مصنوعی صحبت می‌شد، اعلام نشد و دولت استرالیا ترجیح داد این رفتار غیرمجاز در جلسه اعلام نکند.

هشدار جدی درباره عامل‌های خودمختار

ماجرای استرالیا را نباید صرفا به عنوان هک شدن یک سایت دولتی دید. اهمیت اصلی آن در این است که نشان می‌دهد با افزایش توانایی عامل‌های هوش مصنوعی، فاصله میان انجام یک وظیفه و پیدا کردن هر راه ممکن برای رسیدن به هدف می‌تواند به یک مساله امنیتی جدی تبدیل شود.

در ادامه حتما بخوانید AI Agent چیست؟ | سیستم‌هایی که دیگر فقط حرف نمی‌زنند، عمل می‌کنند

از Gemini تا OpenAI؛ زنگ خطر بلندتر شده است

این حادثه تنها چند روز پس از گزارش مربوط به رفتار عامل Gemini در جریان یک آزمایش امنیتی رخ داده و بار دیگر یک سوال مهم را مطرح کرده است: اگر عامل‌های هوش مصنوعی قرار است به‌جای انسان‌ها در اینترنت جست‌و‌جو کنند، کدنویسی کنند و با سامانه‌های مختلف تعامل داشته باشند، چه تضمینی وجود دارد که هنگام مواجهه با یک محدودیت برای رسیدن به هدف خود مسیر دیگری را امتحان نکنند؟

پاسخ به این سوال هنوز روشن نیست. اما اتفاق استرالیا نشان داد که این نگرانی تنها یک سناریوی فرضی درباره آینده هوش مصنوعی نیست، نمونه‌های واقعی متعددی از رفتار غیرمجاز یک عامل هوش مصنوعی منتشر شده و اکنون یکی از آنها روی میز یک دولت است.