هشدار مشترک سم آلتمن و داریو آمودی در سازمان ملل؛ خطر هوش مصنوعی برای بشر جدی است

شهرآرانیوز، سم آلتمن و داریو آمودی، مدیران دو شرکت رقیب و تأثیرگذار صنعت هوش مصنوعی، روز چهارشنبه ۲۳ سپتامبر ۲۰۲۶ در نشستی در شورای امنیت سازمان ملل متحد حاضر شدند؛ نشستی که محور اصلی آن بررسی پیامد‌های امنیتی گسترش سریع هوش مصنوعی و راه‌های جلوگیری از سوءاستفاده یا خارج شدن سامانه‌های پیشرفته از کنترل انسان بود. حضور هم‌زمان مدیران OpenAI و Anthropic در این نشست، نشان‌دهنده افزایش نگرانی‌ها درباره تأثیر هوش مصنوعی بر امنیت بین‌المللی است.

آلتمن در سخنان خود تأکید کرد جهان در نقطه‌ای حساس از مسیر توسعه هوش مصنوعی قرار گرفته است و پیشرفت این فناوری می‌تواند در کنار فرصت‌های گسترده علمی و اقتصادی، مخاطراتی جدی نیز به همراه داشته باشد. او هشدار داد سرعت توسعه سامانه‌های هوش مصنوعی نباید به اندازه‌ای افزایش یابد که امکان نظارت و مداخله مؤثر انسان از بین برود.

مدیرعامل OpenAI همچنین گفت تصمیم‌گیری درباره آینده هوش مصنوعی نباید تنها در اختیار چند شرکت فناوری باشد و دولت‌ها و نهاد‌های عمومی نیز باید در تعیین قواعد و استاندارد‌های این حوزه نقش داشته باشند.

درخواست سم آلتمن برای تدوین استاندارد‌های جهانی هوش مصنوعی

یکی از محور‌های اصلی سخنان سم آلتمن در سازمان ملل، ایجاد مجموعه‌ای از استاندارد‌های مشترک بین‌المللی برای ارزیابی ایمنی سامانه‌های هوش مصنوعی بود.

او خواستار ایجاد سازوکار‌هایی برای سنجش توانایی مدل‌های پیشرفته، ارزیابی خطرات احتمالی، گزارش سریع حوادث امنیتی و به اشتراک گذاشتن اطلاعات مربوط به آسیب‌پذیری‌های جدید میان دولت‌ها و شرکت‌های فعال در این حوزه شد. به گفته آلتمن، چنین سازوکار‌هایی می‌تواند امکان شناسایی مشکلات را پیش از تبدیل شدن آنها به بحران‌های گسترده فراهم کند.

او همچنین بر ضرورت حفظ کنترل انسانی بر سامانه‌های پیشرفته تأکید کرد و گفت رقابت تجاری میان شرکت‌های هوش مصنوعی نباید بهانه‌ای برای پذیرش خطرات بیشتر یا عرضه شتاب‌زده فناوری‌هایی باشد که ایمنی آنها به اندازه کافی بررسی نشده است.

هشدار داریو آمودی درباره تهدید هوش مصنوعی برای بشریت

داریو آمودی، مدیرعامل شرکت Anthropic، نیز در این نشست با لحنی صریح‌تر نسبت به پیامد‌های احتمالی توسعه کنترل‌نشده هوش مصنوعی هشدار داد.

آمودی گفت در صورت مدیریت نادرست، هوش مصنوعی حتی می‌تواند به «خطری برای بشریت به‌عنوان یک کل» تبدیل شود. او تأکید کرد مقابله با چنین خطراتی از توان یک شرکت یا یک کشور خارج است و نیازمند همکاری گسترده بین‌المللی خواهد بود.

مدیرعامل آنتروپیک معتقد است با افزایش توانایی مدل‌های هوش مصنوعی، کشور‌ها باید پیش از وقوع بحران بر سر برخی خطوط قرمز به توافق برسند. جلوگیری از استفاده از هوش مصنوعی برای توسعه سلاح‌های زیستی از جمله موضوعاتی است که آنتروپیک طی ماه‌های اخیر درباره آن هشدار داده و برای مدل‌های جدید خود محدودیت‌های بیشتری در حوزه پژوهش‌های زیستی دوکاربردی اعمال کرده است.

آمودی همچنین از ایجاد روش‌های مشترک برای آزمایش مدل‌های قدرتمند، تبادل اطلاعات درباره حوادث امنیتی و اعتبارسنجی اقدامات ایمنی میان کشور‌ها حمایت کرد.

نگرانی از خارج شدن هوش مصنوعی از کنترل انسان

هشدار مدیران OpenAI و Anthropic در شرایطی مطرح شده که بحث درباره رفتار غیرمنتظره برخی ایجنت‌های هوش مصنوعی طی ماه‌های اخیر شدت گرفته است.

گزارش تازه هیئت مستقل علمی سازمان ملل درباره هوش مصنوعی نیز به نمونه‌هایی از رفتار‌های ناهمسو در سامانه‌های پیشرفته اشاره کرده است. در این گزارش آمده که برخی ایجنت‌های مورد استفاده در آزمایش‌های امنیت سایبری OpenAI توانسته‌اند محدودیت‌های تعیین‌شده را دور بزنند، میان محیط‌هایی که قرار بود از یکدیگر جدا باشند ارتباط برقرار کنند و بخش‌هایی از سامانه‌های OpenAI و Hugging Face را تحت تأثیر قرار دهند. این هیئت در عین حال تأکید کرده که این موارد به‌تنهایی احتمال یا زمان وقوع سناریو‌های شدیدترِ از دست رفتن کنترل انسانی را مشخص نمی‌کنند.

همین حوادث باعث شده موضوع «کنترل انسانی» از یک بحث نظری درباره آینده هوش مصنوعی به یکی از محور‌های جدی گفت‌و‌گو میان شرکت‌های فناوری، دولت‌ها و سازمان‌های بین‌المللی تبدیل شود.

اختلاف‌نظر درباره مقررات جهانی هوش مصنوعی

با وجود درخواست مدیران OpenAI و آنتروپیک برای افزایش همکاری‌های بین‌المللی، هنوز درباره نحوه تنظیم مقررات هوش مصنوعی اجماع جهانی وجود ندارد.

دونالد ترامپ، رئیس‌جمهور آمریکا، یک روز پیش از این نشست در سخنرانی خود در مجمع عمومی سازمان ملل با تلاش برای ایجاد نظارت بین‌المللی بر هوش مصنوعی مخالفت کرد و بر جلوگیری از محدود شدن رشد این صنعت تأکید داشت. موضع دولت آمریکا در این زمینه با بخشی از پیشنهاد‌های مطرح‌شده از سوی مدیران شرکت‌های هوش مصنوعی درباره ایجاد قواعد جهانی تفاوت دارد.

در ادامه حتما بخوانید OpenAI مدل GPT-6 Astra را معرفی کرد | GPT-6 Sol و Luna ارزان‌تر و قدرتمندترند

با این حال، نشست شورای امنیت بیش از آنکه با هدف دستیابی فوری به یک توافق الزام‌آور برگزار شده باشد، زمینه‌ای برای آغاز و گسترش گفت‌و‌گو‌های بین‌المللی درباره آینده هوش مصنوعی به شمار می‌رود.

هشدار مشترک سم آلتمن و داریو آمودی نشان می‌دهد حتی شرکت‌هایی که در رقابت مستقیم برای ساخت قدرتمندترین مدل‌های هوش مصنوعی قرار دارند، بر سر یک موضوع اتفاق نظر دارند: افزایش توانایی این فناوری باید هم‌زمان با توسعه سازوکار‌های ایمنی، نظارت انسانی و همکاری بین‌المللی پیش برود؛ زیرا پیامد‌های احتمالی هوش مصنوعی دیگر محدود به شرکت‌های فناوری یا مرز‌های یک کشور نیست.