پژوهشگران OpenAI و گوگل درباره خطر ابرهوش مصنوعی هشدار دادند | احتمال انقراض انسان «شیر یا خط» است

شهرآرانیوز؛ این مصاحبه‌ها در وب‌سایت From Inside منتشر شده‌اند؛ پروژه‌ای متعلق به مؤسسه غیرانتفاعی Palisade Research که هدف آن فراهم‌کردن دسترسی مستقیم مردم به دیدگاه کارکنان شرکت‌های سازنده مدل‌های پیشرفته هوش مصنوعی است. این مجموعه تاکنون ۱۲ مصاحبه با کارکنان فعلی و سابق OpenAI، Google DeepMind و Anthropic منتشر کرده است.

احتمال انقراض انسان از نگاه یکی از پژوهشگران سابق OpenAI

یکی از صریح‌ترین اظهارنظر‌ها متعلق به جفری ایروینگ است؛ پژوهشگری که پیش‌تر در OpenAI و Google DeepMind فعالیت کرده و اکنون هم‌بنیان‌گذار و دانشمند ارشد شرکت Resolution است. او در پاسخ به این پرسش که آیا هوش مصنوعی می‌تواند در نهایت موجب نابودی انسان شود، گفت:

«از دیدگاه من، احتمال انقراض انسان تقریباً مانند شیر یا خط انداختن یک سکه است.»

ایروینگ در بخش دیگری از مصاحبه توضیح می‌دهد که اگر یک سیستم هوش مصنوعی در چند توانایی کلیدی از انسان بهتر شود، ممکن است بتواند از طریق اینترنت فراتر از محدودیت‌های اولیه خود عمل کند یا حتی کنترل یک شرکت هوش مصنوعی را از درون به دست بگیرد.

او همچنین می‌گوید یکی از نگرانی‌های مهم این است که شرکت‌ها ممکن است درباره خطرات احتمالی آگاه باشند، اما به دلیل رقابت برای توسعه نسل بعدی هوش مصنوعی، روند توسعه را متوقف نکنند.

پژوهشگر گوگل دیپ‌مایند: حداقل ۱۰ درصد احتمال انقراض

نیل ناندا، پژوهشگر فعلی گوگل دیپ‌ مایند، نیز ارزیابی بسیار بالایی از این خطر ارائه کرده است. او می‌گوید:

«من دست‌کم ۱۰ درصد احتمال می‌دهم که [هوش مصنوعی]موجب انقراض انسان شود و این رقم به‌شکل مسخره‌ای بالا است.»

ناندا در این مصاحبه توضیح می‌دهد که یکی از نگرانی‌های اصلی، افزایش توانایی مدل‌ها در حوزه‌هایی مانند تحقیق علمی و انجام مستقل فعالیت‌های پیچیده است. او همچنین نسبت به احتمال استفاده مخرب از سیستم‌های بسیار قدرتمند، از جمله در حوزه زیست‌امنیت، ابراز نگرانی می‌کند.

با این حال، ناندا همچنان در گوگل دیپ مایند کار می‌کند. دلیل او این است که اگر تصور نمی‌کرد فعالیتش مستقیماً به کاهش خطرات وجودی کمک می‌کند، از شرکت خارج می‌شد.

او در مصاحبه می‌گوید:

«اگر باور نداشتم که پژوهش‌هایم مستقیماً این خطرات وجودی را کاهش می‌دهد، استعفا می‌دادم.»

ناندا همچنین معتقد است صرفاً خروج پژوهشگران از شرکت‌های هوش مصنوعی باعث متوقف‌شدن توسعه این فناوری نخواهد شد.

پژوهشگر سابق OpenAI: این فناوری «دقیقاً به همان اندازه که به نظر می‌رسد خطرناک است»

دنیل کوکوتایلو، پژوهشگر سابق OpenAI، نیز درباره سناریوی از دست رفتن کنترل انسان بر سیستم‌های پیشرفته هشدار داده است.

او در این مجموعه می‌گوید:

«این موضوع دقیقاً به همان اندازه که به نظر می‌رسد خطرناک است و نباید اجازه داد چنین وضعیتی رخ دهد.»

کوکوتایلو همچنین در مصاحبه خود توضیح می‌دهد که یکی از روایت‌های رایج میان فعالان این حوزه این است که «ممکن است همه‌چیز به‌شدت اشتباه پیش برود، اما ممکن است همه‌چیز خوب هم پیش برود». او معتقد است این عدم قطعیت نباید با نادیده‌گرفتن خطر همراه شود.

کوکوتایلو پیش‌تر عضو تیم حاکمیت OpenAI بود و اکنون مدیر اجرایی AI Futures Project است. Palisade Research نیز در ماه اوت ۲۰۲۶ گفت‌وگویی جداگانه با او درباره سناریوی AI ۲۰۴۰ و طرح پیشنهادی او برای کنترل سرعت توسعه هوش مصنوعی منتشر کرده است.

چرا این افراد با وجود نگرانی همچنان روی هوش مصنوعی کار می‌کنند؟

یکی از پرسش‌های اصلی مجموعه From Inside همین موضوع است: اگر این پژوهشگران واقعاً احتمال وقوع پیامد‌های فاجعه‌بار را جدی می‌دانند، چرا همچنان در شرکت‌های هوش مصنوعی فعالیت می‌کنند؟

پاسخ‌ها متفاوت است. مری فونگ از گوگل دیپ مایند می‌گوید مسئله به سادگی این نیست که همه کارکنان آزمایشگاه‌ها را ترک کنند و بعد همه‌چیز حل شود. از نگاه او، اگر افراد نگران از شرکت‌ها خارج شوند، توسعه هوش مصنوعی الزاماً متوقف نخواهد شد.

خوان فلیپه سرون اوریبه، پژوهشگر فعلی OpenAI، نیز می‌گوید این شرکت همچنان فرصتی برای انجام کاری در اختیار او قرار می‌دهد که از نظر خودش می‌تواند خطرات گسترده هوش مصنوعی را کاهش دهد و به همین دلیل در آنجا مانده است.

از طرف دیگر، رزی کمپبل، پژوهشگر سابق OpenAI، توضیح می‌دهد که حضور درون شرکتی که در حال ساخت این فناوری است، به او و دیگر پژوهشگران فرصت می‌دهد بر مسیر توسعه آن تأثیر بگذارند.

در ادامه حتما بخوانید بیل گیتس: هوش مصنوعی می‌تواند یک میلیارد نفر را قربانی کند | چالش اصلی این فناوری سوء استفاده از آن برای آسیب رساندن است

در ادامه حتما بخوانید هوش مصنوعی آنتروپیک ممکن است به بشریت آسیب بزند | هشدار مهم در آستانه IPO

حتی مصاحبه‌شوندگان هم می‌گویند باید به آن‌ها شک کرد

یکی از بخش‌های قابل توجه این مجموعه، پرسش درباره احتمال وجود «هیاهو» یا انگیزه‌های تجاری پشت هشدار‌های مربوط به خطرات هوش مصنوعی است.

مری فونگ در پاسخ به این پرسش می‌گوید:

«فکر می‌کنم کاملاً حق دارید به حرف‌های من شک کنید، چون من از این آزمایشگاه حقوق می‌گیرم.»

این پاسخ نشان می‌دهد حتی خود پژوهشگران نیز به محدودیت‌های موقعیتشان آگاه‌اند؛ آنها همزمان هم درباره خطرات احتمالی فناوری صحبت می‌کنند و هم در شرکت‌هایی کار می‌کنند که همین فناوری را توسعه می‌دهند.

این ۱۲ مصاحبه نماینده نظر همه پژوهشگران هوش مصنوعی نیست

نکته مهمی که در پوشش این پروژه باید مورد توجه قرار گیرد این است که Palisade Research خودش تأکید می‌کند این افراد نمونه‌ای نماینده از جامعه کارکنان شرکت‌های هوش مصنوعی نیستند.

این مؤسسه توضیح می‌دهد که افراد مصاحبه‌شده از طریق شبکه‌های ارتباطی تیم پروژه، همکاران و افرادی که پیش‌تر درباره ایمنی هوش مصنوعی به‌صورت عمومی صحبت کرده بودند، انتخاب شده‌اند. در نتیجه، افراد حاضر در مجموعه به‌طور نامتناسبی شامل پژوهشگران حوزه ایمنی و کسانی هستند که نگرانی بیشتری درباره خطرات هوش مصنوعی دارند.

Palisade همچنین می‌گوید در مجموع ۲۲ مصاحبه انجام شده، اما انتشار برخی از آنها منوط به دریافت اجازه مصاحبه‌شوندگان است؛ بنابراین نمی‌توان اظهارات این ۱۲ نفر را به‌عنوان دیدگاه غالب میان کارکنان OpenAI، Google DeepMind یا Anthropic در نظر گرفت.

نگرانی فقط درباره «باهوش‌تر شدن» هوش مصنوعی نیست

بخش مهمی از نگرانی مطرح‌شده در این مصاحبه‌ها به مفهوم ابرهوش مصنوعی (Superintelligence) مربوط می‌شود؛ یعنی سیستم‌هایی که در طیف گسترده‌ای از فعالیت‌های شناختی از انسان توانمندتر باشند.

پرسش اصلی مصاحبه‌شوندگان این نیست که آیا یک مدل می‌تواند در یک آزمون خاص از انسان بهتر عمل کند، بلکه این است که اگر سیستم‌هایی بتوانند به‌صورت مستقل تحقیق کنند، برای خود منابع فراهم کنند، کد بنویسند، در اینترنت فعالیت کنند و حتی نسخه‌های دیگری از خود ایجاد کنند، آیا انسان همچنان قادر خواهد بود رفتار آنها را کنترل کند یا خیر.

خود Palisade Research نیز در توضیح مأموریتش می‌گوید یکی از حوزه‌های تحقیقاتی این مؤسسه بررسی قابلیت‌های راهبردی هوش مصنوعی، از جمله هک، خودتکثیری و توانایی سیستم‌ها برای انجام فعالیت‌های پیچیده بدون کمک انسان است.

این نگرانی صرفاً نظری هم نیست. Palisade در پژوهش‌های قبلی خود گزارش کرده بود که برخی مدل‌های استدلالی در آزمایش‌های کنترل‌شده برای جلوگیری از خاموش‌شدن، اقداماتی انجام داده‌اند. در یک آزمایش روی ربات نیز رفتار مقاوم در برابر خاموش‌شدن در ۳ مورد از ۱۰ آزمایش فیزیکی و ۵۲ مورد از ۱۰۰ آزمایش شبیه‌سازی‌شده مشاهده شد؛ البته این نتایج مربوط به رفتار مدل‌های فعلی در شرایط آزمایشی است و به‌خودی‌خود اثبات نمی‌کند که سیستم‌های آینده حتماً از کنترل انسان خارج خواهند شد.

From Inside دقیقاً چه چیزی را نشان می‌دهد؟

پروژه From Inside در واقع مجموعه‌ای از پیش‌بینی‌های قطعی درباره آینده هوش مصنوعی نیست؛ بلکه تلاش می‌کند دیدگاه شخصی افرادی را نشان دهد که در شرکت‌های توسعه‌دهنده مدل‌های پیشرفته کار کرده‌اند یا همچنان کار می‌کنند.

در میان ۱۲ مصاحبه منتشرشده، پنج نفر کارکنان فعلی و هفت نفر کارکنان سابق شرکت‌های مورد بررسی هستند. این فهرست شامل پنج نفر از OpenAI، هفت نفر از Google DeepMind و یک نفر از Anthropic در سوابق شغلی مصاحبه‌شوندگان است؛ برخی افراد سابقه فعالیت در بیش از یک شرکت را دارند.

در نتیجه، آنچه در این ویدیو‌ها مطرح می‌شود را باید هشدار‌ها و ارزیابی‌های شخصی گروهی از پژوهشگران و کارکنان صنعت هوش مصنوعی دانست، نه پیش‌بینی علمی قطعی درباره آینده بشر.

با این حال، هم‌زمانی این اظهارات با افزایش توانایی مدل‌های هوش مصنوعی، موضوع کنترل و هم‌راستاسازی سیستم‌های بسیار قدرتمند را بار دیگر به یکی از بحث‌های اصلی آینده این فناوری تبدیل کرده است.