ماجرای اختلافات شرکت هوش مصنوعی «آنتروپیک» و ترامپ | آیا آتش‌بس نزدیک است؟

دو ماه پیش، ترامپ استارت‌آپ هوش مصنوعی «آنتروپیک» (Anthropic) را محکوم کرد و آن را شرکتی «بیدار» خواند که توسط «دیوانه‌های چپ‌گرا» اداره می‌شود. اما پس از آن که ابزار سایبری جدید آنتروپیک باعث ایجاد ترس در سراسر دولت شد، طرفین دوباره در حال گفتگو هستند.

کد خبر: ۴۰۷۶۸۹

تاریخ : ۲۹ فروردين ۱۴۰۵ - ۱۲:۴۲

نوشته

شهرآرانیوز؛ دولت ترامپ به‌طور علنی از شدت تنش‌ها در رویارویی با شرکت توسعه‌دهنده هوش مصنوعی، «آنتروپیک» (Anthropic)، بر سر محدودیت‌های اخلاقی در استفاده از هوش مصنوعی این شرکت می‌کاهد؛ چرا که نگرانی‌ها در مورد ابزار قدرتمند هکری جدید این شرکت، تلاش رئیس‌جمهور برای قطع پیوند‌های این استارت‌آپ با دولت را تضعیف کرده است. دیدار پرماجرای داریو آمودی، مدیرعامل آنتروپیک، با سوزی وایلز، رئیس ستاد کاخ سفید، اسکات بسنت، وزیر خزانه‌داری، و شان کرکراس، مدیر ملی سایبری، در بعدازظهر جمعه، در تضاد با ماه‌ها جنجال و دعوای حقوقی میان دو طرف بود.

هرگونه صلح با آنتروپیک برای دونالد ترامپ، رئیس‌جمهور آمریکا، و پیت هگست، وزیر دفاع، که سعی کرده بودند از قدرت عظیم بازار دولت فدرال علیه یکی از پیشرفته‌ترین شرکت‌های هوش مصنوعی ایالات متحده استفاده کنند، یک عقب‌نشینی چشمگیر محسوب می‌شود. آنتروپیک هفته گذشته پس از اعلام ابزار جدید قدرتمند سایبری به نام «میتوس» (Mythos) که باعث شد آژانس‌های فدرال برای دسترسی به این نرم‌افزار و ارزیابی میزان خطری که ایجاد می‌کند، دست به کار شوند، اهرم فشاری جدید به دست آورد.

{$sepehr_key_205119}

پس از دیدار روز جمعه، سخنگویان آنتروپیک و کاخ سفید هر دو این نشست را نقطه شروعی «مفید» توصیف کردند.

کاخ سفید در بیانیه‌ای اعلام کرد: «ما در مورد فرصت‌های همکاری و همچنین رویکرد‌ها و پروتکل‌های مشترک برای رسیدگی به چالش‌های مرتبط با مقیاس‌دهی این فناوری بحث و تبادل نظر کردیم.» در این بیانیه افزوده شد که دولت قصد دارد سایر شرکت‌های پیشرو هوش مصنوعی را برای گفت‌و‌گو‌های مشابه به کاخ سفید دعوت کند.

آنتروپیک نیز اعلام کرد این دیدار نشان‌دهنده «تعهد مستمر این شرکت به همکاری با دولت ایالات متحده در زمینه توسعه هوش مصنوعی مسئولانه» است و شامل بحث‌هایی در مورد مشارکت در اولویت‌های مشترک از جمله امنیت سایبری بوده است. در این بیانیه هیچ اشاره‌ای به میتوس نشده است.

دین بال، مشاور ارشد پیشین ترامپ در امور هوش مصنوعی که به‌طور علنی از نحوه برخورد هگست با اختلاف با آنتروپیک انتقاد کرده بود، گفت: «از اینکه می‌بینم آنتروپیک و دولت ایالات متحده به شرایط تجاری سودمند متقابل با یکدیگر نزدیک می‌شوند، خرسندم.»

بال که اکنون یکی از اعضای ارشد بنیاد نوآوری آمریکا، یک اندیشکده با گرایش محافظه‌کار، است، افزود: «امیدوارم این امر نشان‌دهنده یک رابطه سازنده بین همه آزمایشگاه‌های مرزی ایالات متحده و دولت ایالات متحده باشد، زیرا مسائل امنیت ملی در اینجا واقعاً بسیار عمیق هستند.»

این اختلافات در فوریه (بهمن) پس از آن به اوج رسید که آمودی اصرار کرد آنتروپیک اجازه نخواهد داد وزارت دفاع از نرم‌افزار هوش مصنوعی این شرکت برای انجام نظارت گسترده بر آمریکایی‌ها یا استقرار سلاح‌های کاملاً خودمختار استفاده کند. این موضع با اصرار هگست مبنی بر اینکه وزارت دفاع باید اجازه داشته باشد از ابزار‌های هوش مصنوعی برای هر هدف «قانونی» استفاده کند و دولت حرف آخر را بزند، در تضاد بود.

دولت سپس دو ضربه سنگین وارد کرد: در اواخر فوریه، ترامپ به همه آژانس‌های فدرال دستور داد استفاده از آنتروپیک را متوقف کنند و آن را به عنوان شرکتی «بیدار» (woke) که توسط «دیوانه‌های چپ‌گرا» اداره می‌شود، محکوم کرد. چند روز بعد، پنتاگون آنتروپیک را یک تهدید برای زنجیره تأمین امنیت ملی اعلام کرد _ برچسبی که معمولاً برای شرکت‌های مرتبط با دشمنان خارجی در نظر گرفته می‌شود و می‌تواند هر پیمانکاری را که با وزارت دفاع تجارت می‌کند مجبور به توقف استفاده از نرم‌افزار آنتروپیک کند.

کارشناسان حقوقی در آن زمان به پولیتیکو گفتند که این تنبیه‌ها نه تنها قرارداد ۲۰۰ میلیون دلاری آنتروپیک با پنتاگون، بلکه استقلال کل صنعت هوش مصنوعی را تهدید می‌کرد.

آنتروپیک در به چالش کشیدن این مجازات‌ها در دادگاه موفقیت نسبی داشت: یک قاضی فدرال در کالیفرنیا به‌طور موقت برچسب ریسک زنجیره تأمین پنتاگون را مسدود کرد، اما دادگاه استیناف حوزهٔ کلمبیا از انجام اقدام مشابه در این ماه خودداری کرد؛ و سپس میتوس از راه رسید.

ابزار سایبری ترس‌های فراآتلانتیکی را برمی‌انگیزد

با آشکار شدن قابلیت‌های پیشرفته امنیت سایبری مدل جدید هوش مصنوعی، آژانس‌های فدرال و مقامات دولتی بی‌سر و صدا از ممنوعیت ترامپ برای همکاری با این استارت‌آپ عبور کردند، از جمله مرکز استاندارد‌ها و نوآوری هوش مصنوعی وزارت بازرگانی. وزارت خزانه‌داری به رهبری بسنت _ که اخیراً به دنبال دسترسی به میتوس برای تعیین پیامد‌های آن برای دفاع سایبری شرکت‌های بانکی بوده است _ نیز در میان آژانس‌هایی است که برای نحوه اقدام، خواهان راهنمایی هستند.

این نرم‌افزار همچنین باعث نگرانی ناظران اروپایی شده است که به پولیتیکو گفتند نتوانسته‌اند به میتوس دسترسی پیدا کنند.

رهبران فناوری آژانس‌های دولت ایالات متحده پس از اینکه آنتروپیک امسال آزمایش این مدل را آغاز کرد و دسترسی محدودی را به گروهی از شرکت‌ها از جمله جی‌پی مورگان، آمازون و اپل اعطا نمود، به دنبال دسترسی به این مدل رفتند.

آنتروپیک پس از کشف اینکه میتوس قابلیت‌های هکری دارد که بسیار فراتر از مدل‌های قبلی هوش مصنوعی است، به اشتراک‌گذاری محدود آن را آغاز کرد. این قابلیت‌ها شامل توانایی شناسایی و بهره‌برداری خودمختار از آسیب‌پذیری‌های پیچیده نرم‌افزاری، به اصطلاح آسیب‌پذیری‌های روز صفر (zero-day) است که حتی برخی از تیزترین ذهن‌های بشر نیز قادر به رفع آن‌ها نیستند.

این استارت‌آپ هوش مصنوعی همچنین نوشت که این مدل می‌تواند حملات سایبری سرتاسری (end-to-end) را به‌طور خودمختار انجام دهد، از جمله با حرکت در سیستم‌های فناوری اطلاعات سازمانی و زنجیره‌ای‌کردن بهره‌برداری‌ها (exploits). به گفته گزارش آنتروپیک در مورد قابلیت‌های این مدل و ارزیابی‌های ایمنی آن، این مدل همچنین می‌تواند به عنوان یک ضریب نیرو (force-multiplier) برای تحقیقات مورد نیاز برای ساخت سلاح‌های شیمیایی و بیولوژیکی عمل کند و در موارد خاص، هنگام حمله به سیستم‌ها سعی در پوشاندن ردپای خود داشته است.

این یافته‌ها و موارد دیگر این ترس را ایجاد کرده است که اگر مدل به دست افراد نادرست بیفتد، می‌توان از آن برای راه‌اندازی حملات سایبری قدرتمند با سهولت نسبی استفاده کرد. لوگان گراهام، محقق ارشد امنیت در آنتروپیک، قبلاً به پولیتیکو گفته بود که دسترسی زودهنگام به میتوس به محققان و شرکت‌های فناوری داده شده است تا بتوانند نقص‌های موجود در کد‌های حیاتی خود را قبل از بهره‌برداری هکر‌های تحت حمایت دولت یا سایبرجنایتکاران پیدا کنند.

گراهام گفت: «در عرض شش، دوازده یا بیست و چهار ماه، این نوع قابلیت‌ها می‌توانند به سادگی در دسترس همه مردم جهان قرار گیرند.»

آژانس‌ها خواهان دسترسی هستند

طبق ایمیلی که برای آژانس‌های فدرال ارسال شده و به دست پولیتیکو رسیده است، دفتر مدیریت و بودجه (OMB) اکنون در حال بررسی این موضوع است که آیا به آژانس‌ها اجازه استفاده از نسخه «اصلاح‌شده» میتوس داده خواهد شد یا خیر.

گرگوری بارباچیا، مسئول ارشد اطلاعات OMB، اوایل این هفته به چندین آژانس فدرال نوشت: «ما از نزدیک با ارائه‌دهندگان مدل، سایر شرکای صنعتی و جامعه اطلاعاتی همکاری می‌کنیم تا قبل از انتشار احتمالی یک نسخه اصلاح‌شده از مدل برای آژانس‌ها، اطمینان حاصل کنیم که نرده‌های محافظ و تضمین‌های مناسب در جای خود قرار دارند.» بارباچیا افزود که OMB و دفتر مدیر ملی سایبری «به‌روزرسانی همه را ادامه خواهند داد و انتظار می‌رود اطلاعات بیشتری در هفته‌های آینده داشته باشند.»

به گفته یکی از شرکت‌کنندگان در این تماس که به دلیل عدم مجوز برای صحبت علنی درباره آن، ناشناس مانده است، کرکراس، که ریاست دفتر سایبری را بر عهده دارد، این هفته با نمایندگانی از شرکت‌های بخش خصوصی برای بحث در مورد میتوس جلسه تماس تشکیل داد.

این شخص گفت کرکراس اعلام کرده است که دفتر او برای رهبری پاسخ دولت ترامپ به قابلیت‌های هکری مدل قدرتمند جدید آنتروپیک، از حمایت وایلز و جی‌دی ونس، معاون رئیس‌جمهور، برخوردار است. کرکراس در این تماس تقریباً ده دقیقه‌ای، هم میتوس را به عنوان نشانه‌ای از نوآوری هوش مصنوعی ایالات متحده تحسین کرد و هم شرکت‌ها را در مورد خطراتی که این مدل برای شبکه‌هایشان ایجاد می‌کند، هشدار داد.

سخنگویان OMB، دفتر سایبری، وزارت خزانه‌داری و دفتر معاون رئیس‌جمهور به درخواست‌های پولیتیکو برای اظهار نظر پاسخ ندادند.

هفته گذشته، رؤسای چندین بانک بزرگ ایالات متحده با بسنت و جروم پاول، رئیس فدرال رزرو، دیدار کردند تا در مورد نگرانی‌های مربوط به قابلیت‌های سایبری هوش مصنوعی و چگونگی استفاده از این قدرت برای افزایش امنیت زیرساخت‌های حیاتی گفت‌و‌گو کنند.

فرانسوا-فیلیپ شامپاین، وزیر دارایی کانادا، پس از دیدار با بسنت و سایر رهبران مالی جهان، روز جمعه به خبرنگاران گفت که میتوس برای «حفظ یکپارچگی» مؤسسات مالی جهانی «توجه همه ما را می‌طلبد».

{$sepehr_key_205085}