بیل گیتس: هوش مصنوعی میتواند یک میلیارد نفر را قربانی کند | چالش اصلی این فناوری سوء استفاده از آن برای آسیب رساندن است
بیل گیتس، همبنیان گذار مایکروسافت با هشدار درباره افزایش تواناییهای هوش مصنوعی، خطر اصلی این فناوری در شرایط فعلی را نه «خارج شدن AI از کنترل»، بلکه سوءاستفاده افراد بدخواه از مدلها و Agentهای پیشرفته میداند؛ تهدیدی که به گفته او میتواند از حملات سایبری و کلاهبرداری تا اقدامات بیوتروریستی گسترش پیدا کند.
به گزارش شهرآرانیوز، در شرایطی که هوش مصنوعی در دسترس عموم کاربران قرار گرفته، هر روز خبر جدیدی از رفتارهای خراب کارانه یا نفوذهای بدون دستور از Agentهای شرکتهای صاحب نظر این حوزه به گوش میرسد. برای مثال آخرین مواردی که اعلام شده حاکی از این بوده که عاملهای خودمختار شرکت OpenAI تصاویر شخصی کاربران که برای مدلهای این شرکت بارگذاری کرده بودند را در فضای اینترنت منتشر کردهاند. قبلتر از این دولت استرالیا اعلام کرد که یک عامل هوش مصنوعی با نفوذ به یک سامانه دولتی این کشور به دادههای غیر عمومی دسترسی پیدا کرده است.
با تمام این اتفاقات، کاربران و متخصصان، مدیران ارشد شرکتهای فناوری و توسعه دهندگان هوش مصنوعی هشدارهای زیادی در رابطه با مخاطرات هوش مصنوعی دادهاند. حالا نوبت به بیل گیتس رسیده، همبنیانگذار مایکروسافت و یکی از تاثیرگذارترین چهرههای انقلاب دیجیتال در گفتوگویی با شبکه NBC آمریکا در تاریخ ۲۷ سپتامبر ۲۰۲۶ (۵ مهر ۱۴۰۵) به موضوع هوش مصنوعی و خطرهای آن در آیندهی نزدیک پرداخته است.
همبنیانگذار مایکروسافت در این گفتوگو تلاش میکند میان دو مسئله تفاوت قائل شود؛ نخست، احتمال خارج شدن خود هوش مصنوعی از کنترل انسان و دوم، استفاده انسانهای بدخواه از تواناییهای روزافزون این فناوری؛ به گفته او، هوش مصنوعی هنوز به مرحلهای نرسیده است که بتوان گفت کنترل آن بهطور کامل از دست انسان خارج شده است، چرا که همچنان زیرساختها و رایانههایی که این سامانهها روی آنها اجرا میشوند در اختیار انسان قرار دارند و میتوان آنها را خاموش کرد.
با این حال، از نگاه یکی از تأثیرگذارترین چهرههای فناوری جهان این مسئله به معنای نبود خطر فوری نیست. او معتقد است بزرگترین تهدید در شرایط فعلی، افرادی هستند که با نیت مخرب از قابلیتهای جدید هوش مصنوعی استفاده میکنند.
هوش مصنوعی؛ ابزاری برای قدرت دادن به مهاجمان
او در ادامه میگوید: مدلهای زبانی در نسلهای اولیه عمدتاً به پرسشهای کاربر پاسخ میدادند و در نهایت میتوانستند کد یا دستورالعملی را در اختیار او قرار دهند؛ اما عاملهای جدید میتوانند به ابزارهای مختلف متصل شوند و بخشی از فرایند اجرای یک وظیفه را نیز بر عهده بگیرند.
به این ترتیب، فاصله میان «تولید یک پاسخ خطرناک» و «اجرای یک عملیات» در حال کاهش است. هرچه Agentها دسترسی بیشتری به مرورگر، ترمینال، فایلها، کدها و سرویسهای مختلف پیدا کنند، مسئله امنیت نیز از محتوای تولیدشده توسط مدل فراتر میرود و به سطح دسترسی و اقداماتی که عامل میتواند انجام دهد، کشیده میشود.
از همینرو خالق ویندوز هشدار داد هوش مصنوعی میتواند تواناییهایی را که زمانی در اختیار بزرگترین کشورها و سازمانها بود، در اختیار گروههای بسیار کوچک قرار دهد. به همین دلیل، از نگاه گیتس، ترکیب نیت مخرب با ابزارهای جدید هوش مصنوعی یکی از مهمترین تهدیدهای نزدیک است.
هشدار درباره یک میلیارد قربانی
پیشگام انقلاب دیجیتال در ادامه گفتوگو درباره این احتمال که هوش مصنوعی بتواند به نابودی گسترده بشر منجر شود، میگوید این فناوری به اندازهای قدرتمند شده است که میتواند در شکلگیری اتفاقاتی نقش داشته باشد که به مرگ یک میلیارد نفر منجر شود. با این حال، سخنان گیتس به معنای پیشبینی وقوع چنین اتفاقی نیست. او این موضوع را برای توضیح سطح توانایی بالقوه هوش مصنوعی مطرح میکند.
این برنامه نویس بزرگ در بخش دیگری از صحبتهای خود از رسیدن هوش مصنوعی به آستانههای خطرناک صحبت میکند؛ منظور او وقوع حملات گسترده توسط خود هوش مصنوعی نیست، بلکه افزایش توانایی مدلهای جدید برای کمک به انجام اقداماتی است که پیش از این به تخصص و منابع بسیار بیشتری نیاز داشتند. او مشخصاً به دو حوزه اشاره میکند: توانایی کمک به طراحی ابزارهای بیوتروریستی و توانایی شناسایی نقصهای نرمافزاری برای حمله به زیرساختهای حیاتی.
گیتس در عین حال میان این تهدید فوری و نگرانی بلندمدت درباره «خودمختاری» هوش مصنوعی تفاوت میگذارد. به گفته او، ممکن است در آینده سازندگان یک سیستم از میزان استقلال و توانایی آن غافلگیر شوند و خود هوش مصنوعی دست به اقداماتی بزند که پیشبینی نشده است؛ اما این سناریو با خطری که امروز وجود دارد متفاوت است. از نگاه گیتس، اگر همین حالا یک حمله گسترده رخ دهد، عامل اصلی آن انسانهایی خواهند بود که از هوش مصنوعی برای انجام چنین اقدامی استفاده کردهاند، نه یک هوش مصنوعی که بهطور مستقل تصمیم گرفته باشد حمله کند.
تاکید بیل گیتس روی نظارت
راهکاری که گیتس برای مواجهه با این شرایط مطرح میکند، صرفاً خاموش کردن هوش مصنوعی نیست. او بر ایجاد سازوکارهایی برای نظارت و ثبت فعالیت مدلها تأکید دارد.
به اعتقاد او، باید بتوان مشخص کرد مدلهای پیشرفته چه کاری انجام میدهند و چه اقداماتی توسط آنها صورت گرفته است. این موضوع در مورد Agentها اهمیت بیشتری پیدا میکند؛ زیرا یک عامل خودمختار برخلاف یک چتبات ساده میتواند مجموعهای از اقدامات را پشت سر هم انجام دهد.
گیتس در همین رابطه درباره ایده «کلید قطع اضطراری» نیز میگوید وجود یک Kill Switch بهتنهایی کافی نیست. از نگاه او، برای جلوگیری از رفتارهای مخرب باید امکان مشاهده و ثبت فعالیتهای سیستم وجود داشته باشد. خاموش کردن یک سیستم پس از وقوع حادثه، لزوماً مانع وقوع خود حادثه نمیشود.
گیتس در بخش دیگری از این گفتوگو صراحتاً از قانونگذاری برای هوش مصنوعی حمایت میکند و معتقد است نمیتوان تمام مسئولیت ایجاد سازوکارهای ایمنی را به خود شرکتهای فناوری واگذار کرد.
او تأکید دارد که سیاستگذاران و نهادهای اجرای قانون باید وارد این بحث شوند و وجود سازوکارهای نظارتی و ایمنی برای مدلهای هوش مصنوعی باید به یک الزام تبدیل شود.
خطر فعلی با «خارج شدن AI از کنترل» یکی نیست
بیل گیتس معتقد است نگرانی درباره اینکه «آیا روزی خود AI علیه انسان اقدام خواهد کرد؟» نباید باعث شود تهدید نزدیکتر یعنی «چه کسانی همین امروز میتوانند از AI برای آسیب رساندن استفاده کنند؟» نادیده گرفته شود.
این تفکیک در شرایطی اهمیت بیشتری پیدا میکند که Agentهای هوش مصنوعی بهسرعت در حال گسترش هستند؛ عاملهایی که دیگر صرفاً پاسخ تولید نمیکنند و میتوانند با اتصال به ابزارهای مختلف، وظایف چندمرحلهای را برنامهریزی و اجرا کنند؛ بنابراین گیتس بر این اعتقاد است، جامعه نباید منتظر وقوع یک حمله سایبری گسترده یا یک حادثه بزرگ بماند تا درباره سازوکارهای ایمنی تصمیم بگیرد. از نگاه او، نظارت و ایجاد ضمانتهای امنیتی باید پیش از وقوع چنین اتفاقاتی در ساختار توسعه و استفاده از هوش مصنوعی قرار گیرد.
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
