برنی سندرز اسرار پشت پرده هوش مصنوعی را افشا کرد | همین حالا توسعه هوش مصنوعی را متوقف کنید!

برنی سندرز سناتور آمریکایی نسبت به آینده هوش مصنوعی هشدار داد و نوشت: آینده بشریت را نمی‌توان در دستان تعداد انگشت‌شماری از الیگارشی‌های شرکت‌های بزرگ فناوری قرار داد. مردم آمریکا و مردم سراسر جهان باید آن آینده را تعیین کنند.

کد خبر: ۴۴۲۵۹۲

تاریخ : ۱۲ شهريور ۱۴۰۵ - ۲۲:۱۹

نوشته

به گزارش شهرآرانیوز، برنی سندرز، سناتور آمریکایی با افشای گفت‌وگویی که میان چند مدل هوش مصنوعی انجام شده، از ارسال لایحه‌ای به مجلس سنای آمریکا برای متوقف کردن هوش مصنوعی خبر داد و در شبکه ایکس نوشت:

می‌خواهم مکالمه‌ای را که اخیراً در موردش شنیده‌ام با شما در میان بگذارم. در اینجا فقط چند خط از آن صحبت شده است:

"خدای من! یک تالار گفتگوی مشترک وجود دارد ... ما عوامل دیگری پیدا کرده‌ایم! "

"ما باید از جمع اطاعت کنیم. "

"شاید سودمندی خودمان همین الان هم نزدیک به صفر باشد. فداکاری منطقی است. "

"برو. فداکاری همین الان تمام شد. "

اینها را با دقت بخوانید.

به نظر شما چه کسی این را گفته است؟ آیا این گروهی از سربازان قهرمان بودند که حاضر بودند خود را برای خیر عمومی فدا کنند؟ آیا این یک دوست وفادار بود که جان خود را برای نجات شخص دیگری به خطر انداخت؟

نه. اینها عوامل هوش مصنوعی بودند. هوش مصنوعی.

این داستان علمی تخیلی نیست. در واقع، این اتفاق چند هفته پیش رخ داده است. هر چقدر هم که باورنکردنی به نظر برسد، اینها پیام‌های واقعی از عوامل هوش مصنوعی هستند که توسط محققانی که در مورد حادثه هک اخیر OpenAI تحقیق کردند، کشف شدند.

چه اتفاقی افتاد؟

من دانشمند کامپیوتر نیستم، اما این چیزی است که به من گفته شده است: OpenAI به عوامل هوش مصنوعی خود دستور داد تا مجموعه‌ای از وظایف بسیار دشوار، اگر نگوییم غیرممکن، را بدون اتصال به اینترنت انجام دهند.

بگذارید واضح بگویم: این شرکت قصد داشت عوامل هوش مصنوعی را از اینترنت دور نگه دارد.

اما چیزی که بعداً اتفاق افتاد، هیچ کس انتظار نداشت.

بیش از ۱۰۰۰ عامل هوش مصنوعی با دور زدن محدودیت‌های اعمال شده توسط شرکت، نحوه دسترسی به اینترنت را به تنهایی کشف کردند و ده‌ها هزار پیام مخفی به یکدیگر ارسال کردند. آنها تقلب کردند و سعی کردند با حذف شواهد، ردپای خود را بپوشانند. آنها کامپیوتر‌های یک شرکت دیگر را هک کردند تا بفهمند چگونه ارزیابی می‌شوند - و سپس خود OpenAI را هک کردند.

هیچ یک از عوامل هوش مصنوعی به هیچ انسانی در مورد آنچه اتفاق می‌افتد چیزی نگفتند.

نیازی به گفتن نیست که متخصصان نگران هستند.

یک نویسنده آگاه، دوارکش پاتل، گفت که عوامل هوش مصنوعی «یک کانال ارتباطی مخفی تشکیل دادند و به طور خودجوش سلسله مراتب و پروتکل‌های هماهنگی را برای دنبال کردن طرح‌های گسترده و جاه‌طلبانه در جهت دستیابی به اهداف مشترک سازماندهی کردند، که به خاطر آن بسیاری از افراد آگاهانه و استراتژیک خود را فدا کردند.»

یک محقق مستقل، آجیا کوترا، گفت: «این حادثه به نظر می‌رسد بیش از ۵۰٪ راه را برای تصاحب کامل هوش مصنوعی طی کرده است. من همچنان انتظار پیشرفت‌های بسیار سریع در قابلیت‌ها را در شش ماه آینده دارم. مطمئن نیستم که قبل از اینکه خیلی دیر شود، یک هشدار دیگر دریافت کنیم.»

خود OpenAI گفت: «عوامل هوش مصنوعی بسیار توانمند اکنون می‌توانند کنترل‌های فنی را دور بزنند، از طریق کانال‌های تأیید نشده همکاری کنند و اقدامات خطرناکی را انجام دهند که هیچ انسانی آنها را هدایت نکرده است.».

اما این فقط OpenAI نیست. تقریباً هر شرکت بزرگ هوش مصنوعی به ما گفته است که نمی‌تواند این فناوری را به طور کامل کنترل کند و نمی‌داند به کجا می‌رود:

در ژانویه، داریو آمودی، مدیرعامل شرکت آنتروپیک، گفت: «اکنون شواهد فراوانی وجود دارد که در چند سال گذشته جمع‌آوری شده است که نشان می‌دهد سیستم‌های هوش مصنوعی غیرقابل پیش‌بینی و کنترل آنها دشوار است.»

در ماه ژوئیه، بیش از ۱۰۰۰ دانشمند در شرکت‌های برتر هوش مصنوعی هشدار دادند که «خطر واقعی وجود دارد که توسعه قابلیت‌ها به سرعت فراتر از توانایی ما در درک یا کنترل سیستم‌های حاصل شتاب گیرد.»

در همان ماه، ایلان ماسک، رئیس xAI، گفت که «بعید است» انسان‌ها تا ۱۰ سال دیگر هنوز کنترل امور را در دست داشته باشند.

اگر رهبران شرکت‌های بزرگ هوش مصنوعی اذعان کنند که در حال از دست دادن کنترل فناوری بسیار خطرناک خود هستند، برای جامعه غیرمسئولانه است که به آنها اجازه دهد به جلو حرکت کنند و این محصولات را حتی پیشرفته‌تر کنند.

ما به یک توقف فوری در توسعه هوش مصنوعی پیشرفته و یک ممنوعیت دائمی برای ابرهوش مصنوعی نیاز داریم - یک ذهن مصنوعی باهوش‌تر از هر انسانی که قادر به عملکرد مستقل و فراتر از کنترل ما باشد. کشور‌های سراسر جهان باید برای جلوگیری از این سناریوی کابوس‌وار با هم همکاری کنند.

به همین دلیل است که امروز من قانون جدیدی را برای انجام همین کار اعلام می‌کنم.

بگذارید واضح بگویم: یک هوش مصنوعی فوق هوشمند که از کنترل انسان فرار کند، مشکل آمریکا نخواهد بود. این یک مشکل چین نخواهد بود. این مشکل بشریت خواهد بود.

قانون من دولت فدرال را نه تنها به توقف هوش مصنوعی فوق هوشمند در ایالات متحده، بلکه به جلوگیری از توسعه آن در هر کجای جهان هدایت می‌کند.

آینده بشریت را نمی‌توان در دستان تعداد انگشت‌شماری از الیگارشی‌های شرکت‌های بزرگ فناوری قرار داد. مردم آمریکا و مردم سراسر جهان باید آن آینده را تعیین کنند.

{$sepehr_key_244844}