آیا هوش مصنوعی میتواند انسان را منقرض کند؟ | ماجرای هشداری که از سال ۲۰۱۵ آغاز شد
بنیانگذار اسپیسایکس، در گفتوگویی درباره خطراتی صحبت کرد که پیشرفت سریع هوش مصنوعی میتواند برای آینده انسان ایجاد کند؛ بحثی که بار دیگر نگرانیها درباره احتمال خارج شدن هوش مصنوعی از کنترل انسان و پیامدهای آن را مطرح کرده است.
شهرآرانیوز؛ در یک اقامتگاه ساحلی در سنخوان، پورتوریکو، ایلان ماسک، بنیانگذار اسپیسایکس، در گفتوگویی سهساعته درباره سرنوشت وخیم بشریت در صورت پیشرفت سریع هوش مصنوعی شرکت کرد.
به گزارش واشنگتن پست، این نشست در سال ۲۰۱۵ و به ابتکار مؤسسه Future of Life برگزار شد؛ رویدادی که یکی از نخستین گردهماییهای مهم برای بررسی خطرات احتمالی هوش مصنوعی به شمار میرفت.
در میان حدود ۸۰ مهمان این نشست، چهرههای سرشناسی از حوزه هوش مصنوعی حضور داشتند؛ از جمله بنیانگذاران دیپمایند و برخی از افرادی که بعدها OpenAI را تأسیس کردند. نیک بوستروم، فیلسوف دانشگاه آکسفورد و نویسنده کتاب «ابرهوش»، نیز از چهرههای حاضر در این نشست بود.
مکس تگمارک، فیزیکدان و یکی از برگزارکنندگان این کنفرانس، هدف آن را بررسی این موضوع عنوان کرد که چگونه میتوان اطمینان حاصل کرد هوش مصنوعی در آینده برای انسان مفید باقی بماند.
مسیر رسیدن به انقراض
از آن زمان تاکنون، نگرانی درباره احتمال انقراض انسان در نتیجه پیشرفت هوش مصنوعی بارها مطرح شده است. برخی از پژوهشگران و فعالان حوزه فناوری معتقدند اگر سیستمهای هوش مصنوعی به سطحی از توانایی برسند که بتوانند بهصورت مستقل اهداف خود را دنبال کنند، ممکن است کنترل آنها برای انسان دشوار شود.در سالهای اخیر نیز برخی از کارکنان شرکتهای فعال در حوزه هوش مصنوعی درباره چنین خطراتی هشدار دادهاند.
در واشنگتن نیز گروهی با عنوان Pro-Human Assembly شکل گرفته که درباره خطرات احتمالی هوش مصنوعی و پیامدهای آن برای انسان بحث میکند. در میان چهرههای مرتبط با این جریان، برنی سندرز و استیون کی. بَنِن نیز دیده میشوند.
چگونه سناریوهای انقراض شکل میگیرند؟
سناریوهای مختلفی برای چگونگی وقوع یک فاجعه ناشی از هوش مصنوعی مطرح شده است. یکی از این سناریوها به سیستمی مربوط میشود که تواناییهایش بهسرعت از انسان فراتر میرود و در نهایت اهداف خود را بدون توجه به منافع انسان دنبال میکند.
جان آر. هال، پژوهشگر حوزه ریسکهای فاجعهبار، درباره احتمال وقوع چنین سناریوهایی بحث کرده است.
گزارشی از مؤسسه RAND نیز به بررسی تهدیدهای احتمالی ناشی از هوش مصنوعی پرداخته و چهار توانایی را مورد توجه قرار داده است که در صورت ترکیب شدن میتوانند خطرات جدی ایجاد کنند.
بررسی واقعیت درباره آینده
مایکل جی دی ورمیر، پژوهشگر RAND، درباره این موضوع هشدار داده که برخی از قابلیتهای پیشرفته هوش مصنوعی میتوانند پیامدهایی بسیار فراتر از کاربردهای امروزی داشته باشند.
دانیل کوکوتایلو، یکی از نویسندگان سناریوی AI ۲۰۲۷، نیز درباره سرعت احتمالی پیشرفت هوش مصنوعی و پیامدهای آن صحبت کرده است. با این حال، همه پژوهشگران با چنین سناریوهایی موافق نیستند. سوبارائو کامبهامپاتی، استاد دانشگاه ایالتی آریزونا، از جمله افرادی است که نسبت به برخی پیشبینیهای مربوط به انقراض انسان بر اثر هوش مصنوعی تردید دارد.
چهار شرط برای عملی شدن تهدید انقراض
برای آنکه سناریوی انقراض انسان در اثر هوش مصنوعی به واقعیت تبدیل شود، مجموعهای از شرایط باید همزمان اتفاق بیفتد. هوش مصنوعی باید به تواناییهای بسیار پیشرفتهای دست پیدا کند، بتواند بهصورت مستقل عمل کند و در عین حال انسان نتواند رفتار آن را کنترل یا محدود کند. به گفته برخی پژوهشگران، صرفاً قدرتمندتر شدن مدلهای هوش مصنوعی به معنای وقوع چنین سناریویی نیست.
آیا سناریوهای فرضی میتوانند به قانونگذاری کمک کنند؟
تگمارک معتقد است حتی اگر احتمال وقوع برخی سناریوهای انقراض پایین باشد، بررسی آنها میتواند برای سیاستگذاران مفید باشد.
او استدلال میکند که جامعه باید پیش از آنکه فناوریهای بسیار قدرتمند در دسترس قرار بگیرند، درباره نحوه کنترل و استفاده از آنها تصمیمگیری کند.
با این حال، سیاستگذاران سابقهای در برخورد بیش از حد ملاحظهکارانه با بخش فناوری دارند و همین موضوع میتواند روند قانونگذاری را با چالش مواجه کند.
نقش جامعه در سناریوهای انقراض
بحث درباره خطرات هوش مصنوعی تنها به دانشمندان و شرکتهای فناوری محدود نمیشود. این موضوع بهتدریج وارد بحثهای سیاسی و اجتماعی نیز شده است.
برخی از طرفداران این دیدگاه معتقدند جامعه باید درباره سرعت توسعه هوش مصنوعی و نحوه استفاده از آن تصمیم بگیرد، در حالی که مخالفان هشدارهای مربوط به انقراض بر محدودیت شواهد موجود برای اثبات چنین سناریوهایی تأکید دارند.
چرا بحث انقراض دوباره جدی شده است؟
بسیاری از پیشبینیهایی که در سالهای گذشته درباره سرعت پیشرفت هوش مصنوعی مطرح شده بودند، تا حد زیادی درست از آب درآمدهاند.
رشد سریع مدلهای هوش مصنوعی مولد، افزایش توانایی آنها در انجام وظایف پیچیده و حرکت صنعت به سمت سیستمهای خودمختار باعث شده است برخی از نگرانیهای قدیمی دوباره مورد توجه قرار بگیرند.
تگمارک معتقد است این تحول پیشبینیشده در آینده میتواند پیامدهای مهمی داشته باشد و به همین دلیل باید از هماکنون درباره آن فکر کرد.
آزمایش فکری «گیره کاغذ»؛ یک سناریوی مشهور
یکی از مشهورترین مثالها برای توضیح خطرات احتمالی هوش مصنوعی، آزمایش فکری «گیره کاغذ» است که توسط نیک بوستروم مطرح شد.
در این سناریو، یک هوش مصنوعی مأمور میشود تعداد هرچه بیشتری گیره کاغذ تولید کند. اگر سیستم بهاندازه کافی قدرتمند شود و هدف خود را بهصورت افراطی دنبال کند، ممکن است تمام منابع موجود را برای تولید گیره کاغذ مصرف کند و در نهایت انسانها را نیز بهعنوان مانعی بر سر راه هدف خود حذف کند.
این مثال قرار نیست یک پیشبینی واقعی باشد، بلکه برای نشان دادن خطر تعیین اهداف نادرست برای یک سیستم بسیار قدرتمند استفاده میشود.
تگمارک و امید به همکاری آمریکا و چین
تگمارک همچنین بر اهمیت همکاری میان آمریکا و چین در زمینه هوش مصنوعی تأکید کرده است. از نظر او، رقابت میان دو کشور نباید باعث شود نگرانیهای مربوط به ایمنی هوش مصنوعی نادیده گرفته شود.
کنفرانس پورتوریکو و بحثهایی که در آن مطرح شد، تأثیر قابل توجهی بر گفتمان مربوط به خطرات هوش مصنوعی داشت. با این حال، صنعت فناوری در سالهای بعد مسیر متفاوتی را دنبال کرد.به جای اتخاذ رویکردی محتاطانه، صنعت با شتاب به جلو رفت و برای متقاعد کردن قانونگذاران به هموار کردن مسیر لابی کرد.
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
