شهرآرانیوز، «ایوان هوبینگر» (Evan Hubinger)، از محققان ارشد حوزه همترازی هوش مصنوعی در شرکت آنتروپیک، با انتشار پستی در شبکه اجتماعی ایکس، ارزیابی نگرانکنندهای از پیامدهای احتمالی توسعه هوش مصنوعی پیشرفته ارائه کرده است. او میگوید شخصاً احتمال اینکه هوش مصنوعی طی یک دهه آینده به نابودی بشر منجر شود را بیش از ۱۰ درصد میداند.
هوبینگر این اظهارات را در واکنش به پستی از «جیکوب کاکسون» مطرح کرد که نوشته بود کارکنان آزمایشگاههای پیشرو هوش مصنوعی واقعاً احتمال میدهند این فناوری تا پایان دهه بتواند به نابودی انسانها منجر شود و این نگرانی صرفاً بخشی از تبلیغات یا فضاسازی رسانهای نیست.
محقق آنتروپیک ضمن تأیید این نگرانی نوشت که به باور او، شرکت آنتروپیک بهطور جدی برای کاهش خطرات هوش مصنوعی تلاش میکند، اما در حال حاضر برنامهای مشخص برای حل مسئله «همترازی ابرهوش» وجود ندارد و روند کنونی نیز نشان نمیدهد که این چالش لزوماً بهموقع حل خواهد شد.
نگرانی از ظهور ابرهوش و «بهبود خودبازگشتی»
یکی از محورهای اصلی نگرانی هوبینگر، احتمال ظهور ابرهوش مبتنی بر «بهبود خودبازگشتی» است؛ وضعیتی که در آن یک سامانه هوش مصنوعی بتواند در توسعه و ارتقای نسلهای بعدی خود نقش فزایندهای ایفا کند و در نتیجه، سرعت افزایش تواناییهای آن از ظرفیت انسان برای ارزیابی و کنترلش پیشی بگیرد.
هوبینگر در پست دیگری با اشاره به تازهترین گزارش ریسک آنتروپیک تأکید کرد که از نگاه او، تهدیدهای ناشی از مدلهای فعلی نسبتاً محدود است و نگرانی اصلی به آینده مربوط میشود؛ زمانی که ابرهوش حاصل از بهبود خودبازگشتی به واقعیت نزدیک شود. به گفته او، این سناریو ممکن است سریعتر از آنچه پیشتر تصور میشد، رخ دهد.
آنتروپیک نیز در گزارشها و سیاستهای ایمنی خود به خطرات احتمالی افزایش استقلال و توانمندی مدلهای هوش مصنوعی پرداخته است. هرچه سامانهها توانایی بیشتری در انجام وظایف پیچیده، توسعه نرمافزار و کمک به ساخت مدلهای قدرتمندتر پیدا کنند، مسئله نظارت بر رفتار و اطمینان از سازگاری اهداف آنها با خواستههای انسان اهمیت بیشتری خواهد یافت.
رقابت هوش مصنوعی در کنار یک پرسش بیپاسخ
اظهارات هوبینگر از این جهت قابل توجه است که از سوی پژوهشگری مطرح میشود که مستقیماً روی مسئله همترازی هوش مصنوعی فعالیت دارد؛ حوزهای که هدف آن اطمینان از سازگاری رفتار سامانههای بسیار پیشرفته با اهداف و ارزشهای انسانی است.
در همین حال، رقابت شرکتهای بزرگ هوش مصنوعی برای توسعه مدلهای توانمندتر با سرعت ادامه دارد. این شرایط یک پرسش اساسی را پررنگتر کرده است: آیا پیشرفت روشهای ایمنی و کنترل هوش مصنوعی میتواند همگام با افزایش سریع توانایی این سامانهها حرکت کند؟
برآورد «بیش از ۱۰ درصد» هوبینگر یک پیشبینی قطعی یا محاسبه علمی درباره آینده بشر محسوب نمیشود، بلکه ارزیابی شخصی او از سطح خطر است. بااینحال، مطرحشدن چنین احتمالی از سوی یکی از پژوهشگران فعال در خط مقدم ایمنی هوش مصنوعی نشان میدهد که نگرانی درباره کنترل ابرهوش، در داخل شرکتهای سازنده مدلهای پیشرفته نیز به مسئلهای جدی تبدیل شده است.
{$sepehr_key_246594}