هشدار دبیر کل سازمان ملل درباره توسعه هوش مصنوعی

آنتونیو گوترش دبیرکل سازمان ملل در نشست شورای امنیت درباره هوش مصنوعی هشدار داد: گسترش هوش مصنوعی به سیستم‌های امنیتی نگرانی‌های اساسی را در مورد حقوق بشر، کرامت و حاکمیت قانون ایجاد می‌کند.

کد خبر: ۳۰۶۳۳۰

تاریخ : ۲۹ آذر ۱۴۰۳ - ۲۰:۵۷

نوشته

به گزارش شهرآرانیوز، آنتونیو گوترش دبیرکل سازمان ملل روز پنجشنبه به وقت محلی در نشست شورای امنیت درباره هوش مصنوعی گفت: تکنولوژی بسیار سریع در حال حرکت است باید این واقعیت ساده درک شود؛ فناوری هرگز در آینده به کندی امروز حرکت نخواهد کرد.

گوترش افزود: در مدت کوتاهی، هوش مصنوعی با سرعت سرسام آوری پیشرفت کرده است. هوش مصنوعی فقط دنیای ما را تغییر شکل نمی‌دهد، بلکه آن را متحول می‌کند. وظایفی که به سال‌ها تخصص انسانی نیاز داشت، اکنون با یک چشم به هم زدن انجام می‌شوند. اما خطرات به همان اندازه بزرگ هستند.

دبیر کل سازمان ملل اضافه کرد: این رشد سریع در حال پیشی گرفتن از توانایی ما برای اداره آن است و سؤالات اساسی در مورد مسئولیت پذیری، برابری، ایمنی و امنیت در مورد نقش بشریت در فرآیند تصمیم گیری ایجاد می‌کند.

او تصریح کرد: هوش مصنوعی بدون نظارت انسان، جهان را کور می‌کند و شاید هیچ کجا خطرناکتر و بی پرواتر از صلح و امنیت جهانی نباشد.

گوترش ادامه داد: ابزار‌های هوش مصنوعی در حال حاضر تغییرات مثبتی را در کشور‌هایی که از درگیری و ناامنی رنج می‌برند ایجاد کرده‌اند مانند شناسایی ناامنی غذایی و پیش‌بینی جابجایی‌های ناشی از رویداد‌های شدید و تغییرات آب و هوایی، شناسایی و پاکسازی مین‌ها و به زودی، هوش مصنوعی می‌تواند الگو‌های ناآرامی را قبل از وقوع خشونت شناسایی کند.

او گفت:، اما هوش مصنوعی به شیوه‌های نگران کننده تری نیز وارد میدان جنگ شده است. درگیری‌های اخیر به محل آزمایشی برای کاربرد‌های نظامی هوش مصنوعی تبدیل شده است.

دبیرکل سازمان ملل تاکید کرد: «گسترش هوش مصنوعی به سیستم‌های امنیتی نگرانی‌های اساسی را در مورد حقوق بشر، کرامت و حاکمیت قانون ایجاد می‌کند. مسابقه تسلیحاتی هوش مصنوعی زمینه مساعدی برای سوء تفاهم، محاسبه اشتباه و ایجاد می‌کند.»

گوترش گفت: حملات سایبری مبتنی بر هوش مصنوعی می‌تواند زیرساخت‌های حیاتی یک کشور را فلج کرده و خدمات ضروری را فلج کند. از همه مهمتر، هوش مصنوعی اصل اساسی کنترل انسان بر استفاده از زور را از بین می‌برد.

دبیرکل سازمان ملل افزود: از ارزیابی‌های مبتنی بر هوش تا انتخاب هدف، الگوریتم‌ها قبلاً در تصمیم‌گیری مرگ و زندگی استفاده شده‌اند. ادغام هوش مصنوعی با تسلیحات هسته‌ای به ویژه با پیامد‌های بالقوه فاجعه بار هشدار دهنده است.

او تاکید کرد: ما باید به هر قیمتی از آن اجتناب کنیم. انسان‌ها باید همیشه کنترل خود را بر عملکرد‌های تصمیم‌گیری حفظ کنند، با هدایت قوانین بین‌المللی، از جمله قوانین بین‌المللی بشردوستانه و حقوق بشر، و اصول اخلاقی.

دبیرکل سازمان ملل متحد ادامه داد: هوش مصنوعی محتوای بسیار واقعی ایجاد می‌کند که می‌تواند فوراً در فضای مجازی پخش شود - افکار عمومی را دستکاری کند، یکپارچگی اطلاعات را تهدید کند و حقیقت را از دروغ‌های آشکار متمایز کند.

گوترش تاکید کرد: جعل هویت می‌توانند باعث بحران‌های دیپلماتیک، تحریک ناآرامی و تضعیف پایه‌های جوامع شوند. ردپای زیست محیطی هوش مصنوعی همچنین خطرات امنیتی مشخصی را به همراه دارد.

به گزارش خبرنگار ایرنا از سازمان ملل، مجمع عمومی سازمان ملل متحد قطعنامه مورد حمایت آمریکا در مورد هوش مصنوعی را دوم فروردین ۱۴۰۳ برابر با ۲۱ مارس ۲۰۲۴ با اجماع تصویب کرد که به گفته واشنگتن گام بزرگی در جهت ایجاد یک مسیر جهانی برای تنظیم این فناوری به‌سرعت در حال توسعه است.

این قطعنامه که پس از بیش از سه ماه مذاکرات میان ده‌ها کشور تصویب شد، از کشور‌های عضو سازمان ملل می‌خواهد که از وجود «سیستم‌های هوش مصنوعی ایمن، مطمئن و قابل اعتماد» که مسئولانه توسعه یافته و به حقوق بشر و قوانین بین‌المللی احترام می‌گذارند، اطمینان حاصل کنند و از کشور‌های عضو سازمان ملل می‌خواهد که سیستم‌های هوش مصنوعی ایمن، مطمئن و قابل اعتماد را برای رسیدگی به بزرگترین چالش‌های زمانه ما ترویج کنند و سیستم‌های هوش مصنوعی باید انسان محور، قابل اعتماد و مسئولیت پذیر باشند.

این قطعنامه همچنین می‌خواهد که در بحث هوش مصنوعی به طور کامل به حقوق بشر و قوانین بین المللی احترام گذاشته شود و آنها را ترویج و محافظت کند و تعهداتی را برای از بین بردن شکاف‌های هوش مصنوعی و دیجیتال از طریق افزایش ظرفیت‌سازی و گسترش اتصال و سواد دیجیتال در کشور‌های در حال توسعه تعیین می‌کند تا کشور‌ها از طریق اقدام جمعی بتوانند از هوش مصنوعی برای تسریع توسعه این تکنولوژی استفاده کنند.

این قطعنامه غیرالزام آور بوده و مکانیسم اجرایی را شامل نمی‌شود. بحث‌ها در مورد بهترین نحوه تنظیم هوش مصنوعی بیش از یک سال است که در مجامع دوجانبه و چندجانبه، از اجلاس سران گروه ۷ در ژاپن تا اجلاس ایمنی هوش مصنوعی که نوامبر گذشته به میزبانی انگلستان برگزار شد، جریان داشته است. چندین کشور بزرگ‌جهانی نیز پیش از این، مسیر‌های خود را برای تنظیم هوش مصنوعی تعیین کرده‌اند.

اتحادیه اروپا در اوایل ماه جاری قانون هوش مصنوعی اروپا را پس از تقریباً دو سال بحث و بررسی به تصویب رساند، در حالی که مقامات در چین مقررات نظارتی را برای این تکنولوژی وضع کرده‌اند.