عذرخواهی مدیرعامل OpenAI، به‌دلیل گزارش‌نکردن حساب کاربری عامل تیراندازی در مدرسه‌ای در کانادا

سم آلتمن، مدیرعامل OpenAI، از اعضای جامعه‌ای در کانادا که اوایل امسال شاهد یک تیراندازی مرگبار بودند، به‌دلیل اینکه حساب چت‌جی‌پی‌تی عامل حمله را به نیرو‌های انتظامی گزارش نکرده بود، عذرخواهی کرد.

کد خبر: ۴۰۹۵۱۵

تاریخ : ۰۵ ارديبهشت ۱۴۰۵ - ۱۳:۰۷

نوشته

شهرآرانیوز؛ سم آلتمن در نامه‌ای که روز جمعه توسط دیوید ابی، نخست‌وزیر بریتیش کلمبیا، در شبکه‌های اجتماعی منتشر شد، نوشت:

«دردی که جامعه شما تحمل کرده، غیرقابل تصور است. در این چند ماه اخیر بار‌ها به شما فکر کرده‌ام.»

در این حادثه که ۱۰ فوریه در جامعه کوچک تامبلر ریج در شمال‌شرق بریتیش کلمبیا رخ داد، هشت نفر کشته شدند. به گفته مقامات، جسی ون روتسلار ۱۸ ساله در دبیرستان تامبلر ریج سکندری آتش گشود و شش نفر را به قتل رساند. همچنین مادر او و برادر ۱۱ ساله‌اش در یک منزل نزدیک کشته شدند. به گفته مسئولان، او در نهایت با شلیک به خود جان باخت.

آلتمن در این نامه که تاریخ آن پنج‌شنبه است، نوشته حساب ChatGPT این فرد در ژوئن ۲۰۲۵ _ حدود هشت ماه پیش از حادثه _مسدود شده بود. او نوشته:

«عمیقاً متأسفم که حسابی را که در ژوئن مسدود شد به نیرو‌های انتظامی اطلاع ندادیم.»

در فوریه، OpenAI به شبکه CBS News گفته بود که حساب این فرد سال گذشته توسط ابزار‌های خودکار شناسایی سوءاستفاده و همچنین بررسی‌های انسانی _ که برای تشخیص استفاده‌های احتمالی خشونت‌آمیز از ChatGPT طراحی شده‌اند _ علامت‌گذاری شده بود. سپس این حساب به‌دلیل نقض سیاست‌های استفاده، مسدود شد.

OpenAI اعلام کرد که در آن زمان بررسی کرده بود آیا این حساب را به نیرو‌های انتظامی گزارش دهد یا نه، اما به این نتیجه رسیده بود که تهدیدی فوری و معتبر برای آسیب جدی فیزیکی به دیگران محسوب نمی‌شود و بنابراین به آستانه لازم برای ارجاع نرسیده است.

این شرکت در بیانیه‌ای در فوریه و پس از حادثه به CBS News گفت:

«ما به‌طور پیش‌دستانه با پلیس سواره‌نظام سلطنتی کانادا تماس گرفتیم و اطلاعاتی درباره این فرد و استفاده او از ChatGPT ارائه دادیم و به همکاری با تحقیقات ادامه خواهیم داد.»

{$sepehr_key_207097}

OpenAI می‌گوید چت‌جی‌پی‌تی به‌گونه‌ای آموزش دیده که از آسیب در دنیای واقعی جلوگیری کند و در صورت تشخیص نیت غیرقانونی، از ارائه کمک خودداری کند. به گفته این شرکت، کاربرانی که نشانه‌هایی از قصد آسیب‌رساندن به دیگران نشان دهند، به بررسی‌کنندگان انسانی ارجاع داده می‌شوند تا مشخص شود آیا موردی تهدید فوری محسوب می‌شود و باید به نیرو‌های انتظامی گزارش شود یا نه.

آلتمن در نامه خود نوشته که OpenAI همچنان بر اقدامات پیشگیرانه تمرکز خواهد کرد «تا اطمینان حاصل شود چنین اتفاقی دیگر رخ ندهد.» او در ادامه افزوده:

«می‌خواهم عمیق‌ترین تسلیت‌های خود را به کل جامعه ابراز کنم. هیچ‌کس نباید چنین فاجعه‌ای را تجربه کند.»

اوایل این هفته نیز جیمز اوتمایر، دادستان کل ایالت فلوریدا، از آغاز یک تحقیق کیفری درباره OpenAI خبر داد. این اقدام پس از بررسی پیام‌های میان ChatGPT و یک دانشجوی دانشگاه ایالتی فلوریدا صورت گرفت که متهم به تیراندازی در آوریل ۲۰۲۵ در محوطه دانشگاه است؛ حادثه‌ای که دو کشته و چندین زخمی بر جای گذاشت.

اوتمایر گفت تیمش به این نتیجه رسیده که ChatGPT «مشاوره قابل‌توجهی» به عامل مظنون ارائه کرده است. دفتر او در حال صدور احضاریه‌هایی برای OpenAI است تا سوابق مربوط به پروتکل‌های این شرکت در گزارش‌دهی جرایم احتمالی به نیرو‌های انتظامی و نحوه برخورد با تهدید‌های کاربران را دریافت کند.

در مورد حادثه فلوریدا، سخنگوی OpenAI روز سه‌شنبه به CBS News گفت:

«پس از اطلاع از این حادثه، حسابی در ChatGPT که احتمالاً با مظنون مرتبط بود شناسایی شد و این اطلاعات به‌طور پیش‌دستانه با نیرو‌های انتظامی به اشتراک گذاشته شد.»

{$sepehr_key_207098}