ماجرای عجیب انتشار چت‌های کاربران ChatGPT در گوگل

در پی افزایش انتقادات، شرکت OpenAI یک قابلیت جنجالی «چت جی پی تی» (ChatGPT) را حذف کرد؛ این قابلیت باعث شده بود برخی کاربران به‌طور ناخواسته اجازه دهند گفت‌و‌گو‌های خصوصی و بسیار شخصی‌شان در نتایج جستجوی گوگل ظاهر شود.

کد خبر: ۳۴۹۱۴۱

تاریخ : ۱۱ مرداد ۱۴۰۴ - ۱۷:۲۶

نوشته

شهرآرانیوز؛ مجله Fast Company روز چهارشنبه این مشکل حریم خصوصی را افشا کرد و گزارش داد که هزاران گفت‌وگوی ChatGPT در نتایج جستجوی گوگل پیدا شده است؛ و این احتمالاً تنها نمونه‌ای از چت‌هایی است که «برای میلیون‌ها نفر قابل مشاهده» بوده‌اند. هرچند این فهرست شامل اطلاعات شناسایی کاربران ChatGPT نبود، اما برخی چت‌ها حاوی جزئیات شخصی زیادی بودند — مانند توصیف‌های بسیار خاص از روابط بین‌فردی با دوستان و اعضای خانواده — که می‌توانست امکان شناسایی افراد را فراهم کند.

مدیر ارشد امنیت اطلاعات OpenAI، دِین استاکی، در شبکه اجتماعی ایکس توضیح داد که همه کاربرانی که چت‌هایشان افشا شده بود، خودشان با کلیک بر روی یک گزینه و بعد از انتخاب اشتراک‌گذاری چت، رضایت به فهرست‌شدن داده بودند.

Fast Company اشاره کرد که کاربران معمولاً چت‌ها را در واتساپ به اشتراک می‌گذارند یا گزینه ذخیره یک لینک برای مشاهده بعدی را انتخاب می‌کنند. اما همان‌طور که Fast Company توضیح داد، ممکن است برخی کاربران به دلیل نحوه نمایش متن، به اشتباه چت‌هایشان را عمومی کرده باشند:

«وقتی کاربران روی "Share" کلیک می‌کردند، گزینه‌ای برای تیک زدن با عنوان "Make this chat discoverable" نمایش داده می‌شد. زیر این گزینه، با فونت کوچک‌تر و رنگ روشن‌تر، توضیحی نوشته شده بود که این چت ممکن است در نتایج موتور‌های جست‌و‌جو ظاهر شود.»

در ابتدا OpenAI از این برچسب‌گذاری دفاع کرد و آن را «به‌اندازه کافی شفاف» دانست. اما استاکی تأیید کرد که «در نهایت»، این شرکت تصمیم گرفت که این قابلیت «فرصت‌های زیادی برای اشتباه و اشتراک‌گذاری ناخواسته مطالب خصوصی» ایجاد می‌کند. به گزارش Fast Company، این موارد شامل گفت‌و‌گو‌هایی درباره مصرف مواد مخدر، زندگی جنسی، سلامت روان و تجربه‌های آسیب‌زا بوده است.

کاریسا وِلیز، اخلاق‌پژوه هوش مصنوعی در دانشگاه آکسفورد، به Fast Company گفت که از اینکه گوگل چنین گفت‌و‌گو‌های فوق‌العاده حساسی را ذخیره می‌کند «شوک‌زده» شده است.

وعده OpenAI برای حذف نتایج از گوگل

استاکی این قابلیت را یک «آزمایش کوتاه‌مدت» توصیف کرد که با هدف «کمک به مردم برای کشف گفت‌و‌گو‌های مفید» اجرا شده بود. او تأیید کرد که تصمیم به حذف این قابلیت شامل اقدام برای «حذف محتوای ایندکس‌شده از موتور جستجوی مربوطه» تا صبح جمعه نیز بوده است.

گوگل به گزارش Fast Company واکنشی نشان نداد و مشخص نشد که نقش آن در نمایش این چت‌ها در نتایج جست‌و‌جو چه بوده است. اما سخنگوی گوگل به Ars گفت که OpenAI به‌طور کامل مسئول ایندکس شدن این صفحات است و «نه گوگل و نه هیچ موتور جستجوی دیگری کنترلی بر عمومی شدن صفحات در وب ندارد. ناشران این صفحات به‌طور کامل بر ایندکس شدن یا نشدن آنها توسط موتور‌های جست‌و‌جو کنترل دارند.»

به نظر می‌رسد OpenAI نیز به‌تنهایی مسئول حذف این چت‌هاست، که سریع‌ترین روش آن استفاده از ابزاری است که گوگل برای مسدود کردن صفحات در نتایج جست‌و‌جو ارائه می‌دهد. اما این ابزار مانع ایندکس شدن توسط سایر موتور‌های جست‌و‌جو نمی‌شود؛ بنابراین ممکن است چت‌ها زودتر از نتایج گوگل حذف شوند تا موتور‌های جستجوی دیگر.

ولیز به Fast Company گفت که حتی یک «آزمایش کوتاه‌مدت» مانند این هم «نگران‌کننده» است و یادآور شد که «شرکت‌های فناوری مردم عادی را به‌عنوان موش آزمایشگاهی استفاده می‌کنند»، کاربران را با محصولات جدید هوش مصنوعی جذب می‌کنند و سپس منتظر می‌مانند تا ببینند بابت تصمیمات طراحی تجاوزکارانه چه واکنشی دریافت خواهند کرد.

«آن‌ها کاری را انجام می‌دهند، روی جمعیت امتحان می‌کنند، و می‌بینند آیا کسی شکایت می‌کند یا نه.»

برای بررسی اینکه آیا چت‌های خصوصی هنوز ایندکس می‌شوند یا خیر، Fast Company توضیح می‌دهد که کاربرانی که هنوز به لینک‌های اشتراک‌گذاری‌شده خود دسترسی دارند می‌توانند بخش خاصی از لینک ایجادشده هنگام کلیک روی "Share" را در گوگل جست‌و‌جو کنند تا ببینند آیا این گفت‌و‌گو‌ها هنوز قابل مشاهده هستند یا خیر.

OpenAI درخواست Ars برای اظهارنظر را رد کرد، اما اظهارات استاکی نشان داد که این شرکت می‌داند باید پس از این اشتباه، اعتماد کاربران را دوباره به‌دست آورد.

«امنیت و حریم خصوصی برای ما بسیار مهم است و ما به تلاش ادامه می‌دهیم تا این موضوع را به بهترین شکل در محصولات و قابلیت‌های خود منعکس کنیم.»

این رسوایی در حالی رخ می‌دهد که OpenAI پیش‌تر وعده داده بود با حکم دادگاهی که آن را ملزم به حفظ همه چت‌های حذف‌شده «برای همیشه» می‌کند، مقابله کند؛ حکمی که نگرانی کاربران ChatGPT را که فکر می‌کردند چت‌های موقت یا حذف‌شده‌شان ذخیره نمی‌شود، برانگیخته است. OpenAI تاکنون در این دعوی شکست خورده و احتمالاً این چت‌ها به‌زودی در جریان آن پرونده قابل جست‌و‌جو خواهند بود. هرچند سم آلتمن، مدیرعامل OpenAI، این احتمال را که خصوصی‌ترین چت‌های کاربران قابل جست‌و‌جو شود، «یک فاجعه» دانسته، اما به گفته Fast Company، او در برابر احتمال افشای همین چت‌ها در گوگل و موتور‌های جستجوی دیگر به دلیل اقدامات خود OpenAI، شفافیت مشابهی نشان نداده است.

{$sepehr_key_141423}