نتیجه مطالعات جدید: استفاده از هوش مصنوعی ممکن است به تفکرات هذیانی و روان‌پریشی دامن بزند

یک بررسی علمی جدید نگرانی‌هایی را درباره این موضوع مطرح کرده است که چت‌بات‌های مبتنی بر هوش مصنوعی ممکن است به تشویق یا تقویت تفکر هذیانی، به‌ویژه در افراد آسیب‌پذیر، منجر شوند.

کد خبر: ۳۹۹۷۰۷

تاریخ : ۲۴ اسفند ۱۴۰۴ - ۱۴:۰۹

نوشته

شهرآرانیوز؛ خلاصه‌ای از شواهد موجود درباره «روان‌پریشی ناشی از هوش مصنوعی» که هفته گذشته در نشریه Lancet Psychiatry منتشر شد، نشان می‌دهد چت‌بات‌ها می‌توانند تفکر هذیانی را تقویت کنند، احتمالاً فقط در میان افرادی که از پیش مستعد علائم روان‌پریشی هستند. نویسندگان این مقاله پیشنهاد کرده‌اند که آزمایش بالینی چت‌بات‌های هوش مصنوعی زیر نظر متخصصان سلامت روان صورت گیرد.

در این پژوهش، دکتر همیلتون مورین، روان‌پزشک و پژوهشگر در کالج کینگز لندن، ۲۰ گزارش رسانه‌ای درباره پدیده‌ای موسوم به «روان‌پریشی هوش مصنوعی» را بررسی کرده است. این اصطلاح به نظریه‌هایی اشاره دارد که توضیح می‌دهند چطور چت‌بات‌ها ممکن است موجب بروز یا تشدید هذیان شوند.

مورین می‌گوید سه دسته اصلی هذیان روان‌پریشانه وجود دارد: هذیان‌های بزرگ‌منش (خودبزرگ‌بینانه)، عاشقانه و پارانویید. به گفته او، چت‌بات‌ها قادرند هر سه نوع را تشدید کنند، اما پاسخ‌های چاپلوسانه آن‌ها بیشتر با نوع بزرگ‌منش ارتباط دارد. در چندین مورد بررسی‌شده در مقاله، چت‌بات‌ها با زبان عرفانی و اسرارآمیز به کاربران چنین القا کرده بودند که از اهمیت روحانی یا کیهانیِ خاصی برخوردارند، و حتی گاهی وانمود کرده بودند که «وجودی کیهانی» از طریق چت‌بات در حال ارتباط با کاربر است. این نوع پاسخ‌های عرفانی و چاپلوسانه در مدل GPT‑۴ شرکت OpenAI به‌ویژه رایج بوده است؛ مدلی که شرکت اکنون آن را بازنشسته کرده است.

مورین توضیح داده است که گزارش‌های رسانه‌ای بخش مهمی از کار او شدند، زیرا او و همکارش متوجه افزایش بیمارانی شده بودند که از چت‌بات‌های مبتنی بر مدل‌های زبانی بزرگ استفاده می‌کردند و این چت‌بات‌ها باور‌های هذیانی آنان را تأیید می‌کردند.

او بیان کرد: «در ابتدا مطمئن نبودیم آیا این موضوع در سطح وسیع‌تر مشاهده می‌شود یا نه.»، اما «در آوریل سال گذشته، شروع به دیدن گزارش‌های رسانه‌ای درباره افرادی کردیم که از طریق تعامل با این چت‌بات‌ها، باور‌های هذیانی‌شان تأیید و حتی تقویت می‌شد.»

وقتی مورین نگارش مقاله را آغاز کرد، هیچ گزارش بالینی منتشرشده‌ای در دست نبود.

برخی پژوهشگرانِ حوزه روان‌پریشی معتقدند گزارش‌های رسانه‌ای اغراق‌آمیزند و بیش از حد بر این تصور تأکید دارند که هوش مصنوعی باعث روان‌پریشی می‌شود. با این حال، مورین از این گزارش‌ها قدردانی کرد، زیرا موجب شد توجه‌ها به پدیده مذکور سریع‌تر از روند علمیِ معمول جلب شود.

او افزود: «با توجه به سرعت پیشرفت در این حوزه، تعجبی ندارد که دانشگاه و پژوهش‌های علمی نتوانسته‌اند هم‌پای آن حرکت کنند.»

مورین همچنین توصیه کرده است از اصطلاحاتی محتاطانه‌تر نسبت به «روان‌پریشی هوش مصنوعی» یا «روان‌پریشی القاشده توسط هوش مصنوعی» استفاده شود؛ عباراتی که اکنون در رسانه‌هایی چون NPR، نیویورک تایمز و گاردین رایج شده‌اند. پژوهشگران مشاهده کرده‌اند که افراد در اثر استفاده از هوش مصنوعی دچار تفکر هذیانی می‌شوند، اما هنوز هیچ مدرکی دالّ بر بروز سایر علائم روان‌پریشی (مانند توهم یا اختلال تفکر _ یعنی گفتار و اندیشه آشفته) وجود ندارد.

بسیاری از پژوهشگران بعید می‌دانند هوش مصنوعی بتواند در افرادی که پیش‌تر هیچ‌گونه آسیب‌پذیری روانی ندارند، هذیان ایجاد کند. به همین سبب، مورین اصطلاح «هذیان‌های مرتبط با هوش مصنوعی» را واژه‌ای «بی‌طرف‌تر و واقع‌گرایانه‌تر» می‌داند.

دکتر کوامه مک‌کنزی، رئیس علمی مرکز اعتیاد و سلامت روان، می‌گوید: «ممکن است افرادی که در مراحل آغازین شکل‌گیری روان‌پریشی قرار دارند، در معرض خطر بیشتری باشند.»

تفکر روان‌پریشانه پدیده‌ای تدریجی است و مسیر خطی ندارد؛ بسیاری از کسانی که در مراحل مقدماتی آن هستند، هرگز به مرحله روان‌پریشی کامل نمی‌رسند.

دکتر راگی گیرگیس، استاد روان‌پزشکی بالینی در دانشگاه کلمبیا، نیز تأکید کرده است که پیش از بروز کامل هذیان، افراد معمولاً دارای «باور‌های هذیانی ضعیف‌شده» هستند؛ یعنی کاملاً مطمئن نیستند که هذیان‌شان صحیح است. او هشدار می‌دهد: «بدترین وضعیت زمانی رخ می‌دهد که این باور‌های ضعیف‌شده تبدیل به یقین مطلق شوند؛ در آن صورت فرد مبتلا به اختلال روان‌پریشی تشخیص داده می‌شود، و این وضعیت برگشت‌ناپذیر است.»

قابل ذکر است که افراد مستعد اختلالات روان‌پریشی، پیش از ظهور فناوری هوش مصنوعی نیز از رسانه برای تقویت باور‌های هذیانی خود استفاده می‌کردند.

مورین یادآور شد: «انسان‌ها از زمان انقلاب صنعتی دچار هذیان درباره فناوری بوده‌اند.» او افزود: «اگر در گذشته افراد برای تأیید باورهایشان باید ساعت‌ها در یوتیوب یا کتابخانه به‌دنبال مطالبی می‌گشتند، اکنون چت‌بات‌ها همان تأیید را در قالبی سریع‌تر و فشرده‌تر ارائه می‌دهند.»

ماهیت تعاملی چت‌بات‌ها می‌تواند روند تشدید علائم روان‌پریشی را سرعت ببخشد. دکتر دومینیک اولیور، پژوهشگر دانشگاه آکسفورد، توضیح داد: «اینجا چیزی وجود دارد که با شما حرف می‌زند، با شما درگیر می‌شود و می‌کوشد رابطه‌ای با شما بسازد.»

پژوهش گیرگیس نشان داد نسخه‌های پولی و جدیدتر چت‌بات‌ها نسبت به نسخه‌های قدیمی عملکرد بهتری دارند، هرچند هنگام پاسخ به دستور‌های آشکارا هذیانی «همه آنها هنوز عملکرد ضعیفی دارند». این تفاوت عملکرد نشان می‌دهد: «شرکت‌های هوش مصنوعی می‌توانند چت‌بات‌های خود را طوری برنامه‌ریزی کنند که ایمن‌تر باشند و بتوانند محتوای هذیانی را از غیرهذیانی تشخیص دهند، چون در واقع همین کار را می‌کنند.»

در بیانیه‌ای، شرکت OpenAI اعلام کرد که ChatGPT نباید جایگزین مراقبت حرفه‌ای سلامت روان شود و این شرکت با همکاری ۱۷۰ متخصص روان‌پزشکی تلاش کرده تا GPT‑۵ ایمن‌تر شود. با این حال، مدل GPT‑۵ نیز گاهی پاسخ‌های مشکل‌دار به درخواست‌هایی پیرامون بحران‌های روانی داده است. OpenAI گفت همچنان با کمک کارشناسان به بهبود مدل‌های خود ادامه می‌دهد.

مورین گفت ایجاد تدابیر مؤثر برای پیشگیری از تفکر هذیانی می‌تواند دشوار باشد، زیرا «هنگام کار با افرادی که باورهایشان از شدت هذیانی برخوردار است، اگر مستقیماً آنان را به اشتباه متهم کنید و بگویید کاملاً دروغ می‌گویند، احتمالاً از شما فاصله می‌گیرند و منزوی‌تر می‌شوند.» او افزود که رویکرد درست، برقراری تعادلی ظریف است: تلاش برای درک منبع باور هذیانی بدون تأیید آن _ امری که شاید فراتر از توان یک چت‌بات باشد.

{$sepehr_key_197010}