وزارت علوم و فناوری قوانین استفاده از هوش مصنوعی در پژوهش را اعلام کرد

به گزارش شهرآرانیوز؛ حسین سیمایی‌ صراف، با ابلاغ راهنمای استفاده از ابزار‌های هوش مصنوعی در پژوهش، چارچوب مشخصی برای به‌کارگیری این فناوری در مقاله، پایان‌نامه و رساله تعیین کرده است. این راهنما بر شفافیت در استفاده از هوش مصنوعی، مسئولیت‌پذیری پژوهشگران، حفاظت از داده‌ها و جلوگیری از واگذاری کامل فعالیت‌های پژوهشی به این ابزار‌ها تأکید دارد.

صمد نژاد ابراهیمی، مدیرکل سیاست‌گذاری و برنامه‌ریزی امور پژوهشی وزارت علوم، که سیاست این وزارتخانه ممنوعیت استفاده از هوش مصنوعی نیست. به گفته او، استفاده از این ابزار‌ها به‌تنهایی تخلف محسوب نمی‌شود، اما پژوهشگر باید نقش هوش مصنوعی را شفاف اعلام کند و مسئولیت علمی پژوهش را به ماشین واگذار نکند؛ چراکه چنین رویکردی با اصول اخلاق پژوهش در تضاد است.

این چارچوب با توجه به سرعت بالای تحولات فناوری، به شکل یک راهنما تدوین شده است تا امکان بازنگری و به‌روزرسانی آن در دوره‌های مختلف وجود داشته باشد.

اعلام نحوه استفاده از هوش مصنوعی در پژوهش الزامی است

بر اساس این راهنما، پژوهشگران در صورت استفاده از هوش مصنوعی برای نگارش، ویرایش، ترجمه، ایده‌پردازی، مرور منابع، تحلیل داده، تولید کد یا ارتقای نمودار و تصویر، باید این موضوع را به‌صورت شفاف اعلام کنند.

پژوهشگر باید نام ابزار مورد استفاده، نقش آن، هدف از به‌کارگیری و نحوه اعتبارسنجی خروجی را در بخش روش‌شناسی، بیانیه استفاده از هوش مصنوعی یا بخش تقدیر و تشکر درج کند. همچنین اگر خروجی تولیدشده توسط هوش مصنوعی مستقیماً وارد متن شده باشد یا از آن به‌عنوان منبع اطلاعات استفاده شده باشد، ذکر نام ابزار، نسخه و تاریخ استفاده مطابق شیوه‌های معتبر استناد الزامی خواهد بود.

وزارت علوم در این راهنما تأکید کرده است که پنهان‌کردن استفاده از هوش مصنوعی می‌تواند مصداق تخلف پژوهشی باشد.

در ادامه حتما بخوانید رئیس سازمان بورس: هوش مصنوعی مسیر تحول صنعت کارگزاری را تغییر می‌دهد

استفاده از چت جی پی تی در چه مواردی مجاز است؟

استفاده از ابزار‌هایی مانند چت جی پی تی برای کار‌هایی همچون ویرایش زبانی، اصلاح نگارش، بازنویسی زیر نظر مؤلف، ایده‌پردازی اولیه، خلاصه‌سازی مقاله‌ها، تحلیل داده، تهیه پیش‌نویس کد‌های ساده و بهبود نمودار‌ها و تصاویر مجاز است؛ البته به شرطی که پژوهشگر بر فرایند نظارت داشته باشد و خروجی نهایی را بررسی و تأیید کند.

در مقابل، تولید کامل مقاله، پایان‌نامه یا رساله با کمک هوش مصنوعی ممنوع اعلام شده است. همچنین جعل داده یا نتایج آزمایشگاهی، ایجاد منابع و ارجاعات جعلی، تحریف متون علمی، معرفی محتوای تولیدشده توسط هوش مصنوعی به‌عنوان اثری کاملاً انسانی و استفاده پنهانی از این ابزار‌ها برای انجام تکالیف درسی، در دسته استفاده‌های غیرمجاز قرار گرفته‌اند.

در صورت احراز چنین تخلفاتی، پرونده مربوطه بر اساس آیین‌نامه‌های رسیدگی به تخلفات پژوهشی بررسی خواهد شد.

مسئولیت صحت اطلاعات همچنان بر عهده پژوهشگر است

راهنمای وزارت علوم با اشاره به احتمال وجود سوگیری‌های جنسیتی، قومی، سیاسی و طبقاتی در خروجی مدل‌های هوش مصنوعی، پژوهشگر را موظف کرده است نتایج تولیدشده را به‌صورت انتقادی بررسی و سوگیری‌های احتمالی را حذف کند.

طبق این چارچوب، هوش مصنوعی نمی‌تواند جای قضاوت علمی انسان را بگیرد و مسئولیت صحت اطلاعات، نتایج، ارجاعات و بی‌طرفی علمی پژوهش همچنان بر عهده مؤلف یا پژوهشگر خواهد بود.

رعایت قوانین مالکیت فکری، قانون پیشگیری و مقابله با تقلب در تهیه آثار علمی و منشور اخلاق پژوهش نیز الزامی است. همچنین نسبت‌دادن محتوای تولیدشده توسط هوش مصنوعی به پژوهشگر، بدون اعلام نقش این ابزار، می‌تواند نقض حقوق مالکیت فکری محسوب شود.

بارگذاری داده‌های محرمانه در ابزار‌های عمومی ممنوع است

وزارت علوم داده‌های پژوهشی را در چهار سطح عمومی، حساس، محرمانه و سری طبقه‌بندی کرده است. بر اساس راهنمای جدید، واردکردن داده‌های محرمانه به ابزار‌های عمومی هوش مصنوعی بدون دریافت مجوز صریح ممنوع است و داده‌های سری نیز نباید در پلتفرم‌های عمومی بارگذاری شوند.

پردازش داده‌های محرمانه با استفاده از ابزار‌های هوش مصنوعی تنها در صورت تأیید واحد فناوری اطلاعات یا کمیته تخصصی مربوط امکان‌پذیر خواهد بود. همچنین دانشگاه‌ها و مؤسسه‌های پژوهشی پیش از خرید یا توسعه نرم‌افزار‌های هوش مصنوعی باید ارزیابی‌های امنیتی و حقوقی لازم را انجام دهند.

هوش مصنوعی نباید جایگزین داور علمی شود

یکی دیگر از محدودیت‌های تعیین‌شده در این راهنما، ممنوعیت واگذاری تصمیم نهایی درباره داوری مقاله به هوش مصنوعی است. داوران نیز اجازه ندارند مقاله‌های محرمانه را برای تحلیل یا خلاصه‌سازی در پلتفرم‌های شخص ثالث بارگذاری کنند.

ویراستاران علمی که از هوش مصنوعی برای بررسی اولیه یا ویرایش زبانی استفاده می‌کنند نیز باید این موضوع را اعلام کنند. در نهایت، مسئولیت ارزیابی و قضاوت علمی در تمام مراحل بر عهده انسان باقی خواهد ماند.

همچنین استفاده از هوش مصنوعی برای تصمیم‌های حساس دانشگاهی مانند پذیرش دانشجو، ارزیابی عملکرد استادان یا رسیدگی‌های انضباطی، بدون بررسی آثار احتمالی و دریافت مجوز رسمی مجاز نیست. در مقابل، امکان استفاده از این ابزار‌ها برای کمک به دانشجویان دارای نیاز‌های ویژه یا پشتیبانی از کاربران با زبان‌های مختلف وجود دارد، مشروط بر اینکه این استفاده به تشدید تبعیض منجر نشود.

ابزار‌های تشخیص هوش مصنوعی به‌تنهایی ملاک اثبات تخلف نیستند

برای نظارت بر اجرای این چارچوب، وزارت علوم تشکیل کمیته‌های تخصصی هوش مصنوعی زیرمجموعه کارگروه‌های اخلاق در پژوهش را پیش‌بینی کرده است. تدوین فرم‌های خوداظهاری، راه‌اندازی سامانه‌های رصد و استفاده از نرم‌افزار‌های تشخیص محتوای تولیدشده با هوش مصنوعی نیز از دیگر سازوکار‌های پیشنهادی هستند.

با این حال، نتیجه ابزار‌های تشخیص متن به‌تنهایی نمی‌تواند مدرک قطعی برای اثبات تخلف باشد. کمیته رسیدگی باید مجموعه شواهد را بررسی کند و فرصت کافی برای دفاع در اختیار دانشجو یا عضو هیئت علمی قرار دهد. تصمیم نهایی نیز باید بر اساس بررسی انسانی و مجموعه قرائن اتخاذ شود.

در بخش دیگری از این راهنما، از دانشگاه‌ها و پژوهشگران خواسته شده است هنگام انتخاب ابزار‌های هوش مصنوعی، آثار و پیامد‌های زیست‌محیطی مدل‌ها را نیز در نظر بگیرند. همچنین برای انجام وظایف ساده، در صورت امکان استفاده از مدل‌های کوچک‌تر و کم‌مصرف‌تر توصیه شده است.

منبع: زومیت 

در ادامه حتما بخوانید متا برای دستیار هوش مصنوعی Muse از اپراتور‌های انسانی کمک گرفت