اپل قوانین اپ‌استور را علیه اپلیکیشن‌های برهنه‌سازی با هوش مصنوعی سخت‌گیرانه‌تر کرد
اپل با به‌روزرسانی دستورالعمل‌های اپ‌استور، مقابله با اپلیکیشن‌هایی را که با استفاده از هوش مصنوعی تصاویر برهنه یا جنسی از افراد واقعی و بدون رضایت آنها تولید می‌کنند، جدی‌تر دنبال می‌کند.
شهرآرانیوز؛ طبق قوانین جدید اپل، توسعه‌دهندگان باید برای جلوگیری از انتشار چنین تصاویری تدابیر مؤثر داشته باشند و در صورت بی‌توجهی به تخلفات، احتمال حذف برنامه از اپ‌استور را بپذیرند.
اپل روز ۱۶ اکتبر ۲۰۲۶ (۲۴ مهر ۱۴۰۵) از تغییراتی در دستورالعمل بررسی برنامه‌های اپ‌استور خبر داد که علاوه بر محتوای جنسی تولیدشده با هوش مصنوعی، برنامه‌های دارای قابلیت‌های پنهان و گمراه‌کننده را نیز هدف قرار می‌دهد. این تغییرات در شرایطی اعلام شده‌اند که استفاده از ابزار‌های هوش مصنوعی برای ساخت تصاویر جنسی جعلی و بدون رضایت افراد به یکی از موضوعات بحث‌برانگیز حوزه فناوری تبدیل شده است.
اپل از توسعه‌دهندگان چه می‌خواهد؟
مهم‌ترین تغییر در بخش ۱.۲ دستورالعمل‌های اپ‌استور اعمال شده است؛ بخشی که به محتوای تولیدشده توسط کاربران و نحوه مدیریت آن مربوط می‌شود. اپل اکنون به‌صراحت اعلام کرده است که این الزامات، تصاویر خصوصی و جنسی تولیدشده بدون رضایت افراد با ابزار‌های هوش مصنوعی را نیز در بر می‌گیرد.
بر این اساس، توسعه‌دهندگان برنامه‌هایی که امکان تولید، بارگذاری یا انتشار محتوای کاربران را فراهم می‌کنند، باید برای شناسایی و جلوگیری از انتشار محتوای نامناسب سازوکار‌های مؤثری داشته باشند. همچنین لازم است امکان گزارش محتوای آزاردهنده و مسدود کردن کاربران متخلف فراهم باشد.
اپل هشدار داده است توسعه‌دهندگانی که تدابیر حفاظتی کافی در نظر نگیرند یا پس از اطلاع از تخلفات برای رفع آنها اقدام نکنند، ممکن است قوانین مربوط به رفتار توسعه‌دهندگان را نقض کنند و برنامه‌شان از اپ‌استور حذف شود.
این تغییر به معنای ممنوعیت تازه برای تمام کاربرد‌های هوش مصنوعی در تولید تصویر نیست؛ تمرکز اعلام‌شده اپل بر محتوای آسیب‌زا، به‌ویژه تصاویر جنسی افراد واقعی بدون رضایت آنها و نحوه مدیریت این محتوا در برنامه‌ها است.
پایان کار برنامه‌هایی که قابلیت برهنه‌سازی را پنهان می‌کنند؟
تغییر مهم دیگر به برنامه‌هایی مربوط می‌شود که هنگام بررسی اولیه، عملکرد واقعی خود را پنهان می‌کنند و پس از تأیید اپل، قابلیت‌های ممنوعه را در اختیار کاربران قرار می‌دهند.
اپل در بخش ۲.۵.۱۹ دستورالعمل‌های خود، ممنوعیت قابلیت‌های پنهان، غیرفعال یا مستندنشد‌ه را روشن‌تر کرده است. این شرکت مشخصاً به برنامه‌هایی اشاره می‌کند که در مرحله بررسی، هدف خود را به‌درستی معرفی نمی‌کنند، اما پس از تأیید، امکاناتی مانند برهنه‌سازی تصاویر را فعال می‌کنند؛ روشی که در صنعت نرم‌افزار با عنوان «طعمه و تغییر» (Bait-and-Switch) شناخته می‌شود.
طبق این سیاست، عملکرد واقعی برنامه باید برای کاربران و تیم بررسی اپل روشن باشد. پنهان کردن قابلیت‌های آسیب‌زا یا افزودن امکاناتی که در نسخه ارسال‌شده برای بررسی وجود نداشته‌اند، می‌تواند به حذف برنامه از اپ‌استور و حتی خاتمه حساب توسعه‌دهنده منجر شود.
این موضوع اهمیت زیادی دارد؛ زیرا مقابله با چنین برنامه‌هایی صرفاً به شناسایی محتوای تولیدشده محدود نمی‌شود و روش‌هایی را نیز هدف می‌گیرد که ممکن است برای عبور از فرایند بررسی اپل استفاده شوند.
سابقه جنجال بر سر تصاویر جنسی جعلی
تصمیم تازه اپل در ادامه انتقاد‌هایی مطرح می‌شود که طی ماه‌های گذشته درباره انتشار تصاویر جنسی جعلی با ابزار‌های هوش مصنوعی شکل گرفته‌اند. یکی از نمونه‌های بحث‌برانگیز، استفاده برخی کاربران از چت‌بات Grok در شبکه اجتماعی ایکس برای تولید تصاویر جنسی‌شده از افراد بدون رضایت آنها، از جمله افراد زیر سن قانونی، بوده است.
این ماجرا فشار‌ها برای مقابله با ابزار‌های موسوم به «برهنه‌سازی با هوش مصنوعی» را افزایش داد. این ابزار‌ها می‌توانند با دریافت عکس یک فرد، تصویری جعلی و برهنه از او بسازند؛ حتی اگر فرد موردنظر هرگز چنین تصویری تهیه نکرده باشد یا با تولید و انتشار آن موافق نباشد.
در ژوئیه ۲۰۲۶ نیز مقام‌های سان‌فرانسیسکو از اپل خواستند با تعدادی از برنامه‌های دارای قابلیت تولید تصاویر صمیمی بدون رضایت افراد برخورد کند. به گزارش ورج، اپل اعلام کرده بود برنامه‌های مورد اشاره را حذف کرده است.
مقابله با بهره‌کشی از کودکان و توزیع خارج از اپ‌استور
اپل در بخش دیگری از دستورالعمل‌های خود، موضعش را درباره برنامه‌هایی که بهره‌کشی از کودکان یا قاچاق انسان را تسهیل می‌کنند، صریح‌تر کرده است. بر اساس متن به‌روزشده، چنین برنامه‌هایی از اپ‌استور حذف می‌شوند و امکان توزیع آنها از مسیر‌های جایگزین نیز مسدود خواهد شد.
این بخش از تغییرات نشان می‌دهد سیاست تازه فقط به نحوه تولید تصاویر با هوش مصنوعی محدود نیست و دامنه اجرای مقررات را در برابر برنامه‌های مرتبط با سوءاستفاده و بهره‌کشی نیز روشن‌تر می‌کند.
آیا این تغییرات مشکل دیپ‌فیک‌های جنسی را حل می‌کند؟
سخت‌گیرانه‌تر شدن مقررات اپ‌استور می‌تواند راه انتشار و ادامه فعالیت برخی از برنامه‌های برهنه‌سازی را دشوارتر کند؛ به‌ویژه برنامه‌هایی که برای پنهان کردن عملکرد اصلی خود به روش‌های گمراه‌کننده متوسل می‌شوند. بااین‌حال، نتیجه نهایی به نحوه اجرای مقررات و توانایی اپل در شناسایی تخلفات بستگی دارد.
همچنین حذف یک برنامه از اپ‌استور لزوماً به معنای از بین رفتن ابزار آن نیست؛ ممکن است نسخه‌های وب، سرویس‌های خارج از اکوسیستم اپل یا مسیر‌های دیگر توزیع همچنان در دسترس باشند. به همین دلیل، مقابله با تصاویر جنسی جعلی علاوه بر سیاست‌های فروشگاه‌های نرم‌افزاری، به سازوکار‌های گزارش تخلف، قوانین مرتبط و مسئولیت‌پذیری شرکت‌های ارائه‌دهنده ابزار‌های هوش مصنوعی نیز وابسته است.
در مجموع، تغییرات اکتبر ۲۰۲۶ اپل بیش از آنکه ممنوعیتی کاملاً تازه ایجاد کنند، ممنوعیت‌های موجود را درباره تصاویر صمیمی بدون رضایت و قابلیت‌های پنهان شفاف‌تر می‌کنند و مسئولیت توسعه‌دهندگان را برای جلوگیری از انتشار این محتوا افزایش می‌دهند.
ارسال نظرات
دیدگاه های ارسال شده توسط شما، پس از تائید توسط شهرآرانیوز در سایت منتشر خواهد شد.
نظراتی که حاوی توهین و افترا باشد منتشر نخواهد شد.
