شهرآرانیوز؛ سالها پیش، برای راحتی و امنیت بیشتر، با رضایت خودمان چهره و اثر انگشتمان را در اختیار فناوریهای دیجیتال گذاشتیم. حالا، اما در سال ۲۰۲۶، در دنیایی زندگی میکنیم که دوربینهای نظارتی تقریباً همهجا حضور دارند و فناوری تشخیص چهره میتواند هویت افراد را در خیابانها، فروشگاهها و دیگر فضاهای عمومی شناسایی کند.
ماجرا حتی به تشخیص هویت هم ختم نمیشود. برخی از این سیستمها میتوانند اطلاعاتی درباره حالت چهره، نوع پوشش و الگوهای رفتوآمد افراد جمعآوری کنند. شرکتهای فعال در این حوزه نیز حجم بسیار زیادی از دادهها را ذخیره میکنند؛ دادههایی که در برخی موارد در اختیار نیروهای انتظامی قرار میگیرند و میتوانند برای پیدا کردن افراد یا بررسی فعالیتهای مختلف مورد استفاده قرار گیرند.
اما اگر دیگر نتوانیم دادههایی را که قبلاً در اختیار این سیستمها گذاشتهایم پس بگیریم، شاید یک راه باقی مانده باشد: یعنی کاری کنیم که دوربینها نتوانند ما را تشخیص دهند.
یک پژوهشگر امنیت سایبری در کنفرانس امنیتی Black Hat دقیقاً روی همین ایده کار کرده است. روش او شاید عجیب به نظر برسد یعنی استفاده از پارچه و پوشاک با طرحی خاص برای فریب هوش مصنوعی.
وقتی شال و پیراهن به سپر ضدتشخیص چهره تبدیل میشوند
برای مقابله با سیستمهای تشخیص چهره، تاکنون روشهای مختلفی امتحان شده است؛ از ماسکهایی شبیه ظاهر بتمن و آرایشهای پیچیده گرفته تا استفاده از LEDهای مادونقرمز و تجهیزات الکترونیکی فعال.
مشکل این روشها واضح است و اگر کسی با چنین ظاهری در خیابان راه برود، احتمالاً بیشتر از یک فرد معمولی جلب توجه میکند.
بیل سویرینگتون، هکر و بنیانگذار جامعه امنیت سایبری SecKC در کانزاسسیتی، به دنبال راهی کمسروصداتر رفته است. او الگوریتمی طراحی کرده که میتواند الگوهایی موسوم به Adversarial Patterns یا «الگوهای خصمانه» تولید کند؛ طرحهایی که اگر روی لباس چاپ شوند، میتوانند باعث شوند مدلهای تشخیص چهره در شناسایی فرد دچار خطا شوند.
ایده استفاده از ظاهر و پوشش برای مختلکردن تشخیص چهره البته جدید نیست. آدام هاروی، هنرمند و پژوهشگر حوزه حریم خصوصی، از سال ۲۰۱۰ روی روشهایی برای مقابله با فناوری تشخیص چهره کار کرده است. او در پروژههای خود از آرایش، مدل مو و دیگر تغییرات ظاهری برای ایجاد اختلال در الگوریتمهای تشخیص چهره استفاده کرد.
سویرینگتون نیز پس از مشاهده صدها دوربین تشخیص چهره در کانزاسسیتی، تصمیم گرفت این ایده را با فناوریهای امروزی ترکیب کند و راهی برای فریب مدلهای جدید پیدا کند.
{$sepehr_key_238309}
فناوری noRecognition دقیقاً چه میکند؟
فناوریای که سویرینگتون برای تولید این طرحها توسعه داده، noRecognition نام دارد. او تاکنون این سیستم را روی ۱۱ مدل مختلف تشخیص چهره آزمایش کرده است؛ از جمله مدلهایی که در سامانههای Palantir، دوربینهای بدنی Axon و فناوری Clearview AI استفاده میشوند.
سویرینگتون میگوید حدود یک سال است که روی تولید و بهاصطلاح «پرورش» الگوهای خصمانه کار میکند. ایده اصلی این است که طرحی تولید شود که برای چشم انسان چندان غیرعادی به نظر نرسد، اما الگوریتم تشخیص چهره را دچار سردرگمی کند.
البته هنوز تا تبدیلشدن این ایده به یک محصول واقعی فاصله وجود دارد. آزمایشهای انجامشده تاکنون نشان دادهاند که این روش در محیط دیجیتال کار میکند، اما اثربخشی آن روی پارچه واقعی و لباس پوشیدهشده توسط انسان هنوز به اثبات نرسیده است.
با این حال، اگر این فناوری در دنیای واقعی هم جواب بدهد، سناریوی آینده چندان پیچیده نخواهد بود و یک شال یا پیراهن با طرحی خاص بپوشید و در مقابل دوربینهای تشخیص چهره، عملاً به یک «ناشناخته» تبدیل شوید.
چرا تمام طرحها منتشر نشدهاند؟
پژوهشها هنوز در مراحل ابتدایی است و سویرینگتون نیز تمام الگوهایی را که تولید کرده در اختیار عموم قرار نداده است.
دلیل آن هم قابلتوجه است و او نمیخواهد شرکتهایی که فناوری تشخیص چهره تولید میکنند، از الگوهای طراحیشده توسط او برای آموزش و تقویت مدلهای خود استفاده کنند.
در واقع، اینجا یک رقابت دائمی میان دو طرف شکل گرفته است؛ از یک سو شرکتهایی که میخواهند الگوریتمهای تشخیص چهره را دقیقتر کنند و از سوی دیگر پژوهشگرانی که تلاش میکنند راهی برای فریب همین الگوریتمها پیدا کنند.
فعلاً مشخص نیست که آیا یک روز واقعاً میتوان با پوشیدن یک شال یا پیراهن خاص از دید سیستمهای تشخیص چهره پنهان شد یا نه. اما یک نکته روشن است: رقابت برای شکستدادن هوش مصنوعیِ نظارتی، حالا از دنیای هک و نرمافزار به دنیای مد و پوشاک هم رسیده است.