شرکت‌های فناوری به‌دنبال کنترل هزینه‌های هوش مصنوعی با محدود کردن مصرف «توکن»

گزارش‌ها نشان می‌دهد شرکت‌های بزرگ فناوری در حال بازنگری جدی در نحوه استفاده از هوش مصنوعی هستند، زیرا مدل قیمت‌گذاری مبتنی بر توکن باعث افزایش سریع هزینه‌ها شده و بسیاری از آنها را به سمت محدودسازی مصرف و استفاده بهینه‌تر از هوش مصنوعی سوق داده است.

کد خبر: ۴۲۳۸۲۷

تاریخ : ۰۶ تير ۱۴۰۵ - ۱۱:۵۴

نوشته

شهرآرانیوز؛ به گزارش ، شرکت ها در حال بازنگری در سیاست های استفاده از هوش مصنوعی خود هستند.

اوایل امسال پیام شرکت‌های فناوری به کارکنانشان کاملاً روشن بود: تا جایی که می‌توانید از هوش مصنوعی در کارتان استفاده کنید. کارمندان این روند را «توکن‌مکسینگ» (Tokenmaxxing) نام گذاشته بودند؛ «توکن» واحدی در استفاده از هوش مصنوعی است که تقریباً معادل یک تکه از کلمات محسوب می‌شود. در شرکت‌هایی مثل «متا» (Meta) و «آمازون» (Amazon) حتی رقابت‌هایی بین کارمندان شکل گرفته بود که میزان استفاده از توکن‌ها را روی جدول‌های امتیاز نمایش می‌داد.

اما وقتی صورت‌حساب‌ها از شرکت‌هایی مثل «آنتروپیک» (Anthropic) و «اوپن‌ای‌آی» (Open AI) که ابزارهای هوش مصنوعی ارائه می‌دهند رسید، همه‌چیز تغییر کرد—و این هزینه‌ها اصلاً ارزان نبودند.حالا به نظر می‌رسد دوران «توکن‌مکسینگ» به پایان رسیده است.

طبق گزارش نیویورک تایمز، متا هفته گذشته به کارکنانش اعلام کرد که به‌زودی استفاده از هوش مصنوعی را محدود خواهد کرد، پس از آنکه شاهد «افزایش تصاعدی» هزینه‌ها بوده است. در ماه مه، «اوبر» (Uber) گفت که تنها در چهار ماه اول سال از بودجه پیش‌بینی‌شده سالانه خود برای هوش مصنوعی عبور کرده و حالا برای ابزار‌های کدنویسی AI محدودیت‌های ماهانه اعمال کرده است. «والمارت» (Walmart) نیز برای ابزار‌های مختلف هوش مصنوعی محدودیت‌هایی تعیین کرده است. همچنین آمازون و متا جدول‌های رتبه‌بندی مربوط به «توکن‌مکسینگ» را حذف کرده‌اند.به بیان دیگر، حالا دوره جدیدی با عنوان «توکن‌مینینگ» (Tokenminning) یا «کاهش مصرف توکن» آغاز شده است.

این تغییر جهت سریع در عرض تنها چند ماه نشان می‌دهد که استفاده از هوش مصنوعی هنوز در مرحله‌ای ناپایدار قرار دارد و افراد و شرکت‌ها در حال تلاش هستند تا بهترین شیوه استفاده از این ابزار‌ها را پیدا کنند. راب می، مدیرعامل استارتاپ Neurometric که به شرکت‌ها در استفاده بهتر از هوش مصنوعی کمک می‌کند و نویسنده کتاب «مانیفست توکن‌مینینگ» است، می‌گوید: «بزرگ‌ترین مشکل این است که همه‌چیز خیلی سریع در حال تغییر است و افراد و شرکت‌ها نمی‌دانند باید چه کار کنند.» او گفت: «مدیران ارشدی که نمی‌دانستند چطور میزان مهارت کارکنان در استفاده از هوش مصنوعی را بسنجند، به این نتیجه رسیدند که خب، ببینیم چه کسی بیشترین توکن را استفاده می‌کند؟» او اضافه کرد که این طرز فکر در نهایت باعث شد کمیت جای کیفیت را بگیرد.

اوپن‌ای‌آی و آنتروپیک اشتراک‌هایی با قیمت حدود ۱۰ تا ۲۰۰ دلار در ماه برای استفاده از مدل‌های هوش مصنوعی ارائه می‌دهند؛ زمانی که کاربران به سقف مصرف خود برسند، دسترسی‌شان محدود یا قطع می‌شود. اما بخش عمده درآمد این شرکت‌ها از ارائه ابزار به شرکت‌هایی مانند «متا» (Meta)، «شاپیفای» (Shopify) و «آمازون» (Amazon) به دست می‌آید؛ شرکت‌هایی که نه‌تنها هزینه اشتراک پرداخت می‌کنند، بلکه بابت توکن‌هایی که ده‌ها هزار کارمندشان مصرف می‌کنند هم پول می‌دهند.

در نتیجه، هرچه تعداد توکن‌های مصرف‌شده بیشتر باشد، هزینه استفاده از هوش مصنوعی نیز بالاتر می‌رود.

یک کار ساده مثل اینکه از هوش مصنوعی بخواهید متن یک جلسه کاری را خلاصه کند، ممکن است فقط چند صد توکن مصرف کند. اما درخواست‌های پیچیده‌تر، مثل نوشتن کد برای ساخت یک محصول یا قابلیت جدید، می‌تواند ده‌ها هزار توکن مصرف کند.هزینه استفاده از مدل‌های هوش مصنوعی با قدرتمندتر شدن آنها و افزایش مصرف توکن‌ها به‌شدت بالا رفته است. مدل جدید هوش مصنوعی Anthropic با نام Fable دو برابر گران‌تر از مدل قبلی آنها یعنی Opus است. هرچند مدل‌های ارزان‌تری هم وجود دارند، اما بسیاری از کارکنان به استفاده از قدرتمندترین مدل‌ها برای همه کار‌ها عادت کرده‌اند، به گفته آقای می.

شیوه استفاده افراد از هوش مصنوعی هم تغییر کرده است. به جای اینکه فقط با چت‌بات‌های هوش مصنوعی گفت‌و‌گو کنند، مهندسان اکنون «ایجنت‌های هوش مصنوعی» (AI Agents) را به کار می‌گیرند که می‌توانند برای ساعت‌ها روی وظایف پیچیده کار کنند. در نتیجه، مهندسان ممکن است هر ماه ده‌ها هزار دلار فقط برای مصرف توکن‌ها هزینه کنند.بسیاری از شرکت‌ها اعلام کرده‌اند که پس از مشاهده نکردن بازدهی مشخص از سرمایه‌گذاری‌هایشان در حوزه هوش مصنوعی، تلاش می‌کنند هزینه‌کرد خود در این زمینه را استراتژیک‌تر کنند.

{$sepehr_key_223015}

اندرو مک‌دونالد، مدیر ارشد عملیات اوبر، در یک مصاحبه پادکستی اخیر گفته است: «اگر نتوانید ارتباط مستقیمی بین تعداد ویژگی‌ها و قابلیت‌های مفید و کاربردی که به کاربران ارائه می‌دهید برقرار کنید، توجیه چنین هزینه ای بسیار دشوارتر خواهد شد.» اندرو مک‌دونالد، مدیر عملیات شرکت اوبر، در یک مصاحبه پادکستی اخیر اظهار داشت: «این ارتباط هنوز برقرار نشده است.»

این به این معنا نیست که شرکت‌ها قرار است هزینه‌های خود برای هوش مصنوعی را کاهش دهند. متا به کارکنان خود گفته است که در مسیر هزینه‌کرد میلیارد‌ها دلار برای استفاده از هوش مصنوعی در سال جاری قرار دارد، اما در عین حال قصد دارد «مکان‌هایی را پیدا کند که بتوان با هزینه کمتر، نتایج تجاری مشابه یا بهتری به دست آورد».مارک بنیوف، مدیرعامل شرکت نرم‌افزاری Salesforce، نیز گفته است که شرکتش قصد دارد صد‌ها میلیون دلار برای هوش مصنوعی در سال جاری هزینه کند، اما به جای «توکن‌ها»، از معیار جدیدی به نام «واحد‌های کاری عامل‌محور» (Agentic Work Units) استفاده می‌کند. این معیار جدید قرار است به‌جای صرفاً میزان استفاده، خروجی واقعی را اندازه‌گیری کند.

محدودیت‌های متا و والمارت برای استفاده کارکنان از هوش مصنوعی پیش‌تر توسط The Information و Bloomberg گزارش شده بود.

هنوز روشن نیست که رویکرد «توکن‌مینینگ» چه تأثیری بر سود شرکت‌های Anthropic و OpenAI خواهد داشت. در اوج دوران «توکن‌مکسینگ» در طی امسال، شرکت‌های هوش مصنوعی از درآمد‌های بی‌سابقه‌ای خبر دادند که عمدتاً به دلیل استفاده گسترده از ابزار‌های کمکی کد‌نویسی (coding tools) به دست آمده بود. هفته گذشته، متا به مهندسانش توصیه کرد که تا حد ممکن از دستیار کدنویسی داخلی شرکت به نام MetaCode استفاده کنند و از ابزار‌های شخص ثالث کمتر بهره ببرند.

متا از اظهار نظر خودداری کرد، آنتروپیک نیز پاسخی ارائه نداد و اوپن‌ای‌آی هم به درخواست برای اظهار نظر پاسخ نداد. (نیویورک تایمز از اوپن‌ای‌آی و مایکروسافت به دلیل نقض حق نشر محتوای خبری مرتبط با سیستم‌های هوش مصنوعی شکایت کرده است؛ شرکت‌ها این ادعا‌ها را رد کرده‌اند.)

به گفته آقای می، مسیر روشن پیش‌روی شرکت‌ها این است که تنها در کار‌های پیچیده از پیشرفته‌ترین مدل‌های هوش مصنوعی استفاده کنند و در سایر موارد، مدل‌های ارزان‌تر را جایگزین کنند.

شرکت‌ها می‌توانند با استفاده از مدل‌های کم‌قدرت‌تر هوش مصنوعی تا ۹۰ درصد در هزینه‌ها صرفه‌جویی کنند، به گفته اندی مارکوس، مدیر ارشد هوش مصنوعی AT&T، مهندسان این شرکت از قدرتمندترین مدل‌های هوش مصنوعی فقط برای برخی وظایف پیچیده استفاده می‌کنند و برای بیشتر کار‌های دیگر سراغ مدل‌های ساده‌تر می‌روند.

«همیشه یک نوسان و جزر و مد وجود دارد،» گفت او. «آنچه ما در عمل مشاهده می‌کنیم این است که برای بیشتر کاربردها، لزوماً به جدیدترین و قدرتمندترین مدل‌های دسته اول نیازی نیست.»

{$sepehr_key_223027}