پایان توکن مکسینگ و تأثیر آن بر بازگشت سرمایه هوش مصنوعی

وقتی توکن بیشتر دیگر سود بیشتر نیست؛ نقشه تازه ROI هوش مصنوعی

تب «هرچه بیشتر، بهتر» در دنیای مدل های مولد کم کم خوابیده است. حالا شرکت ها به جای مصرف بی حساب توکن، دنبال پایان توکن مکسینگ، کاهش هزینه مدل های زبانی و بهبود بازگشت سرمایه هوش مصنوعی هستند. خلاصه اش اینکه دیگر کسی نمی خواهد فقط برای داشتن پاسخ های طولانی تر و مدل های بزرگ تر، صورت حساب سنگین تری تحویل بگیرد.

تا همین چند وقت پیش، استفاده بیشتر از توکن نشانه جدی گرفتن هوش مصنوعی بود. تیم ها پنجره متنی را تا جای ممکن پر می کردند، اسناد کامل را داخل پرامپت می ریختند و چند مدل را هم زمان به جان یک مسئله می انداختند. خروجی شاید جذاب بود، اما وقتی پای حساب وکتاب وسط می آمد، معلوم می شد این مهمانی خیلی گران تمام شده است.

مطالعه مقاله قبلی در دسته بندی بازی و سرگرمی با عنوان Rainbow Six Tactics اجبار بازیکنان به تغییر اپراتورها.

دوران توکن مکسینگ دقیقا چه بود؟

توکن واحدی است که مدل زبانی برای خواندن ورودی و ساختن خروجی مصرف می کند. یک کلمه ممکن است به یک یا چند توکن تبدیل شود و هرچه متن ورودی، تاریخچه گفتگو یا پاسخ مدل طولانی تر باشد، تعداد توکن های مصرفی هم بالا می رود.

توکن مکسینگ از جایی شروع شد که تیم ها تصور کردند اضافه کردن داده، دستور و زمینه بیشتر، همیشه نتیجه بهتری می دهد. در ظاهر هم منطقی بود؛ مدل اطلاعات بیشتری دریافت می کرد و احتمالا پاسخ دقیق تری می ساخت. ولی این فرمول یک ایراد مهم داشت: کیفیت با همان سرعت هزینه بالا نمی رفت.

فرض کنید برای نوشتن خلاصه یک گزارش، کل آرشیو شرکت را به مدل می دهید. مدل شاید پاسخ قابل قبولی تولید کند، اما بخش زیادی از اطلاعات اصلا به درخواست مربوط نیست. شما بابت خواندن همان اطلاعات اضافی پول داده اید، زمان بیشتری منتظر مانده اید و حتی احتمال گیج شدن مدل را هم بالا برده اید.

در پروژه های آزمایشی، این ولخرجی چندان ترسناک به نظر نمی رسید. چند هزار درخواست محدود بود و هزینه در بودجه تحقیق وتوسعه گم می شد. مشکل وقتی شروع شد که ابزار از مرحله آزمایش بیرون آمد و به هزاران کارمند، مشتری یا فرایند روزانه رسید.

اینجا بود که صورت حساب ها ناگهان جدی شدند. یک درخواست پرهزینه شاید مسئله بزرگی نباشد، اما همان درخواست را روزی صدها هزار بار اجرا کنید؛ آن وقت حتی چند ریال اضافه برای هر پردازش، در مقیاس سالانه به عدد قابل توجهی تبدیل می شود.

چرا دوره مصرف بی حساب توکن رو به پایان است؟

اولین دلیل، فشار مستقیم مدیران مالی است. آن ها دیگر با جمله هایی مثل «این پروژه آینده شرکت است» قانع نمی شوند. سؤال ساده تر شده: این سامانه چقدر هزینه دارد و دقیقا چقدر پول، زمان یا نیروی انسانی ذخیره می کند؟

دلیل دوم، بلوغ خود فناوری است. در روزهای اول، همه دنبال نمایش توانایی مدل ها بودند. حالا بازار از مرحله هیجان عبور کرده و وارد مرحله بهره برداری شده است. در این مرحله، یک دموی خفن کافی نیست؛ ابزار باید پایدار، سریع، قابل کنترل و از نظر اقتصادی منطقی باشد.

پایان توکن مکسینگ به معنای کنارگذاشتن مدل های قدرتمند نیست. موضوع این است که آن ها فقط زمانی استفاده شوند که واقعا لازم اند. برای دسته بندی یک پیام کوتاه، تشخیص موضوع ایمیل یا استخراج تاریخ از فاکتور، نیازی نیست بزرگ ترین مدل موجود را وارد میدان کنیم.

مدل کوچک تر در بسیاری از وظایف ساده همان نتیجه را با هزینه کمتر و سرعت بیشتر تحویل می دهد. مدل بزرگ می تواند برای تحلیل پیچیده، استدلال چندمرحله ای یا تولید محتوای حساس نگه داشته شود. این تقسیم کار، هم کیفیت را حفظ می کند و هم خرج اضافی را می زند.

دلیل بعدی به معماری برنامه ها برمی گردد. بسیاری از محصولات اولیه طوری ساخته شدند که تمام تاریخچه مکالمه را در هر درخواست دوباره ارسال می کردند. یعنی مدل مجبور بود بارها همان متن را بخواند و شرکت هم بارها بابتش هزینه پرداخت می کرد. واضح است که چنین روشی در مقیاس بزرگ دوام ندارد.

حافظه خلاصه شده، ذخیره نتایج تکراری، بازیابی هدفمند اطلاعات و حذف متن های بی ربط می تواند حجم ورودی را به شدت پایین بیاورد. این ها شاید به اندازه رونمایی از یک مدل تازه هیجان انگیز نباشند، ولی دقیقا همان چیزهایی هستند که یک محصول AI را سودآور می کنند.

معیار موفقیت از تعداد توکن به نتیجه واقعی تغییر می کند

تا مدت ها، تعداد درخواست، حجم توکن و تعداد کاربران به عنوان نشانه رشد معرفی می شد. این اعداد هنوز ارزش دارند، اما به تنهایی چیزی درباره موفقیت اقتصادی نمی گویند. مصرف بیشتر ممکن است فقط ثابت کند که محصول شما پرخرج است، نه اینکه مفید است.

معیار درست باید به نتیجه کسب وکار وصل شود. آیا دستیار هوشمند مدت پاسخ گویی پشتیبانی را پایین آورده؟ آیا ابزار کدنویسی تعداد خطاها را کم کرده؟ آیا سامانه فروش نرخ تبدیل را بالا برده؟ اگر پاسخ روشن نباشد، بالا رفتن مصرف توکن خبر خوبی نیست.

برای سنجش بازگشت سرمایه هوش مصنوعی باید هزینه کامل پروژه دیده شود. قیمت API فقط یکی از بخش هاست. زیرساخت، نگهداری، ارزیابی خروجی، امنیت، آموزش کارکنان، نظارت انسانی و اصلاح خطاها همگی هزینه دارند.

در سمت دیگر معادله، ارزش ایجادشده قرار می گیرد. صرفه جویی زمانی، کاهش خطا، افزایش فروش، رضایت مشتری و سرعت بیشتر در انجام کارها باید تا حد ممکن اندازه گیری شوند. بدون این اعداد، ROI بیشتر شبیه حدس است تا یک شاخص مدیریتی.

نکته مهم اینجاست که خروجی طولانی تر لزوما خروجی بهتر نیست. خیلی وقت ها کاربر یک جواب کوتاه، دقیق و قابل اجرا می خواهد. اگر مدل برای یک پرسش ساده سه صفحه توضیح تولید کند، هم هزینه بالا می رود و هم کاربر باید وقت بیشتری برای پیدا کردن جواب اصلی بگذارد.

پس محدودکردن خروجی فقط یک ترفند کاهش هزینه نیست؛ می تواند تجربه کاربری را هم بهتر کند. دستورهایی مثل «در سه بند پاسخ بده» یا «فقط موارد ضروری را فهرست کن» جلوی پرگویی مدل را می گیرند و نتیجه را کاربردی تر می کنند.

مسیر تازه برای افزایش بازگشت سرمایه هوش مصنوعی

اولین قدم، انتخاب مدل بر اساس سختی وظیفه است. قرار نیست همه درخواست ها به یک مدل واحد فرستاده شوند. یک سیستم مسیریابی می تواند درخواست های ساده را به مدل ارزان تر و مسائل پیچیده را به مدل توانمندتر بسپارد.

این رویکرد شبیه یک تیم واقعی است. برای هر کار معمولی سراغ گران ترین متخصص مجموعه نمی رویم. وظایف بین افراد تقسیم می شوند و فقط پرونده های دشوار به فرد باتجربه تر می رسند. معماری چندمدلی هم همین منطق را اجرا می کند.

قدم دوم، تمیزکردن ورودی است. پرامپت های طولانی اغلب پر از توضیح های تکراری، مثال های غیرضروری و قوانین مبهم هستند. بازنویسی آن ها می تواند بدون افت کیفیت، مصرف توکن را پایین بیاورد. گاهی یک دستور شفاف پنج خطی از یک متن دوصفحه ای بهتر جواب می دهد.

بازیابی هدفمند اطلاعات هم اهمیت زیادی دارد. به جای فرستادن یک دفترچه راهنمای چندصدصفحه ای، سیستم باید فقط بخش های مرتبط را پیدا کند و در اختیار مدل بگذارد. این کار هم سرعت را بالا می برد و هم احتمال پاسخ های نامرتبط را کم می کند.

ذخیره پاسخ های تکراری راهکار دیگری است که معمولا دست کم گرفته می شود. اگر صدها کاربر یک سؤال مشابه می پرسند، لازم نیست مدل هر بار جواب را از صفر بسازد. نتیجه قبلی می تواند با کنترل های مناسب دوباره استفاده شود.

بعد نوبت محدودکردن رفت وبرگشت عامل های هوشمند است. ایجنت ها ممکن است برای انجام یک وظیفه چندین بار مدل را صدا بزنند، ابزارهای مختلف را امتحان کنند و خروجی خودشان را دوباره بررسی کنند. این رفتار گاهی مفید است، اما اگر سقف نداشته باشد، هزینه را خیلی سریع بالا می برد.

برای هر فرایند باید بودجه توکن، محدودیت زمانی و حداکثر تعداد مرحله تعریف شود. اگر ایجنت بعد از چند تلاش به نتیجه نرسید، بهتر است کار را به انسان تحویل دهد یا از کاربر اطلاعات بیشتری بخواهد. تلاش بی پایان مدل قرار نیست معجزه کند؛ فقط قبض را چاق تر می کند.

کیفیت را نباید قربانی ارزانی کرد

کاهش هزینه مدل های زبانی نباید به مسابقه ای برای انتخاب ارزان ترین گزینه تبدیل شود. اگر مدل کوچک تر اطلاعات مهم را اشتباه استخراج کند یا پاسخ خطرناک بدهد، خسارت نهایی می تواند چند برابر مبلغ صرفه جویی شده باشد.

نقطه درست، تعادل بین هزینه، سرعت و کیفیت است. هر وظیفه باید معیار پذیرش خودش را داشته باشد. برای پیشنهاد عنوان یک مطلب شاید خطای جزئی قابل تحمل باشد، اما در تحلیل قرارداد، اطلاعات پزشکی یا تصمیم مالی، سطح دقت باید بسیار بالاتر باشد.

ارزیابی مداوم در اینجا حیاتی است. تیم ها باید مجموعه ای از درخواست های واقعی داشته باشند و مدل ها را مرتب با همان نمونه ها آزمایش کنند. تغییر نسخه مدل، پرامپت یا منبع داده ممکن است کیفیت را بهتر یا بدتر کند و بدون سنجش، کسی متوجه این تغییر نمی شود.

نظارت انسانی هم حذف نمی شود؛ فقط هوشمندانه تر به کار می رود. لازم نیست انسان همه خروجی ها را بخواند، اما موارد حساس، پاسخ های کم اطمینان و استثناها باید به بازبینی فرستاده شوند. این ترکیب معمولا از اتوماسیون کامل امن تر و اقتصادی تر است.

بازگشت سرمایه هوش مصنوعی زمانی بهتر می شود که سیستم دقیقا بداند کجا باید سریع باشد، کجا باید ارزان عمل کند و کجا کیفیت مهم تر از هر چیز دیگری است. یک نسخه ثابت برای تمام کاربردها وجود ندارد.

پایان توکن مکسینگ برای کسب وکارها چه معنایی دارد؟

این تغییر برای مدیران خبر خوبی است، چون گفتگو را از نمایش فناوری به ارزش واقعی می برد. دیگر مهم نیست یک شرکت چند میلیارد توکن مصرف کرده؛ مهم این است که با آن مصرف چه مشکلی را حل کرده است.

برای تیم های فنی هم ماجرا جذاب تر می شود. هنر اصلی فقط اتصال یک API به محصول نیست. طراحی مسیر درخواست، انتخاب مدل، مدیریت حافظه، کنترل زمینه، ارزیابی کیفیت و پایش هزینه حالا بخشی از مهندسی جدی AI هستند.

برای کاربران هم نتیجه احتمالا ابزارهایی سریع تر و کم حرف تر خواهد بود. دستیارهایی که به جای تولید انبوه متن، مستقیم سراغ جواب می روند و در زمان مناسب از کاربر سؤال می پرسند. این همان تغییری است که می تواند هوش مصنوعی را از یک اسباب بازی جالب به یک ابزار روزمره تبدیل کند.

البته قیمت توکن ها احتمالا باز هم پایین می آید و مدل ها بهینه تر می شوند. اما ارزان شدن بهانه خوبی برای مصرف بی حساب نیست. تجربه فناوری های ابری نشان داده هرچه استفاده آسان تر و ارزان تر شود، مصرف کلی هم بالا می رود و اگر کنترل وجود نداشته باشد، هزینه دوباره از پنجره برمی گردد.

شرکت های برنده آن هایی نیستند که بیشترین توکن را می سوزانند. برنده ها تیم هایی هستند که با کمترین پردازش لازم، بهترین نتیجه قابل اندازه گیری را می گیرند. آن ها می دانند چه زمانی مدل بزرگ لازم است و چه زمانی یک قانون ساده، جست وجوی معمولی یا حتی یک فرم درست وحسابی کار را بهتر انجام می دهد.

پایان توکن مکسینگ در اصل پایان یک عادت خام است: اینکه قدرت AI را با میزان مصرفش بسنجیم. مرحله بعدی، مرحله بهره وری، انتخاب دقیق و طراحی هوشمندانه است؛ جایی که هر توکن باید دلیل خوبی برای مصرف شدن داشته باشد.

در نهایت، آینده به مدل هایی تعلق ندارد که فقط بیشتر حرف می زنند. ارزش واقعی زمانی ساخته می شود که مدل با متن کمتر، سرعت بالاتر و خطای پایین تر یک مسئله واقعی را حل کند. همین تغییر ساده می تواند بازگشت سرمایه هوش مصنوعی را از یک وعده مبهم به عددی تبدیل کند که مدیر مالی هم با دیدنش لبخند بزند.

برای دریافت جدیدترین اخبار تکنولوژی با مجله هوش مصنوعی با ما همراه باشید