رولوت چطور با کنار گذاشتن کلود، خرج ابزارهای برنامه نویسی خود را پایین آورد؟
رولوت می گوید با حذف مدل های کلود از فرایند کدنویسی هوش مصنوعی توانسته هزینه استفاده از ابزارهای برنامه نویسی را کاهش دهد. این شرکت فین تک که سرمایه گذاری گسترده ای روی هوش مصنوعی مولد، دستیار کدنویسی و افزایش بهره وری توسعه دهندگان انجام داده، حالا سراغ ترکیبی اقتصادی تر از مدل های هوش مصنوعی رفته است.
ماجرا از جایی شروع شد که مدیران رولوت درباره هزینه واقعی این فناوری تردید داشتند. ابزارهای مولد می توانند سرعت نوشتن، بررسی و اصلاح کد را بالا ببرند، اما وقتی هزاران کارمند به آن ها دسترسی داشته باشند، صورت حساب خیلی زود جدی می شود. به همین دلیل شرکت تصمیم گرفت عملکرد مدل ها را با معیارهای واقعی بسنجد، نه صرفاً هیجان بازار.
مطالعه مقاله قبلی در دسته بندی تکنولوژی با عنوان محدودیت جدید ChatGPT و تصمیم جنجالی OpenAI برای کاربران.
چرا هزینه کدنویسی با هوش مصنوعی مهم شد؟
مشکل فقط قیمت یک اشتراک ماهانه نبود. در مقیاس سازمانی، تعداد درخواست ها، حجم کد ارسالی، طول ورودی ها و میزان استفاده روزانه توسعه دهندگان می تواند هزینه را چند برابر کند. مدلی که برای یک برنامه نویس ارزان به نظر می رسد، شاید برای یک مجموعه بزرگ حسابی گران تمام شود.
رولوت در ابتدا از کلود برای بخشی از وظایف برنامه نویسی استفاده می کرد. توانایی این مدل در درک کدهای طولانی و پاسخ گویی به مسائل پیچیده جذاب بود، اما نسبت هزینه به خروجی همیشه رضایت بخش نبود. مدیران شرکت می خواستند بدانند آیا کیفیت بالاتر واقعاً اختلاف قیمت را توجیه می کند یا نه.
بررسی های داخلی نشان داد وابستگی کامل به یک مدل خاص، هم بودجه را تحت فشار قرار می دهد و هم انعطاف تیم فنی را کم می کند. نتیجه ساده بود: اگر مدل های دیگر بتوانند وظایف روزمره را با کیفیتی قابل قبول انجام دهند، دلیلی ندارد گران ترین گزینه برای همه درخواست ها فعال باشد.
اینجا بود که رولوت استفاده از کلود را در ابزار داخلی خود کنار گذاشت. این تصمیم به معنی توقف برنامه های هوش مصنوعی نبود؛ اتفاقاً شرکت مسیر جدی تری را انتخاب کرد و درخواست ها را براساس نوع، دشواری و هزینه به مدل های مناسب تر سپرد.
کیفیت فدای کاهش هزینه نشد
کنار گذاشتن یک مدل شناخته شده شاید در نگاه اول پرریسک باشد. توسعه دهنده ها نمی خواهند برای صرفه جویی، پاسخ های ضعیف تر دریافت کنند یا زمان بیشتری برای اصلاح کدهای تولیدشده بگذارند. چنین تغییری اگر درست اجرا نشود، هزینه پنهان آن می تواند از مبلغ صرفه جویی شده بیشتر باشد.
رولوت برای جلوگیری از این اتفاق، خروجی مدل ها را روی وظایف واقعی آزمایش کرد. سرعت پاسخ، دقت پیشنهادها، تعداد اصلاحات لازم و میزان پذیرش کد تولیدشده از جمله معیارهایی بودند که اهمیت داشتند. در واقع سؤال اصلی این نبود که کدام مدل معروف تر است؛ سؤال این بود که کدام گزینه کار را با هزینه منطقی تر تحویل می دهد.
این رویکرد باعث شد بخش زیادی از فعالیت های معمول کدنویسی هوش مصنوعی بدون نیاز به مدل های گران انجام شود. کارهایی مثل تکمیل کد، تولید تست، توضیح بخش های قدیمی، پیدا کردن خطاهای ساده و آماده سازی مستندات معمولاً به سنگین ترین مدل موجود احتیاج ندارند.
برای مسائل پیچیده تر هم امکان استفاده از مدل های قدرتمند باقی ماند. تفاوت مهم این بود که دیگر همه درخواست ها با یک مسیر ثابت پردازش نمی شدند. انتخاب هوشمند مدل، جلوی مصرف بی دلیل منابع را گرفت و هزینه متوسط هر درخواست را پایین آورد.
یک پیام روشن برای شرکت های دیگر
تجربه رولوت نشان می دهد خرید ابزار هوش مصنوعی فقط آغاز کار است. شرکت ها باید دائماً بررسی کنند کارمندان واقعاً چطور از این سرویس ها استفاده می کنند و هر قابلیت چه ارزشی ایجاد می کند. داشتن هزاران حساب کاربری زمانی مفید است که خروجی آن در سرعت، کیفیت یا درآمد قابل اندازه گیری باشد.
این موضوع برای کسب وکارهایی که می خواهند دستیار برنامه نویسی راه اندازی کنند، حسابی مهم است. انتخاب مدل براساس شهرت یا نتایج بنچمارک کافی نیست. یک مدل ممکن است در آزمون های عمومی فوق العاده باشد، اما برای وظایف روزانه یک تیم، تفاوت چشمگیری با گزینه ارزان تر نداشته باشد.
از طرف دیگر، حذف کلود برای رولوت لزوماً نسخه ای مناسب برای همه شرکت ها نیست. بعضی تیم ها شاید برای تحلیل مخزن های بزرگ، بازنویسی معماری یا حل مسائل دشوار، از توانایی های این مدل نتیجه بهتری بگیرند. نکته اصلی این است که انتخاب باید براساس داده های واقعی همان سازمان انجام شود.
در نهایت، برنده این رقابت الزاماً مدلی نیست که بهترین پاسخ را در هر شرایطی ارائه می کند. مدلی برنده است که بین کیفیت، سرعت و قیمت تعادل بهتری بسازد. رولوت هم با همین نگاه توانست هزینه زیرساخت برنامه نویسی مبتنی بر هوش مصنوعی را کنترل کند، بدون اینکه پروژه را متوقف کند.
این تصمیم یک هشدار کوچک برای سازندگان مدل ها هم هست. مشتریان سازمانی به راحتی برای نام های بزرگ پول اضافه نمی دهند و اگر اختلاف کیفیت محسوس نباشد، سراغ گزینه های اقتصادی تر می روند. بازار کدنویسی هوش مصنوعی حالا فقط رقابت بر سر قدرت نیست؛ قیمت و بازده سرمایه گذاری هم به همان اندازه تعیین کننده شده اند.
برای دریافت جدیدترین اخبار تکنولوژی با مجله هوش مصنوعی با ما همراه باشید
نظرات کاربران