کارکنان آمازون و ماجرای عجیـب «توکن مکـسینگ»: وقتی بهره وری قـلابی می شود!
در روزهایی که هوش مصنوعی تقریبا در هر گوشه ی کاری وارد شده، خبر عجیبی از درون آمازون بیرون زده است: تعدادی از کارکنان این غول فناوری، با حقه ای به نام Tokenmaxxing سعی کرده اند آمار استفاده از پلتفرم های AI را بالا ببرند تا فقط «خوش ظاهر» به نظر برسند! بله، دقیقا همان حرکتی که نشان می دهد تا کجا فشار KPIهای بی منطق می تواند آدم ها را به مسیرهای عجیب بکشاند. در این ماجرا، کاربرد هوش مصنوعی نه برای بهبود واقعی عملکرد، بلکه صرفا برای پر کردن عددها بوده است.
در همین میان، گزارش ها نشان می دهد برخی از تیم های آمازون برای رسیدن به «اهداف کاری» از مدل های زبانی خواسته اند چندین بار دستورات تکراری را اجرا کنند تا به نوعی در آمار مصرف سهمیه خودشان افزایش غیرواقعی بسازند. چیزی که در ظاهر نشان از استفاده بالا از ابزارهای AI دارد، اما در عمل نتیجه ای جز هدررفت منابع و زمان ندارد.
مطالعه مقاله قبلی در دسته بندی تکنولوژی با عنوان راز عبور از فیلتر ربات های استخدام با رزومه هوشمند.
چرا کارکنان آمازون دست به چنین کاری زدند؟
طبق آنچه منابع داخلی گفته اند، ماجرا از جایی شروع شد که مدیران برای هر بخش، اهدافی درباره ی مصرف سرویس های داخلی مبتنی بر هوش مصنوعی تعیین کردند. اما وقتی حجم واقعی کار با این ابزارها کم بود، بعضی کارمندان برای فرار از توبیخ تصمیم گرفتند با تولید حجم زیاد درخواست های بی هدف، ظاهراً «پرتلاش تر» نشان داده شوند. رویکردی که احتمالا در کوتاه مدت آمار را قشنگ می کند، اما در درازمدت اعتماد مدیریتی را زیر سوال می برد.
اثرات این رفتار بر عملکرد واقعی
سوءاستفاده از هوش مصنوعی در چنین سطحی فقط یک حرکت تقلبی کوچک نیست. وقتی افراد مشغول پر کردن داده های بی ارزش می شوند، تمرکز از هدف اصلی –یعنی استفاده هوشمندانه از AI برای بهبود فرآیندها– برداشته می شود. در نتیجه، نه تنها منابع پردازشی هدر می رود، بلکه انگیزه ی واقعی برای خلاقیت هم از بین می رود. خیلی از کارکنان واقعی که از سیستم درست استفاده می کردند هم با این رفتارها دلسرد شده اند.
آیا آمازون واکنشی نشان داده است؟
گزارش ها حاکی از آن است که مدیران بالادستی در آمازون به سرعت متوجه الگوهای غیرطبیعی مصرف شده اند. آن ها حالا به دنبال سیاست های جدیدی هستند تا اطمینان پیدا کنند هرگونه «فعالیت صوری» در استفاده از پلتفرم های AI شناسایی شود. چون ظاهراً هدف از توسعه ی ابزارهای داخلی چیزی بیشتر از بالا رفتن نمودارهاست: افزایش واقعی بهره وری.
نقش فرهنگ سازمانی در شکل گیری رفتارهای غیرواقعی
وقتی شرکت ها بیش ازحد به شاخص های کمی تکیه می کنند، کارکنان به جای فهمیدن هدف اصلی هوش مصنوعی، شروع می کنند به بازی با اعداد. این اتفاق نه فقط در آمازون بلکه در خیلی از شرکت های بزرگ دنیا رخ می دهد. شاید زمان آن رسیده که سازمان ها به جای تمرکز بر آمارهای ظاهری، بازخورد انسانی و نتایج ملموس را معیار سنجش قرار دهند.
آینده ی تعامل انسان و AI در محیط کار
اگر این تجربه تلخ چیزی برای یادگیری داشته باشد، آن است که هوش مصنوعی فقط در صورتی مفید است که با نیت درست به کار گرفته شود. هوش مصنوعی می تواند ابزار قدرتمندی باشد، اما سوءاستفاده از آن برای بالا بردن آمارهای بی معنی، در نهایت روح همکاری و صداقت در محیط کار را تضعیف می کند. شفافیت، آموزش صحیح، و ایجاد انگیزه های واقعی شاید تنها راه نجات از «توکن مکـسینگ»های بعدی باشد.
برای دریافت جدیدترین اخبار تکنولوژی با مجله هوش مصنوعی با ما همراه باشید.
نظرات کاربران