کشف حمله سایبری مخفی مایکروسافت به مدل های زبانی هوش مصنوعی
در دنیای پرسرعت فناوری، مایکروسافت اخیراً از یک حمله سایبری جدید پرده برداشته که مدل های زبانی بزرگ یا همان LLM ها را هدف گرفته است. این نوع حمله که با نام Whisper attack یا «حمله نجوا» شناخته می شود، تهدیدی جدی برای امنیت داده های رمزگذاری شده در سیستم های هوش مصنوعی محسوب می شود. بررسی ها نشان می دهد که مهاجمان می توانند با استفاده از این روش، به اطلاعات حساس رد و بدل شده بین کاربران و مدل های زبانی دسترسی پیدا کنند.
به گفته تیم امنیت سایبری مایکروسافت، این نوع حمله از طریق بررسی الگوهای ارتباطی بین مدل و کاربر انجام می شود و برخلاف حملات سنتی، نیازی به نفوذ مستقیم به سیستم یا استخراج داده ها ندارد. این موضوع زنگ خطر بزرگی برای شرکت هایی است که از مدل های LLM در محصولات خود استفاده می کنند.
مطالعه مقاله قبلی در دسته بندی تکنولوژی با عنوان حمله فیشینگ گسترده به کاربران مایکروسافت 365 و راه های مقابله.
ماهیت حمله نجوا (Whisper Attack)
حمله نجوا با استفاده از تحلیل الگوهای ترافیک رمزگذاری شده بین سرور و مدل هوش مصنوعی، تلاش می کند محتوای گفتگو یا درخواست ها را حدس بزند. مایکروسافت توضیح داده که حتی اگر داده ها رمزگذاری شده باشند، بعضی ویژگی های ارتباط مثل زمان بندی درخواست ها و اندازه بسته ها می تواند برای مهاجم قابل تحلیل باشد. این روش عملاً شبیه گوش دادن از پشت دیوار ضخیم است؛ چیزی نمی شنوی، اما از حرکات سایه ها می فهمی داخل چه می گذرد!
تأثیر بر شرکت ها و کاربران
طبق اعلام مایکروسافت، این حمله می تواند مدل های مشهور مانند ChatGPT، Google Gemini و Claude را هم تحت تأثیر قرار دهد. کمپانی هشدار داده که حتی شرکت هایی که از APIهای هوش مصنوعی برای کاربردهای تجاری استفاده می کنند، باید پروتکل های امنیتی خود را به روز کنند. کاربران عادی هم نباید تصور کنند در امان اند؛ چراکه همین مدل ها در سرویس های چت، ترجمه، یا ابزارهای تولید محتوا حضور دارند.
اقدامات مقابله ای مایکروسافت
مایکروسافت اعلام کرده با به روزرسانی لایه های امنیتی Azure AI و ابزارهای رمزگذاری، مانع از جمع آوری الگوهای ترافیکی توسط مهاجمان می شود. تیم امنیتی این شرکت همچنین مجموعه ای از دستورالعمل ها را برای توسعه دهندگان پیشنهاد داده تا بتوانند مدل های زبانی خود را در برابر چنین تهدیدهایی مقاوم تر کنند. به گفته این شرکت، اولین گام برای مقابله با Whisper Attack، رصد دقیق ترافیک شبکه و استفاده از سیستم های تشخیص ناهنجاری است.
آینده امنیت در مدل های زبانی
با رشد سریع هوش مصنوعی، حملات سایبری هم هوشمندتر شده اند. مایکروسافت بر این باور است که تنها راه مقابله با آن ها، ایجاد ترکیبی از رمزنگاری پیشرفته و یادگیری ماشینی برای شناسایی رفتارهای غیرعادی در شبکه است. درواقع، باید سیستم هایی ساخت که نه تنها پاسخ بدهند، بلکه رفتار کاربر و ابزار را هم زیر نظر بگیرند.
در پایان، مشخص است که عصر هوش مصنوعی بدون امنیت سایبری، به شدت آسیب پذیر است. حمله نجوا فقط یک هشدار کوچک از تهدیدهایی است که در کمین زیرساخت های ما نشسته اند. بنابراین، چه یک کاربر معمولی باشید و چه توسعه دهنده هوش مصنوعی، زمان آن رسیده سطح آگاهی خود را بالا ببرید و سیستم های خود را برای نسل جدید حملات آماده کنید.
برای دریافت جدیدترین اخبار تکنولوژی با مجله هوش مصنوعی با ما همراه باشید.
نظرات کاربران