هشدار جدید مایکروسافت از سوءاستفاده هکرها؛ API هوش مصنوعی اوپن AI زیر ذره بین
مایکروسافت به تازگی هشدار داده که هکرها در حال استفاده از یکی از کلیدی ترین APIهای اوپن AI برای انجام حملات سایبری هستند. این هشدار در حالی منتشر شده که استفاده از مدل های زبانی بزرگ و هوش مصنوعی مولد به شدت افزایش یافته و حالا تهدیدات جدیدی در دنیای امنیت سایبری شکل گرفته است. مایکروسافت می گوید گروه های هکری با سوءاستفاده از ابزارهای هوش مصنوعی، در حال ساخت محتوای فیشینگ، بدافزار و روش های فریبکارانه پیشرفته تر هستند.
به گفته کارشناسان امنیتی، ترکیب توانایی هوش مصنوعی مولد و داده های واقعی قربانیان باعث شده حملات بسیار طبیعی تر و خطرناک تر به نظر برسند. هکرها دیگر نیازی ندارند خودشان ایمیل های مخرب بنویسند، بلکه تنها با چند دستور به API اوپن AI می توانند سناریوهای فریبنده طراحی کنند.
مطالعه مقاله قبلی در دسته بندی تکنولوژی با عنوان رقابت دالبی ویژن و فناوری جدید HDR سامسونگ در تلویزیون ها.
روش های سوءاستفاده جدید از API اوپن AI
مایکروسافت اعلام کرده برخی گروه های تهدیدگر مانند تابرز و افینیتی از مدل های زبانی برای تولید پیام های فریبنده استفاده کرده اند. این مدل ها نه تنها به زبان انگلیسی، بلکه به زبان های دیگر از جمله فارسی و عربی نیز تسلط دارند و همین موضوع، سطح حملات را جهانی تر کرده است.
در گزارش آمده که مهاجمان با ترکیب هوش مصنوعی و مهندسی اجتماعی می توانند پیام هایی بسیار قانع کننده بسازند و کاربران را به کلیک روی لینک های آلوده یا دانلود فایل های مخرب ترغیب کنند. این در حالی است که بسیاری از سیستم های تشخیص سنتی هنوز آماده مقابله با چنین محتوای طبیعی نما نیستند.
همکاری مایکروسافت و اوپن AI برای مقابله با تهدیدات
طبق گفته مایکروسافت، همکاری نزدیکی با تیم OpenAI آغاز شده تا راهکارهایی برای شناسایی و مسدود کردن رفتارهای مخرب در استفاده از APIها ارائه شود. سیاست های تازه ای در دست اجراست که به شرکت ها کمک می کند از ابزارهای هوش مصنوعی در مسیر درست و قانونی بهره ببرند.
مایکروسافت همچنین تاکید کرده که کاربران سازمانی باید نظارت بیشتری بر دسترسی به APIهای هوش مصنوعی داشته باشند و از ابزارهای امنیتی تقویت شده استفاده کنند. به ویژه در محیط هایی که داده های حساس وجود دارد، هر نوع استفاده از هوش مصنوعی باید با مجوز و بررسی امنیتی همراه باشد.
افزایش نگرانی ها در جامعه فناوری
جامعه فناوری نسبت به این موضوع واکنش های گسترده ای نشان داده است. بسیاری از متخصصان بر این باورند که این رخداد فقط نوک کوه یخ است و ما تازه وارد دوره ای شدیم که هوش مصنوعی می تواند به راحتی مورد سوءاستفاده قرار بگیرد. فرایند آموزش مدل ها و در دسترس بودن APIها به هکرها این امکان را می دهد تا سطح حملات خود را افزایش دهند.
به نظر می رسد با رشد سریع فناوری های مبتنی بر OpenAI، نیاز به راهکارهای امنیتی هوشمندتر بیش از هر زمان دیگری احساس می شود. مایکروسافت قول داده که همچنان امنیت کاربران را اولویت اصلی خود نگه دارد.
برای دریافت جدیدترین اخبار تکنولوژی با مجله هوش مصنوعی با ما همراه باشید
نظرات کاربران