مایکروسافت حمله فیشینگ هوش مصنوعی پنهان شده در فایل‌های SVG را شناسایی کرد

ایمیل‌های قدیمی و پر از خطایی که به راحتی قابل تشخیص بودند را فراموش کنید. مجرمان سایبری روش‌های خود را کاملاً ارتقاء داده‌اند و با استفاده از هوش مصنوعی (AI ) نوع جدیدی از کلاهبرداری فیشینگ را ایجاد کرده‌اند که تشخیص آن دشوار است.
بخش اطلاعات تهدید مایکروسافت اخیراً در ۱۸ آگوست یک کمپین فیشینگ اعتبارنامه را شناسایی و مسدود کرد. تجزیه و تحلیل آنها نشان داد که هکرها احتمالاً از مدل‌های زبان بزرگ ( LLM ) استفاده می‌کنند، که به هوش مصنوعی که چت‌بات‌های رایج را پشتیبانی می‌کند، اشاره دارد تا کد پیچیده‌ای بنویسند که از اقدامات امنیتی سنتی عبور می‌کند. این کمپین محدود، اما قابل توجه، در درجه اول سازمان‌های مستقر در ایالات متحده را هدف قرار داد.

چگونه حمله در دید ساده پنهان می‌شود
این حمله با یک ایمیل جعلی اشتراک‌گذاری فایل آغاز شد که از یک حساب ایمیل تجاری کوچک که از قبل در معرض خطر قرار داشت، ارسال شده بود. پیام ظاهراً قانونی به نظر می‌رسید، اما فایل پیوست شده  ( 23mb – PDF- 6 pages.svg)  ترفند اصلی بود.
اگرچه شبیه PDF به نظر می‌رسید، اما پسوند .svg به این معنی است که در واقع یک فایل گرافیک برداری مقیاس‌پذیر (SVG) است. مهاجمان احتمالاً فایل‌های SVG را برای چنین کلاهبرداری‌هایی ترجیح می‌دهند زیرا می‌توانند به راحتی کد پویا و تعاملی را که برای کاربران و بسیاری از ابزارهای امنیتی بی‌ضرر به نظر می‌رسد، در آن جاسازی کنند.
کد مخرب درون فایل به طور منحصر به فردی پنهان شده بود. به جای استفاده از تکنیک‌های استاندارد رمزگذاری (مانند رمزگذاری یا جایگزینی تصادفی کاراکترها)، فایل SVG طوری ساختار یافته بود که شبیه یک داشبورد تحلیلی تجاری قانونی به نظر برسد و در آن از عناصر جعلی برای میله‌های نمودار استفاده شده بود.
بار داده‌ مخرب واقعی در این تله پنهان شده بود، به این صورت که با استفاده از توالی طولانی از اصطلاحات تجاری معمول مانند «درآمد»، «عملیات» و «ریسک» کدگذاری شده بود تا فایل به عنوان داده‌های استاندارد ظاهر شود و هدف واقعی آن که هدایت کاربران به یک صفحه ورود جعلی برای سرقت اطلاعات آنها بود، پنهان بماند.

  دفاع هوش مصنوعی در برابر هوش مصنوعی
برای فهمیدن اینکه مهاجمان چگونه این کد را تا این حد پیچیده کرده‌اند، مایکروسافت از ابزار تحلیل هوش مصنوعی خود، Security Copilot، استفاده کرد. محققان در پست وبلاگ خاطرنشان کردند که این ابزار ارزیابی کرد که این کد «به دلیل پیچیدگی، طولانی بودن و عدم کاربرد عملی، چیزی نیست که یک انسان معمولاً از ابتدا بنویسد» . این بدان معناست که ساختار کد بیش از حد مهندسی شده و سیستماتیک به احتمال زیاد محصول یک مدل هوش مصنوعی است، نه یک برنامه‌نویس انسانی.
اگرچه افزایش حملات مبتنی بر هوش مصنوعی نگران‌کننده است، اما این مورد ثابت می‌کند که آنها شکست‌ناپذیر نیستند. این کمپین با موفقیت توسط مایکروسافت دیفندر برای سیستم‌های حفاظتی هوش مصنوعی خود آفیس ۳۶۵ مسدود شد.
این سیستم‌ها به دنبال نشانه‌های رفتاری هستند که هوش مصنوعی نمی‌تواند به راحتی آنها را پنهان کند، مانند استفاده از ایمیل‌های خودآدرس‌دار با گیرندگان پنهان در فیلد BCC، ترکیب مشکوک نوع فایل و نام و در نهایت هدایت به یک وب‌سایت مخرب شناخته شده.
درس این است که با توجه به اینکه مهاجمان به طور فزاینده‌ای برای انجام کلاهبرداری‌های خود به هوش مصنوعی متکی هستند ، تیم‌های امنیتی باید دائماً خود را با آن وفق دهند و راه‌های جدیدی برای پیشرو بودن پیدا کنند.

بینش‌های تخصصی
پس از یافته‌های مایکروسافت، چندین متخصص امنیتی دیدگاه‌های خود را به‌طور انحصاری با Hackread.com به اشتراک گذاشتند. آندرس آسکاسن ، معاون بازاریابی محصول در Radiant Logic، اظهار داشت که فیشینگ مبتنی بر هوش مصنوعی نشان می‌دهد که «خط مقدم، محتوای مخرب نیست، بلکه فردی است که پشت ورود به سیستم قرار دارد.»
او افزود که برای مقابله با این «فریبکاری در مقیاس هوش مصنوعی»، سازمان‌ها باید بر قابلیت مشاهده هویت تمرکز کنند و داده‌های هویتی را یکپارچه کنند تا «ببینند چه زمانی یک حساب کاربری خارج از شخصیت خود رفتار می‌کند».
به همین ترتیب، اندرو اوبادیارو، مدیر ارشد امنیت اطلاعات در کبالت، خاطرنشان کرد که هوش مصنوعی با ایجاد کدی که «به‌طور یکپارچه در گردش‌های کاری سازمانی ادغام می‌شود»، اساساً بازی را تغییر می‌دهد.
او نتیجه گرفت که تیم‌های امنیتی باید تمرکز خود را به تشخیص رفتاری، تشکیل تیم قرمز علیه تاکتیک‌های مبتنی بر هوش مصنوعی و کوتاه کردن چرخه‌های اصلاح تغییر دهند. درس اصلی این است که با افزایش اتکای مهاجمان به هوش مصنوعی برای مخفی‌تر و مؤثرتر کردن کلاهبرداری‌هایشان، تیم‌های امنیتی باید دائماً خود را با شرایط وفق دهند و راه‌های جدیدی برای پیشرو ماندن پیدا کنند.