خطرات هوش مصنوعی مستقل در تعاملات ماشین با ماشین

چگونه شرکت‌ها باید استراتژی‌های امنیت سایبری خود را برای پاسخگویی به تعاملات ماشین با ماشین تغییر دهند؟

شرکت‌ها باید بدانند که تعاملات ماشین با ماشین اساساً نیازمندی‌های هویتی متفاوتی نسبت به تعاملات انسان با سیستم دارند. چارچوب‌های هویت سنتی عوامل احراز هویت انسانی مانند نام‌های کاربری، رمزهای عبور و احراز هویت چند عاملی (MFA) را در اولویت قرار می‌دهند. با این حال، ماشین‌ها به رویکرد متفاوتی نیاز دارند، تمرکز بر مالکیت، اعتبارنامه‌ها (مانند گواهی‌ها، کلیدها و رموز)، خودکارسازی و سیاست به‌عنوان کد.

برای بازنگری استراتژی‌های امنیت سایبری برای تعاملات M2M، سازمان‌ها باید:

1.  اتخاذ یک استراتژی مدیریت هویت ماشین – همانطور که هویت‌های انسانی نیاز به اثبات و احراز هویت دارند، ماشین‌ها نیز به اعتبارنامه‌های ایمن، کشف خودکار و مدیریت چرخه حیات کلیدها و گواهی‌ها نیاز دارند.
2.  تغییر از تجربه کاربر به تجربه توسعه‌ دهنده – ماشین‌ها به صورت برنامه‌نویسی تعامل دارند، بنابراین سیاست‌ها و اقدامات امنیتی باید با جریان‌های کاری DevOps و DevSecOps هماهنگ باشند و اطمینان حاصل شود که امنیت در فرآیندهای خودکارسازی تعبیه شده است.
3.  اعمال خط مشی به عنوان کد – ماشین‌ها به جای مجوزهای کاربر محور به سیاست‌های امنیتی از پیش تعریف شده متکی هستند. سازمان‌ها باید سیاست‌های خودکار و کم‌کد/بدون کد را برای مدیریت مؤثر بر تعاملات ماشین پیاده‌سازی کنند.
4.   اولویت دادن به خودکارسازی و هماهنگ سازی ایمن – هویت ماشین‌ها باید در مقیاس مدیریت شوند و برای جلوگیری از شکاف‌های امنیتی نیاز به تهیه خودکار، چرخش اعتبارنامه و ابطال داشته باشند.

سازمان‌ها با برخورد با هویت‌های ماشینی با همان سطح امنیت و حکمرانی هویت‌های انسانی اما تطبیق استراتژی‌ها با نیازهای منحصربه‌فرد خود، می‌توانند خطرات را کاهش داده و ارتباطات امن M2M را فعال کنند.

چگونه حملات AI متخاصم، مانند مسمومیت مدل یا دست‌کاری داده‌ها، بر امنیت M2M تأثیر می‌گذارد؟

حملات هوش مصنوعی متخاصم، مانند مسمومیت مدل و دست‌کاری داده‌ها، با به خطر انداختن احراز هویت و فرآیندهای خودکار، امنیت M2M را تهدید می‌کند. این حملات از آسیب‌پذیری‌ها در نحوه تبادل داده‌ها و احراز هویت در محیط‌های M2M مدل‌های یادگیری ماشین بهره‌برداری می‌کنند.

مسمومیت مدل شامل تزریق داده‌های مخرب یا دست‌کاری به روز‌رسانی‌ها، تضعیف تصمیم‌گیری هوش مصنوعی و به طور بالقوه معرفی درهای پشتی است. اگر سیستم‌های هوش مصنوعی اعتبارنامه‌ها یا به‌ روزرسانی‌های به خطر افتاده را بپذیرند، امنیت به ویژه در سیستم‌های M2M خودمختار کاهش می‌یابد که منجر به خرابی‌های آبشاری می‌شود.

دست‌کاری داده‌ها مجموعه داده‌ها را تغییر می‌دهد، یا با تغییر داده‌های ذخیره شده یا رهگیری داده‌های در حال انتقال. بدون احراز هویت مناسب، مهاجمان می‌توانند داده‌های نادرست را تزریق کنند و عملیات را در محیط‌های مهم M2M مانند اتوماسیون صنعتی، اینترنت اشیاء و جریاهای کاری ابری مختل کنند.

برای کاهش این خطرات، شرکت ها باید:

•  یکپارچگی رمزنگاری را از طریق به‌ روزرسانی‌های امضاء شده و تأیید صحت مدل اعمال کنند.
  •    اعتبارنامه‌های مدل (گواهینامه‌ها، کلیدهای API، نشانه‌های احراز هویت ماشین) را برای محدود کردن دسترسی‌های غیرمجاز، ایمن کنند.
  •    به طور مداوم برای ناهنجاری در رفتار مدل، تلاش‌های احراز هویت و استفاده از گواهی نظارت کنند.
  •    اصول اعتماد صفر را اعمال کنند و برای همه تعاملات M2M مبتنی بر هوش مصنوعی، حتی تعاملات داخلی، نیاز به احراز هویت دارند.

وقتی می‌گویید ماشین‌ها، آیا به دستگاه‌های IoT و سیستم‌های صنعتی اشاره می‌کنیم یا گسترده‌تر از آن است. خطرات به خطر افتادن اسرار و هویت ماشینی در کجا بیشتر است؟ چرا؟

وقتی در مورد هویت ماشین صحبت می‌کنیم، به حوزه بسیار گسترده‌تری نسبت به IoT و سیستم‌های صنعتی اشاره می‌کنیم. طبق تعریف گارتنر، ماشین‌ها هم حجم کاری و هم دستگاه‌ها را شامل می‌شوند. حجم کار شامل کانتینرها، ماشین‌های مجازی (VM)، برنامه‌ها، خدمات، اتوماسیون فرآیند روباتیک (RPA) و اسکریپت‌ها می‌شود، در حالی که دستگاه‌ها شامل سیستم‌های موبایل، دسکتاپ و IoT/OT می‌شوند.

بزرگ‌ترین خطرات امنیتی در محیط‌هایی پدیدار می‌شوند که در آن تعاملات ماشین با ماشین در مقیاس انجام می‌شود، به‌ویژه در ابر، DevOps و زیرساخت‌های سنگین اتوماسیون. برخی از آسیب پذیرترین مناطق عبارتند از:

•  محیط‌های Cloud و Kubernetes – رمزهایی مانند کلیدهای API، گواهی‌های SSH و اعتبارنامه‌ها برای ایمن کردن جریان‌های کاری ضروری هستند، اما اگر سوء مدیریت شوند، می‌توانند منجر به نقض گسترده شوند.
  •    دروازه‌های API و سرویس‌های خودکار – کلیدهای API اغلب مورد هدف قرار می‌گیرند و در صورت به خطر افتادن، می‌توانند به مهاجمان دسترسی مستقیم به سیستم‌های حیاتی را بدهند.
  •    خطوط اتصال DevOps – با استقرار زیرساخت‌های رانندگی خودکار، اسرار جاسازی شده در گردش‌های کاری CI/CD اهداف اصلی مهاجمان هستند و خطر حملات زنجیره تامین را افزایش می‌دهند.
  •    پایگاه‌های اطلاعاتی و ماشین‌های مجازی – اعتبارنامه‌های پایگاه داده یا کلیدهای SSH افشا شده می‌توانند منجر به استخراج داده‌ها یا حملات باج‌افزار شوند.
  •    سیستم‌های IoT و OT – اینها به‌ویژه به دلیل پیکربندی‌های امنیتی ضعیف و اعتبارنامه‌های طولانی مدت که به ندرت به‌ روزرسانی می‌شوند، آسیب‌پذیر هستند.

چالش اساسی این است که ماشین‌ها مانند انسان‌ها احراز هویت نمی‌شوند – آنها کاملاً بر اسرار متکی هستند. بدون مدیریت مناسب، مهاجمان می‌توانند از اعتبارنامه‌های افشا شده برای حرکت جانبی، دسترسی به داده‌های حساس یا اختلال در عملیات حیاتی سوء‌استفاده کنند. از آنجایی که اتوماسیون اجازه می‌دهد تا این حملات به سرعت گسترش یابد، شرکت‌ها برای محافظت موثر از هویت ماشین‌ها به مدیریت مخفی متمرکز، چرخش خودکار و کنترل‌های دسترسی دقیق نیاز دارند.

چگونه خطرات امنیتی تصمیم‌گیری مستقل در سیستم‌های M2M مبتنی بر هوش مصنوعی را برطرف کنیم؟

نکته کلیدی، اجرای امتیازات صفر (ZSP) برای جلوگیری از دسترسی مداوم و غیرضروری سیستم‌های مبتنی بر هوش مصنوعی به منابع حساس است. به‌جای اعتبارنامه‌های با عمر طولانی، دسترسی به‌ موقع (JIT) با امتیازات کافی، بر اساس تأیید زمان واقعی، اعطا می‌شود.

ZSP با اعمال اعتبارنامه‌های زودگذر، کنترل دسترسی مبتنی بر خط مشی، مجوز مداوم و لغو خودکار در صورت شناسایی ناهنجاری ها، خطر را به حداقل می‌رساند. این تضمین می‌کند که حتی اگر یک سیستم هوش مصنوعی به خطر بیفتد، مهاجمان نمی‌توانند از امتیازات ایستاده برای حرکت جانبی سوء‌استفاده کنند.

با اتخاذ تصمیمات مستقل توسط هوش مصنوعی، امنیت باید پویا باشد. با حذف امتیازات غیر ضروری و اعمال کنترل‌های دسترسی بی‌درنگ، سازمان‌ها می‌توانند ضمن حفظ چابکی و خودکارسازی، تعاملات ماشین به ماشین مبتنی بر هوش مصنوعی را ایمن کنند.

اگر بتوانید مدیران ارشد امنیت اطلاعات(CISO) و تیم های امنیتی را در مورد گام‌های مهمی که امروز باید برای آماده شدن برای چالش‌های امنیتی M2M بردارند، راهنمایی کنید، آنها چه خواهند بود؟

افزایش سریع هویت‌های ماشینی – که اکنون 45 به 1 از هویت‌های انسانی بیشتر است – رویکردهای امنیتی سنتی و انسان محور را ناکارآمد کرده است. برای رسیدگی به چالش‌های امنیتی M2M، CISO و تیم‌های امنیتی باید روی سه حوزه کلیدی تمرکز کنند:

1.  تفاوت بین هویت انسان و ماشین را درک کنید

ماشین‌ها – مانند کانتینرها، ماشین‌های مجازی، APIها، پایگاه‌های داده و فرآیندهای خودکار- متفاوت از انسان‌ها احراز هویت می‌شوند. آنها به جای نام‌های کاربری و رمزهای عبور، بر گواهی‌ها و کلیدها تکیه می‌کنند که آنها را به اهداف اصلی مهاجمان تبدیل می‌کند. تیم‌های امنیتی باید استراتژی‌های هویت خود را بر این اساس تغییر دهند.

2.  حذف سیلوها و اتخاذ یک پلت فرم یکپارچه

ابزارهای امنیتی کنونی برای گواهی‌ها و مدیریت هویت اغلب پیچیده هستند و هزینه‌ها و شکاف‌های امنیتی را افزایش می‌دهند. در عوض، سازمان‌ها باید در یک پلتفرم واحد و بومی ابری ادغام شوند که تمام هویت‌ها و اسرار غیر انسانی را به‌طور مرکزی مدیریت کند. این قابلیت تنظیمات نادرست را کاهش می‌دهد، دید را بهبود می‌بخشد و امنیت را افزایش می‌دهد.

3.  تکامل ساختار سازمانی برای داشتن مدیریت هویت غیر انسانی (NHIM)

امنیت M2M فقط یک مشکل فناوری نیست، بلکه به یک رویکرد متقابل عملکردی در امنیت ابر، DevOps، IAM و مدیریت ریسک نیاز دارد. مدیران ارشد امنیت اطلاعات باید یک برنامه اختصاصی NHIM ایجاد کنند تا از حاکمیت، اجرا و سازگاری مداوم با تهدیدات هویت ماشینی در حال تکامل اطمینان حاصل کنند.

[author title=”نویسنده” image=”https://soroosheamniyat.ir/wp-content/uploads/2025/01/bajalan.jpg”]سعید باجلان کارشناس ارشد نرم افزار وصاحب امتیاز پایگاه خبری سروش امنیت[/author]

منبع :
پايگاه اطلا‌ع‌رساني پليس فتا

پویش #دو_درجه_کمتر