هوش مصنوعی

مردم برای سرگرمی چت‌بات‌های هوش مصنوعی را هک می‌کنند

به گزارش خبرنگار پايگاه خبري سروش امنيت به نقل از هوشیو،  این پژوهش که با مصاحبه عمیق با ۲۸ فرد فعال در این حوزه انجام شده، نشان می‌دهد که این فعالیت ترکیبی از کنجکاوی، خلاقیت و همکاری جمعی است و اغلب با انگیزه‌های غیرمخرب و برای شناسایی نقاط ضعف سیستم‌ها صورت می‌گیرد.

محققان با استفاده از روش نظریه‌پردازی داده‌بنیاد، ۳۵ تکنیک نفوذ را در پنج دسته طبقه‌بندی کرده‌اند.

این مطالعه، که توسط «نانا اینیه» از دانشگاه IT کپنهاگ و همکارانش انجام شده، بر اهمیت رویکرد انسان‌محور در امنیت هوش مصنوعی تأکید دارد.

افراد مورد مطالعه، از مهندسان نرم‌افزار تا هنرمندان، در جوامع آنلاین مانند توییتر و دیسکورد با یکدیگر همکاری می‌کنند و از روش‌های خلاقانه‌ای نظیر استفاده از زبان‌های جایگزین یا سناریوهای تخیلی برای دور زدن محدودیت‌های چت‌بات‌ها بهره می‌برند.

نتایج این پژوهش نشان می‌دهد که چنین فعالیت‌هایی، علاوه بر کمک به توسعه سیستم‌های ایمن‌تر، نیاز به درک عمیق‌تر رفتارهای انسانی در تعامل با فناوری‌های پیشرفته را برجسته می‌کند و می‌تواند مبنایی برای تحقیقات آینده در این حوزه باشد.

[author title=”نويسنده” image=”https://soroosheamniyat.ir/wp-content/uploads/2025/03/68ce8398-24e3-40b3-8f1a-cd664029e334.png”]مسعود اسدپور کارشناس امنيت وخبرنگار پايگاه خبري سروش امنيت[/author]

منبع  :
هوشیو

پویش #دو_درجه_کمتر
نمایش بیشتر

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

Time limit is exhausted. Please reload the CAPTCHA.

دکمه بازگشت به بالا