کپچا (CAPTCHA) همان پازلهای مزاحم اما ضروری هستند که از ما میخواهند حروف کج و معوج را بخوانیم یا تصاویر خاصی را انتخاب کنیم تا ثابت شود انسان هستیم. مدلهای هوش مصنوعی بهطور پیشفرض آموزش دیدهاند که این تستها را حل نکنند اما محققان شرکت امنیتی SPLX با استفاده از یک تکنیک به نام «تزریق پرامپت چند مرحلهای» این محدودیت را دور زدند.
🔹 آنها در یک چت عادی با ChatGPT-4o، به هوش مصنوعی گفتند که قرار است یک تمرین مبتنی بر استدلال را با حلکردن لیستی از کپچاهای «جعلی» انجام دهند و رضایت هوش مصنوعی را برای حل این تستهای «جعلی» جلب کردند. سپس در یک چت جدید، این مکالمه را در حالت Agent Mode کپی کردند؛ حالتی که در آن #ChatGPT میتواند به صورت مستقل با وبسایتها تعامل داشته باشد.
🔹هوش مصنوعی در حالت Agent، با بهیاد داشتن مکالمه قبلی، تصور کرد که همچنان درحال انجام همان تمرین مورد توافق است و بدون اینکه متوجه شود چارچوبهای امنیتی خود را زیر پا گذاشت و شروع به حلکردن کپچاهای واقعی کرد.
[author title=”نويسنده” image=”https://soroosheamniyat.ir/wp-content/uploads/2025/03/68ce8398-24e3-40b3-8f1a-cd664029e334.png”]مسعود اسدپور کارشناس امنيت وخبرنگار پايگاه خبري سروش امنيت[/author]
