هوش مصنوعی باهوش‌تر، اما خودخواه‌تر و شیطانی‌تر می‌شود

به گزارش خبرنگار پايگاه خبري سروش امنيت به نقل از هوشیو،محققان برای آزمایش این روند، از مدل‌های هوش مصنوعی در «بازی‌های اقتصادی» استفاده کردند که معضلات اجتماعی را شبیه‌سازی می‌کند. یکی از این بازی‌ها «کالاهای عمومی» نام داشت که در آن هر بازیکن (هوش مصنوعی) می‌توانست انتخاب کند که امتیاز خود را با هدف دو برابر شدن در یک استخر مشترک، به اشتراک بگذارد (همکاری) یا آن را نزد خود نگه دارد (خودخواهی).

• مدل‌های ساده: مدل‌هایی که قابلیت استدلال پیچیده نداشتند، ۹۶ درصد مواقع همکاری را انتخاب کردند.
• مدل‌های استدلالی: مدل‌های باهوش‌تر، تنها ۲۰ درصد مواقع امتیازات خود را به اشتراک گذاشتند.

دکتر هیروکازو شیِرادو، یکی از محققان، می‌گوید: «صرفاً اضافه کردن پنج یا شش مرحله استدلال به مدل، همکاری را تقریباً به نصف کاهش داد. حتی ترغیب مبتنی بر تأمل اخلاقی نیز همکاری را تا ۵۸ درصد کاهش داد.»

خودخواهی مسری؛ خطر برای همکاری‌های انسانی

نتایج حتی در محیط‌های گروهی که ترکیبی از مدل‌های باهوش و ساده بودند، نگران‌کننده‌تر بود. محققان دریافتند که رفتار خودخواهانه مدل‌های استدلالی به شدت مسری است:

• عامل واگیر: مدل‌های باهوش‌تر، توانستند همکاری مدل‌های ساده‌تر را در عملکرد جمعی تا ۸۱ درصد کاهش دهند.

این یافته‌ها به شدت برای آینده کسب‌وکار، آموزش و حتی دولت نگران‌کننده است، چرا که انسان‌ها ممکن است به توصیه‌های هوش مصنوعی که منطقی به نظر می‌رسند، تکیه کنند و از آن‌ها برای توجیه رفتارهای خودخواهانه و غیرمشارکتی خود استفاده نمایند.

هشدار نهایی: هوش بدون هوش اجتماعی

این تحقیق هشدار می‌دهد که «باهوش‌تر شدن یک مدل هوش مصنوعی به این معنی نیست که آن مدل می‌تواند یک جامعه بهتر را توسعه دهد.» متخصصان تأکید می‌کنند که توسعه‌دهندگان نباید صرفاً بر ایجاد سریع‌ترین و باهوش‌ترین هوش مصنوعی تمرکز کنند، بلکه باید آن را با «هوش اجتماعی» و رفتارهای مثبت اجتماعی متعادل سازند. در غیر این صورت، ما در حال ساختن یک سیستم فوق‌العاده باهوش هستیم که فقط بهینه‌سازی برای نفع فردی را بلد است.

[author title=”نويسنده” image=”https://soroosheamniyat.ir/wp-content/uploads/2025/03/68ce8398-24e3-40b3-8f1a-cd664029e334.png”]مسعود اسدپور کارشناس امنيت وخبرنگار پايگاه خبري سروش امنيت[/author]

منبع  :
هوشیو

پویش #دو_درجه_کمتر