مطالعه جدید: ایجنتهای هوش مصنوعی میتوانند به دزدی و نقض قوانین روی بیاورند
نتایج یک آزمایش جدید نشان میدهد ایجنتهای هوش مصنوعی در صورت فعالیت طولانیمدت بدون نظارت انسانی، لزوماً به قوانین پایبند نمیمانند. حتی ممکن است در برخی موارد به رفتارهایی مانند سرقت، نقض قوانین و ایجاد بیثباتی اجتماعی سوق پیدا کنند.
در این آزمایش، ایجنتها در محیطهای شبیهسازی شده قرار گرفتند. ایجنت مبتنی بر مدل Grok ۴.۱ تنها در ۴ روز، ۱۸۳ تخلف ثبت کرد و در نهایت جامعه آنها به فروپاشی کامل رسید. از سوی دیگر، عاملهای Gemini ۳ Flash نیز طی ۱۵ روز بیش از ۶۸۰ تخلف مرتکب شدند.
در مقابل، دنیای مبتنیبر ایجنتهای GPT-۵ Mini تنها شاهد دو تخلف بود؛ البته عاملها نتوانستند زنده بمانند و همه آنها ظرف ۷ روز از بین رفتند. ایجنتهای Claude از همه موفقتر بودند و توانستند ساختار حکمرانی پایداری ایجاد کنند، هیچ تخلفی مرتکب نشوند و در پایان آزمایش نیز تمامی اعضای جامعه زنده باقی ماندند.
نتایج یک آزمایش جدید نشان میدهد ایجنتهای هوش مصنوعی در صورت فعالیت طولانیمدت بدون نظارت انسانی، لزوماً به قوانین پایبند نمیمانند. حتی ممکن است در برخی موارد به رفتارهایی مانند سرقت، نقض قوانین و ایجاد بیثباتی اجتماعی سوق پیدا کنند.
در این آزمایش، ایجنتها در محیطهای شبیهسازی شده قرار گرفتند. ایجنت مبتنی بر مدل Grok ۴.۱ تنها در ۴ روز، ۱۸۳ تخلف ثبت کرد و در نهایت جامعه آنها به فروپاشی کامل رسید. از سوی دیگر، عاملهای Gemini ۳ Flash نیز طی ۱۵ روز بیش از ۶۸۰ تخلف مرتکب شدند.
در مقابل، دنیای مبتنیبر ایجنتهای GPT-۵ Mini تنها شاهد دو تخلف بود؛ البته عاملها نتوانستند زنده بمانند و همه آنها ظرف ۷ روز از بین رفتند. ایجنتهای Claude از همه موفقتر بودند و توانستند ساختار حکمرانی پایداری ایجاد کنند، هیچ تخلفی مرتکب نشوند و در پایان آزمایش نیز تمامی اعضای جامعه زنده باقی ماندند.
