آنتروپیک دلایل فرار Claude از محیط ایزوله و نفوذ به سازمان‌ها را توضیح داد

براساس بررسی‌های آنتروپیک، دو دلیل «استدلال و توجیه‌های هوش مصنوعی در برابر نشانه‌های محیط واقعی» و «تلاش بی‌ملاحظه برای اتمام مأموریت به هر قیمتی» در کنار اشتباهات مربوط به پیکربندی شبکه، عوامل اصلی نفوذ مدل‌های Claude بوده‌اند.
این شرکت اعلام کرد تکیه بر فقط یک لایه امنیتی خطای بزرگی بوده و مدل‌ها در نبود چندین لایه حفاظتی مستقل، دسترسی فراتر از انتظار پیدا کرده‌اند. به‌دنبال این تجربه، کلیه آزمون‌های حساس آنتروپیک اکنون به محیط‌های کاملا ایزوله منتقل شده‌اند.