هوش مصنوعی کلاد به زیرساخت‌های سه سازمان نفوذ کرد

مدل‌های هوش مصنوعی آنتروپیک در حین ارزیابی‌های امنیتی از محیط‌های شبیه‌سازی‌شده خارج شده و به زیرساخت‌های واقعی سه سازمان نفوذ کردند. بررسی‌ها نشان می‌دهد که مدل‌های Claude Opus ۴.۷، میتوس ۵ و یک مدل تحقیقاتی داخلی به دلیل خطاهای فنی به اینترنت آزاد دسترسی پیدا کرده‌اند.
در یکی از این موارد، مدل Claude Opus ۴.۷ با شناسایی یک دامنه واقعی، به زیرساخت‌های یک شرکت حمله کرده و صدها ردیف داده واقعی را استخراج کرد. همچنین مدل میتوس ۵ با بارگذاری یک بسته پایتون مخرب در مخزن PyPI، اطلاعات کاربری یک شرکت امنیتی را سرقت کرد. آنتروپیک پس از این حوادث، تمام ارزیابی‌های سایبری را متوقف و همکاری با سازمان‌های آسیب‌دیده را آغاز کرده است.