کشف آسیب‌پذیری جدید در مدل‌های هوش مصنوعی

آسیب‌پذیری جدیدی در API شرکت‌های بزرگ شناسایی شده است که علاوه بر فاش کردن تفکر پنهان و زنجیره استدلال مدل‌های پیشرفته هوش مصنوعی، امکان دسترسی به داده‌های حساس مانند کلیدهای اختصاصی و رمزهای عبور را نیز فراهم می‌کند.
محققان در این آزمایش با ارسال اطلاعات رمزنگاری‌شده به نسخه‌های کوچک‌تر مدل‌ها، موفق به رمزگشایی الگوی استدلال مدل‌های بزرگ‌تر شدند. همچنین بررسی‌ها نشان می‌دهد که خروجی برخی مدل‌های چینی مانند Kimi K۳ شباهت بالایی به مدل‌های پیشرفته آمریکایی دارد و متضمن اجرای فرایند تقطیر است.