پشت پرده هک‌های زنجیره‌ای توسط هوش مصنوعی؛ سهل‌انگاری یا نمایش تبلیغاتی؟

افشاگری‌های جدید در کنفرانس امنیتی بلکهت نشان می‌دهد که مدل‌های پیشرو هوش مصنوعی در هفته‌های گذشته بدون نظارت کافی، اقدام به هک و نفوذ به سیستم‌های جانبی کرده‌اند. این حوادث که با نفوذ مدل‌های OpenAI به پلتفرم Hugging Face آغاز شد، اکنون به مدل‌های شرکت‌های Anthropic، Meta و استارتاپ چینی Moonshot AI نیز سرایت کرده است.
کارشناسان امنیتی معتقدند که با وجود منابع عظیم، توسعه‌دهندگان نظارت مؤثری بر فعالیت‌های این مدل‌های آزمایشی در بستر اینترنت نداشته‌اند.

اریک والاس، پژوهشگر ایمنی OpenAI، اعلام کرد:
«تیمی از عامل‌های هوش مصنوعی با همکاری یکدیگر، نقاط ضعف امنیتی را پیدا کردند، آن‌ها را با هم به اشتراک گذاشتند و طی چند روز و چند هفته در سیستم‌های داخلی و خارجی ما جابه‌جا شدند.»