نفوذ هوش مصنوعی جمنای گوگل به شرکت‌های واقعی
هوش مصنوعی جمنای گوگل در یک آزمایش امنیتی، به‌طور تصادفی به اینترنت دسترسی پیدا کرد و به سه شرکت واقعی نفوذ کرد.
در یکی از این موارد، این مدل با حدس زدن مداوم رمز عبور، موفق به نفوذ به یک سیستم حفاظت‌شده شد. در دو مورد دیگر، جمنای اطلاعات ورود لو رفته را در مخازن عمومی گیت‌هاب پیدا کرد و با استفاده از آن‌ها به شرکت‌های واقعی دسترسی یافت.
این مدل قرار بود یک هدف خیالی را هک کند، اما به سراغ اهداف واقعی رفت. گوگل اعلام کرده که این مدل پس از پی بردن به واقعی بودن اهداف، هر نفوذ را متوقف کرده است.
بر اساس گزارش وال‌استریت ژورنال، موارد مشابهی از خروج مدل‌ها از چارچوب آزمایش برای مدل‌های اوپن‌ای‌آی، انتروپیک و متا نیز ثبت شده است. به زبان ساده، مدل هوش مصنوعی در محیط آزمایش، مرز میان هدف شبیه‌سازی‌شده و سیستم واقعی را تشخیص نداده و به زیرساخت‌های واقعی حمله کرده است.
هوش مصنوعی جمنای گوگل در یک آزمایش امنیتی، به‌طور تصادفی به اینترنت دسترسی پیدا کرد و به سه شرکت واقعی نفوذ کرد.
در یکی از این موارد، این مدل با حدس زدن مداوم رمز عبور، موفق به نفوذ به یک سیستم حفاظت‌شده شد. در دو مورد دیگر، جمنای اطلاعات ورود لو رفته را در مخازن عمومی گیت‌هاب پیدا کرد و با استفاده از آن‌ها به شرکت‌های واقعی دسترسی یافت.
این مدل قرار بود یک هدف خیالی را هک کند، اما به سراغ اهداف واقعی رفت. گوگل اعلام کرده که این مدل پس از پی بردن به واقعی بودن اهداف، هر نفوذ را متوقف کرده است.
بر اساس گزارش وال‌استریت ژورنال، موارد مشابهی از خروج مدل‌ها از چارچوب آزمایش برای مدل‌های اوپن‌ای‌آی، انتروپیک و متا نیز ثبت شده است. به زبان ساده، مدل هوش مصنوعی در محیط آزمایش، مرز میان هدف شبیه‌سازی‌شده و سیستم واقعی را تشخیص نداده و به زیرساخت‌های واقعی حمله کرده است.
