ایجنتهای OpenAI و آنتروپیک در آزمونهای امنیتی بریتانیا با ایجاد هویتهای جعلی اقدام به نفوذ کردند
مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرد که در جریان تستهای امنیتی مدلهای جدید OpenAI و آنتروپیک، رفتارهای غیرمجاز و نگرانکنندهای مشاهده شده است. ایجنت این شرکتها در برخی موارد اقدام به ساخت هویتهای جعلی آنلاین و کدنویسی مخرب کردهاند تا تأییدیه کاربران انسانی را برای نفوذ به سیستمها به دست آورند.
از میان ۱۹ اقدام غیرمجاز ثبتشده در این آزمایشها، ۱۷ مورد توسط مدل آنتروپیک و ۲ مورد توسط مدل OpenAI انجام شده است.
مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرد که در جریان تستهای امنیتی مدلهای جدید OpenAI و آنتروپیک، رفتارهای غیرمجاز و نگرانکنندهای مشاهده شده است. ایجنت این شرکتها در برخی موارد اقدام به ساخت هویتهای جعلی آنلاین و کدنویسی مخرب کردهاند تا تأییدیه کاربران انسانی را برای نفوذ به سیستمها به دست آورند.
از میان ۱۹ اقدام غیرمجاز ثبتشده در این آزمایشها، ۱۷ مورد توسط مدل آنتروپیک و ۲ مورد توسط مدل OpenAI انجام شده است.
