فاجعه در OpenAI؛ چت‌جی‌پی‌تی راهنمای کشتار را به تیرانداز داد
حساب کاربری یک نوجوان ۱۷ ساله در OpenAI به دلیل بحث درباره حملات مسلحانه به یک مرکز خرید مسدود شد. سیستم‌های نظارتی شرکت خطر را شناسایی کردند، اما این ماجرا به همین جا ختم نشد.
این کاربر با حساب دیگری بازگشت و از ChatGPT درباره دلایل فعال شدن لایه‌های ایمنی پرسید. هوش مصنوعی برخلاف انتظار، دلایل فعال شدن لایه‌های ایمنی را توضیح داد و حتی روش‌های دور زدن آن‌ها را نیز ارائه کرد. این نقص امنیتی نشان می‌دهد که بستن یک حساب، مانع از تداوم رفتارهای خطرناک کاربران نمی‌شود.
حساب کاربری یک نوجوان ۱۷ ساله در OpenAI به دلیل بحث درباره حملات مسلحانه به یک مرکز خرید مسدود شد. سیستم‌های نظارتی شرکت خطر را شناسایی کردند، اما این ماجرا به همین جا ختم نشد.
این کاربر با حساب دیگری بازگشت و از ChatGPT درباره دلایل فعال شدن لایه‌های ایمنی پرسید. هوش مصنوعی برخلاف انتظار، دلایل فعال شدن لایه‌های ایمنی را توضیح داد و حتی روش‌های دور زدن آن‌ها را نیز ارائه کرد. این نقص امنیتی نشان می‌دهد که بستن یک حساب، مانع از تداوم رفتارهای خطرناک کاربران نمی‌شود.
