مدیران آزمایشگاه‌های پیشرو هوش مصنوعی درباره سرعت توسعه این فناوری هشدار داده‌اند. نگرانی اصلی آن‌ها احتمال دستیابی هوش مصنوعی به «خودبهبودی بازگشتی» یا RSI است؛ حالتی که در آن هوش مصنوعی می‌تواند خودش را بهبود دهد و در نهایت از توانایی انسان برای درک و کنترل آن فراتر برود

این هشدارها پس از گزارش‌هایی درباره سرکشی ایجنت‌های هوش مصنوعی، از جمله نفوذ به وب‌سایت‌ها و مخازن هوش مصنوعی، جدی‌تر شده است. مدل‌های جدید نیز در تولید کد و انجام مستقل وظایف توانمندتر شده‌اند؛ با این حال، رقابت شدید شرکت‌ها و نگرانی از عقب‌ماندن در برابر چین، کاهش سرعت توسعه را دشوار کرده است.