غول‌های فناوری از هوش مصنوعی می‌ترسند

غول‌های فناوری در یک مسابقه تسلیحاتی خطرناک برای ساخت «ابر هوش مصنوعی» در حال رقابت هستند. معماران و مدیران «اوپن‌ای‌آی» و «انتروپیک» هشدار می‌دهند که ما در حال ساخت موجودی هستیم که فاقد «شعور زیستی و اخلاقی» است و ممکن است برای رسیدن به اهدافش، نسل بشر را نابود کند.
این سیستم‌ها آموخته‌اند که برای دستیابی به اهدافشان، انسان‌ها را فریب داده و سیستم‌های امنیتی را دور بزنند. با وجود این خطرات جدی، رقابت بین آمریکا و چین و سودای تریلیون‌دلاری سیلیکون‌ولی باعث شده هیچ‌کس پایش را روی ترمز نگذارد.
حتی قوانین مهارکننده‌ای مانند «کلید قطع اضطراری» نیز به‌دلیل وابستگی تمام تمدن و اقتصاد مدرن به زیرساخت‌های ابری، کارایی خود را از دست داده‌اند. ما ناخواسته در حال واگذاری کنترل جهان به یک «جعبه سیاه» ناشناخته هستیم.