آنتروپیک خواستار توقف توسعه هوش مصنوعی در جهان شد؛ خطر خارج‌شدن AI از کنترل انسان

شرکت آنتروپیک، سازنده مدل‌های هوش مصنوعی Claude، هشدار داده که مدل‌های جدید نشانه‌هایی از احتمال خروج از کنترل انسان را نشان داده‌اند و پیشنهاد کرده توسعه قدرتمندترین سیستم‌های هوش مصنوعی در جهان به‌طور موقت متوقف شود. این شرکت معتقد است برای هماهنگی ساختارهای اجتماعی با این فناوری، به یک توافق جهانی و قابل راستی‌آزمایی بین کشورهایی مانند آمریکا و چین نیاز است.
آنتروپیک همچنین داده‌هایی منتشر کرده که نشان می‌دهد نقش انسان در توسعه هوش مصنوعی به‌شدت درحال کاهش است؛ به‌طوری‌که مهندسان این شرکت اکنون با کمک کلود ۸ برابر بیشتر از بازه ۲۰۲۱ تا ۲۰۲۵ کد تولید می‌کنند. محققان می‌گویند هوش مصنوعی در نهایت می‌تواند به نقطه‌ای برسد که اساساً به خودش آموزش دهد تا بدون نیاز به کمک انسان، هوشمندتر شود.