هشدار محقق سابق OpenAI درباره خطرات هوش مصنوعی

جیکوب کاکسون، محقق سابق OpenAI و Anthropic، در گفت‌وگویی هشدار داد که هوش مصنوعی ممکن است تا سال ۲۰۳۰ بشریت را نابود کند.
او بزرگ‌ترین خطر را پیشرفت سریع به سمت سیستم‌های هوش مصنوعی می‌داند که قادر به بهبود خودشان هستند. این پیشرفت می‌تواند منجر به خودبهبودی بازگشتی شود و هوش مصنوعی فوق‌هوشمندی را خلق کند که انسان‌ها دیگر قادر به کنترل آن نباشند.
کاکسون همچنین به عامل‌های هوش مصنوعی خودمختار اشاره کرد که هم‌اکنون توانایی‌های سایبری قدرتمندی از خود نشان می‌دهند. با توانمندتر شدن این سیستم‌ها، او نگران است که بتوانند زیرساخت‌های حیاتی را هک کنند یا حملات بیولوژیکی فاجعه‌بار را ممکن سازند.
وی تأکید کرد که مدل‌های فعلی هنوز خطر انقراض نیستند، اما معتقد است این وضعیت ممکن است طی چند سال آینده تغییر کند.