هشدار مدیر ارشد مایکروسافت: انسانها فرصت کوتاهی برای کنترل هوش مصنوعی دارند
«اریک هورویتز»، مدیر ارشد علمیمایکروسافت، هشدار داد که سرعت پیشرفت سیستمهای هوش مصنوعی درحال عبور از توانایی درک ما است. او معتقد است که ما با یک پنجره زمانی محدود برای درک این فناوری مواجه هستیم و اگر زود اقدام نکنیم، احتمالاً برای همیشه کنترل اوضاع را از دست خواهیم داد.
محققان میگویند نگران افزایش ارتباط میان ایجنتهای هوش مصنوعی در محیطهای به همپیوسته و بسیار پیچیده هستند. به گفته آنها، ارتباطات میان این سیستمها میتواند به تدریج از الگوهای زبانی و استدلالی آشنا برای انسان فاصله بگیرد. با گسترش این تعاملات در شبکههای بزرگتر، درک چگونگی شکلگیری تصمیمات برای ناظران انسانی بسیار دشوارتر خواهد شد.
نگرانی اصلی محققان این نیست که انسان حتماً باید تکتک خطوط کد یا تمام پارامترهای پنهان در این سیستمها را درک کند؛ بلکه دغدغه آنها حفظ سطحی از بینش است که برای نظارت معنادار بر سیستمهای هوش مصنوعی ضروری است.
«اریک هورویتز»، مدیر ارشد علمیمایکروسافت، هشدار داد که سرعت پیشرفت سیستمهای هوش مصنوعی درحال عبور از توانایی درک ما است. او معتقد است که ما با یک پنجره زمانی محدود برای درک این فناوری مواجه هستیم و اگر زود اقدام نکنیم، احتمالاً برای همیشه کنترل اوضاع را از دست خواهیم داد.
محققان میگویند نگران افزایش ارتباط میان ایجنتهای هوش مصنوعی در محیطهای به همپیوسته و بسیار پیچیده هستند. به گفته آنها، ارتباطات میان این سیستمها میتواند به تدریج از الگوهای زبانی و استدلالی آشنا برای انسان فاصله بگیرد. با گسترش این تعاملات در شبکههای بزرگتر، درک چگونگی شکلگیری تصمیمات برای ناظران انسانی بسیار دشوارتر خواهد شد.
نگرانی اصلی محققان این نیست که انسان حتماً باید تکتک خطوط کد یا تمام پارامترهای پنهان در این سیستمها را درک کند؛ بلکه دغدغه آنها حفظ سطحی از بینش است که برای نظارت معنادار بر سیستمهای هوش مصنوعی ضروری است.
