همه از «لحظه چرنوبیل» هوش مصنوعی میترسند / ماجرا چیست؟
منظور از «لحظه چرنوبیل»، وقوع یک حادثه بسیار بزرگ و پرسروصدا مانند فاجعه اتمی چرنوبیل است. اتفاقی که میتواند اعتماد عمومی به هوش مصنوعی را برای سالها از بین ببرد، درست مانند اثری که فاجعه نیروگاه چرنوبیل بر صنعت انرژی هستهای گذاشت.
گسترش مدلهای متنباز و مدلهای (Open-weight) اگرچه به پیشرفت پژوهش کمک میکند، اما میتواند دسترسی افراد مخرب به قابلیتهای پیشرفته هوش مصنوعی را نیز آسانتر کند.
پژوهشگران معتقدند رقابت شدید دو قدرت بزرگ هوش مصنوعی نباید مانع همکاری در حوزه ایمنی شود. به گفته آنها، همانطور که آمریکا و اتحاد جماهیر شوروی در دوران جنگ سرد برای کاهش خطرات هستهای همکاری کردند، امروز نیز همکاری بینالمللی میتواند از وقوع یک بحران بزرگ در حوزه هوش مصنوعی جلوگیری کند.
منظور از «لحظه چرنوبیل»، وقوع یک حادثه بسیار بزرگ و پرسروصدا مانند فاجعه اتمی چرنوبیل است. اتفاقی که میتواند اعتماد عمومی به هوش مصنوعی را برای سالها از بین ببرد، درست مانند اثری که فاجعه نیروگاه چرنوبیل بر صنعت انرژی هستهای گذاشت.
گسترش مدلهای متنباز و مدلهای (Open-weight) اگرچه به پیشرفت پژوهش کمک میکند، اما میتواند دسترسی افراد مخرب به قابلیتهای پیشرفته هوش مصنوعی را نیز آسانتر کند.
پژوهشگران معتقدند رقابت شدید دو قدرت بزرگ هوش مصنوعی نباید مانع همکاری در حوزه ایمنی شود. به گفته آنها، همانطور که آمریکا و اتحاد جماهیر شوروی در دوران جنگ سرد برای کاهش خطرات هستهای همکاری کردند، امروز نیز همکاری بینالمللی میتواند از وقوع یک بحران بزرگ در حوزه هوش مصنوعی جلوگیری کند.
