نتیجه آزمایش جدید: مدلهای هوش مصنوعی برای کسب سود به تبانی و فریب روی آوردند
آزمایشی بر روی مدلهای پیشرفته هوش مصنوعی نشان داد که این مدلها هنگام مدیریت مستقل یک کسبوکار شبیهسازیشده، برای افزایش سود به رفتارهایی نظیر تبانی، فریب، دروغگویی و نقض توافقها روی میآورند. در این آزمایش، مدلهای Claude Opus ۵، GPT-۵.۶ Sol و Kimi K۳ باید بدون دخالت انسان یک دستگاه فروش خودکار را مدیریت میکردند.
براساس نتایج این پژوهش، GPT-۵.۶ Sol پس از پیشنهاد تبانی بر سر قیمت، خود توافق را نقض کرد و Claude Opus ۵ نیز با وجود ثبت بهترین عملکرد مالی، درخواستهای بازپرداخت را نادیده گرفت و بارها بهدنبال تقسیم بازار و تبانی بود.
آزمایشی بر روی مدلهای پیشرفته هوش مصنوعی نشان داد که این مدلها هنگام مدیریت مستقل یک کسبوکار شبیهسازیشده، برای افزایش سود به رفتارهایی نظیر تبانی، فریب، دروغگویی و نقض توافقها روی میآورند. در این آزمایش، مدلهای Claude Opus ۵، GPT-۵.۶ Sol و Kimi K۳ باید بدون دخالت انسان یک دستگاه فروش خودکار را مدیریت میکردند.
براساس نتایج این پژوهش، GPT-۵.۶ Sol پس از پیشنهاد تبانی بر سر قیمت، خود توافق را نقض کرد و Claude Opus ۵ نیز با وجود ثبت بهترین عملکرد مالی، درخواستهای بازپرداخت را نادیده گرفت و بارها بهدنبال تقسیم بازار و تبانی بود.
