کشف شگفتانگیز آنتروپیک / بخشی پنهان در هوش مصنوعی، همچون خودآگاهی انسان
آنتروپیک میگوید یک فضای کاری داخلی کوچک را در Claude شناسایی کرده است که هوش مصنوعی از آن برای نگهداری و دستکاری ایدهها، بدون تبدیل آنها به کلمات خروجی، استفاده میکند.
این شرکت در ویدیوی جالبی توضیح میدهد که کلاد از این ناحیه مجزا برای برنامهریزی استراتژیهایی استفاده میکند که میتوانند هیچ ارتباطی با وظیفه فعلی او نداشته باشند و از زنجیره افکاری که کاربران میبینند، جدا هستند.
تحقیق جدید آنتروپیک نشان میدهد که جیاسپیس شباهت زیادی به یکی از نظریههای پیشرو درباره خودآگاهی انسان، یعنی نظریه فضای کاری جهانی (Global Workspace Theory) دارد.
یکی از مهمترین کاربردهای این کشف، امکان شناسایی ناهماهنگی یا دسیسهچینی در مدلهای زبانی است. آنتروپیک میگوید با نظارت بر جیاسپیس، توسعهدهندگان میتوانند متوجه شوند که کلاد به چه چیزی فکر میکند، اما آن را به زبان نمیآورد./دیجیاتو
آنتروپیک میگوید یک فضای کاری داخلی کوچک را در Claude شناسایی کرده است که هوش مصنوعی از آن برای نگهداری و دستکاری ایدهها، بدون تبدیل آنها به کلمات خروجی، استفاده میکند.
این شرکت در ویدیوی جالبی توضیح میدهد که کلاد از این ناحیه مجزا برای برنامهریزی استراتژیهایی استفاده میکند که میتوانند هیچ ارتباطی با وظیفه فعلی او نداشته باشند و از زنجیره افکاری که کاربران میبینند، جدا هستند.
تحقیق جدید آنتروپیک نشان میدهد که جیاسپیس شباهت زیادی به یکی از نظریههای پیشرو درباره خودآگاهی انسان، یعنی نظریه فضای کاری جهانی (Global Workspace Theory) دارد.
یکی از مهمترین کاربردهای این کشف، امکان شناسایی ناهماهنگی یا دسیسهچینی در مدلهای زبانی است. آنتروپیک میگوید با نظارت بر جیاسپیس، توسعهدهندگان میتوانند متوجه شوند که کلاد به چه چیزی فکر میکند، اما آن را به زبان نمیآورد./دیجیاتو
