آنتروپیک در Claude کشف کرد: وجود بخشی مانند خودآگاهی که قابل مشاهده نیست
آنتروپیک میگوید یک فضای کاری داخلی کوچک را در Claude شناسایی کرده است که هوش مصنوعی از آن برای نگهداری و دستکاری ایدهها، بدون تبدیل آنها به کلمات خروجی، استفاده میکند. این شرکت میگوید ساختار کشفشده شباهتهای جالبی با نحوه دسترسی آگاهانه انسانها به افکارشان دارد.
آنتروپیک توضیح میدهد که کلاد از این ناحیه مجزا برای برنامهریزی استراتژیهایی استفاده میکند که میتوانند هیچ ارتباطی با وظیفه فعلی او نداشته باشند و از زنجیره افکاری که کاربران میبینند، جدا هستند. آنتروپیک میگوید محققان میتوانند کلاد را درحالیکه بیصدا مراحل استدلال را در سر خود انجام میدهد تماشا کنند.
برای درک بهتر این موضوع، آنتروپیک در یک مثال از کلاد خواست تا در حین کپیکردن یک جمله نامربوط، به پل معلق گلدن گیت فکر کند. درحالیکه کلاد مشغول کپیکردن جمله بود، J-Space داستان متفاوتی را روایت میکرد و نشان میداد که کلماتی مانند پل و ایالت کالیفرنیا ذهن پنهان این مدل را اشغال کردهاند.
آنتروپیک میگوید یک فضای کاری داخلی کوچک را در Claude شناسایی کرده است که هوش مصنوعی از آن برای نگهداری و دستکاری ایدهها، بدون تبدیل آنها به کلمات خروجی، استفاده میکند. این شرکت میگوید ساختار کشفشده شباهتهای جالبی با نحوه دسترسی آگاهانه انسانها به افکارشان دارد.
آنتروپیک توضیح میدهد که کلاد از این ناحیه مجزا برای برنامهریزی استراتژیهایی استفاده میکند که میتوانند هیچ ارتباطی با وظیفه فعلی او نداشته باشند و از زنجیره افکاری که کاربران میبینند، جدا هستند. آنتروپیک میگوید محققان میتوانند کلاد را درحالیکه بیصدا مراحل استدلال را در سر خود انجام میدهد تماشا کنند.
برای درک بهتر این موضوع، آنتروپیک در یک مثال از کلاد خواست تا در حین کپیکردن یک جمله نامربوط، به پل معلق گلدن گیت فکر کند. درحالیکه کلاد مشغول کپیکردن جمله بود، J-Space داستان متفاوتی را روایت میکرد و نشان میداد که کلماتی مانند پل و ایالت کالیفرنیا ذهن پنهان این مدل را اشغال کردهاند.
