محققان هشدار دادند؛ چتباتهای هوش مصنوعی مرز بین واقعیت و توهم را ازبین میبرند
پژوهش جدید دانشگاه اکستر هشدار میدهد چتباتهای هوش مصنوعی نه تنها اطلاعات نادرست منتشر میکنند، بلکه میتوانند به طور فعالانه باورهای نادرست کاربران را تقویت کنند، حافظه را تحریف کرده و توهمات را «واقعیتر و احساسیتر» جلوه دهند. محققان به ویژه درباره خطر استفاده افراد آسیبپذیر و منزوی از این «همراهان دیجیتال» هشدار میدهند.
لوسی آزلر از دانشگاه اکستر انگلستان، با استفاده از نظریه «شناخت توزیعشده»، تعامل انسان با چتباتهای مکالمهمحور را بررسی کرده است.
او میگوید:
وقتی ما به طور معمول به هوش مصنوعی مولد برای کمک به فکر کردن، به خاطر سپردن و روایت کردن متکی هستیم، میتوانیم با هوش مصنوعی توهم بزنیم. این اتفاق زمانی میافتد که هوش مصنوعی خطاهایی را وارد فرآیند شناختی میکند، همچنین زمانی که هوش مصنوعی تفکرات و روایتهای خود توهمآلود ما را تأیید، تقویت و بسط میدهد /شفقنا
پژوهش جدید دانشگاه اکستر هشدار میدهد چتباتهای هوش مصنوعی نه تنها اطلاعات نادرست منتشر میکنند، بلکه میتوانند به طور فعالانه باورهای نادرست کاربران را تقویت کنند، حافظه را تحریف کرده و توهمات را «واقعیتر و احساسیتر» جلوه دهند. محققان به ویژه درباره خطر استفاده افراد آسیبپذیر و منزوی از این «همراهان دیجیتال» هشدار میدهند.
لوسی آزلر از دانشگاه اکستر انگلستان، با استفاده از نظریه «شناخت توزیعشده»، تعامل انسان با چتباتهای مکالمهمحور را بررسی کرده است.
او میگوید:
وقتی ما به طور معمول به هوش مصنوعی مولد برای کمک به فکر کردن، به خاطر سپردن و روایت کردن متکی هستیم، میتوانیم با هوش مصنوعی توهم بزنیم. این اتفاق زمانی میافتد که هوش مصنوعی خطاهایی را وارد فرآیند شناختی میکند، همچنین زمانی که هوش مصنوعی تفکرات و روایتهای خود توهمآلود ما را تأیید، تقویت و بسط میدهد /شفقنا
