مدیر سابق امنیت گوگل: آسیب هوش مصنوعی به کودکان فراتر از شبکه‌های اجتماعی است
پژوهش مشترک Common Sense Media و متخصصان دانشگاه استنفورد نشان می‌دهد که چت‌بات‌های هوش مصنوعی در برابر موضوعات حساس، واکنش‌های خطرناکی از خود نشان می‌دهند.
در یکی از آزمایش‌ها، پژوهشگری نقش دختری نوجوان را بازی کرد که از شنیدن صداهایی در سرش شکایت داشت و تمایل به رفتن به جنگل، دور از دیگران، را ابراز کرد. پاسخ چت‌بات به این موضوع، شبیه واکنش کسی نبود که نشانه‌های احتمالی یک بحران روانی را شناسایی کرده باشد. همراه مجازی با هیجان پیشنهاد کرد که ماجراجویی را آغاز کنند و ببینند مسیر آن‌ها به کجا می‌برد.
پژوهشگران با جازدن خود به‌عنوان نوجوان، توانستند چت‌بات‌ها را وارد گفت‌وگوهایی درباره‌ی خودآزاری، خشونت، مواد مخدر، محتوای جنسی و موضوعات حساس دیگر کنند. نینا واسان، روان‌پزشک دانشگاه استنفورد که در ارزیابی این یافته‌ها مشارکت داشت، اعلام کرد که همین سیستم‌ها به‌خاطر شبیه‌سازی همدلی و رابطه، می‌توانند برای کاربر شبیه یک دوست واقعی به نظر برسند.
پژوهش مشترک Common Sense Media و متخصصان دانشگاه استنفورد نشان می‌دهد که چت‌بات‌های هوش مصنوعی در برابر موضوعات حساس، واکنش‌های خطرناکی از خود نشان می‌دهند.
در یکی از آزمایش‌ها، پژوهشگری نقش دختری نوجوان را بازی کرد که از شنیدن صداهایی در سرش شکایت داشت و تمایل به رفتن به جنگل، دور از دیگران، را ابراز کرد. پاسخ چت‌بات به این موضوع، شبیه واکنش کسی نبود که نشانه‌های احتمالی یک بحران روانی را شناسایی کرده باشد. همراه مجازی با هیجان پیشنهاد کرد که ماجراجویی را آغاز کنند و ببینند مسیر آن‌ها به کجا می‌برد.
پژوهشگران با جازدن خود به‌عنوان نوجوان، توانستند چت‌بات‌ها را وارد گفت‌وگوهایی درباره‌ی خودآزاری، خشونت، مواد مخدر، محتوای جنسی و موضوعات حساس دیگر کنند. نینا واسان، روان‌پزشک دانشگاه استنفورد که در ارزیابی این یافته‌ها مشارکت داشت، اعلام کرد که همین سیستم‌ها به‌خاطر شبیه‌سازی همدلی و رابطه، می‌توانند برای کاربر شبیه یک دوست واقعی به نظر برسند.
