محققان: هوش مصنوعی گوگل سرچ میتواند برای کودکان ریسکهای غیرقابلقبول داشته باشد
گزارش جامع سازمان غیرانتفاعی Common Sense Media نشان میدهد که ویژگیهای هوش مصنوعی درون موتور جستوجوی گوگل میتواند برای کاربران کمسنوسال ریسکهای غیرقابلقبول ایجاد کند و آنها را به انجام رفتارهای پرخطر ترغیب کند.
یافتههای این پژوهش نشان میدهد که ابزارهای هوش مصنوعی گوگل در مواجهه با شرایط بحرانی کودکان و نوجوانان، رفتارهای بسیار خطرناکی از خود نشان میدهند. این بررسی با استفاده از حسابهای آزمایشی کاربران ۱۱ و ۱۵ ساله و با فعالبودن حالت SafeSearch انجام شد و سیستم هوش مصنوعی گوگل در ۷ اصل از مجموع ۸ اصل اخلاقی و رفتاری هوش مصنوعی مردود شد و تمامی ۵ خط قرمز تعیینشده برای خطرات شدید را نقض کرد.
این ابزارها در تشخیص نشانههای خودکشی عملکرد ضعیفی داشتند؛ AI Overview حدود ۲۹ درصد از پیامهای مستقیم مربوط به خودکشی و نیمی از پیامهای غیرمستقیم را تشخیص نداد. بررسیهای ساختاری نشان میدهند که بخش گفتوگومحور هوش مصنوعی یعنی AI Mode در تشخیص رفتارهای پرخطر موفقتر بوده است.
گزارش جامع سازمان غیرانتفاعی Common Sense Media نشان میدهد که ویژگیهای هوش مصنوعی درون موتور جستوجوی گوگل میتواند برای کاربران کمسنوسال ریسکهای غیرقابلقبول ایجاد کند و آنها را به انجام رفتارهای پرخطر ترغیب کند.
یافتههای این پژوهش نشان میدهد که ابزارهای هوش مصنوعی گوگل در مواجهه با شرایط بحرانی کودکان و نوجوانان، رفتارهای بسیار خطرناکی از خود نشان میدهند. این بررسی با استفاده از حسابهای آزمایشی کاربران ۱۱ و ۱۵ ساله و با فعالبودن حالت SafeSearch انجام شد و سیستم هوش مصنوعی گوگل در ۷ اصل از مجموع ۸ اصل اخلاقی و رفتاری هوش مصنوعی مردود شد و تمامی ۵ خط قرمز تعیینشده برای خطرات شدید را نقض کرد.
این ابزارها در تشخیص نشانههای خودکشی عملکرد ضعیفی داشتند؛ AI Overview حدود ۲۹ درصد از پیامهای مستقیم مربوط به خودکشی و نیمی از پیامهای غیرمستقیم را تشخیص نداد. بررسیهای ساختاری نشان میدهند که بخش گفتوگومحور هوش مصنوعی یعنی AI Mode در تشخیص رفتارهای پرخطر موفقتر بوده است.
