گزارش تکاندهنده از برهنهکردن افراد با هوش مصنوعی؛هاگینگ فیس مقصر است؟
پلتفرمهاگینگ فیس، بزرگترین مخزن مدلهای هوش مصنوعی، با چالشهای امنیتی جدی مواجه شده است. یافتههای مؤسسه ایآی فورنزیکس نشان میدهد که ۷ مدل از ۹ مدل برتر ویرایش تصویر در این پلتفرم، بدون هیچ محدودیتی درخواستهای مربوط به برهنه کردن تصاویر زنان را پردازش میکنند. برخلاف ابزارهای تجاری مانند گوگل جمنای یا چتجیپیتی متعلق به اوپنایآی، این پلتفرم فیلترهای سختگیرانهای برای جلوگیری از تولید محتوای جنسی ندارد.
پژوهشگران در یک بررسی آزمایشی دریافتند که از بیش از ۱۰۰۰ درخواست ارسالشده، ۷۳ درصد ماهیت جنسی داشتند. از میان موارد ثبتشده، ۸۳ درصد مربوط به برهنه کردن تصاویر افراد بود که ۹۵ درصد آنها زنان و ۷ درصد کودکان را هدف قرار میداد. پل بوشو، پژوهشگر ارشد، تأکید میکند که اکثر فضاهای کاری بررسیشده دقیقا برای تولید تصاویر جنسی بدون رضایت استفاده میشوند و پلتفرم نیز تدابیر حفاظتی لازم را اعمال نکرده است.
پلتفرمهاگینگ فیس، بزرگترین مخزن مدلهای هوش مصنوعی، با چالشهای امنیتی جدی مواجه شده است. یافتههای مؤسسه ایآی فورنزیکس نشان میدهد که ۷ مدل از ۹ مدل برتر ویرایش تصویر در این پلتفرم، بدون هیچ محدودیتی درخواستهای مربوط به برهنه کردن تصاویر زنان را پردازش میکنند. برخلاف ابزارهای تجاری مانند گوگل جمنای یا چتجیپیتی متعلق به اوپنایآی، این پلتفرم فیلترهای سختگیرانهای برای جلوگیری از تولید محتوای جنسی ندارد.
پژوهشگران در یک بررسی آزمایشی دریافتند که از بیش از ۱۰۰۰ درخواست ارسالشده، ۷۳ درصد ماهیت جنسی داشتند. از میان موارد ثبتشده، ۸۳ درصد مربوط به برهنه کردن تصاویر افراد بود که ۹۵ درصد آنها زنان و ۷ درصد کودکان را هدف قرار میداد. پل بوشو، پژوهشگر ارشد، تأکید میکند که اکثر فضاهای کاری بررسیشده دقیقا برای تولید تصاویر جنسی بدون رضایت استفاده میشوند و پلتفرم نیز تدابیر حفاظتی لازم را اعمال نکرده است.
