تشخیص تصاویر هوش مصنوعی متا با برش عکس دچار خطا میشود
ابزار تشخیص هوش مصنوعی متا حتی با یک برش ساده در تصویر فریب میخورد. این ابزار حتی در تشخیص تصاویری که هوش مصنوعی خود این شرکت تولید کرده نیز مشکل دارد.
متا همزمان با معرفی مدل تولید تصویر Muse Image از فناوری جدیدی بهنام «Content Seal» رونمایی کرده است؛ واترمارکی نامرئی که این شرکت مدعی بود حتی بعد از کراپ، فشردهسازی، تغییر اندازه یا ثبت اسکرینشات از تصاویر هم در عکسها باقی میماند. اما حالا گزارش جدید رویترز نشان میدهد این ادعا در عمل چندان دقیق نیست.
ابزار جدید متا در تشخیص هوش مصنوعی شکننده عمل میکند.
خبرنگاران رویترز در آزمایشی ۴۰ تصویر تولیدشده با Muse Image را بررسی کردند. ابزار تشخیص متا در مرحله اول موفق شد تمام تصاویر را بهدرستی بهعنوان محتوای تولیدشده با هوش مصنوعی شناسایی کند؛ اما پس از اینکه تصاویر تا نصف یا حتی یکسوم اندازه اصلی کراپ شدند، نرخ موفقیت ابزار به حدود ۵۵ درصد کاهش یافت. یعنی تقریباً نیمی از تصاویر دیگر بهدرستی شناسایی نشدند.
ابزار تشخیص هوش مصنوعی متا حتی با یک برش ساده در تصویر فریب میخورد. این ابزار حتی در تشخیص تصاویری که هوش مصنوعی خود این شرکت تولید کرده نیز مشکل دارد.
متا همزمان با معرفی مدل تولید تصویر Muse Image از فناوری جدیدی بهنام «Content Seal» رونمایی کرده است؛ واترمارکی نامرئی که این شرکت مدعی بود حتی بعد از کراپ، فشردهسازی، تغییر اندازه یا ثبت اسکرینشات از تصاویر هم در عکسها باقی میماند. اما حالا گزارش جدید رویترز نشان میدهد این ادعا در عمل چندان دقیق نیست.
ابزار جدید متا در تشخیص هوش مصنوعی شکننده عمل میکند.
خبرنگاران رویترز در آزمایشی ۴۰ تصویر تولیدشده با Muse Image را بررسی کردند. ابزار تشخیص متا در مرحله اول موفق شد تمام تصاویر را بهدرستی بهعنوان محتوای تولیدشده با هوش مصنوعی شناسایی کند؛ اما پس از اینکه تصاویر تا نصف یا حتی یکسوم اندازه اصلی کراپ شدند، نرخ موفقیت ابزار به حدود ۵۵ درصد کاهش یافت. یعنی تقریباً نیمی از تصاویر دیگر بهدرستی شناسایی نشدند.
