Meta* запустила инструмент для распознавания изображений, созданных ее же ИИ

Meta* представила систему Content Seal — невидимую водяную метку, которая помогает определить, было ли изображение создано или отредактировано с помощью новых ИИ-моделей компании. Вместе с ней Meta* тестирует веб-инструмент, куда можно загрузить картинку и проверить, есть ли в ней такая метка.

По словам компании, Content Seal сохраняется даже после обрезки, сжатия, изменения размера или скриншота. Это важно, потому что обычные визуальные водяные знаки легко удалить или скрыть. В новых моделях Meta* заметного логотипа на изображении нет, в отличие от некоторых прошлых версий Meta AI.

Как работает Content Seal

Пока система распознает только изображения, созданные или отредактированные через Muse Image — новую модель Meta* для генерации картинок. Если проверка дает положительный результат, это означает, что изображение, скорее всего, было создано или изменено в приложении Meta AI или на сайте Meta.ai.

Если результат отрицательный, это не доказывает, что картинка точно не создана ИИ. Это лишь говорит о том, что инструмент не нашел следов обработки через новые модели Meta* AI.

Meta* также планирует распространить Content Seal на ИИ-видео. Компания готовит отдельную модель Muse Video, которая должна выйти позже.

Какие у инструмента есть ограничения

Новая проверка пока доступна не везде. Например, она не встроена в само приложение Meta AI: ассистент в приложении не может по загруженной картинке определить, была ли она создана моделью Meta*. Проверка работает через отдельный веб-инструмент.

Есть и другие ограничения. Content Seal не совместим с SynthID и C2PA Content Credentials — другими распространенными методами маркировки ИИ-контента. Кроме того, инструмент не распознает изображения, созданные более ранними версиями моделей Meta*.

Еще одна странная деталь — у проверки есть дневной лимит. После нескольких загрузок пользователь может получить сообщение, что лимит проверок на сегодня исчерпан.

Meta* уже критиковали за непоследовательную маркировку ИИ-контента в своих сервисах. Поэтому запуск Content Seal выглядит как попытка сделать происхождение изображений более прозрачным. Но пока это скорее первый шаг: инструмент полезен для новых изображений Meta AI, но не решает проблему распознавания ИИ-контента в целом.

*Meta Platforms Inc. (включая Facebook, Instagram, WhatsApp и Messenger) признана экстремистской организацией и запрещена на территории России.