Как Microsoft скрытно помечает AI-изображения в Paint и Photos

Что произошло

Оказывается, когда вы создаёте изображение с помощью ИИ в приложениях Microsoft Paint или Photos, даже если генерация происходит локально на вашем компьютере, Microsoft добавляет в него невидимый водяной знак. Это не тот видимый логотип Copilot, который можно включить в настройках, а скрытый идентификатор, встроенный прямо в пиксели изображения.

Детали

Процесс начинается с того, что приложение отправляет ваш текстовый запрос (prompt) на сервер Microsoft для модерации. Сервер не только проверяет содержание запроса, но и возвращает уникальный идентификатор (GUID), который затем встраивается в изображение. Даже если само изображение генерируется локально с помощью модели Stable Diffusion, водяной знак добавляется обязательно.

Технически водяной знак представляет собой 16-байтный GUID, который преобразуется в 144-битное сообщение с добавлением контрольной суммы. Алгоритм встраивает эту информацию в изображение, внося минимальные изменения в пиксели — около 74% пикселей в тестовом изображении 512×512 были изменены.

«Если встраивание водяного знака не удаётся, Paint считает всю генерацию ошибкой и не возвращает изображение»

Кроме того, информация о водяном знаке сохраняется в метаданных изображения по стандарту C2PA (Coalition for Content Provenance and Authenticity), что позволяет отслеживать происхождение контента.

Почему это важно

Microsoft явно стремится отслеживать происхождение AI-генеррированного контента, даже когда он создаётся локально. Это важно по нескольким причинам:

1. Безопасность контента: позволяет идентифицировать потенциально вредоносные или нежелательные изображения
2. Борьба с дезинформацией: даёт возможность проверять происхождение визуального контента
3. Ответственное использование ИИ: соответствует принципам ответственного ИИ, которые продвигает Microsoft

Что дальше

Подход Microsoft демонстрирует, как крупные технологические компании могут реализовывать контроль над AI-генеррированным контентом даже при локальном исполнении. Вероятно, мы увидим:

• Дальнейшее развитие стандартов вроде C2PA для отслеживания происхождения контента
• Более сложные методы встраивания водяных знаков в AI-генеррированный контент
• Возможное появление инструментов для обнаружения и анализа таких водяных знаков

Эта технология поднимает важные вопросы о балансе между конфиденциальностью и безопасностью в эпоху генеративного ИИ.