Google DeepMind открыл публичный детектор водяных знаков SynthID
Google DeepMind открыл публичный доступ к сервису SynthID. На сайте можно загрузить изображение, аудиозапись или видеоролик и проверить, содержит ли файл скрытую маркировку, связанную с генеративными инструментами Google.
Ранее детектор был доступен только аккредитованным журналистам и организациям, которые занимаются проверкой фактов. После запуска портала воспользоваться системой может любой пользователь.
Как работает SynthID
В отличие от обычных детекторов, которые пытаются определить искусственное происхождение контента по визуальным артефактам, SynthID ищет встроенную цифровую подпись. Во время генерации в структуру изображения, аудиодорожки или видеозаписи добавляется скрытый псевдослучайный математический паттерн.
Такая маркировка не должна быть заметна человеку, но распознаётся специальным детектором. По данным Google DeepMind, след может сохраняться даже после сжатия файла, кадрирования или пересылки через социальные сети.
Развитие технологии
Первую версию SynthID Google представила летом 2023 года. Тогда технологию применяли для защиты изображений, созданных нейросетью Imagen на облачной платформе Vertex AI. В конце того же года аналогичный подход интегрировали в генератор музыки Lyria, добавив неслышимую маркировку в звуковые волны.
Весной 2024 года SynthID расширили на видеогенератор Veo. Кроме того, Google опубликовала модуль для текстовых моделей. До публичного запуска детектор тестировали в закрытом пуле исследователей, а среди партнёров проекта были OpenAI и NVIDIA.
Открытие сервиса даёт пользователям инструмент для проверки контента, который мог быть создан генеративными моделями Google. При этом система предназначена именно для поиска фирменной маркировки SynthID, а не для универсального определения любого материала, созданного с помощью искусственного интеллекта.
