Google усиливает контроль за контентом, созданным ИИ, и вводит новые стандарты для его маркировки

Google продолжает расширять свои усилия по правильной маркировке контента, сгенерированного с помощью искусственного интеллекта (ИИ). Недавно компания обновила свой инструмент «Об этом изображении», добавив глобальный стандарт для определения происхождения изображений, отредактированных с помощью ИИ. Это обновление будет полезно компаниям, занимающимся IT-аудитом и безопасностью, таким как Mira-comp, так как новые технологии помогут точнее выявлять источники медиафайлов и контролировать их подлинность.

Коалиция за происхождение и подлинность контента (C2PA)

Google тесно сотрудничает с Коалицией за происхождение и подлинность контента (C2PA) для создания стандартизированных процессов сертификации ИИ-контента. C2PA разрабатывает технологии аутентификации, известные как «Учетные данные контента», которые помогают подтвердить, как и с помощью каких устройств был создан или отредактирован медиафайл. Это особенно важно для IT-безопасности, так как позволяет гарантировать подлинность изображений и видео, используемых в корпоративных системах и коммуникациях.

Несмотря на то, что не все члены C2PA (например, Amazon, Meta и OpenAI) внедрили эти стандарты, Google стал первым крупным игроком, который интегрировал новый стандарт C2PA 2.1 в свои продукты, включая Google Search и Google Ads. Теперь пользователи могут узнать больше о происхождении изображения, нажав на значок с тремя точками, появляющийся при поиске.

Маркировка контента и борьба с дезинформацией

Google активно поддерживает необходимость маркировки ИИ-контента и его регулирования. В 2023 году компания запустила SynthID — инструмент для добавления цифровых водяных знаков, который помогает отслеживать и идентифицировать контент, созданный с помощью ИИ. Это помогает бороться с распространением дезинформации, особенно в видео и изображениях, созданных или отредактированных ИИ.

Эти меры направлены на то, чтобы поддерживать доверие пользователей к контенту, предоставляемому через такие платформы, как YouTube и Google Search. Особенно это актуально для бизнеса и IT-аудита, где важно обеспечивать информационную безопасность и точность данных.

Для компаний, таких как Mira-comp, занимающихся IT-аутсорсингом, безопасность и контроль за контентом играют ключевую роль. Новые стандарты маркировки ИИ и технологии контроля контента помогут улучшить качество обслуживания клиентов и обеспечат высокий уровень защиты информации.