Microsoft представила стратегию борьбы с дипфейками

Microsoft опубликовала подробный «план действий» для индустрии: как доказывать подлинность фото, видео и текстов в интернете. В основе — сочетание трёх технологий: цифровые водяные знаки, метаданные и уникальные математические «отпечатки» для каждого файла.

Команда Microsoft проанализировала 60 комбинаций этих методов, моделируя сценарии, когда метаданные могут быть удалены, а изображения — частично изменены. Выяснилось, что только комплексный подход позволяет платформам уверенно маркировать контент, а отдельные инструменты могут ввести пользователей в заблуждение. Важно, что эти технологии не определяют истинность информации — они лишь показывают, был ли материал изменён и откуда он поступил.

Внедрение таких стандартов становится особенно актуальным на фоне новых законов, например, AI Transparency Act в Калифорнии, который вступит в силу в августе. Microsoft активно участвует в формировании этих правил, но пока что не гарантирует, что будет использовать собственные рекомендации на своих сервисах, включая Copilot, Azure и LinkedIn. Однако успех инициативы зависит от готовности индустрии внедрять стандарты.

 Источник: MIT Technology Review