Сначала люди учат нейросети генерировать видео, а потом учат отличать сгенерированное ИИ видео от настоящего: в Google Gemini появилась возможность выявлять дипфейки

Google обновила свой ИИ-помощник Gemini, добавив функцию обнаружения видео, сгенерированного искусственным интеллектом. Теперь пользователи могут загрузить подозрительный ролик и спросить чат-бот, является ли он настоящим или создан нейросетью.

Ранее, в ноябре этого года, Gemini уже научился распознавать изображения, сгенерированные нейросетью, теперь эта возможность расширена на видеоконтент. Процесс проверки прост: нужно открыть приложение Gemini или веб-версию, загрузить файл и ввести запрос, например: «Это видео сгенерировано ИИ?».

Однако у новой функции есть серьезные ограничения:

• Только свои инструменты: Gemini на данный момент может распознать только видео, созданные ИИ-инструментами самой Google.
• Ограничения файла: Размер видео не должен превышать 100 МБ, а длительность — 90 секунд.
• Технология SynthID: Система работает на базе технологии водяных знаков SynthID. Этот цифровой знак встраивается в контент, созданный нейросетями Google. Он невидим для человеческого глаза, но легко считывается детекторами компании.

Сможет ли Gemini распознавать видеоролики, созданные альтернативными инструментами (например, Sora), — пока вопрос.

 Источник: ITHome