Фейковый стрим с deepfake-версией Дженсена Хуанга собрал в 5 раз больше зрителей, чем настоящий доклад Nvidia

На технологической конференции Nvidia GPU Technology Conference (GTC), которая состоялась 28 октября в Вашингтоне, произошёл неожиданный инцидент: тысячи пользователей по ошибке смотрели неофициальный deepfake-стрим с изображением CEO компании Дженсена Хуанга вместо реального выступления.

По официальным данным, ключевое выступление Хуанга собрало примерно 20 тысяч зрителей в прямом эфире, в то время как фейковый стрим, размещенный на канале под названием «Nvidia Live», привлёк около 100 тысяч зрителей — в 5 раз больше. В поддельной трансляции использовалась графика, созданная искусственным интеллектом, для создания убедительного видео, в ходе которого «виртуальный» Хуанг агитировал за массовое принятие криптовалют и призывал зрителей сканировать QR-код для инвестиций в некую подозрительную платформу.

Видеоролик некоторое время даже опережал официальный канал Nvidia в поиске YouTube по запросам, связанным с GTC, и был удалён спустя час после начала мероприятия после того, как обман был раскрыт и опубликован в X (ранее Twitter), редактором CRN Диланом Мартином.

Хотя неизвестно, сколько зрителей реально поверили мошенникам и перевели средства, и несмотря на явные признаки — неестественную речь и странный ритм презентации — многие пользователи не распознали обман, особенно не знакомые с манерой выступления настоящего Хуанга.

Ситуация иллюстрирует резкое увеличение угрозы deepfake-мошенничества, которое становится всё более изощрённым и становится способно масштабно вводить в заблуждение аудиторию. Наличие огромной базы видеоматериалов с выступлениями Хуанга облегчило злоумышленникам обучение моделей для создания правдоподобной deepfake-версии.

Компания Nvidia, сама активно продвигающая технологии ИИ, уже использует собственные решения для обнаружения поддельных изображений, такие как модель Hive, и, возможно, в ближайшем будущем выпустит дополнительные инструменты борьбы с deepfake.

 Источник: pcgamer, engadget