Anthropic подтвердила утечку данных о новой ИИ-модели Claude 4 Opus через публикацию Time

Компания Anthropic, разработчик языковой модели Claude, в ходе анонсированной ранее трансляции не предоставила официальных данных о новой версии своей системы. Однако слухи о запуске Claude 4 Opus под кодовым названием «Нептун» подтвердились благодаря утечке информации. Журнал Time случайно опубликовал, а затем удалил статью, где раскрывались детали о возможностях и рисках модели.

Ещё до начала трансляции эксперты в сообществе ИИ на платформе X предположили выход обновления, анализируя доступные фрагменты кода и документы Anthropic. Основной акцент делался на увеличении числа параметров по сравнению с предыдущей версией Claude 3.7 Sonnet. Это указывало на значительный рост производительности, включая улучшенную обработку естественного языка и анализ данных.

Статья Time, появившаяся на несколько часов, содержала упоминание, что Claude 4 Opus способна помогать неопытным пользователям в создании биологического оружия. Издание подчёркивало меры безопасности, внедрённые Anthropic для снижения подобных рисков, но не привело конкретных примеров реализации. Позже копия материала временно стала доступна в агрегаторе Newsbreak, что усилило дискуссию в профессиональных кругах.

Технические характеристики модели, включая точное количество параметров, стоимость обучения и лицензирования, а также результаты тестов на стандартных бенчмарках, остаются неизвестными. В Anthropic отказались комментировать эти аспекты, сославшись на планы раскрыть их «в ближайшее время».

Утечка спровоцировала критику со стороны экспертов по ИИ-безопасности. Они отмечают, что даже с защитными механизмами модели уровня Claude 4 Opus требуют жёсткого регулирования из-за потенциала генерации опасного контента. Ранее аналогичные проблемы возникали с GPT-4 от OpenAI, что привело к ужесточению политик распространения.

Ожидается, что официальный анонс Anthropic расставит акценты на балансе между инновациями и контролем. Пока сообщество разработчиков обсуждает, станет ли «Нептун» прорывом в области ИИ или примером рисков, связанных с ускоренным развитием технологий.

 Источник: venturebeat.com