Совместная демонстрация OpenAI и FuriosaAI в Сеуле показала работу модели GPT OSS 120B на энергоэффективных чипах RNGD

Южнокорейский стартап FuriosaAI провёл в Сеуле совместную демонстрацию с OpenAI, показав работу модели GPT OSS 120B на своём оборудовании. Мероприятие состоялось в рамках открытия нового офиса OpenAI в Южной Корее. FuriosaAI продемонстрировала работу чат-бота в реальном времени на двух ускорителях RNGD — собственных флагманских чипах для вывода данных (inference).

Модель работала с использованием формата MXFP4, который снижает энергопотребление, сохраняя при этом точность, необходимую для корпоративного использования. FuriosaAI стала единственной компанией-производителем оборудования, приглашённой на это мероприятие.

Демонстрация показала, что масштабные модели могут работать в пределах энергопотребления стандартных дата-центров, без высоких затрат энергии и инфраструктуры, обычно связанных с использованием графических процессоров.

Основанная в 2017 году, компания FuriosaAI специализируется на разработке чипов для искусственного интеллекта и насчитывает около 140 сотрудников, более 90% из которых — разработчики, включая инженеров с опытом работы в Google, Qualcomm и Samsung. Флагманский продукт компании, чип RNGD, впервые был представлен на конференции Hot Chips 2024. Это высокопроизводительный чип для вывода данных, созданный по 5-нм техпроцессу TSMC, с двумя модулями памяти HBM3 и основанный на архитектуре Tensor Contraction Processor от FuriosaAI. Конструкция повышает эффективность за счёт максимального параллелизма и сокращения ненужных вычислений.

Недавно FuriosaAI привлекла $125 миллионов в рамках раунда финансирования серии C и заключила партнёрство с LG AI Research. Оборудование компании уже используется в корпоративных средах и протестировано на эффективность и надёжность. Стартап также привлёк внимание глобальных технологических компаний. В апреле этого года Meta* предложила $800 миллионов долларов (1,2 триллиона вон) за выкуп компании. FuriosaAI отклонила предложение, несмотря на то, что оно примерно на $300 миллионов превышало оценочную рыночную стоимость стартапа.

По мнению отраслевых экспертов, демонстрация в Сеуле указывает на растущую важность специализированного оборудования по мере увеличения размера и сложности моделей ИИ. В условиях постоянно растущих затрат на энергию и инфраструктуру такие стартапы, как FuriosaAI, предлагают свои чипы как доступное решение, подходящее для корпоративных бюджетов.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена

 Источник: techradar