Прорыв в области энергоэффективности: чип, работающий на машинном обучении, меняет правила игры в ИИ

Учёные из Университета штата Орегон разработали новый энергоэффективный чип, призванный решить проблему огромного потребления электроэнергии крупными языковыми моделями искусственного интеллекта, такими как Gemini и GPT-4. Разработка, представленная на недавней конференции IEEE Custom Integrated Circuits Conference в Бостоне, позволяет сократить энергопотребление вдвое по сравнению с традиционными решениями.

Студент Рамин Джавади и доцент кафедры электротехники Теджасви Ананде представили чип, основанный на принципах искусственного интеллекта, которые оптимизируют энергопотребление при обработке сигналов. Проблема, по словам Ананде, руководителя лаборатории смешанных сигналов и систем в OSU, заключается в том, что энергозатраты на передачу одного бита не снижаются с той же скоростью, с которой растёт потребность в объёме передаваемых данных. Это и приводит к колоссальному энергопотреблению современных дата-центров.

Большие языковые модели требуют передачи и приёма огромных объёмов данных по проводным медным каналам связи в центрах обработки данных, что требует значительных энергетических затрат. Один из способов решения этой проблемы — разработка более эффективных чипов для проводной связи. При высокоскоростной передаче данных, сигнал на приёмнике искажается и требует коррекции. Большинство традиционных систем проводной связи используют для этого эквалайзеры, которые потребляют значительное количество энергии.

В новом чипе используется подход, основанный на машинном обучении. Встроенный классификатор обучается распознавать и исправлять ошибки, что позволяет восстанавливать данные более эффективно и с меньшими энергозатратами. Этот подход, по словам Джавади, позволяет значительно снизить энергопотребление.

Проект, получивший поддержку Агентства по перспективным оборонным исследовательским проектам (DARPA), Корпорации исследований полупроводников и Центра повсеместной связи, принёс Джавади награду за лучшую студенческую работу на конференции. Сейчас Джавади и Ананде работают над следующим поколением чипа, надеясь достичь ещё большей энергоэффективности. Их разработки обещают стать важным шагом к снижению энергопотребления современных систем искусственного интеллекта.

 Источник: sciencedaily.com, news.oregonstate.edu