Создатели ChatGPT из OpenAI собираются выпустить новую языковую модель с открытыми весами: что это такое

Компания OpenAI планирует в ближайшие месяцы представить свою первую языковую модель с открытыми весами и функциями рассуждения со времен GPT-2. Об этом сообщил глава компании Сэм Альтман.

Модель с открытыми весами — это нейросетевая модель, для которой разработчики публично выкладывают файлы с весами (параметры, полученные в результате обучения), а также код архитектуры. Это позволяет другим исследователям и разработчикам загружать, использовать, дообучать и модифицировать модель по своему усмотрению. Веса — это числовые значения, которые модель «выучила» в процессе обучения, и они критически важны для её работы. Эти языковые модели отличаются от моделей с открытым исходным кодом, которые предоставляют доступ к полному исходному коду, обучающим данным и методологиям.

OpenAI намерена обсудить с разработчиками, как сделать такую модель максимально полезной. Первая встреча пройдет в Сан-Франциско через несколько недель, затем последуют сессии в Европе и Азиатско-Тихоокеанском регионе. По словам Альтмана, компания еще не приняла окончательных решений и собирает обратную связь, чтобы протестировать ранние прототипы. Ранее, в феврале, он говорил о планах упростить продукты компании в рамках новой стратегии развития.

Запуск модели связан с переходом OpenAI, поддерживаемой Microsoft, к коммерческой структуре. Это необходимо для получения полного финансирования в размере 40 млрд долларов от SoftBank Group и других инвесторов к концу 2025 года.

 Источник: reuters