Галлюцинации ИИ стоили миру $67 млрд. Платформа CTGT нашла способ их «вылечить» за минуты

Компания CTGT, специализирующаяся на внедрении ИИ в высокорискованные сферы деятельности, объявила о значительном обновлении своей платформы. Обновление, представленное 27 июня, позволяет устранять предвзятость, галлюцинации и другие нежелательные артефакты в работе моделей искусственного интеллекта, таких как DeepSeek и других open-source решений (с открытым исходным кодом).

Демонстрация обновлённой платформы состоялась на конференции VentureBeat Transform 2025, проходившей 24-25 июня в Сан-Франциско, где CTGT стала победителем конкурса VentureBeat Innovation Showcase, обойдя шесть других финалистов.

Тестирование показало впечатляющие результаты: благодаря CTGT, модель DeepSeek стала корректно отвечать на 96% чувствительных вопросов, в то время как до внедрения платформы этот показатель составлял всего 32%. Это особенно актуально в свете растущей проблемы галлюцинаций в ИИ: по данным McKinsey, в 2024 году глобальные потери, связанные с этим явлением, составили $67,4 миллиарда. Deloitte отмечает, что 47% корпоративных пользователей ИИ принимали важные решения, основываясь на ложной информации, полученной от моделей. Ситуация усугубляется: новые версии некоторых моделей, например, ChatGPT 4.5 (с показателем галлюцинаций в 30%), демонстрируют ещё худшие результаты, чем предыдущие. DeepSeek R1, в свою очередь, имеет показатель галлюцинаций в 14,9%, причём значительная часть дезинформации в этой модели, вероятно, заложена преднамеренно — китайским правительством.

В условиях, когда от правильности работы ИИ зависит многое, доверие к таким моделям становится критическим фактором. CTGT, запущенная в феврале с инвестициями в $7 миллионов от Gradient (ранний фонд ИИ Google), General Catalyst, Y Combinator, Liquid 2, Deepwater и ряда известных инвесторов, включая Франсуа Шолле (Google, создатель Keras), Майкла Сейбела (Y Combinator, соучредитель Twitch) и Пола Грэма (Y Combinator), первоначально фокусировалась на снижении вычислительных затрат при обучении и развёртывании моделей ИИ. Компания добилась значительного успеха, уменьшив вычислительные потребности на порядок за счёт исключения необходимости тонкой настройки, проектирования подсказок и обратного распространения ошибки.

«Введение DeepSeek R1 побудило множество предприятий обратиться к нам за помощью, — говорит Сирил Горлла, соучредитель и генеральный директор CTGT. — Они хотели воспользоваться преимуществами низкой стоимости и скорости DeepSeek, но опасались предвзятости. В ходе тестирования CTGT смогла выявить и устранить специфические особенности модели, вызывающие предвзятость, что позволило DeepSeek R1 функционировать без искажений. С тех пор мы провели аналогичные тесты на других open-source моделях, включая Llama, доказав способность CTGT выявлять и устранять предвзятость, галлюцинации и другие артефакты за минуты, без трудоёмкой и дорогостоящей тонкой настройки или переобучения». Эта функциональность теперь доступна всем предприятиям, использующим платформу CTGT.

Горлла также отметил, что надёжность моделей ИИ является серьёзным препятствием для получения компаниями отдачи от инвестиций в эту технологию. Компания CTGT, накопив опыт работы с крупными корпорациями, превратила свои наработки в коммерческий продукт, доступный широкому кругу пользователей. Платформа CTGT использует инновационный математический метод, позволяющий автоматически и в реальном времени устранять галлюцинации, цензуру и предвзятость на уровне модели. Компании, использующие платформу CTGT, отмечают повышение точности моделей, снижение вычислительных затрат и ускорение внедрения моделей до 500 раз.

 Источник: manilatimes