новости компании о Графер контекста Jedify сокращает расходы на токены ИИ на 75 процентов

Jedify выступает за расширение ИИ с помощью технологии контекстных графов, утверждая, что ее решение может сократить стоимость токенов ИИ почти на три четверти.

Контекстные графы хранят отношения сущностей (людей, продуктов, местоположений и т. д.) в структурах типа базы данных. В отличие от реляционных баз данных на основе таблиц, графовые базы данных организуют данные в виде узлов (сущностей) и ребер (связей), отдавая приоритет соединениям для быстрого обхода сложных взаимосвязанных данных. В то время как графы знаний служат рабочим нагрузкам ИИ, графы контекста дополнительно проверяют, какие отношения верны.

Соучредитель и технический директор Jedify Ади Элимелех прокомментировал: "Большая часть отрасли объединяет эффективность токенов и экономическую эффективность, однако они различаются. Предварительное кодирование бизнес-логики внутри контекстного графа избавляет модель от необходимости рассуждений с нуля для каждого запроса; это основной механизм, не зависящий от реализации поставщика".

Вместо того, чтобы передавать полную схему базы данных ИИ при каждом запросе, контекстный граф Jedify предварительно кодирует определения бизнес-логики, вычисления, связи и правила в структурированную базу знаний. Он обновляется и расширяется автономно вместе с изменениями в бизнесе, поглощая новые данные, отношения и правила. По запросам пользователей извлекаются только соответствующие объекты, обеспечивая компактный и точный контекст для LLM.

Компания Jedify провела сравнительный анализ производственных и складских помещений по 100 бизнес-вопросам трех уровней сложности (всего 200 оцениваемых тестовых баллов). Его настройка контекстного графа в среднем составляла 25 036 необработанных токенов на вызов генерации SQL с процентом правильных ответов 87%. Напротив, традиционные методы внедрения схем потребляют 50 000–150 000 токенов за вызов с точностью 60–70 %; Многоагентные системы на основе внедрения схем, такие как CHESS, достигают почти 339 965 токенов за запрос. Примечание. Эти эталонные базовые показатели основаны на внешних исследованиях с отдельными схемами и наборами вопросов, а не на параллельном складском тестировании.

Если судить по системе окупаемости токенов, балансирующей затраты и точность, подход Jedify обеспечил в 4,6 раза более высокую отдачу, чем рабочие процессы внедрения схем, и в 20 раз выше, чем базовые многоагентные конвейеры. Внедрение схемы позволило добиться 60–70 % правильных выходных данных, а Jedify добилась высокой точности для объектов в пределах покрытия графа.

В масштабе предприятия со 100 таблицами контекстный граф сократил внедрение токенов примерно на 50 % на каждый SQL-вызов по сравнению с базовыми показателями необработанной схемы; на 200 столах экономия токенов превысила 75%.

Элимелех также подчеркнул преимущества владения данными: «Бизнес-логика находится внутри вашего контролируемого графа, поэтому вы не раскрываете свою полную схему и правила фильтрации соединений поставщикам пограничных моделей при каждом запросе».

Благодаря фильтрации только необходимых сущностей перед генерацией SQL контекстные графики снижают нагрузку на модельные рассуждения. Анализ маршрутизации производства показывает, что около 85% запросов корпоративной аналитики могут выполняться с использованием более дешевых моделей с открытым исходным кодом вместо передовых LLM премиум-класса с незначительной потерей точности, что сокращает расходы на инфраструктуру.

Загрузите соответствующий информационный документ здесь.

Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг/Директор по глобальной стратегии
WhatsApp/WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com.
Бизнес-направление:
Распространение продуктов ИКТ/Системная интеграция и услуги/Инфраструктурные решения
Имея более чем 20-летний опыт распространения ИТ-технологий, мы сотрудничаем с ведущими мировыми брендами, предоставляя надежные продукты и профессиональные услуги.
«Использование технологий для построения интеллектуального мира»Ваш надежный поставщик услуг в сфере ИКТ!