Поставщик векторных баз данных Pinecone представил оптимизированное решение для решения проблемы ограничений токенов и перерасхода бюджета для агентов ИИ. Используя предварительно рассчитанные наборы векторных данных, агенты ИИ могут добиться более высокой скорости работы, и теперь компания предоставляет эти оптимизированные наборы векторных данных корпоративным пользователям.
Генеральный директор Pinecone Эш Ашутош и соучредитель и технический директор Эдо Либерти отметили в официальном сообщении в блоге: "Агенты искусственного интеллекта обогнали людей и стали основными потребителями современной инфраструктуры знаний. В эпоху искусственного интеллекта, управляемого агентами, автоматизированные агенты выполняют повторяющиеся задачи и часто попадают в жесткие циклы вычислений методом грубой силы". Обработка необработанных векторных данных приводит к неэффективности и узким местам для этих интеллектуальных агентов.
Такие технические недостатки приводят к стагнации показателей выполнения задач в диапазоне от 50% до 60%, что сопровождается непредсказуемыми задержками и чрезмерным расходом токенов. Отрасли требуется метод предварительной обработки данных, адаптированный к контекстуальным сценариям агентов, а также эффективный механизм, позволяющий агентам получать контекстные данные. Компания Pinecone разработала платформу Nexus именно для удовлетворения этого спроса.
Nexus Knowledge Engine состоит из двух основных модулей: контекстного компилятора и составного ретривера. Компилятор контекста генерирует настраиваемые артефакты данных — контекстные наборы данных для конкретных задач, созданные на основе записей базы данных необработанных векторов. К этим артефактам добавляются полные метаданные, включая области доступа RBAC, коды версий, источники данных и теги идентификации PII. На основе исходных материалов и четких спецификаций задач компилятор изначально создает адаптированные артефакты для четырех предопределенных типов агентов: агентов по продажам, финансам, маркетингу и агентов исполнительного директора.
Эти интеллектуальные агенты используют специальный декларативный язык запросов под названием KnowQL для взаимодействия с системой Nexus. Язык состоит из шести фундаментальных элементов: намерение, фильтр, происхождение, форма вывода, достоверность и бюджетные ограничения. Вместо прямого получения необработанных векторных данных агенты отправляют запросы KnowQL высокого уровня на платформу Nexus.
Composable Retriever от Nexus отвечает за получение запросов KnowQL от различных типов агентов. Он возвращает точные ответы на основе предварительно сгенерированных артефактов, обработанных компилятором контекста. Официальная схема четко иллюстрирует весь рабочий процесс этого механизма.
Среда Pinecone Nexus и технологический процесс.
Платформа обеспечивает централизованное управление потреблением токенов для нескольких пользователей и разнообразных рабочих нагрузок. Его унифицированная информационная панель интуитивно отображает использование токенов, затраты и статус соответствия для прозрачного мониторинга.
Пайнкоун пояснил, что Nexus предварительно структурирует, контекстуализирует и компилирует артефакты специализированных знаний, полностью подготавливая данные до того, как агенты начнут выполнять вычислительные задачи.
В отличие от обычных компиляторов, итеративный компилятор контекста постоянно оптимизирует представление данных. Он проводит экспериментальное моделирование, оценивает результаты в соответствии с целями задачи и в конечном итоге объединяет в точные структуры знаний, которые идеально соответствуют оперативным потребностям агентов. Практические примеры использования перечислены ниже:
-
Агент по продажам: Собирает интегрированный контекст транзакций, включая расшифровки звонков Gong, этапы конвейера продаж, ключевые разговоры по электронной почте с клиентами и конкурентную информацию, извлеченную из записей Slack.
-
Финансовый агент: Создает контекст, связанный с доходами, путем сопоставления положений контракта с циклами выставления счетов, пороговыми значениями использования и показателями расширения бизнеса.
-
Маркетинговый агент: собирает данные атрибуции, связывая записи взаимодействия кампании с журналами успешных/неудачных транзакций из Gong, а также сигналы квалификации продукта, полученные на основе данных о поведении пользователей.
-
Генеральный директор Агент: Синтезирует межведомственную информацию, связывая колебания ARR с показателями здоровья клиентов, прогрессом в подборе персонала и этапами разработки продукта.
По словам двух руководителей Pinecone, пользователи Nexus могут получить выгоду от более высокого коэффициента выполнения задач, сокращения циклов выполнения, надежных заземленных выходов и снижения потребления токенов до 90%. Это технологическое обновление реализует структурную оптимизацию: оно переносит сложные логические вычисления на независимый уровень знаний вместо выполнения повторяющихся вычислений в каждом запросе вывода.
Многие отраслевые предприятия, включая Box, Unstructured, Teradata, LlamIndex и ThoughtFocus, официально одобрили платформу Nexus.
В тандеме с Nexus компания Pinecone запустила совершенно новый рынок, предлагающий готовые к использованию приложения знаний. Эти готовые решения можно развернуть за считанные минуты без сложной настройки инфраструктуры искусственного интеллекта. Каталог торговой площадки содержит более 90 готовых решений, охватывающих доходы от продаж, страхование, недвижимость, соблюдение законодательства, человеческие ресурсы и обслуживание клиентов.
На этапе запуска использование Marketplace остается полностью бесплатным, а в ближайшем выпуске запланированы коммерческие решения сторонних производителей. Пользователи могут получить доступ к платформе по официальной ссылке.
Компания Pinecone также оптимизировала цены на свою векторную базу данных, введя недорогой уровень Builder с ежемесячной платой в размере 20 долларов США. Кроме того, компания расширила зону своего облачного развертывания на регион AWS Europe (Франкфурт) с помощью зоны доступности eu-central-1.
Кроме того, в основную векторную базу данных Pinecone встроена собственная функция полнотекстового поиска, которая в настоящее время доступна в общедоступной предварительной версии.
Программа раннего доступа к Nexus и KnowQL теперь открыта для корпоративных клиентов и партнеров. Подходящими пользователями являются те, кто разрабатывает собственные агентские приложения для финансовых услуг, здравоохранения, юридических услуг и корпоративных SaaS-сценариев, требующих от агентов обработки сложных данных собственных знаний.
Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг/Директор по глобальной стратегии
WhatsApp/WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com.
Бизнес-направление:
Распространение продуктов ИКТ/Системная интеграция и услуги/Инфраструктурные решения
Имея более чем 20-летний опыт распространения ИТ-технологий, мы сотрудничаем с ведущими мировыми брендами, предоставляя надежные продукты и профессиональные услуги.
«Использование технологий для построения интеллектуального мира»Ваш надежный поставщик услуг в сфере ИКТ!
Ваше сообщение должно содержать от 20 до 3000 символов!
Russian
