Russian
NVIDIA и более 35 компаний-учредителей запустили Альянс открытого безопасного ИИ (Open Secure AI Alliance) для создания инструментов ИИ с открытым исходным кодом, моделей, фреймворков агентов и технологий безопасности. Членство в альянсе привлекает внимание как присутствием, так и отсутствием крупных игроков: в него вошли Microsoft, IBM, Cisco и Palantir, в то время как ведущие разработчики закрытых передовых моделей OpenAI, Google и Anthropic не присоединились.
При поддержке инициативы Akrites от Linux Foundation и OpenSSF альянс стремится оснастить команды безопасности инспектируемыми, адаптируемыми технологиями для защиты моделей ИИ, агентов и их цепочек поставок программного обеспечения. Компании-учредители охватывают облачную инфраструктуру, кибербезопасность, корпоративное программное обеспечение, исследования в области ИИ и сообщества с открытым исходным кодом, включая Adobe, Box, Capital One, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Elastic, Fortinet, GitHub, HPE, Hugging Face, IBM, LangChain, Linux Foundation, Microsoft, Mistral, NAVER, NetApp, Nokia, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Uber, vLLM и Zscaler.
Альянс подчеркивает, что оценка безопасности ИИ должна охватывать весь стек агента, а не только веса моделей. ИИ-агент включает в себя модели, уровни оркестрации, интеграцию инструментов, правила идентификации, разрешения, изоляцию, защитные ограждения, ведение журналов и рабочие процессы оценки. Хотя открытые модели несут риски злоупотребления, такие как отключенные средства защиты или использование для кибератак, альянс утверждает, что закрытые модели не решают такие опасности и мешают защитникам аудировать поведение моделей, проверять средства контроля или запускать ИИ локально.
Он выступает за гибкое внедрение как закрытых, так и открытых ИИ: закрытые модели подходят для избранных передовых сценариев использования, в то время как открытые альтернативы обеспечивают прозрачность, локальный контроль и настройку для оборонительных задач. Это имеет большое значение для регулируемых отраслей и суверенных образований, которые требуют прямого надзора за конфиденциальными данными, поведением моделей, журналами безопасности и реагированием на инциденты.
NVIDIA передаст альянсу открытые модели, веса, наборы данных и исследования по инструментам для агентов, а также свой фреймворк NOOA, размещенный на GitHub, в качестве первоначального вклада. NOOA повышает безопасность и аудируемость инструментов для агентов ИИ, оптимизируя тестирование, отслеживание, управление и оценку при взаимодействии агентов с инструментами, внешними данными, кодовыми базами и корпоративными системами. Планируемая совместная работа охватывает решения по идентификации агентов, изоляцию рабочих нагрузок, безопасные форматы моделей, сканирование моделей и безопасную разработку программного обеспечения с дополненным ИИ.
Компании-учредители создадут компоненты открытого стека защиты ИИ. HPE поддерживает SPIFFE/SPIRE для идентификации рабочих нагрузок с нулевым доверием для аутентификации агентов ИИ с помощью криптографии. Safetensors от Hugging Face, размещенный под эгидой PyTorch Foundation, устраняет риски выполнения произвольного кода при хранении весов моделей, обеспечивая более безопасный обмен открытыми моделями. IBM и Red Hat продвигают Lightwell, используя подписанные патчи для защиты целостности цепочки поставок открытого исходного кода. Microsoft предлагает MDASH, сканер агентов для нескольких моделей, обнаруживающий уязвимые программные ошибки. SpaceXAI открыла Grok Build, терминальный агент для кодирования с использованием ИИ, и планирует выпустить веса модели Grok, что соответствует фокусу альянса на независимом аудите и модификации инструментов ИИ, ориентированных на безопасность.
В политике альянс призывает регуляторов рассматривать открытые инструменты ИИ как инфраструктуру кибербезопасности, а не как универсальные риски. Общие ограничения на передовые открытые модели рискуют вынудить организации полагаться на небольшую группу проприетарных поставщиков и ослабить возможности тестирования защиты для бизнеса и правительств. Он призывает к коллективным инвестициям в открытые наборы данных, платформы оценки, симуляторы атак, утилиты для красных команд, безопасное распространение моделей и средства контроля безопасности агентов.
Для команд корпоративной инфраструктуры инициатива подчеркивает, что развертывания ИИ должны быть защищены как взаимосвязанные системы, интегрирующие модели, приложения, управление идентификацией, хранилище, сети, наблюдаемость и системы автоматизированного принятия решений.
Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг / Директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com
Сфера деятельности:
Дистрибуция ИКТ-продукции / Системная интеграция и услуги / Инфраструктурные решения
Обладая более чем 20-летним опытом дистрибуции ИТ, мы сотрудничаем с ведущими мировыми брендами, чтобы поставлять надежные продукты и профессиональные услуги.
«Используя технологии для построения интеллектуального мира» Ваш надежный поставщик услуг ИКТ-продукции!
Сэнди Янг / Директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com
Сфера деятельности:
Дистрибуция ИКТ-продукции / Системная интеграция и услуги / Инфраструктурные решения
Обладая более чем 20-летним опытом дистрибуции ИТ, мы сотрудничаем с ведущими мировыми брендами, чтобы поставлять надежные продукты и профессиональные услуги.
«Используя технологии для построения интеллектуального мира» Ваш надежный поставщик услуг ИКТ-продукции!