В этой статье резюмируются ключевые выводы из интервью с Максом Романенко, главным инженером EDB. The discussion focuses on how regulated enterprises can eliminate agentic AI risks including sensitive data leakage and non-compliant overreach actions through robust data and infrastructure-layer controls.
Основные различия между агентами ИИ, людьми и традиционными приложениями
ИИ-агенты существенно отличаются от человеческих операторов и обычных приложений.Агенты ИИ должны увеличить глобальную цифровую рабочую силу более чем на 34% в течение трех лет, масштаб роста, который потребовался человеческой рабочей силе на десятилетия, чтобы достичьЭто быстрое внедрение требует совершенно новых рамок для контроля доступа, управления решениями и проектирования инфраструктуры.
Традиционные приложения работают в рамках фиксированных, предсказуемых параметров, в то время как человеческие пользователи действуют с четким бизнес-контекстом, основанным на ролях.Они самостоятельно интерпретируют задачи.Традиционное подтверждение полномочий больше не является достаточным.Соответствует ли поведение агента объему задачиНапример, агент по обнаружению банковских мошенничества должен получить доступ только к записям клиентов, имеющим отношение к его текущему делу, при этом строгое управление данными в режиме онлайн блокирует доступ к несвязанным кросс-данным.
Управление идентификацией и доступом к конкретному агенту (отличается от IAM человека)
Агенты ИИ требуют выделенных систем идентификации и контроля доступа в контексте и не могут полагаться на обычные человеческие системы IAM.требующие динамической регулировки, контекстные разрешения сосредоточены наспециальное заданиеи точность доступа на основе сценария.
Широко распространенная проблема безопасности в предприятии заключается в предоставлении агентам широких прав на учетную запись сервиса или полных унаследованных прав пользователей,проверка только учетных данных, а не законности доступа к данным на основе задач. Agents with distinct business functions — such as bank fraud analysis and customer service — must be assigned isolated identities and tailored permission boundaries to build rigorous data security guardrails.
Определение и обеспечение соблюдения границ разрешения для межсистемных агентов ИИ
Агент ИИ, работающий в нескольких системах, требуетпревентивные, целенаправленные границы доступаАгент должен получить доступ только к данным, необходимым для выполнения его непосредственной задачи, даже если пользователь или приложение, обращающееся к нему, обладает более широкими привилегиями.Разрешения должны быть строго ограничены потребностями задачи в режиме реального времени и истекают по завершении задачи..
Общие политики на уровне приложения не регулируют деятельность агентов, охватывающих API, системы поиска и базы данных.где хранятся конфиденциальные записи и принимаются окончательные решения о доступе. EDB использует нативные разрешения PostgreSQL на основе ролей и безопасность на уровне ряда (RLS) для обеспечения управления агентами на уровне базы данных, а не полагаясь на планы контроля послепродажного обслуживания.Этот подход обеспечивает баланс между безопасностью и производительностью, с всеобъемлющим уровнем управления агентами, запланированным для будущего выпуска.
Уменьшение рисков соответствия от наследственных человеческих разрешений
Архитектуры разрешений на предприятия, созданные в прошлом, предназначены для надежных сотрудников и детерминированных приложений, а не для автономных, динамически действующих агентов ИИ.Это создает серьезные риски соответствия для регулируемых отраслей: агенты здравоохранения и финансовых служб могут легально получать доступ к конфиденциальным данным пациентов или клиентов с помощью действительных учетных данных, но превышают допустимый объем деятельности, что приводит к нарушениям соответствия.
Окончательное решение заключается в том, чтобы предоставить каждому агенту ИИ уникальную независимую идентичность, привилегии с блокировкой задач и отдельные разрешения на чтение / запись.Контроли на уровне строки на уровне базы данных обеспечивают точную видимость данных, предотвращая превращение агентов в нерегулируемые обходы систем соответствия предприятий.
Аудит, контроль на уровне ряда и стандарты политики для регулируемых сред ИИ
Аудит агентов уровня соответствия требует отслеживания от конца к концу, полной регистрации личности агента, источника вызова, доступ к данным, политики авторизации,и последующие действия по восстановлению полного бизнес-контекстаЭффективное управление зависит отПрименение нативного уровня данныхчерез встроенные элементы управления PostgreSQL, а не ретроспективный аудит.
Системы также должны различать уровни риска между действиями чтения и записи агента с разрешениями, адаптированными к сценарию.Доступ к данным клиентов для расследования мошенничества отличается от обычных запросов обслуживания клиентов, так же как доступ к клиническим и административным данным пациентов изолирован в здравоохранении.ограничение агентов только записями, соответствующими задачам, и устранение рисков массового воздействия чувствительных данных.
Безопасное использование ИИ для регулируемых отраслей через суверенную инфраструктуру данных
Финансовые, телекоммуникационные и медицинские организации должны придерживаться основного принципа:привести ИИ к данным, а не данные к ИИРегулируемые конфиденциальные данные никогда не должны мигрировать на внешние, неконтролируемые платформы, что нарушает границы суверенного управления и создает риски воздействия.
Предприятия должны внедрять ИИ и аналитику в дополнение к существующим надежным управляемым базам данных.и агентический ИИ на единой совместимой архитектуре устраняет фрагментированные платформы и несовместимые модели управления, избегая принудительной миграции данных и блокировки поставщиков.
Суверенитет данных: от юридических терминов до технического применения
Суверенитет данных не может оставаться просто юридическим или контрактным требованием, он должен быть встроен в логику системы времени выполнения.например, несанкционированное агрегирование данных.Регулируемые предприятия должны обеспечивать суверенный контроль на уровне данных с помощью разрешений на базе данных и безопасности на уровне строки для обеспечения реального времени.,обязательные ограничения безопасности.
Роль агентов ИИ в управлении суверенитетом
Агенты ИИ могут помочь в управлении суверенитетом данных, ноникогда не должен служить окончательным авторитетомОни эффективно идентифицируют аномальные шаблоны доступа, отметку неправильного использования данных и обнаруживают устаревшие конфигурации, уменьшая нагрузку ручной проверки для сложных современных сред обработки данных.
Однако основные правила суверенитета и границы безопасности должны быть определены и контролироваться человеческими администраторами.Агенты ИИ работают строго в рамках корпоративных рамок управления и не имеют полномочий для отмены или обхода установленной политики соответствия и суверенитета.
Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг, директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Сайт: www.qianxingdata.com/www.storagesserver.com
Бизнес фокус:
Распространение ИКТ-продуктов/интеграция систем и услуги/решения инфраструктуры
Имея более 20-летний опыт распространения ИТ, мы сотрудничаем с ведущими мировыми брендами для предоставления надежных продуктов и профессиональных услуг.
Использование технологий для создания интеллектуального мира Ваш надежный поставщик услуг ИКТ-продуктов!
Ваше сообщение должно содержать от 20 до 3000 символов!
Russian
