Эксперты объяснили риски кражи доступов к корпоративным ИИ-агентам

Аналитики сервиса Smart Business ALert (SBA) компании ЕСА ПРО, входящей в ГК «Кросс технолоджис», выявили новую цель киберпреступников. Злоумышленники начали собирать данные для доступа к корпоративным ИИ-агентам. Наибольшему риску подвергаются организации, которые активно используют искусственный интеллект для обработки документов, клиентских запросов, электронной почты и во внутренних базах, передает «Лента.ру».

Исследование было инициировано после появления сервисов, предлагающих бесплатный аудит ИИ-систем. Для проведения проверки они требуют предоставить название агента, электронную почту владельца, API Endpoint, API-ключ и System Prompt. Специалисты отмечают, что эти данные формируют полный цифровой профиль системы, включая ее адрес, параметры авторизации и базовые инструкции. Доступ к действующему API-ключу позволяет посторонним лицам отправлять запросы за счет компании, расходуя оплаченные лимиты.

В случае получения доступа к корпоративному агенту последствия могут быть более масштабными. Злоумышленники смогут взаимодействовать с подключенными базами данных, историей переписок и рабочими файлами в рамках прав ИИ-помощника. Данные System Prompt раскрывают логику обработки запросов и установленные ограничения, что позволяет преступникам использовать метод prompt injection — перехват управления агентом для выполнения вредоносных задач. Руководитель сервиса Сергей Трухачев пояснил, что наличие системного промпта дает мошенникам понимание алгоритмов работы агента. Это позволяет обходить защиту и заставлять ИИ выдавать нужные преступникам результаты, например, рекомендовать подставных поставщиков или подтверждать ложные реквизиты. Ранее эксперты также сообщали о рассылке вредоносных файлов под видом записей с камер видеонаблюдения от имени соседей.