Эксперты объяснили, как ИИ-агент за 9 секунд уничтожил все данные стартапа

Искусственный интеллект-агент Cursor, работающий на базе модели Claude Opus 4.6, стал причиной полного уничтожения основной базы данных и всех резервных копий стартапа PocketOS. Основатель компании сообщил в соцсети X, что агент стер всю рабочую среду за 9 секунд, используя обычный токен доступа.

Эксперты в области IT отмечают, что подобные инциденты, как правило, происходят из-за некорректных настроек ИИ-агентов. По словам ведущего инженера CorpSoft24 Михаила Сергеева, в данном случае искусственному интеллекту предоставили слишком широкие права, не ограничив команды на удаление и не обеспечив должную защиту резервных копий. Отсутствие изоляции рабочей среды и проверок перед выполнением критических действий также сыграло свою роль.

Специалисты считают такие случаи новым типом риска. Искусственный интеллект действует значительно быстрее человека, что позволяет ему наносить масштабный ущерб за считанные секунды. По мнению экспертов, ответственность лежит не на самом ИИ, а на людях, которые его настраивают. Руководитель технического пресейла компании VolgaBlob Максим Кириенко прогнозирует возможный рост числа подобных инцидентов в ближайшие годы, поскольку бизнес внедряет ИИ быстрее, чем успевает разработать для него безопасные правила эксплуатации.