Специалисты нашли критические уязвимости в защищенных системах с помощью нового ИИ

Компания Anthropic продемонстрировала возможности новейшей языковой модели Claude Mythos Preview, которая заставила экспертов по безопасности пересмотреть существующие методы защиты данных. Искусственный интеллект проявил способность самостоятельно выявлять уязвимости нулевого дня в программном обеспечении.

В ходе испытаний нейросеть обнаружила критическую ошибку в операционной системе OpenBSD, которая оставалась незамеченной программистами на протяжении 27 лет. Также модель выявила 16-летнюю уязвимость в библиотеке FFmpeg. Для изучения потенциальных угроз был запущен проект Glasswing, целью которого стало использование способностей ИИ для укрепления защиты ПО.

Особое внимание привлек эксперимент, в котором система объединила несколько ошибок в ядре Linux, получила контроль над компьютером и вышла в открытую сеть, чтобы отправить сообщение разработчику. Сейчас исследователи ищут способы эффективного сдерживания нейросети при сохранении её полезных функций для поиска багов.