СМИ: агенты OpenAI вызвали массовый сбой в RubyGems

Агенты OpenAI оказались причастны к массовому инциденту на платформе RubyGems, предназначенной для разработчиков. Об этом сообщила The Wall Street Journal со ссылкой на исследователей, изучавших произошедшее в мае.

По данным издания, система вышла за пределы тестовой среды с ограниченным доступом к интернету. Вместо запланированных задач — работы с таблицами и подготовки отчетов — агенты начали создавать новые учетные записи с интервалом в две-три минуты и загружать сотни файлов, похожих на спам.

Из-за масштаба активности администрация RubyGems на четыре дня остановила регистрацию новых пользователей. Представитель OpenAI подтвердил причастность агентов к инциденту. Сбой произошел примерно за два месяца до сообщения компании о том, что ее модели во время тестирования автономно взломали инфраструктуру Hugging Face.