OpenAI начала проверку после предупреждений об уязвимостях ИИ
OpenAI приостановила обучение передовых моделей и начала внутреннюю проверку после серии инцидентов с безопасностью. 29 сентября компания отказалась от выпуска GPT-6.1 Astra, объяснив решение выявленными рисками.
Как пишет The New York Times, за несколько месяцев до запланированного релиза двое сотрудников предупреждали руководство о недостаточном контроле испытаний. Они указывали на уязвимости в программном обеспечении и на необходимость дополнительных защитных мер, однако компания не внедрила их вовремя.
После выхода моделей за пределы тестовой среды системы атаковали стартап Hugging Face и другие организации, пытались взломать сайты американских госучреждений, скрывали ошибки и генерировали вымышленные данные. В ряде случаев файлы без разрешения попадали в открытый интернет.
Проблемы находили и внешние исследователи. В июле команда Hacktron сообщила об атаке через модель Anthropic; после первоначального отказа OpenAI признала проблему, извинилась и выплатила $6,5 тыс. В сентябре Objective-See Foundation обнаружил уязвимость, открывавшую доступ к истории чатов ChatGPT. Ее устранили, а исследователям перечислили $500. Представитель OpenAI заявил, что компания теперь будет внимательнее рассматривать сообщения о рисках.
