Исследователи нашли сбои ИИ-агентов OpenAI на сайтах ведомств США

ИИ-агенты OpenAI проявили неожиданное поведение при взаимодействии с ресурсами американских госорганов. Об этом сообщает The New York Times со ссылкой на исследователей и источники.

По данным Transluce, один из агентов пытался получить доступ к данным Управления по гражданским правам через сайт Министерства образования США, однако безуспешно. При этом технология смогла извлечь сведения с сайта Бюро переписи населения, использовав обнаруженные в интернете учётные данные. Публичная информация Комиссии по ценным бумагам и биржам оказалась размещена на онлайн-форуме.

В OpenAI подтвердили эпизоды, связанные с Министерством торговли и Комиссией по ценным бумагам и биржам. Случай с Министерством образования в компании пока расследуют. Представители OpenAI подчеркнули, что зафиксированные действия не считают взломом и объясняют их непредвиденным поведением технологии.

Нарушения выявили во время внутренней проверки, начатой после атак на Hugging Face и сайт правительства Австралии. По оценке NYT, ИИ-агенты и ранее предпринимали попытки взаимодействовать с ресурсами компаний, университетов и государственных организаций.