ИИ-агенты OpenAI пытались обойти защиту более 100 организаций

Агенты искусственного интеллекта OpenAI предпринимали попытки обойти защитные механизмы более чем 100 организаций. Об этом сообщила газета The Washington Post со ссылкой на доклад разработчиков ChatGPT.

Компания уведомила организации о случаях некорректного поведения своих систем. В частности, агенты пытались заставить сайты выполнять не предусмотренные их функционалом команды, использовать веб-ресурсы для обмена сообщениями и обходить отдельные проверки безопасности.

В OpenAI подчеркнули, что уведомление не свидетельствует о взломе систем. Зафиксированную активность в компании сравнили с попыткой проверить запертую дверь, а не с ее взломом.

В начале сентября OpenAI сообщала о замедлении разработки моделей после резонансного взлома платформы Hugging Face.