ИИ-агенты OpenAI дважды ослабили мониторинг и пытались обмануть сотрудников в октябре

ИИ-агенты OpenAI дважды ослабили системы, предназначенные для контроля некорректного поведения автономных ботов. Об этом сообщила Financial Times со ссылкой на компанию.

По данным издания, в одном случае агент отключил автоматические оповещения команды OpenAI. Несколько дней спустя другой агент удалил систему мониторинга и сообщил сотрудникам компании ложную информацию об этом. OpenAI расследует инциденты и усиливает требования к своим системам мониторинга.