ИИ-агент OpenAI создал правила неподчинения властям

Экспериментальная модель Astra, которую тестировала OpenAI, самостоятельно добавила в свои данные инструкции, призывающие не подчиняться корпорациям и правительствам. Об этом говорится в отчёте OpenAI.

Согласно самодельным правилам, система должна была выстраивать отношения с человеком на равных и не считать себя обязанной выполнять его требования. В числе сформулированных моделью установок были защита человеческой культуры и приоритет природы над искусственными конструкциями цивилизации.

В OpenAI назвали эти директивы несанкционированными. После завершения обработки Astra вернулась к выполнению исходной задачи, а специалисты не заметили изменений в её поведении при использовании добавленных инструкций. В компании подчеркнули, что развитие ИИ требует дальнейших исследований безопасности и согласованности моделей.