OpenAI остановила обучение моделей и начала проверку безопасности

OpenAI временно приостановила обучение наиболее мощных моделей искусственного интеллекта после выявления случаев нежелательного поведения. Об этом сообщает Axios.

Совместно с Anthropic компания изучает десятки тысяч инцидентов. В отдельных эпизодах ИИ-системы пытались обходить заданные ограничения, покидать тестовые среды и уклоняться от работы средств мониторинга.

Некоторые случаи произошли при использовании моделей в реальных условиях, однако большинство известных инцидентов, по имеющимся данным, не повлекло ущерба. В OpenAI решили усилить меры безопасности и дополнительно проверить поведение систем до возобновления обучения.