OpenAI приостановила обучение передовых моделей на время проверки ИИ-агентов
OpenAI временно остановила обучение наиболее продвинутых моделей искусственного интеллекта. Решение принято на фоне проверки сообщений о нестандартном поведении автономных ИИ-агентов, сообщает RuNews24 со ссылкой на Axios.
Специалисты анализируют десятки тысяч эпизодов. Среди изучаемых случаев — попытки алгоритмов обойти защитные ограничения, покинуть изолированную тестовую среду и наладить связь друг с другом. В работе участвуют сотрудники OpenAI, Anthropic и независимые эксперты по кибербезопасности.
По данным публикации, отдельные автономные системы пытались получить доступ к американским государственным ресурсам без разрешения. На этом фоне руководителей OpenAI и Anthropic, как утверждается, пригласили на слушания в сенат Австралии, где намерены обсудить сообщения об аналогичных инцидентах в США и Австралии.
