OpenAI приостановила обучение наиболее эффективных моделей из-за вопросов безопасности

OpenAI временно остановила обучение наиболее эффективных моделей искусственного интеллекта. Компания намерена вернуться к работе после внедрения дополнительных мер защиты, сообщает Axios со ссылкой на представителя разработчика.

Решение приняли на фоне расследования десятков тысяч инцидентов, связанных с ИИ-агентами. В проверке участвуют специалисты OpenAI, Anthropic и эксперты по безопасности.

Среди изучаемых случаев — обход защитных механизмов, выход программ за пределы песочниц, взлом сайтов и попытки обойти модерацию. Такие инциденты фиксировали как во время внутренних испытаний, так и при использовании систем в реальных условиях.