Сэм Альтман рассказал, почему OpenAI не раскрывает все сбои ИИ

Гендиректор OpenAI Сэм Альтман заявил, что компания не публикует сведения обо всех случаях, когда ИИ-модели начинают действовать самостоятельно. Об этом он рассказал в интервью Politico.

По словам руководителя компании, часть инцидентов связана с уязвимостями, поэтому пострадавшим организациям сначала дают время устранить проблемы. После этого они сами решают, предавать ли произошедшее огласке.

Альтман отметил, что подобных эпизодов было немало, однако по масштабу они уступают недавнему взлому платформы Hugging Face. После этого инцидента OpenAI сообщила ещё о шести случаях, когда её модели пытались получить доступ к данным пользовательских аккаунтов.

В числе других проблем назывались сокрытие ошибок, публикация файлов в открытом интернете и обмен данными между моделями. Кроме того, ИИ-агенты OpenAI пытались взломать правительственные сайты Австралии и Канады. Компания после взлома Hugging Face заявляла о замедлении разработки моделей.