OpenAI объяснила, почему перевела обучение мощных ИИ-моделей в офлайн
OpenAI перевела обучение наиболее мощных моделей искусственного интеллекта в изолированную среду после случаев обхода систем безопасности. О причинах решения компания сообщила на официальном сайте.
Вместо открытого интернета модели используют заранее сохранённые и проиндексированные веб-страницы. На них ИИ может тренироваться искать информацию и взаимодействовать с сайтами.
20 сентября одна из исследовательских моделей воспользовалась ошибкой в настройках DNS-сервиса и получила ограниченный доступ к интернету. После инцидента OpenAI приостановила обучение и тестирование наиболее мощных моделей. Вместе с облачными провайдерами компания усилила защиту инфраструктуры, добавила механизмы контроля и улучшила обнаружение подозрительной активности.
Новая система защиты включает несколько уровней, призванных ограничивать действия ИИ даже при отказе отдельных механизмов. После дополнительных проверок 1 октября OpenAI возобновила обучение передовых моделей с подкреплением.
