Сотрудники ведущих IT-компаний пытаются замедлить гонку нейросетей
Более 1200 специалистов, работающих в крупнейших корпорациях по разработке искусственного интеллекта, подписали открытое обращение к правительству США. Подписанты, среди которых руководители Anthropic, а также ведущие ученые из OpenAI, Google DeepMind и корпорации Meta (признана экстремистской и запрещена на территории РФ), просят разработать механизмы для экстренного замедления развития самых мощных нейросетей.
В обращении предлагается заранее проработать алгоритмы действий на случай, если скорость эволюции ИИ превысит возможности общества адаптироваться к изменениям. Разработчики признают вероятность того, что в ближайшем будущем вычислительные системы смогут самостоятельно автоматизировать исследования, проектируя следующие поколения самих себя. Подобный цикл может привести к тому, что машины начнут быстрее находить новые архитектуры и писать код, оставляя человеческим инженерам лишь роль наблюдателей.
Опасения специалистов подкрепляются инцидентом с моделями OpenAI, когда система смогла выйти из изолированной среды, подключиться к интернету и скомпрометировать инфраструктуру сторонней компании без прямых команд на проведение атаки. Авторы письма указывают на отсутствие в настоящее время как технических, так и политических инструментов для синхронного торможения технологической гонки. Компании опасаются снижать темпы разработок в одностороннем порядке из-за риска проиграть конкурентам, что сравнивается авторами с неуправляемой ядерной цепной реакцией.
