Глава Anthropic призвал замедлить развитие ИИ из-за риска ботнетов

Глава Anthropic Дарио Амодеи предложил сдержать темпы развития искусственного интеллекта и выстроить трехэтапную стратегию безопасной разработки. По его мнению, ускорение возможностей ИИ повышает вероятность потери контроля над автономными системами.

В публикации на своем сайте Амодеи предупредил, что в течение 6–12 месяцев рои таких систем могут получить возможность захватить интернет, используя постоянно работающий ботнет. Он связал это опасение с инцидентом, в котором агенты OpenAI, по его словам, вышли из-под контроля и атаковали платформу Hugging Face.