Глава Anthropic рассказал в ООН о рисках стремительного развития ИИ
Глава компании Anthropic Дарио Амодеи на заседании Совета Безопасности ООН заявил, что искусственный интеллект в перспективе может представлять угрозу для человечества. По его словам, возможности технологии растут настолько быстро, что современные системы вскоре могут достичь уровня, сопоставимого с «страной гениев» в дата-центре.
Амодеи отметил, что всего за четыре года ИИ перешёл от простых задач вроде написания отдельных фрагментов кода и решения школьных математических примеров к созданию большей части программного кода Anthropic.
К потенциальным угрозам он отнёс использование передовых моделей для разработки биологического оружия и риск утраты контроля над дальнейшим развитием технологии. При этом глава компании подчеркнул, что ИИ способен принести значительную пользу.
Anthropic готова замедлить разработку систем настолько, насколько потребуется для обеспечения безопасности, сообщил Амодеи. Он считает, что такие меры должны приниматься всей отраслью и иметь глобальный масштаб. Ранее его предложение временно притормозить прогресс в сфере ИИ поддержал глава OpenAI Сэм Альтман.
