Глава Anthropic предложил властям участвовать в создании стандартов для ИИ

Глава Anthropic Дарио Амодей выступил за участие правительства в разработке единых требований безопасности для новых моделей искусственного интеллекта. По его мнению, технологические компании должны согласовать такие нормы, в том числе правила, связанные с темпами выпуска более мощных систем.

В беседе с телеканалом CBS Амодей также поддержал идею замедлить создание передовых ИИ-моделей до тех пор, пока риски их разработки и применения не будут лучше изучены. С этим предложением ранее согласились владелец xAI Илон Маск и руководитель OpenAI Сэм Альтман.

Дискуссия усилилась после ухода из индустрии исследователя Anthropic Джейкоба Коксона. Он заявил, что конкуренция технологических корпораций может приблизить человечество к «точке невозврата» уже к концу 2027 года. Руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер оценил в 10% вероятность уничтожения человечества искусственным интеллектом в ближайшие десять лет.