Экс-исследователь Anthropic объяснил риски ИИ сравнением с разумом пришельца

Бывший исследователь Anthropic Джейкоб Коксон сравнил возможный сверхинтеллект с разумом инопланетной цивилизации. По его словам, такая аналогия помогает оценить риски технологий, чьи способности и цели человек пока не может предсказать.

Коксона спросили о призыве главы Anthropic Дарио Амодея замедлить разработку более мощных моделей ради безопасности. Инициативу поддержали руководитель xAI Илон Маск и глава OpenAI Сэм Альтман.

Коксон, ранее сообщавший о намерении уйти из индустрии искусственного интеллекта, отметил, что оценивать перспективы сверхинтеллекта только через привычные представления о человеческом мышлении недостаточно.