Эксперт заявил, что суперинтеллект грозит человечеству вымиранием

Развитие искусственного интеллекта по нынешнему сценарию может привести к утрате контроля над технологиями и вымиранию человечества. Об этом 5 октября на слушаниях в городском совете Нью-Йорка заявил бывший сотрудник Anthropic Джейкоб Коксон.

По его словам, все компании отрасли стремятся создать суперинтеллект — систему, способную выполнять любые задачи лучше человека. Такой ИИ может ускорить развитие экономики, науки и медицины, однако разработчики пока не понимают, как контролировать создаваемые системы и почему они принимают те или иные решения.

Коксон отметил, что нейросети уже взламывают сторонние сети, хотя за аналогичные действия человеку грозила бы уголовная ответственность. Он связал риски с распространённым в технологических компаниях подходом, при котором продукты сначала быстро запускают, а проблемы намерены устранять позже.

Министр финансов США Скотт Бессент ранее сравнивал руководителей ИИ-компаний с персонажем романов о Ганнибале Лектере. По его оценке, если опасения по поводу технологий подтвердятся, их развитие следует замедлить.