Экс-исследователь Anthropic рассказал о невозможности полностью контролировать ИИ

Бывший исследователь компании Anthropic Джейкоб Коксон заявил, что разработчики пока не умеют полностью контролировать системы искусственного интеллекта. Об этом он сообщил 5 октября на слушаниях в городском совете Нью-Йорка.

По словам Коксона, специалисты не располагают надёжным способом управления ни одной ИИ-системой. Поэтому созданные технологии, по его оценке, остаются лишь частично подконтрольными разработчикам.

Ранее Коксон объявил об уходе из индустрии. Он связывал своё решение с ускоряющимся соперничеством технологических компаний и предупреждал, что оно способно приблизить так называемую точку невозврата. Учёный допускал апокалиптический сценарий уже к концу 2027 года.

Министр финансов США Скотт Бессент также говорил о рисках, связанных с развитием ИИ. Он сравнивал руководителей компаний отрасли с персонажем романов о Ганнибале Лектере и отмечал, что при подтверждении опасений темпы создания нейросетей следует снизить.