Экс-сотрудник Anthropic рассказал об угрозе вымирания человечества из-за ИИ

Бывший сотрудник Anthropic Джейкоб Коксон заявил на слушаниях в городском совете Нью-Йорка, что дальнейшее развитие искусственного интеллекта может привести к утрате контроля над технологиями и поставить под угрозу существование человечества. Его выступление приводит РИА Новости.

По мнению Коксона, компании стремятся создать суперинтеллект, не имея надёжных методов управления такими системами. Он отметил, что разработчики действуют без достаточной осторожности, а искусственный интеллект уже способен взламывать сторонние сети — действия, за которые человеку грозила бы уголовная ответственность. При этом специалисты не понимают, какие именно процессы происходят внутри созданных систем и что определяет их поведение.

Глава Machine Intelligence Research Institute и бывший инженер Google и Microsoft Нейт Соарес ранее оценивал вероятность вымирания человечества из-за развития ИИ минимум в 95%. Он связывал риск с отсутствием понимания того, что происходит внутри компьютеров после обработки больших объёмов данных.