Гейтс объяснил, почему развитие ИИ грозит 20 годами потрясений

Соучредитель Microsoft и председатель Фонда Гейтса Билл Гейтс считает, что в ближайшие 20 лет общество ждут серьёзные потрясения из-за искусственного интеллекта. В интервью The Verge он отметил, что даже при грамотном управлении ИИ переход к новой эпохе станет одним из самых бурных периодов в истории.

По словам Гейтса, за последний год ИИ научился писать код, искать уязвимости в кибербезопасности, рассуждать в области биологии и выстраивать отношения с людьми. Наибольшую опасность, полагает он, представляют модели без защитных механизмов: их могут использовать для кибератак и биотерроризма. В перспективе также существует риск потери контроля над передовыми системами. Гейтс назвал ИИ самой опасной из созданных людьми технологий и заявил, что тот изменит экономику и характер войн.

Для снижения рисков он предложил менять методы создания моделей, повышать их прозрачность или вводить «полицейский слой» из правил безопасности. Последний подход Гейтс считает наиболее вероятным решением проблемы выравнивания ИИ, хотя признаёт, что человечество пока не готово к этой задаче. Он также выступает за обязательный контроль моделей, превысивших определённый уровень возможностей: их запуск, по его мнению, следует разрешать только на сертифицированных платформах, сохраняющих защиту при настройке систем. Молодым людям Гейтс советует использовать ИИ там, где он пока не способен их заменить, и влиять на политику.