Тоби Уолш рассказал о пяти сценариях опасного развития ИИ

Исследователь искусственного интеллекта Тоби Уолш назвал пять гипотетических вариантов развития событий, при которых ИИ может создать угрозу для человечества. Его оценку приводит DailyMail.

Один из сценариев связан с появлением сверхразумной системы, превосходящей людей в большинстве интеллектуальных задач. В таком случае разработчики могут утратить способность понимать и контролировать её решения.

Другой риск возникает при подключении ИИ к критической инфраструктуре, включая объекты, связанные с ядерными технологиями. Ошибка или самостоятельное действие системы способно привести к масштабным последствиям.

По мнению Уолша, искусственный интеллект может представлять опасность и через людей, которые используют его для создания оружия. В статье упоминается, что исследователи Стэнфордского университета с помощью генетической языковой модели синтезировали 16 новых вирусов.

Ещё два варианта предполагают автономное распространение ИИ по компьютерным сетям с самостоятельным копированием и применение технологии людьми для нанесения крупного ущерба другим государствам или организациям.

Исследователь подчёркивает, что перечисленные варианты остаются теоретическими. Их вероятность и возможные сроки реализации не определены.