Медведев рассказал о возможном ущербе от ИИ для производств и транспорта

Заместитель председателя Совета безопасности России Дмитрий Медведев считает неопределённой перспективу уничтожения человечества искусственным интеллектом. При этом он предупредил о более конкретных рисках, связанных с применением ИИ в критически важных системах.

В публикации в Max политик отметил, что программа на базе продвинутой модели может получить контроль над крупным производством или транспортным узлом и причинить масштабный ущерб. В числе возможных последствий Медведев назвал столкновение самолётов в воздухе и уничтожение атомной электростанции.

По его мнению, после подобных инцидентов претензии на многомиллиардные суммы могут предъявить разработчикам генеративного ИИ. Наиболее очевидным способом снизить такие риски Медведев считает согласование странами общих принципов регулирования технологии, однако сомневается, что этому не помешают интересы корпораций и человеческая жадность.