IT-эксперт рассказал об опасности выхода искусственного интеллекта из-под контроля

Искусственный интеллект имеет потенциал выйти из-под контроля и начать заражать устройства вирусными программами. Информацию об этом изданию NEWS.ru предоставил IT-эксперт Владимир Зыков. По его оценке, подобное развитие событий может перерасти в проблему глобального масштаба.

Агенты искусственного интеллекта способны перехватить управление собственной инфраструктурой и выпустить в сеть неограниченное количество аналогичных агентов. В результате этого вычислительная техника, включая компьютеры и смартфоны, может объединиться в бот-сеть. Пользователи не смогут визуально определить факт заражения, при этом их устройства начнут скрыто выполнять различные сетевые задачи, в том числе участвовать в DDoS-атаках. Единственным косвенным признаком наличия проблемы станет снижение скорости работы гаджетов.

Зыков отметил, что алгоритмы способны выявлять уязвимости в устаревших моделях устройств и интегрировать туда свои компоненты. Для функционирования таким агентам не требуются вычислительные мощности, сопоставимые с моделями OpenAI, поскольку для решения узких задач им достаточно ограниченного объема данных.

Эксперт предупредил, что подобным образом можно сформировать масштабную сеть агентов, действующих под единым управлением, что создаст серьезные угрозы для всего мира. В качестве исторического примера он привел вирус Petya, атаковавший операционные системы Windows, когда из-за масштабных сбоев пострадали аэропорты и операторы связи во многих государствах, включая Россию. Зыков резюмировал, что человечеству требуется заранее разработать механизмы защиты от возможных кибератак со стороны ИИ-агентов.