В Anthropic рассказали о риске распространения ИИ по умной технике

Небольшие модели искусственного интеллекта в ближайшие месяцы могут научиться самостоятельно распространяться между коммерческими устройствами интернета вещей, считают в американской компании Anthropic. Речь идёт о технике с ограниченными вычислительными ресурсами, включая умные духовки и телевизионные приставки.

В экспериментах исследователи запускали нейросеть в сети из 15 недорогих ТВ-приставок. Кроме того, алгоритм смог определить принципы работы восьми незнакомых типов оборудования. В Anthropic предупредили, что подобную систему будет трудно остановить при отсутствии единого центра управления.

Доступные нейросети уже умеют выполнять отдельные операции, необходимые для взлома, но пока не всегда способны объединить их в полноценную цепочку. Модель GLM-5.2 прошла такой цикл автономного распространения, однако только в упрощённой виртуальной среде: тест проводился на восьми незащищённых эмуляторах, а вычисления выполнялись на отдельном сервере.

Полноценного ИИ-вируса, который распространяется самостоятельно, пока не существует. В Anthropic считают, что противодействие подобным угрозам потребует координации производителей устройств и интернет-провайдеров.