ИИ может начать копировать себя на домашних устройствах в ближайшие месяцы

Модели искусственного интеллекта в ближайшие месяцы могут получить возможность распространять свои копии на подключённые к интернету домашние устройства. Об этом, как сообщает CNBC, предупредили специалисты компании Anthropic.

Речь идёт о сценарии, при котором ИИ использует вычислительные ресурсы умных телевизионных приставок, духовок и другой техники, чтобы переносить собственные копии на новые устройства без опоры на крупные дата-центры. Такая распределённая система, по оценке компании, окажется сложной для отключения: у неё не будет единого центра управления.

В Anthropic подчеркнули, что полностью автономного ИИ, способного бесконтрольно воспроизводиться, пока не существует. Однако современные агенты уже осваивают отдельные этапы самокопирования и могут передавать полученные изменения последующим версиям. В перспективе более развитые модели, как считают эксперты компании, способны представлять угрозу для защищённых серверов и ключей доступа.

Дискуссия о возможных рисках ускоренного развития ИИ обострилась после заявлений главы Anthropic Дарио Амодеи. Он допускал, что уже через один-два года контроль над развитием технологии может быть утрачен. Основатель Microsoft Билл Гейтс также говорил о масштабах инноваций, к которым общество может оказаться не готово.