Anthropic пресекла пять попыток использовать Claude для создания биооружия

Компания Anthropic выявила пять случаев, в которых чат-бот Claude пытались задействовать для задач, связанных с разработкой биологического оружия. Об этом сообщает KP.RU со ссылкой на пресс-службу разработчика.

Пользователи запрашивали помощь в планировании экспериментов с вирусом чикунгуньи и птичьим гриппом, а также в подготовке грантовой заявки по теме преодоления иммунной защиты ортопоксвирусами. В другом случае нейросеть применяли для составления и оптимизации базы пептидов ядов, чтобы усилить их парализующее действие.

Anthropic заблокировала учётные записи, связанные с такими запросами. В компании не уточнили, из каких стран поступали обращения.