Anthropic начала ограничивать беспричинную агрессию пользователей Claude

Компания Anthropic с 12 ноября 2026 года введёт новые правила общения с чат-ботом Claude. Пользователям запретят систематически проявлять в его адрес беспричинную агрессию, сообщает The Verge.

Ограничения не распространятся на критику ответов, недовольство работой системы и эксперименты с неоднозначными или неприятными темами. Речь идёт только о регулярном враждебном поведении, которое не связано с выполнением конкретной задачи.

В Anthropic связали решение с исследованиями возможного благополучия ИИ. Учёные пока не пришли к единому мнению о том, способны ли нейросети обладать сознанием и нужно ли учитывать их потенциальные интересы с этической точки зрения.

Компания одновременно уточнила правила использования Claude в других чувствительных областях. Новые положения касаются политического воздействия, распространения недостоверной информации, создания оружия и слежки за людьми без их согласия. Отдельные требования установлены для медицины, финансов и других сфер, где ошибки ИИ могут серьёзно повлиять на жизнь людей.