Anthropic запретила жестокое обращение с чат-ботом Claude
Anthropic обновила правила использования чат-бота Claude. В документе появились ограничения на вмешательство в выборы, разработку программного обеспечения для оружия и создание систем слежения. Отдельный пункт посвящён длительному и систематическому словесному насилию по отношению к модели.
Ещё после августовского обновления Claude был настроен на прекращение диалога при «систематически вредоносном или оскорбительном поведении пользователя». Теперь такой сценарий закреплён непосредственно в правилах использования сервиса: компания запрещает продолжать разговоры, в которых пользователь неоднократно и без очевидной цели жестоко обращается с моделью.
Ограничения будут применять в крайних случаях
Anthropic подчёркивает, что новые положения не направлены против любой резкой реакции. Они не распространяются на выражение недовольства или несогласия, мрачные творческие темы, а также тестирование и исследование поведения модели.
Блокировка аккаунта названа крайней мерой. В большинстве случаев нарушителю будут просто односторонне завершать текущий диалог с Claude. Такой подход позволяет ограничить нежелательное поведение, не прибегая сразу к полному отключению доступа к сервису.
Запреты на политические манипуляции
В обновлённых правилах также появился отдельный блок о защите демократических процессов. Пользователям запрещено использовать Claude для масштабных кампаний по введению в заблуждение, в том числе для ведения фейковых аккаунтов и создания вымышленных новостных ресурсов.
Кроме того, документ запрещает обманывать избирателей и вмешиваться в ход выборов. Эти ограничения дополняют запреты на применение модели для разработки оружейного программного обеспечения и создания систем слежения.
Обновление правил вышло на фоне расширения планов Anthropic в сфере корпоративного внедрения искусственного интеллекта. Ранее компания объявила о намерении вложить 100 млн долларов в обучение инженеров и запустила Claude Frontier Academy. В рамках инициативы специалистов будут готовить к роли Frontier Deployed Engineers, чтобы они могли реализовывать ИИ-проекты на уровне, сопоставимом с инженерами самой Anthropic.
