Anthropic передала полиции переписку женщины с угрозами стрельбы
Полиция штата Флорида задержала Карли Мишель Хеллер после того, как система искусственного интеллекта Claude выявила в её переписке угрозы насилия и передала информацию правоохранителям. По данным телеканала WINK News, речь шла о возможном нападении на офис шерифа округа Ли.
Согласно отчёту об аресте, 26 сентября пользовательница написала нейросети, что собирается «расстрелять» здание шерифа. На следующий день она сообщила, что приобрела новый пистолет. Система безопасности Anthropic обнаружила потенциально опасные формулировки и направила диалог на проверку внутренней команде модерации.
После оценки переписки сотрудники компании обратились к силовым структурам. Помощники шерифа прибыли в дом Хеллер в городе Бонита-Спрингс и задержали её без сопротивления.
Обвинение в письменных угрозах
Женщине предъявили обвинение в совершении письменных угроз насилием в соответствии с законодательством Флориды. Судебное заседание по делу назначено на ноябрь.
Шериф округа Кармин Марсено рассказал журналистам, что Хеллер называла искусственный интеллект своим «личным дневником». Он отметил, что пользователям подобных сервисов не следует рассчитывать на абсолютную анонимность, а правоохранительные органы обязаны серьёзно реагировать на угрозы независимо от того, где они были опубликованы.
Когда Anthropic раскрывает данные пользователей
Правила использования сервисов Anthropic запрещают создавать материалы, направленные на насилие или запугивание. В регламенте компании также указано, что пользовательские данные могут быть раскрыты государственным органам в экстренных ситуациях, если существует риск гибели людей или причинения тяжкого вреда здоровью.
Случай во Флориде показывает, что переписка с чат-ботом не всегда остаётся исключительно личным разговором. При обнаружении сообщений, которые могут указывать на непосредственную угрозу, платформа может передать сведения специалистам по безопасности и правоохранительным органам в рамках действующих процедур.
