8 октября компания Anthropic, создающая модели искусственного интеллекта Claude, обнародовала ежегодно обновляемую политику использования. В новой версии впервые появился запрет на «устойчивое и неоправданное оскорбительное или жестокое обращение с нашими моделями». Новые правила начнут применяться с 12 ноября.
В компании пояснили, что правило распространяется только на крайние случаи, при которых пользователь намеренно и неоднократно жестоко обращается с моделью без явной цели. Оно не касается обычного раздражения пользователей, несогласия с ответами или творческих работ на мрачные темы, а также тестирования моделей и их исследования.
Завершение диалога — главный инструмент
Этот шаг согласуется с функцией, которую компания представила в августе 2025 года: она позволяет Claude в редких случаях прекращать диалог с пользователями, упорно продолжающими оскорбления, на платформах Claude.ai и Claude Code. В Anthropic заявили, что возможность Claude завершать такие взаимодействия останется основным способом применения правила.

Эту функцию компания тогда представила как часть исследований в области так называемого «благополучия моделей», отметив, что по-прежнему в значительной мере не уверена в возможном моральном статусе языковых моделей. Научного консенсуса относительно того, обладают ли системы искусственного интеллекта какой-либо формой сознания, пока нет.
Ограничения в отношении оружия и беспилотников
В новой политике уточняется, что запрет на использование Claude для разработки оружия распространяется на программное обеспечение наведения и управления и его компоненты, а также на оснащение оружием беспилотников и автономных транспортных средств. Кроме того, при подключении моделей к оборудованию, способному причинить травмы, квалифицированный оператор должен иметь возможность контролировать и останавливать его, а при потере связи с Claude оборудование должно переходить в безопасный режим.