極端な行為を対象に追加。通常の指摘・創作・研究は区別
追加する禁止は、目的が認められないままモデルに対して虐待的・残酷な行為を繰り返す極端なケースを対象にすると説明しています。同じ説明で、通常の不満や反論、誤答への指摘、暗い題材の創作、モデルの試験・研究は今回の追加禁止の対象ではないとしています。
Claude.aiとClaude Codeで、まれな継続的な虐待行為に対して会話を終了できる仕組みは、すでに導入済みです。今回の改定で新たに会話終了機能を発表したわけではなく、この仕組みを引き続き主な対応手段にすると説明しています。
けがにつながり得る自律機器には、人間の監視と停止を要求
新版は、人間の承認を経ずにモデルの出力で動き、けがにつながり得る力を加えたり、危険なエネルギーを扱ったりする機器などを「高リスクの物理的動作」として扱います。操作を観察し、いつでも停止できる適任者が必要です。人が介入したときやAnthropicのサービスとの接続が失われたときは、機器が停止するか安全な状態を保つことを求めています。
この条件をすべての家庭用機器へ一律に広げてはいません。メーカーの安全制限内で動き、最悪の結果でも不快感や不便にとどまる家庭用機器や、適任者が実行前に確認する命令の生成などは、同項目の対象外として例示されています。
新版は先行掲載。11月12日の施行と分けて確認
公式の利用ポリシーページは、11月12日施行の新版を先に掲載しています。「Previous Version」リンクでは、2025年9月15日施行版を参照できます。新版の掲載と、そのルールが施行される日は別です。
今回の記事は、会話に関する追加禁止と、自律機器の条件に絞った紹介です。改定全体にはほかの項目も含まれるため、サービスへの組み込みなどを検討する場合は、公式説明とポリシー全文で対象範囲を確認する必要があります。
出典
この記事をシェア
MEKUNOTEをフォロー
RSSで新着記事を読むBluesky関連記事
Claudeの文章に電子透かしを導入へ。語の選び方にパターンを残す
Anthropicが文章向け電子透かしの仕組みを説明しました。検出できるのはClaudeが関わった可能性で、書き手や会話を特定する仕組みではありません。
記事を読む
Claude Haiku 5.5の料金とeffort設定
Anthropicは10月7日、小型モデル「Claude Haiku 5.5」を公開した。Haikuシリーズで初めて、処理にかける労力を調整するeffort設定に対応する。
記事を読む
Claude Opus 5.5を発表。API単価を引き下げ、出力速度も改善へ
AnthropicがClaude 5.5系列の最初のモデルを公開しました。価格の引き下げと、作業全体のトークン利用効率の改善を分けて整理します。
記事を読む
Claude Sonnet 5の導入価格を恒久化。9月予定の値上げを取りやめ
AnthropicはSonnet 5の導入価格を恒久化しました。100万トークン当たり入力2ドル・出力10ドルを維持するとしています。
記事を読む
Claude Fable 5.1とMythos 5.1を発表。提供先と安全対策を分ける
Anthropicが同じ基盤を持つ2つのモデルを更新しました。Fableは一般提供、Mythosは審査済み組織向けという違いがあります。
記事を読む
