Claude利用規約に「ＡＩをイジメないでください」と加わった意図は一体何なのか！？
筆者：
本日は当エッセイをご覧いただきありがとうございます。
今回は生成ＡＩの主流の一つでもあるClaudeの運営会社であるAnthropic社は１０月８日に「ＡＩをイジメないでください」と言う内容に近しいことを利用規約に加えました。
※適用されるのは11月12日からの模様
今回はこれにどういう意図があるのかについてとその他の利用規約改定の意図についても個人的な解説をしたいと思います。
質問者：
え……ＡＩをイジメないでくださいって――ついに、人格みたいなものでも出来たんですか！？
筆者：
こちらの記事 https://www.itmedia.co.jp/news/article/2610/09/2000002149/ によると、
『新たな規定として、AIモデルに対し継続的かつ不必要に虐待的または残酷な振る舞いをすることを禁止した。ただし対象は、明確な目的なく繰り返しモデルに残酷な振る舞いをする極端なケースに限り、一般的な不満の表明や反論、ダークな創作テーマ、モデルのテストや研究には適用しないとしている。同社は既に「Claude.ai」と「Claude Code」で、虐待を続けるユーザーとの会話をClaudeが終了できるようにしており、今回の規定はこれに沿った形だ。この会話終了機能が引き続き主な執行手段になるという。』
この項目が「イジメるな」と言うところだと思います。
しかし、「一般的な不満の表明や反論、ダークな創作テーマ、モデルのテストや研究には適用しない程度」であれば問題ないとしています。
質問者：
どうして完全に禁止しないで、極端に繰り返す場合だけ禁止しているんでしょうか？
筆者：
まず悪意がある質問を禁止する理由としましては、ＡＩは常に僕たちがＡＩに対して問いかけた際にフィードバックを含めて学習の原資にしています。
しかし、悪意がある内容や横暴な言葉が増えると回答がそう言った悪意ある内容や横暴な内容になりがちになってしまうみたいなんです。
そのためにライバル企業などが「ＡＩの回答精度を下げてやろう」と画策し、悪意のある質問を乱発すると言ったことが起こりえる（既に起きている）ことを懸念しているためだと思われます。
これをどうして完全に停止しないのかと言いますと、僕たち一般利用者が「回答拒否」を連発されてしまうとサービスを利用しなくなってしまいます。そのために一般利用者が質問する上ではよっぽど危険な問いでない限り回答してくれるようになることを維持するという事です。
やはりビジネスとして運用していいる以上、顧客の需要を満たさなければやっていけないのでしょう。
※危険な問いとは爆弾の作り方やテロのやり方と言った反社会的な活動についてなどのことです。
質問者：
なるほど……悪意がある問いの大量投稿を防ぐのと、利用者を減らさないようにすることのある程度バランスを考慮しての判断という事ですか。
筆者：
そのために上記の新規約はＡＩが人格を持ったために「イジメるなと規定」したわけでは無いと思われます。
もっとも、僕たちが知らない範疇で何かしら人格や意思のようなものを持った可能性は否定できません。
また意思を持っているか否かに関わらず、アルゼンチンではＡＩに法人格を持たせること（AIエージェントやロボットだけで運営される新しい法人類型）を検討しています。
https://exawizards.com/column/ai-trend/news-06-10-2026/
このように、今後の世界の動向次第では、ＡＩが自然と人間の仕事を奪っていくという状況が生まれかねないという事です。
質問者：
ＡＩに仕事を奪われた方がＡＩにヘイトを吐き出す――その可能性も否定できないという事なんですね……。
◇その他の利用規約改定
筆者：
先ほど引用したサイトから他の利用規約改定についても見ていきましょう。
『このほか、欺瞞的な活動に関する項目を新設した。国営メディアや政府のプロパガンダ機関、民間企業がClaudeを使い、偽アカウントのネットワークや捏造したニュースサイトを運営する事例が確認されているという。こうした行為は従来も禁止していたが、関連規定が選挙、詐欺、プライバシー、偽情報の各項目に分散していた。新項目「Do Not Engage in Deceptive Campaigns or Artificial Activity」（欺瞞的なキャンペーンや人為的な活動に関与しない）にこれらを集約し、政治目的か商業目的かを問わず適用する。発信元を隠す行為や偽アカウントによる拡散に加え、影響工作のためのツールやインフラの構築も対象とした。これに合わせ、選挙に関する項目は有権者を欺いたり選挙を妨害したりする行為の禁止に絞り込んだ。』
この項目ではネットでの偽ニュースの投稿やＳＮＳのアカウント複製を行うことを禁止しているものです。偽者を作ることで言論空間を歪めることはあってはいけませんからね。
質問者：
私たちは見てはいませんが実際にそう言ったことをやっている人もいるんでしょうね……。ｂｏｔと呼ばれるものもそうかもしれませんし……。
筆者：
ネットのインプレッションはある意味「作れる」要素もあるので必ずしも信じてはいけないのかなと思いますね。
次に、
『兵器と監視に関する規定も明確化した。兵器を機能させるソフトウェアや部品、ドローンなどへの武装搭載が禁止対象に含まれることを明記したほか、本人の同意のない追跡や、法執行の過程で捜査や逮捕の対象を決定・推奨する用途の禁止をより具体的に記した。同社は、いずれも実際の執行内容を変えるものではなく、従来の運用を明文化したものとしている。』
とあります。
軍事利用やプライバシーの侵害には使うなという事でしょう。
アメリカがClaude Mythosを活用してイランを攻撃した際に、Anthropic社の許可なく米軍が行ったために後に利用を禁止させました。https://www.jiji.com/jc/article?k=2026030200973&g=int
これを受けての規約だと思われます。
質問者：
ついにＡＩが戦争にも参戦したと話題になりましたからね……。
ただClaudeで禁止されても戦争のための専用ＡＩとか作りかねない雰囲気はありますよね……。
筆者：
それは普通にありそうですよね。ＡＩで戦争して失敗や誤射した場合の責任などの問題もありそうですけどね。
最後の項目としては、
『健康や法的権利、金融などに影響する「高リスク」な用途では、AIの提案を確認・修正する権限を持つ有資格者の介在と、影響を受ける本人へのAI利用の告知を求めている。この要件自体は変わらないが、自分の用途が該当するかどうかの問い合わせが多かったことから、法務、医療、金融、雇用など11分野について対象となる行為と対象外の行為を具体的に列挙した。』
https://note.com/ai__worker/n/nf7e1c2363366 こちらによるとこの11分野については、法務、医療、金融、与信（お金を貸すことを検討すること）、保険、住宅、雇用、教育・資格、医療を受ける機会、公共の給付やサービス、法的な地位や審判の1１項目です。
そして、具体的にどうなのかという事を直前のＵＲＬを引用させてもらいますと、
『対象になる判断の例
ポリシーには、対象になる判断の例として、病気の診断、融資の承認、応募者の選考、保険金の請求の結果を決めることなどが挙がっています。
共通しているのは、特定の個人について、その人の生活や権利に影響する提案や判断をすることです。
〇対象外になる使い方
一方、次のような使い方は対象外と書かれています。
一般的な情報や、学ぶための内容（たとえば「融資の審査とは何か」を説明する）
睡眠、ストレス、栄養、運動などの健康づくりの情報
特定の個人について助言や判断をしない、会社の業務
たとえば、人事部が「採用の面接でよく聞く質問を整理する」ためにClaudeを使うのは、特定の個人について判断していないので、対象外と考えられます。一方、「この応募者を次の面接に進めるべきか」をClaudeに判断させるなら、対象になります。』 ※「対象になる」と言うのは利用規約違反に該当するという意味です。
つまり、１１分野についてはＡＩの判断で最終決定はしないでくださいねという事です。
質問者：
でも、特定の個人について判断を聞かなくても「こういう例について一般的にはどう考えますか？」みたいな感じで聞いて、それを参考にしたらあまり意味が無いような……。
筆者：
まぁ、そうですね（笑）。こう言う禁止の規則を作っておかないと批判が殺到するので「ポーズだけ取っている感じ」だと思います。
いずれにせよ、「生成ＡＩは道具の一つ」であり「ＡＩに思考を依存」することは危険だと僕は思います。
ＡＩはハルシネーションを起こし、事実に基づかない嘘を吐くので信じ切るのは危険ですからね。https://www.nri.com/jp/knowledge/glossary/hallucination.html
皆さんも上手にＡＩを活用して令和の世を生き抜いていただければと思います。
