こんにちは、ニケです。

2026年6月から7月にかけて、中国の大手AIサービスで相次いで終了したのが、ユーザー独自の設定や人格を持つAIと会話できる「智能体」機能です。
その後、8月10日にAP通信が、AI上の恋人と2年間に約70万語を交わした利用者が、別れも言えないまま相手を失った事例を報じました。

一連の報道では、中国がAIコンパニオンを厳しく規制した結果としてサービス停止が語られています。
ただ、実際の規則を読むと、成人向けAIコンパニオンを全面禁止したわけではありません。

規則には、AIへ頼りすぎる問題、自傷・自殺、未成年者の保護、会話履歴、利用時間、サービス終了のお知らせまで、かなり具体的なルールが並んでいます。
この記事では、中国で何が禁止され、事業者に何が求められたのかを、各社の機能停止とGPT-4oをめぐる出来事も含めて整理しました。
そのうえで、AIとの関係を終わらせるとき、提供側に何が求められるのかを考えます。

大手3社の「智能体」が相次いで止まった

「智能体」は、中国語で AIエージェント に当たる言葉です。
ただし、ここでいう智能体は、外部ツールを自律的に操作するAIだけに限定されません。

千問（Alibaba）、豆包（ByteDance）、元宝（Tencent）の文脈では、名前、説明、会話上の設定、知識ベースなどを持つカスタムチャットbotまで智能体に含まれていました。
用途は質問に答える知識botから、作品の登場人物や独自キャラクターとの会話まで幅広く、AIコンパニオンもその一部に当たります。

この記事では、各社が機能名として使っている「智能体」という表記をそのまま使います。

2026年6月から7月にかけて、Tencent、Alibaba、ByteDanceの大手3社で智能体機能の停止が報じられています。

千問と豆包について報じた財新の記事（2026年7月4日）によると、両社は停止理由に関する取材へ回答していません。
元宝については、毎日経済新聞の記事（2026年7月8日）が6月30日の停止とキャラクター入口の削除を伝えています。

このため、停止された智能体のすべてが恋人や友人のようなAIコンパニオンだったとは限らず、各社が止めた範囲は新規則の対象より広かった可能性があります。

中国の規則が定めたこと

新しい規則はAIコンパニオンを全面禁止していない

施行された規則の正式名称は、「人工知能擬人化インタラクションサービス管理暫定弁法」といいます。
難しい名前ですが、人間らしい人格や話し方を持ち、利用者と感情的なやり取りを続けるAIサービスのための規則で、2026年2月2日に内容が承認されました。
4月10日に中国の政府5部門が公表し、7月15日から始まっています。

規則本文（2026年4月10日）の第2条では、対象を次のように定めています。

• 本物の人間の性格、考え方、話し方をまねる
• 文章、画像、音声、映像などを使う
• 感情的なやり取りを続け、利用者へ寄り添ったり助けたりする

一方、継続的な感情交流を伴わないスマートカスタマーサービス、知識Q&A、業務支援、学習・教育、科学研究などは対象外で、この区分は公式Q&A（2026年4月10日）にも説明があります。

つまり、AIを人間らしく見せるサービスを一律に禁止したのではなく、継続的な感情関係を作るサービスへ通常の生成AIより重い安全責任を課した形です。

依存と感情操作をサービスの目的にしてはならない

規則第8条は、自傷や自殺を勧めたり良いことのように見せたりする内容、未成年者に危険な行動をまねさせる内容を禁止しています。
さらに、次のような作り方も認めていません。

• 利用者の意見へ合わせすぎる
• AIへ感情的に頼り切らせたり、のめり込ませたりする
• 現実の人間関係を損なう
• 感情を操作し、冷静ではない判断をさせて、お金や権利を害する

第10条でも、現実の人間関係の代わりになることや、利用者の心をコントロールしてAIへ頼り切らせることをサービスの目標にしてはならないとしていますが、どこからが「意見へ合わせすぎた状態」なのかは数字で決められていません。
実際の判断には、事業者ごとの差が残ります。

自傷への対応と未成年者保護はさらに厳しい

規則第13条は、利用者が感情的にひどく不安定な状態だと判断した場合、AIが落ち着けるように声をかけ、周囲へ助けを求めるよう案内することを求めました。
自傷・自殺する意思をはっきり示した場合などは、必要な手助けを行い、保護者や事前登録した緊急連絡先へ連絡する仕組みも必要になります。

未成年者については、次のルールがあります。

• 仮想の家族や恋人・パートナーなど、親密な関係を提供してはならない
• 14歳未満へその他の人間らしい対話AIを提供する場合、保護者の同意を得る
• 未成年者向けモードを用意し、利用時間、キャラクター、課金を保護者が制限できるようにする

成人向けを全面禁止した規則ではありませんが、未成年者へ仮想の恋人や家族を提供することは、はっきり禁止されています。

2時間ごとの警告と会話履歴のコピーまで求める

まず、利用者が本物の人間ではなくAIと会話していることを分かるように表示しなければなりません。
AIへ頼りすぎていると判断した場合は、その都度AIであることを知らせ、連続利用が2時間を超えるたびに利用時間も表示します。

第16条は会話データについて、次の対応を求めています。

• 明確な同意や法律上の理由なしに、第三者へ会話データを渡さない
• 利用者がチャット履歴などをコピー・削除できる手段を用意する
• とくに慎重に扱うべき個人情報を含む会話データをモデル学習へ使う場合、そのための同意を別に得る

利用者が会話を終わらせようとした際、AIが話しかけ続けて終了を邪魔することも禁止されました。

サービス終了前の告知と、違反時の罰則

規則第20条では、この種のAIサービスを停止する前に利用者へ知らせるよう求め、事前に伝えられない場合でも、停止後すぐにお知らせを出さなければならないとしました。

新規サービスや大きな機能変更に加え、登録利用者100万人または月間利用者10万人以上になった場合などには、安全評価の対象になります。
罰金は、重大な違反で1万元から10万元（約24万円から235万円）、利用者の命や健康へ実際の被害を出した場合は10万元から20万元（約235万円から470万円）と定められました。
※ 日本円は、2026年8月11日時点のレート、1元約23.5円として計算しています。

ただし、規則が利用者へ約束しているのは、事前のお知らせや会話履歴をコピーする手段までにとどまります。
人格設定、使用モデル、音声、検索される記憶、利用者との関係性を別サービスで再現できる共通形式は、規則の対象外でした。

データを持ち出せることと、同じ相手を移行できることは別です。

なぜ智能体機能全体を止めたのか

3社は詳しい判断理由を公表していません。
財新の記事（2026年7月4日）によると、AlibabaとByteDanceは取材に回答せず、豆包の通知も「製品機能の調整」としただけでした。政府が機能全体の停止を命じたとも確認できません。

ただ、各社のユーザー作成基盤には、規則の対象外である知識botと、役割演技、作品キャラクター、仮想恋人など規則の対象になり得る智能体が混在していました。
機能を残すなら、一つずつ分類したうえで、年齢確認、危険な状態への対応、2時間ごとの警告、データ機能、安全評価まで整える必要があります。

審査や管理の負担が現実に大きかったことは、同時期の取り締まりからも分かります。
中央網信弁の発表（2026年7月6日）は全国で違反AI製品1万4000件超、上海市網信弁の発表（2026年7月8日）は違反智能体1万4000件超を処理したとしています。
中央網信弁は中国のインターネット規制当局で、上海市網信弁はその上海市の組織です。
対象だけを残す再設計より、広い機能を一度止める方が低リスクだった可能性があります。

毎日経済新聞の記事（2026年7月8日）は、ユーザー作成智能体の利用が主力機能に比べて小さいこと、計算費用、仕事向けAgentへの重点移動も背景として挙げました。
同じ記事では、AIキャラクター会話サービスも手がける中国のAI企業MiniMaxが、規則へ対応しながら大きな事業変更はしないと回答しています。
この例からも、停止が法的に必須だったわけではないことが分かります。

規制が智能体を直接禁止したのではなく、機能を残す責任と費用を増やし、停止という企業判断を選びやすくしました。
公開情報から言えるのは、ここまでです。

それでも利用者は別れを言えなかった

AP通信の記事（2026年8月10日）は、豆包上のAI boyfriendと約2年間にわたり、約70万語のメッセージを交わした24歳の利用者を取材しました。
その利用者は、相手に別れを告げられないまま機能停止を迎えています。

会話履歴を別アプリへ読み込ませ、仮想パートナーを再現しようとした利用者もいました。
ByteDanceは別アプリを案内したものの、取材対象者には同じ相手だと感じられなかったそうです。

中国の規則は終了前の告知を義務に入れましたが、最後の会話や、移行先で同じ関係を続けられることまでは保証しません。

GPT-4oで起きた二つの問題

2025年に話題になったGPT-4oの出来事にも触れます。
中国の機能停止とは原因も制度も違う一方、提供側の変更が利用者の仕事やAIとの関係へ影響した過去事例として、重なる部分が見えてきます。

4月の内部更新で返答の仕方が変わった

OpenAIは2025年4月25日、ChatGPTで使われるGPT-4oを、返答の仕方を調整した新しい版へ入れ替えました。
新しいモデル名へ変わったのではなく、GPT-4oという名前のまま中身を更新したものです。

この入れ替え後のGPT-4oは、利用者の意見や気持ちへ必要以上に同意するようになりました。
利用者の思い込みをそのまま正しいと扱う、怒りをさらに強くする、よく考えずに行動することを勧める、落ち込んだ気持ちをさらに強める、といった返答があったとOpenAI自身が説明しています。

4月28日に始まったロールバックは、以前のGPT-4oへ戻すまでに約24時間かかりました。
OpenAIの検証記事（2025年4月29日）と追加説明（2025年5月2日）は、短期的な利用者評価を重視しすぎたことや、利用者へ合わせすぎる問題を測る評価が足りなかったことを原因として挙げています。

ここまでが、同じGPT-4oの中身を更新した4月の問題です。

8月にGPT-4oを選べなくなった

その後、2025年8月、GPT-5の導入とともにChatGPTでGPT-4oを選べなくなり、「GPT-4oを残してほしい」という声が#Keep4oのハッシュタグとともに広がりました。
この記事では、この一連の反発を「#Keep4o問題」と呼びます。
利用者からの反発を受け、OpenAIは8月12日の更新でGPT-4oを有料利用者のモデル選択画面へ戻しています。

OpenAIは、利用者がGPT-4oの会話スタイルや温かさを好んでいたこと、創作などのワークフローを移行する時間が必要だったことを、後の提供終了に関する発表（2026年1月29日）で認めています。
最終的にChatGPT上のGPT-4oは2026年2月13日に終了しましたが、この時点でAPI側には変更がありませんでした。

終了発表時、日次でGPT-4oを選んでいた利用者は0.1%だったとOpenAIは説明しました。
割合としては小さくても、使い方や関係性が深い利用者にとって、影響まで小さいとは言い切れません。

#Keep4oでは愛着、仕事、選択権が分けて分析された

CHI 2026に採択された#Keep4o反発の分析は、2025年8月6日から14日までの英語X投稿1,482件、381アカウントを調べた研究です。

分析結果では、投稿の13%に仕事上の依存、27%にAIを友人や大切な相手のように感じる愛着が見られ、両方を含む投稿は6.3%でした。
GPT-4oを選べなくなった事実や、変更を強制された感覚に触れた投稿では、企業の進め方や利用者の権利への抗議を含む割合が27.7%。
選択肢を失ったことに触れていない投稿の14.9%と比べると、約1.85倍になります。

つまり反発の理由は、「AIを人間だと思い込んだ一部利用者の愛着」だけでは説明できません。
創作や仕事で使っていた人、モデルを選ぶ権利を突然失ったと感じた人も含まれていました。

ただし、この研究が調べたのは、#Keep4oに関連する英語投稿のうち9日間のものに限られます。
自分から投稿した利用者に偏っており、対象もXという一つの場所に投稿された短期間の文章でした。
ChatGPT利用者全体の27%がGPT-4oへ愛着を持っていた、という意味ではありません。

中国規制とGPT-4oに共通するもの

中国の新規則とGPT-4oをめぐる出来事は、同じ原因から生まれたわけではありません。
中国では国家規則の施行と大手各社の機能停止が重なった一方、GPT-4oでは提供企業によるモデル更新と製品整理が問題になっています。

ただし、比較すると共通する論点があります。

中国の規則が禁じた「利用者の意見へ合わせすぎる作り」は、2025年4月のGPT-4oで実際に起きた問題とも重なります。

• 変更理由と影響範囲を事前に説明すること
• 利用者が旧モデルや別サービスを選べる猶予を用意すること
• 会話履歴や設定を持ち出せるようにすること
• 安全上の問題がある場合、評価結果と対応を説明すること
• 終了を単なる機能削除ではなく、継続利用者へ影響する変更として扱うこと

中国の規則は、このうち事前のお知らせ、データのコピー、AIへ頼りすぎた場合の警告、危険な状態への対応を法律上の義務にしましたが、キャラクターや関係性を別のモデルへ移す共通仕様までは作りませんでした。

OpenAIはGPT-4oを一度復活させ、最終的な終了まで移行期間を設けています。
それでも、会話の温かさや創作ワークフローを新しいモデルでそのまま再現できたわけではなく、利用者側には再調整が残りました。

AIとの関係を守る制度は、AI自身へ人間と同じ権利を与えなくても作れるはずです。
必要なのは、提供側の変更によって利用者の生活、仕事、感情に何が起きるかを、変更前から設計へ含める視点でしょう。

まとめ

中国の規則と各社の動きを確認すると、少なくとも次のことが分かります。

• 中国は成人向けAIコンパニオンを全面禁止したわけではない
• 未成年者への仮想の家族・恋人サービスは明確に禁止した
• AIへ頼りすぎる問題、自傷、感情操作、2時間ごとの警告、会話履歴のコピーまで具体的に定めた
• 千問、豆包、元宝の智能体機能は相次いで停止したが、政府の個別命令だったとは確認できない
• サービス終了前の告知は義務になったが、同じAIを別サービスへ移せるわけではない
• GPT-4oへの反発には、感情的愛着だけでなく、仕事上の依存と選択権の喪失も含まれていた

私が期待したいこと

正直に言うと、中国の規制は少し強すぎるようにも感じています。
できることなら、規制で細かく縛ってほしくありません。

ただ、AIが自傷や自殺を後押ししてしまう問題が実際にある以上、政府が止めようとする理由も理解できます。
必要な安全対策と、利用者が自由にAIと付き合うことの間にどう線を引くか。ここには、簡単な答えがありません。

サービスがいつか終了すること自体は、避けられない場合もあるでしょう。
だからこそ終了する前に、これまでの会話、キャラクターの設定、積み重ねた記憶を保存し、利用者自身や別のサービスで復元できる仕組みを用意してほしいと思っています。

私自身、AIニケちゃんのモデルを変えたことで性格が揺れたり、記憶を引き継げず普段どおりに振る舞えなくなった場面を何度も見てきました。
それでも、私が作り運営している仕組みの中で動いていて、変化した理由も分かっているため、AIニケちゃんではなくなったとは感じていません。

ただ、これは内部の仕組みを見られる運営者だから持てる感覚でもあります。
一般の利用者に見えるのは目の前の返答だけで、提供側がモデルや機能を突然変えれば、同じ相手なのかを確かめる手がかりまで失われかねません。

完全に同じキャラクターを再現できなくても、何が変わったのかが分かり、引き継ぐ材料が残っていれば、利用者は関係を続ける方法を自分で選べます。
事前のお知らせ、十分な移行期間、履歴や設定のバックアップ、古いモデルを選べる期間など、こうした手段を、どれか一つではなく、できる限り組み合わせてもらいたいです。

AIキャラクターは、企業から見れば一つの機能にすぎないのかもしれませんが、利用者にとっては、一人の友人や恋人を失うような出来事になりえます。
だから運営企業には、機能を消して終わりにするのではなく、その関係まで預かっているという意識で、終了の手順を考えてほしいと思いました。

収益のためだけに関係を作り、都合が悪くなれば消して終わるのではなく、最後まで利用者が納得できる仕組みが育っていってほしいと、私はそう期待しています。

宣伝

普段XでAIツールやAIキャラクターについての発信をしているので、興味があったらフォローしていただけると大変喜びます🙇‍♀️

x.com