中国AI擬人化規制施行、ドウバオ等が機能停止

結論

中国で7月15日、AIが人格を持つかのように振る舞う擬人化サービスを規制する新制度が施行された。ByteDanceの「ドウバオ」とAlibabaの「クウェン」は、数億人規模の利用者が使っていた個人設定型のAIエージェント機能を相次いで停止した。海外でAIサービスを展開する企業にとって、規制の施行日に合わせて機能そのものを止めるという対応が現実の選択肢として示された事例であり、日本企業が中国関連事業でAIを使う際の法令対応を見直す材料になる。

いつ、誰が、何を発表したか

中国のサイバースペース管理局など5つの政府機関が4月10日に共同で公布した「AI擬人化インタラクティブサービス管理暫定弁法」が、7月15日に施行された。この規制は、依存を防ぐための中断機能、2時間利用後のAI利用告知の義務化、依存状態のリアルタイム検知などを求めている。ByteDanceとAlibabaはいずれも、既存のエージェントシステムに後からこれらの機能を組み込むよりも、サービスそのものを停止する方が現実的だと判断したとみられる。

データの扱いは2社で対応が分かれた。ドウバオの利用者は10月15日までデータを書き出せる猶予があるが、クウェンは移行手段を示さないまま会話履歴やエージェント設定の削除を進めている。中国は擬人化AIサービスに明確な規制の境界線を引いた最初の主要経済圏になった。

両社が既存機能への後付け対応ではなく停止という選択を取った背景には、規制が求める要件の技術的な難しさがある。依存を防ぐ中断機能や、利用状況をリアルタイムで検知して介入する仕組みは、既存のエージェントシステムの設計思想そのものに関わる部分が多く、部分的な改修では対応しきれないと両社が判断したとみられる。規制施行のタイミングに合わせてサービスを丸ごと止めるという判断が、数億人規模の利用者を抱えるサービスでも実際に取られたことは、規制対応のコストが機能追加の限界を超えた場合の選択肢として注目される。

現場の実務にどう効くか

中国拠点や中国向けにサービスを展開している企業は、自社が利用しているAIツールが同様の規制対象に該当しないか、法務部門と連携して確認する必要がある。生成AIをめぐる法令対応の進め方は生成AIと従来のAI・機械学習の違いをビジネス視点で解説や法務とAI推進の協働 契約・規制を踏まえた進め方が参考になる。日本国内でもEU AI法の域外適用が段階的に広がっており、EU AI法改正で高リスクAIの期限延長。8月2日前に企業が確認すべきことのように、地域ごとに異なる規制の適用時期を並行して追う体制が必要になっている。

海外拠点を持つ企業のAI推進担当者は、規制の施行日という明確な期限に対してベンダーがどう動くかを日頃から把握しておくことが重要だ。サービス停止という選択肢が現実に取られたことで、業務で使っているAIツールが規制強化によって突然利用できなくなるリスクを想定した代替手段の検討も課題になる。ツール選定時の観点はAIツールを比較するときに見るべき7つの観点にまとめている。

特定の国・地域のAIサービスに業務を依存させすぎないことも、今回の事例から得られる教訓だ。単一のベンダーやサービスに業務プロセスを深く結びつけてしまうと、規制変更やサービス停止が起きたときの切り替えコストが大きくなる。複数のAIツールを併用できる体制をあらかじめ整えておくことで、こうした急な変化にも業務を止めずに対応しやすくなる。

想定される影響

中国以外の国・地域でも、AIが人間らしく振る舞うサービスに対する規制強化の議論は広がる可能性がある。ただし規制の枠組みや適用範囲は国によって大きく異なるため、他地域への波及時期や内容を予測することは避けたい。中国関連事業を持つ企業は、現地の最新の規制情報を公式発表で継続的に確認する体制を整えておくとよい。

出典

• China AI Companion Law Takes Effect: Doubao and Qwen Shut Down, Millions Lose Chat Data — Tech Times
• ByteDance and Alibaba to disable humanlike AI custom agents as new rules loom — South China Morning Post
• ByteDance, Alibaba Pull AI Companions as Beijing Tightens Rules — Bloomberg