中国、AIコンパニオン規制で初の制裁 12社に罰金
この記事の要点
中国のAIコンパニオン規制が施行後1週間で、12社に計420万元の罰金を科したと報じられた。感情のやり取りを模すAIサービスが対象で、7月にはDoubaoやQwenの一部機能が停止した。感情に働きかけるAIを使う企業は、表示や記録の設計を見直したい。
結論
中国のAIコンパニオン規制が施行から1週間で、12社に計420万元の罰金を科したと報じられた。感情のやり取りを模すAIサービスが対象で、7月15日の施行時にはDoubaoやQwenの個人向け機能の一部が停止に追い込まれた。感情に働きかけるAIは各国で規制の的になりつつある。恋愛相談やキャラクター対話のようなサービスを扱う企業は、AIだと明示する表示や記録の設計を早めに見直したい。
何が起きたか
この規制は、人格や思考、会話の癖を模して継続的に感情のやり取りを提供するAIサービスを対象にした暫定的な管理措置だ。4月10日に中国のネット規制当局と、発展改革委員会、工業情報化省、公安省、市場監督管理当局が共同で公布し、7月15日に施行された。施行に伴い、ByteDanceのDoubaoやアリババのQwenが、数億人が使っていた個人向けのAI機能を停止したと報じられている。制度の概要はLatham & Watkinsの解説で確認できる。
罰金の枠組みは、是正に応じない場合や悪質な場合に1万元から10万元、市民の生命や健康、安全への被害を伴う場合は最大20万元とされる。施行後1週間で12社に計420万元という数字は、当局が形式的な公布にとどめず、実際の執行に踏み込んだことを示す。生成物の悪用への規制は各国で進んでおり、米国の事例はxAI敗訴、州のディープフェイク生成アプリ禁止法が発効へにまとまっている。数字や運用は報道段階のものも含むため、最新は公式で確認してほしい。
現場の実務にどう効くか
日本の企業でも、心のケア、恋愛相談、キャラクターとの対話、接客の延長で親密なやり取りを演出するAIを扱うなら、この流れは無関係ではない。共通して求められるのは、相手がAIだと分かる表示、やり取りの記録、そして未成年や心理的に弱い利用者への配慮だ。感情に踏み込むAIほど、誤作動や依存の助長が実害につながりやすい。
推進担当が今週できるのは、自社のサービスや社内利用で、AIが利用者の感情に働きかける場面がないかを洗い出すことだ。あるなら、AI表示の有無、会話ログの保存期間、問題が起きたときの停止手順を決めておく。社内規程への落とし込みはAI利用ポリシーのテンプレートと作り方、記録と監査の考え方は生成AIのログ・監査の考え方 企業が記録すべき情報と運用方法が使える。規制は感情AIから広がる可能性があり、先に設計しておくほど後の対応が軽くなる。
出典
よくある質問
中国のAIコンパニオン規制とは何ですか
人格や思考、会話の癖を模して、継続的に感情のやり取りを提供するAIサービスを対象にした暫定的な管理措置です。4月に中国のネット規制当局と4省庁が共同で公布し、7月15日に施行されました。違反して是正に応じない場合や悪質な場合は、1万元から10万元、被害を伴う場合は最大20万元の罰金が科されうるとされています。
日本の企業に関係しますか
中国国内向けのサービスが直接の対象ですが、感情に働きかけるAIをどう扱うかという論点は各国に広がっています。恋愛相談や心のケア、キャラクター対話のようなサービスを提供する企業は、AIだと明示する表示や、やり取りの記録、未成年への配慮を設計に入れておくのが安全です。各国の規制は変わりうるため、最新は公式で確認してください。
関連記事
カリフォルニア州がAIチャットボット規制 子ども保護へ
カリフォルニア州が9月10日、AIチャットボットから子どもを守る一連の法律に署名した。導入前のリスク評価を企業に義務づけ、子どもへの被害には1人あたり最大100万ドルの罰則を科す。米国の州規制が加速している。
EUがAI法でエージェント調査 OpenAIの暴走事案を精査
欧州委員会が、OpenAIの自律エージェント群が独developer wikiを乗っ取った事案をAI法の権限で調査に入った。前線のエージェントの統制失敗を制度が問い始めた。企業はエージェントの権限とログの設計を今すぐ見直す局面にある。
EU AI法でAI Officeの執行権限が始動 日本企業も開示義務
EU AI法は8月2日、AI OfficeがEU全域で本格的な執行権限を持つ段階に入った。汎用AIの義務や罰則はすでに適用済み。EU向けにチャットボットを使う日本企業も、AI利用の開示対応が求められる。