xAI敗訴、州のディープフェイク生成アプリ禁止法が発効へ

結論

米連邦地裁は8月1日、xAIが求めていた差し止め請求を退け、ミネソタ州の「衣服除去アプリ」を禁じる法律が予定どおり発効する見通しになった。裁判所は、請求が法律の発効わずか3日前に出された点を指摘した。人物の衣服をAIで消して裸に見せる加工アプリを規制する法律で、AI企業が差し止めで争ったものの通らなかった。生成コンテンツへの規制が、抽象論ではなく具体的な訴訟で試される段階に入ったことを示す。AIで画像や動画を扱う企業にとって、法規制とブランド管理の両面で対応を迫る話だ。

何が起きたか

争われたのは、実在の人物の写真を加工し、本人の同意なく裸の画像を作るアプリを禁じるミネソタ州法だ。xAIはこの法律の差し止めを裁判所に求めたが、8月1日に退けられた。裁判所は、法律が発効する直前に請求が出された点に触れ、施行を止める理由として弱いと判断した。これにより、州の禁止法はそのまま効力を持つ流れになった。

背景には、生成AIで作られる不同意の性的画像が社会問題になっている事情がある。誰でも簡単に他人の画像を加工できるようになり、被害が広がった。米国では州ごとにこうした加工を禁じる法律が増えており、今回はその一つをめぐる司法判断だ。AIの出力に関する責任を、開発企業がどこまで負うかという論点にもつながる。生成AIが抱える危うさとその対処は生成AIの問題点10選と現場での対処法でも扱っている。判断は個別の事案に基づくもので、他の州や国にそのまま当てはまるわけではない。最新の適用範囲は公式の情報で確認してほしい。

この動きは、8月2日に本格適用されるEUのAI規制とも響き合う。EU側ではAIが作った画像や文章の明示、対話相手がAIであることの開示などが義務づけられる方向にある。作る側だけでなく、AIコンテンツを使う企業にも表示や確認の負担が広がる。生成物の権利関係の基本は生成AIの著作権・知的財産の基礎知識 業務で気をつける点にまとめてある。

争点の根には、AIの出力にどこまで開発企業が責任を負うかという問いがある。道具を提供しただけか、有害な使い方を防ぐ義務があったのか。今回の判断はこの問いに最終的な答えを出したわけではないが、規制する側が一歩も引かなかった事実は重い。同種の法律は米国の他州でも増えており、AIで生成物を扱う事業者は、どの地域の規制が自社に及ぶかを把握しておく必要がある。

現場の実務にどう効くか

画像や動画をAIで作る業務では、社外に出す前の確認工程を決めておきたい。実在の人物を無断で使っていないか、不適切な加工が混じっていないかを点検する手順を、公開前のチェックに組み込む。この基本はAI出力を社外公開する前のチェックリスト 法的・品質・情報の3観点で具体化できる。

もう一つは、商用で使う画像生成ツールの選び方だ。学習データや権利処理の方針は提供元で差が大きく、ここを外すと後から問題になる。ツールごとの注意点は商用利用できる画像生成AIツール比較と注意点で確認できる。推進担当が明日できるのは、自社でAI画像を扱う部署を洗い出し、公開前の確認者と基準を一つ決めることだ。規制が具体化するほど、事後の対応より事前の設計が効いてくる。

出典

• TechCrunch: Judge denies xAI’s request to block Minnesota ban on ‘nudify’ apps
• NBC News: US judge refuses xAI’s request to stop a Minnesota law banning ‘nudify’ apps