xAI、ミネソタ州を提訴 合成わいせつ画像の禁止法に言論の自由で反論
この記事の要点
xAIが、合成わいせつ画像の作成を禁じるミネソタ州法をめぐり州司法長官を提訴した。憲法修正1条の言論の自由を根拠に禁止の行き過ぎを主張する。州がAIの害に法で対処し企業が争う流れの先触れで、生成物の法的リスクを映す。
結論
xAIが、AIで人物のわいせつ画像を作る技術を禁じるミネソタ州法をめぐり、同州の司法長官Keith Ellison氏を提訴しました。憲法修正1条の言論の自由を根拠に、禁止が広すぎると主張します。州がAIの害に法で対処し、企業がその法を裁判で争う流れの先触れで、生成AIの出力に付きまとう法的リスクを企業に意識させる動きです。
何が起きたのか
CBSやCNBCの報道によれば、xAIは州法HF 1606の差し止めを求めて7月28日に提訴しました。この法は、本人の同意なく人物の性的な偽画像を作るアプリやサイトを禁じ、2026年8月に施行される予定です。実在の人物のディープフェイクを含む合成わいせつ画像は記録に残る深刻な害を生むため、州が法で規制しています。サンフランシスコも最近、いわゆる脱衣アプリをアプリストアから削除するよう命じました。
xAIの訴状は、この法が「内容に基づく広すぎる言論の禁止であり、視覚表現の道具を封じる」と主張します。自社の基盤で画像や動画を作ることは修正1条で守られる活動だという立場です。訴状はさらに、法の「わいせつな部位」の定義が広く、上半身裸の男性や、短パンや水着姿の人物まで対象になりかねないと指摘します。加えて、提供者に故意や悪意がなくても責任を問われる厳格責任の枠組みだと批判します。ミネソタ州法では、AIの提供者は1件あたり最大50万ドルの民事罰を科され、被害者が3倍額と懲罰的な賠償を求める私訴も可能です。Ellison司法長官は、本人の意に反してAIでヌード画像を作ることは「言語道断」で、対象者の尊厳を奪い感情や仕事に大きな害を与えると述べました。
この訴訟は、xAIが内容の制限に最も抵抗的な立場を取ってきた流れに沿います。Grokが生成した内容をめぐる過去の問題に続く動きです。同時に、州がAIの害に法で対処し、企業がそれを争う訴訟の波を予感させます。生成物の法的な線引きは、研究所ではなく裁判所が引くことになります。ディープフェイクの実害と企業の備えはディープフェイクのリスクと企業の備え 実害事例と防御策で扱いました。EUでも透明性義務がEU AI法の透明性義務が8月2日施行 生成物の表示が必須にのとおり動き、各国の規制は各国のAI規制の動向と企業が備えることにまとめています。害を支える立法趣旨は理解しやすい一方、憲法上の問いは難しく、判断は裁判所に委ねられます。
現場の実務にどう効くか
生成AIを使う企業にとって、示唆は明確です。実在の人物に見せかけた画像や動画を作らない運用を徹底し、AIで作った素材には生成物であることを示す表示を付けることです。合成わいせつ画像や無断のディープフェイクは、各州の法規制の対象になりつつあり、業務での不用意な生成は法的リスクに直結します。社内の生成AI利用で、人物を模した出力を禁じる基準を設け、広告やSNS向けの素材を作る工程に確認を挟むと安全です。訴訟の帰結や適用範囲は今後の裁判で定まるため、最新は公式情報で確認してください。この話題は繊細で、実在の人物を対象にした合成コンテンツは害を伴います。
出典
よくある質問
xAIは何を主張していますか。
合成わいせつ画像の作成を広く禁じる州法が、憲法修正1条の言論の自由を侵すと主張しています。生成物への広い禁止は保護される表現にまで及ぶ恐れがある、という立場です。
企業の実務にどう関係しますか。
生成AIの出力をめぐる法規制と訴訟が各州で増える兆しです。自社が使う生成AIで、実在の人物に見せかけた画像や動画を作らない運用と表示の徹底が要ります。
関連記事
xAI敗訴、州のディープフェイク生成アプリ禁止法が発効へ
米連邦地裁は8月1日、xAIが求めた差し止めを退け、ミネソタ州の衣服除去アプリ禁止法が予定どおり発効する見通しとなった。生成コンテンツへの規制が具体的な訴訟で試される段階に入り、AIを扱う企業のコンプライアンス対応が問われる。
EU AI法の透明性義務が8月2日施行 生成物の表示が必須に
EUのAI法第50条の透明性義務が2026年8月2日から適用される。チャットボットの明示、AI生成物への機械可読な表示、ディープフェイクのラベル付けが求められ、EU市場に関わる日本企業も対応が要る。
EU、AI生成物の表示ルール確定。8月2日から透明性義務
欧州委員会がAI生成物の表示に関する行動規範を確定した。ディープフェイクや公共性のある生成テキストには明示が求められ、チャットボット利用時の告知も要る。透明性の義務は8月2日から適用される。EUと取引する企業は表示の運用を点検したい。