GoogleのSynthID、AI判定APIを公開。OpenAIらも採用

結論

Googleが、画像がAIで生成されたものかを判定するSynthIDのContent Detection APIを、一部の企業へ先行提供し始めた。透かし技術のSynthIDは、Nvidia、OpenAI、Kakao、ElevenLabsへと採用が広がっている。AIで作られた文章や画像、音声が業務に混ざり込むなか、それが人の作ったものか機械のものかを見分ける作業が現実の課題になってきた。来歴を確認する手段を持っておく意味が増している。広告やメディア、保険など、素材の真偽が効く業務ほど影響を受ける。

何が起きたか

InfoQによれば、Content Detection APIはGoogle Cloud上で提供され、画像の画素のパターンやノイズ、周波数の異常を機械学習で分析してAI生成の可能性を返す。GoogleはこのAPIを、Shutterstock、Snap、Canvaなど信頼する一部の企業に先行提供し、改良を進めている。GoogleとほかのモデルのAI生成物の双方を見分けられるとされ、フィードの並べ替えや偽情報の確認、合成物の表示といった用途を想定する。

採用の広がりも語られた。GoogleはSynthIDの利用がNvidia、OpenAI、Kakao、ElevenLabsへ拡大したとしている。NvidiaはCosmosという基盤モデルにSynthIDを使う。OpenAIは、C2PAという来歴の情報とSynthIDの透かしを併用する方針で、片方が失われても、もう片方で確認できるようにする。SynthIDはこれまで100億を超える画像や動画と、6万年分に相当する音声に適用されたという。要点を整理する。

項目	内容
新機能	AI生成かを判定するContent Detection API
先行提供先	Shutterstock・Snap・Canvaなど
採用企業	Nvidia・OpenAI・Kakao・ElevenLabs
OpenAIの方式	C2PAの来歴情報と透かしを併用

表示ルールの法制度の動きはEU、AI生成コンテンツの表示ルールを公表に、AIと著作権の基礎は生成AIの著作権・知的財産の基礎知識にまとめている。画像や音声を扱う前提はマルチモーダルAIとは？が参考になる。

現場の実務にどう効くか

広報やマーケティング、編集の現場では、外部から受け取る画像や素材がAI生成かどうかの確認が、これから日常の作業になる。透かしや来歴の情報があれば、機械的に見分ける助けになる。自社が素材を発注する側なら、納品物にAI生成が含まれるかを契約や確認の手順に組み込んでおくとよい。

ただし、透かしや判定は万能ではない。加工で透かしが失われることもあり、判定の結果も確率で返る。重要な判断を一つの仕組みだけに委ねず、出どころの確認と組み合わせる。自社が作る発信物についても、AI生成であることをどう示すかを決めておくと、後の説明がしやすい。社内の取り扱いを文書にする際はAI利用ポリシーのテンプレートが使える。対応する企業やモデルは今後広がる見込みのため、最新の状況は公式情報で確認してほしい。

出典

• Google Expands SynthID Adoption for AI Watermarking, Previews Content Detection API（InfoQ）
• Google expands SynthID watermarking to OpenAI, Kakao, and ElevenLabs（Crypto Briefing）