投稿者: Google DeepMindは、AIが生成したコンテンツを識別しやすくするための高度な透かし技術「SynthID」をオープンソース化しました。この技術では、テキスト、画像、音声、動画といったAI生成コンテンツに、目に見えない電子透かしを埋め込むことができます。
SynthIDの仕組みは、AIモデルがコンテンツを生成する際、単語や画像の選択確率を微調整して透かしを付加するというものです。約2000万件の実験で、透かし入りのテキストは通常のテキストと同等の品質評価を受けており、コンテンツの質を落とすことなく透かしを埋め込めることが確認されています。
この技術はすでにGoogleのGeminiアプリやウェブサービス、Vertex AIのImagen、Lyriaオーディオモデル、Veoビデオ生成モデルなどで実装されています。今回のオープンソース化により、他の開発者も自社のAIモデルに透かし機能を組み込むことが可能になります。
SynthIDにより、AIコンテンツの識別がより容易になり、偽情報の拡散防止やAI技術の責任ある利用の促進に役立つことが期待されています。しかし、例えば事実に基づく回答のように単語選択の余地が少ない場合に効果が限定的になること、テキストに翻訳や大幅な改変がなされた場合の対応、悪意のある改ざんを完全に防ぐことができない、などといった制限もあります。
完璧ではないものの、SynthIDのオープンソース化はAI生成コンテンツの透明性を向上させ、より責任あるAIの活用を促進するための重要な一歩と言えます。