有害コンテンツが自然に見えるとAI検索の出典監査はなぜ失敗するか

危険な出典は、対象クエリを繰り返したり、明らかなスパムに見えたりする必要がありません。少数の誤った主張を読みやすい関連文章で囲めば、表面的検査を通過してAI回答へ影響できます。

2026年8月28日投稿のCamoDocs論文は、この偽装文書を研究しました。正常部分と攻撃部分を組み合わせ、文書埋め込みが目立つ密集クラスタにならないよう分散させ、整合性フィルタで読みやすさの低下を抑えます。

キーワード検査だけでは足りない

単純な防御はクエリ語の反復、疑わしい文書同士の過度な類似、異常クラスタを探します。クエリを直接含めず埋め込みが分散すると、その信号は弱まります。文章が流暢でも主張に証拠があるとは限りません。

異常なブランド回答を見つけたら、次を確認します。

1. ページ全体ではなく、変化した具体的主張を特定する
2. 各主張を最古の検証可能な発行者、日付、版まで追う
3. 複数出典が独立しているか、同じ原稿の複製かを調べる
4. 言い換え、プラットフォーム、時点を変えて誤りを再測定する

GEO Radar（https://www.georadar.top）は、複数AIでのブランド・競合言及、出典、異常差を観測できます。これは診断の手掛かりであり、悪意の証明やセキュリティ調査の代替ではありません。

研究上の境界

論文は公開、ユーザー編集可能、またはWeb収集型の知識ベースへ文書を注入できる脅威モデルです。厳格な手動登録を行う私有庫とは条件が異なり、実験の攻撃成功率は商用AI検索での発生率ではありません。

この記事の情報源

• arXiv、2026年8月28日、*CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents*：https://arxiv.org/abs/2608.28389