グラウンディングとは？生成AIの根拠付けとRAG・出典表示の違い

一言でいうと グラウンディングは、生成AIの回答を外部資料などの確認可能な情報源に結びつけ、根拠に沿った内容にするための仕組みです。

回答を情報源に結びつける

生成AIは、自然に読める文章を作れても、内容が正しいとは限りません。存在しない事実や根拠を、もっともらしく述べることもあります。グラウンディングは、検索結果や社内文書などの資料を使い、回答をその情報に沿わせるための考え方です。

Google Cloudは、生成AIの出力を確認可能な情報源につなぐものとしてグラウンディングを説明しています。ウェブ検索だけが情報源ではなく、組織内の文書やデータなどを使う方法もあります。何を根拠として渡し、その内容が回答のどこを支えるかが重要になります。

RAG（検索拡張生成）は、質問に関係する資料を検索し、取得した情報を入力へ加えて回答を生成する方法です。グラウンディングが回答と根拠の結び付きを指すのに対し、RAGは情報を探して生成へ渡す具体的な方法と考えると区別できます。

ただし、資料を検索して渡しただけで、回答が必ず資料に忠実になるわけではありません。関係の薄い資料を選んだり、重要な条件を読み落としたりすれば、根拠と合わない説明が残ります。検索の仕組みを導入したことと、出来上がった回答が根拠に沿っていることは、別に確認する必要があります。

資料を取得すること、回答の根拠として使うこと、出典リンクを画面に示すことは、それぞれ違う段階です。例えば、AIが記事を読んだとしても、その記事が回答のどの主張を支えたかは、取得の記録だけでは分かりません。

出典リンクが付いている回答でも、リンク先がその主張を裏付けているかを確かめます。「資料には一部地域で試験提供とあるのに、回答では全国提供と書かれている」という場合、出典が表示されていても内容は根拠に沿っていません。これは説明用の例です。リンクの有無と、主張の裏付けを分けて見ることが大切です。

グラウンディングは誤った回答を減らすために役立ちますが、誤りをなくす保証ではありません。資料そのものが古かったり、誤っていたりすれば、資料に沿った回答でも現実と食い違う可能性があります。また、資料にある事実と、そこから導いた解釈も分ける必要があります。

ニュースの確認では、情報源の発信主体、公開日、対象範囲、数字の条件などを確かめます。複数の資料で食い違いがある場合は、その違いを消して一つの答えにまとめず、何が確認できていないかを残します。生成された回答を読むだけで、原資料の確認を終えたことにはなりません。

記事をAIの情報源として提供するメディアにとっては、自社記事が取得されたかに加え、どのように回答の根拠になり、出典として示されたかが論点になります。AIサービスがいう「根拠付け」の範囲や、記録・報告する項目を確認する必要があります。

グラウンディングされた回答に記事が使われても、出典の表示や読者のクリック、媒体への収益還元が自動的に決まるわけではありません。技術としての根拠付けと、情報源をどう扱うかという表示・取引の条件を分けて考えることが、記事の利用状況を理解する助けになります。

＊このコンテンツは生成AIを用いて作成し運営者の確認を経て配信しています。＊

この記事を書いた人