AIファクトチェックとは？具体的な方法やツール、注意点を徹底解説

ファクトチェックという言葉を聞いて、ピンとくる方は少ないのではないでしょうか。ファクトチェックは、今の情報社会で誤情報に惑わされないために必要なことです。日本では、ファクトチェックや誤情報への対処に関するリテラシーが十分に浸透していないという指摘があります。

たとえば2023年の国内調査では、誤情報を正確に識別できなかった人の割合が一定数にのぼり、情報リテラシーに関する課題が浮き彫りになっています。※1

この記事では、ファクトチェックをAIで行うことについて詳しく記していきたいと思います。最後まで読んでいただけたら幸いです。

ファクトチェックはAIでできるのか

ファクトチェックとは、社会で広まっている情報の真偽を検証し、客観的な根拠に基づいて評価する作業を指します。結果を公開する場合もありますが、共有は必須要素ではありません。誰もが自由に情報を発信し、簡単に受け取れる今のご時世で全ての情報に信憑性、真実性が認められるわけではありません。

誤情報がオンライン上で拡散すると、社会的混乱や誤った意思決定につながる可能性があります。そこで、ファクトチェックをすることで情報の内容の真偽や安全性を確認して、誤情報による被害をなくす必要があるのです。

ファクトチェックでは、インターネット情報だけでなく、政府統計・学術論文・専門家の見解など複数の信頼できる情報源を参照します。信頼性の高いファクトチェックには、公正な検証姿勢・情報源の明示・証拠へのアクセス可能性といった透明性の基準が必要とされています（IFCN基準など）。ここからは、AIがファクトチェックのプロセス（情報検索・要約・照合など）をどこまで担えるのか、従来の基準と照らし合わせて解説します。

なお、ファクトチェックが行えるツールの詳細について詳しく知りたい方は、下記の記事を合わせてご確認ください。

ファクトチェックをAIで行うメリット

ファクトチェックをAIで行うとどのようなメリットがあるのでしょう。順に記していきます。どんなものか、見ていきましょう。

作業効率の向上

ファクトチェックをAIで行うことで、効率よく作業ができます。ファクトチェックは一般的に以下のような手順で行います。

• 元の文章を事実と主張に分ける
• 調べる事項を選定する
• 情報をサーチする
• その情報の信頼性を調査する

インターネット上の情報から、事実を証明する情報収集をするには、大変な手間や時間を要するものですが、AIは、検索結果の整理や候補の提示を高速に行えるため、情報確認にかかる時間を大幅に短縮できます。ただし処理速度はツールやデータ量により異なります。

エビデンスの表示が可能

Gensparkは引用箇所を視覚的に示す機能があり、NotebookLMはアップロードした文書内の該当箇所へジャンプできるため、根拠の確認が容易です。リンクだけでなく、該当部分を抜き出してスクリーンショットとして表示してくれるAIもあり、情報の参照元を閲覧する際に手間がかかりません。

ファクトチェックは、文章や記事の内容の正確性を客観的に立証することが目的です。AIが自動で示す出典は必ずしも一次情報とは限らないため、提示された根拠が信頼に足る情報源かどうかを人間が確認する必要があります。

ファクトチェックに使えるAIツール

ファクトチェックに利用できる無料のAIツールを5つご紹介します。ファクトチェックをAIでする際の参考にしていただけたら幸いです。

ChatGPT

ChatGPTは、学習したデータをもとに回答を生成する仕組みです。長い文章を理解できるので、具体的に細かい条件を指定することで、より精度の高いファクトチェックが可能です。チェックにかかる時間も短いので効率よく作業ができます。

ただし、すべての回答が常に最新情報に基づいているわけではありません。ブラウジングをオフにしている場合や、モデルが推論のみで回答を生成した場合には、検索を行わず過去データのみで返答するケースもあります。このため、ChatGPTの回答には最新性にばらつきが生じる可能性があり、出典の有無や内容の正確性を人間が最終的に確認することが欠かせません。

なお、ChatGPTについて詳しくはこちらを参考にしてください。

Gemini

Google社提供のAIモデルGemini。

Gemini では、Google 検索と連携した「回答の根拠表示」機能が利用できます。検索結果画面で“情報の再確認（Double-check）”を選ぶと、AIの回答に関連するウェブ情報がハイライト付きで提示され、どの箇所が根拠として使われたのかを確認できます。結果を、回答と一致するもの、しないものを分けてハイライト表示してくれるので、分かりやすいです。

Googleの各ツールと連携しているので、結果の共有や編集も簡単にできます。また、長い文章の質問に対しても、素早く処理ができるのもポイント。

なお、Geminiについて詳しくはこちらを参考にしてください。

Perplexity

Perplexityは、近年検索エンジンの革命的なサービスとして注目されています。

検索した事項に対して、調査結果の参照元のリンクを表示してくれるので、エビデンスの確認が容易です。公開ウェブの検索を行うため、比較的新しい情報を参照できることが多い点が特徴です。

また、他言語のサイトからの情報収集も可能で、幅広いデータを網羅できるのが特徴。パソコンだけでなく、スマホ、タブレットからも使用することができます。

なお、Perplexityについて詳しくはこちらを参考にしてください。

Genspark

2023年にサービスを開始した検索サイトGenspark。

Gensparkの特徴は、検索結果のレイアウトが見やすく、ファクトチェックを行った経過がわかりやすいこと。引用した部分のスクリーンショットを結果ページに表示するなど他サイトにない機能を装備しています。複数の検索視点を並行処理する独自アルゴリズムを採用しており情報をあらゆる視点で並行して検索、比較検証を行います。迅速で素早い作業が可能です。

なお、Gensparkについて詳しくはこちらを参考にしてください。

NotebookLM

2023年夏にGoogle社がリリースした生成AIツールのNotebookLM。

ドキュメントをアップロードして、文章の要約、提案、統合する機能を搭載しています。

大量の文書を読み込み、要約・引用・分析ができる点が特徴（読み込み上限は仕様変更される可能性があります）。インラインの引用機能で、ドキュメント内の参照箇所にすぐにアクセスが可能なので、研究や調査などに適しています。

なお、NotebookLMについて詳しくはこちらを参考にしてください。

ファクトチェックをAIで行う際の注意点

ファクトチェックをAIで行う際は、注意してほしいこともあります。AIを活用することは、効率よく作業ができる反面リスクやデメリットもあるのです。3つ挙げていきますので、見ていきましょう。

ハルシネーションを起こす可能性がある

生成AIが文章を作成する際に、ハルシネーションという現象を起こすことがあります。ハルシネーションとは、現実にはない架空の情報を、あたかも事実であるかのように生成してしまう現象を指します。学習データに誤った情報が含まれていることに加えて、確率的な文章生成の仕組みや文脈の解釈の限界など、複数の要因が重なって起こると考えられています。

生成AIによる文章は一見まともなものに見えるので架空の情報を提示された場合、真偽の見分けがつきにくいです。AIには学習データや文脈理解の限界があり、意図と異なる回答を生成してしまうことがあります。これらは現在のAI技術が抱える課題です。

最新情報を反映できていない可能性がある

AIツールは、学習した知識をもとに情報収集を行います。学習するデータには、既存のものが多く含まれています。したがって過去の情報を参照していて、結果として最新情報に即していない事象を出力することも多々あるのです。

AIはその性質上、複数の情報を最新性の観点で選別することが難しいので、チェックする内容によっては注意が必要です。刻一刻と移り行く社会で、AIの力だけに頼ることは安易にできません。

情報元の信用性が低い可能性がある

AIが検索したサイトそのものが信頼性の乏しいものだという可能性もあります。AIは各サイトの信頼性を確認することはないので、信憑性に欠ける情報を結果に含めてしまうこともあるのです。

なお、正確な情報を提供していると信頼できる情報発信元は以下のような機関となります。

• 公的機関
• 学術機関・研究所
• 専門家の団体
• ニュースメディア

AIの出力する結果から、参照元をトレースするなどして2次チェックしましょう。ファクトチェックツールを利用することも有用です。

AIファクトチェックに関するよくある質問

なお、プロンプトについて詳しく知りたい方は、以下の記事をご覧ください。

AIのファクトチェックは完璧ではない

今の時代は、ネットワークにつながっていない状態が稀と言えるほどWEB情報に依存しています。しかし、WEB上で入手する情報が全て正しいものとは限りません。

そこで、ファクトチェックを行うことによりそれらの真偽を見極める必要があるのです。ファクトチェックをAIで行うと、情報を検索する手間や時間が省けて便利です。

AIテクノロジーの発達により、簡単に文章が生成できるAIを利用することは人間が作業をするのに役に立ちます。しかし、AIは、人間が期待するほどの能力を持ち合わせていないことからAIに全てを委ねることはできません。

AIと対話した結果から、更なる検証を行うことが大事です。情報化社会において、たくさんの情報に埋もれてしまわないように常に正しい情報と向き合っていきましょう。

最後に

いかがだったでしょうか？

生成AIを活用したファクトチェックにより、効率的かつ正確な情報確認が可能となります。誤情報対策にAIを活用し、企業の信頼性と業務効率を向上させましょう。