東京大学・鳥海研究室から発足したAIベンチャーTDAI Labは10日、ChatGPTなどの生成AIや人間が書いた文章の真偽について瞬時に判定するAIツール「LLMファクトチェックツール」の提供を開始したと発表した。

このツールは、Web情報や社内の知識データベースから根拠を自動で検索・抽出し、真偽を効率的に確認することができる。その結果多くのユーザーが情報の確認にかける手間を大幅に軽減することが可能になる。

■サービスが可能にする新しい価値
・時間的コストの削減
ファクトチェックのために従来人が行っていた確認作業の手間を大幅に削減することが可能になる。

・信頼性の向上による幅広い分野への生成AI活用促進
信頼できるソースから根拠を抽出し判定理由を提示することで、ユーザーはこれまでより安心して生成AIを活用できる。信頼性が求められる医療や報道など応用が難しかった分野への活用を促進する。

■イメージ図

近年、ChatGPTなどの先端技術が登場し、AIによる文章生成が一般化している。しかしそれらの文章は完璧ではなく、誤った情報が混入する問題が常に指摘されてきた。この問題は、多くの企業がエンドユーザー向けの完全自動化を追求する一方で、人間による目視検証が必要なため、生成AIの活用ができている企業は限定されていた。また従来のChatGPTなどは外部サーバーへのリクエストが必要で、機密情報を扱う際にはセキュリティの懸念があった。

同社は創業から情報の信頼性などに関する研究開発を行ってきた。ChatGPTの登場以降は、AIによる生成文章の根拠の抽出や正当性の判断を行うツールの開発に力を注いできた。また社内の機密データに対しての生成AIの応用なども進めてきた。これまで同社の一部クライアントに提供していたものを「LLMファクトチェックツール」としてこの度リリースした。

■仕組み・サービスの特徴

1．文章の入力
ユーザーが文章を入力する。
2．ファクトチェック箇所の抽出
どの箇所に対してファクトチェックを行うべきかを判定する。
3．信頼できるソースからの根拠の検索
Google検索や貴社データベースなどから、それら主張をサポートする文章があるかを検索する。
4．真偽の判定
チェックしたい箇所と抽出した根拠を元に真偽の判定を行う。

「LLMファクトチェックツール」に関する問い合わせ

関連URL

TDAI Lab