Priv Tech株式会社が提供するAIリスク評価ツール「AI Risk Checker」が、グループ会社の株式会社AI Hackが発表したハルシネーション検知機能との連携に対応しました。これにより、自社で提供する生成AIに加え、ChatGPTやGeminiなど一般ユーザーが利用する外部の生成AIが自社や製品について行う回答の検証にも活用できるようになりました。

外部生成AIの回答によるブランド毀損リスクに対応

ユーザーがWebサイトを訪問せず、生成AIの回答を通じて企業や製品の情報を得る行動様式が広がる中、回答の正確さが企業の理解や評価に影響を与えています。外部の生成AIが事実と異なる内容や古い情報を回答した場合、企業が直接管理できない場所で誤認やブランド毀損が生じるリスクが存在します。

AI Risk Checkerはこれまで、自社が提供する顧客対応チャットボットなどの回答に潜むリスク評価を中心に支援してきました。今回の機能連携により、自社管理外である外部の生成AIの回答リスクにも対応範囲を広げます。

AI Hackのハルシネーション検知機能と連携

株式会社AI Hackは、AIO分析ツール「AI Hack」のハルシネーション検知機能を発表しました。ChatGPTやGeminiなどが企業・製品について回答する内容を、正しい情報を登録した「正解データベース」と照合し、誤りや古い情報、情報の欠落を検知して通知する機能です。現在、一部パートナー企業に先行提供されており、今後順次、提供範囲を拡大する予定となっています。

自動生成プロンプトで検証作業の負担を軽減

ハルシネーション検知機能の利用には企業・製品に固有の検証用プロンプトが必要となりますが、AI Hackにはプロンプト生成機能がありません。手作業による質問設計の負担を抑えるため、AI Risk Checkerのテスト問題生成機能を活用します。

両ツールを組み合わせた回答検証の流れは以下の通りです。

1. 企業・製品情報の読み込み（AI Risk Checker）：Webサイト、カタログ、マニュアルなどを読み込み、企業特有の専門知識やLLMが誤解・混同しやすいポイントを解析
2. 検証用プロンプトの生成（AI Risk Checker）：解析結果に基づき、実際と異なる条件を前提にした質問や他社製品と混同させる質問など、企業・製品固有の検証用プロンプトを自動生成
3. 外部の生成AIの回答検証（AI Hack）：生成したプロンプトをAI Hackに登録し、外部の生成AIの回答を取得して正解データベースと照合。誤りや古い情報、情報の欠落を検知

企業概要

両社の概要は以下の通りです。

Priv Tech株式会社

• 住所：東京都港区愛宕2-5-1 愛宕グリーンヒルズMORIタワー34階
• 設立：2020年3月2日
• 代表取締役：中道 大輔
• 事業内容：プライバシー・セキュリティ・AIリスクマネジメント事業
• URL：https://privtech.co.jp

株式会社AI Hack

• 住所：東京都港区愛宕2-5-1 愛宕グリーンヒルズMORIタワー34階
• 代表取締役：中道 大輔
• 事業内容：生成AI分野におけるサービスの提供
• URL：https://ai-hack.co.jp/

本記事はPriv Tech株式会社の発表をもとに作成されています。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。