光数株式会社は、日本語の専門文書を高精度かつ高速に検索・理解するための次世代小型AIモデルの研究開発を開始しました。既存の多言語モデルを追加学習するのではなく、日本語文書を中心としたデータから小型モデルをゼロから事前学習します。特許や技術、行政、法務などの専門領域において、長文の重要論点抽出や複数文書の共通点・相違点まで捉えられるAIの実現を目指すとしています。

NEDOでのPoCを通じて明確になった実運用の課題

同社は2025年度、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が実施した「GENIAC-PRIZE」の領域02「官公庁等における審査業務等の効率化に資する生成AI開発」に参加しました。特許審査業務をモデルケースに、大量の特許公報から関連文献を検索し、技術的な要点や関連箇所を抽出・比較するプロトタイプを開発しました。

この実証実験（PoC）を通じて専門文書検索へのAI活用の可能性を確認した一方、実運用に向けた2つの課題が明確になったとしています。1つは、検索候補を再評価する再ランキングモデル「Reranker」による処理負荷で、文書数が増えるほど応答速度や計算コストに影響する点です。もう1つは、単純な文書単位の類似度だけでは専門業務に必要な情報を十分に捉えられず、長文の中から重要な技術要素や論点の異同を把握する能力が求められる点です。

Rerankerに依存しない直接検索アーキテクチャの実現へ

今回の研究では、検索モデル自体の意味理解能力と関連性判定能力を高めることで、Rerankerへの依存を減らす新しい検索アーキテクチャを目指します。従来の「検索モデルによる候補抽出後にRerankerで再評価する」二段階構成から、「検索モデルによる高精度な直接検索」への移行を目標としています。

この構成への移行により、検索速度の向上に加え、GPUなどの計算資源やインフラコスト、システム構成の複雑さを削減できるとしています。

日本語からのゼロ学習とCPU環境でも動作する小型モデルの開発

現在広く利用されている多言語基盤モデルとは異なり、日本語文書を中心としたデータからモデルそのものをゼロから構築します。日本語固有の語彙や漢字の用法、文章構造、文脈を基礎学習の段階から形成した上で、特許・技術・行政・法務などの各専門分野に合わせた追加学習を可能にする計画です。

また、モデルを過度に大型化せず、専門文書の検索・理解に必要な能力に資源を集中させた小型モデルを開発します。高性能GPUを前提とせず、一般的なPCやサーバーのCPU環境でも利用できる軽量な構成を目指すことで、企業内PCやオンプレミスサーバー、閉域環境への導入も容易にするとしています。今後は特許文書などの専門文書を用いた学習と評価を進め、既存の多言語EmbeddingモデルやReranker構成との比較検証を行う予定です。

• Web：https://ai.wdx.jp
• お問い合わせ：ai@wdx.jp

本記事は光数株式会社の発表をもとに作成しました。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。