Dellows News

EpicAIのプロンプトインジェクション防御研究が全国大会優秀賞

株式会社EpicAIが発表した「日本語対応LLMに対するプロンプトインジェクション防御モデルの構築と課題」が、2026年度人工知能学会全国大会(第40回)で「全国大会優秀賞(ポスターセッション発表部門)」を受賞した。研究では、日本語特有の攻撃パターンを含む学習データセットを構築し、検知モデルの有効性を検証した。

日本語特有の表現を使う攻撃に対応

株式会社EpicAIによると、企業で生成AIやAIエージェントの活用が進む一方、悪意ある指示でAIの動作を不正に操作するプロンプトインジェクション攻撃がセキュリティリスクとなっている。従来の防御モデルや評価データセットは英語を中心に開発され、日本語特有の敬語表現や表記揺れ、不可視文字を利用した攻撃への対応に課題があったという。

評価用データセットでF1スコア約0.99

株式会社EpicAIは、日本語環境での検知精度向上を目的に、日本語特有の攻撃パターンを含む学習データセットを構築した。大規模言語モデル「Qwen3-4B」をベースにLoRAによるファインチューニングを行い、攻撃の有無を判定する検知モデルを開発した。

株式会社EpicAIによると、日本語の評価用データセットでF1スコア約0.99を達成し、比較対象とした既存のLLMセキュリティモデルを上回る検知性能を確認した。誤分類事例の分析を通じ、日本語特有の攻撃手法への対応や、複数の防御技術を組み合わせる多層防御の重要性も考察したとしている。

今後の研究開発

株式会社EpicAIは、生成AIの業務活用におけるセキュリティと信頼性の向上を、研究開発テーマの一つに位置づけている。今後も、プロンプトインジェクションなど生成AI特有のセキュリティリスクや、セキュアなAIシステムの構築に向けた対策技術の研究開発を進めるとしている。

株式会社EpicAIは、東京大学松尾研究室発スタートアップ。「産業のAI原体験を生み出す」をビジョンに掲げ、製造業・建設業をはじめとする幅広い産業に向け、生成AI・AIエージェントの研究開発および社会実装を推進している。企業URLはhttps://epicai.co.jp/。

本記事は株式会社EpicAIの発表をもとに作成。

アクセスランキング

今日

1週間