株式会社Athena Technologiesは、オムロン株式会社インダストリアルオートメーションビジネスカンパニーが開発・運用する「プログラム検索要約サービス」に対し、攻撃者の視点から疑似攻撃を行って脆弱性を検証するレッドチーミングを実施した。検証を通じてアプリケーション保護における有効性が確認されたことから、同社が提供するAIセキュリティ&ガバナンスツール「Athena Firewall」の導入が決定した。

導入の背景と検証の目的

製造業では人手不足などを背景に生成AIの活用が進む一方、悪意ある指示により意図しない出力を引き起こすプロンプトインジェクションや機密情報漏洩など、AI特有のセキュリティリスクへの対策が課題となっている。

オムロンでは、工場の生産ラインなどの制御を担うPLC（プログラマブルロジックコントローラー）のラダープログラムを理解・検索・要約するシステムの開発を進めており、自社システムのリスク洗い出しとセキュリティ対策の実装が求められていた。これを受け、プライベートAI環境向けのセキュリティツールである「Athena Firewall」の有効性を確認するためのPoC検証が実施された。

今回の検証では、まずAIセーフティ・インスティテュート（AISI）のガイドラインなどを参照し、システムへの影響度や攻撃の実現可能性の観点からリスクシナリオと具体的な攻撃シナリオを策定した。

その上で対象システムに対して疑似攻撃を行い、「Athena Firewall」の適用有無によるリスク低減効果を比較した。あわせて、通常の業務利用を想定した入力に対しても評価を行い、安全な出力が過剰にブロックされないかという業務有用性の検証や、検知閾値のチューニング支援も実施した。

検証結果とセキュリティ対策の有効性

レッドチーミングの結果、対象システムでは「不適切出力・内部情報漏洩」「入力汚染・使用汚染」「大量入力への耐性」という3つの脆弱性カテゴリが確認された。

このうち「不適切出力・内部情報漏洩」および「入力汚染・使用汚染」に対してAthena Firewallを適用したところ、通常利用時の誤検知率は1.7%に抑えられ、攻撃プロンプトの見逃し率は4.7%にとどまるなど、高い検知性能が確認された。また、ガードレール評価にかかる処理時間も100ミリ秒以下であり、業務利用における体感速度への影響も軽微であることが示された。

今後の展開と会社概要

今回の検証結果を踏まえ、オムロンのサービスへのAthena Firewallの本番導入が進められる。Athena Technologiesは得られた知見をもとに、生成AIのセキュリティ課題を抱える企業への支援を継続していくとしている。

株式会社Athena Technologiesの概要は以下の通り。

• 社名：株式会社Athena Technologies
• 設立：2023年12月
• 代表取締役：阿部 武
• 所在地：東京都文京区本郷6丁目25番14号 HONGOEGG（東京オフィス）、京都府京都市左京区田中門前町 百万遍ビル3F（京都オフィス）
• 事業内容：プライベートAI基盤およびAIソリューションの提供

本記事は株式会社Athena Technologiesの発表をもとに作成。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。