株式会社Citadel AIは、株式会社三井住友銀行に対し、生成AIの安全・安心な活用拡大を支援するAIガバナンスソリューションを提供すると発表した。三井住友銀行は同ソリューションを活用し、リスク検証の標準化や継続的なモニタリング、ガードレール機能を備えた共通基盤の整備を進める。株式会社Citadel AIは、同行における全社的なAIガバナンスの高度化と、生成AI活用に係るリスク管理の実効性向上を支援していくとしている。

導入の背景と課題

生成AIの活用が顧客向けサービスや社内業務に広がるなか、AIを用いたシステムの導入前検証に加え、運用開始後も安全性と信頼性を継続的に評価し、改善につなげる仕組みが求められている。また、活用する業務やサービスが増えるほど、共通の評価基準と、用途ごとの特性に応じた検証を組み合わせることが重要になり、AI活用の質と確認プロセスのスピードの両立が求められる。

特に金融機関にとっては、顧客保護や情報管理、規制対応の観点からも、生成AIの利用目的やリスクに応じた厳格な管理態勢の整備が重要となっている。

提供されるソリューションの機能

提供されるソリューションでは、リスク検証の標準化・効率化と、リアルタイムの監視・制御によるガードレール機能の整備が行われる。

株式会社三井住友銀行では、生成AIに関するリスクを統一的に評価するため、全社共通の評価指標やテストデータの整備を進めている。その実現に向けて株式会社Citadel AIは、生成AIの入出力制御に関する知見を提供し、基準やシナリオの具体化に加え、AIアプリケーションのリリース前から継続的にリスクを検証する一元的な運用プロセスの構築を支援する。

また、稼働中のAIアプリケーションへのプロンプト入力と生成される回答をリアルタイムに監視・制御し、機密情報を引き出そうとする有害な入力や、安全性に欠ける不適切な回答などを即時に検知して、ブロックやアラート通知につなげる。

今後の展望

株式会社Citadel AIは、株式会社三井住友銀行へのソリューション提供を通じて、生成AIのリスクを継続的に評価・管理する仕組みづくりを支援する。AIガバナンスを日々の開発・運用に組み込むことで、顧客向けサービスや業務における生成AIの安全・安心な活用拡大に貢献していくとしている。

両社の概要

• 株式会社三井住友銀行
• 代表者：頭取CEO（代表取締役）福留 朗裕
• 本店所在地：東京都千代田区丸の内一丁目1番2号
• 企業サイト：https://www.smbc.co.jp/
• 株式会社Citadel AI
• 代表者：代表取締役 小林 裕宜
• 所在地：東京都文京区向丘 2-3-10 東大前HiRAKU GATE 3-1
• 設立：2020年12月10日
• URL：https://citadel-ai.com/ja/

本記事は株式会社Citadel AIの発表をもとに作成。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。