アーカイブ動画

金融分野のクラウドネイティブ案件を成功させるために大切にしたこと

株式会社NTTデータ
金融戦略本部　金融事業推進部
技術戦略推進部　テクニカルグレード　成田 雄一郎氏

最初に登壇したのは、成田雄一郎氏だ。成田氏は金融分野のクラウド案件を推進するチームに所属。銀行やカード会社など、これまでクラウドを使ったことのない顧客向けにクラウドシステムの設計や構築、運用などを提供している。

NTTデータと金融の組み合わせと聞くと、レガシーな印象を持つ人もいるかもしれないが、成田氏は「実は先進的な案件も多い」と語る。例えば、カード会社のデジタルプラットフォーム構築プロジェクトもその一つだ。

プロジェクトの目的は開発高速化であり、1サービスあたり月8回程度のリリース、高頻度なデプロイと高信頼のサービス提供することを目指した。その基盤として採用したのが「Google Cloud」である。

技術スタックとしては「Kubernetes」、Kubernetesのマネージドサービスである「GKE」、マイクロサービス環境の管理を簡素化する「Istio」、最大99.99％の可用性を備えたフルマネージドRDB「Cloud Spanner」、その他「Datadog」や「Prisma Cloud」、「Argo CD」、「Kiali」、「Prometheus」などの技術を採用している。

成田氏の役割は、「重要な技術的課題に対し、方針策定、検証、レビュー、トラブルシューティングを通じて組織をリードすること」だという。当初は約30人で発足したが、現在は約30チーム、400人超までに拡大。提供しているサービスも15超、Kubernetesのワークロードは500を超えている。

「このようなミッションクリティカルな領域のサービスを、1つのプラットフォームで動かしています」（成田氏）

信頼性向上のための取り組みとしては、DevOpsを導入していることがまず挙げられる。その実践的な方法論として、Googleが提唱するSRE（Site Reliability Engineering）を導入した。目的は適切なシステムの信頼性を高め、サービスに対する顧客の満足度を維持することだ。

高頻度なアップグレードでも信頼性を向上するための工夫

次に行ったのは「従来の社内の常識から脱却し、適切な信頼性を設定し、導入したこと」と、成田氏は言う。エラーバジェットからイノベーションの余地が生まれるように、アプリケーションごとにサービスレベルをゼロベースから設計したのだ。

他には、半年に1回程度の頻度で定期的な障害訓練（カオスエンジニアリング）の実施、マルチリージョン、Active/Active構成の採用に取り組んだ。

「SLA99.999のCloud Spnnerを活用しています。東京と大阪でそれぞれSLOを観測し、リージョンの安定性を評価。リモート閉塞運用により、稼働率の向上を図っています」（成田氏）

そして、DevSecOpsとGitOpsの導入を行った。目的は金融業界のセキュリティ標準充足と頻繁なデプロイの両立を実現することだ。Prisma CloudをCI/CDパイプラインへ接続することで、継続的な脆弱性の検査を実施。ArgoCDの同期処理実行時に、責任者への商品プロセスが働く仕組みを導入するという工夫もしている。

デジタルプラットフォームは24時間365日運用、Kubernetesは約4カ月周期でマイナーバージョンがアップデートされるため、それに追随するにはオンラインアップグレードは欠かせない。

アップグレードする際にはノードの切り替えなどが発生するため、可用性に影響する。金融機関、中でもエンタープライズシステムを運用している事業所では、この高頻度のアップグレード戦略は悩みの種とも言われている。

だが成田氏は、「こまめにアップグレードする方が組織・システムとして健全だと、マインドセットを変化させるように取り組んでいる」と語る。

ノードの停止は正常系という文化を醸成し、すべてのアプリケーションチームに安全なPodの終了を意識した設計を徹底しているという。その結果、アップグレード時のダウンタイムは基本ゼロとなり、アップグレードのタイミング調整が容易になった。積極的なスケールダウンによるインフラコストの削減もできたなどの効果が得られたのだ。

「このようにアーキテクトとしては開発や運用ルールの浸透や文化の醸成をすることで、Kubernetesの高頻度のアップグレードを実現しています」（成田氏）

自己研鑽に大切なことはすべてソシャゲが教えてくれた

株式会社NTTデータ
金融戦略本部　金融事業推進部
技術戦略推進部　課長　阿久沢 佑介氏

続いて登壇したのは、阿久沢佑介氏だ。阿久沢氏は2004年にNTTデータに入社。2度の社内公募を経て、現在の部署でセキュリティの仕事に攻めと守りの両面から携わっている。

阿久沢氏は資格を多数保有している。国家資格である情報処理技術者試験のうち、基本情報技術者試験や応用技術者試験はもちろん、ITストラテジスト試験、システムアーキテクト試験などの高度試験を全制覇している。この状況を人に話すと、「勉強が好きなんですね」とよく言われるそうだが、「特に勉強好きではない」と阿久沢氏は言い切る。

阿久沢氏によると、勉強好きな人の自己研鑽スタイルは「モンハン（モンスターハンター）型」だという。モンハン型とは楽しいからやる圧倒的にやるタイプだ。つまり、勉強だと思わず、勉強する人である。これには「はまる才能が必要です」と、阿久沢氏。

一方、阿久沢氏は自分に当てはまるのは「ソシャゲ（ソーシャルゲーム）型」だと言う。ソシャゲ型はついついやってしまうというタイプで、モンハン型みたいに1日中ソシャゲをやることはない。また、モンハン型のように人を選ぶこともない。

「なかなか勉強する週間が身に付かず悩んでいる人は、ぜひソシャゲ型で自己研鑽していただくとよいのではないでしょうか」（阿久沢氏）

自己研鑽が続かないのは、「人は楽になる様なことしかできないようになっているためだ」と阿久沢氏は指摘する。それを説明すべく、「○○をやる」「○○をやらない」をシーソーに例えた。

「やることの方が不快さを増していると、やらない方に玉はころがっていきます。自己研鑽が続かないタイプはこんな感じですね。意思の力で玉を上らせるように頑張るのは、3日目ぐらいまでは続いても、それ以降は続かないことが多いのです」（阿久沢氏）

自己研鑽が続かない人はソシャゲのノウハウを参考に

では、勉強するのが面倒くさいと思う人は、勉強を続けるのは無理なのか。「決してそんなことはない」と阿久沢氏は言う。

その例として阿久沢氏が示したのが歯磨きである。歯磨きは楽しいものではなく、むしろ面倒くさい。そのような不快さあるにも関わらず、歯磨きをするのは、歯を磨かないことによる「口の中が気持ち悪い」「周りの人の目が気になる」「虫歯が怖い」という歯を磨かないことによる不快さの方が勝っているからだ。

つまり、自己研鑽が続かない人は、自己研鑽することによる不快さよりも、自己研鑽しないことによる不快さを増すことで、自己研鑽を続けられるようになるわけだ。

阿久沢氏は「その具体的な方法はソシャゲが教えてくれる」と語る。例えば、ソシャゲにはデイリーミッションがある。デイリーミッションでは何かしらのミッションをこなすと、アイテムという報酬がもらえるという仕掛けだ。

「デイリーミッション自体もすごく楽しいわけではありませんが、報酬をもらいそこねると損をした気分になるので、モヤモヤして不快になる。特に連続達成記録が途絶えるとものすごく不快に感じる。そういう不快感を煽る仕組みを利用することをお勧めします」（阿久沢氏）

その方法として阿久沢氏が教えてくれたのが、毎日の学習方法を記録することである。例えば「TryHackMe」というセキュリティに関するラーニングプラットフォームは日々の学習状況を可視化してくれる。

「毎日どのくらい勉強したかを記録する仕組みがあります。勉強しないと不快感を煽られるようになっています」（阿久沢氏）

また、情報処理技術者試験を受験するのも一つの手だと言う。高度資格の機会は年2回ある。「限定キャラだと考えると、逃すのがもったいなくなる」というのだ。この方法で資格を取得することを連続していくと、やらない不快さが増していき、やがて自己研鑽することが習慣化していくという。

やることの不快さを下げることに有効な方法は「ノルマを極めて軽くすること」と、阿久沢氏は言う。ソシャゲのデイリーミッションは数分で終わる簡単なものがほとんどだ。これを勉強に応用すると、「テキストを1ページ読む」、それでも続かなければ「テキストを1行読む」「3文字読む」というようにどんどんノルマのレベルを下げていく。

「多くの人は、3文字読むともう少し続きが読みたくなるものです。このようにとっかかりの不快さを下げることが、続けるためのポイントです」（阿久沢氏）

楽しくない習慣に倣うこともできるという。例えば、筋トレは楽しいものとは言えない。だが、筋トレを習慣化するのは、超回復のタイミングでトレーニングを行うことで、継続的な筋力向上を図ることができるからだ。勉強も同じで、定期的に再学習することで、忘却は緩やかになり記憶として定着させることができる。

「歯磨きのように、自己研鑽も習慣化することができます。ぜひ、ソシャゲのノウハウや楽しくない習慣をヒントに、自分なりの方法を見つけましょう」（阿久沢氏）

OpenAIから見る生成AIの現在地

株式会社NTTデータ フィナンシャルテクノロジー
テクノロジー＆ソリューション事業部　課長代理　入澤 克至氏

最後に登壇したのは、入澤克至氏である。入澤氏は入社時からミッションクリティカルなメインフレーム系システムに従事。5年前からAIのR&Dやプリセールスなどに携わっている。

生成AIの現在地について入澤氏が提示したのは、OpenAIのリリース年表である。ChatGPTが22年11月にリリースされて1年強。「めまぐるしくテクノロジーの進化が加速しており、非常に盛り上がった1年でした」と、入澤氏は言う。

ChatGPT以降で大きな話題となったのが、23年9月25日にリリースされたGTP-4Vのリリースである。

「ChatGPTは自然言語の対話能力だけでしたが、GTP-4VはマルチモーダルAIとして画像認識機能が備わったことで、大きな話題となりました」（入澤氏）

従来画像認識では大量データを集めてアノテーションし、訓練する必要があったが、GTP-4Vではそのままで高い認識力を発揮する。また、もう一つ注目の技術が、GTPsである。これはChatGPTのチャット機能を使って、自分や他人が作ったChatGPTをカスタマイズし、目的特化型のAIを作成できるサービスだ。

「GTPsのストアもできました。ストアには目的・タスク特化のアプリが数万個登録されています。これまではプロンプトを使いこなさないといけなかった世界から、幅広い層の人が生成AIを活用する世界ができつつあるのです」（入澤氏）

ChatGPTリリース以後、さまざまなモデルがリリースされている。その中でも着目すべきは、NTTグループが研究開発を進めている「tsuzumi」をはじめとする、日本語LLMが登場していることだ。

「生成AIを当たり前のようにビジネス活用できる世界が、すぐそこまで来ていると考えています」（入澤氏）

生成AIをビジネス活用するポイントとは

すでに生成AIを業務活用して、成果が上がった顧客も登場している。しかし、その一方で活用に至っていない顧客もいて「二極化している状況である」と入澤氏は語る。

では、どうやって活用をしていけばよいのか。次の3つのステップを踏みながら考えていくことが大事だという。

• ステップ1：まず利用してユースケースを整理していく。そのためのセキュリティやノウハウの共有、データ整備を推進する。
• ステップ2：社内データや外部データを活用し、効果を図っていく。
• ステップ3：お客さまへの価値提供に向けて、自動化範囲の拡大を図る。

生成AIをビジネスに活用しても、成果を出せないことはある。それは生成AI（LLM）には苦手なこともあるからだ。1点目は情報の正確性に欠けるケースである。

「近年、ハルシネーションという言葉を聞く機会が増えていますが、AIは誤った情報を正しいように回答することがあります。そのため、ビジネス活用には難しいと判断されることもあるのです」（入澤氏）

2点目は、情報の鮮度が限定的であること。生成AIはモデルを作った時点での特定の断面の知識までしか保有していないからだ。3点目は情報の出所が分からないこと。そのため、なぜその回答になるのか、根拠を追うことができない。4点目は計算に弱いことである。実際にプログラムなどで計算していないため、複雑な計算は誤ることが多い。

こういった苦手を乗り越えるための2つの手法がある。1つはRAG（Retrieval-Augmented Generation）、もう1つはAIモデルが特定のタスクやデータセットを調整するファインチューニングである。

RAGは日本語では検索拡張生成と訳されるように、LLMに外部の情報源を組み込むことによって回答の質を向上させる技術である。

「ベクトルDBという検索の仕組みを設け、そのDBに必要な社内情報やマニュアル類などの情報を登録。その情報を基に回答を生成することで、生成AIが苦手とする部分を克服することができます」（入澤氏）

RAGを活用するユースケース例としては、質問応答や社内情報検索、レコメンデーションシステムなどが挙げられる。

高度なRAGを構築する場合は、ユースケースに合わせさまざまな検討が必要となる。第1のポイントはモデルの選定である。精度の高さ、価格、応答速度、OSS、オンプレ利用可能かなど、どのモデルを採用するか比較し検討することだ。

第2のポイントは、データクリーニングだ。特に課題となるのは、図や表が重要な意味を持つドキュメント。また情報の一貫性が保てているかが検討箇所となる。

「こういった点に注意して開発するのがポイントです」（入澤氏）

第3のポイントは、チャンキング。一貫性のある情報粒度になるように、HTMLの場合は適切な範囲で分割できているか検討する。第4のポイントは、埋め込みベクトル生成。精度の高いモデルを利用しているか。言語やドメインに特化したモデルであるかをチェックし、必要に応じてファインチューニングを行うことだ。

第5のポイントはメタデータ、第6の検索システムは、ベクトルDBの検討ポイントとも言える。ベクトル検索の場合、インデックスアルゴリズムの改善が必要であるが、メタデータフィルタリングをあらかじめ用意して検索させることで、高い検索精度を実現できるようになるという。

第7のポイントはクエリ変換。適切なクエリ変換が行われているか検討することである。LLMを利用しクエリを変換。HyDE（Hypothetical Document Embeddings：仮の文書の埋め込み）の使用や、サブクエリに分割するなどして改善することだ。

第8のポイントは検索である。必要な文書が検索できているかを検討し、全文検索やベクトル検索などの手法を使い分けたり、両者を組み合わせたハイブリッド検索を取り入れたりすることである。

第9のポイントはリランキング。ベクトルDBの検索だけでは高い検索精度が出せないケースがある。その場合は、リランキングによる改善策を検討することが必要だ。最後のポイントは、処理速度である。

「ユーザーが利用する上では、処理の速度は非常に重要です。ログを取り、ボトルネック個所を検知し、対応策を検討しましょう」（入澤氏）

生成AIは導入して終わりではない。成果が出ない限り、PoCで終わってしまう。生成AIをどう評価すればよいのか。入澤氏は「検索評価と応答評価という2つの評価が大きなポイント」と語る。

検索評価とは、検索されたドキュメントの正確性と関連性を評価することだ。一方の応答評価はコンテキストが提供されたときに、システムによって生成された応答の適切性を測定することである。

「生成AIは今後も、続々と新しいものが登場してきます。このような評価の仕組みを取り入れておくと、バージョンアップに追随するだけでなく、自分たちのシステムを正しく評価できるようになります」（入澤氏）

【Q&A】濃密な質疑応答を紹介

セッション終了後、質疑応答が行われた。いくつか抜粋して紹介する。

Q．金融領域のお客様のマインド変更(エラーバジェット等)において、工夫された点やどのように乗り越えたのかについて

成田：「アップグレードの頻度を高くしましょう」と伝えても、「この日はキャンペーンをやっているのでやめてください」というような要望がインフラチームから来ることもあります。そのときには、「SREチームが注入したSLIやSLOの範囲内だったらやります」という話をします。変化をさせ続ける方が負担は少ないことをわかってもらえるように、丁寧に話をすることが大切です。

Q．習慣化している中で、気持ちが途切れそうな瞬間が出てきた際に乗り越えたエピソードは？

阿久沢：ソシャゲをやめる瞬間は2つあります。1つはサービスが終了したとき。例えば試験が受かったときが該当すると思うのですが、その場合は次の資格取得を目指すことです。

もう1つは何日かやらないうちに、そのままフェードアウトするケース。その場合は、始めるとっかかりを下げてやってみることです。軽いところから始めると、毎日やる習慣が戻ってくると思います。

Q．金融領域のクライアント様は生成AI活用に後ろ向きのようなイメージあるが、実際に活用相談などは増えているのか

入澤：後ろ向きだというようなイメージは感じていません。「セキュリティが心配だ」「クラウドの接続に制約がある」という話はよく耳にしますが、これはAIに限った話ではありません。いろいろな部署から、前向きに活用したいという相談が来ています。

株式会社NTTデータ
https://www.nttdata.com/jp/ja/

株式会社NTTデータの採用ページ
https://www.nttdata.com/jp/ja/recruit/

株式会社NTTデータ金融分野の採用ページ
https://finance-hr.nttdata.com/