KDDIの技術の裏側見せます！～アジャイル、クラウド、大規模ネットワーク編～

10月25日（火）19時半より、「ビアバッシュ！KDDIの技術の裏側見せます！～アジャイル、クラウド、大規模ネットワーク編～」が開催されました。

「三太郎」シリーズのCMを展開するauブランドの運営をはじめ、総合通信事業者として人々のインフラを支え、インターネット環境の変化、新しいデバイスの登場、ユーザーのライフスタイルの変化にいち早く対応するべく、様々なサービス展開をしています。

ここ数年社内でも開発スタイルや新しい技術基盤を取り入れることに挑戦し続けている、KDDIならではの「品質と規模を両立させる技術力」の事例をご紹介くださいました。

会場には、KDDIの新たな取り組みに興味津々の100名近くの参加者が集まりました。会場でのヒアリングでは参加された方々の職種は、インフラに携わる方が約5割、ウェブアプリケーション関連が約3割、その他が約2割といった割合です。

dots.ではクラウドベンダーの方に講演をいただく機会は多くありますが、キャリアで大規模ネットワークを支える方からの講演は今回が初めてとなります。

イベントはKDDIの社員3名による講演と、パネルディスカッションの2部構成。講演の登壇者とテーマは以下の通りです。

「KDDIネットワークアーキテクチャと現状〜そして将来に向けて〜」
KDDI株式会社 IPネットワーク部小林篤さん

「KDDIのQuality Cloud インフラストラクチャについて」
KDDI株式会社プラットフォーム技術部前原剛さん

「アジャイルとクラウドの『危険なカンケイ』」
KDDI株式会社アジャイル開発センター大橋衛さん

さらに、3名の登壇者に先立って、現在中途採用を担当している前田さんから「KDDIの色々な〇〇」というテーマでトークをいただきました。早速その内容からご紹介します！

KDDIの色々な◯◯

前田裕司（まえだ・ひろし）／KDDI株式会社 人事部。

オープニングトークで前田さんはKDDIを様々な側面から紹介します。

16もの会社が合併、統合したことで成り立ったKDDIは企業文化としてダイバーシティが根付いています。年間では新卒を300人、中途を60人獲得するべく採用活動を実施。金融やコンサルなど異業種出身の社員や、業界トップクラスのヘッドハンティングによる社員も数多く在籍しています。また、代表取締役の田中孝司さんは、自他ともに認める「大のガジェット好き」としても著名です。

また、KDDIには様々なキャリアパスが用意されています。特に特徴的なのはSCAPと呼ばれる制度です。これは社員が部署の異動を希望した場合に、上司に話をしなくとも異動ができ、自らキャリアを設計できるというもの。海外志向の人には、欧米からミャンマーまで幅広いエリアでの機会がありますし、ベンチャーのスピード感を求める人にはグループ会社への出向も可能です。技術を極めたい人には研究所での勤務も。

さらに、KDDIでは多様な働き方が認められています。「しっかりと休む」という観点からは単に休みを取得するだけではなく、前の勤務の終了から次の勤務の開始までに、できれば11時間、最低でも8時間のインターバルをとるようにルールを設定しています。また、女性が働きやすい職場づくりにも積極的に取り組んでおり、経済産業省と東京証券取引所が認定する「なでしこ銘柄」にも4年連続で選出されています。テレワークへの取り組みも10年以上続いており、東日本大震災の後には多くの社員が活用しました。

前田さんによるKDDIの紹介の後は、いよいよ技術的な取り組みを3名から紹介していただきます！

KDDIネットワークアーキテクチャと現状〜そして将来に向けて〜

1人目の登壇者は、IPネットワーク部の小林篤さん。KDDIのネットワークアーキテクチャについてお話いただきました。

小林 篤（こばやし・あつし）/ IPネットワーク部 コアIPネットワーク技術グループ マネージャー。2002年KDDI入社。インターネットバックボーンの保守運用、構築を経験し、2008年に開発部門に異動。インターネット/MPLSバックボーンの設計開発、構築を担当。趣味はNBA観戦。

現在KDDIが提供するコンシューマーサービスの加入数は、固定系ブロードバンドは833万回線、携帯電話サービスは約4769万回線。固定回線、モバイル回線ともに年々トラヒック数は増加しています。この内、大手クラウドプレイヤー上位五社からのインターネットトラヒックの約7割5分を占め、バックボーンを設計するうえで小林さんはこうした企業と日々交渉をしています。

トラヒックの将来予測は年率1.6倍とかなりの伸び率が予測されています。バックボーン構築の際にも、基準となるそのトラヒック数が右肩上がりで上がっていくため、大容量のルーターを導入してもすぐに新しいものが必要となる現状にあります。固定回線、モバイル回線、コンシューマー、法人など要件は多岐に渡り、また、機器のOSアップデートがあると、トラヒック数は2倍近くまであがるなど、大変複雑なトラヒックをひとつのネットワークで統合してコントロールしなければなりません。そこで採用したのがMPLS（Multi-Protocol Label Switching）技術でした。

MPLSを採用した理由としては次の４点が挙げられます。

・ラベルの階層化
サービスごとに統合できる

・サービス用途に応じたシグナリング
各サービスで独立したネットワークが構築できる

・柔軟なトラヒックエンジニアリング
トラヒック波数を変えるなどが柔軟にできる

・高速迂回
高品質・高信頼性確保

それでは、統合IP網のネットワークアーキテクチャをどういう形で推し進めているのでしょうか。まず、バックボーンはOSドメインで共通しており、各エリアコアでiBGPを張る構造を取っております。その下請けにはiBGPやOSPFで接続しているため、コアドメインとサービスドメインは完全には分離できていない状況です。

アーキテクチャとしては右と左に別々の異なる拠点があり、バックボーンは真ん中に。真ん中のコアルーターは、あまり難しいルーティングはさせないで、間にあるサービスを終了するエッジをもっとも稼働させます。その間で直接セッションを張り、MPLSしか喋らないような形（＝インコア）を取っている仕組みです。

小林さんはその中での下記を課題と捉えました。

・ネットワークの多階層化

・サービス単位のiBGPセッション
末端同士でiBGPを動かしているため、末端機能の負荷が高い状態にある

・サービス収容するためのルーティングプロトコルの選択
BGPとOSPFがあるが、OSPFは接続するとバックボーンとの境目がないため、連携不良が生じる場合がある

・予期せぬトラヒックの扱い
ベントトラヒックやOSリリースなど

・ASを持っているネットワークの統合
AS運用者が統合コアを使いたい場合はCarrier’s Carrierで実現する

現在は、従来の３階層ネットワークに大きいコアルーターを入れて、今後のネットワークとしては100GBで統合しています。具体的にはMPLSだけではなくて、iBGPのフルルートを持たせて、トラヒックエンジニアリングのコアルーターでエッジの負荷を下げられるよう取り組んでいます。また、トラヒックはどんどん伸びていくので、「新しいコアを入れて満足するのではなく、今後のネットワーク状況をどんどん考えていかなくてはならない」と小林さんは語ります。

将来的にはネットワークアーキテクチャとしては、コアドメインとサービスドメインの分離を考えているとのことです。各々は完全に独立したネットワークとして、OSPFではなくiBGPで接続する形式を進めているとのこと。

現在導入しているコアルーターは、ハードウェアレベルでは唯一仮想化ができる機能を持っています。例えば、ハードウェアレベルでOS変えたり、メモリCPを分けたりすることが可能となりました。これを「スライスネットワーク」と呼んでおり、今後はコアルーターの仮想化を考えています。「ルーターの高性能化によるネットワークのシンプル化を目指しながら、ルーティングやシグナリング、ネットワークのSDN化の観点から将来のネットワークアーキテクチャを構築していきたい」と小林さんはまとめました。

KDDIのQuality Cloud インフラストラクチャについて

続く2人目の登壇者はプラットフォーム技術部の前原剛さん。前原さんにはKDDIが提供しているクラウドサービについてお話しいただきました。

前原 剛（まえはら・たけし）/プラットフォーム技術部 インフラ基盤２G グループリーダ。1995年にKDDI入社。情報システム部門を経て、事業用モバイル・固定サービスシステム・プラットフォームの開発に従事。2011年よりクラウドサービス企画開発部所属。趣味のテニスでは先日狛江市市民大会で4位入賞。データセンターの写真が大好き。愛車はBMW。

現在は、企業・個人を問わず複数のクラウドサービスを活用するのが当たり前の時代になりました。しかし、クラウドが本格的に浸透したのはこの数年のこと。「AWS」の提供開始でさえ、わずか10年前の出来事なのです。

KDDIでは2009年からクラウドサービスの提供を開始しました。現在では、KDDIのネットワークを介した「Google Apps」や「Office 365」から、KDDIが自社でSaaSとして展開する「KDDIファイルストレージ」「KDDI GoToMyPC」、IaaSとして提供している「KDDI Cloud Platform Service（以下、KCPS）」まで、幅広いクラウドサービスを運営しているのです。

今回、前原さんはこの「KCPS」について詳しく共有してくださいます。 2012年にリリースされた「KCPS」は、様々なシステムに対応する高い柔軟性を持ったクラウド基盤です。「KCPS」ではイントラネットへの接続を標準で提供しているため、使い方によっては「AWS」よりも安価に利用すること可能です。安価での提供を実現するために、KDDIではWistronやQuanta Computerなどの台湾のODMベンダーからサーバーを直接購入しています。

続いて、前原さんは「KCPS」を運営する上で特に注力している3点を紹介します。

・とめない
「KCPS」の大きな特徴のひとつは、その品質の高さです。サーバー、ストレージ、ネットワークなどあらゆる箇所を完全に冗長化し、SLA（サービス品質保証）は99.99％を達成しています。

・まもる
サポートは365日24時間体制で運営しています。万が一障害が発生した場合でも30分以内にお客様に能動的に状況をレポートが可能。この万全の運用保守体制により企業のIT管理者に安心してもらえています。

・つながる
キャリアならではの強いネットワークを活かし、外出先のスマートデバイスからでもセキュアに「KCPS」へアクセスすることが可能。マルチクラウド環境でのシームレスな連携を実現します。

これらの運用上の努力により、「KCPS」の稼働率は「ファイブナイン=99.999％」を28ヶ月連続で達成しています。この極めて高い稼働率を実現できた要因として「人の手に頼らなくていいように、自動化を前提に構築することが重要だ」と前原さんは説明しました。

「KCPS」を利用して提供されているサービスのひとつに「au Cloud（データお預かり）」が挙げられます。「au Cloud（データお預かり）」は、auの携帯電話を利用するユーザーがメールやアドレス帳、写真、動画をクラウド上に保管できるサービスです。契約プランによっては、1ユーザーにつき50GBもの大容量のストレージを与えていることもあり、スマートフォン、特にSDカードの利用ができないiPhoneのユーザーが増えるとともにデータ量は急速に増加。現在では、マルチペタバイトのデータを扱うクラウドサービスに成長しています。

しかし、この急速な成長がもたらした新たな課題もありました。前原さんはその課題を解決するために「Cleversafe」を採用します。前原さんは「Cleversafe」を選定した理由を次のように説明します。

・拡張性
リミットレスでシームレスな拡張性を実現できる

・品質
マルチサイト分散保存による災害対策を行っており、堅牢性は99.999999999999％（14ナイン）を誇る

・コスト削減
今まではデータをバックアップするためにその4倍の容量が必要でしたが、Erasure Codingを利用した冗長化を行っているため1.7倍までサイズを圧縮することが可能です。これはもちろんコスト削減につながっています。

将来的には、早くも2019年末にIoT端末がスマートデバイスを超えるともいわれている変化の早い現代。

前原さんは最後に「KDDIは環境変化を支えていくクラウドを作っていきたい。これからもハードウェア、サーバー、ネットワーク、ストレージなどのソフトウェアディファインドを使って新しい世代のインフラの創出を目指します。」とまとめました。

アジャイルとクラウドの『危険なカンケイ』

3人目の登壇者は、アジャイル開発センターの大橋衛さん。「ウォーターフォール開発が大嫌い」という大橋さんは、KDDIでのアジャイル開発の実践について紹介します。

大橋 衛（おおはし・まもる）/ アジャイル開発センター フレームワークグループ 課長補佐。1974年生まれ。静岡県出身。大学卒業後、12年間Webシステム開発プロジェクトに携わり、2013年からAWSをプラットフォームとしたアーキテクチャの実装、運用などを行う。2016年１月、KDDI入社。趣味はスノーボード。

現在、海外ではアジャイル開発で採用しているプロジェクトが9割を超えていると言われています。一方で日本国内は、NTTデータの調査によると大手企業を中心にアジャイル開発の採用が進んでいるものの、大手でも約5割程度。さらに、一般社団法人 PMI日本支部の調査では「アジャイルを導入いて、継続している」という回答は3割程度しかなく、グローバルのトレンドとはかけ離れた現状となっています。

クラウドに関しても同じような状況です。2016年度の世界のパブリッククラウド市場の成長率が16.5％を見せるのに対し、日本国内ではこの5年間で伸びは16.1％あるものの、2015年比だと0.3％しか増えていません。

KDDIは国内で伸び悩むアジャイルもクラウドも正式に採用することに決めました。それでは、なぜKDDIは国内ではまだ主流になっていないアジャイルとクラウドの導入を決めたのでしょうか？ウォーターフォール型の開発現場で多くの苦々しい経験をした大橋さんは、まずアジャイル開発を導入したその理由を次のように語ります。

・最初から誤差のない計画など立てられないから
初期コンセプトの段階で見積りは4〜5倍、要求完了時点でも半分から1.5倍もズレるという有名な調査があります。

・市場を取り巻く環境は常に変化し続けているから
初期段階で「じっくり狙い撃つ」ことは非常に難しいため、大橋さんは「狙い撃つことはできないという事実を受け入れるべきだ」と考えるようになりました。

・作られた機能の6割以上が使われないから
最初に設定された要件にある機能の、実に64％が「全く使わない」か「めったに使わない」という調査があります。それであれば、確定的で優先度の高いものをまず作り、市場に出したほうが効率がよいと大橋さんは考えます。

ウォーターフォール開発では上記のような課題に直面しますが、アジャイル開発は少しずつ前に進みながら正しい道をたどっているかを確認できる点にメリットがあります。

大橋さんは続けて、パブリッククラウドを導入した理由を説明します。

・工期の削減
開発全体の工期のうち、インフラの設計・調達・設置・SIにかかる割合は3割ほど。容量設計も調達リードタイムも不要なパブリッククラウドなら、インフラ開発工数の絶対的な削減が達成できると大橋さんは指摘します。

・規模変化に迅速に対応できない
システムへの想定外のアクセス急増が生じた場合にもすぐ増強ができるパブリッククラウド。さらには、スケールアップとは反対に、予測が外れてもシステムをクローズすれば費用を完全にゼロでできる点もパブリッククラウドならではのメリットです。不確実性が高いサービスを「とりあえず走らせる」ためにスケールに柔軟性があることは必要不可欠です。

・Infrastructure As Codeの採用
テキストエディタでインフラを組めることを意味し、インフラを取り巻く環境すべてをコードで管理することが可能です。インフラのプロビジョニングから、結合テストまで全てがコードで書けるからこそ、アジャイル型の開発でプロジェクトを回せることになるのです。

大橋さんは「アジャイルとクラウドの組み合わせを一度体感すると、もう抜け出すことは難しい」とその魅力を熱弁します。

クラウドが進んでいくとあらゆるレイヤーが抽象化されていき、インフラの存在を開発者が意識する必要がなくなる時代が来ると予想されます。SaaSがさらに増えていくなかで、「使えそうなサービスがあれば使う。なければ作る。そして組み合わせる。このような組み合せ型のアーキテクチャでバランスを取ることがクラウド市場の肝になるのでは？」と大橋さんはまとめました。

当日のスライドはこちらに公開されています。

ビアバッシュなもので。

3名による前半の講演が終了後、後半のパネルディスカッションに入る前に、参加者にはピザとビールが振る舞われます！

ぶっちゃけどうなの？キャリアで働くこと、コミュニケーションを支えるエンジニアの悩みと葛藤

食事とお酒を片手に後半のパネルディスカッションに移ります。前半に登壇した3名とパネラーに迎え、株式会社レキサスの常盤木龍治さんがモデレーターを務めます。

常盤木さんの「クラウドとアジャイルとネットワーク、KDDIに乾杯―！」の音頭とともにスタートです！

常盤木 龍治（ときわぎ・りゅうじ）/ 株式会社レキサス エバンジェリスト 事業推進部マネージャー。様々なプロダクトの企画・開発・営業・マーケティングに携わり、現在は東京と沖縄を行き来して活動するエバンジェリスト。8,000名をこえるFacebookコミュニティ、「カレー部」のキャプテン。

—　Q1. KDDIってイケてる？イケてない？
前原　サラリーマンのこの年で1,000万を超える外車を乗りこなせているのでイケてると思いますね（笑）。という冗談はさておき、社員に優しい会社で、資格などの教育に対してお金をどんどん出してくれる。伸びたい人には投資を惜しまないところはイケてると思います。
小林　ややイケてます。イケてないのは、安全を重視するカルチャーがあるので、不具合があっても、安全性が確認できないと動きが取れないことにもどかしさを感じることがあります。
大橋　転職組としてもイケてると思います。いわゆるブラックと呼ばれるようなプロジェクトで働いた経験もある身としては、資格や勉強会に関して「寛容どころではない」です。社員にとても優しい。前例がなくても、ちゃんと価値の部分を説明できれば部として取り組むこともできますし。
常盤木　外から見ていると、マイクロソフトの文化に似ていると感じることがありますね。プロダクティブな人たちが営業部門より比較的権力を与えられている印象がありますし。なんかいい話ばかりで悔しい（笑）。

—　Q2. エンジニアとしての悩みと葛藤はありますか？
前原　新しいものが大好きで、仕事でも取り入れたい一方で稼働率など品質指標値に「9」を並べる難しさ。このジレンマがあります。僕はどちらかというと、新しいもの選んじゃうんですが。
常盤木　「ストレージを一度試した後にスケールアウトした」という話がありましたが、どのように実現させたのですか？
前原　事前にやることをやるんです。根回しとかそれ以外も（笑）。それとPOCかっちりやること。後段の別部門の運用者が苦しまないかどうかまでしっかりPOCをするのがKDDIの特徴ですかね。
小林　ネットワークに関していうと、新しいもののほうが容量も大きいし価格も安いんです。開発部門としては導入したいんですが、新しいものは問題があることが多いので、いかに安全性に入れるかが問題としてあります。
常盤木　パブリッククラウドはどう捉えてますか？
小林　クラウドプレイヤー等のトラヒックを多く持つ事業者のさじ加減ひとつでトラヒックは大きく変わるんですね。大手町とか大阪とかならまだいいんですけど、「USから吐きたい」といわれるとネットワークの構成全部変えなきゃいけない。コンテンツやデータを持っているところは主導権を握っているのかなと思います。
大橋　僕はもともと開発をやっていて、技術ドリブンでクラウドの導入も行ってきました。大企業は、新しいものを入れるのは抵抗がすごい大きくて。でも、会社のためには変えていかないと市場に取り残されちゃうので、その改革をドライブしていく役割を担っていると思っています。でも、それは技術に関係ない政治に近い社内調整なので、そこが葛藤です。ただ、大きい会社なので、社内を変えられれば業界を変えていけるかもしれないことは、モチベーションにはなっています。
常盤木　キャリアの中でのエンジニアとしての矜持はありますか？キャリアの中でエンジニアが考えることを、品質と可用性以外の視点で教えてください。
前原　エンジニアとしては、チャレンジ含めてベータ版リリースしたいと思うんですが、そこはやっぱりどうしてもキャリアなのでもどかしいです。品質の話になってしまいますが。
小林　キャリアの中にいると外注業者を使うことも多いので、自分たちで機械に触れられない部署もあります。そこは自分たちで検証をして、自身も技術持っていなくてはならないと思っています。
大橋　AWSを社内で公的に使うために手続きをした際に「便利だから」だけでは使えなかったんです。お客様に提供するサービスは、セキュアに使えることが担保できていなければならないというキャリアとしての責任があるんですよ。他でAWS使っている会社とは全然覚悟が違うことは自負しています。
常盤木　前半の話に出てきた「auスマートパスの50GB」のように、キャリア3社の中でいちばん消費者向けのクラウドインを実施していると感じています。他キャリアに比べて、消費者に関連するレイヤーへの投資が早いですよね。
前原　そうですね、エンジニアとしても大きなやりがいですよ。家族の前でも「そのボタンを『ポチり』とすると、おれのストレージに入ってるんだよね」って言えることは意外とエンジニアはニヤっとしてしまいますね（笑）。
大橋　会社としても多様性への許容があると思います。クラウドも自社でやっているけど、メリットがあるものを使う考え方があるのはKDDIの面白い特徴だなと。

—　Q3. キャリアで働くってシアワセですか？
前原　キャリアは大規模でお金が動きます。POCフェーズでも数億円投資したりしますし。それゆえ、ベンダーや製品メーカーが本気で社内を動かしてチャレンジしてくれるんですよ。キャリアだからこそ、国内外問わず周りが動いてくれることがあることはシアワセだと思います。
大橋　アジャイルやクラウドを採用していることに過度に期待すると、思っていたような自由度は得られないかもしれません。ただしAWSを使っている中では、おそらく日本最大級の規模のシステムが作れる楽しみも、ヒリヒリ感もあるのはキャリアならではのことだと思いますね。
常盤木　登壇している3人は比較的会社の中枢の投資戦略に携われている方々ですが、異動できたりするんですか？
小林　本人が望んでその理由を説明できれば、そういうサイドに異動はできます。冒頭に出てきた制度（SCAP）は生きていますので。
常盤木　SCAPの利用者は、技術的な側面と相性の問題のどちらでの異動が多いんですか？
小林　技術面でのほうが多いです。あとそれ以外の制度でも「これをやりたいです」っていう明確なビジョンと情熱を持って説得できれば、やれる文化があることは大きいと思います。
常盤木　シアワセの定義の主軸はどこにおきますか？手応え？難易度？スケール感？
小林　全てではありますが、やりがいですかね。いろんな人が使っているネットワークを事故無く安全に支えているというのはとても達成感があります。

—　Q4. これから5年の自身のキャリアや会社としての展望はいかがですか？
前原　現在の延長線上では面白くないと思っています。国内だけでは限界があるので、KDDIが行っているグローバルな活動を通して、海外でも自分の技術を活かしていきたいです。
小林　同じく現状からの変革が必要になると思います。グローバルに目を向ける一方で、国内でのサービスも今までやっていなかった領域に参入していく。自分の分野でいうなら、SDMを含めた自動化を進めていき、そこのコスト削減も進めていきたいと思います。
大橋　KDDIはさまざまなクラウドをネットワークで支えている自負はありますので、キャリアならではのクラウドサービスを提供していくことがひとつ。それと個人的には、ウォーターフォールをぶっ潰すぞと。アジャイル開発センターでドリブンしていきたいという想いはあります（笑）。