クラウドにデータを出せない現場で今、AIとの向き合い方が変わり始めている。製造業、金融、官公庁――機密データを扱う業界に共通するこの課題に、どう向き合うか。膨らみ続けるトークンコストとどう付き合うか。株式会社INDUSTRIAL-X代表取締役CEO・八子知礼氏と、デル・テクノロジーズ株式会社のローカルAI実践者・弦弓哲生氏が、Dell Pro Max with GB10の実機を交えながら語った。

Youtube動画

出演者の紹介

株式会社INDUSTRIAL-X
代表取締役CEO
八子 知礼（やこ・とものり）氏

1997 年松下電工（現パナソニック)入社、宅内組み込み型の情報配線機器の設計開発から製造移管および介護機器の商品企画開発に従事し、製造業の上流から下流までを一通り経験。その後、複数のコンサルティング企業に勤務した後、2016 年 4 月より(株)ウフルに参画、様々なエコシステム形成に貢献。2019 年 4 月に(株)INDUSTRIAL-X を起業、代表取締役に就任（現職）。クラウドや IoT、DX コンサルタントとして多数の企業支援経験を有する。著書に「図解クラウド早わかり」「DX CX SX」など。

デル・テクノロジーズ株式会社
パートナー事業統括本部
パートナーテクニカルセールス部
テクニカルセールス
弦弓 哲生（つるゆみ・てつお）氏

SI パートナー様向けにエンタープライズ領域の技術提案を担当。 「AI は触ってみないと分からない」を信条に、個人としてもローカル AI の検証結果を積極的に発信中

株式会社TECH PLAY-X
技術コンテンツプランナー
明石 華那（あかし・はるな）氏

TECH PLAYにてエンジニア向けイベント・コンテンツ企画を担当。

これまで100本近くの技術コンテンツを企画・制作。

クラウドAIが使えない現場で、何が起きているのか

明石：皆さんこんにちは、TECH PLAYの明石です。生成AIを使いたい、でも設計図や品質データをクラウド上に持ち出せない。この壁を越えるには、AIを借りるだけではなく、自社の環境で使い倒す発想が必要です。今回のテーマは「AIを所有して使い倒す時代へ」。製造業の現場を例に、企業がAIを自分たちのものにしていく現実解を、本日はお二人のプロフェッショナルにお伺いしていきます。お話をお伺いするのは、株式会社INDUSTRIAL-X代表・八子知礼さんです。そして、デル・テクノロジーズ株式会社（以下Dell）のローカルAI実践者である弦弓哲生さんです。

明石：では早速、現場の景色から聞かせてください。

八子：工場の現場に行くと、そもそもパソコンを使っていないとか、もしくはパソコンを使う余裕がない。もしくは工場のフィールドサーバーで、そもそもインターネットにつないでよいのかどうか、工場の中のデータをオープンなインターネットにそのまま入れていいのか、問い合わせしていいのか。基本的にはそれが禁じられているというのがほとんどなので、ブルーカラーの現場では使えない、使われない。特に使えない方々の方が多いですね。

明石：今日はですね、製造業を軸にその壁と突破口をお伺いしていきたいと思います。

本番導入を止める、3つの壁

明石：まず、本番導入が止まってしまう理由を整理したいと思います。セキュリティの問題とよく聞きますが、具体的にはどういう状況なんでしょうか。

八子：図面であるとか製品の情報であるとかは上げてはならないという話があったり、特定のお客様向け、仕向け先向けの受注情報も上げてはならないところがあったりします。工場の現場に行くと、そもそもインターネットに接続してはならないという制約があったり、もしくは工場の生産の実態というものを、指定されているパソコンもしくはシステム以外で持ち出してはならないというような制約は非常にたくさんあるんですよね。特に工場側では、本社側に相談しないと、そもそも使えるかどうかわからないんですという回答が返ってくることもありますね。

明石：これは確かに製造業に限った話ではなくて、機密データを抱えている業種であれば、結構どこでも通じる話なのかなと思いました。

八子：特に個人情報をローカルに持っておかなければならないという会社では、同じようなことが起こりますね。

明石：セキュリティ以外にも、ガバナンスの壁があるなんてお伺いしましたが、この辺りはいかがでしょうか。

八子：ガバナンスという観点からすると、本社が決めているルール、工場の中で決められるルールというような、権限に関する考え方もありますし、あとはどのシステムにアクセスして良いのかというアクセス権の問題もあります。どういうデータを使って良いのか、使ってはいけないのかという利用ルールといったような観点もあるので、これが一筋縄ではいかないのが製造業ですね。

明石：コスト面の問題とかはいかがでしょうか。

八子：生成AIで活用するときに発生するトークンというものがあります。このトークンを消費するというのが、活用が進めば進むほど爆発すると。そうなると、オープンな生成AIをどんどん使うということがはばかられる、予算の上限を設けた方がいいんじゃないかということになる。そういった理由でパブリックな生成AIをずっと使い続けていいのかどうかというのは、各社が悩んでいるところですね。

明石：ローカルな環境でAIを動かそうとすると、一般的にはいくらくらいかかるのでしょうか。

八子：弊社（INDUSTRIAL-X）の例ですと、そこそこのサーバーを用意しないといけないので、600万から1000万でご提案したというケースがいくつかありますね。

八子：大抵各社は予算の上限を決めてたりしますね。もっと使いたい、使わせたいというマネジメントが考える。現場も当然使いたいわけですけれども、予算が決まっているんだったらこれ以上使えないということが発生します。そうすると組織全体に活用が進まないというような課題もありますね。

AI活用で現場が変わる、3ステップとは

明石：ローカルAIを実際に活用した事例をぜひお伺いさせていただければなと思います。

八子：とある製造業があります。その製造業では工業用の量産製品を作っているんですけれども、それを作る現場で生産設備と人の稼働を、まずAIエージェントに食わせるためにデータを整備するというところから始めているんですよね。100台を超える生産設備のデータをPLCから抜いてきて、人の稼働データというものも人の稼働を入力するシステムから抜いてきて、それらをまとめて蓄積した上で、時系列で分析をするような環境を作っています。

明石：ステップ1としては、工場にあるデータを可視化するっていうところがあって、そこは比較的従来のシステムでもできると。

八子：いわゆるIoTの仕組みで設備のデータを抜いてくる、それを蓄積する。ここまでは何ら新しい技術じゃないですね。

明石：それをさらに生成AIを活用すると、どんな変化が起こるということなんでしょうか。

八子：『AI副工場長』というものを我々は提案をしています。その副工場長は、工場の設備に対するマニュアルの情報・トラブルの情報・品質の情報というのも回答してくれます。さらに今の品質のトラブルが起こっているのは生産設備のどこなのか、その生産設備が今どんな稼働状態になってるのかということも回答してくれる。こういうのを作ろうとしているわけなんですよね。

明石：工場の現場の人が抽象的な質問をしても、柔軟に回答してくれるようになるのがステップ2のフェーズに入ると。

八子：大抵の場合にはBIに入っていたりすると、そのBIのフィールドをクリックしたり、ドリルダウンして分析をするということをやります。見ただけで何が異常なのかということがすぐに分からない場合もありますが、自然言語で回答してもらうことができるようになると、どこでトラブルが起こっているのとか、この品質問題はどこ？という非常に抽象的な問いかけができるわけなんですよね。

明石：BPOの事例があるというお話もお伺いしましたが、どんな事例なんでしょうか。

八子：BPOは事務処理センターの事例です。事務処理センターでは数百人の方々が働いておられて、これが個人情報を扱うという都合上、パブリックなLLMは使えないと。そこで私たちから、ローカルにサーバーを置いて、その上にLLMを実装しましょうと提案したところ、まさにそれでお願いしますというお返事をいただいたんですよね。

明石：現場の声としてはどうでしたか。

八子：お客様は最初、パブリックなLLMでなければできないと思い込んでいたんです。でも実際にやってみると、生成AIは自社の環境の中でも作れる。「使える」というより「作れる」という発想に変わるんですよね。パブリックなAIが持っているようなネット上の公開情報だけでなく、自社の中に存在しているデータ、もしくはまだデータになっていない暗黙知を、データとして吐き出して使えることに気づき始める。「なるほど、これだったら使い道がたくさんあるよね」という反応が返ってきましたね。

明石：弦弓さん、八子さんのお話をお伺いしてどうですか。

弦弓：エージェントはクラウドモデルでないとできないと思っている方が多いんですけど、ローカルでも実はもうできる下地があります。最先端の方はすでにやっていて、知らない人は全く知らない。そういう二極化が起きているような気がしますね。

明石：生成AIをセキュアな環境で使いたいのであれば、ローカル環境は選択肢というより、もはや必須条件に近いのかなと思ったんですけれども。

八子：閉域接続のクラウド環境でLLMを構築するというやり方もありますが、トークンが心配だという話になってくると、ローカルのサーバーを置いた方が現実味を帯びてくるんですよね。それができるとわかれば、職人さんたちの暗黙知や、決して外に出せないトラブルの事例も、きちんとデータ化してLLMで答えられるようにできる。エッジAIを実装できれば使い道が広がるということで、ニーズが高まってきているんですね。

ローカルAIの“実際”

明石：ローカルでAIが動くという環境を、企業はどこから始めればいいのか。ここからは八子さんに聞き役になっていただいて、弦弓さんに深掘りをしていきたいと思います。

明石：本日は実機をお持ちしております。弦弓さんがご自宅に持っているということで、お手に取っていただいてよろしいでしょうか。

八子：小さいですね！事前にWEBで写真見たら、普通のアプライアンスみたいに大きいのだと思ってたんですけど。

明石：びっくりですよね。

明石：弦弓さん、こちら（Dell Pro Max with GB10）今だといくらくらいになるんでしょうか。

弦弓：今ですと、100万円ちょっとぐらいの価格でご提供できます。
※価格は収録時点の一例です。構成・地域・時期・提供条件により変動します。

明石：思ったより安いですね。

八子：思ってたより安いとはいえ、それを2台買われたんですよね。実際使ってみてどうでした。

弦弓：すごく勉強になりました。もともと私が2台買った理由としましては、1台だとAIワークステーションなんですが、2台接続して直結すると、小型のAIインフラ環境になるんですね。分散処理が可能になるので、実際にハードウェアから見た時に、AIをどう動かしていくのか、どう設計すればいいのかが見えてくる。

八子：これ実際には結構電気食ったりするんですか。

弦弓：かなりリーズナブルでして、実際に私がGB10自体をクラウドAIみたいに携帯から使えるような仕組みで2〜3週間ほど流したことがありますが、1日つけっぱなしで、だいたい月に直すと3〜4千円ぐらいでした。
※消費電力・運用コストは利用状況や稼働条件により異なります。

八子：劇的に安いですね。ちなみにネットワーク接続するメリットってどんなものがあるんでしょうか。

弦弓：1台で持っているメモリの上限を超えて、2台を一つとしてLLMから見せることができます。1台ではマウントできないような大きなLLMも、2台なら乗せられるというのが大きなメリットです。また、処理によっては速度を速めることもできますし、1台から2台にすることでできることの幅が広がります。

八子：ネットワーク接続するメリットはよく理解しました。でもいい話ばっかりじゃなくて、実際には何かデメリットもあるんじゃないでしょうか。

弦弓：ローカルAIを使われている方々は、普段PCIに挿すGPUをイメージされるケースが多いんですけど、それらのモデルと比べてメモリの帯域が少し低めになっています。LLMの生成速度はメモリの帯域に依存してしまうので、一般的な動作に比べると実際には遅く感じてしまうケースはあります。これが1台構成でのデメリットです。

八子：オープンなLLMと比べると、処理スピードはローカルではやっぱり下がってしまうのですか。

弦弓：おっしゃる通りで、量子化しないモデルを載せてしまうと、実際に使ってみた感じとしては快適とは言えなくなってしまいますね。ただし、バッチ処理のように待てる作業であれば、量子化しない大きなモデルを動かすこともできます。逆に、素早くレスポンスよく使いたいのであれば、量子化モデルやMoEなど、実際に動くパラメータ数が少ないモデルを使うことで、最近はかなり快適に使える環境になってきていますね。

八子：モデルを切り替えることによって、業務や目的に応じたパフォーマンスを最適化した状態で使えるということですね。

弦弓：ローカルでAIを使われる方は、やりたいことが人によって千差万別です。どの処理にどのモデルを使うかは、実際に試してみて、速度やレスポンスに満足できるかをご自身で判断いただくしかないと思います。

八子：だからこそ、手元にあっていつでも使える、何度でも検証できるというのがメリットなんでしょうね。

弦弓：おっしゃる通りで、私はこれを「雑に使い倒す」と言っているんですけど、ローカルのいいところは、先ほど八子さんがおっしゃったガバナンスやセキュリティの問題を気にせず、外に出ない限りは雑に処理ができることです。思いついたことをすぐ試せて、発生するコストは基本的に電気代だけ。しかもその電気代が非常に安い。ここが面白い製品だと思っております。

八子：トークンも結局このローカルに閉じた環境の中だと全く気にしなくて良いわけですよね。なかなかリーズナブルな製品となっていますよね。
※ローカル環境では外部 API 利用時の従量課金を抑えて検証しやすくなります。

明石：この製品は、どんな業界に特に合致するんでしょうか。

弦弓：先ほど八子さんがおっしゃったとおり、製造業には非常にマッチする製品だと思いますし、あとは金融業などでもよく使われているとお伺いしております。私としてはどの業界も問わずに、セキュリティ、ガバナンス、あとはコストですね。どれか一つでも引っかかるのであれば、まずは試していただくには非常に良い製品かなと思っております。
※適合性は、セキュリティ要件・運用体制・利用目的に応じて個別にご確認ください。

八子：確かに金融業界は、シミュレーションを回し続けるので、トークンが気になったりもしますよね。常時解析を回す、あるいはエージェントに自動処理をさせ続けるような環境が求められる業界。なおかつプライバシーへの配慮からデータを上げたくない業界であれば、だいたい当てはまると思います。

弦弓：そうですね。

エージェント基盤は、ここまで作れる

明石：非常にこの製品が活躍する場面がイメージできました。弦弓さんは最近もいろいろと試されていらっしゃるんですか。

弦弓：最近は、先ほど八子さんがおっしゃったとおり、エージェントをこちらのGB10で回すということをしております。

八子：どんなエージェントなんですか。

弦弓：一般的にイメージしていただく今のエージェント的なことは、設定次第でだいたいできるようになっています。今の使い方としては、2台のGB10を一つにまとめて、クラウドのようなAPIを吐き出す口としておき、別のPCでエージェントのゲートウェイを回す形で処理をしています。

弦弓：1台でも十分に回るのですが、実際に使ってみたところ、1台で乗るモデルだと数値の取り方や、解釈が雑なプロンプトへの対応が甘く感じることがありました。そこでより大きなモデルで精度を上げるため、2台構成にしています。例えば、数値を取ってきてまとめてほしいとお願いすると、自分でWebやローカルのデータを見に行き、パワーポイントのような資料にまとめるところまで、普通にできる形になっています。

弦弓：クラウドのエージェンティックAIに匹敵するとは言いませんが、半年や1年前にクラウドでできていたようなことが、こちらでもできるようになってきていると感じております。

八子：ある意味で、弦弓さんの自宅がAIデータセンターになっていて、その2台のサーバーに対してパソコンからアクセスし、エージェントを動作させて処理させる。そんな使い方ができるようになったわけですね。すごいことです。しかも通常のデータセンターではなく、AIデータセンターが自宅にある。これは新しい時代ですね。

「AIを、借りるから所有するへ」

八子：国家であるとか企業にとっても、いわゆるソブリンAIと同じ考え方ですよね。AIの環境を所有してしまうということですよね。

弦弓：実際にクラウドですと、ある日突然公開停止になったり、APIで作り込んでいたモデルがサービス終了してしまうこともあります。モデルを切り替えるたびに仕組みを調整・作り直す必要があるのかと考えると、やはり自分の手元で持っていて制御できることに意味がある。ローカルであれば、クラウドと違って、どのデータからどんな結果が生まれたのかを可視化できます。DXと同じで、そういう環境の方が、製造業の方々には嬉しいのではないかと感じております。

八子：ブラックボックス化した処理に強く依存せず、アカウンタビリティが担保される。どのデータからどんな回答が得られたのかを自分の手元で検証できる、つまりトレーサビリティも担保される。説明できるAIを所有することがポイントなんでしょうね。

弦弓：おっしゃる通り、今後はブラックボックスが一番のコストになってくると思います。AIには説明義務も出てくるでしょうから、ローカルでそれを知っておくかどうかは大きな差になります。今始めるべきだと思いますし、その意味でもこの製品は非常に面白い。私はこの製品が好きですね。

明石：実際に自社で始めるとなると、用途だったり規模だったりで必要な構成は変わってくるのかななんて思うんですが、その辺りはどのように考えればよいでしょうか。

弦弓：お客様の環境によって必要なものが千差万別ですので、何もかもがGB10で解決ということはできません。ただし弊社（デル・テクノロジーズ）の場合ですと様々な製品、特にAIに力を入れておりますので、ご相談いただければ適切なものをご提供ができるかなと思っております。

明石：自社のデータを外に出しづらい、でも生成AIを活用したいという方は、次の検討材料としてご活用いただければと思います。お二人とも本日はありがとうございました。