アーカイブ動画

エンジニアとして活躍するなら、生成AIを学ぶことは必須

アバナード株式会社
Software Engineering Practice Senior Consultant　荻原 裕之氏

最初に登壇したのは、Software Engineering Practice Senior Consultantの荻原裕之氏だ。荻原氏は2007年にアクセンチュアとマイクロソフトの合弁会社であるアバナードに入社。前職ではエキスパートシステムに関わっていたことがあるという。「Azure OpenAI Service実践ガイド」では、執筆のアドバイスと「責任あるAI」の3章を担当している。

荻原氏は生成AIについて、「これからエンジニアとして仕事をしていくためには、生成AIの勉強が不可欠だということを感じ取ってほしい」と語る。例えば書店に行くと、ChatGPTや生成AIというタイトルの書籍がずらりと並んでいる。

すでに教育現場でも生成AIの学習が始まっている。そんな状況下で荻原氏が驚いたのが、小学校高学年向けの学習雑誌に、生成AIが特集されていたこと。プロンプトや大規模言語モデル（LLM）の解説記事もある。

また、高校ではPythonを使うためのモデルのシミュレーションや、プログラミングなどの副教材が使われている。つまり数年後には、生成AIを使いこなせる新入社員が入ってくるということだ。

では、Azure OpenAIを活用すると、どんなことができるのか。Bing Copilotを使ってAzure OpenAIの用語を解説すると、以下スライドのようになる。ここに記されているネコ型ロボットとは、生成AIの例えだ。

「これを見れば分かるとおり、Azure OpenAIは生成AIを企業用にカスタマイズして使えるようにするためのソリューションです」（荻原氏）

生成AIをビジネス活用するためのポイント

アバナード株式会社
AI Practice Champion　柿崎 裕也氏

Azure OpenAIを活用することで、具体的にどんなことが可能になるのか。続いて登壇したAI Practice Championの柿崎裕也氏が解説した。柿崎氏も「Azure OpenAI Service実践ガイド」の執筆者の一人。製造DXや生成AIのプロジェクトをリードしている。

柿崎氏は「生成AIの効果をビジネス活用できることが、重要な土台となっている」と語る。その理由は、生成AI導入により作業時間を減らした上で、成果物の品質が上がることが期待できるからだ。それだけではない。

もう一つのポイントが、「作業時間が減ることで生まれる空き時間で、新たなチャレンジをするなど有効活用できるようになる」と柿崎氏は指摘する。企業にとって大きな力になるからこそ、多くの企業で生成AI導入を検討しているのである。

ちなみに、マイクロソフトの生成AIは「Copilot」と名付けられている。Copilotとは、日本語にすると副操縦士を意味する。つまり「生成AIをCopilotとして共創していくことが重要なポイント」と柿崎氏は説明する。

柿崎氏は、生成AIをビジネスに活用する第1のポイントは「生成AIを開発すること」と述べ、ChatGPTを例に解説した。

ChatGTPの弱点の1つは学習している期間が限られており、最新の情報には答えられなかったり、記憶量に限界があること。もう一つが、学習した物に対して予測して回答するため、ハルシネーションを起こす場合があることだ。

「このほかにも、まだ計画段階の話を学習して他の人に教えてしまう可能性があったり、計算処理が苦手だったりという弱点があります」（柿崎氏）

開発することで、生成AIの弱点を補って効果アップさせることや、リスクを低減することができるようになる。「適切な開発をすることが、ビジネス価値への実現ができる」と柿崎氏は強調する。

その開発基盤としてアバナードが推奨するのがマイクロソフトの「Azure OpenAI」である。その理由の第1は生成AIのリーディングカンパニーであるOpenAIとマイクロソフトは19年よりパートナーシップを結んでおり、親和性が高いことである。

第2の理由はマイクロソフトのAIのスタンスは、顧客データは顧客のもの、顧客データは学習しない。顧客データを保護するなど、著作権の取り組みがしっかり抑えられていることだ。

その他、OpenAIの最新モデルはAzure AI Infrastructureで学習・稼働しており、OpenAIの次世代AIモデルの独占的ライセンスもマイクロソフトが保有しているというメリットもある。

「生成AIをビジネス活用する第2のポイントは、生成AIはソリューションの一部なので、今までのDXの取り組みと組み合わせること。そうすることで面白いことができるのではないかと思います」（柿崎氏）

ChatGPT利用が当たり前になってきた今、柿崎氏は次のようなポイントを見据えて生成AI開発に取り組むことが必要だという。

柿崎氏は「マルチモーダルな取り組み」「各生成AIとDXとの組み合わせ」「能動型への対応」「定量データの利用」「SLM（小規模言語）の使い分け」「プログラミングの代替」などを開発のポイントとして挙げた。

「OpenAIが掲げているミッションは、汎用型人工知能が人類に利益をもたらすようにすること。そういった先の姿と今できることを理解した上で、どんな課題を解決したいのかを踏まえて開発することが重要になります」（柿崎氏）

Azure OpenAIなら経験がなくても生成AI開発に踏み出せる

アバナード株式会社
Azure Platform Consultant　山岸 大輔氏

ここまでは、Azure OpenAIを活用する前に抑えておくべき知識を紹介してきた。次のセッションからは、Azure OpenAIを活用するための技術的な勘所について解説を行った。

登壇したのは、Azure Platform Consultantの山岸大輔氏だ。山岸氏はインフラ出身で、現在はAzure IaaSや認証の設計構築、スクリプト開発に携わっている。

「専門知識はなかったが、MidjourneyやChatGPTのプロンプト作りに没頭した時期があり、そのモチベーションで執筆に参加しました」（山岸氏）

山岸氏は、栄合はじめ君という「Azure OpenAIに入門したい」「LLMを組み込んだアプリの開発に挑戦したい」「忙しくてAzure OpenAIに触る機会がない」という初心者からの質問に答えるという形でセッションを進めていった。

例えばAIだから機械学習や数学の知識が必要という質問に対しては、「知識があれば有利だが、必須ではないと考える」と山岸氏は回答。

一方で、AIモデルの性能を最大限引き出すには、プロンプトの適切な設計が重要になるため、「プロンプトエンジニアリングのスキルを身につける必要がある」と付け加える。

2つ目の「プログラミングやAzureの知識・経験はどのくらい必要」という質問には、「入門にはAPIの概念やプログラミングの基礎知識があればよい。Azureに関しても、Azureポータルの操作やリソースの作成、認証設定という基礎知識があれば十分」と回答する。

3つ目は「本家のOpenAIではなく、Azure OpenAIを使うメリットは何か」というという質問。それに対して、山岸氏は「Azure OpenAIはセキュリティや可用性などの非機能面が強化されており、企業への導入に適したサービスになっているため」と答える。

詳しくは「認証にMicrosoft Entra IDを利用できる」「アクセスを閉域化できる」「SLAがあり、99.9％以上の稼働率を保証」「Microsoftのサポートに問い合わせができる」などだ。

4つ目の質問は「まず、何から始めたらよいか」。回答は「Azure OpenAIのAPIを叩いたり、手を動かしたりしながら始めることをお勧めします」。APIを叩くまでの流れについても次のスライドのように説明した。

①Azure OpenAIを専用フォームからアクセス権を申請し、Azure OpenAIリソースを作成する。②モデルをAzureにしてデプロイして利用可能にする。

「ここではコストがあまりかからないGPT3.5 Turboなどがお勧めです」（山岸氏）

③プレイグラウンドで、モデルの出力を調整。自動生成されるコードを取得する。プレイグラウンドでは、プロンプトでモデルの役割や振る舞いを定義する。

「例えばあなたは優秀なコピーライターですと定義すると、モデルはそのように振る舞うようになる」（山岸氏）

またモデルの出力については、画面の真ん中でチャットしながら確認できる。コードの表示をクリックし、サンプルコード、エンドポイント、APIキーをコピーし、Google Colab等に張り付けて実行する。

④Google Colab等でAPIを叩いて、モデルの回答を得る。

「実行に加えて、APIの構造を理解することも重要なので、ぜひ、ドキュメントを照らし合わせながら確認することをお勧めします」（山岸氏）

初心者にとってRAGの実装は難しい？

5つ目の質問は、「AIモデルに社内ドキュメントなどの独自データに基づいた回答をさせるには、どうすればよいか」。

これについては「RAG（検索拡張性）というアーキテクチャに基づいた実装をする必要がある」と回答。通常パターンの実装だと、AIモデルは事前に学習した知識に基づいて回答することになり、社内の独自データなどに関する質問には答えられないからだ。

一方、RAGはAIモデルに知識ソースを与えて回答する仕組みであり、社内の独自データへの対応、精度向上やハルシネーションの予防もできる。RAGを使ったサービスの例として、山岸氏はBing Chatを挙げた。

6つ目の質問は、RAGの実装難易度についてである。回答は「RAGの実装や、初心者にとっては少し難度が高くなる」。検索システムやオーケストレータなどのコンポーネントを構築したり、全体の処理のフローを意識したりする必要があるためだ。

RAGの開発パターンは大きく分けて「スクラッチで開発する」「ノーコードで開発する」の2種類。前者はPythonなどでプログラムを書いて、Azure AI Searchなどのリソースを構築する。「応用は利くが、難易度は上がる手法」と、山岸氏は説明した。

後者は、On your dataやプロンプトフローを利用して開発するという方法である。中でもプロンプトフローであれば対話型のGUIを採用しており、直感的、迅速に開発できるという。

「RAGアーキテクチャもほぼノーコードで構築できます」（山岸氏）

Azure OpenAIを初めて学ぶ人がプロンプトフローを使うメリットは、複雑なRAGアーキテクチャの全体像を俯瞰することができるようになることだ。「RAGのイメージを使うためにも、ぜひ使ってみてほしい」と、山岸氏は強調する。

このようにAzure OpenAIは、開発者がAIを利用しやすいように設計されており、山岸氏は「入門の敷居は高くない」と語る。

「ただし、より実践的なスキルを身につけるには、公式ドキュメントや書籍を読んでデモを動かしてみたりするなど、日々進化する生成AIを楽しみながら学習を継続することが大事になります」（山岸氏）

生成AIプロジェクトでつまずかないためのポイント

アバナード株式会社
Business Process Mining & Automation Manager　大北 真之氏

最後に登壇したのは、Business Process Mining & Automation Managerの大北真之氏。「生成AIプロジェクト成功への道」というテーマでセッションを行った。

大北氏は22年2月にアバナードに入社。CMS、D365、Power Platform、生成AIなどのさまざまな案件に従事しつつ、社内外の技術イベントでスピーカーを務めてきた。

モノづくりが好きという大北氏は、「AIラジコン」やIoTを活用した子どものバス閉じ込め対策システム」などの構築に携わってきたという。これらのソリューションについては、「AvaKansaiというブログで紹介しているという。

まず大北氏は、セッションで使われる生成システム開発の定義を紹介。同セッションでは「RAGや生成AIの回答をもとに何かしらのアクションに繋げる、またはアクションを起こす機能を実装したシステムのこと」を指す。

生成AIシステム開発は「難しいワケではないが、甘くもない」と語り、大北氏はありがちな失敗例を紹介した。1つ目は、設計が終わってシステム構築に着手したが、そのタイミングで実現性が難しいことが分かった事例。2つ目は要件通りの機能は構築したが、利用者の満足するような状態ではなかったことで起こった失敗例である。

その躓きポイントはどこにあるか。1つは生成AIの思った結果やフォーマットにならず、後続の処理をうまく制御できないこと。もう1つが応答時間と言った非機能要件の調整が難しいこと。なぜつまずいたのか。

その答えは「従来のシステム開発と同じノリで計画、開発したから」と、大北氏は指摘する。もう少し端的に言うと、「ガチガチのウォーターフォールで開発したせい」だと大北氏は言うのである。

ウォーターフォール開発は、「要件定義→設計→開発→テスト」という流れで開発は進む。生成AIシステム開発のリスクは、要件定義や設計のところで、実現できるかどうかわからない要件や機能が出てくる可能性がある。

そのまま開発に進むと、当然、実装できない可能性が出てくる。また、生成AIの回答精度が悪く、業務利用できない機能になる可能性もある。そしてテストでは、生成AIの回答が良くなくてもOKとされるケースもあるという。

では、どうすればよいのか。「不確定要素である生成AIで要件を満たすアウトプットを出力できるかにフォーカスして実験することにつきる」と大北氏は力強く説明する。

お勧めの進め方としては、まず生成AIを活用できるか検証し、その結果を踏まえた上で開発計画を立てる。その上で、生成AIシステムの開発をする。このような条件下であれば、「生成AIシステム開発はウォーターフォールでも問題ない」と、大北氏は言う。その理由は、不確定要素を検証で確認できているからだ。

要件に関する検証ポイントの例についても紹介。例えば、社内ChatGPTから社内手続きを実施できるようにしたい」という要件があったとする。ここで検証のポイントとなるのは2つある。

1つは、生成AIのチェックポイントはどのような社内手続きを必要か判断できるか。もう1つは申請に必要な情報をチェックし、不足分の要求ができるかである。つまり、「生成AIを活用した機能に絞り、クイックに検証する」ことだという。

その他、開発～リリースのサイクルは短期間で回すこと、RAGに登録するデータは欲張らないこと、生成AIの回答を人がチェックできる仕組みを作ることもポイントとなる。

重要なのは、生成AIの特性を理解した上で、開発の計画を立てること。そして、生成AIシステム開発はまずPoCから始め、その結果が良ければ本格的に開発することだ。

「私たち執筆者には、日本企業を最新のIT技術で応援したいという思いがある。だからこの書籍を出版しました。この書籍が皆さまの生成AI活用の一助になれば幸いです」（大北氏）

登壇者4人によるパネルセッションと質疑応答

続いて、登壇者4人によるパネルセッション「新しいことが大好物なアバナードエンジニアたちが語る生成AI」が行われた。モデレータを務めたのは柿崎氏である。

テーマ1「アイデア基点でAzure OpenAIの業務活用！直面した壁・乗り越え方」

大北：大変だったのは、やりたいことは明確にあり、生成AIにこういう回答してほしいという思いがあるのに、その回答が得られなかった時。最適な答えが導き出せるように、永遠とプロンプトを模索し続けなければならないからです。

乗り越え方は、プロンプトはプロンプトのガイドラインなどを参考にしながら、根気よく手探りで探していくこと。今のところはこれしか方法はないと思います。またRAGを組むのであれば、データ精度も大事になります。

柿崎：データ統合なども含めて、そこをきちんと抑えることは大事だと思います。 荻原：私は、Azure OpenAIで出てくる用語そのものを覚えるのも大変でした。

柿崎：正しい答えは自分で検証したり調べたりする必要がありますが、そういう新しいワードが出てきた時はChatGTPに聞くというのが一つの方法だと思います。

テーマ2「俺たちの技術力　世の中に還元していこう」

柿崎：やはり書籍を執筆したこと。これはエンジニアに向けての還元だと思っています。 大北：以前、目が見えない人に向けて、展示ディスプレイと生成AIを使って避難支援する仕組みを作ったことがあります。新しい技術を使って、ハンディキャップのある人を支援するアプリや防災系のアプリなどを開発しました。生成AIは活用できる範囲が広いので、これからも役に立つソリューションを作っていきたいですね。

荻原：新卒の講師を務めているのですが、彼らの多くが「ITの力で世の中を変えたい」という思いから当社に入社したので、これからどんな未来を創っていけるのか楽しみです。

柿崎：いろんなことにチャレンジできるチャンスもありますからね。

山崎：チャンスはたくさん転がっています。AIに携わっていないにも関わらず、今回の書籍を執筆できたのも、社内公募があったからなんですよね。

【Q＆A】参加者からの質問に登壇者が回答

パネルセッションに続いて、参加者からの質問に答えるQ&Aタイムも実施された。いくつか抜粋して紹介する。

Q．生成AIでないと実現できない要件や否かなどは、どのように判断されているのか

柿崎：人の代わりになるかを踏まえた上で、実現できるかどうかはしっかり検証することだと思います。

大北：私もできないかどうかは、まず検証をしてみることが適切な回答だと思いました。

Q．AWSを使って、Azure OpenAIで構築するのと同等のことは可能か。また、生成AIの分野で、Azureを使う優位性はあるか。AWSが優位な点なども知りたい

柿崎：Azure OpenAIの方が、AWSよりも使い勝手が良いところがあると思います。 山岸：提携している生成AIのモデルが違います。Azure OpenAIはOpenAIのモデルを優先的に使えるところがメリットです。とはいえ、AWSのAmazon Bedrockは悪いわけではありません。私は好きでよく使っていました。

Q．Azure OpenAI導入プロジェクトにおいて、機能要件と非機能要件には、具体的にどういった要件が考えられるか

大北：大事なのは、具体的にAIをどう活用したいのかをちゃんと描くこと。ビジネスにどう活用したいのかが明確になっていれば、あとは普通のシステム開発と変わりません。非機能要件は動かさないとわかりませんが、機能要件に関しては従来のシステム開発と同じ感じで整理していくとよいでしょう。

Q．プロンプトエンジニアリングは、5年後も仕事の1つとしてあり続けるか

荻原：プロンプトに関してはこれから必須になるので、消えることはないのでは。 柿崎：生成AIの比重が上がってくるので、なくならないと思います。ただ、モデルの進化によりプロンプトへの重さが変わってくると思いますし、いつかは生成AIがプロンプトを書いているかもしれません。

荻原：スマートフォンの普及と同じイメージがあります。プロンプトも3年後には使わないとやっていけないので、なくならないのではないでしょうか。

Q．OpenAIのChatGPTの良さは"My GPTs"と"Plugins"を使えるところ。Azure OpenAIでもこれらを使えるか

柿崎：使えます。OpenAIをカスタマイズできるようにしたのが、Azure OpenAIなのです。

アバナード株式会社
https://www.avanade.com/ja-jp/about-avanade

アバナード株式会社の採用情報
https://www.avanade.com/ja-jp/career?utm_campaign=careers-reg&utm_source=tplay&utm_medium=ref-jpn&utm_content=web-job

お問い合わせ
TAJapan＠avanade.com