イベント概要

今回のミートアップでは、最先端のAI開発をリードするW&B、NVIDIA、SB Intuitionsが集結し、LLMの開発から運用に関するテーマを徹底解説します。生成AIアプリケーションのデモンストレーションは表面上は簡単に見えますが、実際に本番環境で導入し、高品質を維持することは容易ではありません。出力の制御や安全性への配慮など、様々な要素に注意を払う必要があります。今回のマンスリーミートアップでは、以下のラインナップでお送ります。

• SB Intuitionsからは自社のLLM開発における具体的な事例や貴重な知見を共有
• NVIDIAからは生成AIアプリケーションを開発・運用するために必要なフレームワークであるNVIDIA NIM・NeMo Guardrailsの紹介
• W&Bからは生成AIアプリケーションのObservability機能であるWeaveとWeaveを用いたモニタリングの実践例を紹介

LLMの開発や運用に携わるすべての方にとって、実践的で役立つ内容が盛りだくさんのイベントです。最新の技術やノウハウを学べるこの機会をお見逃しなく！

スポンサーからのお願い

• 講演開催中にお弁当形式の軽食と、懇親会でのお飲み物の提供を予定しておりますが、数には限りがありご参加者全員に行き渡らない場合もございます。

タイムテーブル

スピーカー

高瀬翔 / SB Intuitions株式会社 LLMコア構築チーム チームリーダー/ Xアカウント

東北大学大学院情報科学研究科にて博士号取得後、NTTコミュニケーション科学基礎研究所、東京工業大学、LINEヤフー株式会社を経て現職。機械翻訳、生成型要約、ニューラル言語モデルの研究に従事。特に現在は日本語大規模言語モデルの研究開発に従事している。

講演タイトル：SB Intuitionsにおける大規模言語モデルの事前学習

大規模言語モデルの構築は大量のデータを用いて学習を行う事前学習と、入力に対して望ましいふるまいが行えるようにするチューニングの、2ステップに大別されます。特にパラメータ数の多いモデルについては、計算コストの関係上、試行錯誤を行うことが難しく、事前学習の知見が広く共有されているとは言えない状況です。本発表ではSB Intuitionsから公開しているSarashina2-70BやSarashina2-8×70Bなど、パラメータ数の多いモデルの構築も含め、事前学習における知見を紹介します。

徳永匡臣 / NVIDIA Solutions Architect / Xアカウント

NVIDIA のソリューション アーキテクトとして、特に生成 AI 分野において、顧客への技術支援を行っています。 NVIDIA に入社する前は LLM/RAG および画像処理の研究開発に従事していました。現在は、 NVIDIA の LLM 関連の SDK を中心に、生成 AI の活用促進に取り組んでいます。

講演タイトル：生成AI開発を加速するNVIDIA NIMとNVIDIA NeMo

NVIDIA NeMoはカスタム生成AIの開発の為のエンドツーエンドのプラットフォームです。事前学習、ファインチューニング、検索拡張生成、ガードレール、データキュレーションなどの為のツールと事前学習済モデルを提供しており、一部の機能はマイクロサービスとして最小機能でコンテナ提供を開始しています。 また生成AIモデルの高速で簡単なデプロイを実現する、NVIDIA NIM の提供も開始しています。 本セッションでは、NVIDIA NIMおよびNVIDIA NeMoに含まれるサービス(NeMo Guradrails, NeMo Customizer等)について概説します。 また実例としてセッション中でご紹介したソリューションを組み合わせたアプリケーションの実演と、それを実際にWeaveで動かす所をデモとしてお見せします。

鎌田 啓輔 / Weights & Biases Japan, MLエンジニア / Xアカウント

因果推論からML、LLMまで行う機械学習エンジニア。APTではビジネス施策における因果推論の支援、DataRobotではヘルスケアチームのLead Data Scientistとしてヘルスケア業界を中心に数十社のAI導入を支援。コロナ禍には国立国際医療研究センターと論文や厚生労働省へのレターを作成。現在Weights & Biasesでは、企業へのAI workflow構築支援以外にNejumi Leaderboardの構築を行なっている。また、AI創薬で最もよく利用されているBioNeMo2の開発に携わるなど、創薬・ライフサイエンス領域で業界をリードする活動を行なっている。

講演タイトル：Weaveを用いた生成AIアプリケーションのモニタリンングと実践例

生成AIアプリケーションの開発・モニタリングに向けては、入出力だけではなく中間プロセスの記録も必須です。Weights & Biases が今年に入ってリリースしたWeaveは、生成AIのためのObservability機能を提供します。Weaveを使って、入出力・中間プロセスが監視される様子を紹介します。さらに、ヒューマンフィードバックだけではなく、ユーザーがどのように生成AIアプリケーションを利用しているかを分析する事例についても紹介をします。

会場

WeWork 東京スクエアガーデン

住所: 104-0031 東京都中央区京橋3-1-1 東京スクエアガーデン 14F

（以前のイベントの様子）

アクセス

• 東京メトロ 銀座線 京橋駅（出口3）（駅直結）
• 東京メトロ 有楽町線 銀座一丁目駅（出口7） 徒歩2分
• 都営浅草線 宝町駅（A4出口） 徒歩2分

京橋駅直結のビル。3階にあがるとオフィスエントランスがございます。 3階からエレベーターで14階までお越しください。 会場へのアクセス方法の詳細はこちらに：http://wandb.me/tokyo-office

主催・運営

このイベントはWeights & Biases Japan によって運営されています。

本イベントの開催には、WeWork様に多大なご協力をいただいております。

このミートアップに登録することで、Weights & Biasesの製品、サービス、イベントに関するマーケティングコミュニケーションを受け取ることがあります。W&Bは、お客様の個人情報をプライバシーポリシーに従ってのみ使用し、これらのコミュニケーションはいつでも解除することができます。

このミートアップ中に写真や動画が撮影されます。これらはW&Bによってマーケティングや宣伝用に、出版物、ウェブサイト、ソーシャルメディアで使用されることがあります。何か懸念がある場合や、撮影や録画されたくない場合は、お問い合わせください。