「GPU」に関連する技術ブログ
企業やコミュニティが発信する「GPU」に関連する技術ブログの一覧です。
全141件中 91 - 105件目
UE5でプロファイリングを行う 〜GPU編〜
2023/08/16
ブックマーク
こんにちは、ISID 金融ソリューション事業部の岡崎です。 ゲームや動画などを作成する際に、ユーザーが違和感なくコンテンツを使用するためには、 フレームごとの描画速度（フレームレート）を意識し、パフォーマンスを担保し続ける必要があります。 今回はUE5でパフォーマンスを担保するために必要な、プロファイリングのワークフローの説明を行います。 はじめ
UE5でプロファイリングを行う 〜GPU編〜
2023/08/16
ブックマーク
こんにちは、ISID 金融ソリューション事業部の岡崎です。 ゲームや動画などを作成する際に、ユーザーが違和感なくコンテンツを使用するためには、 フレームごとの描画速度（フレームレート）を意識し、パフォーマンスを担保し続ける必要があります。 今回はUE5でパフォーマンスを担保するために必要な、プロファイリングのワークフローの説明を行います。 はじめ
TFRecordとWebDatasetを使った分散並列学習とパフォーマンス調査
2023/07/28
ブックマーク
はじめに Turing株式会社の自動運転MLチームでエンジニアをしている越智 (@chizu_potato)と塩塚 (@shiboutyoshoku) です。 Turingが目指す自動運転は、大量のデータで学習された非常に賢い機械学習モデルを活用することです。そのために、走行パートナーの方たちと協力して創業時からこれまで大量の走行データを取得してきました。走行データは車両に取り付けられた複数カメラ
走行動画を説明するLLMを作成し、80台のGPUで分散並列学習させた話
2023/07/26
ブックマーク
3行でまとめると LLM分散学習ハッカソンに参加し、Vision-Languageモデルの一つであるBLIP2のHuggingFaceモデルを拡張して動画からテキスト生成するVideoBLIPを作成しました。ソースコードはGithubで公開しています。 運転映像に対する説明文章を学習に用いてVideoBLIPの学習を行い、運転映像を説明するモデルを作成しました。（以下のように運転映像に対して説明文が出力されます
大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編 Part2
2023/07/24
ブックマーク
はじめに Turing 株式会社リサーチチームの藤井(@okoge_kaz)です。 Turingでは、自動運転を支える技術のひとつとして大規模言語モデル(Large Language Model: LLM)に注目しており、関連する技術の研究開発を行っています。 つい先日、大規模言語モデルの事前学習を行う際に用いられることが多いmicrosoft/Megatron-DeepSpeedが大きくupdateされました。(日本時間 2023/6/13, 2023/7/21に大きな変更
大規模言語モデル(LLM)の作り方 GPT-NeoX編 Part 1
2023/07/19
ブックマーク
はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 の藤井(@okoge_kaz)です。 大規模モデルへの注目の高さを肌で感じる今日このごろですが、事前学習の知見については依然として十分に共有されているとは言い難いと個人的に感じています。 Turing株式会社では、次世代の自動運転技術を支える技術の1つとして大規模言語モデルに注目してお
大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編 Part1
2023/06/29
ブックマーク
はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 横田研究室の藤井(@okoge_kaz)です。 大規模言語モデル(Large Language Model: LLM)への注目がGPT-4のリリース以降高まっていますが、LLMを作るための知見は十分に共有されているとは言い難いと個人的に感じています。 Turingでは、Vision and Language, Video and Languageなどのマルチモーダルなモデルの研究開
【サイバーエージェントの社内研修を公開！】Unityエンジニア向け研修「リアルタイムCG道場」開催！
2023/06/26
ブックマーク
この度、ゲーム・エンターテイメント事業部(SGE)では、社内向けに実施した3DCGに関する研修を、社 ...
大規模モデルを支える分散並列学習のしくみ Part1
2023/06/20
ブックマーク
はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 横田研究室の藤井(@okoge_kaz)です。 自然言語処理分野における大規模深層学習の重要性は日に日に高まっていますが、GPT-3, GPT-4 などのモデルの学習には膨大な計算コストがかかり、容易に学習できなくなっています。実際、モデルサイズが近年急速に大きくなっていることにより、学習に必
batchについて試してみた
2023/05/30
ブックマーク
はじめに こんにちは、クラウドエース データML ディビジョン所属のディエゴです。 クラウドエースのITエンジニアリングを担うシステム開発部の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのがデータML ディビジョンです。 データML ディビジョンでは活動の一環として、毎週 Google Cloud の新規リリースを調
インターン参加記 ～GPUクラスタ管理者への道～
2023/04/12
ブックマーク
はじめに こんにちは！イノベーションセンターテクノロジー部門 GPU-K8s Projectに二週間、インターン参加させていただいた石本直也と申します。 大学院では、WebAssemblyに関するObservabilityについて研究をしています。 今回の職場体験型インターンシップでは「モダンなICTインフラを支える技術の検証・開発（クラウド, コンテナ or データ基盤領域）」をテーマとして以下の
PBR（物理ベースレンダリング）マテリアル 入門編
2023/04/12
ブックマーク
（画像： Basic Theory of Physically-Based Rendering ） こんにちは！金融ソリューション事業部の山下です。 今回は、近年進化が目覚ましい3DCGグラフィックスのクオリティを支えるPBR（Physical Based Rendering）について紹介します。 本記事では、入門編としてPBRの基礎理論やワークフローを紹介します。 また応用編として、 Substance 3Dや Unreal Engine を用いた制作フローを紹介する記事も
Our journey to release English translation of “Unity Performance Tuning Bible”
2023/03/27
ブックマーク
Our Game and Entertainment Division has released a ...
社内研修書籍『Unity パフォーマンスチューニングバイブル』の英語翻訳版をリリース、その翻訳過程を大公開！
2023/03/27
ブックマーク
ゲーム・エンターテイメント事業部では、2022年8月に公開した社内研修用の書籍『Unity パフォー ...
クラウドGPU体験記 〜人工衛星の画像で機械学習をやってみた〜
2023/03/22
ブックマーク
この記事は、2023年2月に行われたさくらインターネットの社内勉強会における発表を編集部にて記事化したものです。 はじめに さくらインターネットの養王田(よおだ)です。主に衛星データプラットフォーム「Tellus」のフロ […]