はじめに 株式会社TechWorker 古野 光太朗です。 弊社では生成AIの導入支援を行っています。今回の記事の内容は、さくらインターネット様の社内向け生成AI勉強会にて私が講演した内容を記事化し、一部新たに更新・追記 […]

はじめに 本記事ではABCI ハッカソンで実施した日本語 VLM（Vision-Language Model）作成の取り組みについて紹介します。ABCI 3.0を活用したVLMの学習に関する内容であり、以下の読者を想定しています。 ABCI ハッカソンの概要を知りたい方 ABCI 3.0でVLMの学習がどの程度高速化できたか知りたい方 ABCI 生成AIハッカソン ABCI 生成AIハッカソンは2025年2月4日から2月13日にかけて開催された生成AIモデルの開発や最適化を目的としたイベントです。 主催は

本稿は、塩野義製薬株式会社による、従来型の解析環境の問題を根本解決する “オンデマンド計算環境” の開発について、当該の内製開発をリードされた、データサイエンス部 髙市 伸宏 様より寄稿いただきました。 1. イントロダクション 塩野義製薬は、1878年に創業して以来、“常に人々の健康を守るために、必要な最もよい薬を提供する” ことを掲げて活動を続けています。近年ではSHIONOGI Group Vision (2030年Vision) として、“新たなプラットフォームでヘルスケアの未来を創り出す” こと

はじめに 株式会社TechWorker 古野 光太朗です。 弊社では生成AIの導入支援を行っており、今回の記事の内容は、さくらインターネット様の社内向け生成AI勉強会にて私が講演した内容を記事化し、一部新たに更新・追記し […]

はじめに こんにちはサイオステクノロジーの小野です。 以前の記事 でOpenShift AIのモデルサービング機能を利用してAIモデルを推論APIとして提供する方法を解説しました。今回はOpenShift AIのモデルサービング機能を利用してLLMをデプロイする方法について解説します。 OpenShift AIを利用したLLMデプロイ OpenShift AIはシングルモデルサービング環境を構築することで公開LLMをデプロイすることが可能になります。 公開LLMとは LLMをはじめとしたAIのモデルは公開

アマゾン ウェブ サービス ジャパン合同会社は、2025年1月14日に「 基盤モデル開発者向け Deep Dive セッション: 最新の生成 AI 技術 ～ AWS Trainium2 & Amazon Bedrock Marketplace ～ 」を開催しました。 本イベントでは、最新の AWS Trainium2 チップ を搭載した Amazon EC2 Trn2 インスタンスおよび Trn2 UltraServers 、 100以上の基盤モデルへのアクセスが可能な Amazon Bedroc

どうも、DeepRacer をやっていて強化学習のイメージがつくので良かったなと思っている寺内です。 2025年1月20日、中国の杭州にあるスタートアップ「DeepSeek」がChatGPT o1に匹敵する性能を持つLLM「DeepSeek-R1」を発表した。AppleのApp Storeでアプリも公開され誰でも使えるようになっている。 さて、中国ということでいろいろ黒い噂も絶えないし、実際に使ってみようとすると情報が中国に送れられることに対する不安感も大きいだろう。 このブログでは、サイバーエージェント

ジーニーのCTO、孟です。 先日、vLLMを使用したDeepSeek-R1の動作記事を書きましたが、vLLMは速度が速い一方で、個人用途におけるメモリ使用率に関してはOllamaの方が適していると感じました。 そこで今回は、ローカル環境で32BサイズのDeepSeek-R1モデルを動かす方法について、記事として共有したいと思います。 DeepSeekの公式APIを使用する場合、オプトアウトが明記されていないとデータの安全性に懸念が生じるため、DeepSeek-r1をローカル環境で構築することでデータを海外

ジーニーのCTOの孟です。 deepseek-r1の性能詳細については説明を割愛させていただきます（近頃はGPT-4oを超える性能を持つLLMが自宅環境でも構築できるようになり、恐怖さえ感じますね...）。 RAGやアプリケーションの研究用として、OpenAIのChat Completionsと互換性を持つFastAPIサーバーを書いてみました。 ※DeepSeekの公式APIを使用する場合、オプトアウトが明記されていないとデータの安全性に懸念が生じるため、deepseek-r1をローカル環境で構築するこ

こんにちは。LINEヤフーでAIプラットフォームのネットワーク設計を担当している小林と深澤です。この記事ではRethinking AI Infrastructureの連載の第二弾として、LINEヤフー...

初めまして。 エンタープライズ 第一本部の佐藤悠です。 本記事では AWS Solution Architect Associate(以下:SAA)を受験料のみで取得した 経験談 を紹介します。 読者想定としてはCloud Practitionerを取得した後にSAAの取得を考えているかつ コスパ 良く学習したい人向けです。 目次 著者スペック 受験の理由 学習方法 学習教材（無料の教材を知りたい人向け） テスト当日 まとめ 著者の経歴 大学や院ではほとんど情報をやっていない 基本情報取得（入社後） 新人

はじめに みなさん、こんにちは！　Actapio, inc.（LINEヤフー株式会社の100%子会社）の立見です。 今回から始まるこの連載では、AIインフラストラクチャについて、じっくりと掘り下げてい...

はじめに こんにちはサイオステクノロジーの小野です。これまでOpenShift AIについての記事を多数書いてきたのでそれらのリンクを整理します。 OpenShift AI概要 OpenShift AIについてざっくりとした説明をしています。まずはこちらの記事を見てOpenShift AIとは何なのか知ってください。 Red Hat OpenShift AIとは？ OpenShift GPU設定 OpenShift AIとは直接関係ありませんが、OpenShift AIでGPUを利用した機械学習を行う場合

LINEヤフー Advent Calendar 2024の記事です。 こんにちは。データ人材戦略部エバンジェリストチームの權です。 私が自然言語処理に関する入門的なKaggle Notebookを...

2024 年 11 月 21 日に 製造業の設計開発領域向けセミナー を開催いたしましたのでご報告致します。 近年、製造業の設計・開発領域においてもデジタルトランスフォーメーションが欠かせないものとなっており、デジタル活用による効率化・自動化を促進し、製品設計の期間短縮による新製品のマーケットへの迅速な投入による競争力の強化が求められています。設計・開発領域のデジタル化では AWS の仮想デスクトップを活用した CAD による設計、AWS の HPC を活用した CAE があり、それぞれの領域で新しいサー