みなさん、こんにちは。ソリューションアーキテクトの戸塚です。今週も 週刊AWS をお届けします。 めっきり日が短くなり、気づけば今年も残すところ 2 か月あまりとなりました。今週は Amazon Bedrock 上の Claude モデルでの Structured Outputs 対応や、Amazon Connect の脅威検出、AWS Trainium 向けネイティブ PyTorch「TorchNeuron」のベータなど、開発・運用の現場をじわりと支えるアップデートが揃いました。そして年末といえば、いよ

はじめに 対象読者 前提条件 levはJevと同じ話し方をする、別会社のオープンモデル READMEによれば公開データのみで学習、精度はInterfazeの測定でJevの7ポイント下 BERTの分類器と違い、質問をリクエストのたびに書ける T4 1枚で動くが、16GBに収めるにはlevの手直しが要った 起動とリクエスト 長い入力では、GPUメモリが2か所で溢れた CPUでは1回15分を超えた マルチエージェントでは、合否と選定だけをlevに回した つまずいたのは、答えをワークフローに載せる変換だった 今回

はじめに こんにちは。クラウドエース株式会社 CTO室の関根です。 Cloudflareが公開した判断モデルClefをGoogle CloudのCloud Run GPU上で動かし、ブラウザから画像判定を試せるデモアプリ「Clef画像判定ラボ」を作りました。31ケース・35問の能力チェックを実施し、回答・確信度・応答時間を確認しました。 本記事では、Clefが型付きの判断を返す仕組み、アプリの構成、能力チェックの結果を説明します。Cloud Run GPUを選んだ理由と、起動時のモデル転送で分かったことも

はじめに こんにちは、株式会社タイミーでデータサイエンティストをしている藤井です。 普段は推薦エンジンの改善を担当しています。 最近は推薦エンジンそのものの改善に加えて、LLM を使って推薦エンジンの改善サイクル（仮説→実験→評価）をいかに速く回すかにも取り組んでいます。 5か月前の前回記事 では、Claude の Skill を使って半自動で推薦システムを改善する取り組みを紹介しました。 現在はそこから一歩進んで、推薦エンジンの自動改善の運用を開始しており、以下のような構成をとっています。 エージェント

この記事は Under the hood: how Amazon EKS Auto Mode detects, repairs, and diagnoses node failures (記事公開日: 2026 年 8 月 5 日) を翻訳したものです。 GPU が PCIe バスから脱落する、ネットワークインターフェイスが応答しなくなる、コンテナランタイムが固まる。多くの Kubernetes クラスターでは、ここからオンコール対応が始まります。担当者が起こされ、ダッシュボードを確認し、SSH で接続し

はじめに さくらインターネットで高火力 PHYチームに所属している道下です。 本連載では、高火力 PHYで利用しているサーバーと同種のGPUサーバーを利用し、近年注目度を増しているLLMの分散推論基盤に関して、詳細な技術 […]

はじめに # これは、「面白そう」と感じたアーキテクチャや技術スタックを、まずはあれこれ試しながら作ってみたプロトタイピングの記録です。 前回は、AWS LambdaとSSMセッションマネージャーによるサーバーレスGPU起動ブローカーを構築しました。 （詳細は 前回の記事 を参照してください） これにより、ポート開放ゼロかつSSH秘密鍵不要で、世界中の最安スポットGPUをわずか数秒で探索・選定し、安全に直結できる環境が完成しました。 しかし、前回の構成を実践していく中で、もう1つ避けて通れない重要な課題が

この記事は 2026 年 8 月 4 日に公開された Guidance for an AI-Powered Studio on AWS を翻訳したものです。 生成 AI は、スタジオのプレミアムコンテンツ制作のあり方を根本から書き換えつつあります。映画品質の画像、動画、音声、3D アセットを生成できるモデルは日々更新されており、それらがもたらすクリエイティブな可能性には期待が高まるばかりです。具体的には、制作期間の短縮、予算内でできることの拡大、アーティストの創造性の解放、そして従来は資金面で実現困難だっ

はじめに Kubernetes上でLLMの推論などGPUを使うワークロードを動かすには、GPUノードにドライバを入れ、PodからGPUを利用できる状態にしておく必要があります。本記事では、インターネットに接続できないAirGap環境のRKE2クラスタに対して、NVIDIA GPU DriverとNVIDIA GPU Operatorを導入し、Kubernetes上でGPUを使えるようにするまでの手順を紹介します。 SUSE AIのようなKubernetes上のAI基盤を構築する際の前提作業にあたりますが、

この記事の対象者 System One Model(本記事ではLaya)を用いたテーブルデータの分類問題に興味がある方 Layaの実装に興味がある方 はじめに 2026年9月にリリースされたJevと呼ばれるモデルが話題になっています。 このモデルは通常の生成AIと異なり、文章を一切生成せず、高速な「判断」と確率・確信度のみを出力する、TypeSafe AIが開発した「System One Model」と呼ばれる新しいカテゴリのモデルです。 System Oneとは、心理学者ダニエル・カーネマンの著書『ファ

はじめに JADOGは、データセンター事業者をはじめ、ユーザー、メーカー、SIer、ネットワーク事業者など、多様な業界のプレーヤーが業界の枠を超えて集まり、建設的な情報共有と活発な議論を行うコミュニティーです。これにより […]

はじめに Turing の mlops 3 チームの加藤です。2026 年 3 月に Turing に入社し、自動運転モデルの学習基盤の開発ワークフロー改善を担当しています。最近は主に学習を高速化しています。 今回は、学習時に S3 から直接データを読み出すことで、学習データ容量の制限と、クラスタへの学習データのステージングを無くした時の話をしたいと思います。 この記事の内容 学習データを S3 から直接読む構成に変え、学習に使えるデータ量をクラスタのストレージ容量から切り離した。 S3 の帯域は十分だっ

はじめに # 前回の記事（ 自前vLLMをOpen WebUI経由でVS Code（Cline）に接続！トークンフリーで開発する ）では、オープンソースのWeb UI・APIゲートウェイ「Open WebUI」を採用し、AWS上で動かす自前vLLMサーバーをVS Code拡張機能「Cline」のバックエンドとして直結させました。 前回の検証では「1台のGPUサーバー（ g6.xlarge ）をチーム3〜5人でシェアする」運用モデルを検討し、実用的なコストパフォーマンスが得られることを確認しました。しかし、

はじめに # GFXBenchというGPUベンチマークソフトを取り上げたシリーズの4回目です。 前回で古いAndroidバージョン対応のビルドが行えました。 今回は実際に古いAndroidバージョンで実行してベンチマークスコアを確認してみます。 ベンチマーク実行結果 # 実行までの手順は今までと変わらないので、早速結果からです。 実行するAndroid端末はAndroidバージョンが古いものを手元のコレクションから見繕ってみます。 目標は SdkVersion:'21' (Android5.0) だったの

2026年7月29日から 2 日間にわたって、 アマゾンウェブサービスジャパン合同会社はパシフィコ横浜で開催された KubeCon + CloudNativeCon Japan 2026 においてスポンサーとしてブースを出展しており、たくさんの方にご来場いただきました。（ご来場いただいた皆様、有難うございました！）   AWS ブースでは、2日間で 12 のデモセッションを行い、多くのご来場者にご視聴いただきました。その際にセッション資料をシェアしてほしいとのご要望をいくつか頂いたことを受け、こ