ハードウェア

イベント

注目のイベント

マガジン

技術ブログ

音声対話システムの自動評価フレームワーク「VociMetrics」

はじめまして、AI Labの大平です。 普段は対話システムの研究開発をしています。 最近、VAPIを ...

4か月で世界ランク49位へ:オープンネットワーキングとSONiCで築いたGPUスパコン「さくらONE」の裏側

2025年6月14日、さくらインターネットが自社構築したマネージドHPCクラスタ「さくらONE」が、国際的なスパコンの処理性能ランキングTOP500(https://www.top500.org/lists/top500 […]

CPUがGPUに勝った日 - ARMによるモデル推論の深層

gpt-oss-20bをCPUで推論したらGPUより爆速でした。なぜこのようなことになったのでしょうか?今日は最近のARMのCPU推論の話を書きます。 まずは、ベンチマーク結果を見ていきましょう。 評価環境 マシン: OrangePi 6 CPU: CIX CD8160 4x ARM Cortex-A720 (最大2.6 GHz) 4x ARM Cortex-A720 (最大2.4 GHz) 4x ARM Cortex-A520 (最大1.8 GHz) GPU: Immortalis G720 MC10 RAM: 32G 推論ソフト: llama.cpp: b7157 com

動画

書籍