NVIDIAのTensorRT Model Optimizerを利用して、LLMの推論速度を向上させる「投機的デコード」を試す方法について解説します。EAGLEを用いた具体的な実装手順や、推論速度の比較結果などを客観的に紹介します。

はじめに この記事で学べること 前提知識・条件 結論となる3つの設計原則 原則1: コンテキストロットを前提に設計する すべての LLM（大規模言語モデル）は入力長に応じて性能が劣化する 1万行程度でもコンテキストに収まりづらい 実際どのくらいから劣化する？ ノイズとして取り込まれる要素 スマートゾーンとダムゾーン コンテキストエンジニアリング 対策としてのセッション・コンパクション 原則2: ソフトウェアを境界で分割し、近接して配置する（Pragmatic Lambda / モノレポ） なぜ境界が必要か

こんにちは。東京科学大学 修士一年の一瀬達矢です。   AI事業本部 極TD事業部で202 ...

こんな方へ特におすすめ エヴァンゲリオンが好きな方 ローカルLLM（ Ollama ）や Raspberry Pi で、何か動くものを作ってみたい方 LangGraph でマルチエージェントを試したい方 概要 こんにちは。サイオステクノロジーのはらちゃんです！ 今回はOSCの展示ブース用開発として、『新世紀エヴァンゲリオン』の意思決定コンピュータ MAGI を、Raspberry Pi 3台 + ローカルLLM（Ollama）で再現してみました。 ―― 3体の人格が別々のマシンで議論し、多数決で結論を出す

はじめに ZOZOTOWN開発本部のらぷ（ @laprasdrum ）とイッセー（ @15531b ）です。WWDC現地参加は、らぷは2016年以来2回目、イッセーは初参加（かつ初渡米）です。本記事ではWWDC26の現地参加レポートとともに、ZOZOのiOSエンジニアによるおすすめセッション、6月18日に開催されたLINEヤフー株式会社との合同報告会イベントについてもご紹介します。 目次 はじめに 目次 WWDC26のSpecial Event Day 0 Day 1 Keynote Download s

2026年7月15日、ラクスは自社イベント「RAKUS AI Conference 2026 Summer」を開催しました。オープニングは、CTO 兼 開発本部長の「公手 真之」と、執行役員 兼 開発本部 副本部長の「矢成 行雄」による2つのセッションです。 一方は「AIネイティブな開発組織をどう作るか」という組織の話。もう一方は「複数のプロダクトにAIをどう実装するか」というプロダクトの話。扱う対象は違いますが、2人が最後に置いた結論は同じでした。AIを載せること自体はゴールではない、というものです。

商社系DX組織3社（Digital Experts様、MBKデジタル様、Insight Edge）が集まり、AI活用戦略から組織改善の取り組みなど互いの知見を共有する情報交流会を開催しました。 ※本記事では、企業名を併記する際は、Insight Edge以外をアルファベット順に記載しています（各社の取り組みLTは発表順）。 今回はInsight Edgeが発起し、CTO猪子のリードのもと、この記事の筆者の肥塚が共有会の企画や運営を行わせていただきましたので、共有会を企画するに至った経緯、共有会の内容、企画

はじめに はじめまして、スピーダ事業Product Teamの清水です。 私たちのチームではKubernetesを利用してアプリケーションの運用をしております。 今回はKubernetesのあまり知られていない設定により詰まる経験をしたので、供養のため記事にしたいと思います。 今回の経緯 私たちのチームではLLM(Agent)を利用して各企業の経営課題を各種公開資料から抽出し、課題一覧として取得するということを行なっています。 こちらの処理では、企業の実態を反映した高品質な課題を抽出するため、LLM(Ag

導入：フローの「メイン読者」がLLMになる時代

こんにちは。プロダクト開発部介護キャリア開発グループの髙木です。 直近で新しいチームに移ったのですが、新しいチームで仕事をしやすくするために仕事の雑談というものを主導してやってみました。2か月ほどやってみたところ思っていたよりも感触が良かったので紹介させてください。 前提として、今のチームのプロダクト開発はリモートワークで進められており、同期的なコミュニケーションを取る頻度は朝会のみとなっています。それ以外は必要に応じて会を設定するような形になっています。 どういう課題を感じていたか 新しいチームに移った

2026年6月25日・26日の2日間、AWS Summit Japan 2026 が開催されました。本ブログは、AWS Expo エリア内にてデモを展示した「 完全自律型 AI Agent が変える SaaS の世界 」ブースの内容をご紹介します。デモの背景にある課題認識、技術的な仕組み、来場いただいたお客様の反応、そして本テーマに興味を持つ方向けの次のステップを記載します。 なぜこのデモを展示したのか Agent 時代の SaaS に想定される 2 つの変化 AI Agent の台頭により、SaaS に

G-gen の佐々木です。当記事では、Google Cloud の生成 AI 開発・運用プラットフォームである Gemini Enterprise Agent Platform に統合された評価サービス、 Gen AI Evaluation Service を解説します。生成 AI の出力品質を客観的・データドリブンに評価できるサービスです。 概要 Gemini Enterprise Agent Platform とは Gen AI Evaluation Service とは 当記事で扱うインターフェース

本ブログは、2026 年 7 月 14 日に Vandit Kothari によって執筆された「 Updates to AWS Certified Machine Learning Engineer – Associate (MLA-C02) 」を翻訳したものです。 近日公開 : AWS Certified Machine Learning Engineer – Associate アップデート (MLA-C02) AWS 認定は、AWS Certified Machine Learning Engine

トリビューでCTOをしている小尾（@obiyuta）です。 弊社では2026年7月、美容医療アプリ「トリビュー」にAI相談機能をリリースしました。悩みごとのヒアリングから始めて、ユーザーの希望条件に沿って施術やクリニック、メニューの候補を検索・整理して提示し、そのまま予約まで行うことができるAIチャット機能です。 この記事は、医療ドメインにおいてユーザー向けのAI機能を提供するにあたり、安全性やコストを犠牲にせずベストな体験を提供するための設計やそこに至る失敗をお伝えできればと思います。 ! バックエンド

本記事は先日開催されたACL 2026についてのものです。 ACL 2026は計算言語学や自然言語処理に関するTier1の国際会議であり、昨今流行りのLLMや生成AIに関する研究も多く発表されています。 ここではACL 2026がどのような国際会議かということについて、開催規模や投稿論文の傾向などの観点から紹介します。 またACL 2026に採択された論文の中から一部を取り上げ、その内容について説明します。 はじめに ACLについて 開催規模 論文数の増加と生成AI対策 採択傾向 Best Papers