本記事は 2025 年 4 月 7 日に AWS Machine Learning Blog で公開された Effectively use prompt caching on Amazon Bedrock を翻訳したものです。翻訳はソリューションアーキテクトの川戸渉が担当しました。 Amazon Bedrock において、プロンプトキャッシュの一般提供が開始されました。Anthropic の Claude 3.5 Haiku と Claude 3.7 Sonnet に加え、 Nova Micro、 Nov

LLMOpsとは？ 近年、GPT-4のような大規模言語モデル（large language model、以下LLM）の使用が普及し、それを活用したアプリケーションの開発が活発に行われています。たとえば...

ども！４月に年度が更新され、４年目のエンジニアになった龍ちゃんです。気づけば、また春の季節になっていますね。春といってもまだ寒いですね。 今回は、Azure OpenAI Serviceのお話になります。生成AIを活用したアプリを作成する際に、レスポンスがJSONで返答されるかどうかは重要な要素になります。DifyでもAOAIでも、方法を模索して実装していました。 Difyでの構造化：「 Dify入門ガイド：LLM出力を構造化する！JSONデータ作成の具体的手順 」 AOAIでの構造化：「 AOAI：Gp

Muddy WebはMuddy = 泥臭いとして、Webフロントエンドの開発現場における話やケースス ...

AWS の生成 AI ワークロードのコスト最適化に関するシリーズの第 2 回目のブログへようこそ。 最初のブログ では、生成 AI を適用するためのさまざまな実装アプローチとクラウド財務管理の原則に関する概要を説明しました。今回は、Amazon Elastic Compute Cloud ( Amazon EC2 ) と Amazon SageMaker AI を使用し、カスタム AI モデルの構築とデプロイに関するコスト最適化戦略について詳しく説明します。大規模な言語モデルをトレーニングする場合、既存の

1. 前書き こんにちは。 前回に引き続き、ホワイトペーパー「Elasticsearchを使った簡易RAGアプリケーションの作成」に 記載した技術的要素を紹介いたします。（*脚注1 1 ） 今回は、同義語の利用です。 対象者 Elastic Cloud のアカウントをお持ちの方（トライアルライセンスを含む） Elasticsearch の初心者～中級者 できるようになること Elasticsearch に同義語の登録ができる。 Elasticsearch で同義語を考慮した検索を実行できる。 前提条件 E

1. はじめに ! ローカルで Gemma 3 を動かす方法だけ知りたい方は 6. セットアップ手順 へ。 出典：https://developers.googleblog.com/ja/introducing-gemma3/ 近年、大規模言語モデル（以下 LLM）の進化は目覚ましく、その性能向上と共に、クラウドだけでなく一般的な PC やノートパソコンでの実行も現実的になってきました。Mistral AI などがローカル実行可能なモデルを提供する中、2025 年 3 月 12 日に Google が公開

Insight Edgeのデータサイエンティストの山科です。 今回はタイトルにもある通り、画像に対する異常検知結果を大規模言語モデル(LLM)で解説させることで説明性を付与できるか検証を行いましたので、その結果について記載したいと思います。 なお、本内容は先日、長崎で開催された自然言語処理学会（NLP2025）でも発表した内容（ 自然言語での異常解釈:LLMを用いたAI説明モデルの提案 ）となっています。 目次 はじめに なぜ異常検知タスクで説明性が必要なのか 提案アプローチ 実験 まとめ はじめに 異常

はじめに こんにちはサイオステクノロジーの小野です。今回はOpenShift AIのモデルレジストリ機能について解説します。この機能を利用することで、モデルの各種情報を整理することができ、管理がしやすくなります。 モデルレジストリは2025年4月4日現在テクノロジープレビューです。この機能はサポート対象外であることと、製品版では変更される可能性があることに注意してください。 モデルレジストリ モデルレジストリはMLOpsにおける機械学習モデルの数々のメタデータを保持する機能です。この機能により、モデルのバ

こんにちわ。GS です。 今回は、playwright-mcp を駆使して、AI を活用したソフトウェアテストの設計から実行、結果の出力に至るまでの様々な工程の自動化を試みていきます。 キーとなる技術は、 MCP Playwright Aria snapshots LLM の3つです。 前知識 まずは今回使用する技術や概念について説明します。 MCP（model context protocol）とは MCP は「Model Context Protocol」の略で、AI モデル（LLM）が外部のデータソ

はじめに こんにちは、株式会社タイミーでデータサイエンティストとして働いている貝出です。直近はカスタマーサポートの業務改善に向けたLLM活用のPoCやシステム開発を行っております。 さて、今回は2025年3月10日（月）～3月14日（金）に開催された「言語処理学会第31回年次大会(NLP2025)」に昨年に続き参加してきましたので、その参加レポートを執筆させていただきます。 言語処理学会年次大会について www.anlp.jp 言語処理学会年次大会は 言語処理学会 が主催する学術会議であり、国内における言

G-gen の大津です。当記事では、Google Cloud（旧称 GCP）の Gemini 2.0 Pro と Text-to-Speech を使って、音声で応答するチャットボットの開発手順を紹介します。 当記事で開発するもの 画面イメージ できること できないこと 免責事項 ディレクトリ構成 プログラムの解説 システムプロンプトの作成と解説 ソースコードの解説 準備 UIの構築 処理 実行方法 ローカル環境での実行方法 プログラムの保存 実行方法 Cloud Run へのデプロイ方法 Cloud Ru

chakoshi とは なぜ生成 AI の安全性が求められるのか 生成 AI の安全性の現状 生成 AI の安全性対策案 日本語に特化した入出力チェックができる chakoshi chakoshi の特徴について 日本語の性能が高い カスタマイズ性が高い 終わりに 初めまして。イノベーションセンターの山本（ @yyo616 ）です。普段は生成 AI に関連する新規プロダクトの開発や技術検証をしています。先日、生成 AI の安全性向上サービス「chakoshi」と、生成 AI の回答精度を高めるためのドキュ

はじめに こんにちは、クラウドエース第三開発部の橋野です。 今回は大規模言語モデル(以下、LLM)を活用したアプリケーションを分析・評価できるツールである Langfuse を触ってみたので試したことを記事にまとめてみました。 Langfuse の始め方 Langfuse を利用する際は、ホスティング方法として以下の2種類が用意されています。 セルフホスティング Langfuse アカウントを利用したホスティング 本記事では、Langfuse アカウントによるホスティング方法を推奨します。Free プラン

ビジネスdアプリ開発チームの立木です。現在、私たちのチームでは生成AIによる開発効率の向上を検討しています。その一環として、コードレビューの自動化を検討しています。 そこで、本記事では検証の一環として勉強も兼ねて、GoogleのLLM「Gemini」でコードレビューをするGitHub Actionsを自力で構築してみたのでその方法を紹介します。 Geminiとは Google AI Studio Vertex AI Google Gen AI SDK 着想の背景 コードレビューの観点 完成したもの ファイ