株式会社AI Shift(株式会社サイバーエージェントグループ) の技術ブログ

【AI Shift Advent Calendar 2024】PydanticAI で実現する Dependency Injection

はじめに こんにちは、AI Shift のAIチームに在籍している長澤 ( @sp_1999N ) です! この記事は AI Shift Advent Calendar 2024 の20日目の記事になります。 今回は比較的新しく登場した PydanticAI を使って、LLM の実運用におけるDependency Injection (DI, 依存性の注入) を検討してみたいと思います。 DI とは何かというトピックについても簡単に解説していますので、LLM を使用したアプリケー

【AI Shift Advent Calendar 2024】セールス経験ゼロの人間がセールス対話データセットを作ってみた話

こんにちは、AIチームの邊土名( @yaelanya_ml )です。 本記事は AI Shift Advent Calendar 2024 の18日目の記事です。 私はサイバーエージェントの研究組織である AI Lab の 完全自動対話研究センター という部署に所属していまして、現在は兼務という形でAI Shiftに関わっています。 せっかく(?)ですので、今回の記事では、この1年くらいの間 AI Lab で取り組んでいた セールス対話デー

【AI Shift Advent Calendar 2024】面白い研修コンテンツの作り方

こんにちは!AI Shift 生成AIビジネス事業部で研修講師を担当している及川 信太郎( @cyber_oikawa )です。 この記事は AI Shift Advent Calendar 2024 の17日目の記事です。 今回は、サービスとして提供している生成AIを使いこなすための研修について、約半年間研修を提供する中で考えた「面白い研修コンテンツの作り方」についてまとめます。 AI Shiftが提供している研修について AI Shif

【AI Shift Advent Calendar 2024】AIエージェントの設計とその勘所

こんにちは AI Shift CTOの 青野 です AI Shift AdventCalendar 2024 16日目です 今回はAIエージェントを開発する時の勘所について書こうと思います お付き合いお願いします〜 はじめに 昨今、生成系大規模言語モデル(LLM: Large Language Model)を活用したプロダクトの開発機会が急速に増えている。ChatGPTやGPT-4など、自然言語による高度な応答を可能とするLLMは、従来困難だった自然言

【AI Shift Advent Calendar 2024】MCP ClientをOpenAIモデルで実装する

こんにちは、AIチームの二宮です。 この記事は  AI Shift Advent Calendar 2024 の14日目の記事です。 はじめに Model Context Protocol (MCP) とは、Anthropicから公開されたOSSで、LLMがさまざまなツールやリソースを活用するための標準プロトコルです。MCPはClaude以外のモデルでも利用できるように設計されています。そこで、今回はOpenAIのモデルを用いたMCP Clientを実装してみます。 MCPの実

【AI Shift Advent Calendar 2024】VAD・VAPを用いた発話終了検知

こんにちは、AI Shift AIチームの大竹です。 本記事は AI Shift Advent Calendar 2024 の11日目の記事です。 今回の記事では弊社の AI Messenger Voicebot をはじめとした音声対話システムにおける主要な課題である発話終了検知について扱います。 発話終了検知とは 発話終了検知は、音声対話システムにおいて2つの重要な役割を担っています。 まず、スムーズなターンテイキングの実現

【AI Shift Advent Calendar 2024】FastAPIのプロファイリング

こんにちは、AIチームの干飯( @hosimesi11_ )です。 この記事は AI Shift Advent Calendar 10日目の記事になります。本記事では、FastAPIを使ったサーバのプロファイリングについて扱います。 本記事で用いたコードは こちら で公開しています。 はじめに 機械学習モデルのプロダクト組み込みが進むに連れて、データサイエンティストや機械学習エンジニアがモデルのプロダクト組み

【AI Shift Advent Calendar 2024】OpenAI gpt-4o-audioを用いた音声データからのエンティティ抽出の検証

こんにちは、AIチームの杉山です。 本記事は AI Shift Advent Calendar 2024 の6日目の記事です。 今回の記事では音声自動応答サービスにおけるエンティティ抽出の課題をOpenAI gpt-4o-audioを用いて解決できるか検証します。 音声自動応答サービスにおけるエンティティ抽出の課題 ちょうど 3年前の今日、弊社のAdvent Calendar で音声自動応答サービスにおけるエンティティ抽出の課題

【AI Shift Advent Calendar 2024】生成AIの研修を1年やって感じた、生成AIが企業で普及するまで

こんにちは!生成AIビジネス事業部で研修開発の責任者を務めている伊藤 優( @yuuito1995 )です。 AdventCalendar の5日目を担当させていただきます。(今日が誕生日なので、12/5を担当することにしました) 我々は今、生成AIを使いこなすための研修をサービスとして提供しています。 様々な企業に研修を提供する中で感じた、現場のリアルや普及までの道のりを今回はまとめさせ

【AI Shift Advent Calendar 2024】MCP(Model Context Protocol)を用いた予約対話AIエージェントの構築と動作のトレース

(サムネイルはDALLE-3によって生成) こんにちは、AI Shiftの友松です。 この記事は AI Shift Advent Calendar の4日目の記事です。 今回はAnthropic社から発表されたMCP(Model Context Protocol)について取り上げたいと思います。 MCP はLLMと外部データソース、ツールのシームレスな連携を行うためのプロトコルです。LLMは人間で言えば脳みそに当たる部分です。その能力を引き出すためには外

【AI Shift Advent Calendar 2024】第15回対話システムシンポジウム参加報告

こんにちは、AI Shiftの東( @naist_usamarer )です。 この記事は AI Shift Advent Calendar 2024 の2日目の記事になります。 本記事では、2024年11月28日(木)から29日(金)にかけて開催された第15回対話システムシンポジウムの内容について紹介を行います。 また、 AI Shiftから2件の発表 を行ったので、発表資料といただいた質疑の内容も併せて紹介していきたいと思います。 対話システムシ

【AI Shift Advent Calendar 2024】「大規模言語モデルⅡ」を読んで、RAG改善の勘所を整理してみた

はじめに 今年も始まりました、Advent Calendar。 こんにちは!AI ShiftのAIチーム所属の栗原健太郎 ( @kkurihara_cs )です! この記事は AI Shift Advent Calendar 2024 の1日目の記事です! Advent Calendarが始まったということは、もう年末なわけですが、とにかくOpenAI系のリリースが今年も多かったなと感じる1年でしたね(GPT-4o, GPT-4o-mini, o1など)。我々に関して言えば、LLMの事業応用に昨年

第15回対話システムシンポジウムで発表します

こんにちは、AIチームの東( @naist_usamarer )です。 2024年11月28日(木)から11月29日(金)にかけて開催される第15回対話システムシンポジウムにて、AI Shiftから一般発表セッション(ポスター+デモ)で1件、一般発表セッション(ポスター)で1件の発表を行います。 本記事では発表内容の概要となりますので、お聞きになる際の参考にしていただけると幸いです。 一般発表セッション(ポ

オペレーター研修支援ボットの開発@インターンシップ

はじめに こんにちは!奈良先端科学技術大学院大学 修士1年の夏見昂樹です。これまで研究ばかりで開発の経験がほとんどなかったので、大学院で学んでいる自然言語処理の技術を用いた社会実装を行いたい思いから、10月2日から10月31日までの約1ヶ月間、サイバーエージェントのインターンシップ-CA Tech JOBに参加させていただきました。 この記事では、私が本インタ

Realtime APIとTwilioを用いた電話予約デモシステムの構築

はじめに こんにちは、AI チームの長澤 ( @sp_1999N ) です。 今回の記事では 2024/10 に OpenAI から発表された Realtime API と Twilio を用いて、音声予約デモシステムを構築してみます。 Twilio が公開しているデモコード を参考に、function calling などを用いて簡単な対話管理・予約可能日の取得(空き枠検索)を組み合わせたシステムの構築を行い、現時点でのプロダクト適用可能性
123