「大規模言語モデル（LLM）」に関連する技術ブログ
企業やコミュニティが発信する「大規模言語モデル（LLM）」に関連する技術ブログの一覧です。
全504件中 391 - 405件目
llama.cpp の動かし方と量子化手法
2023/12/17
ブックマーク
はじめに Turingアドベントカレンダー17日目です！今日は Research チームの柏谷が担当します。 Research チームでは、LLMによる完全自動運転を実現するための技術開発を行っています。その中で重要な技術の１つが量子化です。量子化によって少ビットでパラメータを表現できれば、LLM の膨大なパラメータのデータ圧縮が可能となります。量子化実装はいろいろと考えられま
品質要件が厳しいLLMアプリケーションのトライアル評価を通じて得た知見
2023/12/16
ブックマーク
こんにちは。メルペイ Machine Learning エンジニアの@gucciです。 この記事は、 Merpay Advent Calendar 2023 の16日目の記事です。 はじめに 2023年3月、OpenAI社がChatGPTを発表して以来、大規模言語モデル（LLM）の可能性に世界中が注目しています。企業や個人がLLMをどのように活用できるかを模索する中、実際にLLMを用いたプロダクトが市場に登場し始めています。メルカリグループで
Azure OpenAI Service と LangChain を用いて、会話をしながら自社サービスに API を実行してくれるチャットボットを作った
2023/12/16
ブックマーク
この記事は、 NTT Communications Advent Calendar 2023 16日目の記事です。 こんにちは! クラウド & ネットワークサービス部の外村です。 普段は VxF 基盤 という 社内サービス用クラウドの開発・運用をしつつ、ソフトウェアエンジニア育成研修である twada 塾 の研修運営をしています。 今回は自己研鑽と業務効率化を目的として大規模言語モデル (以下、LLM) を用いたチャット
Vertex AI Gemini APIのFunction callingを触ってみた！！
2023/12/15
ブックマーク
G-gen 又吉です。今回は、Vertex AI Gemini API の Function Calling を触ってみたの概要を紹介します。 はじめに Gemini とは Function calling とは Function calling の仕組み Vertex AI Extensions との違い 触ってみる 実行環境 事前準備 動作確認 はじめに Gemini とは Geminiとは、Google から発表された高性能なマルチモーダルな生成 AI モデルです。テキストおよび画像、動画などの様々な種類のデータ
LLMを利用したテキストアノテーションのツール化
2023/12/15
ブックマーク
本記事は BASE アドベントカレンダー 2023 の15日目の記事です。 はじめに こんにちは。BASEのデータ分析チーム（Data Strategy Team）で不正対策を行ったり、機械学習を触ったりしている竹内です。 ChatGPT（GPT-3.5 Turbo）が2022年の11月に公開されてから、だいたい1年以上が経ったことになります。 そしてこの1年近くでChatGPTに匹敵する多数のLLMの公開や国産LLM作成の動き、拡散
数式を追う！Transformerにおけるattention
2023/12/15
ブックマーク
本記事は、「LabBaseテックカレンダー Advent Calendar 2023」 15日目の記事です。 https://qiita.com/advent-calendar/2023/labbase はじめに 株式会社LabBaseでインターンをしている佐藤拓真と申します。 本記事では、attentionについて、特にTransformerにおいて使用されている形 に注目して、数式を追った理論的な理解をすること を目指します。 数式やその解説は、『自然言語処理の基礎』[岡崎,
Studio Botを用いたAndroidアプリ開発について検討する
2023/12/15
ブックマーク
この記事は CyberAgent Developers Advent Calendar 2023 1 ...
アニメーションでDeepSpeed (ZeRO1)の仕組みを完全に理解する
2023/12/14
ブックマーク
Turingのリサーチチームで完全自動運転の研究開発を行なっている棚橋です。Turingアドベントカレンダー14日目の記事として、DeepSpeedについて取り上げます。 DeepSpeedはMicrosoftによって開発されたライブラリで、一言で言うと、「1つのGPUに乗り切らないような巨大MLモデルをなんとか学習させるため」のツールです。特に、この論文で提案されているDeepSpeedのZero Redundancy Optimiz
Retrieval-Augmented Generationを使ってコードの解説を生成してみる
2023/12/13
ブックマーク
はじめに こんにちは。 株式会社エブリーの開発本部データ&AIチーム(DAI)でデータエンジニアをしている吉田です。 この記事は every Tech Blog Advent Calendar の13日目の記事になります。 今回は、社内ChatApp向けに作成した、RAG(Retrieval-Augmented Generation)と呼ばれる手法を用いてコードを解説する機能について紹介します。 社内向けChatApp作成の取り組みは こちらの記事 で紹介さ
Amazon Q と Amazon Connect の新しい生成系 AI 機能がコンタクトセンターのサービス向上を促進
2023/12/13
ブックマーク
コンタクトセンターを管理されている方であれば、エージェントが顧客の信頼とロイヤリティの構築に果たす重要な役割をご存知でしょう。コンタクトセンターに問い合わせをしたことのある人なら、複雑な意思決定を導き、必要な場合には迅速かつ正確なソリューションを提供するエージェントがいかに重要であるかをご存知でしょう。これには時間がかかり、正しく
サイバーエージェントの生成AI開発を支える機械学習基盤
2023/12/12
ブックマーク
この記事は CyberAgent Developers Advent Calendar 2023 1 ...
グラフニューラルネットワークの予測結果を解釈してみよう
2023/12/11
ブックマーク
この記事は、 NTTコミュニケーションズ Advent Calendar 2023 11日目の記事です。 はじめに こんにちは。コミュニケーション&アプリケーションサービス部の石井です。 今年はAI分野においては LLM 1 の話題で持ちきりの一年でしたが、そんな LLM とは全く関係のないグラフニューラルネットワーク（以下、GNN）の説明性に関する手法である GNNExplainer を題材に扱っていこうと思
🦜️🔗 LangChainとRAG: Embeddingで外部データを利用する
2023/12/11
ブックマーク
この記事は CyberAgent Developers Advent Calendar 2023 1 ...
子ども向けプログラミング学習サービスの多言語翻訳における生成AI活用の可能性
2023/12/08
ブックマーク
はじめに この記事は CyberAgent Developers Advent Calendar 2 ...
生成AI初心者がAmazon BedrockのKnowledge baseを使ってRAGを試してみた
2023/12/07
ブックマーク
本記事は TechHarmony Advent Calendar 12/7付の記事です。 こんにちは。SCSK石原です。 AWS re:Invent2023にて、 Amazon BedrockのKnowledge baseとAgentsがGA されたと発表がありました。今回はこのうちKnowledge baseを利用して、RAG（Retrieval Augment Generation）を試してみたいと思います。 RAGにより、データストアから情報を取得して大規模言語モデル (LLM) によって生成された応答を拡張することがで