「大規模言語モデル（LLM）」に関連する技術ブログ

2024年06月03日

こんにちは AIチームの戸田です今回はLLMを軽量化するPruningを行うライブラリ、SliceGPTを使って日本語LLMのPruningを試してみたいと思います。 SliceGPT LLMに限らず、大規模なニューラルネットワークのパラメータを圧縮する手法の一つにPruningがあります。日本語では「枝刈り」や「剪定」とも訳されており、重要ではないと思われるノード間の重みを削除することでパラメータ数を削減する手法です。こちらの論文などが有名です。 Pruningのイメージ PruningはLLMの

ネットワーク, 大規模言語モデル（LLM）

株式会社AI Shift（株式...

2024年05月31日

GPT-4oのスピードと精度に驚愕！これからのLLM活用と未来

みなさんこんにちは！ワンキャリアの（データサイエンティスト）兼マーケターの長谷川(GitHub：@tyuyoshi)です！本記事では、先日OpenAIから発表された新モデル「GPT-4o」について、従来の「GPT-4」と比較していきたいと思います。GPT-4oは計算速度が驚異的に向上したと、かなり話題になっていますよね。とはいえ、実際のパフォーマンスはどうなのでしょうか？今回は文章生成と画像認識、そして計算速度の3つの側面から、検証していきます。

GitHub, 人工知能, 大規模言語モデル（LLM）

株式会社ワンキャリア

2024年05月29日

DifyとSlackを連携したSlack Botをつくってみた

こんにちは堤です。最近よくDifyを使って遊んでいます。使っていくなかで他のチャットツールと連携させる方法を知りたいと思ったので、今回はSlackと連携する方法を備忘がてらまとめてみました。 Difyとは Slack Botの作り方 Slack Botの準備権限の付与 Lambdaの関数URLの作成 Event Subscriptionsの設定 Difyのアプリ作成 Lambda関数の作成動作確認 Bot作成例まとめ Difyとは Difyは、オープンソースのLLMアプリケーション開発ツールで、ド

AWS, OSS, 大規模言語モデル（LLM）

NRIネットコム

2024年05月29日

低レイテンシーワークロード向けに最適化された Mistral Small の Amazon Bedrock での提供開始

5月24日は、 Amazon Bedrock で Mistral AI からの Mistral Small 基盤モデル (FM) の一般提供が開始されたことをお知らせします。これは、最近行われた 3 月の Mistral 7B と Mixtral 8x7B 、4 月の Mistral Large の発表に続くものです。これからは、Amazon Bedrock で Mistral AI からの 4 つの高性能モデルである Mistral Small、Mistral Large、Mistral 7B、および

AWS, 人工知能, 大規模言語モデル（LLM）

AWS

2024年05月27日

爆速で「あたらしい出会いを繋ぐ」を創った、メルカリハロのエンジニアリング

こんにちは。メルカリのVPoE Workの @godriccao です。『連載：Mercari Hallo, world! -メルカリハロ開発の裏側- 』の1回目を担当させていただきます。スピードがクリティカルであるメルカリハロの展開を支えるエンジニアリングを紹介いたします。実現したい世界は「新しい出会いを繋ぎ、信頼と機会をひろげる」メルカリのミッションは「あらゆる価値を循環させ、あらゆる人の可能性を広げる」です。フリマアプリ「メルカリ」でのモノの循環に始まり、これまで「お金」「信用」「暗号資

アルゴリズム, SRE, 大規模言語モデル（LLM）