こんにちは。AWS CLIが好きな福島です。 はじめに イメージ サンプルコード フロントエンド(frontend.py) バックエンド(backend.py) 実行方法 ポイント ストリーミング出力について 会話履歴の表示 選択したモデルに応じた動的なカラムの用意 補足 モデルを追加したい場合 モデルのデフォルトの数を変更したい場合 終わりに はじめに 突然ですが、さまざまな種類の大規模言語モデル（LLM）が存在することを考えると、複数のLLMに同時に質問してみたいと思ったことはないでしょうか。 そこで

AWS re:Invent 2023 では、生成系 AI によって形作られる未来に向けた最も有望なイノベーションとコンセプトのいくつかが紹介されました。AWS のサービスはその未来の中心であり続け、それをサポートするために進化しています。 re:Invent 2023 では、Amazon Connect に直接統合された新しい生成系 AI 機能コミュニケーションチャンネルを発表しました。これらの機能は開発を必要としないため、お客様は迅速にイノベーションを起こすことができます。さらに私たちは、Amazon

サーバーワークスの村上です。 このブログではRAGの評価フレームワークであるragasについて紹介します。 ragasとは RAGの評価イメージ ragasでできること概要（忙しい方向けのまとめ） このブログで検証したこと ragasの利用の流れ テストデータの作成 RAGアプリケーションの回答を取得 評価 具体的な実装 テストデータの作成 htmlのロード LLMの定義 プロンプトのカスタマイズ テストデータの作成 生成できる質問の数 生成したテストデータをCSVに保存 RAGアプリケーションの回答を取

11月29日は、 Amazon DocumentDB (MongoDB 互換) のベクトル検索 の一般提供についてお知らせします。この製品は、ドキュメントデータベース内でミリ秒の応答時間で何百万ものベクトルを保存、索引付け、検索できる新しい組み込み機能です。 ベクトル検索は、 機械学習 (ML) で使用される新しい手法で、距離または類似度メトリックを使用してベクトル表現を比較することにより、特定のデータに類似したデータポイントを検索します。ベクトルは、Amazon Bedrock、Amazon SageM

はじめに こんにちは！ 今年も国内外様々な LLM(大規模 言語モデル )が公開されましたね！ LLM の選定や調査・実験をする際、リソースの要求レベルが非常に高く、ローカル環境での実施はかなりハードルが高いですよね... そこで今回は、 Google Colab（正式には Colaboratory）を利用して LLMを動かす方法を紹介します。 サクッと LLM を動かしたい時におすすめです！ はじめに Google Colab 基本的な使い方 エラーがでたときは？ セッションが多すぎるとき なぜかうまく

この記事は、 NTTコミュニケーションズ Advent Calendar 2023 25日目の記事です。 はじめに こんにちは、イノベーションセンター　テクノロジー部門 メディアAI PJ所属の和田、小林です。 普段は画像/映像/言語/音声 等メディアを入力としたAI技術（メディアAI技術）を用いて、事業部/関連部支援や最新技術の調査/研究開発を行なっています。 今回は技術調査の一環として参加した「ViEW2023」について、ワークショップの概要や発表された論文について紹介したいと思います。 ViEW20

この記事は CyberAgent Developers Advent Calendar 2023 2 ...

はじめに 「KINTOテクノロジーズに入社するまで、Web業界は未経験だった」と言うと、えっ？という顔をされます。そんなキャリアの人が何で入社した（できた）んだろうという戸惑いの顔。しかも20代の若手じゃなくて、40代のおっさんが、何で？ 異世界の歩き方 もともとは、家電の組み込みソフト開発のプログラマー。そこから車載ECUの制御ソフトを経験して、前職では欧州系の会社でエンジンなどの試験設備を導入するプロジェクトマネージャーをやってました。ソフトはあくまで全体の一部であり、機械/電気/計測/流体/シミュレ

はじめに こんにちは、株式会社AI Shiftでデータサイエンティストチームのマネージャーをしている ...

お客様がコンタクトセンターを管理しているなら、組織が顧客の信頼とロイヤルティを構築する上でエージェントが重要な役割を果たしていることをご存知でしょう。コンタクトセンターに連絡したことがある人なら、エージェントが複雑な意思決定を導き、必要に応じて迅速かつ正確なソリューションを提供することがいかに重要であるかを知っています。これには時間がかかり、正しく行わないとフラストレーションがたまる可能性があります。 Amazon Connect の生成系 AI 機能 本日、 Amazon Connect の既存の人工知

はじめに こんにちは。メルカリ Director of Engineering の @motokiee です。この記事は、 Mercari Advent Calendar 2023 の21日目の記事です。 メルカリのサービス開始から10周年ということで、2023年9月に iOSDC Japan 2023 カンファレンスで「メルカリ10年間のiOS開発の歩み」について 発表を行いました 。 この発表は、10年間のiOS開発の歴史を40分のトークにまとめたものです。メルカリはこの10年多くの技術的なチャレンジ

今年の流行語といえばLLMですが、中でもローカルLLMの技術がプログラマ的には気になります。何かに使えそう！ そこでローカルLLMの代名詞である（？）llama.cppを眺めていたところ、堂々とPackage.swiftがあるのに気づきました。 https://github.com/ggerganov/llama.cpp/tree/master ということは、自力で難しいことをしなくても、簡単にSwiftから利用できそうです。 今更感もありますが、この記事ではllama.cppをSwiftから使って色々遊

プロンプトエンジニアリング【ビジネス成長のためのAI用語】 2023.12.20 株式会社Laboro.AI　リードマーケター　熊谷勇一 用語解説 プロンプトエンジニアリングという言葉はもちろん、「プロンプト」と「エンジニアリング」という二つの要素で構成されています。プロンプトとは生成AIに対してユーザーが入力する質問や指示のことです。そして「エンジニアリング」は、生成AIから得られる出力（返答テキストや画像など）がより望ましいものになるようにプロンプトを工夫することです。逆を言えば、生成AIの出力はプロ

この記事は、 NTTコミュニケーションズ Advent Calendar 2023  20日目の記事です。 はじめに こんにちは。 コミュニケーション&アプリケーションサービス部の吉仲です。 新卒2年目で、普段はB向け/C向けメールシステムと文書要約APIサービスの開発・運用に関する業務に取り組んでいます。 今回は、昨年から引き続き話題の生成AIのひとつ、大規模言語モデル (LLM: Large Language Model) を題材に、LLMを使って文章を「やさしい」表現へ言い換える例を紹介しま

この記事は CyberAgent Developers Advent Calendar 2023 2 ...