こんにちは、Insight Edgeでリードデータサイエンティストを務めている ヒメネス（Jiménez） です！ 前回の投稿 から丸1年経ちましたが、改めて皆さんと知識共有できればと思います。今回は、話題のOpen Source LLM（Llama, Mistral, DeepSeek等）をローカルで実行する方法を紹介します。 目次 LM Studioの紹介 LLMをローカルで実行 準備 Pythonプログラムから実行 単体実行 OpenAIを通した実行 活用例：討論する哲学者 哲学者の定義 討論内容の

本文は、LLM（Large Language Models）を活用したサービスの一つであるRAG（Retrieval-Augmented Generation）について説明しています。RAGは、外部情報を検索し、その結果を基にLLMに回答させる手法で、簡単・低コストで高精度な回答が得られるメリットがあります。

複雑な思考はAIに任せ、人がすべきは「さまよう思考」 2025.3.8 監　修 株式会社Laboro.AI　執行役員 マーケティング部長　和田 崇 概　要 「一瞬で答えなくてもいいから、複雑な問題も解いてくれたら…」そう思っていたのも束の間、これまで検索エンジンの延長のようだった生成AIが急速に進化し、より複雑かつ慎重に質問に答えるモデルが次々と発表されています。人間が難しいことを考えるのに時間をかけるように、この推論型の生成AIも時間を必要としますが、それでも人間よりは早く、その精度は向上今後もしていく

こんにちはAI Shiftの栗原です。3月10日(月)から3月14日(金)に 出島メッセ長崎 で 言語処理学会年次大会(NLP2025) が実施されます。AI Shiftからは口頭発表1件とポスター発表3件の合計4件の発表を行います。（口頭発表1件、ポスター発表1件は東北大NLPグループとの共同研究。）栗原の発表については、社内のゼミ制度による組織横断活動の成果発表になります。 本記事では各発表の概要と、議論したいポイントについて取り上げたいと思います。（AI Shift メンバー関与分のみ記載） 1.

はじめに こんにちは！早稲田大学大学院創造理工学研究科 修士1年の櫻井洸介です。私はCA Tech ...

はじめに こんにちはサイオステクノロジーの小野です。 以前の記事 で、Azure OpenAIのLLMをLightspeedと連携する方法について解説しました。今回はOpenShift AIにデプロイしたLLMをLightspeedと連携させる方法について解説します。 OpenShift AIとOpenShift Lightspeed連携 OpenShift Lightspeeedを利用する上で、OpenShift AIのようなローカル環境にデプロイしたLLMと連携する場合と、Azure OpenAIのよ

本ブログは 2025 年 1 月 21 日に公開された「 Safeguard your generative AI workloads from prompt injections 」を翻訳したものとなります。 2025 年 1 月 23 日： 間接的プロンプトインジェクションの定義を明確にし、新しい具体例を追加するため、この投稿を更新しました。 生成 AI アプリケーションは人間のようなコンテンツを作成する強力なツールとなっていますが、同時にプロンプトインジェクション、過剰な代理行為、その他の新たなセキ

第1章: Difyとは？ 生成AIが注目され始めて早数年。ChatGPTの登場が世間を賑わしたのは記憶に新しいですね。その後も、DALL-EやGPT-4など、様々な生成AIが登場しました。これらの生成AIは、それぞれの特徴を持ち、様々な用途に活用されています。ChatGPTなどの生成AIの技術は、LLM（Large Language Model）と呼ばれ、膨大なテキストデータから学習し、高度な言語理解を実現する技術であり、自然言語処理の分野で大きな注目を集めています。 そして、LLMを利用したアプリも登場

こんにちは。 エンタープライズ 第一本部の新人、佐藤悠です。 はじめに 筆者について AIFの概要 AIFで問われるAWSサービス Amazon SageMaker [2] Amazon SageMaker Clarify [3] Amazon SageMaker Canvas [4] Amazon Bedrock [5] Amazon Bedrock ガードレール [6] その他のサービス AIFで問われる概念 責任あるAI [7] 機械学習の手法 LLMに関して 学習教材 CloudLicense H

2 月 20 日に開催された AWS Developer Day 2025 では、責任ある生成 AI を開発ワークフローに統合する方法が紹介されました。このイベントでは、Director Generative AI Applications and Developer Experiences の Srini Iragavarapu 、Vice President of AWS Evangelism の Jeff Barr 、Director Open Source Marketing of AWS の D

はじめに こんにちは！ KINTOテクノロジーズの生成AI活用PJTで生成AIエンジニアを担当しているAlexです。 最近、LLM（大規模言語モデル）を利用したマルチエージェントシステムの需要が急速に高まっています。今回、LangGraphの最新アップデート「langgraph_supervisor」を活用し、わずか30分以内でSupervisor型マルチエージェントシステムを構築した実例をご紹介します。このシステムは、複数の専門エージェントを中央のスーパーバイザーが効率的に調整・連携させる仕組みとなって

はじめに こんにちは。 セーフィー株式会社 先行開発Gの井上です。 今回は、タイトルの通り llama.cpp を使用して MiniCPM-o-2_6 をローカル環境で動作させる方法 について解説します。ローカルでの動作環境を簡単に構築できる手順を紹介しますので、ぜひ参考にしてください。 はじめに 用語解説 llama.cppとは？ MiniCPM-o-2_6とは？ CMakeとは？ CMakeを使用する利点 PCスペック・環境 実装の前準備 CMakeの導入方法（Windows 11基準） MiniCP

アマゾン ウェブ サービス ジャパン（以下、AWS ジャパン）が 2024 年 7 月に発表した「 生成 AI 実用化推進プログラム 」は、生成 AI の活用を支援する取り組みです。基盤モデルの開発者向けと、既存モデルを活用する利用者向けの 2 つの枠組みを提供し、企業の目的や検討段階に応じた最適な支援を行っています。 その「生成 AI 実用化推進プログラム」の参加者や、GENIAC（Generative AI Accelerator Challenge）の関係者、生成 AI に関心を持つ企業が一堂に会す

こんにちは、イノベーションセンターの加藤です。この記事では、Transformerベースの言語モデルで利用可能な高速化技術である投機的デコーディング(speculative decoding)を用いて、音声認識モデルのWhisperの高速化を検証したのでその結果を紹介します。 投機的デコーディングとは Whisperとは 実験 英語音声 (LibriSpeech) の結果 日本語音声 (Common Voice 17.0 日本語サブセット) の結果 まとめ 投機的デコーディングとは 大規模言語モデル(LL

1. 企業におけるテキストデータの活用 企業が日々蓄積するデータの多くは、数値データだけでなく、メール、営業日報、コールセンターの記録、社内文書などのテキストデータが含まれます。。これらのデータは非構造化データと呼ばれ、構造が無いために分析しづらい一方で業務改善や意思決定に役立つ隠れたインサイトが含まれている可能性が高いです。。従来では、テキストマイニングツールを活用し、自然言語処理（NLP）技術によってテキストデータを解析する方法が採用されていましたが、以前のNLP技術を活用したテキストマイニングは主に