本記事は先日開催されたACL 2026についてのものです。 ACL 2026は計算言語学や自然言語処理に関するTier1の国際会議であり、昨今流行りのLLMや生成AIに関する研究も多く発表されています。 ここではACL 2026がどのような国際会議かということについて、開催規模や投稿論文の傾向などの観点から紹介します。 またACL 2026に採択された論文の中から一部を取り上げ、その内容について説明します。 はじめに ACLについて 開催規模 論文数の増加と生成AI対策 採択傾向 Best Papers 論文紹介 ClusterRAG: Cluster-Based Collaborative Filtering for Personalized Retrieval-Augmented Generation [Nkhata et al., 2026] コンセプト 概要 感想 Instant Personalized Large Language Model Adaptation via Hypernetwork [Tan et al., 2026] コンセプト 概要 感想 Preference Heads in Large Language Models: A Mechanistic Framework for Interpretable Personalization [Zhang et al., 2026] コンセプト 概要 感想 おわりに 参考文献 はじめに はじめまして。イノベーションセンター GenerativeAI PJの安川です。 普段は rokadoc という、生成AIを用いたドキュメント活用に資するプロダクトの開発に携わっています。 本記事ではACL 2026の概要を紹介するだけではなく、Best papersに選出された論文や私が興味を持っている分野の論文をいくつか紹介します。 昨今では生成AIによってぐっと論文を読むハードルが下がったと感じています。 本記事を読んで論文に興味を持たれた方は是非、ご自身の興味のある内容について調べてみてください。 ある程度有名なサービスをお使いであれば、ご自身の興味を述べた上で「ACL 2026で関連する論文を探して」と頼むと探してきてくれると思います。 ACLについて ACL (Annual Meeting of the Association for Computational Linguistics) は計算言語学、自然言語処理に関するTier1の国際会議です。 近年ではARR (ACL Rolling Review) と呼ばれるダブルブラインド形式の査読制度が採用されています。ARRで査読とメタレビューを受けた論文を著者がACLへ提出し、その査読結果に基づいて、ACLの本会議またはFindingsへの採否が決定されます。 ACL 2026は2026年7月2日-7月7日にアメリカのカリフォルニア州で開催されました。 開催規模 投稿数、採択数の推移は以下のようになっています。 また投稿数が増えるということは採択率が下がるということです。 これまでも難易度の高い国際会議と呼ばれ、相応の採択率の低さでしたが、今年は20%を下回るという状態になりました。 （※）年ごとに公開されている情報が異なり、また公式情報の中にも揺れがあるため参考情報としてください。 ACL 2026の投稿数は前年比で45%増となっています。 これには近年の生成AIによる論文の執筆の自動化の影響が少なからずあると考えられます。 論文数の増加と生成AI対策 先述の通りの投稿数の増加は一過性のものではなく、2026年5月分の投稿が17,087件に達しました。 ARR運営は査読者の規模が投稿数の増加に追い付いていないとして、著者への相互査読義務の拡大を決定しています。 加えてACL史上初めての投稿数の制限を含む選択肢が検討されていると発表がありました ( An explanatory letter on the ARR May 2026 cycle )。 この中で生成AI対策も進められています。 具体的にはHalluCitation [Sakai et al., 2026]で知られる架空の論文を引用しているという問題の対策として、存在しない参考文献を含む投稿をデスクリジェクトしています。 加えてカメラレディ最終チェックで100本以上の採択済み論文に架空の引用が見つかり、不採択とされました（ただし通常の再投稿は可能） ( ACL Statement on Desk Rejecting Papers with Hallucinated References )。 採択傾向 ここでは採択論文のタイトルから特定のキーワードを抽出し、その傾向を見ます。 グラフからは以下の傾向が読み取れます。 LLMが突出している 昨年に比べてやや下がってはいるが、すでに一般的に扱われる問題となっており、タイトルに明示する論文が減っただけの可能性がある。その上、下がったとしても約1/3を占めている 推論、エージェント、強化学習・報酬が昨年から伸びている Claude CodeやCodexなどCoding Agentの躍進を鑑みると納得の結果となっている。すでに1つのLLMのみに完結した使い方は想定されておらず、多数のLLMを協調させツールを利用するのが応用面でもスタンダードになっている より難しい問題を解くために用いられる推論や強化学習もより注目を集めている。また強化学習はエージェントの協調やツール利用を促進する目的でも使われるため、扱う論文が増えたのだと考えられる 評価・ベンチマーク、マルチモーダル・視覚は10%を超えた状態で昨年から安定している 双方解いている問題は昨年に比べて大きく難化している印象。また応用面を考えると評価はモデルの進歩に合わせて続ける必要があり、今後も高い比率で推移していくと考えられる 相対的に縮小したのは、多言語・低資源、バイアス・公平性、プロンプト・文脈内学習、ファインチューニング、長文脈、翻訳辺り この辺りはモデルの大規模化、マルチタスク化の影響を受けていると言える Best Papers ACL 2026でBest Papersを獲得した論文の概要を紹介します。 どの論文もBest Papersを獲るに相応しい大変面白い論文のため、気になった方は是非とも元論文を参照ください。 The Imperfective Paradox in Large Language Models [Ma & Miyao, 2026] 概要：「言語において進行形が完了を必ずしも意味しない」というImperfective Paradoxに着目し、LLMが構成的意味論を真に把握できるかを分析した。埋め込みでは過程（進行形）と結果（単純過去形）を分離できる一方で、推論では過程から完了を誤って認識することがあることを示した Memory efficiency and resource-rational encoding in sentence processing [Xu et al., 2026] 概要：人間の作業記憶の制約を言語モデルへ導入し、挙動がどのように変化するかを調査した。モデルの中で深く文脈化された表現を司るヘッドが表層的な表現を司るヘッドよりも優先されること、モデルのサプライザルから人間の読解時間の予測がより上手くいくこと、次単語予測を行う表現空間が圧縮されることなどがわかった Characterizing the Expressivity of Local Attention in Transformers [Li & Cotterell, 2026] 概要：Transformerにおけるglobal attention、local attention、hybrid global-local attentionの表現力を分析した。local attentionはglobal attentionに対して計算効率化を動機として提案されたものであったが、LTL (linear temporal logic) と形式言語理論を用いてそれぞれが異なる表現力を持つこと、両者を組み合わせたhybrid attentionがそれぞれより高い表現力を持つことを示した 論文紹介 ここまでACLの概要について紹介しました。ここからは筆者が個人的に興味を持っている分野であるPersonalization系の論文の中で面白かった論文について、感想と一緒に紹介します。 ClusterRAG: Cluster-Based Collaborative Filtering for Personalized Retrieval-Augmented Generation [Nkhata et al., 2026] コンセプト 類似ユーザの閲覧履歴にもとづくドキュメント推薦。 概要 [Nkhata et al., 2026]のFigure 1より引用。提案手法であるClusterRAGの概要図 現在提案されているRAGに関する手法では、利用するユーザの情報やユーザ間の関係性を上手く反映できていないものが多数となっています。 この論文では本人及び類似ユーザのユーザ情報を活用したRAGを提案しました。 提案手法は以下のステップで構成されています。 User Representation & Retrieval ユーザごとに、そのユーザと関連する（作成した、閲覧したなど）ドキュメントの情報を持つ状況を仮定。そのユーザ情報を元に全ユーザのユーザ埋め込みを作成し、Clusteringによって似たユーザ同士が固まるようなクラスタを作成する Profile Retrieval 以下の3つのモードに応じて検索範囲を設定し、関連するドキュメントを検索する User-Only：対象のユーザと関連するドキュメントを対象にする Collaborative：対象のユーザと似たユーザと関連するドキュメントを対象にする Hybrid：上記2つのハイブリッド Personalized Generation 2で取得したドキュメントを元に回答を生成 感想 同じ境遇にある人と関連するドキュメントが見たいというのは直感に従う 例えば自分と同じチームに所属している人が見たことあるドキュメントは恐らく自分にとっても参考になるだろうと思う 一方で元々与えられたユーザ情報の引力が強すぎる気もする 部署異動をした場合や普段やらない業務をやる時に必要なドキュメントが取得し辛いように感じる。例えば私は最近、普段やらない特殊な事務処理をしようとしたが、そういった時に適切なドキュメントが（余程クラスタの範囲を広げないと）検索対象外になってしまう Instant Personalized Large Language Model Adaptation via Hypernetwork [Tan et al., 2026] コンセプト ユーザ情報からPersonalizeのためのLoRAを作るHypernetworkの構築。 概要 [Tan et al., 2026]のFigure 1より引用。従来の一人のユーザに対して一つのPEFTを学習する手法と、提案手法であるP2P (Profile-to-PEFT) の比較 LLMのPersonalizationは “prompt base” と “fine-tuning base” の2つに大別されます。 前者はプロンプトにユーザ情報を与えます。 この形式であればモデルのファインチューニングは不要ですが、ユーザ情報をLLMに送信するためプライバシーの問題がある他、特定の回答に不要な文も多くノイズとなってしまいます。 一方で後者はモデル学習のためのコストが高いという難点があります。 後者のコスト削減のために、提案手法では以下のステップでHypernetworkによるLoRAの作成を行いました。 User Profile Encoding：テキストで表現されるユーザ情報を文埋め込みモデルを用いて固定次元のユーザ埋め込みへエンコードし、ユーザの嗜好及び行動パターンの圧縮された表現とする Position-Aware Input Formulation：HypernetworkがLLM内の異なる位置（層）に対して異なるパラメータを生成できるように、ユーザ埋め込みを学習可能な位置埋め込みで拡張する Parameter Generation：2ステップ目で作成した表現をHypernetworkで処理し、出力を形状変更してLoRAとする 感想 ユーザ埋め込み表現からLoRAを作って反映させるという方向性は好み しかもpromptとしてユーザ情報を与えるものと同等以上の反映度合いになっているそうで、十分ユーザの特徴を反映できていると言える 一方でユーザ情報から埋め込みを作成する際の情報損失が発生しないか気になる ユーザ情報が埋め込み表現で格納可能な容量を超えてしまう可能性も考えられる。プロンプトベースであれば検索を活用して適切なユーザ情報を手軽に取捨選択はできるが、この手法だと手軽に行うのは難しい Preference Heads in Large Language Models: A Mechanistic Framework for Interpretable Personalization [Zhang et al., 2026] コンセプト LLMのPersonalizeに関する内部機序の分析。 概要 [Zhang et al., 2026]のFigure 1より引用。異なるユーザプロファイルがPreference headsの異なる部分集合を活性化し、ユーザ情報に基づいたスタイルを持つ出力を生成 LLMは暗黙的なPersonalization能力を示しており、最小限の条件付けでユーザ固有の書き方、関心に適応します。 これに着目しprompt engineeringやFine-tuningが行われていますが、この仕組みはブラックボックスとなっています。 著者らは「Personalizationはユーザ固有の文体及び話題の信号を符号化し、生成に直接的に影響を及ぼす、注意ヘッドのスパースな部分集合で媒介される」と仮説を立て確認しました。 LLMのPersonalizationに貢献するPreference Headsの存在を仮定し、その検出方法を提案しています。 また検出した結果を踏まえてPersonalizationを行う手法も提案しました。 まずPreference Headsを検出するために、PCS (Preference Contribution Score) を導入する。これはユーザ情報に条件付けられた入力及び出力のペアを用いて、LLMの一部ヘッドを削除した際に出力が劣化する度合いを評価する。ここで結果に大きく影響を与えたヘッドをPreference Headsとする またPCSで検出したPreference Headsを活用したDPS (Differential Preference Steering) を提案。Preference Headsがマスクされたモデルと通常のモデルそれぞれの出力ロジットの差分を増幅する形でより強いPersonalizationを行う 結果と分析は以下のようになっています。 PCSによる分析としてPreference Headsはスパースな部分集合となることがわかった 高いPCSを持つHeadsは少数であり、特定の層に固まらず複数の層に散在する またPreference Headsはユーザに固有であり、ユーザによって位置が異なる DPSの性能は先行研究に対しても優れる結果となった ただ比較対象としているのは、DPSと類似した「モデル出力の差分を増幅させる形の手法」のみであり、promptとして与えるものやLoRAなどFine-tuningを行う手法との比較は行なっていない 感想 個人的に興味のある分野のPersonalization × 内部機序であるので大変好みである LLMのPersonalizationは盛んに行われているが、中身はblack box化されていて中身に切り込んでいる研究は少ない Preference Headsはユーザ固有であり、モデルの中で散在しているという点が特に興味深い Preference Headsがユーザ固有だということは、「ユーザ入力を出力特性に写像するヘッドがある」という考え方ではなく、「LLMの中に人間を表現する経路がある」という考え方ができる。とても良い DPSのように増幅するのではなく、軽量化の文脈で語られるPruningを利用して経路を限定するみたいな方向性でのPersonalization手法の場合にどうなるのかも気になる 削っても良い（Bさん、Cさん……Zさんと関連してAさんと関連しない）経路をどう現実的な計算量で特定するのか問題はあるが…… おわりに 本記事では、計算言語学や自然言語処理でTier1に位置する国際会議ACL 2026に関してまとめました。 また筆者個人が興味のあるPersonalization系の論文についても紹介しました。 現在爆発的に流行っているLLMや生成AIといった技術も、これまで積み重ねられた研究によって実現されたものです。 学術文献専用の検索サービスであるGoogle Scholarには「巨人の肩の上に立つ」とあります。 本記事がその巨人の一端に触れる機会となっていれば幸いです。 それでは皆さん、お読みいただきありがとうございました。 参考文献 [Sakai et al., 2026] Yusuke Sakai, Hidetaka Kamigaito, and Taro Watanabe. 2026. HalluCitation Matters: Revealing the Impact of Hallucinated References with 300 Hallucinated Papers in ACL Conferences. In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 47295–47376, San Diego, California, United States. Association for Computational Linguistics. https://aclanthology.org/2026.acl-long.2189/ [Ma & Miyao, 2026] Bolei Ma and Yusuke Miyao. 2026. The Imperfective Paradox in Large Language Models. In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 15093–15111, San Diego, California, United States. Association for Computational Linguistics. https://aclanthology.org/2026.acl-long.689/ [Xu et al., 2026] Weijie Xu, Brian Dillon, and Richard Futrell. 2026. Memory efficiency and resource-rational encoding in sentence processing. In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 33603–33618, San Diego, California, United States. Association for Computational Linguistics. https://aclanthology.org/2026.acl-long.1550/ [Li & Cotterell, 2026] Jiaoda Li and Ryan Cotterell. 2026. Characterizing the Expressivity of Local Attention in Transformers. In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 37485–37507, San Diego, California, United States. Association for Computational Linguistics. https://aclanthology.org/2026.acl-long.1739/ [Nkhata et al., 2026] Gibson Nkhata, Uttamasha Anjally Oyshi, Quan Mai, and Susan Gauch. 2026. ClusterRAG: Cluster-Based Collaborative Filtering for Personalized Retrieval-Augmented Generation. In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 20523–20539, San Diego, California, United States. Association for Computational Linguistics. https://aclanthology.org/2026.acl-long.940/ [Tan et al., 2026] Zhaoxuan Tan, Zixuan Zhang, Haoyang Wen, Zheng Li, Rongzhi Zhang, Pei Chen, Fengran Mo, Zheyuan Liu, Qingkai Zeng, Qingyu Yin, and Meng Jiang. 2026. Instant Personalized Large Language Model Adaptation via Hypernetwork. In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 23557–23580, San Diego, California, United States. Association for Computational Linguistics. https://aclanthology.org/2026.acl-long.1081/ [Zhang et al., 2026] Weixu Zhang, Ye Yuan, Changjiang Han, Yuxing Tian, Zipeng Sun, Linfeng Du, Jikun Kang, Hong Kang, Xue Liu, and Haolun Wu. 2026. Preference Heads in Large Language Models: A Mechanistic Framework for Interpretable Personalization. In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 47742–47754, San Diego, California, United States. Association for Computational Linguistics. https://aclanthology.org/2026.acl-long.2205/

はじめに こんにちは、2025年9月から2026年1月まで AI Shift でインターンをしていた MAO KEYU です。 インターン期間中は、大規模言語モデルを用いた推論システムに関する研究に取り組みました。その成果をまとめた論文が、自然言語処理分野の国際会議である ACL 2026 の Findings に採択されました。 そこで今回は、アメリカ・サンディエゴを訪れ、論文の発表および参加者との研究交流を行いました。 本記事では、ACL 2026 の概要や会場の雰囲気、私たちが発表した研究、発表時にいただいた質問、そして会場で興味を持った研究について紹介します。 学会概要 ACL（Annual Meeting of the Association for Computational Linguistics）は、自然言語処理および計算言語学分野における世界最大規模の国際会議の一つです。 第64回となる ACL 2026 は、2026年7月2日から7日まで、アメリカ・カリフォルニア州のサンディエゴで開催されました。前半にはチュートリアルやワークショップ、後半には Main Conference が実施され、世界各国から自然言語処理の研究者やエンジニアが集まりました。 近年の大規模言語モデルの急速な発展もあり、ACL への論文投稿数は大幅に増加しています。 OpenAccept の集計によると、ACL 2026 の投稿数は過去最多となる12,148件でした。 このうち、Main Research Track には2,297件が採択され、採択率は18.91%でした。また、Main Conference には届かなかったものの、意義のある研究成果を掲載する Findings には2,164件が採択され、採択率は17.81%でした。 前年のACL 2025 における投稿数は8,360件であったため、わずか1年間で投稿数が約45%増加したことになります。2024年の4,407件と比較すると、2年間で投稿数は約2.8倍に増えており、自然言語処理研究への関心の高まりと、分野全体の急速な拡大がうかがえます。 学会の雰囲気 サンディエゴ 開催地のサンディエゴは、アメリカ西海岸の南端に位置し、太平洋とメキシコ国境に面した都市です。年間を通して比較的温暖な気候で、海岸や港を中心とした景観でも知られています。 会場 ACL 2026 は、Manchester Grand Hyatt San Diego のカンファレンスフロアを利用して開催されました。独立したコンベンションセンターではなく、大型ホテルの1階から4階にあるホールや会議室が会場となっており、エスカレーターでフロアを移動しながら各セッションに参加する形式でした。 学術交流の中心となっていたのは、特に1階と2階です。1階の Grand Hall では大規模なポスターセッションが行われ、周辺には受付や企業ブースが設置されていました。2階の Harbor Ballroom では Keynote や全体セッションが開催され、その周辺にも Oral Session や研究交流のためのスペースが配置されていました。 ポスター会場 ポスターセッションでは、発表者と参加者の距離が近く、一つの研究について長時間議論する場面も多く見られました。 Social Event ACL 2026 の Social Event は、会場ホテルから海沿いを歩いた場所にある USS Midway Museum で開催されました。 USS Midway は、かつてアメリカ海軍で運用されていた航空母艦で、現在は San Diego Bay に停泊する博物館として公開されています。 Social Event は7月6日の夕方から開催され、参加者は実際の空母の内部や飛行甲板を見学しながら交流することができました。 私たちの論文 概要 今回、私たちは ACL 2026 Findings に採択された論文 “BiCSRouter: Bi-Level Cross-System Routing for Utility-Aware LLM Inference” を発表しました。 LLM を用いた推論では、一つのモデルが集中的に思考する Single-Agent System と、複数のモデルが協力する Multi-Agent System のどちらを利用するかが、回答性能や推論に大きく影響します。しかし、すべての問題に対して同じシステムを使用することが、常に最適とは限りません。 そこで本研究では、Single-Agent の集中的な推論能力と、Multi-Agent の広範な協調能力を活用するための Bi-Level Routing を提案しました。 第1段階の Intra-Regime Routing では、それぞれのシステム内部で使用する LLM や推論方法、Agent 構成を選択します。続く Inter-Regime Routing では、予測される性能と Cost に基づき、Single-Agent と Multi-Agent のどちらを使用するかを決定します。 これにより、タスクごとに適切な推論構成を選び、回答性能と API Cost のバランスを取ることを目指しています。 実験結果 実験では、Coding Task としてMBPP、数学推論 Task として MATH を使用しました。また、Single-Agent、固定構成の Multi-Agent System、既存の Adaptive Routing 手法と比較しました。 実験結果について、精度、Performance–Cost Balance の順で紹介します。 1. 精度について BiCSRouter は、MBPP で89.40%の Pass@1、MATH で90.37%の Accuracy を達成し、比較した実用的な Routing 手法の中で最も高い性能となりました。 MBPP では、Adaptive Routing 手法の平均を8.99ポイント上回りました。また、Intra-Regime Routing のみを行う MasRouter を5.4ポイント、Inter-Regime Routing のみを行う RaterLLM を9.2ポイント上回りました。 この結果から、各 System 内部の Configuration を選択する Intra-Regime Routing と、Single-Agent・Multi-Agent を選択する Inter-Regime Routing の両方を行うことが、性能向上に有効であることが分かりました。 2. Performance–Cost Balance について BiCSRouter は、MBPP において、実用的な Baseline の中で最も優れた Pareto-optimal な結果を達成しました。 最高性能の Reference である GPT-5 CoT と比較すると、MBPP では精度低下を2ポイントに抑えながら、推論Cost を46%削減しました。MATH でも、精度低下を1.34ポイントに抑えながら、Cost を25%削減しています。 総括すると、BiCSRouter は単に高い精度を達成するだけでなく、問題に応じて Single-Agent と Multi-Agent を適切に使い分けることで、性能と推論 Cost のバランスを改善できることが確認されました。 ポスター発表と Q&A ポスターセッションでは、約1時間半にわたって発表を行いました。多くの方に研究を紹介し、ルーターの設計やコスト計算、実環境への応用について幅広い質問やフィードバックをいただきました。 以下では、発表中にいただいた主な質問と、実際に行った議論を紹介します。 なぜ Single-Agent と Multi-Agent を組み合わせるのか 参加者： 「まず、この研究のモチベーションを簡単に教えてください。」 私： 「Single-Agent には、一つのモデルが集中的に推論できる強みがあります。一方、Multi-Agent には、複数のモデルが異なる観点から協調できる強みがあります。 ただし、すべての問題に対して常に同じシステムを使うことが最適とは限りません。そこで本研究では、問題ごとに両者を使い分ける Bi-Level Routing を設計しました。」 Configuration とは何を表すのか 参加者： 「Intra-Regime Routing で選択する “Configuration” とは、具体的に何を指しますか？」 私： 「一つの Query に回答するために必要な構成全体を指します。 Single-Agent の場合は、使用する LLM と推論戦略が含まれます。Multi-Agent の場合は、各 Agent の役割、トポロジー、使用する LLM などが含まれます。そのため、二つの Regime では Configuration の意味が少し異なります。」 Router 自体も LLM なのか 参加者： 「Router はどのようにモデルを選択するのですか。Router 自体も LLM なのでしょうか？」 私： 「今回の Router は LLM ではなく、軽量な MLP です。 まず、Query と各モデルの Description を Embedding し、Intra-Regime Routing によって各システム内部の Configuration を選択します。その後、選択された Configuration に対する予測性能と Cost を推定し、Utility に基づいて Single-Agent と Multi-Agent のどちらを使うか決定します。」 参加者： 「つまり、LLM に Routing Option を直接生成させているわけではないのですね。私はそれに近い研究をしています。」 私： 「はい、その通りです。私たちも Llama-3B-Instruct のような軽量 LLM を Meta-Controller として使う方法を検討しました。 ただし、LLM による Routing は Latency が大きく、特に小規模モデルでは指示追従や出力形式が不安定でした。一方で、LLM Router 自体は非常に興味深い研究方向だと思います。」 Latency は考慮したのか 参加者： 「私たちも Single-Agent と Multi-Agent の選択を研究していますが、特に Latency を重視しています。この点は検討しましたか？」 私： 「Latency は実用上とても重要で、初期段階では私たちも検討しました。 しかし、Cost と Latency を同時に Penalty として扱うと、最適化が難しくなります。また、Latency は API プラットフォームや通信状況による変動が大きく、公平な評価も簡単ではありません。そのため、今回は主に性能と API Cost に焦点を当てました。」 この方からは、関連研究である Multi-Agent Reasoning Improves Compute Efficiency: Pareto-Optimal Test-Time Scaling も紹介していただきました。同じ問題を異なる観点から研究している方と、その場で意見交換できたことが特に印象に残っています。 Cost と Prompt Cache 参加者： 「Cost はどのように計算していますか？」 私： 「Closed-Source Model については、実際の Input・Output Token 数に、それぞれの API 単価を掛けて計算しています。」 参加者： 「Prompt Cache は考慮していますか？Cache Hit によって実際の料金は大きく変わると思います。」 私： 「今回は明示的には考慮していません。とても重要な指摘だと思います。より現実的で公平な Cost Modeling を行うために、今後検討すべき要素だと考えています。」 新しい Model や System にも拡張できるのか 参加者： 「新しい Model や、Single-Agent・Multi-Agent 以外の System にも拡張できますか？」 私： 「新しい Model を追加する場合は、Model Description と学習データを追加し、Router を再学習することで対応できます。 新しい Regime を追加することも可能で、論文中では追加の System を含む探索的な実験も行っています。ただし、Regime が増えると探索空間が急激に大きくなり、Policy の収束も難しくなります。そのため、現時点では特徴の異なる二つの System を丁寧に組み合わせる設計が効果的だと考えています。」 Dataset と学習 参加者： 「どのような Dataset で評価しましたか？」 私： 「Coding の MBPP、数学推論の MATH、自然言語理解の MMLU など、性質の異なるタスクを使用しました。」 参加者： 「MATH や MMLU は規模が大きいですが、学習コストはどのように抑えましたか？」 私： 「大規模な Dataset については、先行研究に従って代表的な Subset を使用しました。例えば MATH では、異なる難易度から問題を抽出し、Dataset 全体の構成をできるだけ保つようにしています。一方、比較的小規模な MBPP については、全 Dataset を使用しました。」 ピックアップ ここでは、私が気になった論文をピックアップして紹介します。 Causal2Vec: Improving Decoder-only LLMs as Embedding Models through a Contextual Token Decoder-only LLM を Embedding Model として活用 軽量な BERT-style Model で入力文を Contextual Token に圧縮 LLM の構造や Causal Attention を変更せず、文全体の情報を各 Token に提供 Contextual Tokenと EOS Token を結合し、Last-token Pooling の Recency Bias を軽減 公開 Retrieval Dataset のみを用いたモデルとして、MTEB で SOTA を達成 AgentRouter: A Knowledge-Graph-Guided LLM Router for Collaborative Multi-Agent Question Answering Query に応じて適切な Agent 構成を選択する Routing Framework Query、Context 内の Entity、候補 Agent を Heterogeneous Knowledge Graph として表現 GNN を用いて各 Agent への Routing Distribution を予測 複数 Agent の出力を重み付けして統合 私たちの BiCSRouter とも関連が深く、Agent 間の相補性を活用する設計が興味深い DRPG: Decompose, Retrieve, Plan, Generate — An Agentic Framework for Academic Rebuttal Academic Rebuttal の作成を支援する Agentic Framework Reviewer Comment の分解、Evidence 検索、回答方針の計画、回答生成の4段階で構成 Planner は回答方針の選択で98%以上の精度を達成 8B Model のみで既存手法や平均的な人間の Performance を上回る 研究者にとって身近な Rebuttal 作業への応用が印象的 おわりに 本記事では、ACL 2026 の雰囲気や、私たちの研究、ポスター発表での議論、気になった論文を紹介しました。 自分たちの研究を直接説明し、近いテーマに取り組む研究者からフィードバックをいただけたことは、非常に貴重な経験でした。 最後になりますが、トレーナーの村田さん、研究に協力いただいた AI Lab の本多さんをはじめ、本研究および学会参加を支援してくださった皆様に感謝いたします。 投稿 ACL 2026 参加報告 は 株式会社AI Shift に最初に表示されました。

はじめに 「50万円以上の申請はいくつありますか？」 「承認済みの購買申請を一覧表示してください」 「今月申請されたデータを確認したい」 このような業務データの確認を、毎回SQLで行うのは手間がかかります。特に、SQLに慣れていない利用者にとって、データベースに蓄積された情報を自由に活用することは簡単ではありません。 本記事では、Oracle Alloy環境上のAutonomous DatabaseとSelect AIを利用し、業務テーブルに対して自然言語で問い合わせできるデータ分析アプリケーションを試作します。（もちろんOCI上でも動作します） アプリケーションはPythonのWe