【Kaggle】プロンプトを取り戻せ！LLM Prompt Recoveryコンペを解説

講座概要

LLM (大規模言語モデル) がそれなりに普及している今、LLMに文章を書き換えさせるというタスクはさまざまなシチュエーションで発生しうるのではないかと思います。また、文章をより良い文章に校正させる、文体を別のものに変えさせる、要点を抽出させる...などなど、文章を書き換えさせるにしても、その目的によってLLMに与えるプロンプトは変わってくるでしょう。

KaggleのLLM Prompt Recoveryは、そのようなLLMによる文章書き換えをテーマとしたコンペティションです。このコンペティションでは、書き換える前後の文章からLLMに与えたプロンプトを予測します。プロンプトには無限にパターンが考えられる上、学習データすら提供されていないため、参加者たちはヒントがほとんどない手探り状態で臨む必要がありました。 発表者 (早野) はこのコンペに参加し、2,175チーム中122位という成績で銅メダルを獲得しました。前例のないコンペでかなり苦戦したものの、今後増えてくるであろうLLM系コンペに活かせそうな知見を多く得ることができました。また上位チームの解法が、過去に類を見ない非常にユニークなものだったことも印象的でした。

本講座では、KaggleのLLM Prompt Recoveryコンペを題材とします。発表者がコンペ中にどのようなアプローチを試行したか、うまくいかなかったものを含めて解説していきます。また、上位チームの解法についても解説します。

アジェンダ

• LLM Prompt Recovery概要
• アプローチ解説
• 上位チーム解法

主な対象者

• LLM系のコンペにこれから参加してみたい人
• プロンプトエンジニアリングに興味がある人

前提とする知識

• 自然言語処理に関する基礎知識 (LLM、トークナイザーなど基本用語を知っている程度)

会場

Zoomウェビナーでの開催となります

※ 参加登録してくださった方に、このページ上部の「参加者への情報」の欄にZoomのURLが表示されます。

タイムテーブル

※質疑の内容や数などにより、終了時刻が前後する可能性があります。

発表者プロフィール

東京大学農学生命科学研究科生物・環境工学 修士課程修了。都内のIT企業で自然言語モデルに関わる研究開発に従事。Kaggleメダル獲得数は銀メダル1個、銅メダル3個。