LLM時代のセキュリティリスク~研究最前線と実務への展開~ 【ハイブリッド開催】
イベント内容
イベント概要
昨今のChatGPTの台頭に代表されるように, 大規模言語モデル(LLM)は様々なシーンで利用されるようになりました. しかし, 一方で, 安全性に対しての懸念が大きくなっております. 例えば, LLMが搭載されたアプリがサイバー攻撃を受けるリスクや, LLMが非倫理的な出力をするリスクが注目されるようになりました.
今回は, LLMを利用するにあたってのリスクを包括的にご説明するとともに, 研究最前線と実務への展開と銘打ちまして,
- 国立情報学研究所ではLLMの安全性を確保するためにどのようなプロジェクトを行っているのか
- LLMへの攻撃に関する研究
- LLMのリスクを軽減する具体的なソリューション
- LLMアプリを開発するベンチャー企業でのセキュリティ実務
など, 様々な観点からLLMセキュリティを捉え, より具体的にLLMのリスクと対策を議論できればと思います.
こんな方におすすめ
- LLMの導入を考えられている企業担当者様
- LLMを社内に導入したが, セキュリティ上の観点から運用にお困りの企業担当者様
- LLMセキュリティに興味をお持ちの研究者
- LLMアプリ開発に関わるエンジニア・PdM・PM
タイムスケジュール
| 時間 | 内容 | スピーカー |
|---|---|---|
| 18:00 ~ 18:30 | 受付 | |
| 18:30 ~ 18:35 | オープニング | 関谷 勇司 先生, 佐々木 佑 |
| 18:35 ~ 18:50 | LLMセキュリティについての概要 | 佐々木 佑 |
| 18:50 ~ 19:05 | 国立情報学研究所LLM研究開発センター安全性WGでのお取り組みについて | 関根 聡 先生 |
| 19:05 ~ 19:20 | Jailbreakのための単純なブラックボックス手法 | 竹本 和広 先生 |
| 19:20 ~ 19:30 | 休憩 | |
| 19:30 ~ 19:45 | Jailbreak データセット収集アプリケーションの開発について | 林 祐太 様 |
| 19:45 ~ 20:00 | 生成AIアプリケーションの継続的品質管理のためのワークフロー | 劉 弘毅 様 |
| 20:00 ~ 20:15 | LLMのハルシネーション・セキュリティ対策事例：大企業における生成AI導入の現場から | 本田 純平 様 |
| 20:15 ~ | ネットワーキング |
スピーカー
関根 聡 先生
理化学研究所革新知能統合研究センター・言語情報アクセスチームチームリーダー, 国立情報学研究所LLM研究開発センター特任教授
竹本 和広 先生
九州工業大学大学院情報工学研究院 教授
林 祐太 様
株式会社 Determinant 代表取締役
劉 弘毅 様
株式会社 Citadel AI Software Engineer
.jpeg?raw=true)
本田 純平 様
株式会社Spark+ 代表取締社長
佐々木 佑
東京大学大学院情報理工学系研究科 修士2年
会場 【ハイブリット開催】
対面
東京大学情報基盤センター 214会議室
住所 : 東京都文京区弥生2-11-16 東京大学情報基盤センター
オンライン
zoom を使用いたします.
参加方法
参加者への情報欄にて、会場への入館方法, zoomURL等を記載しています.
主催
佐々木 佑 / 東京大学 大学院情報理工学系研究科 関谷研究室
注意事項
※ 掲載タイミングや更新頻度によっては、情報提供元ページの内容と差異が発生しますので予めご了承ください。
※ 最新情報の確認や参加申込手続き、イベントに関するお問い合わせ等は情報提供元ページにてお願いします。
新規会員登録
このイベントに申し込むには会員登録が必要です。
アカウント登録済みの方はログインしてください。
※ ソーシャルアカウントで登録するとログインが簡単に行えます。
※ 連携したソーシャルアカウントは、会員登録完了後にいつでも変更できます。
