【第40回特別】 MBSD AI/機械学習セキュリティ勉強会

2022/10/27(木)19:00 〜 22:00 開催

ブックマーク

#Python, #セキュリティ, #機械学習

イベント内容

はじめに

当イベントページをご覧くださり、ありがとうございます。当イベントは三井物産セキュアディレクション(以下、MBSD)主催の情報セキュリティに関する勉強会です。セキュリティに興味のある方々に脆弱性診断についての学びの場を提供できればとの思いから、1, 2ヶ月に1回のペースで開催しています。

概要

今回の勉強会は記念すべき通算40回開催で『AIセキュリティ』をテーマとした勉強会です。

近年、様々な分野でAI（※１）の社会実装が進む一方で、AIに対する攻撃手法も数多く生まれており、近い将来、AIへの攻撃が横行する時代が到来する可能性があります。このため、AIを防御する技術の確立が急務となっていますが、AIへの攻撃手法は既存の攻撃手法とは原理が異なるものが多く、従来の防御技術のみでAIを守ることは困難です。そこで本勉強会では、AIへの攻撃手法の中で最も研究が活発な「AIを騙す攻撃（敵対的サンプル）」を取り上げ、AIが騙される原理と対策を座学と演習（※２）を通して学びます。具体的には、参加者の皆様に簡単なAI（Deep Learningベースの画像分類器）を作成いただき、これに対して攻撃を実行していただく中で「AIを騙すテクニック」を学びます。最終的には本勉強会で学んだ知識を基に、セキュアなAIを設計・実装できるようになることを目標とします。

※１：機械学習を用いたシステム全般をAIと呼称しています。

※２：演習はWebブラウザで無料利用できるPython実行環境「Google Colaboratory」を使用します。

スケジュール

参加確定した皆様にはイベント開始前にTeams会議URLを参加者の皆様にお送りいたします。
18:45 開場　 19:00 開始

時間	内容
19:00 – 19:10	ご案内とご説明
19:10 – 19:30	座学：AIセキュリティ入門
19:30 – 20:30	演習１：ホワイトボックスの敵対的サンプル攻撃
20:30 - 21:30	演習２：ブラックボックスの敵対的サンプル攻撃
21:30 - 21:45	座学：対策について
21:45 – 22:00	クロージング

※タイムテーブルは目安です。当日の進行状況によって若干前後する可能性がございます。

対象

なお、今回は Python を使用した演習を行います。

高度な知識は不要で、可能な限り初学者の方でも理解できるよう努めますが、以下の項目について簡単な理解のある方を対象とした内容となっております。

Pythonコーディングや、ソースコードの読解など簡易的に行える方
AIや機械学習の技術についてニュースを良く読む方

準備していただきたいこと

①Googleアカウントにログイン済みのブラウザ

今回の勉強会では「Google Colaboratory」を利用して演習を実施します。

「Google Colaboratory」の利用はGoogleアカウントが必要なため、未取得の方は開催までに取得をお願い致します。「Google Colaboratory」は有料プランもございますが、今回の演習は全編を通して無料プランで実施可能です。
Google Colaboratory についてよくある質問集
イベント開始数日前に「演習用 Google Colaboratory」URLを参加者の皆様にお送りいたします。

※GoogleColaboratoryの使用に際するご注意

勉強会中の演習は必ず、勉強会が提供した環境で実施してください。ご自身で用意した環境での実施はお控えください。
演習中で使用したデータセットやコードの持ち出しは厳禁といたします。

②Microsoft Teams

今回の勉強会ではMicrosoft Teamsを使用します。カメラは原則オフ、マイクも講演中はオフにしていただきます。
Microsoft Teamsは無料でご利用いただけます。アプリも用意されていますが、受講時はブラウザ版のTeamsでもご参加いただけます。
アプリリンク
なお、ご質問を受け付ける際にはTeamsのチャット機能をご利用いただきます。
イベント開始数日前にTeams会議URLを参加者の皆様にお送りいたします。

お願いとお断り

過去の特別回の開催では、当日に無断で欠席される方が散見され数個の空席がございました。事前にご参加が難しくなられた場合は、参加のキャンセルをしていただき、キャンセル待ちの方に席をお譲りいただけますと幸いでございます。もしキャンセルをなさらずに当日無断で欠席される方がいらっしゃる場合は、誠に勝手ながら以降のMBSD主催の勉強会へのご参加をお断りする場合がございます。あらかじめご了承ください。

諸注意

禁止事項以下に該当する行為をされたと見なされる場合、ご退場いただく場合がございます。あらかじめご確認ください。
- 宗教団体、人材会社などによる勧誘行為、宣伝行為、ヘッドハンティング、又はこれに類似する行為。
- 営利を目的とした営業行為、宣伝行為、又はこれに類似する行為。
- 過度な大声、騒音、振動、暴力など、他の参加者の迷惑になる行為。
- 法令に違反する、又はそのおそれのある行為。
- その他、弊社が不適切と判断する行為や目的での参加。