機械学習・ディープラーニングのための最適化基礎

０．導入
    凸最適化とは
    機械学習での最適化問題の例
    最適化問題とその用語
    凸集合・凸関数
    凸最適化問題
１．最小二乗法（回帰直線を例に）
    目的関数の導出
    正規方程式
    最小二乗法の幾何学的意味*
    最小二乗法の数値計算法*
２．凸２次計画問題（サポートベクタマシンを例に）
    目的関数・制約条件の導出
    ラグランジュ関数
    KKT条件
    サポートベクタマシンの性質の考察*
    双対理論*
３．正則化（Lassoを例に）
    元々のモチベーション
    l0/l1, l2正則化
４．計算法（勾配法）
    勾配法の導出
    確率的勾配降下法
    ニューラルネットワークの学習（凸でない最適化問題への応用）
*は時間の都合上、割愛させていただく可能性があります。

・微分や行列を計算し、機械学習の手法をより理解したい方
・ライブラリのパラメータの意味を理論的に理解したい方

・スキルアップAIの講座「微分」・「線形代数」を受講していること。
・もしくは、修了相当の知識を有していること（カリキュラムの項目を見てご確認ください。https://www.skillupai.com/math）

S Saito
横浜国立大学大学院在籍．高専時代に画像認識に対して興味を持ったことがきっかけで，現在ではDeep Learningや機械学習，進化計算などの人工知能分野のアルゴリズム研究開発に従事．日本ディープラーニング協会の2018年度G検定 合格者

週末はビル正面玄関が閉まっているため、開始10分前より随時内側から開錠いたします。
ビル正面玄関前でお待ちいただきますようお願い致します。
https://imgur.com/a/XteLG

遅刻される方は、入り口に着かれましたら、skillupai.tokyo@gmail.comまでご連絡ください。
スタッフがお迎えに行きます。

ビル館内では飲食物の購入はできませんので、飲食物は事前に購入の上、ご来場ください。

講座中（休憩時間など）にビル外に外出される際は、スタッフまでお声がけください。
また携帯をご持参頂き、お戻りの時間をskillupai.tokyo@gmail.comまでご連絡ください。
ビル正面玄関へ、スタッフがお迎えに上がります。

ご自身のノートPC（あると資料を眺めながら受講いただけます）
筆記用具・紙5枚程度

なし

【Paypalでお支払いの場合】
PayPal発行の受領書が領収書となります。
受領書ページは、PayPalの支払い完了ページで「印刷用受領書を見る」をクリックすると表示されます。
（当社よりの重複しての領収書発行は行えません)

* 長時間ですので、ところどころ休憩を挟みます
* 勉強会内容を撮影もしくは録音することは、ご遠慮ください
* 個人ブログへの記述については、良識の範囲内でお願いいたします
* 講義コンテンツは全てスキルアップAIに帰属していますので、複製はご遠慮ください