機械学習・ディープラーニングのための最適化基礎

０．導入
    凸最適化とは
    機械学習での最適化問題の例
    最適化問題とその用語
    凸集合・凸関数
    凸最適化問題
１．最小二乗法（回帰直線を例に）
    目的関数の導出
    正規方程式
    最小二乗法の幾何学的意味*
    最小二乗法の数値計算法*
２．凸２次計画問題（サポートベクタマシンを例に）
    目的関数・制約条件の導出
    ラグランジュ関数
    KKT条件
    サポートベクタマシンの性質の考察*
    双対理論*
３．正則化（Lassoを例に）
    元々のモチベーション
    l0/l1, l2正則化
４．計算法（勾配法）
    勾配法の導出
    確率的勾配降下法
    ニューラルネットワークの学習（凸でない最適化問題への応用）
*は時間の都合上、割愛させていただく可能性があります。

・微分や行列を計算し、機械学習の手法をより理解したい方
・ライブラリのパラメータの意味を理論的に理解したい方

K Nomura
北海道大学大学院情報科学研究科修士課程修了。機械メーカにて制御ソフトウェアの開発に従事したのち、フリーのエンジニアとして活動中。現在は画像解析システムの研究開発企業より可視化ソフトウェアの開発、一般社団法人より機械学習・プログラミング講座の講師業務などに従事している。

週末はビル正面玄関が閉まっているため、開始10分前より随時内側から開錠いたします。
ビル正面玄関前でお待ちいただきますようお願い致します。
https://imgur.com/a/XteLG

遅刻される方は、入り口に着かれましたら、skillupai.tokyo@gmail.comまでご連絡ください。
スタッフがお迎えに行きます。

ビル館内では飲食物の購入はできませんので、飲食物は事前に購入の上、ご来場ください。

講座中（休憩時間など）にビル外に外出される際は、スタッフまでお声がけください。
また携帯をご持参頂き、お戻りの時間をskillupai.tokyo@gmail.comまでご連絡ください。
ビル正面玄関へ、スタッフがお迎えに上がります。

ご自身のノートPC（あると資料を眺めながら受講いただけます）
筆記用具・紙5枚程度

なし

【Paypalでお支払いの場合】
PayPal発行の受領書が領収書となります。
受領書ページは、PayPalの支払い完了ページで「印刷用受領書を見る」をクリックすると表示されます。
（当社よりの重複しての領収書発行は行えません)

* 長時間ですので、ところどころ休憩を挟みます
* 勉強会内容を撮影もしくは録音することは、ご遠慮ください
* 個人ブログへの記述については、良識の範囲内でお願いいたします
* 講義コンテンツは全てスキルアップAIに帰属していますので、複製はご遠慮ください