機械学習と回路
書籍情報
発売日 : 2023年04月19日
著者/編集 : 田中 衞/西尾 芳文/丹治 裕一/関屋 大雄/萬代 雅希
出版社 : コロナ社
発行形態 : 単行本
書籍説明
内容紹介
低資源・低消費電力で注目される,アナログ回路を用いた機械学習について,基礎的な回路理論から解説。長年研究を続けてきた著者らが,「回路は工学の言語である」の理念のもと,アナログ回路を用いた脳回路の実現を目指す。
目次
1.機械学習と回路基礎
1.1 言葉の定義
1.2 回路素子
1.2.1 節点電圧と枝電圧
1.2.2 電源
1.2.3 受動素子と能動素子
1.2.4 抵抗素子
1.2.5 コンデンサ
1.2.6 インダクタ
1.3 メモリスタとジャイレータニューロン
1.3.1 メモリスタ
1.3.2 メモリスタとHebb則
1.3.3 ジャイレータニューロン
1.3.4 Hebb則による誤差逆伝搬方式の回路表現
1.3.5 ジャイレータニューロン集合のクロスバー設計
1.3.6 ジャイレータニューロンの学習連想期間
1.4 受動回路の解析
1.4.1 閉路と網路
1.4.2 回路解析の基本法則
1.4.3 キルヒホッフの法則
1.4.4 網路方程式
1.4.5 節点方程式
1.4.6 行列式の展開
1.4.7 重ねの理
1.4.8 電源の等価変換
1.4.9 RC回路と1階の微分方程式の平衡解
1.4.10 簡単なコンダクタンス回路のニューロン集合への置換
1.4.11 簡単なRC回路のニューロン集合への置換
1.4.12 RLC回路と2階の微分方程式の解と性質
1.4.13 RLC回路のニューロン集合への置換
1.4.14 正弦波定常状態の解析
1.4.15 ラプラス変換による解析
1.4.16 疑似インダクタLの実現
1.4.17 状態変数による解析
2.フィルタと発振器の機械学習
2.1 フィルタの機械学習回路
2.1.1 オペアンプ
2.1.2 状態変数フィルタ
2.1.3 状態変数フィルタの機械学習回路
2.2 発振器の機械学習回路
2.2.1 発振の原理
2.2.2 機械学習回路における自律発振の意味
2.2.3 疑似インピーダンスZ(s)の実現
2.2.4 RC発振器
2.2.5 ターマン発振器
2.2.6 LC発振器
〔1〕コルピッツ発振器
〔2〕ハートレ発振器
2.2.7 負性抵抗発振器
2.2.8 アナログ演算による非線形アトラクタ発振器
2.2.9 アナログフリップフロップ型発振器
3.連想写像と機械学習回路
3.1 学習方程式
3.1.1 内積演算と活性化関数の意味
3.1.2 学習方程式と汎化能力
3.2 誤差逆伝搬方式
3.3 ニューロモルフィックコンピューティング
3.4 機械学習回路の節点セルと活性化関数
3.4.1 節点セルと順伝搬処理
3.4.2 節点セルとカレントミラー処理
3.4.3 区分線形関数とOTA回路との関係
3.4.4 節点セルと逆伝搬処理
3.4.5 ブール関数の実数関数への対応と連想写像
3.4.6 抵抗変化型メモリの機械学習回路
3.4.7 抵抗変化型プログラマブルロジックアレイの機械学習回路
4.畳み込み処理と機械学習回路
4.1 計算グラフと自動微分
4.2 畳み込みニューラルネットワーク(CNN)
4.3 アナログセルラーニューラルネットワーク(A-CeNN)
4.3.1 テンプレートによる畳み込み処理
4.3.2 線形化ニューロンによるテンプレート学習
4.3.3 線形量子化の回路
4.3.4 畳み込み演算による画像処理
4.4 長短期記憶(LSTM)と機械学習回路
5.機械学習回路のSPICE最適化アルゴリズム
5.1 機械学習回路の状態方程式
5.1.1 平衡点アトラクタの安定性の判定
5.1.2 飽和平衡解の定理の証明
5.2 SPICEアルゴリズムによる機械学習回路の解析
5.2.1 回路素子の離散化表現
5.2.2 ニュートン法による順伝搬回路の解析
5.2.3 損失関数の最小化と逆伝搬回路の解析
6.むすび
引用・参考文献
索引
1.1 言葉の定義
1.2 回路素子
1.2.1 節点電圧と枝電圧
1.2.2 電源
1.2.3 受動素子と能動素子
1.2.4 抵抗素子
1.2.5 コンデンサ
1.2.6 インダクタ
1.3 メモリスタとジャイレータニューロン
1.3.1 メモリスタ
1.3.2 メモリスタとHebb則
1.3.3 ジャイレータニューロン
1.3.4 Hebb則による誤差逆伝搬方式の回路表現
1.3.5 ジャイレータニューロン集合のクロスバー設計
1.3.6 ジャイレータニューロンの学習連想期間
1.4 受動回路の解析
1.4.1 閉路と網路
1.4.2 回路解析の基本法則
1.4.3 キルヒホッフの法則
1.4.4 網路方程式
1.4.5 節点方程式
1.4.6 行列式の展開
1.4.7 重ねの理
1.4.8 電源の等価変換
1.4.9 RC回路と1階の微分方程式の平衡解
1.4.10 簡単なコンダクタンス回路のニューロン集合への置換
1.4.11 簡単なRC回路のニューロン集合への置換
1.4.12 RLC回路と2階の微分方程式の解と性質
1.4.13 RLC回路のニューロン集合への置換
1.4.14 正弦波定常状態の解析
1.4.15 ラプラス変換による解析
1.4.16 疑似インダクタLの実現
1.4.17 状態変数による解析
2.フィルタと発振器の機械学習
2.1 フィルタの機械学習回路
2.1.1 オペアンプ
2.1.2 状態変数フィルタ
2.1.3 状態変数フィルタの機械学習回路
2.2 発振器の機械学習回路
2.2.1 発振の原理
2.2.2 機械学習回路における自律発振の意味
2.2.3 疑似インピーダンスZ(s)の実現
2.2.4 RC発振器
2.2.5 ターマン発振器
2.2.6 LC発振器
〔1〕コルピッツ発振器
〔2〕ハートレ発振器
2.2.7 負性抵抗発振器
2.2.8 アナログ演算による非線形アトラクタ発振器
2.2.9 アナログフリップフロップ型発振器
3.連想写像と機械学習回路
3.1 学習方程式
3.1.1 内積演算と活性化関数の意味
3.1.2 学習方程式と汎化能力
3.2 誤差逆伝搬方式
3.3 ニューロモルフィックコンピューティング
3.4 機械学習回路の節点セルと活性化関数
3.4.1 節点セルと順伝搬処理
3.4.2 節点セルとカレントミラー処理
3.4.3 区分線形関数とOTA回路との関係
3.4.4 節点セルと逆伝搬処理
3.4.5 ブール関数の実数関数への対応と連想写像
3.4.6 抵抗変化型メモリの機械学習回路
3.4.7 抵抗変化型プログラマブルロジックアレイの機械学習回路
4.畳み込み処理と機械学習回路
4.1 計算グラフと自動微分
4.2 畳み込みニューラルネットワーク(CNN)
4.3 アナログセルラーニューラルネットワーク(A-CeNN)
4.3.1 テンプレートによる畳み込み処理
4.3.2 線形化ニューロンによるテンプレート学習
4.3.3 線形量子化の回路
4.3.4 畳み込み演算による画像処理
4.4 長短期記憶(LSTM)と機械学習回路
5.機械学習回路のSPICE最適化アルゴリズム
5.1 機械学習回路の状態方程式
5.1.1 平衡点アトラクタの安定性の判定
5.1.2 飽和平衡解の定理の証明
5.2 SPICEアルゴリズムによる機械学習回路の解析
5.2.1 回路素子の離散化表現
5.2.2 ニュートン法による順伝搬回路の解析
5.2.3 損失関数の最小化と逆伝搬回路の解析
6.むすび
引用・参考文献
索引
著者情報
田中 衞
田中, 衞, 1948-
西尾 芳文
西尾, 芳文
丹治 裕一
丹治, 裕一
関屋 大雄
関屋, 大雄
萬代 雅希
萬代, 雅希