※本書はEPUB(固定レイアウト型)で作成されております。検索機能や文字列のコピーがご利用できません。
※この商品は固定レイアウトで作成されており、タブレットなど大きいディスプレイを備えた端末で読むことに適しています。また、文字列のハイライトや検索、辞書の参照、引用などの機能が使用できません。
科学研究において実験計画は必須になりますが、近年ではデータを使って仮説の生成と検証を繰り返す「適応的実験計画」が取り入れられ、その方法の一つである「ベイズ最適化」に注目が集まっています。
本書ではこのベイズ最適化の理論・アルゴリズムを基礎から応用まで詳細に説明しています。またブラックボックス最適化ソフトウェア「Optuna」を利用したアルゴリズムの実装方法も紹介。本書を読むことで、ベイズ最適化という強大なフレームワークの全貌を理解し、理論と実装を習得することができます。
【目次】
第1章 機械学習による適応的実験計画とベイズ最適化
第2章 ブラックボックス関数のベイズモデリング
第3章 ベイズ最適化のアルゴリズム
第4章 Optuna によるベイズ最適化の実装方法
第5章 制約付きベイズ最適化
第6章 多目的ベイズ最適化
第7章 高次元空間でのベイズ最適化
第8章 並列ベイズ最適化
付録
目次プレビュー
- 表紙
- はじめに
- 第1章 機械学習による適応的実験計画とベイズ最適化
-
2.1 ベイズ線形回帰モデル
-
2.1.1 線形回帰モデル:二乗誤差最小化の視点
-
2.1.2 線形回帰モデル:尤度関数最大化の視点
-
2.1.3 ベイズ線形回帰モデル
-
2.2 ガウス過程回帰モデル
-
2.2.1 ベイズ線形回帰モデルからガウス過程回帰モデルへ
-
2.2.2 ガウス過程の例と基本的な性質
-
2.2.3 ガウス過程モデルの推論
-
2.2.4 ガウス過程の平均関数の設定
-
2.2.5 ガウス過程のカーネル関数の設定
-
3.1 はじめに
-
3.2 改善確率量獲得関数
-
3.3 期待改善量獲得関数
-
3.4 信頼下限獲得関数
-
3.5 トンプソン抽出獲得関数
-
3.5.1 定義と解釈
-
3.5.2 素朴な計算方法
-
3.5.3 ガウス過程の疎スペクトル近似
-
3.5.4 疎スペクトル近似を用いた計算方法
-
3.5.5 疎スペクトル近似を用いた効率的な計算方法
-
3.5.6 獲得関数の性質
-
3.6 エントロピー探索獲得関数
-
3.6.1 準備と定義
-
3.6.2 獲得関数の計算方法
-
3.6.3 エントロピー探索の問題点
-
3.7 予測エントロピー探索獲得関数
-
3.7.1 準備と定義
-
3.7.2 事後分布の微分エントロピー
-
3.7.3 疎スペクトル近似によるMonte Carlo積分
-
3.7.4 p(y|Dn, x, x*l)の微分エントロピー
-
3.7.5 獲得関数の計算方法のまとめと計算量
-
3.7.6 獲得関数の性質
-
3.8 ベイズ最適化の終了条件
-
3.9 出力の生成方法
-
3.10 ハイパーパラメータの取り扱い
-
3.10.1 統計モデルのハイパーパラメータ
-
3.10.2 ベイズ的なモデル選択
-
3.10.3 最尤推定に基づく手法
-
3.10.4 ハイパーパラメータのベイズ推論に基づく手法
-
5.1 制約付き最適化とは
-
5.2 制約付き最適化の問題設定
-
5.3 制約を考慮した目的関数のモデリング
-
5.4 制約付き期待改善量
-
5.5 制約付き予測エントロピー探索
-
6.1 多目的最適化とは
-
6.2 多目的最適化の問題設定
-
6.3 多目的最適化における目的関数のモデリング
-
6.4 期待超体積改善量
-
7.1 高次元空間上でのベイズ最適化の課題
-
7.2 目的関数の加法的分解に基づく方法
-
7.2.1 加法的ガウス過程モデルとその推論
-
7.2.2 加法的ガウス過程モデルに基づくベイズ最適化
-
7.3 入力空間の次元削減に基づく方法
-
7.3.1 関数の有効次元
-
7.3.2 ランダム埋め込みに基づくベイズ最適化
-
7.4 局所的なモデリングに基づく方法
-
7.4.1 信頼領域法:目的関数の局所近似モデルの利用
-
7.4.2 信頼領域ベイズ最適化
-
8.1 並列最適化とは
-
8.2 並列最適化における問題点
-
8.3 嘘つき法
-
8.4 局所ペナルティ法
-
8.5 モンテカルロ獲得関数
-
8.5.1 再パラメータ化によるトリック
-
8.5.2 モンテカルロ期待改善量
-
A.1.1 数理最適化問題
-
A.1.2 最適性の条件
-
A.1.3 勾配法の基礎