情報幾何の書評です。情報幾何がどんな分野なのかはこちらをご覧ください。
- 情報幾何学の基礎
情報幾何を数学的に解説した書籍で、情報幾何に興味があるならばまず本書籍で学ぶのがよいかと思います。1~3章は情報幾何で用いる多様体~リーマン幾何学について解説しています。
ユニークなのが、1章でユークリッド空間を曲がった座標系で記述する点です。普通の多様体の数学書ではこうした試みは数学的には無駄なのでまずやらないですが、教育的には斬新な切り口で、著者の教育的配慮が感じられます。そこから得た知見を使い2章,3章で標準的な多様体論リーマン幾何を展開していってます。微分幾何の導入としても使える章かと思います。
4章,5章で情報幾何の話に入っていきます。双対アフィン接続は情報幾何で使う接続で、通常のアフィン接続の拡張となっています。5章で1~4章の知識を使って確率分布全体がつくる空間がどのような性質をもつか議論しています。
6章~8章は情報幾何の応用例を紹介してます。６章は統計物理への応用ですが、統計力学に明るくなければ飛ばしてしまってもよいかと思います。7章は統計学への適用で、推定や検定等統計学で重要な概念を情報幾何のことばで再定義しており、まさに「統計学の幾何学化」その言葉のとおりです。
8章は量子情報幾何で量子確率論を幾何学化するとどうなるかで、関数解析のヒルベルト空間論の知識が必要です。この分野は情報幾何学の創始者甘利俊一氏も直観が効かず難しいと言ってしまう分野で、初読時は飛ばしも問題ないかと思います。
最近(2021年6月時点)、共立出版から出版されるようになったようです。 amazonリンク
- 情報幾何学の新展開
情報幾何学の創始者甘利俊一氏による情報幾何学の解説書です。基礎から説明していますが、どちらかというと応用に重きを置いてる感があります。
微分幾何の章では数学的な厳密さは追求せず、直観的でイメージしやすい説明に終始しており、さすがという感じです。
基本事項はほどほどに情報幾何のいろいろな応用例を紹介しています。まず統計学への応用があり、推定や検定の漸近理論について触れられています。漸近理論とはざっくりいうと、ある変数\(N\)を十分大きくしたとき、\(N\)の関数\(f(N)\)がある極限が存在するとして、そこにどの程度の速さで近づくか、誤差はどの程度かを見積る理論で、統計学では\(N\)を観測データ数にとります。
１次高次の漸近性は情報幾何では確率分布空間の「接空間」までを考慮したもので、高次の漸近性を求めるには「接続」、「曲率」を考慮することが必要となり、幾何学的に見ると関係性がわかりやすいと思います。
近年発展が目覚ましい機械学習分野への情報幾何の適用があります。特にディープラーニングでプラトー(学習が進んでいないように見える領域)の原理を情報幾何をベースに力学系の考え方を用いて解説しています。パーセプトロンの重み係数全体がつくる空間において、いずれか二つの重み係数が同じ値になるとき、この空間は特異点をもつこととなります。詳細は割愛しますが、この特異点がある種のアトラクタとなり、このアトラクタ付近を通る際学習速度がゆっくりとなりこれがプラトーの原因であると言われており、非常に興味深かったです。
2022/8/11 追記
私が読んだのは旧版の方です。これから読む場合は上の図の新版の方がよいかと思います。