ある意味20世紀に流行した「平行宇宙論」の元祖みたいなもの? 当時は量子コンピューターなどのギミックに絡めて語られる事が多かったものですが、その起源ははるかに古く、ある意味紀元前まで遡るとも。
可能世界(possible worlds)論…元来はゴットフリート・ヴィルヘルム・ライプニッツ(Gottfried Wilhelm Leibniz、1646年〜1716年)がみずからの最善世界観を説明するために用いた哲学・論理学上の概念。
我々が現実に生きているこの世界は、その枠内において成立している事態の多くが矛盾しておらず、その範囲内においてなら概ね矛盾なく考えることが「可能」である。もちろんそうした組み合わせは他にも無数に考えられるが(可能世界群)、神が唯一選んだのがこの現実世界である以上、この世界こそが最善であるとライプニッツは考えたかったのである。
大元はアラビア哲学における「全能の逆説(omnipotence paradox)」論まで遡る議論であり、今日の自然科学界における「ユークリッド幾何学に上位互換性がある非ユークリッド幾何学」や「ニュートン物理学に上位互換性がある量子力学」の登場を予告する内容だった。「神の叡智そのものが無謬だったとしても、その流出先たる人類の知恵の次元では解釈誤謬が鬱積し、遂には(一見)解決不可能な絶対矛盾まで権限する(ガザーリーの流出論)」とする考え方。
非ユークリッド幾何学(non-Euclidean geometry) - Wikipedia
ユークリッド幾何学の平行線公準が成り立たないとして成立する幾何学の総称。ユークリッド幾何学に従わない多種多様な公理系モデルに構成されるが、曲率を一つの目安としたときの両極端の場合として、至る所で負の曲率をもつ双曲幾何学と至る所で正の曲率を持つ楕円幾何学(殊に球面幾何学)が知られる。
ユークリッドの幾何学は、至る所曲率0の世界の幾何であることから、双曲・楕円に対して放物幾何学と呼ぶことがある。平易な言葉で表現するならば、「平面上の幾何学」であるユークリッド幾何学に対して、「曲面上の幾何学」が非ユークリッド幾何学である。
ニュートン力学(Newtonian mechanics) - Wikipedia
現代の物理学の視点では「巨視的なスケールで、かつ光速よりも十分遅い速さの運動を扱う際の、無矛盾・完結的な近似理論」と理解される。
相対性理論は、物体の速さが光速よりも十分遅い・重力が十分に小さい(地球レベル)の条件下ではニュートン力学で十分近似されるし、量子力学の結果は、対象物体の質量を大きくした極限では、ニュートン力学の運動方程式の解と一致する。例えば、人工衛星や惑星探査までを含む宇宙航行の運動の予測を行う際には、ニュートン力学を用いて十分な精度で計算できる場合が多い。
その一方で「現在人類が到達した状態こそが(神も望む)最高峰(細かい矛盾など虫可能な誤差範囲内)」なる保守主義的楽観主義的思考停止は欧州復古王政時代(1814年〜1818年)のヘーゲル(Georg Wilhelm Friedrich Hegel, 1770年〜1831年)が継承。これに対抗する形で「文明が発展するためには個性と多様性、そして天才が保障されなければならないが、他人に実害を与える場合には国家権力が諸個人の自由を妨げる権利が生じる」とするジョン・スチュアート・ミル「自由論(On Liberty、1859年)」の古典的自由主義、「我々が自由意思や個性と信じ込んでいるものは、実際には社会の同調圧力に型抜きされた既製品に過ぎない(本物の自由意思や個性が獲得したければ認識範囲内の全てに抗え)」とする「上部構造理論の提唱者」カール・マルクス「経済学批判(Kritik der Politischen Ökonomie、1859年)」の社会自由主義、「進化は系統的に展開する」とするチャールズ・ダーウィン「種の起源(On the Origin of Species、初版1859年)」が出揃って欧州近代思想が産声をあげたのである。
ちなみにこのサイトは「経済学批判」について、カール=マルクス自身の階級闘争論よりその出版を後援した「社会民主主義の父」フェルディナント・ラッサール(Ferdinand Johann Gottlieb Lassalle、1825年〜1864年)が「既得権の体系全2巻(Das System der erworbenen Rechte、1861年)」の中で提唱した「普遍精神(Allgemeine Geist)の法的勝利過程」を重視する立場。
【参考】フェルディナント・ラッサール「既得権の体系全2巻(Das System der erworbenen Rechte、1861年)」の内容…そもそもそも貨幣経済浸透以前の「支配」は「領主が領土と領民を全人格的に代表する農本主義的権威体制」として実現されていた。ラッサールはこの著作の中でその状態からの脱却過程を以下の様に説明する。
初め権力者はこの世の全てが部が自分の物だと思い込んでいたが、次第に漸進的にその限界を受容してきた。
- 神仏崇拝の自由化は、神仏の私有財産状態からの解放に他ならない。
*かつて都市国家の神殿宗教は祭政一致体制を敷いて土地と農業ノウハウを独占し、人類そのものを「神に奉仕する目的のみで創造された奴隷」と規定し領民を完全隷属下に置いていたが、この状態では神殿が破壊されると人間集団そもものも霧散してしまう。この欠陥を補う為に啓典宗教が発案され(神殿の付属物に過ぎない)神官に代わって(究極的には民の一員たる)啓典を奉じた教導者の時代が訪れる。
- 農奴制が隷農制、隷農制が農業労働者へと変遷していく過程は農民の私有財産状態からの解放に他ならない。
*「領主による領土と領民の全人格的支配」からの脱却過程。地主は土地使用料を受け取るだけの存在に、雇主は賃金を支払う対価として労働者から労働力の供給を受けるだけの存在に変貌していく。
ギルドの廃止や自由競争の導入も、独占権が私有財産の一種と見做されなくなった結果に他ならない。
*かつて特権商人や特権組合は「領土と領民を全人格的に支配する領主」の認可を受ける形で特定商品の生産権や取扱権、特定商人と特定集団の取引権、特定領域における通商権を独占し、私有財産の様に継承してきた。これが最終的に全て自由競争に置き換えられていく。そして現在世界は資本家と労働者の富の収益の再分配はどうあるべきかという問題に直面している。
*この問題には今なお答えが見つかっていない。王侯貴族や教会からの特権剥奪によって、生産を支える労働者がそのまま市場を支える消費者と目される様になった。それでは、このシステムを支えるには「資本家と労働者の富の収益の再分配」はどうあるべきなのか? 共産主義が最終的に到達したのは「全てを統制下に置いて完全管理すれば誰もが幸福になれる」というもの。しかし実際には自由主義圏より先に暴走し、あっけなくシステムとして崩壊してしまったのである。
考えてみればまさに「条件付き確率」モデルそのもの。そして、こうした動きに先駈けて「ラプラスの悪魔(Laplace's demon)」概念と「(確率変数の出力が永延に期待値に到達しない)ベイズ推定」概念を同時提唱したのがピエール=シモン・ラプラス(Pierre-Simon Laplace, 1749年〜1827年)なる人物。
皇帝ナポレオンから「君の著作には神への言及がない」と指摘され「(全てから独立した公理体系の樹立を目指す数学や物理学には)不要の概念だからです」と応えたこの世渡りの達人は、ある意味ドイツの観念哲学者イマヌエル・カント(Immanuel Kant、1724年〜1804年)よろしく「(人間の認識能力の集大成たる)物(独Ding、英Thing)の世界」と「(その外側に「原則として」人類に不可知な形で拡がる)物自体(独Ding an sich、英thing-in-itself)の世界」を峻別する道を選んだ訳ですね。
ラプラスの悪魔(Laplace's demon) - Wikipedia
主に近世・近代の物理学分野で、因果律に基づいて未来の決定性を論じる時に仮想された超越的存在の概念。「ある時点において作用している全ての力学的・物理的な状態を完全に把握・解析する能力を持つがゆえに、宇宙の全運動(未来を含む)までも確定的に知りえる」超人間的知性のこと。フランスの数学者、ピエール=シモン・ラプラスによって提唱された。ラプラスの魔物あるいはラプラスの魔とも呼ばれる。
学問の発達により、近世・近代には様々な自然現象がニュートン力学(古典物理学)で説明できるようになった。現象のメカニズムが知られると同時に、「原因によって結果は一義的に導かれる」という因果律や、「全ての出来事はそれ以前の出来事のみによって決定される」といった決定論の考えを抱く研究者も現れるようになった。その一人が、18世紀の数学者で天文物理学者でもあったピエール=シモン・ラプラスである。彼の持つ世界観は、あらゆる事象が原因と結果の因果律で結ばれるなら、現時点の出来事(原因)に基づいて未来(結果)もまた確定的に決定されるという「因果的決定論」とでも言うべきものである。
ラプラス自身は自著「確率の解析的理論(1812年)」においてこう述べている。「もしもある瞬間における全ての物質の力学的状態と力を知ることができ、かつもしもそれらのデータを解析できるだけの能力の知性が存在するとすれば、この知性にとっては、不確実なことは何もなくなり、その目には未来も(過去同様に)全て見えているであろう」。つまり、世界に存在する全物質の位置と運動量を知ることができるような知性が存在すると仮定すれば、その存在は、古典物理学を用いれば、これらの原子の時間発展を計算することができるだろうから、その先の世界がどのようになるかを完全に知ることができるだろう、と考えたのである。
この架空の超越的な存在の概念を、ラプラス自身はただ「知性」と呼んでいたのだが、後にそれをエミール・デュ・ボワ=レーモンが「ラプラスの霊(Laplacescher Geist)」と呼び、その後広く伝わっていく内に「ラプラスの悪魔(Laplacescher Dämon)」という名前が定着することとなった。
この概念・パラダイムは「(未来は現在の状態によって既に決まっているだろうと想定する)決定論」の概念を論じる時に、ある種のセンセーショナルなイメージとして頻繁に引き合いに出されてきたが、20世紀初頭より勃興した量子力学によって、原子の位置と運動量の両方を同時に知ることは原理的に不可能である事が明らかになると(不確定性原理)完全に否定されるに至る。
神学的背景
「全てを知っており、未来も予見している知性」については、遙か昔から人類は意識しており、通常それは「神」と呼ばれている。「全知の神」と形容されることもある。そのような存在についての様々な考察は、様々な文化において考察された歴史があるが、ヨーロッパの学問の伝統においては特に、キリスト教神学やスコラ学が行っていた。デュ・ボワ=レーモンはそのような学問の伝統を意識しつつ、あえて「神」という語を、「霊」という言葉に置き換えて表現している。
こんがらがってきたので全体像の再編を試みます。
- ラプラスの提言「もしもある瞬間における全ての物質の力学的状態と力を知ることができ、かつもしもそれらのデータを解析できるだけの能力の知性が存在するとすれば、この知性にとっては、不確実なことは何もなくなり、その目には未来も(過去同様に)全て見えているであろう」については、そもそも近世以前にユダヤ教徒・キリスト教徒・イスラム教徒といった「啓典の民」が共有していた唯物神の伝統的イメージの継承と考えるべき。中世までそれに反する事は異端として断罪される事を意味したのである。
- これに対しアラビア哲学者イブン・ルシュド(abū al-walīd muḥammad ibn ʾaḥmad ibn rušd, 1126年〜1198年)ことアヴェロエス (羅Averroes)は「全能の逆説(omnipotence paradox)」がまず(ユークリッド幾何学に対する非ユークリッド幾何学の様な)拡張数理モデルの存在可能性を示唆し、ピエール=シモン・ラプラス(Pierre-Simon Laplace, 1749年〜1827年)やイマヌエル・カント(Immanuel Kant、1724年〜1804年)は「(人間の認識能力の集大成たる)物(独Ding、英Thing)の世界」と「(その外側に「原則として」人類に不可知な形で拡がる)物自体(独Ding an sich、英thing-in-itself)の世界」を峻別する事でその拘束から逃がれ様とした。
- ところが皮肉にも近代、特に(国家間の競争が全てとなった)総力戦体制時代(1910年代後半〜1970年代)においては「この世界におけるあらゆる事象の出現頻度はあらかじめ定まっており、人類が計測可能である」とする頻度主義統計学が優勢となる。
*三原和人の漫画「はじめアルゴリズム(2017年〜)」の後書きにはサラッと「統計学の世界において頻度主義とベイズ主義(条件付き確率)は表裏一体の関係にあります」 と記述されていた。そう、両者の対立の歴史自体が歴史の掃き溜め送りになったのである。これが21世紀…
#統計 ベイズ統計の理解において「数学的モデルは現実に対応していなければいけない」という固定観念を破棄できない人達が、ベイズ統計で使われる非現実的な数学的モデル内での確率に対応する現実の対象を見つけようとして、「主観確率」「信念」のような苦しいことを言い出すようになったのだと思う。
— 黒木玄 Gen Kuroki (@genkuroki) August 10, 2019 - (自然指数・対数関数や複素数から出発し「計測結果が理論値に到達する事は無い」なる結果に至った)ベイズ推定の反撃が始まるのはコンピューター普及が進んでCT(Comuputed Tomography)スキャン分野を皮切りとするMCMC法(Markov Chain Monte Carlo method=マルコフ連鎖モンテカルロ法)実用化や、E-Mail普及を背景とするスパム・フィルター実装が相次いだ20世紀末まで待たねばならなかった。しかし以降は第三世代人口知能ブームの波にも順調に乗り(元来そうあるべきだった)頻度主義統計学と対等の位置を取り戻す。
#統計 「確率分布自体が確率変数である」という見方は数学にある程度以上慣れていないと難しいかも。サンプルをX_1,…,X_nと書き、パラメータ変数をwと書くと、事後分布はφ(w|X_1,…,X_n)の形をしていて、サンプルX_1,…,X_nが確率的に変化すると、パラメータwの確率分布φ(w|X_1,…,X_n)も変化する。
— 黒木玄 Gen Kuroki (@genkuroki) August 10, 2019
こうして21世紀の人類は「我々が認識可能な世界観の向こう側を跋扈する絶対他者」との新たな(前時代よりさらに実存不安を増した)共存関係を強制される様になったのです。
#統計 「現実世界にぴったり一致してくれる可能性のある数学的設定で推定を行いたい」とか「行うべきだ」のような強い思い込みを廃せない人はベイズ統計を永久に理解できない。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
こういう事情があるので、初心者にとってベイズ統計は難しく感じられるのだと思います。続く
#統計 推定・推測のための数学的設定(仮想世界)は現実世界とかけ離れた設定でも構わないことを理解できないせいで、パラメーターに関する事前分布や事後分布に関する現実世界に絡めたおかしな解釈論が流行してしまう。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
長くなりそうなのでメンションを切ります。
#統計 φ(w)に従ってランダム生成されたwで決まるxの確率分布p(x|w)に従うn回の独立試行で生成されたx_1,…,x_nの確率密度函数はby definitionで
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
Z(x_1,…,x_n)=∫φ(w)p(x_1|w)…p(x_n|w)dw.
続く
#統計 仮想世界で、(x_1,…,x_n)=(X_1,…,X_n)という条件のもとで、その次にxがランダム生成されるとき、xの条件付き確率分布の密度函数p^*(x)はby definitionで
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
p^*(x) = Z(X_1,…,X_n,x)/Z(X_1,…,X_n).
条件付き確率なのでZ(X_1,…,X_n)で割っている。p^*(x)は予測分布と呼ばれています。続く
#統計 以上のように、現実世界の未知の分布q(x)の近似になっていると期待される予測分布p^*(x)が「仮想世界が現実世界と同じX_1,…,X_nをランダム生成したという条件のもとでの条件付き確率分布」として定義されていることをベイズ統計の出発点だとすると、全ての話をすっきり理解できます。続く
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
#統計 以上の説明では、条件付き確率分布の定義しか使っておらず、事後分布が出て来ていません!以上のような説明の仕方をすれば、事後分布の概念抜きにベイズ統計の枠組みについて説明可能になります。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
渡辺澄夫さんの赤い本の本質的部分は仮想世界におけるZ(X_1,…,X_n)の漸近挙動の解析。続く
#統計 しかし、すでに「ベイズ統計は事後分布を求めることだ」と誤解させられてしまった人達は以上の説明を何も理解できなくなってしまっていることでしょう。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
そういう運の悪い人達のために、以上の説明の続きとして、事後分布が出て来る所まで説明します。続く
#統計 予測分布p^*(x)の定義式の右辺の分子にZ(x_1,…,x_n)の定義式を適用すると、
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
p^*(x)=∫φ(w)p(X_1|w)…p(X_n|w)p(x|w)dw/Z(X_1,…,X_n).
ゆえに
Φ(w)= φ(w)p(X_1|w)…p(X_n|w)/Z(X_1,…,X_n)
とおくと
p^*(x)=∫Φ(w)p(x|w)dw.
Φ(w)を事後分布と呼びます。続く
#統計 以上の計算では「ベイズの定理」という用語を一切使っていません。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
ベイズの定理は条件付き確率の定義からただちに得られる結果なので、条件付き確率分布の定義を使った計算をすれば「ベイズの定理」を知らないままでベイズの定理と同等の計算をできてしまうわけです。
この辺も要注意な点。
#統計 事後分布の式が上のようになることを、以下のように説明することもできます。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
仮想世界では、事前分布φ(w)に従ってランダムにwを決めた後は、そのwを固定して、確率分布p(x|w)に従う独立試行でx_1,…,x_nが生成されているという設定でした。
続く
#統計 仮想世界において、そのx_1,…,x_nがX_1,…,X_nにぴったり一致している場合に状況を限定すると、最初にランダム生成したパラメーターwの確率分布は偶然X_1,…,X_nが生成されやすいものに変化するはずです。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
そのような意味でのwの確率分布を計算した結果が事後分布Φ(w)になっています。
#統計 ベイズ統計の基本は
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
* わからないものが確率変数になっている数学的仮想世界を設定する。例:未知のパラメーターは確率分布していると設定する。例:欠損値も確率変数に設定してよい。例のリストは幾らでも伸ばせる。
* 仮想世界に現実世界のデータを持ち込んで条件付き確率分布を考える。
#統計 わけのわからない現実世界に立ち向かうためには、「現実世界をぴったり正確に記述しているモデルを得る」というような無理な注文をあきらめた方が良い場合が非常に多いと思います。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
このことを了解できないと、非現実的な数学的設定で推定・推測を行うベイズ統計を科学的に理解することは無理。
#統計 確率論的に設定された非現実的な仮想世界であっても、現実世界と同じサンプルが偶然生成された場合に状況を制限してやれば、現実世界を近似していると期待できるかもしれない、というアイデアがベイズ統計の出発点になっているわけです。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
#統計 補足1:漸近論について
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
渡辺澄夫『ベイズ統計の理論と方法』ではゆるい仮定のもとで、サンプルサイズn→∞で、予測分布p^*(x)が確率モデルp(x|w)の範囲内で未知の分布q(x)に近付くことが証明されています。続く
#統計 だから、ベイズ推定法については、サンプルサイズn→∞での収束は数学的に保証されている。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
しかし、これはn→∞での結果なので有限のnに適用する場合には注意が必要。「nがn=10と小さいので適用できない」とか「n=10万は大きいので適用できる」とか即断してしまうのはひどい誤り。続く
#統計 n→∞での一般論だけから、有限のnでどれだけ近似が有効になっているかに関する結果は絶対に得られないので、有限のnでは個別の場合ごとに数値的な確認しておく必要があります。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
これはベイズ統計とは無関係にいつでもそのように考える必要がある。
#統計 n=10でもn→∞の結果による近似が十分に実用的な場合もあるし、n=10万でもn→∞の結果による近似の誤差が大きすぎる場合もあります。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
数学的に一般的によくわかっていないことはわかっていないと認めて、地道に計算して確認することが大事。これに尽きます。
#統計 補足2:二種類の評価基準
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
ベイズ統計の枠組みでは、数学的に仮想世界を設定して、現実世界のデータを使って、仮想世界内に予測分布を作るのでした。
各人ごとに異なる仮想世界を設定して別の推定・推測結果を得ることになります。
それらをどのような規準で比較評価するべきか?続く
#統計 少なくとも評価の規準には二通りある。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
(A)仮想世界内の予測分布が現実世界の未知の分布をどれだけよく近似しているか?
(B)推定・推測のために設定した仮想世界が現実世界をどれだけよく近似しているか?
少なくとも、予測分布の評価(A)と仮想世界の評価(B)の2つの規準がある。
#統計 しかし、それらの規準で理想的な評価を行うためには、現実世界の未知の確率分布q(x)を使わなければいけません。q(x)がすでにわかっているなら、統計的推定・推測は必要ないので、理想的な正しい評価の実行は諦めなければいけません。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
#統計 それは非常に困難なことで、可能なモデル評価法には様々な制限が付いてきます。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
(少なくとも現時点では)予測分布と未知の真の分布の違いの大きさそのものや仮想世界と現実世界の違いの大きさそのものを、データ(サンプル)だけを使って実用的に推定する方法はありません。
#統計 赤池弘次さんが言っているように、
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
データに基づいてモデルを評価する
という発想になる必要があります。
データを生成した真の法則が未知のままで、データだけに基づいたモデルの評価法を作ることが大事。
#統計 それは非常に困難なことで、可能なモデル評価法には様々な制限が付いてきます。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
(少なくとも現時点では)予測分布と未知の真の分布の違いの大きさそのものや仮想世界と現実世界の違いの大きさそのものを、データ(サンプル)だけを使って実用的に推定する方法はありません。
#統計 しかし、違いの大きさそのものではなく、差であれば推定法が開発されています。(別の言い方をすると、違いの大きさを未知の共通定数の項を除いて実用的に推定する方法は存在する。)
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
#統計 予測分布の評価(A)については、最尤法ではAIC(所謂赤池情報量規準)が有名で、ベイズではWAICが優れています。実際には予測分布の対数尤度でさえ、非常に役に立ちます。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
#統計 仮想世界自体がどれだけ現実世界と違うか(B)は自由エネルギー(=周辺対数尤度の-1倍)のサンプルを動かす平均で定義できるのですが、サンプルを動かす平均の計算は真の分布q(x)をカンニングしないとできないので、自由エネルギーの実現値(およびその近似値)で代用することになります。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
#統計 どちらも議論の詳細を知ると結構大胆なことをやっているので、それらの道具の使用者は、個別の場合ごとの数値的シミュレーションで有効性の程度を確認しておく必要があります。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
n=10でも使える場合があるので、「漸近論が基礎なのでnをどんどん大きくする必要がある」と誤解しないように注意!
#統計 以上の補足2がベイズ統計の基礎付けでは非常に重要な部分なのですが、ややこしい話なので結構大変。しかし、理解していない人達はほぼ全員おかしなことを言っているという経験則があります。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
特に客観的な事前分布を取ることなどにこだわる人達は確実にベイズ統計の基礎を理解していない。
#統計 我々は1980年の赤池弘次さんの論説を読み直して、「データに基いてモデルを評価する」という考え方に戻る必要があると思います。
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
ベイズ統計の場合には、予測分布=モデルとする立場と、事前分布φ(w)を含む仮想世界=モデルとする立場がある。事前分布も評価の対象。https://t.co/2e0Dx7ma0n
赤池弘次さんの1980年の2つの論説を読む価値は極めて高いと思う。https://t.co/weTcekZdjG
— 黒木玄 Gen Kuroki (@genkuroki) March 13, 2018
統計的推論のパラダイムの変遷について
赤池 弘次
1980https://t.co/foCDt7FZBK
エントロピーとモデルの尤度
赤池 弘次
1980
後者にはAICは「an information criterionの略記」だと書いてあります(笑)
#統計 サンプルサイズn→∞でどういうことが起こるかを調べることを統計学では「漸近論」と言います。漸近論に関するちょっとした話については以下のリンク先を見て下さい。https://t.co/jZ99sgFb64
— 黒木玄 Gen Kuroki (@genkuroki) March 18, 2018
https://t.co/8vSX03ivY1#統計 #数楽 漸近論に関係した数学的小ネタについて書きます。
— 黒木玄 Gen Kuroki (@genkuroki) March 13, 2018
漸近論の典型例は「nが大きな二項分布Bin(n,p)は正規分布で近似される」です。n→∞では中心極限定理によって同様の結果をずっと一般の場合に証明できます。続く
ある意味、新海誠ワールドにおいて「月刊ムー」が象徴的に担わされている役割そのものと言うべきかも。その(あえてどのヒューステリック的発送をも放棄しない)非科学的アプローチゆえに理論値に程遠い段階で事後確率の更新がすっかり滞ってしまっているにも関わらず、読者層はその停滞に苛立つどころか、むしろニーチェ「ツァラトゥストラはかく語りき(Also sprach Zarathustra、1883年〜1885年)」におけるロバの宗教儀礼の様に嗜好品的に「実存不安の解消」に役立てているという…
その不確実性が同時に「究極の自由主義は専制の徹底によってのみ達成される」ジレンマにある種の冗長性を与えている辺りも重要…