【数学ロマン】踊る三角関数⑤「線形性」とは何か？

「ニューラル」側からの大逆襲？

今回の投稿の発端は以下のTweet。

前に総研大の先生方と話した時に，昆虫は脳も凄く小さいし，眼も人間と比べたら殆ど見えてないけど，移動物体の回避も平気でこなすし，蝶に至っては大陸横断するのもいると聞いて，汎用AIとか言う前に昆虫がどうやって異常に少ない計算で，実世界で適応的に振る舞えているのか考えた方がいいと思った．
— 東海林ファジィロボット研究所所長 (@Toukairinn_FUZZ) 2022年11月20日

GPUやビックデータでどうこうみたいなのは明らかに方向性としておかしいし，極端に非効率なことをやってるんだろうなと思う．スケールするかどうかとかそういう問題ではなく，根本からおかしなことやってるんじゃないかという．これは，福島邦彦先生も同じようなことをIEEE CISの講演で仰っていた．
— 東海林ファジィロボット研究所所長 (@Toukairinn_FUZZ) 2022年11月20日

https://t.co/Qnhf4bMIVb
— 東海林ファジィロボット研究所所長 (@Toukairinn_FUZZ) 2022年11月20日

https://t.co/uJiSlEOLCk
— 東海林ファジィロボット研究所所長 (@Toukairinn_FUZZ) 2022年11月20日

福島先生、甘利先生、Brooks, Hinton, Poggioあたりは同世代なんですよね。Hintonの研究が実用的なComputer Visionの課題にスケール可能な形で従来手法よりいい結果を出したら、いきなりゴールドラッシュみたいに深掘りが始まった。でも本質的な「計算可能性」の点では進歩は無いように見える。
— m-take (@takeonomado) 2022年11月20日

同世代ですね．福島先生はNHK技研在籍時に神経生理学の研究者の方とチームで進めていたそうで，平均発火率モデルを用いた誤差逆伝播法のような学習はさせなかったんですよね．今も，Add-If-Silent則のような競合学習により，少ない学習回数で精度が出せるように，ご自宅で研究を進めているそうです．
— 東海林ファジィロボット研究所所長 (@Toukairinn_FUZZ) 2022年11月20日

福島先生とか甘利先生は国宝級なんだから、下にPhD何人か付けて、加速すれば面白い（失礼）のにと思いますね。 Brooksは過去の人だけど（失礼すぎる😓）、Poggioとか未だにLabでガンガンやってる訳で。
— m-take (@takeonomado) 2022年11月20日

超共感します。
簡素な弱解を皆みくびってるんですよね。
私もニューラルネットごり押しの人と話が合わなくなってきました。。
——
フランス料理以外は研究する価値ないんでしょうか？
大阪の三角公園のたこ焼きの美味しさを研究する方が人類全体にインパクトありますよね！
— Dave Ishii∬Math for Fintech (@ishiid) 2022年11月20日

色々な研究が合っていいと思うのですが，何だかおかしな方向へ進んでるんじゃないかという気はしますね．生物から着想を得て，知能ロボットなどへ上手く仕組みを導入していければいいなと個人的には思っています．
— 東海林ファジィロボット研究所所長 (@Toukairinn_FUZZ) 2022年11月20日

同意です。
- 算数not equal数学かもだが算数→数学でもある
-深層学習に突っ込む以外興味ない人増えた
- マッチ棒と輪ゴムで生物を物理モデリングして、帰納的にアルゴ作るのとか大賛成です
- GAN/GPT的に行動仮説を多数構え敵対的検証アルゴとバトラらせ精度上げる仕組みは使えそう(抽象的に)
— Dave Ishii∬Math for Fintech (@ishiid) 2022年11月20日

深層学習に突っ込む以外に興味がない人が増えたなと自分も思います．昔の論文を読むとファジィブームの時期も他分野から突然参入してきて低品質な論文を量産し，ブームが過ぎたらいつの間にか消えていたという話があったので，同じことになるのかなと思ってます（元からいた研究者は残っています）．
— 東海林ファジィロボット研究所所長 (@Toukairinn_FUZZ) 2022年11月20日

同意です！
- 真顔で"機械学習以外に数学ないよね。。
"と言われ驚愕した事多数
- 違和感=逆張り機会
- 弊社は群論(量子)と純粋論理学(算数)をやろう
- 金融工学アプデの必要性発見(ウッシッシ❤️)
-皆は無視=でも禅
- 弊大学山中研/本庶研も日陰でやってた
-これでいいのだ(バカボン)
-新聞読まない
— Dave Ishii∬Math for Fintech (@ishiid) 2022年11月20日

これに刺激された私の一連の投稿。

個人的メモ5。もしかして、これまで述べてきた「人類が選好してきた道」って…https://t.co/2HqNF3AaPF
— Yasunori Matsuki (@YazMatsuki) 2022年11月20日

一言で言うと「線形性」の話？https://t.co/x8jiMuTzGP
— Yasunori Matsuki (@YazMatsuki) 2022年11月20日

あまりにも多くの疑問が一度に解消するので「絶対これ車輪の再発明」と考えて「車輪」探しをしてきましたが、貴方がその車輪でしたか…https://t.co/E5C7wZA9mr
— Yasunori Matsuki (@YazMatsuki) 2022年11月20日

いや、ちょっと待った。「原点を通る直線限定」？　「半径１の単位円を巡る数理」とか例外になっちゃうの？
— Yasunori Matsuki (@YazMatsuki) 2022年11月20日

あ、もしかして「線形性」と「単位円中心の世界」って「誤差関数」と「相補誤差関数」の関係？私、もしかしたら他にも別の車輪を見落としてて、その再発明を絶賛試み中？(そう、数学はそうでなくちゃ‼︎)https://t.co/5ZATXUDFAq
— Yasunori Matsuki (@YazMatsuki) 2022年11月20日

もしかして…X^2君とe^n/Log(n)君「いいところに気がついたね。僕ら「見る角度」によっちゃ直線に見えるんだ」。この「見る角度」って奴が微積分だったり、指数対数写像だったりするという…
— Yasunori Matsuki (@YazMatsuki) 2022年11月20日

そもそも「非線形」概念は「特定の方程式が想定する線形性の外側」と「(確率論的にすら)本当に線形制御下に置けない不測の展開」の両方を含む…「物語」シリーズの羽川翼が自己制御に失敗すると「ブラック羽川」が現れ、それも制御に組み込んだら「火虎」が現れるあの感じ？https://t.co/OFicZURi61
— Yasunori Matsuki (@YazMatsuki) 2022年11月20日