1990年代まで主流だった「人工知能言語における(バックトラックを阻害しない)適切な枝刈り」論、1990年代以降主流となった機械学習論における「過学習の回避策」辺りが該当する? そこにさりげなく「ベイズの定理」が…
興味深いのは…高度なものから低レベルなものまで、人工知能の学習において「忘却」はかなり重要な位置を占めているという事だ
— 砂鉄 (@satetu4401) 2021年7月19日
忘れない人工知能は、たまたま起こった、そして二度と起こらないであろう物事に備えようと専用の動きを身に着け、そして最終的に使い物にならなくなってしまう
覚えさせるだけなら簡単だ機械はそもそも一度記録したら二度と忘れないからな
— 砂鉄 (@satetu4401) 2021年7月19日
しかし、あらゆることを記憶して忘れない人工知能は、大抵プログラマーが組んだ単純なアルゴリズムに敗北する
なぜ、あらゆる事象を記憶し学習し対応する人工知能が、ごく単純なアルゴリズムに敗北するのであろうか？
— 砂鉄 (@satetu4401) 2021年7月19日
それはノイズ量の差だ
外に出かけるとき「天気予報が晴れと言ってたら傘を持たない」がアルゴリズムなら「あらゆる状況を鑑みた結果毎日傘を持って出る」のが忘れない人工知能だな
傘を持つくらいなら大したことはないが「怪我をした時のために救急キットを持って出よう」「トイレに紙が無かったら最悪だからトイレットペーパーを持って出よう」「靴が壊れたら困るから替えの靴を持とう」と積み重なってくると、もう荷物が溢れて身動きが取れなくなってしまう
— 砂鉄 (@satetu4401) 2021年7月19日
そうなってくると、ごく単純に「天気予報を見て雨だったら傘を持つ、他の災難のことは知らない」と割り切ったアルゴリズムの方が上手く外出できるようになる
— 砂鉄 (@satetu4401) 2021年7月19日
全ての体験を記憶して絶対に失敗を繰り返さない、というと凄く賢く感じるが…実際に運用してみると、現実はそう甘くはない
こうした忘れない人工知能と単純なアルゴリズムの比較は、現代的な正しさと伝統的な正しさの関係性を示唆している
— 砂鉄 (@satetu4401) 2021年7月19日
「あらゆる事を記憶し同じ失敗を繰り返さないようにする現代政治」と「単純なアルゴリズムに従い例外など知ったことではない伝統政治」どちらが良い結果をもたらすかー
俺は現代政治が機能するかどうかは「忘却」にかかっていると考えている。先の例のように、忘却の機能を持たない学習型の人工知能は破綻する
— 砂鉄 (@satetu4401) 2021年7月19日
人間が愚かな時代は学習して改善する政治が機能するが、人間の記憶力が一定レベルを超えてしまうと、学習は伝統（単純なアルゴリズム）に敗北すると
そしてこれが、啓蒙主義や熱心な教育が歴史上に生まれては消えていく理由ではないだろうか？
— 砂鉄 (@satetu4401) 2021年7月19日
皮肉なことに「学習と改善」という手法から最大の利益を引き出せるのは忘れっぽい愚民であり、教育が行き届き記憶力がよい賢者が増えるとこの手法は害になるのである
考えてみればこの話でもありますね。
高橋留美子：漫画家に向いているのは特定のアイディアに固執しない人です。漫画を描いていて詰まる事はもちろんあります。その時、違う方向から物をよく見たり、何か使えるものはないかなと探すことも重要です。その中で面白いものが見つかった時、さっと方向転換出来る人が向いてますね。
やはりこれで「(劇画や超常現象の)1970年代」から「(学園ラブコメの)1980年代」への激烈なトレンド変遷を乗り切ったサバイバーの発言は重みが違います。
