今回の投稿の発端は以下のポスト。
交差エントロピー誤差関数ってどういう関数のことをいうんだろ？t_nは0，1の2値だけど，これを確率と解釈すれば式(4.90)は t_n と y_n の分布に対するクロスエントロピー（の和）となっているから，クロスエントロピーを誤差とみなす誤差関数のこと？ #prml
— Takeshi Arabiki (@a_bicky) 2010年6月4日
.@shima__shima 指数分布族の中でも2項分布の場合はロジスティックシグモイド関数を活性化関数とすることで，交差エントロピー誤差関数の勾配が最小二乗問題の誤差関数の勾配と同じ形をするという意味で，最小二乗問題のようなものとみなせるという解釈でいいでしょうか？ #prml
— Takeshi Arabiki (@a_bicky) 2010年6月5日
はい．t とか y が確率だと思うとエントロピーの形になってますよね RT @a_bicky: 交差エントロピー誤差関数ってどういう関数のことをいうんだろ？t_nは0，1の2値だけど，これを確率と解釈すれば式(4.90)は t_n と y_n の分布に対するクロスエ… #prml
— しましま (@shima__shima) 2010年6月4日
負のを消して，14.4 の符号を反転しないとダメですね．Bishop先生に問い合わせます RT @shuyo: PRML 14.4 CARTでの分類で、負の交差エントロピー誤差関数(14.32)が「(Gini indexとどちらも)p_τk=0.5のときに最大値となる」と書かれ…
— しましま (@shima__shima) 2010年7月12日
疑問点を誤解していました．誤差関数は交差エントロピーなのですが，それを残差2乗和の最小化に持ち込むのですね．p.205の段落の最後の文 RT @a_bicky: 残差の2乗和最小化ではないので… #prml
— しましま (@shima__shima) 2010年6月5日
なお「ビショップ本」
ビショップ本を勉強中!#機械学習#PRML#数学 pic.twitter.com/mfcd8Puz8r
— koumotoj (@koumotojunjun) 2023年4月1日
そんな感じで以下続報…
