読者です 読者をやめる 読者になる 読者になる

Take a Risk:林岳彦の研究メモ

自らの研究に関連するエトセトラについてのメモ的ブログです。主にリスク学と統計学を扱っています。

AICとDICに関する非常にアヤしい自作メモ(その4への追記)

統計

*追記2010/04/27:すみません以下の記事ちょっと文脈的なところで適切でない部分がありました。詳しくはメモその5でフォローします。*


今回は前回の追記的な短いメモになります。


改めてDICの元論文であるSpigelhalter et al. (2002)*1を読んでいたら、DIC概念の導入のところ(p603)で以下のようにハッキリ書いてありました*2

Thus, by analogy with classical results described above, we propose a deviance information criterion DIC, defined as a classical estimate of fit, plus twice the effective number of parameters, to give


DIC=D(\overline{\theta})+2p_{D} (36)
=\overline{D}+p_{D} (37)


by definition of pD (10): equation (37) shows that DIC can also be considered as a Bayesian measure of fit or adequacy, penalized by an additional complexity term pD. From the results of section 3.2, we immediately see that in models with negligible prior information DIC will be approximately equivalent to Akaike's criterion.

やっぱり導入のところでは"by analogy"なんですね。


あと、(36)式のようにパラメータ数のペナルティはやっぱり2倍されているわけですね*3 *4。さらに(37)式を見ると、「平均値のdeviance」を「devianceの平均値」に置き換えるところでペナルティが半分に見える*5ことになるようです*6

*1:Bayesian measures of model complexity and fit. J R Statist Soc B 64: 583-639

*2:もっとちゃんと読んどけ>自分

*3:"by analogy"により!

*4:確かにAICのアナロジーとしては"平均値のdeviance"の方が適当か。

*5:2pD → pD

*6:もしかしてこの部分って、AICにおける"真のモデル"と"手持ちデータからのモデル"のギャップのところの議論とパラレル/アナロジカルに理解できたりするのかしら???