重回帰分析

作業日誌3日目。

どうやら僕が知りたいのは重回帰分析というものらしいからこの本を明日探す。

今日は統計の本を読んだけど特に何も進展はない。行列の性質だけを使っていろんな統計的な性質を導いていて、新鮮な感じがした。同時にすごいとも思った。

あとは大学の英会話カフェに行った。
あと英語の授業もあった。
喋れないなぁ。伝えたいことがあってもその半分も伝えれない。これはやはり辛い。

さらに英語で専門分野の議論をするとなると、なおさらきつい。

最近だらけてるなぁ。明日は朝図書館にこもろうと思う。

まぁぼちぼち頑張ろう。

広告

Gaussian noise

わからないー。

パラメトリックモデルを考えた時に、観測値yがy =f(x;w)+e、つまり真の関数に誤差が混じって観測されるとする。
e~N(0,σ^2)としてσ^2の最尤推定量を導出した。でもこれは不偏推定量ではない。だから係数をいじる。ここがわからない。

本によると、係数は1/n-p-1らしい。nは標本サイズで、pは入力xの次元というかパラメータの次元。

今日はほとんどこれしかやってない。あとは英語の授業に出たのと、英語の課題をしたのみ。

相談したけど英語でうまく説明できんかった。反省。もっと言うこと考えてから相談しないと。まだまだだ。

というわけで明日もこれやる!ここをちゃんと理解したい。

いつになったら、わかったと言えるんだろうか。

作業日誌 正規分布について

X1,…,Xnがそれぞれ正規分布に従うなら、それらを縦に並べたベクトルはまた正規分布に従う。そしてこれらの平均、分散も計算できる。

今日の収穫はこれぐらい。

あとは、正規分布のパラメータの最尤推定の新しい導出を知ったこと。知っただけで理解してない。なんかコレスキー分解使ってた。あの本はめちゃめちゃ詳しく書いてあって嬉しいけど、元気がある時じゃないと読めない。

あとは、カーネル多変量解析の2章を適当に読んで3章へ。まだあんま読めてないから明日読む。

授業も出たな。今日は強化学習についてだったな。面白そうだけどあまり理解できなかった。

そんな感じ。

作業日誌

って効果あるのだろうか?
僕はこういうログをとったりするのが苦手だ。どれを書いてどれを書かないかがわからないから。でも一日の終わりに今日は何をしたか、を意識できたら良いなと思って今作業日誌をつけようかと思ってる。

書くなら多分ここになるんだろうなぁ。
公開していた方が何かと良いし。

とりあえず今日したこと。

・確率統計勉強会
・図書館で、「カーネル多変量解析」、「Introduction to multivariate statistical analysis」(タイトル怪しい)を借りて少し読んだ。

これだけ。今日なんもしてない。
ESLを読んでて、自分は1変数の統計の知識はあるが、多変数の知識が足りない!と思ったので、この辺りの本を探しに行った。

カーネル多変量解析はAmazonですごくお勧めされてたのと、先輩に勧められたから借りてみた。実際、多変量解析だけわかれば良いと思ってたけど、どうせならカーネルについても知ろうと思った。
後者は、動機にばっちり当てはまるタイトルだったし、読んでみてこれなら読めそうだったので借りてみた。

まだ論文を読むのは早いと言われたので、ESLを主軸にこれらの本を読んで行きたいと思う。

知りたいのは、多変数確率変数の変換が主ですかね。1変数だとカイ二乗、t、Fあたりまで把握したのですが、2変数になるとわからなくなる。標準正規分布の多変数はそこそこわかってると思うので後はその変換がわかればこれらの分布に繋がるはずだと思ってます。

まぁそんな感じですね。
何かおすすめあったら教えてください。