タグ

ベイズに関するmidnightseminarのブックマーク (22)

  • 脳とベイジアンネットFAQ

    脳の情報処理原理の解明の鍵となる技術が ベイジアンネットです。 しかし、大半の研究者は大脳皮質とベイジアンネットの鮮やかな対応について まだ知りません。 脳の情報処理原理に基づいた知能の高いロボットの実現に向け、 一人でも多くの神経科学者・計算機科学者に、 ベイジアンネットと大脳皮質の関係を知ってもらいたいと思います。 ベイジアンネットそのものについての質問 ベイジアンネットとは何ですか? ベイジアンネット(ベイジアンネットワーク 、 Bayesian network) とは、確率論に基づいた推論を効率的に行うための技術です。 脳の機能の1つである直観と似た働きをします。 ベイジアンネットは、複数の事象の間の因果関係をネットワーク構造で表現し、 同時に因果関係の強さを表す数値も記録したものです。 このように表現された「知識」を用いれば、得られた観測データに基づいて 様々な事象の確率を ベイ

  • ベイズ階層言語モデルによる 教師なし形態素解析

    midnightseminar
    midnightseminar 2016/02/02
    「“形態素”とは、文字列の生成確率を最大にするような情報理論的な単位として導くことができる」
  • [PDF]ベイジアンネットワーク入門

    MEDICAL IMAGING TECHNOLOGY Vol.21 No.4 September 2003 315 1 Introduction to Bayesian Network1 * Hiroki SUYARI 1. 1 1 D1, , D4 T1, , T3 Fig. 1 Fig. 1 7 8 Di Di = 1 Di = 0 Tj Tj = 1 * 263-8522 1-33 : Department of Information and Image Sciences, Faculty of Engineering, Chiba University. e-mail:[email protected] Fig. 1 One example of Bayesian Network for medical diagnosis. Tj = 0 D1, , D4, T1

  • [PDF]第10章 マルコフ連鎖モンテカルロ法入門

    2019年10⽉1⽇ 統計科学のための電子図書システムは 統計数理研究所の機関リポジトリに移行しました。 移行後のページ

  • モデルとしての事前分布 - himaginary’s diary

    ノアピニオン氏が統計におけるベイジアンと頻度主義の対立について論じたところ、ベイズ統計学の権威であるアンドリュー・ゲルマンが反応した。以下はそこからの抜粋。 First, a Bayesian doesn’t need to stick with his or her priors, any more than any scientist needs to stick with his or her model. It’s fine—indeed, recommended—to abandon or alter a model that produces implications that don’t make sense (see my paper with Shalizi for a wordy discussion of this point). Second, the parall

    モデルとしての事前分布 - himaginary’s diary
  • 事前分布がベイズ推定を歪める時 - himaginary’s diary

    昨日紹介したゲルマンのエントリでは、引用部の冒頭で事前分布への固執を戒めていたが、それは、ノアピニオン氏がベイジアンはデータが信用できないと自分の事前分布に固執する、と揶揄したことへの反論を意図していた。そこでノアピニオン氏は、事前分布を間違えるととんでもない結論に至る極端な例として、統計学者のCosma Shaliziが4年前に自ブログで示したケースを挙げている(デロング経由)。今日はそのShaliziのエントリを紹介してみる。 The theme here is to construct some simple yet pointed examples where Bayesian inference goes wrong, though the data-generating processes are well-behaved, and the priors look harmle

    事前分布がベイズ推定を歪める時 - himaginary’s diary
  • 尤度とは何者なのか? - MyEnigma

    まずはこの一冊から 意味がわかるベイズ統計学 (BERET SCIENCE) 目次 目次 はじめに 最尤推定法とベイズ推定の違い 尤度をグラフィカルに説明する資料 参考資料 MyEnigma Supporters はじめに 学生の時から, "それは最尤推定法を用いています" とか, "その行は,尤度計算の部分ですね” とか,まるで尤度というものを知っていて, 使いこなしているかのような発言をしてきました. しかし,そう言いながらも, 自分的には,尤度というものがかなり漠然としていました. そもそも,尤度は文字通り「尤もらしさ」を表す度合いなので, 「最尤推定法でモデルのパラメータを決定します.」 っていうのは, 「一番それっぽいものを選びます」 と言っているのとあまり変わりがない気がしていたのです(笑) 最近,このを読んで最適化を一から体系的に学び直しているのですが, やっと,尤度という

    尤度とは何者なのか? - MyEnigma
    midnightseminar
    midnightseminar 2015/04/23
    データが連続量の場合、尤度は確率では全くないと思うが。
  • MCMCで研究報告

    7. 論文体で報告 事例: Regarding the clinical process–mechanism–outcome linkages examined in the SEM, EB results for the regression parameters in the structural portion of the SEM (see Figure 4) suggest a positive effect of the following sets of therapist interventions on change in family functioning: (a) proportion of individually focused general interventions (BE (7,9) = 17.49, 95% credible interval [6.

    MCMCで研究報告
  • 正規分布しない/カテゴリカルなデータの構造方程式モデルでの扱い方 | Theoretical Sociology

    Structural Equation Modeling: A Second Course (Quantitative Methods in Education and the Behavioral Sciences) Structural Equation Modelin...の他のレビューをみる» --- Information Age Pub Inc ¥ 3,910 (2006-01-30) Sara J. Finney and Christine DiStefano, 2006, "Nonnormal and Categorical Data in Structural Equation," Gregory R. Hancock and Ralph O. Mueller (eds.) Structural Equation Modeling: A Second Course, In

    正規分布しない/カテゴリカルなデータの構造方程式モデルでの扱い方 | Theoretical Sociology
    midnightseminar
    midnightseminar 2015/01/25
    いわば、ノンパラSEMの考え方。潜在変数を想定してそれがカテゴリ変数に現れてるとみなすというのは、なるほどとは思うが、扱いが難しそうだ…。
  • ベイジアンネットワーク-入門から応用まで

    Abstract: ( ) ( ) ( ) 1. ( ) 2. (Bayesian network, Bayesnet, belief network) [1, 2, 3, 4, 5] [6, 7, 8, 9, 10] 0 1 1 0 Xi, Xj Xi → Xj Xj Xi X1 X2 X4 X3 X5 X2 0 1 X4 0 0.8 0.4 1 0.2 0.6 条件付確率表 P(X4|X2) P(X3|X1,X2) Pa(X3) Pa(X5) Pa(X4) P(X5|X3,X4) 1: Bayesian network Xj Pa(Xj) Xj Pa(Xj) ( Pa(Xj) ) P(Xj | Pa(Xj)) (1) n X1 · · · , Xn (2) P(X1, · · · , Xn) = n � j=1 P(Xj | Pa(Xj)). (2) 1 1 3 Pa(Xj) = x1

    midnightseminar
    midnightseminar 2014/11/14
    めちゃめちゃわかりやすい。
  • マルコフ連鎖モンテカルロ法の最近の展開 | CiNii Research

    JaLC IRDB Crossref DataCite NDL NDL-Digital RUDA JDCat NINJAL CiNii Articles CiNii Books CiNii Dissertations DBpedia Nikkei BP KAKEN Integbio MDR PubMed LSDB Archive 極地研ADS 極地研学術DB 公共データカタログ ムーンショット型研究開発事業

  • Rでマルコフ連鎖モンテカルロ法を試す - 餡子付゛録゛

    地味にここ5年間ぐらい、マルコフ連鎖モンテカルロ法(MCMC)が流行っているようです。汎用的な分布でベイズ推定を行う時に有用な数値解析アルゴリズムの総称で、Metropolis-Hastings algorithm(M-Hアルゴリズム)などが主要なメソッドとして使われています。ただし、ベイズ推定以外でも利用する事はできます。 RでもMCMCpackと言うパッケージがあるのですが、取扱説明書を見る限り、ベイズ推定が前提となっておりM-Hアルゴリズムだけを試すことは難しそうです(追記:MCMCmetrop1R()関数で利用できます)。もっとも同アルゴリズムは比較的シンプルなモノなので、ポアソン分布から乱数を作成し、それを推定する練習をしてみました。 1. ポアソン分布からλ=1の乱数を作成 ポアソン分布からλ=1の乱数を作成します。練習のためにポアソン分布を利用したのは、推定するパラメーターが

    Rでマルコフ連鎖モンテカルロ法を試す - 餡子付゛録゛
  • ベイズ推定を知っているフリをするための知識

    最近はベイジアンが増えてきて、実用分野での利用も進んでいるようだ。話題としては知っておきたいが、世間一般には理解に混乱を生んでいるようだ。 ベイズ推定は入門レベルの統計学の教科書ではオマケ的な扱いがされており、実際に伝統的な統計手法を拡張している面が強い。そういう意味では、誤解や混乱があっても仕方が無い。 利用する必要があるのか無いのか良く分からない点も多いのだが、知らないと告白するのも気恥ずかしいかも知れない。自分ではベイズ推定で分析を行わない人が、ベイズ信者と話をあわせるために最低限知っておくべき事をまとめてみた。 1. ベイズ推定とは何か? ベイズ推定とは、ベイズの定理を応用した推定手法だ。端的に理解するためには、最尤法に事前確率を導入している事だけ覚えれば良い。これで哲学的議論を全て回避してベイズ推定を把握することができる。 下の(1)式ではπ(θ)が事前確率、π(θ|x)が事後確

    ベイズ推定を知っているフリをするための知識
    midnightseminar
    midnightseminar 2014/09/28
    “最尤法の拡張だと理解してしまうと身近になる。利用目的も一般には推定量の信頼性を高めるためだと思っておけば良い”
  • シャロン・バーチュ・マグレイン『異端の統計学ベイズ』 - logical cypher scape2

    ベイズ派統計学の歴史についての あくまで歴史なので、ベイズ統計についての説明はあまりないが、関わった人物のエピソードなどが中心となっている。 アレックス・ローゼンバーグ『科学哲学』 - logical cypher scape2やラプラス『確率の哲学的試論』(内井惣七訳) - logical cypher scape2が、ベイズだったので、ベイズの勉強。 統計学の中では、頻度主義というのが主流で、ベイズ派はずっとマイノリティだった。 まず、ベイズ自身がそもそもベイズの定理を公表しておらず、続いて数学的な定式化を行ったラプラスも晩年は頻度主義に転向し、19世紀は完全に頻度主義の時代で、第二次大戦で実際に使われるようになるも軍事機密扱いで世の中に広まらず、戦後少しずつベイズ派が広まり始めるも計算が大変でなかなか実用化されず…… と、ベイズ的な考え方はずっと不遇の日々を送ってきたわけだが、その

    シャロン・バーチュ・マグレイン『異端の統計学ベイズ』 - logical cypher scape2
  •  「異端の統計学ベイズ」 - shorebird 進化心理学中心の書評など

    異端の統計学 ベイズ 作者: シャロン・バーチュマグレイン,Sharon Bertsch McGrayne,冨永星出版社/メーカー: 草思社発売日: 2013/10/23メディア: 単行この商品を含むブログ (28件) を見る 書はベイズ統計学の学説史にかかるで,アメリカのサイエンスライターの手によるもの.原題は「The Theory That Would Not Die: How Beyes’ Rule Cracked the Enigma Code, Hunted Down Russian Submarines, and Emerged Triumphant from Two Centuries of Controversy」ということでまるでスパイ小説のようなタイトルだが,邦題はより論争史を意識したものになっている.私としてはソーバーの「科学と証拠」を読んでベイズ主義と頻度主義

     「異端の統計学ベイズ」 - shorebird 進化心理学中心の書評など
    midnightseminar
    midnightseminar 2014/07/18
    「等事前確率の主観性の問題が必要以上にフォーカスされた」「フィッシャー,ネイマンが自説に対立するものに偏狭だった」「ベイズの輝かしい成功例が軍事機密指定により世間に知られることがなかった」
  • Stanで統計モデリングを学ぶ(5): とりあえず階層ベイズモデルを試してみる(応用編:トレンドのあるモデル) *追記2件あり - 渋谷駅前で働くデータサイエンティストのブログ

    このシリーズ記事、全然真面目に事前分布の勉強をしていない人間がStanで無理やりフルベイズをやろうという無謀な代物でございますが、何だかんだで段々佳境に入ってまいりました。 ということで、今回は階層ベイズモデルをこんな感じでやってみましたという例を挙げてみようかと思います。ちなみに内容的には@berobero11さんのこちらの記事(「RStanで『予測にいかす統計モデリングの基』の売上データの分析をトレースしてみた」)をグレードダウンさせた感じのものだったりします(笑)。そして先日招待講演させていただいた時の最後の方で取り上げた例でもあります。 そんなわけで、どのようにしてやっていったかを含めてサクサク見ていきましょう。階層ベイズについて忘れちゃったという人は、前回の記事あたりを読んで復習してもらえれば。 データをインポートする いつも通り、サンプルデータをGitHubに上げてあるので持

    Stanで統計モデリングを学ぶ(5): とりあえず階層ベイズモデルを試してみる(応用編:トレンドのあるモデル) *追記2件あり - 渋谷駅前で働くデータサイエンティストのブログ
  • [PDF]始めよう!ベイズ推定による データ解析

    midnightseminar
    midnightseminar 2014/05/20
    ベイズ推定の説明としてめちゃめちゃ分かりやすい。
  • 「データ解析のための統計モデリング入門」読書ノート - Wolfeyes Bioinformatics beta

    「データ解析のための統計モデリング入門」をひと通り読んだ.書はGLMからMCMCによる分布推定までの一連の統計モデリングの流れを,生態学における研究の問題に即したテストデータやRを使った解析例とともに解説したである.書を書かれた久保さんの講義資料は前々から拝見していたのだが,今回はそれが全体を通して非常によくまとまっている印象を受けた.やはり実例に沿った例題があって,それを解決するためのストーリーが組まれていると,何が問題で何をすべきなのか,そしてその評価方法を含めてハッキリとしていて読みやすい.Rのコードに関しても,コマンドの実行方法からその解釈の仕方まで丁寧に解説が組まれており,数式とのつながりもわかりやすい.個人的には,後半のMCMCの実験に関しては大部分をWinBUGSにお任せで,シミュレーションの過程が少し不明瞭だった感じもするのだが,限られた紙面でMCMCの細かい実装方法

    midnightseminar
    midnightseminar 2014/05/17
    緑本の学習ノート。
  • ベイズ統計入門

    7. 補足 データ解析とモデル データの解析=統計モデリング 統計モデルとは観測データのパターンをうまく説明できるモデル 基は確率分布であり、その確率分布の形を決定するものがパラメータ 「推定」=モデルの当てはまりが良くなるようにパラメータを決定すること 回帰系モデル GLM:指数関数族 ポワソン回帰 ロジスティック回帰 GLMM(Generalized linear mixed model) …過分散データの分析など 階層ベイズ 7 8. ベイズの定理 1 ベイズの定理とは、 p y|H p(H) p(H|y) = p(y) ⇔ 事後情報 = データの情報 + 事前情報 y:何らかの情報 H:何らかの仮説 p(H) 事前の確信度 仮説Hが正しいという事前の確信度 p(y|H) 尤度関数 Hが真の際にデータが得られる尤度 p(H|y) 事後の確信度 情報yが得られた後の仮説Hの確信度 P

    ベイズ統計入門
  • 従来の推定法とベイズ推定法の違い | Sunny side up!

    ベイズ推定って、最近はやってきてますね。僕も流行りにおいて行かれないように勉強しています。 理論的な話や数学的な話はいろいろWebやをあされば出てきますが、実用面とか解釈面について言及しているものは少ないですね。 今回は清水の個人的な意見として、ベイズがどういう風に使えそうか書いてみます。数学的な話はなしで。よくわからないので。 興味ある人は続きをどうぞ。 2016/2/1追記:ベイズ統計について,入門的な資料を作りました。心理学者のためのベイズ統計入門もあわせてどうぞ。 ベイズ推定法の前に、従来法の代表として最尤推定法について触れておきます。 その方法とベイズがどう違うのかについて、そのあと述べます。 最尤推定法 最尤法ともいわれますが、基的な発想は、モデルとデータの関係を次のように考えます。 真のモデルというのがあって、我々はそのモデルから発生したデータを手に入れている。真値は一つ