การประมาณของลาปลาซ หรือการประมาณกำลังสอง ( QUAP ) [ 1 ] ให้การแสดงออกเชิงวิเคราะห์สำหรับการกระจายความน่าจะเป็นภายหลัง โดยการปรับให้เข้ากับการกระจายแบบเกาส์เซียนที่ มีค่าเฉลี่ยเท่ากับ คำตอบ MAP และความแม่นยำ เท่ากับข้อมูลฟิชเชอร์ที่สังเกตได้ [ 2 ] [ 3 ] การ ประมาณนี้ได้รับการพิสูจน์โดยทฤษฎีบทเบิร์นสไตน์-ฟอน มิเซส ซึ่งระบุว่าภายใต้เงื่อนไขความสม่ำเสมอ ข้อผิดพลาดของการประมาณมีแนวโน้มเข้าใกล้ 0 เมื่อจำนวนจุดข้อมูลมีแนวโน้มเข้าสู่ค่าอนันต์[ 4 ] [ 5 ]
ตัวอย่างเช่น พิจารณาแบบจำลองการถดถอยหรือการจำแนกประเภทที่มีชุดข้อมูลประกอบด้วยอินพุตและเอาต์พุตที่มีเวกเตอร์พารามิเตอร์ (ที่ไม่ทราบค่า) ที่มีความยาว n ฟังก์ชัน ความน่าจะเป็น จะถูกแทนด้วยและความน่าจะเป็นก่อนหน้า ของพารามิเตอร์จะถูกแทน ด้วย สมมติว่าเราต้องการประมาณความหนาแน่นร่วมของเอาต์พุตและพารามิเตอร์สูตรของเบย์มีดังนี้: { x n , y n } n = 1 , … , เอ็น {\displaystyle \{x_{n},y_{n}\}_{n=1,\ldots ,N}} x {\displaystyle x} y {\displaystyle y} θ {\displaystyle \theta } ดี {\displaystyle D} พี ( y | x , θ ) {\displaystyle p({\bf {y}}|{\bf {x}},\theta )} พี ( θ ) {\displaystyle p(\theta )} พี ( y , θ | x ) {\displaystyle p({\bf {y}},\theta |{\bf {x}})}
พี ( y , θ | x ) = พี ( y | x , θ ) พี ( θ | x ) = พี ( y | x ) พี ( θ | y , x ) ≃ q ~ ( θ ) = ซ q ( θ ) . {\displaystyle p({\bf {y}},\theta |{\bf {x}})\;=\;p({\bf {y}}|{\bf {x}},\theta )p(\theta |{\bf {x}})\;=\;p({\bf {y}}|{\bf {x}})p(\theta |{\bf {y}},{\bf {x}})\;\simeq \;{\tilde {q}}(\theta )\;=\;Zq(\theta ).} ค่าร่วม (joint) เท่ากับผลคูณของความน่าจะเป็นแบบมีเงื่อนไข (likelihood) และความน่าจะเป็นก่อนหน้า (prior) และตามกฎของเบย์ส (Bayes' rule ) เท่ากับผลคูณของ ความน่าจะเป็นแบบมีเงื่อนไข (marginal likelihood ) และ ความน่าจะ เป็นภายหลัง (posterior ) เมื่อมองในฐานะฟังก์ชันของค่าร่วม จะเป็นความหนาแน่นที่ไม่ได้รับการปรับให้เป็นมาตรฐาน (un-normalized density) p ( y | x ) {\displaystyle p({\bf {y}}|{\bf {x}})} p ( θ | y , x ) {\displaystyle p(\theta |{\bf {y}},{\bf {x}})} θ {\displaystyle \theta }
ในการประมาณของลาปลาซ เราประมาณค่าร่วมกันโดยใช้ฟังก์ชันเกาส์เซียนที่ไม่ปรับค่ามาตรฐานโดยที่เราใช้เพื่อแสดงถึงความหนาแน่นโดยประมาณสำหรับความหนาแน่นที่ไม่ปรับค่ามาตรฐาน และค่าคงที่การปรับค่ามาตรฐานของ(ซึ่งไม่ขึ้นอยู่กับ) เนื่องจากความน่าจะเป็นแบบมาร์จินัลไม่ขึ้นอยู่กับพารามิเตอร์และความน่าจะเป็นแบบโพสทีเรี ยร์ ปรับค่ามาตรฐานตามเราจึงสามารถระบุได้ทันทีว่ามันคือและของการประมาณของเรา ตามลำดับ q ~ ( θ ) = Z q ( θ ) {\displaystyle {\tilde {q}}(\theta )=Zq(\theta )} q {\displaystyle q} q ~ {\displaystyle {\tilde {q}}} Z {\displaystyle Z} q ~ {\displaystyle {\tilde {q}}} θ {\displaystyle \theta } p ( y | x ) {\displaystyle p({\bf {y}}|{\bf {x}})} θ {\displaystyle \theta } p ( θ | y , x ) {\displaystyle p(\theta |{\bf {y}},{\bf {x}})} θ {\displaystyle \theta } Z {\displaystyle Z} q ( θ ) {\displaystyle q(\theta )}
การประมาณค่าของลาปลาซคือ
p ( y , θ | x ) ≃ p ( y , θ ^ | x ) exp ( − 1 2 ( θ − θ ^ ) ⊤ S − 1 ( θ − θ ^ ) ) = q ~ ( θ ) , {\displaystyle p({\bf {y}},\theta |{\bf {x}})\;\simeq \;p({\bf {y}},{\hat {\theta }}|{\bf {x}})\exp {\big (}-{\tfrac {1}{2}}(\theta -{\hat {\theta }})^{\top }S^{-1}(\theta -{\hat {\theta }}){\big )}\;=\;{\tilde {q}}(\theta ),} โดยที่เราได้กำหนดไว้แล้ว
θ ^ = argmax θ log p ( y , θ | x ) , S − 1 = − ∇ θ ∇ θ log p ( y , θ | x ) | θ = θ ^ , {\displaystyle {\begin{aligned}{\hat {\theta }}&\;=\;\operatorname {argmax} _{\theta }\log p({\bf {y}},\theta |{\bf {x}}),\\S^{-1}&\;=\;-\left.\nabla _{\theta }\nabla _{\theta }\log p({\bf {y}},\theta |{\bf {x}})\right|_{\theta ={\hat {\theta }}},\end{aligned}}} โดยที่คือตำแหน่งของโหมดของความหนาแน่นเป้าหมายร่วม หรือที่เรียกว่าจุด ค่า สูงสุดภายหลัง (maximum a posteriori หรือ MAP point) และคือ เมทริกซ์ บวกกำหนด (positive definite matrix) ของอนุพันธ์อันดับสองของค่าลบของลอการิทึมของความหนาแน่นเป้าหมายร่วมที่โหมดนั้นดังนั้น การประมาณแบบเกาส์เซียนจะตรงกับค่า และความโค้งของลอการิทึมของความหนาแน่นเป้าหมายที่ไม่ได้รับการปรับค่ามาตรฐานที่โหมดนั้น โดยปกติแล้วค่าของจะหาได้โดยใช้วิธีการที่อิงตามเกรเดี ยนต์ θ ^ {\displaystyle {\hat {\theta }}} S − 1 {\displaystyle S^{-1}} D × D {\displaystyle D\times D} θ = θ ^ {\displaystyle \theta ={\hat {\theta }}} θ ^ {\displaystyle {\hat {\theta }}}
โดยสรุปแล้ว เรามี
q ( θ ) = N ( θ | μ = θ ^ , Σ = S ) , log Z = log p ( y , θ ^ | x ) + 1 2 log | S | + D 2 log ( 2 π ) , {\displaystyle {\begin{aligned}q(\theta )&\;=\;{\cal {N}}(\theta |\mu ={\hat {\theta }},\Sigma =S),\\\log Z&\;=\;\log p({\bf {y}},{\hat {\theta }}|{\bf {x}})+{\tfrac {1}{2}}\log |S|+{\tfrac {D}{2}}\log(2\pi ),\end{aligned}}} สำหรับค่าประมาณของความน่าจะเป็นภายหลังและค่าประมาณของลอการิทึมของความน่าจะเป็นส่วนขอบตามลำดับ θ {\displaystyle \theta }
จุดอ่อนหลักของการประมาณค่าของลาปลาซคือมีความสมมาตรรอบโหมดและเป็นแบบเฉพาะที่: การประมาณค่าทั้งหมดได้มาจากคุณสมบัติที่จุดเดียวของความหนาแน่นเป้าหมาย วิธีการของลาปลาซถูกใช้กันอย่างแพร่หลายและได้รับการบุกเบิกในบริบทของเครือข่ายประสาทโดย David MacKay [ 6 ] และสำหรับกระบวนการเกาส์เซียน โดย Williams และ Barber [ 7 ]
การประมาณค่าลาปลาสแบบซ้อนกันแบบบูรณาการ การประมาณค่าลาปลาสแบบซ้อนกันแบบบูรณาการ (INLA เป็นวิธีการอนุมานแบบเบย์เซียน โดยอาศัยการประมาณของลาปลาซ [ 8 ] มันถูกออกแบบมาสำหรับแบบจำลองประเภทหนึ่งที่เรียกว่าแบบจำลองเกาส์เซียนแฝง (LGM) ซึ่งสามารถเป็นทางเลือกที่รวดเร็วและแม่นยำสำหรับมาร์คอฟเชน มอนเตคาร์โล เพื่อคำนวณการแจกแจงมาร์จินัลแบบโพสทีเรียร์ [ 9 ] [ 10 ] [ 11 ] เนื่องจากความเร็วที่ค่อนข้างสูงแม้กับชุดข้อมูลขนาดใหญ่สำหรับปัญหาและแบบจำลองบางอย่าง INLA จึงเป็นวิธีการอนุมานที่ได้รับความนิยมในสถิติประยุกต์ โดยเฉพาะอย่างยิ่งสถิติเชิงพื้นที่ นิเวศวิทยา แผ่นดินไหววิทยา และระบาดวิทยา [ 12 ] [ 13 ] [ 14 ] นอกจาก นี้ยังสามารถรวม INLA กับวิธีการไฟไนต์เอเลเมนต์ เพื่อแก้สมการเชิงอนุพันธ์ย่อยแบบ เพื่อศึกษา เช่น กระบวนการจุดเชิงพื้นที่และแบบจำลองการกระจายพันธุ์ [ 15 ] [ 16 ] วิธีการ INLA ถูกนำไปใช้ในแพ็คเกจR [ 17 ]
แบบจำลองเกาส์เซียนแฝง ให้แทนตัวแปรตอบสนอง (นั่นคือ ข้อมูลสังเกต) ซึ่งอยู่ในตระกูลการแจกแจง แบบเอกซ์โพเนนเชียล โดยค่าเฉลี่ย(ของ) เชื่อมโยงกับตัวทำนายเชิงเส้น ผ่านฟังก์ชันเชื่อมโยง ที่เหมาะสม ตัวทำนายเชิงเส้นสามารถอยู่ในรูปแบบของแบบจำลองบวก (แบบเบย์เซียน) ผลกระทบแฝงทั้งหมด (ตัวทำนายเชิงเส้น ค่าคงที่ สัมประสิทธิ์ของตัวแปรอธิบายที่เป็นไปได้ และอื่นๆ) จะถูกแทนด้วยเวกเตอร์พารามิเตอร์ ของแบบจำลองจะถูกแทนด้วยตามสถิติแบบเบย์เซียนและเป็นตัวแปรสุ่มที่มีการแจกแจงแบบก่อนหน้า y = ( y 1 , … , y n ) {\displaystyle {\boldsymbol {y}}=(y_{1},\dots ,y_{n})} μ i {\displaystyle \mu _{i}} y i {\displaystyle y_{i}} η i {\displaystyle \eta _{i}} x {\displaystyle {\boldsymbol {x}}} θ {\displaystyle {\boldsymbol {\theta }}} x {\displaystyle {\boldsymbol {x}}} θ {\displaystyle {\boldsymbol {\theta }}}
ถือว่า การสังเกตการณ์เป็นอิสระต่อกันแบบมีเงื่อนไขเมื่อกำหนดและ: โดยที่คือเซตของดัชนีสำหรับองค์ประกอบที่สังเกตได้ของ(บางองค์ประกอบอาจไม่ได้รับการสังเกต และสำหรับองค์ประกอบเหล่านี้ INLA จะคำนวณการแจกแจงการทำนายภายหลัง) โปรดทราบว่าตัวทำนายเชิงเส้นเป็นส่วนหนึ่งของ x {\displaystyle {\boldsymbol {x}}} θ {\displaystyle {\boldsymbol {\theta }}} π ( y | x , θ ) = ∏ i ∈ I π ( y i | η i , θ ) , {\displaystyle \pi ({\boldsymbol {y}}|{\boldsymbol {x}},{\boldsymbol {\theta }})=\prod _{i\in {\mathcal {I}}}\pi (y_{i}|\eta _{i},{\boldsymbol {\theta }}),} I {\displaystyle {\mathcal {I}}} y {\displaystyle {\boldsymbol {y}}} η {\displaystyle {\boldsymbol {\eta }}} x {\displaystyle {\boldsymbol {x}}}
เพื่อให้แบบจำลองเป็นแบบจำลองเกาส์เซียนแฝง สมมติว่าเป็น Gaussian Markov Random Field (GMRF) [ 8 ] (นั่นคือ เกาส์เซียนหลายตัวแปรที่มี คุณสมบัติ ความเป็นอิสระแบบมีเงื่อนไข เพิ่มเติม ) โดยมีความหนาแน่นของความน่า จะเป็น โดยที่เป็นเมทริกซ์ความแม่นยำแบบ เบาบางที่ขึ้นอยู่กับและเป็นดีเทอร์มิแนนต์ของเมทริกซ์นั้น เมทริกซ์ความแม่นยำเป็นแบบเบาบางเนื่องจากสมมติฐาน GMRF การแจกแจงก่อนหน้าสำหรับไฮเปอร์พารามิเตอร์ไม่จำเป็นต้องเป็นเกาส์เซียน อย่างไรก็ตาม จำนวนไฮเปอร์พารามิเตอร์ถือว่ามีขนาดเล็ก (เช่น น้อยกว่า 15) x | θ {\displaystyle {\boldsymbol {x}}|{\boldsymbol {\theta }}} π ( x | θ ) ∝ | Q θ | 1 / 2 exp ( − 1 2 x T Q θ x ) , {\displaystyle \pi ({\boldsymbol {x}}|{\boldsymbol {\theta }})\propto \left|{\boldsymbol {Q_{\theta }}}\right|^{1/2}\exp \left(-{\frac {1}{2}}{\boldsymbol {x}}^{T}{\boldsymbol {Q_{\theta }}}{\boldsymbol {x}}\right),} Q θ {\displaystyle {\boldsymbol {Q_{\theta }}}} θ {\displaystyle {\boldsymbol {\theta }}} | Q θ | {\displaystyle \left|{\boldsymbol {Q_{\theta }}}\right|} π ( θ ) {\displaystyle \pi ({\boldsymbol {\theta }})} m = d i m ( θ ) {\displaystyle m=\mathrm {dim} ({\boldsymbol {\theta }})}
การอนุมานแบบเบย์เซียนโดยประมาณด้วย INLA ในการอนุมานแบบเบย์เซียน เราต้องการหาการแจกแจงความน่าจะเป็นภายหลัง ของตัวแปรแฝงและโดยใช้ทฤษฎีบทของเบย์ การแจกแจงความน่าจะเป็นภายหลังร่วมของและจะได้จากการหาการแจกแจงความน่าจะเป็นภายหลังที่แน่นอนนั้นโดยทั่วไปเป็นปัญหาที่ยากมาก ใน INLA เป้าหมายหลักคือการประมาณค่าการแจกแจงความน่าจะเป็นภายหลังแบบมาร์จินัลโดย ที่x {\displaystyle {\boldsymbol {x}}} θ {\displaystyle {\boldsymbol {\theta }}} π ( x , θ | y ) = π ( y | x , θ ) π ( x | θ ) π ( θ ) π ( y ) , {\displaystyle \pi ({\boldsymbol {x}},{\boldsymbol {\theta }}|{\boldsymbol {y}})={\frac {\pi ({\boldsymbol {y}}|{\boldsymbol {x}},{\boldsymbol {\theta }})\pi ({\boldsymbol {x}}|{\boldsymbol {\theta }})\pi ({\boldsymbol {\theta }})}{\pi ({\boldsymbol {y}})}},} x {\displaystyle {\boldsymbol {x}}} θ {\displaystyle {\boldsymbol {\theta }}} π ( x , θ | y ) ∝ π ( θ ) π ( x | θ ) ∏ i π ( y i | η i , θ ) ∝ π ( θ ) | Q θ | 1 / 2 exp ( − 1 2 x T Q θ x + ∑ i log [ π ( y i | η i , θ ) ] ) . {\displaystyle {\begin{aligned}\pi ({\boldsymbol {x}},{\boldsymbol {\theta }}|{\boldsymbol {y}})&\propto \pi ({\boldsymbol {\theta }})\pi ({\boldsymbol {x}}|{\boldsymbol {\theta }})\prod _{i}\pi (y_{i}|\eta _{i},{\boldsymbol {\theta }})\\&\propto \pi ({\boldsymbol {\theta }})\left|{\boldsymbol {Q_{\theta }}}\right|^{1/2}\exp \left(-{\frac {1}{2}}{\boldsymbol {x}}^{T}{\boldsymbol {Q_{\theta }}}{\boldsymbol {x}}+\sum _{i}\log \left[\pi (y_{i}|\eta _{i},{\boldsymbol {\theta }})\right]\right).\end{aligned}}} π ( x i | y ) = ∫ π ( x i | θ , y ) π ( θ | y ) d θ π ( θ j | y ) = ∫ π ( θ | y ) d θ − j , {\displaystyle {\begin{array}{rcl}\pi (x_{i}|{\boldsymbol {y}})&=&\int \pi (x_{i}|{\boldsymbol {\theta }},{\boldsymbol {y}})\pi ({\boldsymbol {\theta }}|{\boldsymbol {y}})d{\boldsymbol {\theta }}\\\pi (\theta _{j}|{\boldsymbol {y}})&=&\int \pi ({\boldsymbol {\theta }}|{\boldsymbol {y}})d{\boldsymbol {\theta }}_{-j},\end{array}}} θ − j = ( θ 1 , … , θ j − 1 , θ j + 1 , … , θ m ) {\displaystyle {\boldsymbol {\theta }}_{-j}=\left(\theta _{1},\dots ,\theta _{j-1},\theta _{j+1},\dots ,\theta _{m}\right)}
แนวคิดหลักของ INLA คือการสร้างการประมาณแบบซ้อนกัน โดยกำหนดโดยที่เป็นความหนาแน่นของความน่าจะเป็นภายหลังที่ประมาณค่าได้ การประมาณความหนาแน่นของความน่าจะเป็นส่วนชายขอบได้มาในลักษณะซ้อนกัน โดยการประมาณค่าและก่อน จากนั้นจึงทำการอินทิเกรต เชิงตัวเลข โดยที่ผลรวมนั้นครอบคลุมค่าของโดยมีน้ำหนักการอินทิเกรตที่กำหนดโดยการประมาณค่าของคำนวณได้โดยการอินทิเกรตเชิงตัวเลข จากπ ~ ( x i | y ) = ∫ π ~ ( x i | θ , y ) π ~ ( θ | y ) d θ π ~ ( θ j | y ) = ∫ π ~ ( θ | y ) d θ − j , {\displaystyle {\begin{array}{rcl}{\widetilde {\pi }}(x_{i}|{\boldsymbol {y}})&=&\int {\widetilde {\pi }}(x_{i}|{\boldsymbol {\theta }},{\boldsymbol {y}}){\widetilde {\pi }}({\boldsymbol {\theta }}|{\boldsymbol {y}})d{\boldsymbol {\theta }}\\{\widetilde {\pi }}(\theta _{j}|{\boldsymbol {y}})&=&\int {\widetilde {\pi }}({\boldsymbol {\theta }}|{\boldsymbol {y}})d{\boldsymbol {\theta }}_{-j},\end{array}}} π ~ ( ⋅ | ⋅ ) {\displaystyle {\widetilde {\pi }}(\cdot |\cdot )} π ( x i | y ) {\displaystyle \pi (x_{i}|{\boldsymbol {y}})} π ( θ | y ) {\displaystyle \pi ({\boldsymbol {\theta }}|{\boldsymbol {y}})} π ( x i | θ , y ) {\displaystyle \pi (x_{i}|{\boldsymbol {\theta }},{\boldsymbol {y}})} θ {\displaystyle {\boldsymbol {\theta }}} π ~ ( x i | y ) = ∑ k π ~ ( x i | θ k , y ) × π ~ ( θ k | y ) × Δ k , {\displaystyle {\begin{aligned}{\widetilde {\pi }}(x_{i}|{\boldsymbol {y}})=\sum _{k}{\widetilde {\pi }}\left(x_{i}|{\boldsymbol {\theta }}_{k},{\boldsymbol {y}}\right)\times {\widetilde {\pi }}({\boldsymbol {\theta }}_{k}|{\boldsymbol {y}})\times \Delta _{k},\end{aligned}}} θ {\displaystyle {\boldsymbol {\theta }}} Δ k {\displaystyle \Delta _{k}} π ( θ j | y ) {\displaystyle \pi (\theta _{j}|{\boldsymbol {y}})} θ − j {\displaystyle {\boldsymbol {\theta }}_{-j}} π ~ ( θ | y ) {\displaystyle {\widetilde {\pi }}({\boldsymbol {\theta }}|{\boldsymbol {y}})}
เพื่อให้ได้การกระจายโดยประมาณสามารถใช้ความสัมพันธ์เป็นจุดเริ่มต้นได้ จากนั้นจะได้ค่าเฉพาะของไฮเปอร์พารามิเตอร์ด้วยการประมาณของลาปลาส [ 8 ] โดยที่คือการประมาณแบบเกาส์เซียน ของซึ่ง โหมดที่ ค่า ที่กำหนดคือโหมดสามารถหาได้ด้วยวิธีเชิงตัวเลข เช่น ด้วยวิธีนิวตัน-ราฟ สัน π ~ ( θ | y ) {\displaystyle {\widetilde {\pi }}({\boldsymbol {\theta }}|{\boldsymbol {y}})} π ( θ | y ) = π ( x , θ , y ) π ( x | θ , y ) π ( y ) , {\displaystyle {\begin{aligned}{\pi }({\boldsymbol {\theta }}|{\boldsymbol {y}})={\frac {\pi \left({\boldsymbol {x}},{\boldsymbol {\theta }},{\boldsymbol {y}}\right)}{\pi \left({\boldsymbol {x}}|{\boldsymbol {\theta }},{\boldsymbol {y}}\right)\pi ({\boldsymbol {y}})}},\end{aligned}}} π ~ ( θ | y ) {\displaystyle {\widetilde {\pi }}({\boldsymbol {\theta }}|{\boldsymbol {y}})} θ = θ k {\displaystyle {\boldsymbol {\theta }}={\boldsymbol {\theta }}_{k}} π ~ ( θ k | y ) ∝ π ( x , θ k , y ) π ~ G ( x | θ k , y ) | x = x ∗ ( θ k ) , ∝ π ( y | x , θ k ) π ( x | θ k ) π ( θ k ) π ~ G ( x | θ k , y ) | x = x ∗ ( θ k ) , {\displaystyle {\begin{aligned}{\widetilde {\pi }}({\boldsymbol {\theta }}_{k}|{\boldsymbol {y}})&\propto \left.{\frac {\pi \left({\boldsymbol {x}},{\boldsymbol {\theta }}_{k},{\boldsymbol {y}}\right)}{{\widetilde {\pi }}_{G}\left({\boldsymbol {x}}|{\boldsymbol {\theta }}_{k},{\boldsymbol {y}}\right)}}\right\vert _{{\boldsymbol {x}}={\boldsymbol {x}}^{*}({\boldsymbol {\theta }}_{k})},\\&\propto \left.{\frac {\pi ({\boldsymbol {y}}|{\boldsymbol {x}},{\boldsymbol {\theta }}_{k})\pi ({\boldsymbol {x}}|{\boldsymbol {\theta }}_{k})\pi ({\boldsymbol {\theta }}_{k})}{{\widetilde {\pi }}_{G}\left({\boldsymbol {x}}|{\boldsymbol {\theta }}_{k},{\boldsymbol {y}}\right)}}\right\vert _{{\boldsymbol {x}}={\boldsymbol {x}}^{*}({\boldsymbol {\theta }}_{k})},\end{aligned}}} π ~ G ( x | θ k , y ) {\displaystyle {\widetilde {\pi }}_{G}\left({\boldsymbol {x}}|{\boldsymbol {\theta }}_{k},{\boldsymbol {y}}\right)} π ( x | θ k , y ) {\displaystyle {\pi }\left({\boldsymbol {x}}|{\boldsymbol {\theta }}_{k},{\boldsymbol {y}}\right)} θ k {\displaystyle {\boldsymbol {\theta }}_{k}} x ∗ ( θ k ) {\displaystyle {\boldsymbol {x}}^{*}({\boldsymbol {\theta }}_{k})}
เทคนิคในการประมาณค่าลาปลาสข้างต้นคือข้อเท็จจริงที่ว่าการประมาณค่าเกาส์เซียนถูกนำไปใช้กับเงื่อนไขทั้งหมดของในตัวส่วน เนื่องจากโดยปกติแล้วจะใกล้เคียงกับเกาส์เซียนเนื่องจากคุณสมบัติ GMRF ของการใช้การประมาณค่าในที่นี้ช่วยปรับปรุงความแม่นยำของวิธีการ เนื่องจากค่าหลังเองไม่จำเป็นต้องใกล้เคียงกับเกาส์เซียน ดังนั้นการประมาณค่าเกาส์เซียนจึงไม่ได้นำไปใช้กับโดยตรงคุณสมบัติที่สำคัญประการที่สองของ GMRF คือความเบาบางของเมทริกซ์ความแม่นยำซึ่งจำเป็นสำหรับการคำนวณที่มีประสิทธิภาพสำหรับ แต่ละค่า[ 8 ]x {\displaystyle {\boldsymbol {x}}} x {\displaystyle {\boldsymbol {x}}} π ( θ | y ) {\displaystyle {\pi }({\boldsymbol {\theta }}|{\boldsymbol {y}})} π ( θ | y ) {\displaystyle {\pi }({\boldsymbol {\theta }}|{\boldsymbol {y}})} Q θ k {\displaystyle {\boldsymbol {Q}}_{{\boldsymbol {\theta }}_{k}}} π ~ ( θ k | y ) {\displaystyle {\widetilde {\pi }}({\boldsymbol {\theta }}_{k}|{\boldsymbol {y}})} θ k {\displaystyle {{\boldsymbol {\theta }}_{k}}}
การหาการกระจายโดยประมาณนั้นมีความซับซ้อนมากขึ้น และวิธี INLA มีตัวเลือกสามแบบสำหรับเรื่องนี้ ได้แก่ การประมาณแบบเกาส์เซียน การประมาณแบบลาปลาส หรือการประมาณแบบลาปลาสแบบง่าย[ 8 ] สำหรับการบูรณาการเชิงตัวเลขเพื่อให้ได้ก็มีสามตัวเลือกเช่นกัน ได้แก่ การค้นหาแบบกริด การออกแบบคอมโพสิตกลาง หรือเบย์สเชิงประจักษ์[ 8 ] π ~ ( x i | θ k , y ) {\displaystyle {\widetilde {\pi }}\left(x_{i}|{\boldsymbol {\theta }}_{k},{\boldsymbol {y}}\right)} π ~ ( x i | y ) {\displaystyle {\widetilde {\pi }}(x_{i}|{\boldsymbol {y}})}
อ่านเพิ่มเติม Amaral Turkman, M. Antónia; Paulino, Carlos Daniel; Müller, Peter ( 2019). "วิธีการลาปลาสแบบคลาสสิก" สถิติเบย์เซียนเชิงคำนวณ: บทนำ เคมบริดจ์: สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์ หน้า 154–159 ISBN 978-1-108-48103-8 . Gomez-Rubio, Virgilio (2021). การอนุมานแบบเบย์เซียนด้วย INLA . Chapman and Hall/CRC. ISBN 978-1-03-217453-2 . Tanner, Martin A. (1996). "โมเมนต์ภายหลังและการหาค่าเฉลี่ยโดยใช้วิธีของลาปลา ซ" เครื่องมือสำหรับการอนุมานทางสถิติ นิวยอร์ก: สปริงเกอร์ หน้า 44–51 ISBN 0-387-94688-8 .