กลับไปหน้าบทความ

อ่าน 6 นาที

การประมาณค่าหลังสูงสุด

ในสถิติแบบเบย์เซียนค่าประมาณสูงสุดภายหลัง ( MAP ) ของปริมาณที่ไม่ทราบค่า คือค่าฐานนิยมของความหนาแน่นภายหลัง MAP...

การประมาณค่าหลังสูงสุด

ในสถิติแบบเบย์เซียนค่าประมาณสูงสุดภายหลัง ( MAP ) ของปริมาณที่ไม่ทราบค่า คือค่าฐานนิยมของความหนาแน่นภายหลัง MAP สามารถใช้เพื่อหาค่าประมาณจุดของปริมาณที่ไม่สามารถสังเกตได้บนพื้นฐานของข้อมูลเชิงประจักษ์ วิธีนี้มีความเกี่ยวข้องอย่างใกล้ชิดกับวิธี การประมาณค่า ความน่าจะเป็นสูงสุด (ML) แต่ใช้เป้าหมายการปรับให้ เหมาะสมที่เสริมเข้ามา ซึ่งรวมถึงความหนาแน่นก่อนหน้าของปริมาณที่ต้องการประมาณค่า ดังนั้น การประมาณค่า MAP จึงเป็นการปรับปรุงการประมาณค่าความน่าจะเป็นสูงสุด

คำอธิบาย

สมมติว่าเราต้องการประมาณค่าพารามิเตอร์ประชากรที่ไม่สามารถสังเกตได้θ{\displaystyle \theta }บนพื้นฐานของการสังเกตการณ์x{\displaystyle x}. อนุญาตเอฟ{\displaystyle f}เป็นการแจกแจงตัวอย่างของx{\displaystyle x}ดังนั้นเอฟ(xθ){\displaystyle f(x\mid \theta )}ความน่าจะเป็นของx{\displaystyle x}เมื่อพารามิเตอร์ประชากรพื้นฐานคือθ{\displaystyle \theta }จากนั้นจึงเป็นฟังก์ชัน:

θเอฟ(xθ){\displaystyle \theta \mapsto f(x\mid \theta )\!}

เรียกว่าฟังก์ชันความน่าจะเป็นและค่าประมาณ:

θ^เอ็มแอลอี(x)=เอจีเอxθ เอฟ(xθ){\displaystyle {\hat {\theta }}_{\mathrm {MLE} }(x)={\underset {\theta }{\operatorname {arg\,max} }}\ f(x\mid \theta )\!}

คือการประมาณค่าความน่าจะเป็นสูงสุดของθ{\displaystyle \theta }.

ตอนนี้สมมติว่ามีการแจกแจงแบบก่อนหน้าจี{\displaystyle g}เกินθ{\displaystyle \theta }มีอยู่จริง สิ่งนี้ทำให้เราสามารถรักษาได้θ{\displaystyle \theta }ในฐานะตัวแปรสุ่ม เช่นเดียว กับในสถิติแบบเบย์เซียนเราสามารถคำนวณความหนาแน่นภายหลังของθ{\displaystyle \theta }โดยใช้ทฤษฎีบทของเบย์ส :

θเอฟ(θx)=เอฟ(xθ)จี(θ)Θเอฟ(xϑ)จี(ϑ)ϑ{\displaystyle \theta \mapsto f(\theta \mid x)={\frac {f(x\mid \theta )\,g(\theta )}{\displaystyle \int _{\Theta }f(x\mid \vartheta )\,g(\vartheta )\,d\vartheta }}\!}

ที่ไหนจี{\displaystyle g}คือฟังก์ชันความหนาแน่นของθ{\displaystyle \theta },Θ{\displaystyle \Theta }เป็นขอบเขตของจี{\displaystyle g}.

วิธีการประมาณค่าสูงสุดภายหลัง (maximum a posteriori estimation) จะประมาณค่าดังนี้θ{\displaystyle \theta }โดยเป็นค่าฐานนิยมของความหนาแน่นความน่าจะเป็นภายหลังของตัวแปรสุ่มนี้:

θ^เอ็มเอพี(x)=เอจีเอxθ เอฟ(θx)=เอจีเอxθ เอฟ(xθ)จี(θ)Θเอฟ(xϑ)จี(ϑ)ϑ=เอจีเอxθ เอฟ(xθ)จี(θ).{\displaystyle {\begin{aligned}{\hat {\theta }}_{\mathrm {MAP} }(x)&={\underset {\theta }{\operatorname {arg\,max} }}\ f(\theta \mid x)\\&={\underset {\theta }{\operatorname {arg\,max} }}\ {\frac {f(x\mid \theta )\,g(\theta )}{\displaystyle \int _{\Theta }f(x\mid \vartheta )\,g(\vartheta )\,d\vartheta }}\\&={\underset {\theta }{\operatorname {arg\,max} }}\ f(x\mid \theta )\,g(\theta ).\end{aligned}}\!}

ตัวหารของความหนาแน่นภายหลัง ( ความน่าจะเป็นแบบมาร์จินัลของแบบจำลอง) จะเป็นค่าบวกเสมอและไม่ขึ้นอยู่กับθ{\displaystyle \theta }ดังนั้นจึงไม่มีบทบาทในการปรับให้เหมาะสม สังเกตว่าค่าประมาณ MAP ของθ{\displaystyle \theta }สอดคล้องกับการประมาณค่า ML เมื่อค่าก่อนหน้าจี{\displaystyle g}มีความสม่ำเสมอ (เช่นจี{\displaystyle g}เป็นฟังก์ชันคงที่ซึ่งเกิดขึ้นเมื่อใดก็ตามที่ใช้การแจกแจงก่อนหน้าเป็นมาตรวัดอ้างอิง ดังเช่นที่พบได้ทั่วไปในการประยุกต์ใช้ในพื้นที่ฟังก์ชัน

ในบริบทของตัวประมาณค่าแบบเบย์ส MAP สามารถกู้คืนได้โดยการหาค่าต่ำสุดของความเสี่ยงแบบเบย์สด้วยฟังก์ชันความเสี่ยง

แอล(θ,เอ)={0,ถ้า |เอθ|<,1,มิฉะนั้น,{\displaystyle L(\theta ,a)={\begin{cases}0,&{\text{if }}|a-\theta |<c,\\1,&{\text{otherwise}},\\\end{cases}}}

ในขีดจำกัดเมื่อ{\displaystyle c}มีค่าเข้าใกล้ 0 โดยมีเงื่อนไขว่าการกระจายตัวของθ{\displaystyle \theta }เป็นแบบกึ่งเว้า[ 1 ]โดยทั่วไปแล้ว ตัวประมาณค่า MAP ไม่ใช่ตัวประมาณค่าแบบเบย์เว้นแต่θ{\displaystyle \theta }เป็นแบบไม่ต่อเนื่อง

การคำนวณ

สามารถคำนวณค่าประมาณ MAP ได้หลายวิธี:

  1. ในเชิงวิเคราะห์ เมื่อค่าฐานนิยมของความหนาแน่นของความน่าจะเป็นภายหลังสามารถแสดงได้ในรูปแบบปิดนี่คือกรณีที่ใช้ไพรเออร์แบบสังยุค
  2. โดยใช้วิธีการปรับปรุงประสิทธิภาพเชิงตัวเลข เช่นวิธีการไล่ระดับเชิงสังยุคหรือวิธีของนิวตัน ซึ่งโดยปกติแล้วจะต้องใช้ ค่าอนุพันธ์อันดับหนึ่งหรืออันดับสองที่ต้องคำนวณหาค่าโดยวิธีวิเคราะห์หรือวิธีเชิงตัวเลข
  3. โดยใช้การปรับเปลี่ยนอัลกอริธึมการคาดการณ์และการทำให้สูงสุด (expectation-maximization algorithm ) ซึ่งไม่จำเป็นต้องใช้ค่าอนุพันธ์ของความหนาแน่นของความน่าจะเป็นภายหลัง (posterior density)
  4. โดยใช้วิธี Monte Carloโดยใช้การจำลองการอบอ่อน (simulated annealing)

ข้อจำกัด

แม้ว่าเงื่อนไขเพียงเล็กน้อยก็เพียงพอสำหรับการประมาณค่า MAP ให้เป็นกรณีจำกัดของการประมาณค่าแบบเบย์ (ภายใต้ฟังก์ชันการสูญเสีย 0–1) [ 1 ]แต่ก็ไม่ได้เป็นตัวแทนของวิธีการแบบเบย์โดยทั่วไป เนื่องจากการประมาณค่า MAP เป็นการประมาณค่าแบบจุด และขึ้นอยู่กับการเลือกมาตรวัดอ้างอิงโดยพลการ ในขณะที่วิธีการแบบเบย์มีลักษณะเฉพาะคือการใช้การแจกแจงเพื่อสรุปข้อมูลและอนุมาน ดังนั้น วิธีการแบบเบย์จึงมักรายงานค่าเฉลี่ยหรือค่ามัธยฐาน ภายหลัง แทน พร้อมกับช่วงความน่าเชื่อถือทั้งนี้เป็นเพราะตัวประมาณค่าเหล่านี้เหมาะสมที่สุดภายใต้การสูญเสียแบบกำลังสองและการสูญเสียแบบเชิงเส้นตามลำดับ ซึ่งเป็นตัวแทนของฟังก์ชันการสูญเสีย ทั่วไปมากกว่า และสำหรับการแจกแจงภายหลังแบบต่อเนื่องนั้น ไม่มีฟังก์ชันการสูญเสียใดที่บ่งชี้ว่า MAP เป็นตัวประมาณค่าแบบจุดที่เหมาะสมที่สุด

ตัวอย่างความหนาแน่นของการแจกแจงแบบสองยอดซึ่งยอดสูงสุดนั้นไม่ตรงกับลักษณะทั่วไปของการแจกแจงส่วนใหญ่

ในแบบจำลองหลายประเภท เช่นแบบจำลองผสม (mixture models ) ค่าความน่าจะเป็นภายหลัง (posterior) อาจมีหลายค่าสูงสุด (multi-modal ) ในกรณีเช่นนี้ คำแนะนำทั่วไปคือควรเลือกค่าสูงสุดที่มีค่าสูงสุด: แต่นั่นไม่ใช่เรื่องที่ทำได้เสมอไป ( การหาค่าเหมาะสมที่สุดทั่วโลกเป็นปัญหาที่ยาก) หรือในบางกรณีอาจเป็นไปไม่ได้เลย (เช่น เมื่อ เกิดปัญหา เรื่องความสามารถในการระบุตัวตน ) นอกจากนี้ ค่าสูงสุดที่มีค่าสูงสุดอาจไม่เป็นตัวแทนของค่าความน่าจะเป็นภายหลังส่วนใหญ่ โดยเฉพาะอย่างยิ่งในหลายมิติ

สุดท้ายนี้ แตกต่างจากตัวประมาณค่า ML การประมาณค่า MAP ไม่คงที่ภายใต้การกำหนดพารามิเตอร์ใหม่ การเปลี่ยนจากการกำหนดพารามิเตอร์หนึ่งไปเป็นการกำหนดพารามิเตอร์อื่นเกี่ยวข้องกับการแนะนำJacobianที่ส่งผลต่อตำแหน่งของค่าสูงสุด[ 2 ]ในทางตรงกันข้าม ความคาดหวังภายหลังแบบเบย์เซียนคงที่ภายใต้การกำหนดพารามิเตอร์ใหม่

เพื่อเป็นตัวอย่างแสดงความแตกต่างระหว่างตัวประมาณค่าแบบเบย์ที่กล่าวถึงข้างต้น (ตัวประมาณค่าเฉลี่ยและค่ามัธยฐาน) กับการใช้ค่าประมาณแบบ MAP ให้พิจารณากรณีที่จำเป็นต้องจำแนกประเภทของข้อมูลนำเข้าx{\displaystyle x}โดยอาจเป็นได้ทั้งด้านบวกหรือด้านลบ (ตัวอย่างเช่น สินเชื่อมีความเสี่ยงหรือปลอดภัย) สมมติว่ามีสมมติฐานที่เป็นไปได้เพียงสามข้อเกี่ยวกับวิธีการจำแนกประเภทที่ถูกต้องชม.1{\displaystyle h_{1}},ชม.2{\displaystyle h_{2}}และชม.3{\displaystyle h_{3}}โดยมีค่าความน่าจะเป็นภายหลังเท่ากับ 0.4, 0.3 และ 0.3 ตามลำดับ สมมติว่ามีอินสแตนซ์ใหม่หนึ่งตัวx{\displaystyle x},ชม.1{\displaystyle h_{1}}จัดประเภทเป็นบวก ในขณะที่อีกสองประเภทจัดประเภทเป็นลบ โดยใช้ค่าประมาณ MAP สำหรับตัวจำแนกที่ถูกต้องชม.1{\displaystyle h_{1}},x{\displaystyle x}ถูกจัดประเภทเป็นบวก ในขณะที่ตัวประมาณค่าแบบเบย์จะหาค่าเฉลี่ยจากสมมติฐานทั้งหมดและจัดประเภทเป็นx{\displaystyle x}ในเชิงลบ

ตัวอย่าง

สมมติว่าเราได้รับลำดับหนึ่งมา(x1,,xn){\displaystyle (x_{1},\dots ,x_{n})}ของIIDเอ็น(μ,σวี2){\displaystyle N(\mu ,\sigma _{v}^{2})}ตัวแปรสุ่มและการแจกแจงก่อนหน้าของμ{\displaystyle \mu }ได้รับจาก เอ็น(μ0,σ2){\displaystyle N(\mu _{0},\sigma _{m}^{2})}เราต้องการหาค่าประมาณ MAP ของμ{\displaystyle \mu }โปรดทราบว่าการแจกแจงปกติเป็นการแจกแจงก่อนหน้าแบบสังยุค ของตัวเอง ดังนั้นเราจะสามารถหาคำตอบในรูปแบบปิดได้โดยวิธีการวิเคราะห์

ฟังก์ชันที่จะเพิ่มค่าสูงสุดจะกำหนดโดย[ 3 ]

จี(μ)เอฟ(xμ)=π(μ)แอล(μ)=12πσเอ็กซ์(12(μμ0σ)2)เจ=1n12πσวีเอ็กซ์(12(xเจμσวี)2),{\displaystyle g(\mu )f(x\mid \mu )=\pi (\mu )L(\mu )={\frac {1}{{\sqrt {2\pi }}\sigma _{m}}}\exp \left(-{\frac {1}{2}}\left({\frac {\mu -\mu _{0}}{\sigma _{m}}}\right)^{2}\right)\prod _{j=1}^{n}{\frac {1}{{\sqrt {2\pi }}\sigma _{v}}}\exp \left(-{\frac {1}{2}}\left({\frac {x_{j}-\mu }{\sigma _{v}}}\right)^{2}\right),}

ซึ่งเทียบเท่ากับการลดค่าฟังก์ชันต่อไปนี้ให้เหลือน้อยที่สุดμ{\displaystyle \mu }:

เจ=1n(xเจμσวี)2+(μμ0σ)2.{\displaystyle \sum _{j=1}^{n}\left({\frac {x_{j}-\mu }{\sigma _{v}}}\right)^{2}+\left({\frac {\mu -\mu _{0}}{\sigma _{m}}}\right)^{2}.}

ดังนั้น เราจึงเห็นว่าตัวประมาณค่า MAPสำหรับ μ จะได้รับจาก[ 3 ]

μ^เอ็มเอพี=σ2nσ2n+σวี2(1nเจ=1nxเจ)+σวี2σ2n+σวี2μ0=σ2(เจ=1nxเจ)+σวี2μ0σ2n+σวี2.{\displaystyle {\hat {\mu }}_{\mathrm {MAP} }={\frac {\sigma _{m}^{2}\,n}{\sigma _{m}^{2}\,n+\sigma _{v}^{2}}}\left({\frac {1}{n}}\sum _{j=1}^{n}x_{j}\right)+{\frac {\sigma _{v}^{2}}{\sigma _{m}^{2}\,n+\sigma _{v}^{2}}}\,\mu _{0}={\frac {\sigma _{m}^{2}\left(\sum _{j=1}^{n}x_{j}\right)+\sigma _{v}^{2}\,\mu _{0}}{\sigma _{m}^{2}\,n+\sigma _{v}^{2}}}.}

ซึ่งปรากฏว่าเป็นการประมาณค่าเชิงเส้นระหว่างค่าเฉลี่ยก่อนหน้าและค่าเฉลี่ยตัวอย่าง โดยถ่วงน้ำหนักด้วยค่าความแปรปรวนร่วมของแต่ละค่า

กรณีของσ{\displaystyle \sigma _{m}\to \infty }เรียกว่าค่าความน่าจะเป็นล่วงหน้าที่ไม่ให้ข้อมูล และนำไปสู่การแจกแจงความน่าจะเป็น ที่ไม่เหมาะสม ในกรณีนี้μ^เอ็มเอพีμ^เอ็มแอลอี.{\displaystyle {\hat {\mu }}_{\mathrm {MAP} }\to {\hat {\mu }}_{\mathrm {MLE} }.}

ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Maximum_a_posteriori_estimation&oldid=1346789558 "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ การประมาณค่าหลังสูงสุด

ในสถิติแบบเบย์เซียนค่าประมาณสูงสุดภายหลัง ( MAP ) ของปริมาณที่ไม่ทราบค่า คือค่าฐานนิยมของความหนาแน่นภายหลัง MAP...

คำอธิบาย

สมมติว่าเราต้องการประมาณค่าพารามิเตอร์ประชากรที่ไม่สามารถสังเกตได้ θ {\displaystyle \theta } บนพื้นฐานของการสังเกตการณ์ x {\displaystyle x} .

ข้อจำกัด

แม้ว่าเงื่อนไขเพียงเล็กน้อยก็เพียงพอสำหรับการประมาณค่า MAP ให้เป็นกรณีจำกัดของ การประมาณค่าแบบเบย์ (ภายใต้ฟังก์ชันการสูญเสีย 0–1) [ 1 ] แต่ก็ไม่ได้เป็นตัวแทนของวิธีการแบบเบย์โดยทั่วไป เนื่องจากการประมาณค่า MAP เป็นการประมาณค่าแบบจุด...

ตัวอย่าง

สมมติว่าเราได้รับลำดับหนึ่งมา ( x 1 , … , x n ) {\displaystyle (x_{1},\dots ,x_{n})} ของ IID เอ็น ( μ , σ วี 2 ) {\displaystyle N(\mu ,\sigma _{v}^{2})} ตัวแปรสุ่ม และการแจกแจงก่อนหน้าของ μ {\displaystyle \mu } ได้รับจาก เอ็น ( μ 0 , σ ม 2 ) {\displaystyle...