การประมาณค่าหลังสูงสุด
| ส่วนหนึ่งของชุดบทความเกี่ยวกับ |
| สถิติแบบเบย์เซียน |
|---|
| ความน่าจะเป็นภายหลัง = ความน่าจะเป็น × ความน่าจะเป็น ก่อนหน้า ÷ หลักฐาน |
| พื้นหลัง |
| การสร้างแบบจำลอง |
| การประมาณค่าด้านหลัง |
| ผู้ประเมิน |
| การประมาณหลักฐาน |
| การประเมินแบบจำลอง |
ในสถิติแบบเบย์เซียนค่าประมาณสูงสุดภายหลัง ( MAP ) ของปริมาณที่ไม่ทราบค่า คือค่าฐานนิยมของความหนาแน่นภายหลัง MAP สามารถใช้เพื่อหาค่าประมาณจุดของปริมาณที่ไม่สามารถสังเกตได้บนพื้นฐานของข้อมูลเชิงประจักษ์ วิธีนี้มีความเกี่ยวข้องอย่างใกล้ชิดกับวิธี การประมาณค่า ความน่าจะเป็นสูงสุด (ML) แต่ใช้เป้าหมายการปรับให้ เหมาะสมที่เสริมเข้ามา ซึ่งรวมถึงความหนาแน่นก่อนหน้าของปริมาณที่ต้องการประมาณค่า ดังนั้น การประมาณค่า MAP จึงเป็นการปรับปรุงการประมาณค่าความน่าจะเป็นสูงสุด
คำอธิบาย
สมมติว่าเราต้องการประมาณค่าพารามิเตอร์ประชากรที่ไม่สามารถสังเกตได้บนพื้นฐานของการสังเกตการณ์. อนุญาตเป็นการแจกแจงตัวอย่างของดังนั้นความน่าจะเป็นของเมื่อพารามิเตอร์ประชากรพื้นฐานคือจากนั้นจึงเป็นฟังก์ชัน:
เรียกว่าฟังก์ชันความน่าจะเป็นและค่าประมาณ:
คือการประมาณค่าความน่าจะเป็นสูงสุดของ.
ตอนนี้สมมติว่ามีการแจกแจงแบบก่อนหน้าเกินมีอยู่จริง สิ่งนี้ทำให้เราสามารถรักษาได้ในฐานะตัวแปรสุ่ม เช่นเดียว กับในสถิติแบบเบย์เซียนเราสามารถคำนวณความหนาแน่นภายหลังของโดยใช้ทฤษฎีบทของเบย์ส :
ที่ไหนคือฟังก์ชันความหนาแน่นของ,เป็นขอบเขตของ.
วิธีการประมาณค่าสูงสุดภายหลัง (maximum a posteriori estimation) จะประมาณค่าดังนี้โดยเป็นค่าฐานนิยมของความหนาแน่นความน่าจะเป็นภายหลังของตัวแปรสุ่มนี้:
ตัวหารของความหนาแน่นภายหลัง ( ความน่าจะเป็นแบบมาร์จินัลของแบบจำลอง) จะเป็นค่าบวกเสมอและไม่ขึ้นอยู่กับดังนั้นจึงไม่มีบทบาทในการปรับให้เหมาะสม สังเกตว่าค่าประมาณ MAP ของสอดคล้องกับการประมาณค่า ML เมื่อค่าก่อนหน้ามีความสม่ำเสมอ (เช่นเป็นฟังก์ชันคงที่ซึ่งเกิดขึ้นเมื่อใดก็ตามที่ใช้การแจกแจงก่อนหน้าเป็นมาตรวัดอ้างอิง ดังเช่นที่พบได้ทั่วไปในการประยุกต์ใช้ในพื้นที่ฟังก์ชัน
ในบริบทของตัวประมาณค่าแบบเบย์ส MAP สามารถกู้คืนได้โดยการหาค่าต่ำสุดของความเสี่ยงแบบเบย์สด้วยฟังก์ชันความเสี่ยง
ในขีดจำกัดเมื่อมีค่าเข้าใกล้ 0 โดยมีเงื่อนไขว่าการกระจายตัวของเป็นแบบกึ่งเว้า[ 1 ]โดยทั่วไปแล้ว ตัวประมาณค่า MAP ไม่ใช่ตัวประมาณค่าแบบเบย์เว้นแต่เป็นแบบไม่ต่อเนื่อง
การคำนวณ
สามารถคำนวณค่าประมาณ MAP ได้หลายวิธี:
- ในเชิงวิเคราะห์ เมื่อค่าฐานนิยมของความหนาแน่นของความน่าจะเป็นภายหลังสามารถแสดงได้ในรูปแบบปิดนี่คือกรณีที่ใช้ไพรเออร์แบบสังยุค
- โดยใช้วิธีการปรับปรุงประสิทธิภาพเชิงตัวเลข เช่นวิธีการไล่ระดับเชิงสังยุคหรือวิธีของนิวตัน ซึ่งโดยปกติแล้วจะต้องใช้ ค่าอนุพันธ์อันดับหนึ่งหรืออันดับสองที่ต้องคำนวณหาค่าโดยวิธีวิเคราะห์หรือวิธีเชิงตัวเลข
- โดยใช้การปรับเปลี่ยนอัลกอริธึมการคาดการณ์และการทำให้สูงสุด (expectation-maximization algorithm ) ซึ่งไม่จำเป็นต้องใช้ค่าอนุพันธ์ของความหนาแน่นของความน่าจะเป็นภายหลัง (posterior density)
- โดยใช้วิธี Monte Carloโดยใช้การจำลองการอบอ่อน (simulated annealing)
ข้อจำกัด
แม้ว่าเงื่อนไขเพียงเล็กน้อยก็เพียงพอสำหรับการประมาณค่า MAP ให้เป็นกรณีจำกัดของการประมาณค่าแบบเบย์ (ภายใต้ฟังก์ชันการสูญเสีย 0–1) [ 1 ]แต่ก็ไม่ได้เป็นตัวแทนของวิธีการแบบเบย์โดยทั่วไป เนื่องจากการประมาณค่า MAP เป็นการประมาณค่าแบบจุด และขึ้นอยู่กับการเลือกมาตรวัดอ้างอิงโดยพลการ ในขณะที่วิธีการแบบเบย์มีลักษณะเฉพาะคือการใช้การแจกแจงเพื่อสรุปข้อมูลและอนุมาน ดังนั้น วิธีการแบบเบย์จึงมักรายงานค่าเฉลี่ยหรือค่ามัธยฐาน ภายหลัง แทน พร้อมกับช่วงความน่าเชื่อถือทั้งนี้เป็นเพราะตัวประมาณค่าเหล่านี้เหมาะสมที่สุดภายใต้การสูญเสียแบบกำลังสองและการสูญเสียแบบเชิงเส้นตามลำดับ ซึ่งเป็นตัวแทนของฟังก์ชันการสูญเสีย ทั่วไปมากกว่า และสำหรับการแจกแจงภายหลังแบบต่อเนื่องนั้น ไม่มีฟังก์ชันการสูญเสียใดที่บ่งชี้ว่า MAP เป็นตัวประมาณค่าแบบจุดที่เหมาะสมที่สุด

ในแบบจำลองหลายประเภท เช่นแบบจำลองผสม (mixture models ) ค่าความน่าจะเป็นภายหลัง (posterior) อาจมีหลายค่าสูงสุด (multi-modal ) ในกรณีเช่นนี้ คำแนะนำทั่วไปคือควรเลือกค่าสูงสุดที่มีค่าสูงสุด: แต่นั่นไม่ใช่เรื่องที่ทำได้เสมอไป ( การหาค่าเหมาะสมที่สุดทั่วโลกเป็นปัญหาที่ยาก) หรือในบางกรณีอาจเป็นไปไม่ได้เลย (เช่น เมื่อ เกิดปัญหา เรื่องความสามารถในการระบุตัวตน ) นอกจากนี้ ค่าสูงสุดที่มีค่าสูงสุดอาจไม่เป็นตัวแทนของค่าความน่าจะเป็นภายหลังส่วนใหญ่ โดยเฉพาะอย่างยิ่งในหลายมิติ
สุดท้ายนี้ แตกต่างจากตัวประมาณค่า ML การประมาณค่า MAP ไม่คงที่ภายใต้การกำหนดพารามิเตอร์ใหม่ การเปลี่ยนจากการกำหนดพารามิเตอร์หนึ่งไปเป็นการกำหนดพารามิเตอร์อื่นเกี่ยวข้องกับการแนะนำJacobianที่ส่งผลต่อตำแหน่งของค่าสูงสุด[ 2 ]ในทางตรงกันข้าม ความคาดหวังภายหลังแบบเบย์เซียนคงที่ภายใต้การกำหนดพารามิเตอร์ใหม่
เพื่อเป็นตัวอย่างแสดงความแตกต่างระหว่างตัวประมาณค่าแบบเบย์ที่กล่าวถึงข้างต้น (ตัวประมาณค่าเฉลี่ยและค่ามัธยฐาน) กับการใช้ค่าประมาณแบบ MAP ให้พิจารณากรณีที่จำเป็นต้องจำแนกประเภทของข้อมูลนำเข้าโดยอาจเป็นได้ทั้งด้านบวกหรือด้านลบ (ตัวอย่างเช่น สินเชื่อมีความเสี่ยงหรือปลอดภัย) สมมติว่ามีสมมติฐานที่เป็นไปได้เพียงสามข้อเกี่ยวกับวิธีการจำแนกประเภทที่ถูกต้อง,และโดยมีค่าความน่าจะเป็นภายหลังเท่ากับ 0.4, 0.3 และ 0.3 ตามลำดับ สมมติว่ามีอินสแตนซ์ใหม่หนึ่งตัว,จัดประเภทเป็นบวก ในขณะที่อีกสองประเภทจัดประเภทเป็นลบ โดยใช้ค่าประมาณ MAP สำหรับตัวจำแนกที่ถูกต้อง,ถูกจัดประเภทเป็นบวก ในขณะที่ตัวประมาณค่าแบบเบย์จะหาค่าเฉลี่ยจากสมมติฐานทั้งหมดและจัดประเภทเป็นในเชิงลบ
ตัวอย่าง
สมมติว่าเราได้รับลำดับหนึ่งมาของIIDตัวแปรสุ่มและการแจกแจงก่อนหน้าของได้รับจาก เราต้องการหาค่าประมาณ MAP ของโปรดทราบว่าการแจกแจงปกติเป็นการแจกแจงก่อนหน้าแบบสังยุค ของตัวเอง ดังนั้นเราจะสามารถหาคำตอบในรูปแบบปิดได้โดยวิธีการวิเคราะห์
ฟังก์ชันที่จะเพิ่มค่าสูงสุดจะกำหนดโดย[ 3 ]
ซึ่งเทียบเท่ากับการลดค่าฟังก์ชันต่อไปนี้ให้เหลือน้อยที่สุด:
ดังนั้น เราจึงเห็นว่าตัวประมาณค่า MAPสำหรับ μ จะได้รับจาก[ 3 ]
ซึ่งปรากฏว่าเป็นการประมาณค่าเชิงเส้นระหว่างค่าเฉลี่ยก่อนหน้าและค่าเฉลี่ยตัวอย่าง โดยถ่วงน้ำหนักด้วยค่าความแปรปรวนร่วมของแต่ละค่า
กรณีของเรียกว่าค่าความน่าจะเป็นล่วงหน้าที่ไม่ให้ข้อมูล และนำไปสู่การแจกแจงความน่าจะเป็น ที่ไม่เหมาะสม ในกรณีนี้