ไฮเปอร์พารามิเตอร์ (สถิติแบบเบย์เซียน)

ในสถิติแบบเบย์เซียนไฮเปอร์พารามิเตอร์คือพารามิเตอร์ของการแจกแจงความน่าจะเป็นล่วงหน้าคำนี้ใช้เพื่อแยกแยะความแตกต่างระหว่างไฮเปอร์พารามิเตอร์กับพารามิเตอร์ของแบบจำลองสำหรับระบบพื้นฐานที่กำลังวิเคราะห์

ตัวอย่างเช่น หากเราใช้การแจกแจงแบบเบตาเพื่อจำลองการแจกแจงของพารามิเตอร์pของการแจกแจงแบบเบอร์นูลลีแล้ว:

• pคือพารามิเตอร์ของระบบพื้นฐาน (การแจกแจงแบบเบอร์นูลลี) และ
• αและβเป็นพารามิเตอร์ของการแจกแจงแบบก่อนหน้า (การแจกแจงแบบเบต้า) ดังนั้นจึงเรียกว่าพารามิเตอร์เสริม

เราอาจเลือกค่าเดียวสำหรับไฮเปอร์พารามิเตอร์ที่กำหนด หรือเราอาจใช้วิธีวนซ้ำและเลือกการแจกแจงความน่าจะเป็นสำหรับไฮเปอร์พารามิเตอร์นั้นเอง ซึ่งเรียกว่าไฮเปอร์ไพรเออร์

โดยทั่วไปมักใช้ค่าความน่าจะเป็นล่วงหน้า (prior) ที่มาจากตระกูลการแจกแจงความน่าจะเป็นแบบพาราเมตริก ซึ่งทำเช่นนี้ส่วนหนึ่งเพื่อความชัดเจน (เพื่อให้สามารถเขียนการแจกแจงได้ และเลือกรูปแบบโดยการเปลี่ยนแปลงค่าพารามิเตอร์ แทนที่จะพยายามสร้างฟังก์ชันตามอำเภอใจ) และอีกส่วนหนึ่งเพื่อให้สามารถเปลี่ยนแปลงค่าพารามิเตอร์ได้ โดยเฉพาะอย่างยิ่งในวิธีการค่าความน่า จะเป็นล่วงหน้าแบบ สังยุค (conjugate priors )หรือสำหรับการวิเคราะห์ความไว (sensitivity analysis)

เมื่อใช้ไพรเออร์แบบคอนจูเกต การแจกแจงโพสทีเรียร์จะมาจากตระกูลเดียวกัน แต่จะมีไฮเปอร์พารามิเตอร์ที่แตกต่างกัน ซึ่งสะท้อนถึงข้อมูลเพิ่มเติมจากข้อมูล: ในแง่ของความรู้สึกส่วนตัว ความเชื่อของแต่ละบุคคลได้รับการปรับปรุงแล้ว สำหรับการแจกแจงไพรเออร์ทั่วไป การคำนวณจะซับซ้อนมาก และโพสทีเรียร์อาจมีรูปแบบที่ผิดปกติหรือยากต่อการอธิบาย แต่ด้วยไพรเออร์แบบคอนจูเกต โดยทั่วไปจะมีสูตรที่ง่ายในการเชื่อมโยงค่าของไฮเปอร์พารามิเตอร์ของโพสทีเรียร์กับค่าของไพรเออร์ ดังนั้นการคำนวณการแจกแจงโพสทีเรียร์จึงง่ายมาก

ข้อกังวลหลักของผู้ใช้สถิติแบบเบย์เซียน และข้อวิจารณ์จากผู้ที่วิพากษ์วิจารณ์ คือการที่การแจกแจงความน่าจะเป็นภายหลังขึ้นอยู่กับความน่าจะเป็นก่อนหน้า ไฮเปอร์พารามิเตอร์ช่วยแก้ปัญหานี้โดยอนุญาตให้ผู้ใช้เปลี่ยนแปลงค่าไฮเปอร์พารามิเตอร์ได้อย่างง่ายดาย และดูว่าการแจกแจงความน่าจะเป็นภายหลัง (และสถิติต่างๆ ที่เกี่ยวข้อง เช่นช่วงความเชื่อมั่น ) เปลี่ยนแปลงไปอย่างไร ทำให้สามารถดูได้ว่า ข้อสรุปของตน มีความไวต่อสมมติฐานก่อนหน้ามากน้อยเพียงใด และกระบวนการนี้เรียกว่าการวิเคราะห์ความไว

ในทำนองเดียวกัน อาจใช้การแจกแจงก่อนหน้าที่มีช่วงสำหรับไฮเปอร์พารามิเตอร์ ซึ่งกำหนดไฮเปอร์ไพรเออร์อาจสะท้อนถึงความไม่แน่นอนในไพรเออร์ที่ถูกต้องที่จะใช้ และสะท้อนสิ่งนี้ในช่วงสำหรับความไม่แน่นอนขั้นสุดท้าย^{[ 1 ]}

แทนที่จะใช้ค่าเดียวสำหรับไฮเปอร์พารามิเตอร์ที่กำหนด เราอาจพิจารณาการกระจายความน่าจะเป็นของไฮเปอร์พารามิเตอร์นั้นเอง ซึ่งเรียกว่า " ไฮเปอร์ไพรเออร์ " ในทางทฤษฎี เราสามารถทำซ้ำสิ่งนี้ได้ โดยเรียกพารามิเตอร์ของไฮเปอร์ไพรเออร์ว่า "ไฮเปอร์ไฮเปอร์พารามิเตอร์" และอื่นๆ ต่อไป

• วิธีการเบย์เชิงประจักษ์

• Bernardo, JM; Smith, AFM (2000). ทฤษฎีเบย์เซียน . นิวยอร์ก: ไวลีย์. ISBN 0-471-49464-X.
• Gelman, A. ; Hill, J. ( 2007). การวิเคราะห์ข้อมูลโดยใช้การถดถอยและแบบจำลองหลายระดับ/ลำดับชั้นนิวยอร์ก: สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์ หน้า  251–278 ISBN 978-0-521-68689-1.
• Kruschke, JK (2010). การวิเคราะห์ข้อมูลแบบเบย์เซียน: คู่มือพร้อม R และ BUGS . สำนักพิมพ์ Academic Press. หน้า  241–264 . ISBN 978-0-12-381485-2.