กลับไปหน้าบทความ

อ่าน 17 นาที

ไม่มีชื่อบทความ

การ แจกแจงความน่าจะเป็นก่อนหน้า (มักเรียกง่ายๆ ว่า ความน่า จะ เป็นก่อนหน้า การแจกแจงก่อนหน้า หรือ ก่อนหน้า ) ของปริมาณที่ไม่แน่นอน คือ การแจกแจงความน่าจะ เป็นที่สมมติขึ้น...

ความน่าจะเป็นก่อนหน้า

การแจกแจงความน่าจะเป็นก่อนหน้า (มักเรียกง่ายๆ ว่า ความน่า จะเป็นก่อนหน้าการแจกแจงก่อนหน้าหรือก่อนหน้า ) ของปริมาณที่ไม่แน่นอน คือการแจกแจงความน่าจะ เป็นที่สมมติขึ้น ก่อนที่จะนำหลักฐานมาพิจารณา ตัวอย่างเช่น ก่อนหน้าอาจเป็นการแจกแจงความน่าจะเป็นที่แสดงถึงสัดส่วนสัมพัทธ์ของผู้มีสิทธิเลือกตั้งที่จะลงคะแนนให้แก่นักการเมืองคนใดคนหนึ่งในการเลือกตั้งในอนาคต ปริมาณที่ไม่ทราบค่าอาจเป็นพารามิเตอร์ของแบบจำลองหรือตัวแปรแฝงมากกว่าตัวแปรที่สังเกตได้

ในสถิติแบบเบย์เซียนกฎของเบย์กำหนดวิธีการปรับปรุงค่าความน่าจะเป็นก่อนหน้า (prior) ด้วยข้อมูลใหม่เพื่อให้ได้การแจกแจงความน่าจะเป็นภายหลัง (posterior probability distribution ) ซึ่งเป็นการแจกแจงแบบมีเงื่อนไขของปริมาณที่ไม่แน่นอนเมื่อได้รับข้อมูลใหม่ ในอดีต การเลือกค่าความน่าจะเป็นก่อนหน้ามักถูกจำกัดให้อยู่ในตระกูล คอนจูเกต ของฟังก์ชันความน่าจะ เป็นที่กำหนด เพื่อให้ได้ค่าความน่าจะเป็นภายหลังที่สามารถจัดการได้ในตระกูลเดียวกัน อย่างไรก็ตาม การใช้งาน วิธีการ มาร์คอฟเชน มอนเตคาร์โล อย่างแพร่หลาย ทำให้ปัญหานี้ลดลง

มีหลายวิธีในการสร้างการแจกแจงความน่าจะเป็นล่วงหน้า[ 1 ]ในบางกรณี ความน่าจะเป็นล่วงหน้าอาจถูกกำหนดจากข้อมูลในอดีต เช่น การทดลองก่อนหน้านี้ ความน่าจะเป็นล่วงหน้ายังสามารถได้มาจากการประเมินตามความรู้สึกส่วนตัวของผู้เชี่ยวชาญที่มีประสบการณ์[ 2 ] [ 3 ] [ 4 ]เมื่อไม่มีข้อมูลความน่าจะเป็นล่วงหน้าที่ไม่มีข้อมูลอาจถูกนำมาใช้ตามหลักการของความไม่แยแส [ 5 ] [ 6 ] ในการใช้งานสมัยใหม่ ความน่าจะเป็นล่วงหน้ามักถูกเลือกจากคุณสมบัติเชิงกล เช่นการทำให้เป็นระเบียบและการเลือกคุณลักษณะ[ 7 ] [ 8 ] [ 9 ]

การแจกแจงความน่าจะเป็นก่อนหน้าของพารามิเตอร์แบบจำลองมักจะขึ้นอยู่กับพารามิเตอร์ของตัวมันเอง ความไม่แน่นอนเกี่ยวกับพารามิเตอร์ เหล่านี้ สามารถแสดงออกมาในรูปของ การแจกแจงความน่าจะเป็น แบบไฮเปอร์ ไพรเออร์ ได้ ตัวอย่างเช่น หากใช้การแจกแจงแบบเบตาเพื่อจำลองการแจกแจงของพารามิเตอร์pของการแจกแจงแบบเบอร์นูลลีแล้ว:

  • pคือพารามิเตอร์ของระบบพื้นฐาน (การแจกแจงแบบเบอร์นูลลี) และ
  • αและβเป็นพารามิเตอร์ของการแจกแจงแบบก่อนหน้า (การแจกแจงแบบเบต้า) ดังนั้นจึงเรียกว่าพารามิเตอร์เสริม

โดยหลักการแล้ว ไพรเออร์สามารถแยกย่อยออกเป็นระดับการแจกแจงแบบมีเงื่อนไขได้หลายระดับ ซึ่งเรียกว่า ไพรเออร์ แบบลำดับชั้น[ 10 ]

ข้อมูลเบื้องต้น

ค่าความน่าจะเป็นล่วงหน้าที่ให้ข้อมูล ( informative prior)แสดงถึงข้อมูลที่เฉพาะเจาะจงและแน่นอนเกี่ยวกับตัวแปร ตัวอย่างเช่น การแจกแจงความน่าจะเป็นล่วงหน้าสำหรับอุณหภูมิเวลาเที่ยงวันพรุ่งนี้ แนวทางที่เหมาะสมคือการทำให้ค่าความน่าจะเป็นล่วงหน้า เป็นการ แจกแจงแบบปกติโดย มี ค่า เฉลี่ยเท่ากับ อุณหภูมิเวลาเที่ยงของวันนี้ และมีค่าความแปรปรวนเท่ากับค่าความแปรปรวนของอุณหภูมิในบรรยากาศในแต่ละวัน หรือการแจกแจงของอุณหภูมิในวันนั้นของปี

ตัวอย่างนี้มีคุณสมบัติร่วมกันกับค่าความน่าจะเป็นก่อนหน้า (prior) หลายๆ ค่า กล่าวคือ ค่าความน่าจะเป็นภายหลัง (posterior) จากปัญหาหนึ่ง (อุณหภูมิวันนี้) จะกลายเป็นค่าความน่าจะเป็นก่อนหน้า (prior) สำหรับอีกปัญหาหนึ่ง (อุณหภูมิพรุ่งนี้) หลักฐานที่มีอยู่ก่อนแล้วซึ่งได้ถูกนำมาพิจารณาแล้วเป็นส่วนหนึ่งของค่าความน่าจะเป็นก่อนหน้า และเมื่อมีหลักฐานสะสมมากขึ้น ค่าความน่าจะเป็นภายหลังจะถูกกำหนดโดยหลักฐานเหล่านั้นเป็นส่วนใหญ่ มากกว่าสมมติฐานดั้งเดิมใดๆ ตราบใดที่สมมติฐานดั้งเดิมนั้นยอมรับความเป็นไปได้ของสิ่งที่หลักฐานชี้ให้เห็น คำว่า "ค่าความน่าจะเป็นก่อนหน้า" (prior) และ "ค่าความน่าจะเป็นภายหลัง" (posterior) โดยทั่วไปแล้วจะสัมพันธ์กับข้อมูลหรือการสังเกตเฉพาะอย่าง

ก่อนหน้าที่แข็งแกร่ง

ความน่าจะเป็นล่วงหน้าที่แข็งแกร่ง (Strong prior)คือสมมติฐาน ทฤษฎี แนวคิด หรือความคิดก่อนหน้า ซึ่งเป็นพื้นฐานสำหรับสมมติฐาน ทฤษฎี แนวคิด หรือความคิดปัจจุบัน หลังจากพิจารณาข้อมูลใหม่แล้วความน่าจะเป็นล่วงหน้าที่แข็งแกร่งเป็นประเภทของความน่าจะเป็นล่วงหน้าที่มีข้อมูลมากกว่าข้อมูลที่มีอยู่ในชุดข้อมูลที่กำลังวิเคราะห์การวิเคราะห์แบบเบย์เซียนจะรวมข้อมูลที่มีอยู่ในความน่าจะเป็นล่วงหน้าเข้ากับข้อมูลที่ได้จากข้อมูลเพื่อสร้างชุดข้อมูลภายหลังซึ่งในกรณีของ "ความน่าจะเป็นล่วงหน้าที่แข็งแกร่ง" จะแทบไม่เปลี่ยนแปลงจากชุดข้อมูลก่อนหน้าเลย

ไพรเออร์ที่ให้ข้อมูลน้อย

ค่าความน่าจะเป็นล่วงหน้าแบบให้ข้อมูลน้อย ( Weakly Informative Prior)แสดงถึงข้อมูลบางส่วนเกี่ยวกับตัวแปร ซึ่งจะนำการวิเคราะห์ไปสู่คำตอบที่สอดคล้องกับความรู้ที่มีอยู่โดยไม่จำกัดผลลัพธ์มากเกินไป และป้องกันการประมาณค่าที่ผิดเพี้ยน ตัวอย่างเช่น เมื่อกำหนดค่าความน่าจะเป็นล่วงหน้าสำหรับอุณหภูมิเที่ยงวันพรุ่งนี้ในเซนต์หลุยส์ ให้ใช้การแจกแจงแบบปกติที่มีค่าเฉลี่ย 50 องศาฟาเรนไฮต์และส่วนเบี่ยงเบนมาตรฐาน 40 องศา ซึ่งจำกัดอุณหภูมิให้อยู่ในช่วง (10 องศา, 90 องศา) อย่างหลวมๆ โดยมีโอกาสน้อยที่จะต่ำกว่า -30 องศาหรือสูงกว่า 130 องศา จุดประสงค์ของค่าความน่าจะเป็นล่วงหน้าแบบให้ข้อมูลน้อยคือเพื่อการควบคุม (Regularization ) กล่าวคือ เพื่อให้การอนุมานอยู่ในช่วงที่เหมาะสม

ไพรเออร์ที่ไม่ให้ข้อมูล

ความ น่าจะเป็นล่วงหน้า ที่ไม่ให้ ข้อมูล แบน ราบหรือกระจาย แสดงถึงข้อมูลที่คลุมเครือ หรือทั่วไปเกี่ยวกับตัวแปร[ 5 ]คำว่า "ความน่าจะเป็นล่วงหน้าที่ไม่ให้ข้อมูล" อาจเป็นคำที่ไม่ถูกต้องนัก ความน่าจะเป็นล่วงหน้าดังกล่าวอาจเรียกว่าความน่าจะเป็นล่วงหน้าที่ไม่ค่อยให้ข้อมูลหรือความน่าจะเป็นล่วงหน้าแบบวัตถุประสงค์ กล่าวคือ ความน่าจะเป็นล่วงหน้าที่ไม่ได้มาจากการสอบถามแบบอัตวิสัย

ค่าความน่าจะเป็นล่วงหน้าแบบไม่ให้ข้อมูล (Uninformative priors) สามารถแสดงข้อมูล "เชิงวัตถุวิสัย" เช่น "ตัวแปรเป็นบวก" หรือ "ตัวแปรน้อยกว่าค่าจำกัดบางค่า" กฎที่ง่ายที่สุดและเก่าแก่ที่สุดในการกำหนดค่าความน่าจะเป็นล่วงหน้าแบบไม่ให้ข้อมูลคือหลักการของความไม่แตกต่าง (Principle of indifference ) ซึ่งกำหนดความน่าจะเป็นเท่ากันให้กับทุกความเป็นไปได้ ในปัญหาการประมาณค่าพารามิเตอร์ การใช้ค่าความน่าจะเป็นล่วงหน้าแบบไม่ให้ข้อมูลมักให้ผลลัพธ์ที่ไม่แตกต่างจากการวิเคราะห์ทางสถิติแบบดั้งเดิมมากนัก เนื่องจากฟังก์ชันความน่าจะเป็นมักให้ข้อมูลมากกว่าค่าความน่าจะเป็นล่วงหน้าแบบไม่ให้ข้อมูล

มีการพยายามค้นหาความน่าจะเป็นล่วงหน้า (a priori probabilities) กล่าวคือ การแจกแจงความน่าจะเป็นในแง่ใดแง่หนึ่งที่จำเป็นตามหลักตรรกะของธรรมชาติของสถานะความไม่แน่นอน ซึ่งเป็นหัวข้อถกเถียงทางปรัชญา โดยนักสถิติแบบเบย์เซียนแบ่งออกเป็นสองสำนักใหญ่ ๆ คือ "นักสถิติแบบเบย์เซียนเชิงวัตถุวิสัย" ซึ่งเชื่อว่าความน่าจะเป็นล่วงหน้าดังกล่าวมีอยู่จริงในหลายสถานการณ์ที่เป็นประโยชน์ และ "นักสถิติแบบเบย์เซียนเชิงอัตวิสัย" ซึ่งเชื่อว่าในทางปฏิบัติ ความน่าจะเป็นล่วงหน้ามักแสดงถึงการตัดสินใจเชิงอัตวิสัยที่ไม่สามารถพิสูจน์ได้อย่างเข้มงวด (Williamson 2010) บางทีข้อโต้แย้งที่แข็งแกร่งที่สุดสำหรับลัทธิเบย์เซียนเชิงวัตถุวิสัยนั้นมาจากEdwin T. Jaynesโดยอิงจากผลที่ตามมาของสมมาตรและหลักการของเอนโทรปีสูงสุดเป็นหลัก

ตัวอย่างของความน่าจะเป็นล่วงหน้า (a priori prior) ตามที่ Jaynes (2003) เสนอไว้ ลองพิจารณาสถานการณ์ที่เรารู้ว่าลูกบอลถูกซ่อนอยู่ใต้ถ้วยหนึ่งในสามใบ คือ A, B หรือ C แต่ไม่มีข้อมูลอื่นใดเกี่ยวกับตำแหน่งของลูกบอล ในกรณีนี้ ความน่าจะเป็นล่วงหน้าแบบสม่ำเสมอ (uniform prior)ของp ( A )  = p ( B )  = p ( C )  = 1/3 ดูเหมือนจะเป็นทางเลือกที่สมเหตุสมผลที่สุด ในเชิงวิชาการมากขึ้น เราจะเห็นว่าปัญหายังคงเหมือนเดิมหากเราสลับป้ายกำกับ ("A", "B" และ "C") ของถ้วย ดังนั้นจึงเป็นเรื่องแปลกที่จะเลือกความน่าจะเป็นล่วงหน้าที่การสลับป้ายกำกับจะทำให้การคาดการณ์ของเราเกี่ยวกับถ้วยที่ลูกบอลจะอยู่ใต้เปลี่ยนไป ความน่าจะเป็นล่วงหน้าแบบสม่ำเสมอเป็นเพียงความน่าจะเป็นล่วงหน้าเดียวที่รักษาความไม่เปลี่ยนแปลงนี้ไว้ หากเรายอมรับหลักการไม่เปลี่ยนแปลงนี้ เราจะเห็นว่าความน่าจะเป็นล่วงหน้าแบบสม่ำเสมอเป็นความน่าจะเป็นล่วงหน้าที่ถูกต้องตามหลักตรรกะในการแสดงสถานะความรู้ดังกล่าว ความรู้เบื้องต้นนี้เป็น "ความรู้เชิงวัตถุวิสัย" ในแง่ของการเป็นตัวเลือกที่ถูกต้องในการแสดงสถานะความรู้เฉพาะอย่าง แต่ความรู้เบื้องต้นนี้ไม่ใช่ความรู้เชิงวัตถุวิสัยในแง่ของการเป็นคุณลักษณะของโลกที่ไม่ขึ้นกับผู้สังเกต: ในความเป็นจริงลูกบอลมีอยู่ภายใต้ถ้วยเฉพาะ และการพูดถึงความน่าจะเป็นในสถานการณ์นี้จะสมเหตุสมผลก็ต่อเมื่อมีผู้สังเกตที่มีความรู้จำกัดเกี่ยวกับระบบ[ 11 ]

ตัวอย่างที่ก่อให้เกิดข้อโต้แย้งมากขึ้น เจย์นส์ได้ตีพิมพ์ข้อโต้แย้งโดยอิงจากความไม่เปลี่ยนแปลงของค่าก่อนหน้าภายใต้การเปลี่ยนแปลงของพารามิเตอร์ ซึ่งชี้ให้เห็นว่าค่าก่อนหน้าที่แสดงถึงความไม่แน่นอนอย่างสมบูรณ์เกี่ยวกับความน่าจะเป็นควรเป็นค่าก่อนหน้าของฮัลเดนp 1 (1 p ) 1 [ 12 ] ตัวอย่างที่เจย์นส์ยกมาคือการค้นหาสารเคมีในห้องปฏิบัติการและถามว่ามันจะละลายในน้ำในการทดลองซ้ำหรือไม่ ค่าก่อนหน้าของฮัลเดน[ 13 ]ให้ความสำคัญกับค่าก่อนหน้ามากที่สุด  พี=0{\displaystyle p=0}และพี=1{\displaystyle p=1}ซึ่งบ่งชี้ว่าตัวอย่างจะละลายทุกครั้งหรือจะไม่ละลายเลยด้วยความน่าจะเป็นเท่ากัน อย่างไรก็ตาม หากสังเกตเห็นว่าตัวอย่างของสารเคมีละลายในการทดลองหนึ่งและไม่ละลายในการทดลองอื่น ค่าความน่าจะเป็นล่วงหน้านี้จะถูกปรับปรุงให้เป็นการแจกแจงแบบเอกรูปในช่วง [0, 1] ซึ่งได้มาจากการใช้ทฤษฎีบทของเบย์สกับชุดข้อมูลที่ประกอบด้วยการสังเกตการละลายหนึ่งครั้งและการสังเกตการไม่ละลายหนึ่งครั้ง โดยใช้ค่าความน่าจะเป็นล่วงหน้าข้างต้น ค่าความน่าจะเป็นล่วงหน้าของ Haldane เป็นการแจกแจงความน่าจะเป็นล่วงหน้าที่ไม่เหมาะสม (หมายความว่ามีมวลอนันต์) Harold Jeffreysได้คิดค้นวิธีการที่เป็นระบบสำหรับการออกแบบค่าความน่าจะเป็นล่วงหน้าที่ไม่ให้ข้อมูล เช่น ค่าความน่าจะเป็นล่วงหน้าของ Jeffreys p 1/2 (1 p ) 1/2สำหรับตัวแปรสุ่ม Bernoulli  

สามารถสร้างไพรเออร์ซึ่งเป็นสัดส่วนกับการวัดของฮาร์ ได้ หากพื้นที่พารามิเตอร์Xมีโครงสร้างกลุ่มตามธรรมชาติซึ่งทำให้สถานะความรู้แบบเบย์เซียนของเราไม่เปลี่ยนแปลง[ 12 ]สิ่งนี้สามารถมองได้ว่าเป็นการวางนัยทั่วไปของหลักการไม่เปลี่ยนแปลงที่ใช้ในการพิสูจน์ไพรเออร์แบบสม่ำเสมอเหนือถ้วยทั้งสามในตัวอย่างข้างต้น ตัวอย่างเช่น ในฟิสิกส์ เราอาจคาดหวังว่าการทดลองจะให้ผลลัพธ์เดียวกันโดยไม่คำนึงถึงการเลือกจุดกำเนิดของระบบพิกัด สิ่งนี้เหนี่ยวนำให้เกิดโครงสร้างกลุ่มของกลุ่มการแปลบนXซึ่งกำหนดความน่าจะเป็นของไพรเออร์เป็นไพรเออร์ที่ไม่เหมาะสมคงที่ ในทำนองเดียวกัน การวัดบางอย่างไม่เปลี่ยนแปลงตามธรรมชาติกับการเลือกมาตราส่วนที่กำหนด (เช่น ไม่ว่าจะใช้เซนติเมตรหรือนิ้ว ผลลัพธ์ทางกายภาพควรเท่ากัน) ในกรณีเช่นนี้ กลุ่มมาตราส่วนเป็นโครงสร้างกลุ่มตามธรรมชาติ และไพรเออร์ที่สอดคล้องกันบนXเป็นสัดส่วนกับ 1/ xบางครั้งการใช้การวัดของฮาร์แบบซ้ายไม่เปลี่ยนแปลงหรือขวาไม่เปลี่ยนแปลงก็มีความสำคัญ ตัวอย่างเช่น การวัดของฮาร์แบบซ้ายไม่เปลี่ยนแปลงและขวาไม่เปลี่ยนแปลงบนกลุ่มแอฟฟินไม่เท่ากัน เบอร์เกอร์ (1985, หน้า 413) โต้แย้งว่ามาตรวัดฮาร์ที่ไม่เปลี่ยนแปลงทางขวาเป็นตัวเลือกที่ถูกต้อง

อีกแนวคิดหนึ่ง ซึ่งได้รับการสนับสนุนโดยEdwin T. Jaynesคือการใช้หลักการของเอนโทรปีสูงสุด (MAXENT) แรงจูงใจคือเอนโทรปีของแชนนอนของการแจกแจงความน่าจะเป็นนั้นวัดปริมาณข้อมูลที่มีอยู่ในการแจกแจง ยิ่งเอนโทรปีมากเท่าไร การแจกแจงนั้นก็จะให้ข้อมูลน้อยลงเท่านั้น ดังนั้น โดยการเพิ่มเอนโทรปีให้สูงสุดเหนือชุดของการแจกแจงความน่าจะเป็นที่เหมาะสมบนXเราจะพบการแจกแจงที่มีข้อมูลน้อยที่สุดในแง่ที่ว่ามันประกอบด้วยข้อมูลน้อยที่สุดที่สอดคล้องกับข้อจำกัดที่กำหนดชุดนั้น ตัวอย่างเช่น ไพรเออร์ที่มีเอนโทรปีสูงสุดบนปริภูมิแบบไม่ต่อเนื่องโดยกำหนดเพียงว่าความน่าจะเป็นถูกทำให้เป็นมาตรฐานที่ 1 คือไพรเออร์ที่กำหนดความน่าจะเป็นเท่ากันให้กับแต่ละสถานะ และในกรณีต่อเนื่อง ไพรเออร์ที่มีเอนโทรปีสูงสุด โดยกำหนดว่าความหนาแน่นถูกทำให้เป็นมาตรฐานโดยมีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนเป็นหนึ่ง คือการแจกแจงปกติมาตรฐาน หลักการของเอนโทรปีไขว้ต่ำสุดเป็นการขยาย MAXENT ไปสู่กรณีของการ "ปรับปรุง" การแจกแจงไพรเออร์แบบใดๆ ด้วยข้อจำกัดที่เหมาะสมในแง่ของเอนโทรปีสูงสุด

แนวคิดที่เกี่ยวข้องคือ " ไพรเออร์อ้างอิง"ซึ่งนำเสนอโดยJosé-Miguel Bernardoแนวคิดนี้คือการเพิ่มค่าความแตกต่าง Kullback–Leibler ที่คาดหวัง ของความน่าจะเป็นภายหลังเทียบกับไพรเออร์ให้สูงสุด ซึ่งจะเพิ่มข้อมูลภายหลังที่คาดหวังเกี่ยวกับX ให้สูงสุด เมื่อความหนาแน่นของไพรเออร์คือp ( x ) ดังนั้น ในแง่หนึ่งp ( x ) จึงเป็นไพรเออร์ที่ "ให้ข้อมูลน้อยที่สุด" เกี่ยวกับ X ไพรเออร์อ้างอิงถูกกำหนดในขีดจำกัดเชิงอะซิมโทติก กล่าวคือ เราพิจารณาขีดจำกัดของไพรเออร์ที่ได้มาเมื่อจำนวนจุดข้อมูลเข้าสู่ค่าอนันต์ ในกรณีปัจจุบัน ความแตกต่าง KL ระหว่างความน่าจะเป็นภายหลังและความน่าจะเป็นภายหลังกำหนดโดย เคแอล=พี(ที)พี(xที)บันทึกพี(xที)พี(x)xที{\displaystyle KL=\int p(t)\int p(x\mid t)\log {\frac {p(x\mid t)}{p(x)}}\,dx\,dt}

ที่นี่,ที{\displaystyle t}เป็นสถิติที่เพียงพอสำหรับพารามิเตอร์บางตัวx{\displaystyle x}อินทิกรัลภายในคือไดเวอร์เจนซ์ KL ระหว่างค่าหลังพี(xที){\displaystyle p(x\mid t)}และก่อนหน้านี้พี(x){\displaystyle p(x)}การแจกแจง และผลลัพธ์คือค่าเฉลี่ยถ่วงน้ำหนักของค่าทั้งหมดของที{\displaystyle t}โดยการแบ่งลอการิทึมออกเป็นสองส่วน สลับลำดับของอินทิกรัลในส่วนที่สอง และสังเกตว่าบันทึก[พี(x)]{\displaystyle \log \,[p(x)]}ไม่ขึ้นอยู่กับที{\displaystyle t}ผลผลิต เคแอล=พี(ที)พี(xที)บันทึก[พี(xที)]xทีบันทึก[พี(x)]พี(ที)พี(xที)ทีx{\displaystyle KL=\int p(t)\int p(x\mid t)\log[p(x\mid t)]\,dx\,dt\,-\,\int \log[p(x)]\,\int p(t)p(x\mid t)\,dt\,dx}

อินทิกรัลภายในในส่วนที่สองคืออินทิกรัลเหนือที{\displaystyle t}ของความหนาแน่นร่วมพี(x,ที){\displaystyle p(x,t)}นี่คือการแจกแจงส่วนขอบพี(x){\displaystyle p(x)}ดังนั้นเราจึงมี เคแอล=พี(ที)พี(xที)บันทึก[พี(xที)]xทีพี(x)บันทึก[พี(x)]x{\displaystyle KL=\int p(t)\int p(x\mid t)\log[p(x\mid t)]\,dx\,dt\,-\,\int p(x)\log[p(x)]\,dx}

ตอนนี้เราใช้แนวคิดของเอนโทรปี ซึ่งในกรณีของการแจกแจงความน่าจะเป็น เอนโทรปีคือค่าคาดหวังติดลบของลอการิทึมของมวลความน่าจะเป็นหรือฟังก์ชันความหนาแน่นชม(x)=พี(x)บันทึก[พี(x)]x.{\textstyle H(x)=-\int p(x)\log[p(x)]\,dx.} เมื่อนำสิ่งนี้ไปใช้ในสมการสุดท้ายจะได้ เคแอล=พี(ที)ชม(xที)ที+ชม(x){\displaystyle KL=-\int p(t)H(x\mid t)\,dt+\,H(x)}

กล่าวอีกนัยหนึ่ง KL คือค่าคาดหวังติดลบเมื่อเทียบกับที{\displaystyle t}ของเอนโทรปีของx{\displaystyle x}โดยมีเงื่อนไขว่าที{\displaystyle t}บวกกับเอนโทรปีส่วนเพิ่ม (เช่น เอนโทรปีที่ไม่ขึ้นกับเงื่อนไข) ของx{\displaystyle x}ในกรณีจำกัดที่ขนาดตัวอย่างมีแนวโน้มเข้าสู่ค่าอนันต์ทฤษฎีบทเบิร์นสไตน์-ฟอน มิเซสระบุว่าการแจกแจงของx{\displaystyle x}โดยมีเงื่อนไขว่าค่าที่สังเกตได้นั้นต้องเป็นไปตามที่กำหนดที{\displaystyle t}เป็นการกระจายแบบปกติ โดยมีค่าความแปรปรวนเท่ากับส่วนกลับของข้อมูลฟิชเชอร์ณ ค่า 'จริง' ของx{\displaystyle x}เอนโทรปีของฟังก์ชันความหนาแน่นปกติเท่ากับครึ่งหนึ่งของลอการิทึมของ2πอีวี{\displaystyle 2\pi ev}ที่ไหนวี{\displaystyle v}คือค่าความแปรปรวนของการกระจาย ในกรณีนี้จึงเป็นเช่นนั้นชม=บันทึก2πอีเอ็นฉัน(x*){\displaystyle H=\log {\sqrt {\frac {2\pi e}{NI(x^{*})}}}}ที่ไหนเอ็น{\displaystyle N}คือขนาดตัวอย่างที่ใหญ่มากตามอำเภอใจ (ซึ่งข้อมูลของฟิชเชอร์เป็นสัดส่วนกับขนาดตัวอย่างนี้) และx*{\displaystyle x*}คือค่า 'ที่แท้จริง' เนื่องจากค่านี้ไม่ขึ้นอยู่กับที{\displaystyle t}สามารถดึงออกมาจากอินทิกรัลได้ และเนื่องจากอินทิกรัลนี้อยู่เหนือปริภูมิความน่าจะเป็น จึงเท่ากับหนึ่ง ดังนั้นเราจึงสามารถเขียนรูปแบบเชิงอะซิมโทติกของ KL ได้ดังนี้ เคแอล=บันทึก(1เคฉัน(x*))พี(x)บันทึก[พี(x)]x{\displaystyle KL=-\log \left(1{\sqrt {kI(x^{*})}}\right)-\,\int p(x)\log[p(x)]\,dx} ที่ไหนเค{\displaystyle k}เป็นสัดส่วนกับขนาดตัวอย่าง (ซึ่งมีขนาดใหญ่มากในเชิงอะซิมโทติก) เราไม่ทราบค่าของx*{\displaystyle x*}อันที่จริงแล้ว แนวคิดนี้ขัดแย้งกับปรัชญาของการอนุมานแบบเบย์เซียน ซึ่งค่า "จริง" ของพารามิเตอร์จะถูกแทนที่ด้วยการแจกแจงแบบก่อนหน้าและแบบภายหลัง ดังนั้นเราจึงลบออกx*{\displaystyle x*}โดยการแทนที่ด้วยx{\displaystyle x}และนำค่าที่คาดหวังของเอนโทรปีปกติมาใช้ ซึ่งเราได้มาจากการคูณด้วยพี(x){\displaystyle p(x)}และการบูรณาการเข้าด้วยกันx{\displaystyle x}ซึ่งทำให้เราสามารถรวมลอการิทึมเข้าด้วยกันได้ผลลัพธ์ดังนี้ เคแอล=พี(x)บันทึก[พี(x)เคฉัน(x)]x{\displaystyle KL=-\int p(x)\log \left[{\frac {p(x)}{\sqrt {kI(x)}}}\right]\,dx}

นี่คือความแตกต่างแบบ KL กึ่งๆ ("กึ่งๆ" ในที่นี้หมายถึงว่ารากที่สองของข้อมูลฟิชเชอร์อาจเป็นแกนหลักของการแจกแจงที่ไม่เหมาะสม) เนื่องจากมีเครื่องหมายลบ เราจึงต้องลดค่านี้ให้น้อยที่สุดเพื่อเพิ่มความแตกต่างแบบ KL ให้มากที่สุด ซึ่งเป็นค่าที่เราเริ่มต้นไว้ ค่าต่ำสุดของสมการสุดท้ายเกิดขึ้นเมื่อการแจกแจงทั้งสองในอาร์กิวเมนต์ลอการิทึม ไม่ว่าจะเหมาะสมหรือไม่ก็ตาม ไม่แตกต่างกัน ซึ่งจะเกิดขึ้นเมื่อการแจกแจงก่อนหน้าเป็นสัดส่วนกับรากที่สองของข้อมูลฟิชเชอร์ของฟังก์ชันความน่าจะเป็น ดังนั้นในกรณีพารามิเตอร์เดียว ไพรเออร์อ้างอิงและไพรเออร์ของเจฟฟรีย์จึงเหมือนกัน แม้ว่าเจฟฟรีย์จะมีหลักการที่แตกต่างกันมากก็ตาม

โดยทั่วไปแล้ว ค่าความน่าจะเป็นล่วงหน้าแบบอ้างอิงมักเป็นค่าความน่าจะเป็นล่วงหน้าเชิงวัตถุประสงค์ที่นิยมใช้ในปัญหาหลายตัวแปร เนื่องจากกฎอื่นๆ (เช่นกฎของเจฟฟรีย์ ) อาจส่งผลให้ค่าความน่าจะเป็นล่วงหน้ามีพฤติกรรมที่เป็นปัญหาได้

การแจกแจงความน่าจะเป็นล่วงหน้าแบบวัตถุประสงค์อาจได้มาจากหลักการอื่นๆ เช่น ทฤษฎี สารสนเทศหรือทฤษฎีการเข้ารหัส (ดูเช่นความยาวคำอธิบายขั้นต่ำ ) หรือสถิติความถี่ (ที่เรียกว่าความน่าจะเป็นล่วงหน้าแบบจับคู่ ) [ 14 ]วิธีการดังกล่าวใช้ในทฤษฎีการอนุมานแบบอุปนัยของ Solomonoffการสร้างความน่าจะเป็นล่วงหน้าแบบวัตถุประสงค์ได้รับการแนะนำเมื่อเร็วๆ นี้ในชีวสารสนเทศ โดยเฉพาะอย่างยิ่งในการอนุมานในระบบชีววิทยา ของมะเร็ง ซึ่งขนาดตัวอย่างมีจำกัดและมี องค์ความรู้ล่วงหน้าจำนวนมากในวิธีการเหล่านี้ จะใช้เกณฑ์ตามทฤษฎีสารสนเทศ เช่น KL divergence หรือฟังก์ชัน log-likelihood สำหรับปัญหาการเรียนรู้แบบมีผู้กำกับดูแล แบบไบนารี [ 15 ]และปัญหาแบบจำลองผสม[ 16 ]

ปัญหาเชิงปรัชญาที่เกี่ยวข้องกับไพรเออร์ที่ไม่ให้ข้อมูลนั้นเกี่ยวข้องกับการเลือกเมตริกหรือมาตราส่วนการวัดที่เหมาะสม สมมติว่าเราต้องการไพรเออร์สำหรับความเร็วในการวิ่งของนักวิ่งที่เราไม่รู้จัก เราอาจกำหนดการกระจายแบบปกติเป็นไพรเออร์สำหรับความเร็วของเขา แต่ในทางกลับกันเราอาจกำหนดไพรเออร์แบบปกติสำหรับเวลาที่เขาใช้ในการวิ่ง 100 เมตร ซึ่งเป็นสัดส่วนผกผันกับไพรเออร์แรก ไพรเออร์ทั้งสองนี้แตกต่างกันมาก แต่ไม่ชัดเจนว่าควรเลือกแบบใดวิธีการของกลุ่มการแปลง ของ Jaynes สามารถตอบคำถามนี้ได้ในบางสถานการณ์[ 17 ]

ในทำนองเดียวกัน หากถูกขอให้ประมาณสัดส่วนที่ไม่ทราบค่าระหว่าง 0 กับ 1 เราอาจกล่าวว่าสัดส่วนทั้งหมดมีความน่าจะเป็นเท่ากัน และใช้ค่าความน่าจะเป็นล่วงหน้าแบบสม่ำเสมอ หรืออีกทางหนึ่ง เราอาจกล่าวว่าขนาดลำดับทั้งหมดของสัดส่วนมีความน่าจะเป็นเท่ากันความน่าจะเป็นล่วงหน้าแบบลอการิทึมซึ่งเป็นความน่าจะเป็นล่วงหน้าแบบสม่ำเสมอสำหรับลอการิทึมของสัดส่วนความน่าจะเป็นล่วงหน้าแบบเจฟฟรีย์พยายามแก้ปัญหานี้โดยการคำนวณความน่าจะเป็นล่วงหน้าที่แสดงความเชื่อเดียวกันไม่ว่า1จะใช้เมตริกใดก็ตาม ความน่าจะเป็นล่วงหน้าแบบเจฟฟรีย์สำหรับสัดส่วนที่ไม่ทราบค่าpคือp 1/2(1p) 1/2ซึ่งแตกต่างจากคำแนะนำของเจย์นส์  

ไพรเออร์ที่อิงตามแนวคิดของความน่าจะเป็นเชิงอัลกอริทึมถูกนำมาใช้ในการอนุมานแบบอุปนัยเป็นพื้นฐานสำหรับการอุปนัยในบริบททั่วไปมาก

ปัญหาในทางปฏิบัติที่เกี่ยวข้องกับไพรเออร์ที่ไม่ให้ข้อมูล ได้แก่ ข้อกำหนดที่ว่าการแจกแจงโพสทีเรียร์ต้องเหมาะสม ไพรเออร์ที่ไม่ให้ข้อมูลทั่วไปสำหรับตัวแปรต่อเนื่องที่ไม่มีขอบเขตนั้นไม่เหมาะสม ซึ่งไม่จำเป็นต้องเป็นปัญหาหากการแจกแจงโพสทีเรียร์เหมาะสม อีกประเด็นสำคัญคือ หากจะใช้ไพรเออร์ที่ไม่ให้ข้อมูลเป็นประจำเช่น กับชุดข้อมูลที่แตกต่างกันจำนวนมาก ไพรเออร์นั้นควรมีคุณสมบัติแบบความถี่ที่ ดี โดยปกติแล้วนัก เบย์เซียนจะไม่กังวลเกี่ยวกับปัญหาดังกล่าว แต่ในสถานการณ์นี้อาจมีความสำคัญ ตัวอย่างเช่น เราต้องการให้กฎการตัดสินใจ ใดๆ ที่อิงจากการแจกแจงโพสทีเรียร์นั้นยอมรับได้ภายใต้ฟังก์ชันความสูญเสียที่ใช้ การตรวจสอบความสามารถในการยอมรับได้มักทำได้ยาก แม้ว่าจะมีผลลัพธ์บางอย่างที่ทราบแล้ว (เช่น Berger และ Strawderman 1996) ปัญหานี้มีความรุนแรงเป็นพิเศษในแบบจำลองเบย์เซียนแบบลำดับชั้นไพรเออร์ทั่วไป (เช่น ไพรเออร์ของ Jeffreys) อาจให้กฎการตัดสินใจที่ไม่สามารถยอมรับได้หากนำไปใช้ในระดับที่สูงขึ้นของลำดับชั้น

ลำดับความสำคัญที่ไม่เหมาะสม

ปล่อยให้เหตุการณ์ต่างๆ เกิดขึ้นเอ1,เอ2,,เอn{\displaystyle A_{1},A_{2},\ldots ,A_{n}}ต้องเป็นเงื่อนไขที่แยกจากกันโดยสิ้นเชิงและครอบคลุมทุกเงื่อนไข หากเขียนทฤษฎีบทของเบย์สเป็นดังนี้ พี(เอฉันบี)=พี(บีเอฉัน)พี(เอฉัน)เจพี(บีเอเจ)พี(เอเจ),{\displaystyle P(A_{i}\mid B)={\frac {P(B\mid A_{i})P(A_{i})}{\sum _{j}P(B\mid A_{j})P(A_{j})}}\,,} จากนั้นจึงเห็นได้ชัดว่าผลลัพธ์เดียวกันจะได้รับหากความน่าจะเป็นก่อนหน้าทั้งหมดP ( A ) และP ( A ) ถูกคูณด้วยค่าคงที่ที่กำหนด เช่นเดียวกันนี้จะเป็นจริงสำหรับตัวแปรสุ่มต่อเนื่องหากผลรวมในตัวส่วนลู่เข้า ความน่าจะเป็นภายหลังจะยังคงรวม (หรืออินทิกรัล) เป็น 1 แม้ว่าค่าก่อนหน้าจะไม่เป็นเช่นนั้นก็ตาม ดังนั้นค่าก่อนหน้าอาจจำเป็นต้องระบุในสัดส่วนที่ถูกต้องเท่านั้น เมื่อนำแนวคิดนี้ไปต่อ ในหลายกรณี ผลรวมหรืออินทิกรัลของค่าก่อนหน้าอาจไม่จำเป็นต้องมีค่าจำกัดเพื่อให้ได้คำตอบที่สมเหตุสมผลสำหรับความน่าจะเป็นภายหลัง ในกรณีเช่นนี้ ค่าก่อนหน้าจะเรียกว่าค่าก่อนหน้าที่ไม่เหมาะสมอย่างไรก็ตาม การแจกแจงภายหลังไม่จำเป็นต้องเป็นการแจกแจงที่เหมาะสมหากค่าก่อนหน้าไม่เหมาะสม[ 18 ] สิ่งนี้ชัดเจนจากกรณีที่เหตุการณ์B เป็นอิสระจาก A ทั้งหมด

นักสถิติบางครั้งใช้ไพรเออร์ที่ไม่เหมาะสมเป็นไพรเออร์ที่ไม่ให้ข้อมูล [ 19 ] ตัวอย่าง เช่น หากพวกเขาต้องการการแจกแจงไพรเออร์สำหรับค่าเฉลี่ยและความแปรปรวนของตัวแปรสุ่ม พวกเขาอาจสมมติp ( m , v ) ~ 1/ v (สำหรับv > 0) ซึ่งจะแนะนำว่าค่าเฉลี่ยใดๆ ก็ตาม "มีโอกาสเท่ากัน" และค่าความแปรปรวนที่เป็นบวกจะ "มีโอกาสน้อยลง" ตามสัดส่วนผกผันกับค่าของมัน ผู้เขียนหลายคน (Lindley, 1973; De Groot, 1937; Kass and Wasserman, 1996) เตือนถึงอันตรายของการตีความไพรเออร์เหล่านั้นมากเกินไป เนื่องจากไม่ใช่ความหนาแน่นของความน่าจะเป็น ความเกี่ยวข้องเพียงอย่างเดียวของพวกมันพบได้ในการแจกแจงโพสเทอริออร์ที่สอดคล้องกัน ตราบใดที่มันถูกกำหนดไว้อย่างดีสำหรับการสังเกตทั้งหมด ( ไพรเออร์ของ Haldaneเป็นตัวอย่างค้านทั่วไป)     

ในทางตรงกันข้ามฟังก์ชันความน่าจะเป็นไม่จำเป็นต้องทำการอินทิเกรต และฟังก์ชันความน่าจะเป็นที่มีค่าเท่ากับ 1 อย่างสม่ำเสมอจะสอดคล้องกับการไม่มีข้อมูล (แบบจำลองทั้งหมดมีความน่าจะเป็นเท่ากัน เมื่อไม่มีข้อมูล): กฎของเบย์สจะคูณค่าความน่าจะเป็นก่อนหน้าด้วยฟังก์ชันความน่าจะเป็น และผลคูณที่ว่างเปล่าก็คือค่าความน่าจะเป็นคงที่ 1 นั่นเอง อย่างไรก็ตาม หากไม่ได้เริ่มต้นด้วยการแจกแจงความน่าจะเป็นก่อนหน้า ก็จะไม่ได้การ แจกแจง ความน่าจะเป็นภายหลังและดังนั้นจึงไม่สามารถทำการอินทิเกรตหรือคำนวณค่าคาดหวังหรือค่าความสูญเสียได้ ดูรายละเอียดเพิ่มเติม ได้ ที่ ฟังก์ชันความน่าจะเป็น §  การไม่สามารถอิน ทิเกรตได้

ตัวอย่าง

ตัวอย่างของค่าความน่าจะเป็นล่วงหน้าที่ไม่เหมาะสม ได้แก่:

ฟังก์ชันเหล่านี้ เมื่อตีความว่าเป็นการแจกแจงแบบเอกรูป ก็สามารถตีความได้ว่าเป็นฟังก์ชันความน่าจะเป็นในกรณีที่ไม่มีข้อมูล แต่ไม่ใช่ค่าความน่าจะเป็นเบื้องต้นที่เหมาะสม

ความน่าจะเป็นล่วงหน้าในกลศาสตร์เชิงสถิติ

ในขณะที่ในสถิติแบบเบย์เซียน ความน่าจะเป็นก่อนหน้าถูกใช้เพื่อแสดงความเชื่อเบื้องต้นเกี่ยวกับพารามิเตอร์ที่ไม่แน่นอน ในกลศาสตร์สถิติความน่าจะเป็นก่อนหน้าถูกใช้เพื่ออธิบายสถานะเริ่มต้นของระบบ[ 20 ]เวอร์ชันคลาสสิกถูกกำหนดให้เป็นอัตราส่วนของจำนวนเหตุการณ์พื้นฐาน (เช่น จำนวนครั้งที่โยนลูกเต๋า) ต่อจำนวนเหตุการณ์ทั้งหมด และสิ่งเหล่านี้ถูกพิจารณาโดยการอนุมานล้วนๆ กล่าวคือ โดยไม่มีการทดลองใดๆ ในกรณีของลูกเต๋า หากเรามองดูมันบนโต๊ะโดยไม่โยนมัน เหตุการณ์พื้นฐานแต่ละอย่างจะถูกให้เหตุผลโดยการอนุมานว่ามีความน่าจะเป็นเท่ากัน ดังนั้นความน่าจะเป็นของผลลัพธ์แต่ละอย่างของการโยนลูกเต๋า (ที่สมบูรณ์แบบ) ในจินตนาการ หรือเพียงแค่การนับจำนวนหน้าคือ 1/6 แต่ละหน้าของลูกเต๋าปรากฏขึ้นด้วยความน่าจะเป็นเท่ากัน โดยความน่าจะเป็นเป็นการวัดที่กำหนดไว้สำหรับแต่ละเหตุการณ์พื้นฐาน ผลลัพธ์จะแตกต่างกันหากเราโยนลูกเต๋า 20 ครั้งและถามว่ามีกี่ครั้ง (จาก 20 ครั้ง) ที่เลข 6 ปรากฏบนหน้าบน ในกรณีนี้ เวลาเข้ามามีบทบาท และเราจะได้ความน่าจะเป็นที่แตกต่างกันไปขึ้นอยู่กับเวลาหรือจำนวนครั้งที่ทอยลูกเต๋า ในทางกลับกัน ความน่าจะเป็นแบบก่อนหน้า (a priori probability) นั้นไม่ขึ้นอยู่กับเวลา คุณสามารถมองดูลูกเต๋าบนโต๊ะได้นานเท่าที่ต้องการโดยไม่ต้องแตะต้องมัน และคุณก็สามารถสรุปได้ว่าความน่าจะเป็นที่เลข 6 จะปรากฏบนหน้าลูกเต๋าคือ 1/6

ในกลศาสตร์เชิงสถิติ เช่น กลศาสตร์ของก๊าซที่บรรจุอยู่ในปริมาตรจำกัดวี{\displaystyle V}ทั้งพิกัดเชิงพื้นที่qฉัน{\displaystyle q_{i}}และพิกัดโมเมนตัมพีฉัน{\displaystyle p_{i}}ขนาดขององค์ประกอบก๊าซแต่ละชนิด (อะตอมหรือโมเลกุล) มีค่าจำกัดในปริภูมิเฟสที่กำหนดโดยพิกัดเหล่านี้ ในทำนองเดียวกับกรณีของลูกเต๋า ความน่าจะเป็นล่วงหน้าในที่นี้ (ในกรณีของตัวกลางต่อเนื่อง) จะเป็นสัดส่วนกับปริมาตรขององค์ประกอบในปริภูมิเฟสΔqΔพี{\displaystyle \Delta q\Delta p}หารด้วยชม.{\displaystyle h}และ คือจำนวนคลื่นนิ่ง (เช่น สถานะ) ที่อยู่ในนั้น โดยที่Δq{\displaystyle \Delta q}คือช่วงของตัวแปรq{\displaystyle q} และΔพี{\displaystyle \Delta p}คือช่วงของตัวแปรพี{\displaystyle p}(ในที่นี้เพื่อความง่ายจึงพิจารณาในมิติเดียว) ใน 1 มิติ (ความยาว)แอล{\displaystyle L}) ตัวเลขนี้ หรือค่าน้ำหนักทางสถิติ หรือค่าน้ำหนักที่กำหนดไว้ล่วงหน้า คือแอลΔพี/ชม.{\displaystyle L\Delta p/h}ใน 3 มิติตามปกติ (ปริมาตร)วี{\displaystyle V}) สามารถคำนวณตัวเลขที่สอดคล้องกันได้ดังนี้วี4πพี2Δพี/ชม.3{\displaystyle V4\pi p^{2}\เดลต้า p/h^{3}}[ 21 ] เพื่อให้เข้าใจปริมาณนี้ใน ฐานะที่เป็นจำนวนสถานะในกลศาสตร์ควอนตัม (เช่น กลศาสตร์คลื่น) โปรดจำไว้ว่าในกลศาสตร์ควอนตัม อนุภาคทุกตัวจะเกี่ยวข้องกับคลื่นสสารซึ่งเป็นคำตอบของสมการชโรดิงเกอร์ในกรณีของอนุภาคอิสระ (ของพลังงาน)ϵ=พี2/2{\displaystyle \epsilon ={\bf {p}}^{2}/2m}เหมือนกับก๊าซที่อยู่ในกล่องปริมาตรหนึ่งวี=แอล3{\displaystyle V=L^{3}}คลื่นสสารดังกล่าวนั้นชัดเจน ψบาปπxแอลบาปπyแอลบาปnπzแอล,{\displaystyle \psi \propto \sin {\frac {l\pi x}{L}}\sin {\frac {m\pi y}{L}}\sin {\frac {n\pi z}{L}},} ที่ไหน,,n{\displaystyle l,m,n}เป็นจำนวนเต็ม จำนวนที่แตกต่างกัน (,,n){\displaystyle (l,m,n)}ค่าต่างๆ และสถานะต่างๆ ในภูมิภาคระหว่างพี,พี+พี,พี2=พี2,{\displaystyle p,p+dp,p^{2}={\bf {p}}^{2},}จากนั้นจึงพบว่าเป็นนิพจน์ข้างต้นวี4πพี2พี/ชม.3{\displaystyle V4\pi p^{2}dp/h^{3}}โดยพิจารณาจากพื้นที่ที่ครอบคลุมโดยจุดเหล่านี้ ยิ่งไปกว่านั้น เมื่อพิจารณาจากความสัมพันธ์ของความไม่แน่นอนซึ่งในมิติเชิงพื้นที่ 1 มิติคือ ΔqΔพีชม.,{\displaystyle \Delta q\Delta p\geq h,} สถานะเหล่านี้ไม่สามารถแยกแยะได้ (กล่าวคือ สถานะเหล่านี้ไม่มีป้ายกำกับ) ผลที่ตามมาที่สำคัญคือผลลัพธ์ที่รู้จักกันในชื่อทฤษฎีบทของ Liouvilleกล่าวคือ ความเป็นอิสระของเวลาขององค์ประกอบปริมาตรพื้นที่เฟสนี้ และด้วยเหตุนี้ความน่าจะเป็นล่วงหน้า การพึ่งพาเวลาของปริมาณนี้จะหมายถึงข้อมูลที่ทราบเกี่ยวกับพลวัตของระบบ และด้วยเหตุนี้จึงไม่ใช่ความน่าจะเป็นล่วงหน้า[ 22 ]ดังนั้นภูมิภาค Ω:=ΔqΔพีΔqΔพี,ΔqΔพี=โอnที.,{\displaystyle \โอเมก้า :={\frac {\Delta q\Delta p}{\int \Delta q\Delta p}},\;\;\;\int \Delta q\Delta p=\mathrm {const.} ,} เมื่อทำการหาอนุพันธ์เทียบกับเวลาที{\displaystyle t}ให้ผลลัพธ์เป็นศูนย์ (โดยใช้สมการของแฮมิลตัน): ปริมาตร ณ เวลาที{\displaystyle t}เหมือนกับตอนเวลาศูนย์ เราอาจเรียกสิ่งนี้ว่าการอนุรักษ์ข้อมูลก็ได้

ในทฤษฎีควอนตัมแบบสมบูรณ์ เรามีกฎการอนุรักษ์ที่คล้ายคลึงกัน ในกรณีนี้ บริเวณปริภูมิเฟสจะถูกแทนที่ด้วยปริภูมิย่อยของปริภูมิสถานะที่แสดงในรูปของตัวดำเนินการฉายภาพพี{\displaystyle P}และแทนที่จะใช้ความน่าจะเป็นในปริภูมิเฟส เราจะใช้ความหนาแน่นของความน่าจะเป็นแทน Σ:=พีท.(พี),เอ็น=ท.(พี)=โอnที.,{\displaystyle \Sigma :={\frac {P}{{\text{Tr}}(P)}},\;\;\;N={\text{Tr}}(P)=\mathrm {const.} ,} โดยที่เอ็น{\displaystyle N}คือมิติของปริภูมิย่อย กฎการอนุรักษ์ในกรณีนี้แสดงโดยความเป็นเอกภาพของเมทริกซ์ Sไม่ว่าในกรณีใด การพิจารณาจะถือว่าระบบปิดที่แยกตัว ระบบปิดที่แยกตัวนี้เป็นระบบที่มี (1) พลังงานคงที่อี{\displaystyle E}และ (2) จำนวนอนุภาคคงที่เอ็น{\displaystyle N}ใน (c) สภาวะสมดุล หากพิจารณาระบบนี้จำนวนมหาศาล จะได้สิ่งที่เรียกว่ากลุ่มไมโครแคนอนิก (microcanonical ensemble ) สำหรับระบบนี้เองที่ในสถิติควอนตัมได้ตั้งสมมติฐาน "สมมติฐานพื้นฐานของความน่าจะเป็นล่วงหน้าเท่ากันของระบบที่แยกตัว" สมมติฐานนี้กล่าวว่า ระบบที่แยกตัวในสภาวะสมดุลจะครอบครองแต่ละสถานะที่เข้าถึงได้ด้วยความน่าจะเป็นเท่ากัน ดังนั้น สมมติฐานพื้นฐานนี้จึงทำให้เราสามารถเทียบความน่าจะเป็นล่วงหน้ากับความเสื่อมของระบบได้ กล่าวคือ จำนวนสถานะที่แตกต่างกันที่มีพลังงานเท่ากัน

ตัวอย่าง

ตัวอย่างต่อไปนี้แสดงให้เห็นถึงความน่าจะเป็นล่วงหน้า (หรือการถ่วงน้ำหนักล่วงหน้า) ในบริบท (ก) แบบคลาสสิก และ (ข) แบบควอนตัม

  1. ความน่าจะเป็นแบบคลาสสิกโดยอาศัยความรู้เบื้องต้น พิจารณาพลังงานการหมุน E ของโมเลกุลไดอะตอมิกที่มีโมเมนต์ความเฉื่อย I ในพิกัดทรงกลมθ,ϕ{\displaystyle \theta ,\phi }(หมายความว่า)q{\displaystyle q}ด้านบนอยู่ที่นี่θ,ϕ{\displaystyle \theta ,\phi }), เช่น อี=12ฉัน(พีθ2+พีϕ2บาป2θ).{\displaystyle E={\frac {1}{2I}}\left(p_{\theta }^{2}+{\frac {p_{\phi }^{2}}{\sin ^{2}\theta }}\right).} เดอะ(พีθ,พีϕ){\displaystyle (p_{\theta },p_{\phi })}-เส้นโค้งสำหรับค่า E คงที่และθ{\displaystyle \theta }เป็นรูปวงรีที่มีพื้นที่ พีθพีϕ=π2ฉันอี2ฉันอีบาปθ=2πฉันอีบาปθ.{\displaystyle \oint dp_{\theta }dp_{\phi }=\pi {\sqrt {2IE}}{\sqrt {2IE}}\sin \theta =2\pi IE\sin \theta .} โดยการบูรณาการเข้าด้วยกันθ{\displaystyle \theta }และϕ{\displaystyle \phi }ปริมาตรทั้งหมดของปริภูมิเฟสที่ครอบคลุมสำหรับพลังงานคงที่ E คือ 0ϕ=2π0θ=π2ฉันπอีบาปθθϕ=8π2ฉันอี=พีθพีϕθϕ,{\displaystyle \int _{0}^{\phi =2\pi }\int _{0}^{\theta =\pi }2I\pi E\sin \theta \,d\theta \,d\phi =8\pi ^{2}IE=\oint dp_{\theta }\,dp_{\phi }\,d\theta \,d\phi ,} และด้วยเหตุนี้จึงเกิดการถ่วงน้ำหนักแบบคลาสสิกตามหลักการเบื้องต้นในช่วงพลังงานอี{\displaystyle dE}เป็น
    Ω{\displaystyle \โอเมก้า \propto } (ปริมาตรของปริภูมิเฟสที่อี+อี{\displaystyle E+dE}) ลบ (ปริมาตรพื้นที่เฟสที่อี{\displaystyle E}) กำหนดโดย8π2ฉันอี.{\displaystyle 8{\pi }^{2}IdE.}
  2. ความน่าจะเป็นเชิงควอนตัมแบบก่อนหน้า โดยสมมติว่าจำนวนสถานะควอนตัมในช่วงหนึ่งΔqΔพี{\displaystyle \Delta q\Delta p}สำหรับแต่ละทิศทางการเคลื่อนที่ จะมีค่าตัวประกอบกำหนดไว้ โดยแต่ละองค์ประกอบΔqΔพี/ชม.{\displaystyle \Delta q\Delta p/h}จำนวนสถานะในช่วงพลังงาน dE คือ ดังที่เห็นภายใต้ (a)8π2ฉันอี/ชม.2{\displaystyle 8\pi ^{2}IdE/h^{2}}สำหรับโมเลกุลไดอะตอมิกที่หมุน จากกลศาสตร์คลื่นเป็นที่ทราบกันว่าระดับพลังงานของโมเลกุลไดอะตอมิกที่หมุนนั้นกำหนดโดย อีn=n(n+1)ชม.28π2ฉัน,{\displaystyle E_{n}={\frac {n(n+1)h^{2}}{8\pi ^{2}I}},} แต่ละระดับดังกล่าวจะเสื่อมสภาพแบบ (2n+1) เท่า โดยการประเมินn/อีn=1/(อีn/n){\displaystyle dn/dE_{n}=1/(dE_{n}/dn)} หนึ่งได้รับ nอีn=8π2ฉัน(2n+1)ชม.2,(2n+1)n=8π2ฉันชม.2อีn.{\displaystyle {\frac {dn}{dE_{n}}}={\frac {8\pi ^{2}I}{(2n+1)h^{2}}},\;\;\;(2n+1)dn={\frac {8\pi ^{2}I}{h^{2}}}dE_{n}.} ดังนั้นเมื่อเปรียบเทียบกับΩ{\displaystyle \Omega }จากที่กล่าวมาข้างต้น พบว่าจำนวนสถานะโดยประมาณในช่วง dE นั้นกำหนดโดยความเสื่อม กล่าวคือ Σ(2n+1)n.{\displaystyle \Sigma \propto (2n+1)dn.} ดังนั้น การถ่วงน้ำหนักแบบล่วงหน้าในบริบทแบบคลาสสิก (a) จึงสอดคล้องกับการถ่วงน้ำหนักแบบล่วงหน้าในบริบทควอนตัม (b) ในกรณีของออสซิลเลเตอร์ฮาร์มอนิกอย่างง่ายหนึ่งมิติที่มีความถี่ธรรมชาติν{\displaystyle \nu }พบว่ามีความสัมพันธ์กันดังนี้: (ก)Ωอี/ν{\displaystyle \โอเมก้า \propto dE/\nu }และ (ข)Σn{\displaystyle \Sigma \propto dn}(ไม่มีภาวะเสื่อม) ดังนั้นในกลศาสตร์ควอนตัม ความน่าจะเป็นล่วงหน้าจึงเป็นตัววัดภาวะเสื่อม อย่างมีประสิทธิภาพ กล่าวคือ จำนวนสถานะที่มีพลังงานเท่ากัน ในกรณีของอะตอมไฮโดรเจนหรือศักยภาพคูลอมบ์ (ซึ่งการประเมินปริมาตรของปริภูมิเฟสสำหรับพลังงานคงที่นั้นซับซ้อนกว่า) เรารู้ว่าภาวะเสื่อมทางกลศาสตร์ควอนตัมคือn2{\displaystyle n^{2}}กับอี1/n2{\displaystyle E\propto 1/n^{2}}ดังนั้นในกรณีนี้Σn2n{\displaystyle \Sigma \propto n^{2}dn}.

ความน่าจะเป็นและฟังก์ชันการกระจายแบบก่อนหน้า

ในกลศาสตร์เชิงสถิติ การหาอนุพันธ์ของฟังก์ชันการกระจาย ตัวเป็นเรื่องปกติเอฟ{\displaystyle f}สำหรับสถิติต่างๆ ในกรณีของสถิติเฟอร์มิ-ดิแรกและสถิติโบส-ไอน์สไตน์ฟังก์ชันเหล่านี้คือ ตามลำดับ เอฟฉันเอฟดี=1อี(ϵฉันϵ0)/เคที+1,เอฟฉันบีอี=1อี(ϵฉันϵ0)/เคที1.{\displaystyle f_{i}^{FD}={\frac {1}{e^{(\epsilon _{i}-\epsilon _{0})/kT}+1}},\quad f_{i}^{BE}={\frac {1}{e^{(\epsilon _{i}-\epsilon _{0})/kT}-1}}.} ฟังก์ชันเหล่านี้ได้มาจาก (1) ระบบที่อยู่ในสมดุลพลวัต (กล่าวคือ ภายใต้สภาวะคงที่และสม่ำเสมอ) โดยมี (2) จำนวนอนุภาคทั้งหมด (และมหาศาล)เอ็น=Σฉันnฉัน{\displaystyle N=\Sigma _{i}n_{i}}(เงื่อนไขนี้จะกำหนดค่าคงที่)ϵ0{\displaystyle \epsilon _{0}}) และ (3) พลังงานทั้งหมดอี=Σฉันnฉันϵฉัน{\displaystyle E=\Sigma _{i}n_{i}\epsilon _{i}}กล่าวคือ กับแต่ละnฉัน{\displaystyle n_{i}}อนุภาคที่มีพลังงานϵฉัน{\displaystyle \epsilon _{i}}แง่มุมที่สำคัญในการพิสูจน์คือการคำนึงถึงความไม่สามารถแยกแยะได้ของอนุภาคและสถานะในสถิติควอนตัม กล่าวคือ อนุภาคและสถานะไม่มีป้ายกำกับ ในกรณีของเฟอร์มิออน เช่น อิเล็กตรอน ซึ่งเป็นไปตามหลักการของเปาลี (อนุญาตให้มีอนุภาคเพียงหนึ่งตัวต่อสถานะ หรือไม่อนุญาตให้มีเลย) ดังนั้นจึงได้ว่า 0เอฟฉันเอฟดี1,ในทางตรงกันข้าม0เอฟฉันบีอี.{\displaystyle 0\leq f_{i}^{FD}\leq 1,\quad {\text{whereas}}\quad 0\leq f_{i}^{BE}\leq \infty .} ดังนั้นเอฟฉันเอฟดี{\displaystyle f_{i}^{FD}}เป็นการวัดสัดส่วนของสถานะที่อิเล็กตรอนครอบครองจริงที่พลังงานϵฉัน{\displaystyle \epsilon _{i}}และอุณหภูมิที{\displaystyle T}ในทางกลับกัน ความน่าจะเป็นล่วงหน้าจีฉัน{\displaystyle g_{i}}เป็นการวัดจำนวนสถานะทางกลของคลื่นที่มีอยู่ ดังนั้น nฉัน=เอฟฉันจีฉัน.{\displaystyle n_{i}=f_{i}g_{i}.} เนื่องจากnฉัน{\displaystyle n_{i}}มีค่าคงที่ภายใต้เงื่อนไขที่สม่ำเสมอ (จำนวนอนุภาคที่ไหลออกจากปริมาตรหนึ่งๆ ก็ไหลเข้ามาอย่างสม่ำเสมอเช่นกัน ทำให้สถานการณ์ในปริมาตรนั้นดูเหมือนคงที่) กล่าวคือ ไม่ขึ้นอยู่กับเวลาที{\displaystyle t}, และจีฉัน{\displaystyle g_{i}}นอกจากนี้ยังเป็นอิสระจากเวลาด้วยที{\displaystyle t}ดังที่แสดงไว้ก่อนหน้านี้ เราจะได้ เอฟฉันที=0,เอฟฉัน=เอฟฉัน(ที,วีฉัน,ฉัน).{\displaystyle {\frac {df_{i}}{dt}}=0,\quad f_{i}=f_{i}(t,{\bf {v}}_{i},{\bf {r}}_{i}).} เมื่อแสดงสมการนี้ในรูปของอนุพันธ์ย่อย จะได้สมการการขนส่งของโบลต์ซมันน์ข้างต้นไม่ได้กล่าวถึงสนามไฟฟ้าหรือสนามอื่นๆ ดังนั้นหากไม่มีสนามดังกล่าว เราจะได้การกระจายแบบเฟอร์มิ-ดิแรกดังที่กล่าวมาข้างต้น แต่หากมีสนามดังกล่าว เราจะได้ความสัมพันธ์เพิ่มเติมดังนี้เอฟ{\displaystyle f}.

ดูเพิ่มเติม

หมายเหตุ

  1. Robert, Christian (1994). "From Prior Information to Prior Distributions". The Bayesian Choice . นิวยอร์ก: Springer. หน้า89–136 . ISBN  0-387-94296-3.
  2. Chaloner, Kathryn (1996). "การดึงข้อมูลการแจกแจงความน่าจะเป็นล่วงหน้า" ใน Berry, Donald A.; Stangl, Dalene (บรรณาธิการ). สถิติชีวภาพแบบเบย์เซียน นิวยอร์ก: Marcel Dekker. หน้า141–156 . ISBN  0-8247-9334-X.
  3. Mikkola, Petrus; et al. (2024). "การดึงความรู้เดิม: อดีต ปัจจุบัน และอนาคต". การวิเคราะห์แบบเบย์เซียน 19 ( 4). doi : 10.1214/23-BA1381 . hdl : 11336/183197 . S2CID 244798734 .  
  4. Icazatti, Alejandro; Abril-Pla, Oriol; Klami, Arto; Martin, Osvaldo A. (กันยายน 2023). "PreliZ: กล่องเครื่องมือสำหรับการดึงข้อมูลเบื้องต้น" . วารสารซอฟต์แวร์โอเพนซอร์ส . 8 (89): 5499. Bibcode : 2023JOSS....8.5499I . doi : 10.21105/joss.05499 .
  5. 1 2 Zellner, Arnold (1971). "การแจกแจงความน่าจะเป็นก่อนหน้าเพื่อแสดงถึง 'การรู้เพียงเล็กน้อย'"" บทนำสู่การอนุมานแบบเบย์เซียนในเศรษฐศาสตร์เชิงปริมาณนิวยอร์ก: John Wiley & Sons หน้า41–53 ISBN  0-471-98165-6.
  6. Price, Harold J.; Manson, Allison R. (2001). "Uninformative priors for Bayes' theorem". AIP Conf. Proc . 617 : 379–391 . doi : 10.1063/1.1477060 .
  7. Piironen, Juho; Vehtari, Aki (2017). "ข้อมูลความเบาบางและการควบคุมในแบบจำลองเกือกม้าและแบบจำลองการหดตัวอื่นๆ"วารสารอิเล็กทรอนิกส์สถิติ 11 ( 2): 5018– 5051. arXiv : 1707.01694 . doi : 10.1214/17-EJS1337SI .
  8. Simpson, Daniel และคณะ (2017). "การลงโทษความซับซ้อนของส่วนประกอบแบบจำลอง: แนวทางปฏิบัติที่มีหลักการในการสร้างไพรเออร์" วิทยาศาสตร์สถิติ 32 ( 1): 1– 28. arXiv : 1403.4630 . doi : 10.1214/16-STS576 . S2CID 88513041 .  
  9. Fortuin, Vincent (2022). "Priors in Bayesian Deep Learning: A Review". International Statistical Review . 90 (3): 563– 591. doi : 10.1111/insr.12502 . hdl : 20.500.11850/547969 . S2CID 234681651 . 
  10. Congdon, Peter D. (2020). "เทคนิคการถดถอยโดยใช้ไพรเออร์แบบลำดับชั้น" แบบจำลองลำดับชั้นแบบเบย์เซียน ( ฉบับที่ 2). โบคา ราตัน: CRC Press. หน้า253–315 . ISBN   978-1-03-217715-1.
  11. Florens, Jean-Pierre; Mouchart, Michael; Rolin, Jean-Marie (1990). "Invariance Arguments in Bayesian Statistics". Economic Decision-Making: Games, Econometrics and Optimisation . North-Holland. หน้า351–367 . ISBN  0-444-88422-X.
  12. 1 2 Jaynes, Edwin T. (ก.ย. 1968). "ความน่าจะเป็นก่อนหน้า" (PDF) . IEEE Transactions on Systems Science and Cybernetics . 4 (3): 227– 241. doi : 10.1109/TSSC.1968.300117 .
  13. แนวคิดเบื้องต้นนี้เสนอโดย JBS Haldaneใน "A note on inverse probability", Mathematical Proceedings of the Cambridge Philosophical Society 28, 55–61, 1932, doi : 10.1017/S0305004100010495 ดูเพิ่มเติมที่ J. Haldane, "The precision of observed values ​​of small frequencies", Biometrika, 35:297–300, 1948, doi : 10.2307/2332350 , JSTOR 2332350 
  14. Datta, Gauri Sankar; Mukerjee, Rahul (2004). Probability Matching Priors: Higher Order Asymptotics . Springer. ISBN 978-0-387-20329-4.
  15. Esfahani, MS; Dougherty, ER (2014). "การรวมความรู้เกี่ยวกับเส้นทางชีวภาพในการสร้างไพรเออร์สำหรับการจำแนกแบบเบย์เซียนที่เหมาะสมที่สุด - IEEE Journals & Magazine" IEEE/ACM Transactions on Computational Biology and Bioinformatics . 11 (1): 202– 18. doi : 10.1109/TCBB.2013.143 . PMID 26355519 . S2CID 10096507 .  
  16. Boluki, Shahin; Esfahani, Mohammad Shahrokh; Qian, Xiaoning; Dougherty, Edward R (ธันวาคม 2017). "การบูรณาการความรู้พื้นฐานทางชีววิทยาสำหรับการเรียนรู้แบบเบย์เซียนผ่านความรู้พื้นฐานสูงสุด" . BMC Bioinformatics . 18 (S14): 552. doi : 10.1186/s12859-017-1893-4 . ISSN 1471-2105 . PMC 5751802 . PMID 29297278 .   
  17. Jaynes (1968), หน้า 17, ดูเพิ่มเติมที่ Jaynes (2003), บทที่ 12 โปรดทราบว่าบทที่ 12 ไม่มีอยู่ในฉบับพิมพ์ล่วงหน้าออนไลน์ แต่สามารถดูตัวอย่างได้ผ่าน Google Books
  18. Dawid, AP; Stone, M.; Zidek, JV (1973). "ความขัดแย้งของการหาค่าขอบในอนุมานแบบเบย์เซียนและเชิงโครงสร้าง" วารสารของราชสมาคมสถิติซีรีส์ B (ระเบียบวิธี) 35 (2): 189– 233. doi : 10.1111/j.2517-6161.1973.tb00952.x . JSTOR 2984907 . 
  19. Christensen, Ronald; Johnson, Wesley; Branscum, Adam; Hanson, Timothy E. (2010). แนวคิดแบบเบย์เซียนและการวิเคราะห์ข้อมูล: บทนำสำหรับนักวิทยาศาสตร์และนักสถิติ . โฮโบเคน: CRC Press. หน้า69. ISBN   9781439894798.
  20. Iba, Y. ( 1989). "สถิติแบบเบย์เซียนและกลศาสตร์เชิงสถิติ" ใน Takayama, H. (บรรณาธิการ). พลวัตแบบร่วมมือในระบบทางกายภาพที่ซับซ้อนชุด Springer ใน Synergetics เล่มที่43เบอร์ลิน: Springer หน้า235–236 doi : 10.1007/978-3-642-74554-6_60 ISBN   978-3-642-74556-0.
  21. Müller-Kirsten, HJW (2013). พื้นฐานของฟิสิกส์เชิงสถิติ ( ฉบับที่ 2). สิงคโปร์: World Scientific. บทที่ 6. 
  22. Ben-Naim, A. (2007). Entropy Demystified . สิงคโปร์: World Scientific.
  • PriorDBคือฐานข้อมูลแบบร่วมมือกันของแบบจำลองและข้อมูลเบื้องต้นของแบบจำลองเหล่านั้น

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ ไม่มีชื่อบทความ

การ แจกแจงความน่าจะเป็นก่อนหน้า (มักเรียกง่ายๆ ว่า ความน่า จะ เป็นก่อนหน้า การแจกแจงก่อนหน้า หรือ ก่อนหน้า ) ของปริมาณที่ไม่แน่นอน คือ การแจกแจงความน่าจะ เป็นที่สมมติขึ้น...

ข้อมูลเบื้องต้น

ค่าความน่าจะเป็นล่วงหน้าที่ให้ข้อมูล ( informative prior) แสดงถึงข้อมูลที่เฉพาะเจาะจงและแน่นอนเกี่ยวกับตัวแปร ตัวอย่างเช่น การแจกแจงความน่าจะเป็นล่วงหน้าสำหรับอุณหภูมิเวลาเที่ยงวันพรุ่งนี้ แนวทางที่เหมาะสมคือการทำให้ค่าความน่าจะเป็นล่วงหน้า เป็นการ...

ก่อนหน้าที่แข็งแกร่ง

ความ น่าจะเป็นล่วงหน้าที่แข็งแกร่ง (Strong prior) คือสมมติฐาน ทฤษฎี แนวคิด หรือความคิดก่อนหน้า ซึ่งเป็นพื้นฐานสำหรับสมมติฐาน ทฤษฎี แนวคิด หรือความคิดปัจจุบัน...

ไพรเออร์ที่ให้ข้อมูลน้อย

ค่าความน่าจะเป็นล่วงหน้าแบบให้ข้อมูลน้อย ( Weakly Informative Prior) แสดงถึงข้อมูลบางส่วนเกี่ยวกับตัวแปร ซึ่งจะนำการวิเคราะห์ไปสู่คำตอบที่สอดคล้องกับความรู้ที่มีอยู่โดยไม่จำกัดผลลัพธ์มากเกินไป และป้องกันการประมาณค่าที่ผิดเพี้ยน ตัวอย่างเช่น...