ความคลาดเคลื่อนของสไตน์
ความคลาดเคลื่อนของสไตน์คือความแตกต่างทางสถิติระหว่างการวัดความน่าจะ เป็นสองแบบ ซึ่งมีรากฐานมาจากวิธีการของสไตน์โดยเริ่มแรกได้รับการกำหนดขึ้นเป็นเครื่องมือในการประเมินคุณภาพของตัวสุ่มแบบมอนเตคาร์โลของห่วง โซ่มาร์คอฟ [ 1 ]แต่ต่อมาได้ถูกนำไปใช้ในบริบทที่หลากหลายในสถิติ การเรียนรู้ของเครื่อง และวิทยาศาสตร์คอมพิวเตอร์[ 2 ]
คำนิยาม
อนุญาตเป็นพื้นที่ที่วัดได้และปล่อยให้เป็นเซตของฟังก์ชันที่วัดได้ในรูปแบบแนวคิดตามธรรมชาติเกี่ยวกับระยะห่างระหว่างการแจกแจงความน่าจะเป็นสองแบบ,กำหนดไว้บนจัดหาโดยเมตริกความน่าจะเป็นแบบอินทิกรัล[ 3 ]
โดยเพื่อจุดประสงค์ในการอธิบาย เราสมมติว่าความคาดหวัง นั้น มีอยู่จริง และชุดนั้นมีความสมบูรณ์เพียงพอที่ (1.1) จะเป็นเมตริกบนเซตของการกระจายความน่าจะเป็นบน, เช่นก็ต่อเมื่อการเลือกชุดกำหนด คุณสมบัติ ทางโทโพโลยีของ (1.1) อย่างไรก็ตาม เพื่อวัตถุประสงค์ในทางปฏิบัติ การประเมิน (1.1) จำเป็นต้องเข้าถึงทั้งสองและซึ่งมักจะทำให้การคำนวณโดยตรงของ (1.1) เป็นไปไม่ได้ในทางปฏิบัติ
วิธีการของ Stein เป็นเครื่องมือทางทฤษฎีที่สามารถใช้เพื่อจำกัด (1.1) โดยเฉพาะอย่างยิ่ง เราสมมติว่าเราสามารถระบุตัวดำเนินการได้และชุดหนึ่งของฟังก์ชันค่าจริงในโดเมนของซึ่งทั้งสองอย่างอาจเป็นขึ้นอยู่กับ โดยที่สำหรับแต่ละมีวิธีแก้ปัญหาอยู่ตามสมการของสไตน์
ผู้ดำเนินการเรียกว่าตัวดำเนินการสไตน์และเซตเรียกว่าเซตสไตน์เมื่อแทน (1.2) ลงใน (1.1) เราจะได้ขอบเขตบน
- .
ขอบเขตที่เกิดขึ้นนี้
เรียกว่าความคลาดเคลื่อนของสไตน์ [ 1 ] ตรงกันข้าม กับเมตริกความน่าจะเป็นแบบอินทิกรัลดั้งเดิมอาจสามารถวิเคราะห์หรือคำนวณได้โดยใช้ค่าคาดหวังเฉพาะในส่วนที่เกี่ยวข้องกับการกระจายตัวเท่านั้น.
ตัวอย่าง
มีการศึกษาความคลาดเคลื่อนของสไตน์หลายรูปแบบ โดยรูปแบบที่ใช้กันอย่างแพร่หลายที่สุดบางส่วนจะนำเสนอต่อไปนี้
ความคลาดเคลื่อนของสไตน์แบบคลาสสิก
สำหรับการกระจายความน่าจะเป็นโดยมีฟังก์ชันความหนาแน่นที่เป็นบวกและสามารถหาอนุพันธ์ได้บนเซตแบบนูนซึ่งมีขอบเขตที่กำหนดไว้การรวมกันของตัวดำเนินการ Langevin–Steinและชุดสไตน์แบบคลาสสิก
ส่งผลให้เกิดความคลาดเคลื่อนแบบคลาสสิกของสไตน์ [ 1 ] ที่ นี่หมายถึงบรรทัดฐานยุคลิดและผลคูณภายในแบบยุคลิด ที่นี่คือค่าบรรทัดฐานตัวดำเนินการ ที่เกี่ยวข้อง สำหรับเมทริกซ์, และหมายถึง เวกเตอร์หน่วยตั้งฉากภายนอกกับณ สถานที่. ถ้าจากนั้นเราจึงตีความ.
ในกรณีตัวแปรเดียวความคลาดเคลื่อนของสไตน์แบบคลาสสิกสามารถคำนวณได้อย่างแม่นยำโดยการแก้โปรแกรมกำลังสองที่มีข้อจำกัดกำลังสอง[ 1 ]
ความคลาดเคลื่อนของกราฟสไตน์
ความคลาดเคลื่อนของสไตน์ที่คำนวณได้เป็นครั้งแรกที่รู้จักกันคือ ความคลาดเคลื่อนของสไตน์แบบกราฟ (GSD) เมื่อกำหนดการแจกแจงแบบไม่ต่อเนื่องเราสามารถกำหนดกราฟ ได้ด้วยชุดจุดยอดและชุดขอบจากกราฟนี้ เราสามารถกำหนดเซตสไตน์ของกราฟได้ดังนี้
การรวมกันของตัวดำเนินการ Langevin–Stein และเซต Stein ของกราฟเรียกว่าความคลาดเคลื่อน Stein ของกราฟ (GSD) GSD แท้จริงแล้วคือคำตอบของ โปรแกรมเชิงเส้นมิติจำกัดซึ่งมีขนาดเท่ากับต่ำถึงเชิงเส้นในซึ่งหมายความว่า GSD สามารถคำนวณได้อย่างมีประสิทธิภาพ[ 1 ]
ความคลาดเคลื่อนของเคอร์เนล สไตน์
ค่าสูงสุดที่เกิดขึ้นในนิยามของความคลาดเคลื่อนของสไตน์สามารถประเมินได้ในรูปแบบปิดโดยใช้การเลือกเซตสไตน์แบบเฉพาะเจาะจง แท้จริงแล้ว ให้เป็นลูกบอลหน่วยในปริภูมิฮิลเบิร์ตเคอร์เนลแบบสร้างซ้ำ (ซึ่งอาจมีค่าเป็นเวกเตอร์)ด้วยเคอร์เนลที่สร้างใหม่ซึ่งองค์ประกอบต่างๆ อยู่ในขอบเขตของตัวดำเนินการสไตน์สมมติว่า
- สำหรับแต่ละค่าคงที่แผนที่เป็นฟังก์ชันเชิงเส้นต่อเนื่องบน.
- .
โดยที่ผู้ดำเนินการสไตน์กระทำการตามอาร์กิวเมนต์แรกของและดำเนินการกับอาร์กิวเมนต์ที่สอง จากนั้นสามารถแสดงได้[ 4 ]ว่า
- ,
โดยที่ตัวแปรสุ่มและในความคาดหวังนั้นเป็นอิสระต่อกัน โดยเฉพาะอย่างยิ่ง ถ้าเป็นการแจกแจงแบบไม่ต่อเนื่องบนจากนั้นความคลาดเคลื่อนของสไตน์ก็จะอยู่ในรูปแบบปิด
ความคลาดเคลื่อนของ Stein ที่สร้างขึ้นในลักษณะนี้เรียกว่าความคลาดเคลื่อนของ Stein แบบเคอร์เนล[ 5 ] [ 6 ] [ 7 ] [ 8 ]และการสร้างนี้เชื่อมโยงอย่างใกล้ชิดกับทฤษฎีการฝังเคอร์เนลของการกระจายความน่าจะเป็น
อนุญาตเป็นเคอร์เนลที่สร้างซ้ำได้ สำหรับการแจกแจงความน่าจะเป็นโดยมีฟังก์ชันความหนาแน่นที่เป็นบวกและสามารถหาอนุพันธ์ได้บนการรวมกันของตัวดำเนินการ Langevin-Steinและชุดสไตน์
เกี่ยวข้องกับเคอร์เนลการสร้างซ้ำที่มีค่าเป็นเมทริกซ์ส่งผลให้เกิดความคลาดเคลื่อนของ Stein ในระดับเคอร์เนลด้วย[ 5 ]
ที่ไหน(ตอบ)) ระบุความชันโดยสัมพันธ์กับอาร์กิวเมนต์ที่จัดทำดัชนีโดย(ตอบ))
กล่าวโดยสรุป หากเราใช้เคอร์เนลมัลติควอดริกผกผันด้วยพารามิเตอร์และเมทริกซ์สมมาตรบวกแน่นอน และถ้าเรากำหนดแล้วเราก็มี
.
ความคลาดเคลื่อนของการแพร่กระจายของสไตน์
ความคลาดเคลื่อนของการแพร่กระจายของ Stein [ 9 ]ขยายตัวดำเนินการ Langevin Steinไปยังคลาสของตัวดำเนินการ Stein แบบแพร่กระจายแต่ละอันแสดงถึงการแพร่กระจายของอิโตะที่มีเนื่องจากเป็นการกระจายตัวแบบคงที่ ในที่นี้เป็นฟังก์ชันค่าเมทริกซ์ที่กำหนดโดยตัวสร้างอนันต์ของการแพร่กระจาย
ความคลาดเคลื่อนอื่นๆ ของสไตน์
ความคลาดเคลื่อนของ Stein เพิ่มเติมได้รับการพัฒนาสำหรับโดเมนที่มีข้อจำกัด[ 10 ]โดเมนที่ไม่ใช่แบบยุคลิด[ 11 ] [ 12 ] [ 10 ]โดเมนแบบไม่ต่อเนื่อง[ 13 ] [ 14 ]ความสามารถในการปรับขนาดที่ดีขึ้น[ 15 ] [ 16 ]และความคลาดเคลื่อนของ Stein ที่ปราศจากเกรเดียนต์ซึ่งอนุพันธ์ของความหนาแน่นถูกหลีกเลี่ยง[ 17 ]ยิ่งไปกว่านั้น แนวทางนี้ยังขยายไปสู่ Gradient-Free Kernel Conditional Stein Discrepancy ซึ่งมุ่งเป้าไปที่การแจกแจงแบบมีเงื่อนไข[ 18 ]
คุณสมบัติ
ความยืดหยุ่นในการเลือกตัวดำเนินการสไตน์และเซตสไตน์ในการสร้างความคลาดเคลื่อนของสไตน์ ทำให้ไม่สามารถสรุปเป็นข้อความทั่วไปในเชิงทฤษฎีได้ อย่างไรก็ตาม มีความรู้มากมายเกี่ยวกับความคลาดเคลื่อนของสไตน์แต่ละแบบ
สามารถคำนวณได้โดยไม่ต้องใช้ค่าคงที่การทำให้เป็นมาตรฐาน
ความคลาดเคลื่อนของสไตน์บางครั้งสามารถคำนวณได้ในสถานการณ์ที่ท้าทายซึ่งการกระจายความน่าจะเป็นยอมรับฟังก์ชันความหนาแน่นความน่าจะเป็น(โดยคำนึงถึงมาตรวัดอ้างอิงที่เหมาะสม)) ของรูปแบบ, ที่ไหนและอนุพันธ์ของมันสามารถประเมินได้ด้วยวิธีเชิงตัวเลข แต่ค่าคงที่การทำให้เป็นมาตรฐานของมันคืออะไรไม่สามารถคำนวณหรือประมาณค่าได้ง่ายๆ เมื่อพิจารณา (2.1) เราสังเกตว่าการพึ่งพาของบนเกิดขึ้นเฉพาะผ่านคำศัพท์เท่านั้น
ซึ่งไม่ขึ้นอยู่กับค่าคงที่การทำให้เป็นมาตรฐาน.
ความคลาดเคลื่อนของสไตน์ในฐานะความแตกต่างทางสถิติ
ข้อกำหนดพื้นฐานของความคลาดเคลื่อนแบบสไตน์คือ ต้องเป็นความแตกต่างทางสถิติ ซึ่งหมายความว่าและก็ต่อเมื่อคุณสมบัตินี้สามารถแสดงให้เห็นว่าใช้ได้กับความคลาดเคลื่อนของ Stein แบบคลาสสิก[ 1 ]และความคลาดเคลื่อนของ Stein แบบเคอร์เนล[ 6 ] [ 7 ] [ 8 ]โดยมีเงื่อนไขว่าเงื่อนไขความสม่ำเสมอที่เหมาะสมจะต้องเป็นจริง
การควบคุมการบรรจบกัน
คุณสมบัติที่แข็งแกร่งกว่า เมื่อเทียบกับการเบี่ยงเบนทางสถิติ คือการควบคุมการบรรจบกันซึ่งหมายความว่าหมายความว่าลู่เข้าสู่ในความหมายที่ต้องระบุให้ชัดเจน ตัวอย่างเช่น ภายใต้เงื่อนไขความสม่ำเสมอที่เหมาะสม ทั้งความคลาดเคลื่อนของสไตน์แบบคลาสสิกและความคลาดเคลื่อนของสไตน์แบบกราฟต่างก็ได้รับการควบคุมการลู่เข้าแบบวาสเซอร์สไตน์ซึ่งหมายความว่าหมายความว่าเมตริก Wassersteinระหว่างและลู่เข้าสู่ศูนย์[ 1 ] [ 19 ] [ 9 ] สำหรับความคลาดเคลื่อนของ Stein ของเคอร์เนลการควบคุมการลู่เข้าแบบอ่อนได้รับการสร้างขึ้น[ 8 ] [ 20 ]ภายใต้เงื่อนไขความสม่ำเสมอของการกระจายและแกนกลางที่สืบพันธุ์ซึ่งใช้ได้กับ (2.1) โดยเฉพาะ ตัวเลือกอื่นๆ ที่รู้จักกันดีของเช่น ที่ใช้เคอร์เนลแบบเกาส์เซียน พิสูจน์ได้ว่าไม่มีการควบคุมการบรรจบกันที่อ่อนแอ[ 8 ]
การตรวจจับการบรรจบกัน
คุณสมบัติตรงข้ามกับการควบคุมการบรรจบกันคือการตรวจจับการบรรจบกันซึ่งหมายความว่าเมื่อใดก็ตามลู่เข้าสู่ในแง่ที่ต้องระบุให้ชัดเจน ตัวอย่างเช่น ภายใต้เงื่อนไขความสม่ำเสมอที่เหมาะสม ความคลาดเคลื่อนของ Stein แบบคลาสสิกจะได้รับรูปแบบเฉพาะของการตรวจจับการบรรจบกันของค่าเฉลี่ยกำลังสอง[ 1 ] [ 9 ]ซึ่งหมายความว่าเมื่อใดก็ตามลู่เข้าสู่ค่าเฉลี่ยกำลังสองและลู่เข้าสู่ค่าเฉลี่ยกำลังสองสำหรับความคลาดเคลื่อนของเคอร์เนลสไตน์การตรวจจับการบรรจบกันของวาสเซอร์สไตน์ได้รับการสร้างขึ้น[ 8 ]ภายใต้เงื่อนไขความสม่ำเสมอที่เหมาะสมบนการกระจายและแกนกลางที่สืบพันธุ์.
การประยุกต์ใช้ความคลาดเคลื่อนของสไตน์
มีการเสนอการประยุกต์ใช้ความคลาดเคลื่อนของสไตน์หลายประการ ซึ่งบางส่วนจะกล่าวถึงต่อไปนี้
การหาปริมาณที่เหมาะสมที่สุด
กำหนดให้เป็นการแจกแจงความน่าจะเป็นกำหนดไว้บนพื้นที่ที่วัดได้งานของ การควอนไทเซชันคือการเลือกสถานะจำนวนน้อยๆโดยที่การแจกแจงแบบไม่ต่อเนื่องที่เกี่ยวข้องเป็นการประมาณค่าที่แม่นยำของในความหมายที่ต้องระบุให้ชัดเจน
จุด Stein [ 20 ]เป็นผลมาจากการดำเนินการ หาปริมาณ ที่เหมาะสมที่สุดผ่านการลดความคลาดเคลื่อนของ Stein ให้เหลือน้อยที่สุด:
ภายใต้เงื่อนไขความสม่ำเสมอที่เหมาะสม สามารถแสดงได้[ 20 ]ว่าเช่นดังนั้น หากความคลาดเคลื่อนของสไตน์ได้รับการควบคุมการบรรจบกัน ก็จะตามมาว่าลู่เข้าสู่การขยายผลลัพธ์นี้เพื่อให้สามารถเพิ่มประสิทธิภาพเชิงตัวเลขที่ไม่สมบูรณ์ได้ก็ได้รับการพัฒนาขึ้นเช่นกัน[ 20 ] [ 22 ] [ 21 ]
อัลกอริทึมการเพิ่มประสิทธิภาพที่ซับซ้อนได้รับการออกแบบเพื่อดำเนินการควอนไทเซชันที่มีประสิทธิภาพโดยอิงจากความคลาดเคลื่อนของ Stein รวมถึงอัลกอริทึมการไหลของเกรเดียนต์ที่มุ่งเป้าไปที่การลดความคลาดเคลื่อนของ Stein ของเคอร์เนลให้เหลือน้อยที่สุดในพื้นที่ที่เหมาะสมของการวัดความน่าจะเป็น[ 23 ]
การประมาณค่าถ่วงน้ำหนักที่เหมาะสมที่สุด
หากอนุญาตให้พิจารณาการรวมกันแบบถ่วงน้ำหนักของมวลจุด จะสามารถประมาณค่าได้แม่นยำยิ่งขึ้นเมื่อเทียบกับ (3.1) เพื่อความง่ายในการอธิบาย สมมติว่าเราได้รับชุดสถานะจากนั้นจึงหาการรวมกันแบบถ่วงน้ำหนักที่เหมาะสมที่สุดของจุดมวล, เช่น
ซึ่งสามารถลดความคลาดเคลื่อนของ Stein ให้เหลือน้อยที่สุดสามารถหาได้ในรูปแบบปิดเมื่อใช้ความคลาดเคลื่อนของ Stein แบบเคอร์เนล[ 5 ]ผู้เขียนบางคน[ 24 ] [ 25 ]พิจารณาการกำหนดข้อจำกัดที่ไม่เป็นลบเพิ่มเติมให้กับน้ำหนัก เช่นอย่างไรก็ตาม ในทั้งสองกรณี การคำนวณที่จำเป็นในการหาค่าน้ำหนักที่เหมาะสมที่สุดนั้นอาจเกี่ยวข้องกับการแก้ระบบสมการเชิงเส้นที่มีเงื่อนไขไม่ดีในเชิงตัวเลข ที่น่าสนใจคือ มีการแสดงให้เห็นแล้ว[ 21 ]ว่าการประมาณค่าแบบโลภของโดยใช้การรวมกันแบบไม่ถ่วงน้ำหนักของรัฐต่างๆ สามารถลดความต้องการในการคำนวณนี้ได้ โดยเฉพาะอย่างยิ่ง อัลกอริทึมการ ลดจำนวนแบบโลภของสไตน์ (Stein thinning algorithm)
ได้รับการพิสูจน์แล้วว่าตรงตามขอบเขตความคลาดเคลื่อน
การวางนัยทั่วไปของอัลกอริทึมโลภที่ไม่มองแคบและแบบมินิแบตช์ได้รับการพิสูจน์แล้ว[ 26 ]ว่าให้ผลลัพธ์ที่ดีขึ้นในด้านคุณภาพการประมาณเมื่อเทียบกับต้นทุนการคำนวณ
การอนุมานเชิงแปรผัน
ความคลาดเคลื่อนของ Stein ถูกนำมาใช้เป็นวัตถุประสงค์เชิงแปรผันในวิธีการ Bayesian เชิงแปรผัน [ 27 ] [ 28 ] เมื่อ กำหนดชุดข้อมูลของการกระจายความน่าจะเป็นบนโดยมีพารามิเตอร์ดังนี้เราสามารถค้นหาการกระจายในชุดข้อมูลนี้ที่ใกล้เคียงกับการกระจายที่ต้องการมากที่สุดที่น่าสนใจ:
ข้อได้เปรียบที่เป็นไปได้ของความคลาดเคลื่อนของ Stein ในบริบทนี้[ 28 ]เมื่อเปรียบเทียบกับ วัตถุประสงค์การแปรผัน Kullback–Leibler แบบดั้งเดิม คือไม่จำเป็นต้องต่อเนื่องอย่างสมบูรณ์เมื่อเทียบกับเพื่อที่จะเพื่อให้มีความชัดเจน คุณสมบัตินี้สามารถใช้เพื่อหลีกเลี่ยงการใช้แบบจำลองการสร้างตามการไหลตัวอย่างเช่น ซึ่งกำหนดข้อจำกัดของการแปลงแบบดิฟเฟอเรนเชียลเพื่อบังคับใช้ความต่อเนื่องสัมบูรณ์ของและ.
การประมาณค่าทางสถิติ
ความคลาดเคลื่อนของสไตน์ (Stein discrepancy) ได้รับการเสนอให้เป็นเครื่องมือในการปรับแบบจำลองทางสถิติเชิงพารามิเตอร์ให้เข้ากับข้อมูล โดยมีชุดข้อมูลกำหนดไว้พิจารณาการแจกแจงแบบไม่ต่อเนื่องที่เกี่ยวข้องสำหรับชุดพารามิเตอร์ที่กำหนดของการกระจายความน่าจะเป็นบนเราสามารถประมาณค่าของพารามิเตอร์ได้ซึ่งเข้ากันได้กับชุดข้อมูลโดยใช้ตัวประมาณความคลาดเคลื่อนของ Stein ขั้นต่ำ[ 29 ]
แนวทางนี้มีความเกี่ยวข้องอย่างใกล้ชิดกับกรอบการประมาณระยะทางขั้นต่ำโดยที่ "ระยะทาง" นั้นถูกแทนที่ด้วยความคลาดเคลื่อนของสไตน์ หรืออีกทางหนึ่งคือแนวทางแบบเบย์เซียนทั่วไปในการประมาณค่าพารามิเตอร์สามารถพิจารณาได้[ 4 ]โดยที่กำหนดให้มี การแจกแจง ความน่าจะเป็นก่อนหน้าที่มีฟังก์ชันความหนาแน่น,(โดยคำนึงถึงมาตรวัดอ้างอิงที่เหมาะสม)) เราสร้างค่าความน่าจะเป็นภายหลังแบบทั่วไปโดยใช้ฟังก์ชันความหนาแน่นของความน่าจะเป็น
สำหรับบางคนต้องระบุหรือกำหนดเพิ่มเติม
การทดสอบสมมติฐาน
ความคลาดเคลื่อนของสไตน์ยังถูกใช้เป็นสถิติการทดสอบสำหรับการทดสอบความเหมาะสม[ 6 ] [ 7 ]และการเปรียบเทียบโมเดลตัวแปรแฝง[ 30 ] เนื่องจากการทดสอบดังกล่าวมีค่าใช้จ่ายในการคำนวณเป็นกำลังสองของขนาดตัวอย่าง จึงได้มีการพัฒนาทางเลือกอื่นที่มีเวลาการทำงานเชิงเส้น (เกือบ) [ 31 ] [ 15 ]