กลับไปหน้าบทความ

อ่าน 18 นาที

ความคลาดเคลื่อนของสไตน์

ระยะทางทางสถิติ/ทฤษฎีการแจกแจงความน่าจะเป็น

ความคลาดเคลื่อนของสไตน์คือความแตกต่างทางสถิติระหว่างการวัดความน่าจะ เป็นสองแบบ ซึ่งมีรากฐานมาจากวิธีการของสไตน์โดยเริ่มแรกได้รับการกำหนดขึ้นเป็นเครื่องมือในการประเมินคุณภาพของตัวสุ...

ความคลาดเคลื่อนของสไตน์

ความคลาดเคลื่อนของสไตน์คือความแตกต่างทางสถิติระหว่างการวัดความน่าจะ เป็นสองแบบ ซึ่งมีรากฐานมาจากวิธีการของสไตน์โดยเริ่มแรกได้รับการกำหนดขึ้นเป็นเครื่องมือในการประเมินคุณภาพของตัวสุ่มแบบมอนเตคาร์โลของห่วง โซ่มาร์คอฟ [ 1 ]แต่ต่อมาได้ถูกนำไปใช้ในบริบทที่หลากหลายในสถิติ การเรียนรู้ของเครื่อง และวิทยาศาสตร์คอมพิวเตอร์[ 2 ]

คำนิยาม

อนุญาตX{\displaystyle {\mathcal {X}}}เป็นพื้นที่ที่วัดได้และปล่อยให้เอ็ม{\displaystyle {\mathcal {M}}}เป็นเซตของฟังก์ชันที่วัดได้ในรูปแบบ:Xอาร์{\displaystyle m:{\mathcal {X}}\rightarrow \mathbb {R} }แนวคิดตามธรรมชาติเกี่ยวกับระยะห่างระหว่างการแจกแจงความน่าจะเป็นสองแบบพี{\displaystyle P},คิว{\displaystyle Q}กำหนดไว้บนX{\displaystyle {\mathcal {X}}}จัดหาโดยเมตริกความน่าจะเป็นแบบอินทิกรัล[ 3 ]

(1.1)เอ็ม(พี,คิว):=จีบเอ็ม|อีX~พี[(X)]อีวาย~คิว[(วาย)]|,{\displaystyle (1.1)\quad d_{\mathcal {M}}(P,Q):=\sup _{m\in {\mathcal {M}}}|\mathbb {E} _{X\sim P}[m(X)]-\mathbb {E} _{Y\sim Q}[m(Y)]|,}

โดยเพื่อจุดประสงค์ในการอธิบาย เราสมมติว่าความคาดหวัง นั้น มีอยู่จริง และชุดนั้นเอ็ม{\displaystyle {\mathcal {M}}}มีความสมบูรณ์เพียงพอที่ (1.1) จะเป็นเมตริกบนเซตของการกระจายความน่าจะเป็นบนX{\displaystyle {\mathcal {X}}}, เช่นเอ็ม(พี,คิว)=0{\displaystyle d_{\mathcal {M}}(P,Q)=0}ก็ต่อเมื่อพี=คิว{\displaystyle P=Q}การเลือกชุดเอ็ม{\displaystyle {\mathcal {M}}}กำหนด คุณสมบัติ ทางโทโพโลยีของ (1.1) อย่างไรก็ตาม เพื่อวัตถุประสงค์ในทางปฏิบัติ การประเมิน (1.1) จำเป็นต้องเข้าถึงทั้งสองพี{\displaystyle P}และคิว{\displaystyle Q}ซึ่งมักจะทำให้การคำนวณโดยตรงของ (1.1) เป็นไปไม่ได้ในทางปฏิบัติ

วิธีการของ Stein เป็นเครื่องมือทางทฤษฎีที่สามารถใช้เพื่อจำกัด (1.1) โดยเฉพาะอย่างยิ่ง เราสมมติว่าเราสามารถระบุตัวดำเนินการได้เอพี{\displaystyle {\mathcal {A}}_{P}}และชุดหนึ่งเอฟพี{\displaystyle {\mathcal {F}}_{P}}ของฟังก์ชันค่าจริงในโดเมนของเอพี{\displaystyle {\mathcal {A}}_{P}}ซึ่งทั้งสองอย่างอาจเป็นพี{\displaystyle P}ขึ้นอยู่กับ โดยที่สำหรับแต่ละเอ็ม{\displaystyle m\in {\mathcal {M}}}มีวิธีแก้ปัญหาอยู่เอฟเอฟพี{\displaystyle f_{m}\in {\mathcal {F}}_{P}}ตามสมการของสไตน์

(1.2)(x)อีX~พี[(X)]=เอพีเอฟ(x).{\displaystyle (1.2)\quad m(x)-\mathbb {E} _{X\sim P}[m(X)]={\mathcal {A}}_{P}f_{m}(x).}

ผู้ดำเนินการเอพี{\displaystyle {\mathcal {A}}_{P}}เรียกว่าตัวดำเนินการสไตน์และเซตเอฟพี{\displaystyle {\mathcal {F}}_{P}}เรียกว่าเซตสไตน์เมื่อแทน (1.2) ลงใน (1.1) เราจะได้ขอบเขตบน

เอ็ม(พี,คิว)=จีบเอ็ม|อีวาย~คิว[(วาย)]อีX~พี[(X)]|=จีบเอ็ม|อีวาย~คิว[เอพีเอฟ(วาย)]|จีบเอฟเอฟพี|อีวาย~คิว[เอพีเอฟ(วาย)]|{\displaystyle d_{\mathcal {M}}(P,Q)=\sup _{m\in {\mathcal {M}}}|\mathbb {E} _{Y\sim Q}[m(Y)]-\mathbb {E} _{X\sim P}[m(X)]|=\sup _{m\in {\mathcal {M}}}|\mathbb {E} _{Y\sim Q}[{\mathcal {A}}_{P}f_{m}(Y)]|\leq \sup _{f\in {\mathcal {F}}_{P}}|\mathbb {E} _{Y\sim Q}[{\mathcal {A}}_{P}f(Y)]|}.

ขอบเขตที่เกิดขึ้นนี้

ดีพี(คิว):=จีบเอฟเอฟพี|อีวาย~คิว[เอพีเอฟ(วาย)]|{\displaystyle D_{P}(Q):=\sup _{f\in {\mathcal {F}}_{P}}|\mathbb {E} _{Y\sim Q}[{\mathcal {A}}_{P}f(Y)]|}

เรียกว่าความคลาดเคลื่อนของสไตน์ [ 1 ] ตรงกันข้าม กับเมตริกความน่าจะเป็นแบบอินทิกรัลดั้งเดิมเอ็ม(พี,คิว){\displaystyle d_{\mathcal {M}}(P,Q)}อาจสามารถวิเคราะห์หรือคำนวณได้ดีพี(คิว){\displaystyle D_{P}(Q)}โดยใช้ค่าคาดหวังเฉพาะในส่วนที่เกี่ยวข้องกับการกระจายตัวเท่านั้นคิว{\displaystyle Q}.

ตัวอย่าง

มีการศึกษาความคลาดเคลื่อนของสไตน์หลายรูปแบบ โดยรูปแบบที่ใช้กันอย่างแพร่หลายที่สุดบางส่วนจะนำเสนอต่อไปนี้

ความคลาดเคลื่อนของสไตน์แบบคลาสสิก

สำหรับการกระจายความน่าจะเป็นพี{\displaystyle P}โดยมีฟังก์ชันความหนาแน่นที่เป็นบวกและสามารถหาอนุพันธ์ได้พี{\displaystyle p}บนเซตแบบนูนXอาร์{\displaystyle {\mathcal {X}}\subseteq \mathbb {R} ^{d}}ซึ่งมีขอบเขตที่กำหนดไว้X{\displaystyle \partial {\mathcal {X}}}การรวมกันของตัวดำเนินการ Langevin–Steinเอพีเอฟ=เอฟ+เอฟบันทึกพี{\displaystyle {\mathcal {A}__{P}f=\nabla \cdot f+f\cdot \nabla \log p}และชุดสไตน์แบบคลาสสิก

เอฟพี={เอฟ:Xอาร์|จีบxyสูงสุด(เอฟ(x),เอฟ(x),เอฟ(x)เอฟ(y)xy)1,เอฟ(x),n(x)=0xX}{\displaystyle {\mathcal {F}}_{P}=\left\{f:{\mathcal {X}}\rightarrow \mathbb {R} ^{d}\,{\Biggl \vert }\,\sup _{x\neq y}\max \left(\|f(x)\|,\|\nabla f(x)\|,{\frac {\|\nabla f(x)-\nabla f(y)\|}{\|xy\|}}\right)\leq 1,\;\langle f(x),n(x)\rangle =0\;\forall x\in \partial {\mathcal {X}}\right\}}

ส่งผลให้เกิดความคลาดเคลื่อนแบบคลาสสิกของสไตน์ [ 1 ] ที่ นี่{\displaystyle \|\cdot \|}หมายถึงบรรทัดฐานยุคลิดและ,{\displaystyle \langle \cdot ,\cdot \rangle }ผลคูณภายในแบบยุคลิด ที่นี่เอ็ม=จีบวีอาร์,วี=1เอ็มวี{\displaystyle \|M\|=\textstyle \sup _{v\in \mathbb {R} ^{d},\|v\|=1}\|Mv\|}คือค่าบรรทัดฐานตัวดำเนินการ ที่เกี่ยวข้อง สำหรับเมทริกซ์เอ็มอาร์×{\displaystyle M\in \mathbb {R} ^{d\times d}}, และn(x){\displaystyle n(x)}หมายถึง เวกเตอร์หน่วยตั้งฉากภายนอกกับX{\displaystyle \partial {\mathcal {X}}}ณ สถานที่xX{\displaystyle x\in \partial {\mathcal {X}}}. ถ้าX=อาร์{\displaystyle {\mathcal {X}}=\mathbb {R} ^{d}}จากนั้นเราจึงตีความX={\displaystyle \partial {\mathcal {X}}=\emptyset }.

ในกรณีตัวแปรเดียว=1{\displaystyle d=1}ความคลาดเคลื่อนของสไตน์แบบคลาสสิกสามารถคำนวณได้อย่างแม่นยำโดยการแก้โปรแกรมกำลังสองที่มีข้อจำกัดกำลังสอง[ 1 ]

ความคลาดเคลื่อนของกราฟสไตน์

ความคลาดเคลื่อนของสไตน์ที่คำนวณได้เป็นครั้งแรกที่รู้จักกันคือ ความคลาดเคลื่อนของสไตน์แบบกราฟ (GSD) เมื่อกำหนดการแจกแจงแบบไม่ต่อเนื่องคิว=ฉัน=1nฉันδ(xฉัน){\displaystyle Q=\textstyle \sum _{i=1}^{n}w_{i}\delta (x_{i})}เราสามารถกำหนดกราฟ ได้จี{\displaystyle G}ด้วยชุดจุดยอดวี={x1,,xn}{\displaystyle V=\{x_{1},\dots ,x_{n}\}}และชุดขอบอีวี×วี{\displaystyle E\subseteq V\times V}จากกราฟนี้ เราสามารถกำหนดเซตสไตน์ของกราฟได้ดังนี้

เอฟพี={เอฟ:Xอาร์|สูงสุด(เอฟ(วี),เอฟ(วี),เอฟ(x)เอฟ(y)xy1,เอฟ(x)เอฟ(y)xy1)1,เอฟ(x)เอฟ(y)(x)(xy)12xy121,เอฟ(x)เอฟ(y)เอฟ(y)(xy)12xy121,วีการสนับสนุน(คิวn),(x,y)อี}.{\displaystyle {\begin{aligned}{\mathcal {F}}_{P}={\Big \{}f:{\mathcal {X}}\rightarrow \mathbb {R} ^{d}&\,{\Bigl \vert }\,\max \left(\|f(v)\|_{\infty },\|\nabla f(v)\|_{\infty },{\textstyle {\frac {\|f(x)-f(y)\|_{\infty }}{\|x-y\|_{1}}}},{\textstyle {\frac {\|\nabla f(x)-\nabla f(y)\|_{\infty }}{\|x-y\|_{1}}}}\right)\leq 1,\\[8pt]&{\textstyle {\frac {\|f(x)-f(y)-{\nabla (x)}{(x-y)}\|_{\infty }}{{\frac {1}{2}}\|x-y\|_{1}^{2}}}\leq 1},{\textstyle {\frac {\|f(x)-f(y)-{\nabla f(y)}{(x-y)}\|_{\infty }}{{\frac {1}{2}}\|x-y\|_{1}^{2}}}\leq 1},\;\forall v\in \operatorname {supp} (Q_{n}),(x,y)\in E{\Big \}}.\end{aligned}}}

การรวมกันของตัวดำเนินการ Langevin–Stein และเซต Stein ของกราฟเรียกว่าความคลาดเคลื่อน Stein ของกราฟ (GSD) GSD แท้จริงแล้วคือคำตอบของ โปรแกรมเชิงเส้นมิติจำกัดซึ่งมีขนาดเท่ากับอี{\displaystyle E}ต่ำถึงเชิงเส้นในn{\displaystyle n}ซึ่งหมายความว่า GSD สามารถคำนวณได้อย่างมีประสิทธิภาพ[ 1 ]

ความคลาดเคลื่อนของเคอร์เนล สไตน์

ค่าสูงสุดที่เกิดขึ้นในนิยามของความคลาดเคลื่อนของสไตน์สามารถประเมินได้ในรูปแบบปิดโดยใช้การเลือกเซตสไตน์แบบเฉพาะเจาะจง แท้จริงแล้ว ให้เอฟพี={เอฟชม(เค):เอฟชม(เค)1}{\displaystyle {\mathcal {F}}_{P}=\{f\in H(K):\|f\|_{H(K)}\leq 1\}}เป็นลูกบอลหน่วยในปริภูมิฮิลเบิร์ตเคอร์เนลแบบสร้างซ้ำ (ซึ่งอาจมีค่าเป็นเวกเตอร์)ชม(เค){\displaystyle H(K)}ด้วยเคอร์เนลที่สร้างใหม่เค{\displaystyle K}ซึ่งองค์ประกอบต่างๆ อยู่ในขอบเขตของตัวดำเนินการสไตน์เอพี{\displaystyle {\mathcal {A}}_{P}}สมมติว่า

  • สำหรับแต่ละค่าคงที่xX{\displaystyle x\in {\mathcal {X}}}แผนที่เอฟเอพี[เอฟ](x){\displaystyle f\mapsto {\mathcal {A}}_{P}[f](x)}เป็นฟังก์ชันเชิงเส้นต่อเนื่องบนเอฟพี{\displaystyle {\mathcal {F}}_{P}}.
  • อีX~คิว[เอพีเอพีเค(X,X)]<{\displaystyle \mathbb {E} _{X\sim Q}[{\mathcal {A}}_{P}{\mathcal {A}}_{P}'K(X,X)]<\infty }.

โดยที่ผู้ดำเนินการสไตน์เอพี{\displaystyle {\mathcal {A}}_{P}}กระทำการตามอาร์กิวเมนต์แรกของเค(,){\displaystyle K(\cdot ,\cdot )}และเอพี{\displaystyle {\mathcal {A}}_{P}'}ดำเนินการกับอาร์กิวเมนต์ที่สอง จากนั้นสามารถแสดงได้[ 4 ]ว่า

ดีพี(คิว)=อีX,X~คิว[เอพีเอพีเค(X,X)]{\displaystyle D_{P}(Q)={\sqrt {\mathbb {E} _{X,X'\sim Q}[{\mathcal {A}}_{P}{\mathcal {A}}_{P}'K(X,X')]}}},

โดยที่ตัวแปรสุ่มX{\displaystyle X}และX{\displaystyle X'}ในความคาดหวังนั้นเป็นอิสระต่อกัน โดยเฉพาะอย่างยิ่ง ถ้าคิว=ฉัน=1nฉันδ(xฉัน){\textstyle Q=\sum _{i=1}^{n}w_{i}\delta (x_{i})}เป็นการแจกแจงแบบไม่ต่อเนื่องบนX{\displaystyle {\mathcal {X}}}จากนั้นความคลาดเคลื่อนของสไตน์ก็จะอยู่ในรูปแบบปิด

ดีพี(คิว)=ฉัน=1nเจ=1nฉันเจเอพีเอพีเค(xฉัน,xเจ).{\displaystyle D_{P}(Q)={\sqrt {\sum _{i=1}^{n}\sum _{j=1}^{n}w_{i}w_{j}{\mathcal {A}}_{P}{\mathcal {A}}_{P}'K(x_{i},x_{j})}}.}

ความคลาดเคลื่อนของ Stein ที่สร้างขึ้นในลักษณะนี้เรียกว่าความคลาดเคลื่อนของ Stein แบบเคอร์เนล[ 5 ] [ 6 ] [ 7 ] [ 8 ]และการสร้างนี้เชื่อมโยงอย่างใกล้ชิดกับทฤษฎีการฝังเคอร์เนลของการกระจายความน่าจะเป็น

อนุญาตเค:X×Xอาร์{\displaystyle k:{\mathcal {X}}\times {\mathcal {X}}\rightarrow \mathbb {R} }เป็นเคอร์เนลที่สร้างซ้ำได้ สำหรับการแจกแจงความน่าจะเป็นพี{\displaystyle P}โดยมีฟังก์ชันความหนาแน่นที่เป็นบวกและสามารถหาอนุพันธ์ได้พี{\displaystyle p}บนX=อาร์{\displaystyle {\mathcal {X}}=\mathbb {R} ^{d}}การรวมกันของตัวดำเนินการ Langevin-Steinเอพีเอฟ=เอฟ+เอฟบันทึกพี{\displaystyle {\mathcal {A}}_{P}f=\nabla \cdot f+f\cdot \nabla \log p}และชุดสไตน์

เอฟพี={เอฟชม(เค)××ชม(เค):ฉัน=1เอฟฉันชม(เค)21},{\displaystyle {\mathcal {F}}_{P}=\left\{f\in H(k)\times \dots \times H(k):\sum _{i=1}^{d}\|f_{i}\|_{H(k)}^{2}\leq 1\right\},}

เกี่ยวข้องกับเคอร์เนลการสร้างซ้ำที่มีค่าเป็นเมทริกซ์เค(x,x)=เค(x,x)ฉัน×{\displaystyle K(x,x')=k(x,x')I_{d\times d}}ส่งผลให้เกิดความคลาดเคลื่อนของ Stein ในระดับเคอร์เนลด้วย[ 5 ]

เอพีเอพีเค(x,x)=xxเค(x,x)+xเค(x,x)xบันทึกพี(x)+xเค(x,x)xบันทึกพี(x)+เค(x,x)xบันทึกพี(x)xบันทึกพี(x){\displaystyle {\mathcal {A}}_{P}{\mathcal {A}}_{P}'K(x,x')=\nabla _{x}\cdot \nabla _{x'}k(x,x')+\nabla _{x}k(x,x')\cdot \nabla _{x'}\log p(x')+\nabla _{x'}k(x,x')\cdot \nabla _{x}\log p(x)+k(x,x')\nabla _{x}\log p(x)\cdot \nabla _{x'}\log p(x')}

ที่ไหนx{\displaystyle \nabla _{x}}(ตอบ)x{\displaystyle \nabla _{x'}}) ระบุความชันโดยสัมพันธ์กับอาร์กิวเมนต์ที่จัดทำดัชนีโดยx{\displaystyle x}(ตอบ)x{\displaystyle x'})

กล่าวโดยสรุป หากเราใช้เคอร์เนลมัลติควอดริกผกผันเค(x,x)=(1+(xx)Σ1(xx))เบต้า{\displaystyle k(x,x')=(1+(x-x')^{\top }\Sigma ^{-1}(x-x'))^{-\beta }}ด้วยพารามิเตอร์เบต้า>0{\displaystyle \beta >0}และΣอาร์×{\displaystyle \Sigma \in \mathbb {R} ^{d\times d}}เมทริกซ์สมมาตรบวกแน่นอน และถ้าเรากำหนดคุณ(x)=บันทึกพี(x){\displaystyle u(x)=\nabla \log p(x)}แล้วเราก็มี

(2.1)เอพีเอพีเค(x,x)=4เบต้า(เบต้า+1)(xx)Σ2(xx)(1+(xx)Σ1(xx))เบต้า+2+2เบต้า[tr(Σ1)+[คุณ(x)คุณ(x)]Σ1(xx)(1+(xx)Σ1(xx))1+เบต้า]+คุณ(x)คุณ(x)(1+(xx)Σ1(xx))เบต้า{\displaystyle (2.1)\quad {\mathcal {A}}_{P}{\mathcal {A}}_{P}'K(x,x')=-{\frac {4\beta (\beta +1)(x-x')^{\top }\Sigma ^{-2}(x-x')}{\left(1+(x-x')^{\top }\Sigma ^{-1}(x-x')\right)^{\beta +2}}}+2\beta \left[{\frac {{\text{tr}}(\Sigma ^{-1})+[u(x)-u(x')]^{\top }\Sigma ^{-1}(x-x')}{\left(1+(x-x')^{\top }\Sigma ^{-1}(x-x')\right)^{1+\beta }}}\right]+{\frac {u(x)^{\top }u(x')}{\left(1+(x-x')^{\top }\Sigma ^{-1}(x-x')\right)^{\beta }}}}.

ความคลาดเคลื่อนของการแพร่กระจายของสไตน์

ความคลาดเคลื่อนของการแพร่กระจายของ Stein [ 9 ]ขยายตัวดำเนินการ Langevin Steinเอพีเอฟ=เอฟ+เอฟบันทึกพี=1พี(เอฟพี){\displaystyle {\mathcal {A}}_{P}f=\nabla \cdot f+f\cdot \nabla \log p=\textstyle {\frac {1}{p}}\nabla \cdot (fp)}ไปยังคลาสของตัวดำเนินการ Stein แบบแพร่กระจายเอพีเอฟ=1พี(เอฟพี){\displaystyle {\mathcal {A}}_{P}f=\textstyle {\frac {1}{p}}\nabla \cdot (mfp)}แต่ละอันแสดงถึงการแพร่กระจายของอิโตะที่มีพี{\displaystyle P}เนื่องจากเป็นการกระจายตัวแบบคงที่ ในที่นี้{\displaystyle m}เป็นฟังก์ชันค่าเมทริกซ์ที่กำหนดโดยตัวสร้างอนันต์ของการแพร่กระจาย

ความคลาดเคลื่อนอื่นๆ ของสไตน์

ความคลาดเคลื่อนของ Stein เพิ่มเติมได้รับการพัฒนาสำหรับโดเมนที่มีข้อจำกัด[ 10 ]โดเมนที่ไม่ใช่แบบยุคลิด[ 11 ] [ 12 ] [ 10 ]โดเมนแบบไม่ต่อเนื่อง[ 13 ] [ 14 ]ความสามารถในการปรับขนาดที่ดีขึ้น[ 15 ] [ 16 ]และความคลาดเคลื่อนของ Stein ที่ปราศจากเกรเดียนต์ซึ่งอนุพันธ์ของความหนาแน่นพี{\displaystyle p}ถูกหลีกเลี่ยง[ 17 ]ยิ่งไปกว่านั้น แนวทางนี้ยังขยายไปสู่ ​​Gradient-Free Kernel Conditional Stein Discrepancy ซึ่งมุ่งเป้าไปที่การแจกแจงแบบมีเงื่อนไข[ 18 ]

คุณสมบัติ

ความยืดหยุ่นในการเลือกตัวดำเนินการสไตน์และเซตสไตน์ในการสร้างความคลาดเคลื่อนของสไตน์ ทำให้ไม่สามารถสรุปเป็นข้อความทั่วไปในเชิงทฤษฎีได้ อย่างไรก็ตาม มีความรู้มากมายเกี่ยวกับความคลาดเคลื่อนของสไตน์แต่ละแบบ

สามารถคำนวณได้โดยไม่ต้องใช้ค่าคงที่การทำให้เป็นมาตรฐาน

ความคลาดเคลื่อนของสไตน์บางครั้งสามารถคำนวณได้ในสถานการณ์ที่ท้าทายซึ่งการกระจายความน่าจะเป็นพี{\displaystyle P}ยอมรับฟังก์ชันความหนาแน่นความน่าจะเป็นพี{\displaystyle p}(โดยคำนึงถึงมาตรวัดอ้างอิงที่เหมาะสม)X{\displaystyle {\mathcal {X}}}) ของรูปแบบพี(x)=1พี~(x){\displaystyle p(x)=\textstyle {\frac {1}{Z}}{\tilde {p}}(x)}, ที่ไหนพี~(x){\displaystyle {\tilde {p}}(x)}และอนุพันธ์ของมันสามารถประเมินได้ด้วยวิธีเชิงตัวเลข แต่ค่าคงที่การทำให้เป็นมาตรฐานของมันคืออะไร{\displaystyle Z}ไม่สามารถคำนวณหรือประมาณค่าได้ง่ายๆ เมื่อพิจารณา (2.1) เราสังเกตว่าการพึ่งพาของเอพีเอพีเค(x,x){\displaystyle {\mathcal {A}}_{P}{\mathcal {A}}_{P}K(x,x')}บนพี{\displaystyle P}เกิดขึ้นเฉพาะผ่านคำศัพท์เท่านั้น

คุณ(x)=บันทึกพี(x)=บันทึก(พี~(x))=บันทึกพี~(x)บันทึก=บันทึกพี~(x){\displaystyle u(x)=\nabla \log p(x)=\nabla \log \left({\frac {{\tilde {p}}(x)}{Z}}\right)=\nabla \log {\tilde {p}}(x)-\nabla \log Z=\nabla \log {\tilde {p}}(x)}

ซึ่งไม่ขึ้นอยู่กับค่าคงที่การทำให้เป็นมาตรฐาน{\displaystyle Z}.

ความคลาดเคลื่อนของสไตน์ในฐานะความแตกต่างทางสถิติ

ข้อกำหนดพื้นฐานของความคลาดเคลื่อนแบบสไตน์คือ ต้องเป็นความแตกต่างทางสถิติ ซึ่งหมายความว่าดีพี(คิว)0{\displaystyle D_{P}(Q)\geq 0}และดีพี(คิว)=0{\displaystyle D_{P}(Q)=0}ก็ต่อเมื่อคิว=พี{\displaystyle Q=P}คุณสมบัตินี้สามารถแสดงให้เห็นว่าใช้ได้กับความคลาดเคลื่อนของ Stein แบบคลาสสิก[ 1 ]และความคลาดเคลื่อนของ Stein แบบเคอร์เนล[ 6 ] [ 7 ] [ 8 ]โดยมีเงื่อนไขว่าเงื่อนไขความสม่ำเสมอที่เหมาะสมจะต้องเป็นจริง

การควบคุมการบรรจบกัน

คุณสมบัติที่แข็งแกร่งกว่า เมื่อเทียบกับการเบี่ยงเบนทางสถิติ คือการควบคุมการบรรจบกันซึ่งหมายความว่าดีพี(คิวn)0{\displaystyle D_{P}(Q_{n})\rightarrow 0}หมายความว่าคิวn{\displaystyle Q_{n}}ลู่เข้าสู่พี{\displaystyle P}ในความหมายที่ต้องระบุให้ชัดเจน ตัวอย่างเช่น ภายใต้เงื่อนไขความสม่ำเสมอที่เหมาะสม ทั้งความคลาดเคลื่อนของสไตน์แบบคลาสสิกและความคลาดเคลื่อนของสไตน์แบบกราฟต่างก็ได้รับการควบคุมการลู่เข้าแบบวาสเซอร์สไตน์ซึ่งหมายความว่าดีพี(คิวn)0{\displaystyle D_{P}(Q_{n})\rightarrow 0}หมายความว่าเมตริก Wassersteinระหว่างคิวn{\displaystyle Q_{n}}และพี{\displaystyle P}ลู่เข้าสู่ศูนย์[ 1 ] [ 19 ] [ 9 ] สำหรับความคลาดเคลื่อนของ Stein ของเคอร์เนลการควบคุมการลู่เข้าแบบอ่อนได้รับการสร้างขึ้น[ 8 ] [ 20 ]ภายใต้เงื่อนไขความสม่ำเสมอของการกระจายพี{\displaystyle P}และแกนกลางที่สืบพันธุ์เค{\displaystyle K}ซึ่งใช้ได้กับ (2.1) โดยเฉพาะ ตัวเลือกอื่นๆ ที่รู้จักกันดีของเค{\displaystyle K}เช่น ที่ใช้เคอร์เนลแบบเกาส์เซียน พิสูจน์ได้ว่าไม่มีการควบคุมการบรรจบกันที่อ่อนแอ[ 8 ]

การตรวจจับการบรรจบกัน

คุณสมบัติตรงข้ามกับการควบคุมการบรรจบกันคือการตรวจจับการบรรจบกันซึ่งหมายความว่าดีพี(คิวn)0{\displaystyle D_{P}(Q_{n})\rightarrow 0}เมื่อใดก็ตามคิวn{\displaystyle Q_{n}}ลู่เข้าสู่พี{\displaystyle P}ในแง่ที่ต้องระบุให้ชัดเจน ตัวอย่างเช่น ภายใต้เงื่อนไขความสม่ำเสมอที่เหมาะสม ความคลาดเคลื่อนของ Stein แบบคลาสสิกจะได้รับรูปแบบเฉพาะของการตรวจจับการบรรจบกันของค่าเฉลี่ยกำลังสอง[ 1 ] [ 9 ]ซึ่งหมายความว่าดีพี(คิวn)0{\displaystyle D_{P}(Q_{n})\rightarrow 0}เมื่อใดก็ตามXn~คิวn{\displaystyle X_{n}\sim Q_{n}}ลู่เข้าสู่ค่าเฉลี่ยกำลังสองX~พี{\displaystyle X\sim P}และบันทึกพี(X){\displaystyle \nabla \log p(X_{m})}ลู่เข้าสู่ค่าเฉลี่ยกำลังสองบันทึกพี(X){\displaystyle \nabla \log p(X)}สำหรับความคลาดเคลื่อนของเคอร์เนลสไตน์การตรวจจับการบรรจบกันของวาสเซอร์สไตน์ได้รับการสร้างขึ้น[ 8 ]ภายใต้เงื่อนไขความสม่ำเสมอที่เหมาะสมบนการกระจายพี{\displaystyle P}และแกนกลางที่สืบพันธุ์เค{\displaystyle K}.

การประยุกต์ใช้ความคลาดเคลื่อนของสไตน์

มีการเสนอการประยุกต์ใช้ความคลาดเคลื่อนของสไตน์หลายประการ ซึ่งบางส่วนจะกล่าวถึงต่อไปนี้

การหาปริมาณที่เหมาะสมที่สุด

การหาค่าควอนตัมที่เหมาะสมที่สุดโดยใช้ความคลาดเคลื่อนของสไตน์ เส้นโค้งในวิดีโอนี้แสดงถึงเซตระดับของการกระจายความน่าจะเป็นแบบต่อเนื่องพี{\displaystyle P}และเราพิจารณาถึงภารกิจในการสรุปการแจกแจงนี้ด้วยชุดสถานะแบบไม่ต่อเนื่องx1,,x{\displaystyle x_{1},\dots ,x_{m}}เลือกจากโดเมนของมันX{\displaystyle {\mathcal {X}}}โดยเฉพาะอย่างยิ่ง เราสมมติว่าฟังก์ชันความหนาแน่นพี(x){\displaystyle p(x)}เป็นที่ทราบกันดีว่ามีเพียงสัดส่วนเท่านั้น ซึ่งเป็นเงื่อนไขที่วิธีการ Markov chain Monte Carlo (MCMC) ถูกนำมาใช้กันอย่างแพร่หลาย ในครึ่งแรกของวิดีโอนี้ ห่วงโซ่ Markov จะสร้างตัวอย่างที่มีการกระจายตัวโดยประมาณจากพี{\displaystyle P}โดยเส้นทางตัวอย่างแสดงเป็นสีดำ ในครึ่งหลังของวิดีโอ อัลกอริทึมที่เรียกว่าStein thinning [ 21 ] ถูกนำมาใช้เพื่อเลือกชุดย่อยของสถานะจากเส้นทางตัวอย่าง โดยสถานะที่เลือกแสดงเป็นสีแดง สถานะเหล่านี้ถูกเลือกโดยอาศัยการลดค่าความคลาดเคลื่อนของ Stein ระหว่างการกระจายแบบไม่ต่อเนื่องและพี{\displaystyle P}โดยรวมแล้ว สถานะที่เลือกไว้จะให้ค่าประมาณของพี{\displaystyle P}ซึ่งในกรณีนี้มีความแม่นยำกว่าผลลัพธ์ที่ได้จากวิธีการ MCMC ดั้งเดิม

กำหนดให้เป็นการแจกแจงความน่าจะเป็นพี{\displaystyle P}กำหนดไว้บนพื้นที่ที่วัดได้X{\displaystyle {\mathcal {X}}}งานของ การควอนไทเซชันคือการเลือกสถานะจำนวนน้อยๆx1,,xnX{\displaystyle x_{1},\dots ,x_{n}\in {\mathcal {X}}}โดยที่การแจกแจงแบบไม่ต่อเนื่องที่เกี่ยวข้องคิวn=1nฉัน=1nδ(xฉัน){\textstyle Q^{n}={\frac {1}{n}}\sum _{i=1}^{n}\delta (x_{i})}เป็นการประมาณค่าที่แม่นยำของพี{\displaystyle P}ในความหมายที่ต้องระบุให้ชัดเจน

จุด Stein [ 20 ]เป็นผลมาจากการดำเนินการ หาปริมาณ ที่เหมาะสมที่สุดผ่านการลดความคลาดเคลื่อนของ Stein ให้เหลือน้อยที่สุด:

(3.1)เอจีฉันnx1,,xnXดีพี(1nฉัน=1nδ(xฉัน)){\displaystyle (3.1)\quad {\underset {x_{1},\dots ,x_{n}\in {\mathcal {X}}}{\operatorname {arg\,min} }}\;D_{P}\left({\frac {1}{n}}\sum _{i=1}^{n}\delta (x_{i})\right)}

ภายใต้เงื่อนไขความสม่ำเสมอที่เหมาะสม สามารถแสดงได้[ 20 ]ว่าดีพี(คิวn)0{\displaystyle D_{P}(Q^{n})\rightarrow 0}เช่นn{\displaystyle n\rightarrow \infty }ดังนั้น หากความคลาดเคลื่อนของสไตน์ได้รับการควบคุมการบรรจบกัน ก็จะตามมาว่าคิวn{\displaystyle Q^{n}}ลู่เข้าสู่พี{\displaystyle P}การขยายผลลัพธ์นี้เพื่อให้สามารถเพิ่มประสิทธิภาพเชิงตัวเลขที่ไม่สมบูรณ์ได้ก็ได้รับการพัฒนาขึ้นเช่นกัน[ 20 ] [ 22 ] [ 21 ]

อัลกอริทึมการเพิ่มประสิทธิภาพที่ซับซ้อนได้รับการออกแบบเพื่อดำเนินการควอนไทเซชันที่มีประสิทธิภาพโดยอิงจากความคลาดเคลื่อนของ Stein รวมถึงอัลกอริทึมการไหลของเกรเดียนต์ที่มุ่งเป้าไปที่การลดความคลาดเคลื่อนของ Stein ของเคอร์เนลให้เหลือน้อยที่สุดในพื้นที่ที่เหมาะสมของการวัดความน่าจะเป็น[ 23 ]

การประมาณค่าถ่วงน้ำหนักที่เหมาะสมที่สุด

หากอนุญาตให้พิจารณาการรวมกันแบบถ่วงน้ำหนักของมวลจุด จะสามารถประมาณค่าได้แม่นยำยิ่งขึ้นเมื่อเทียบกับ (3.1) เพื่อความง่ายในการอธิบาย สมมติว่าเราได้รับชุดสถานะ{xฉัน}ฉัน=1nX{\displaystyle \{x_{i}\}_{i=1}^{n}\subset {\mathcal {X}}}จากนั้นจึงหาการรวมกันแบบถ่วงน้ำหนักที่เหมาะสมที่สุดของจุดมวลδ(xฉัน){\displaystyle \delta (x_{i})}, เช่น

คิวn:=ฉัน=1nฉัน*δ(xฉัน),*เอจีฉันn1++n=1ดีพี(ฉัน=1nฉันδ(xฉัน)),{\displaystyle Q_{n}:=\sum _{i=1}^{n}w_{i}^{*}\delta (x_{i}),\qquad w^{*}\in {\underset {w_{1}+\cdots +w_{n}=1}{\operatorname {arg\,min} }}\;D_{P}\left(\sum _{i=1}^{n}w_{i}\delta (x_{i})\right),}

ซึ่งสามารถลดความคลาดเคลื่อนของ Stein ให้เหลือน้อยที่สุดสามารถหาได้ในรูปแบบปิดเมื่อใช้ความคลาดเคลื่อนของ Stein แบบเคอร์เนล[ 5 ]ผู้เขียนบางคน[ 24 ] [ 25 ]พิจารณาการกำหนดข้อจำกัดที่ไม่เป็นลบเพิ่มเติมให้กับน้ำหนัก เช่นฉัน0{\displaystyle w_{i}\geq 0}อย่างไรก็ตาม ในทั้งสองกรณี การคำนวณที่จำเป็นในการหาค่าน้ำหนักที่เหมาะสมที่สุดนั้น*{\displaystyle w^{*}}อาจเกี่ยวข้องกับการแก้ระบบสมการเชิงเส้นที่มีเงื่อนไขไม่ดีในเชิงตัวเลข ที่น่าสนใจคือ มีการแสดงให้เห็นแล้ว[ 21 ]ว่าการประมาณค่าแบบโลภของคิวn{\displaystyle Q_{n}}โดยใช้การรวมกันแบบไม่ถ่วงน้ำหนักของn{\displaystyle m\ll n}รัฐต่างๆ สามารถลดความต้องการในการคำนวณนี้ได้ โดยเฉพาะอย่างยิ่ง อัลกอริทึมการ ลดจำนวนแบบโลภของสไตน์ (Stein thinning algorithm)

คิวn,:=1ฉัน=1δ(xπ(ฉัน)),π()เอจีฉันnเจ=1,,nดีพี(1ฉัน=11δ(xπ(ฉัน))+1δ(xเจ)){\displaystyle Q_{n,m}:={\frac {1}{m}}\sum _{i=1}^{m}\delta (x_{\pi (i)}),\qquad \pi (m)\in {\underset {j=1,\dots ,n}{\operatorname {arg\,min} }}\;D_{P}\left({\frac {1}{m}}\sum _{i=1}^{m-1}\delta (x_{\pi (i)})+{\frac {1}{m}}\delta (x_{j})\right)}

ได้รับการพิสูจน์แล้วว่าตรงตามขอบเขตความคลาดเคลื่อน

ดีพี(คิวn,)=ดีพี(คิวn)+โอ(บันทึก).{\displaystyle D_{P}(Q_{n,m})=D_{P}(Q_{n})+O\left({\sqrt {\frac {\log m}{m}}}\right).}

การวางนัยทั่วไปของอัลกอริทึมโลภที่ไม่มองแคบและแบบมินิแบตช์ได้รับการพิสูจน์แล้ว[ 26 ]ว่าให้ผลลัพธ์ที่ดีขึ้นในด้านคุณภาพการประมาณเมื่อเทียบกับต้นทุนการคำนวณ

การอนุมานเชิงแปรผัน

ความคลาดเคลื่อนของ Stein ถูกนำมาใช้เป็นวัตถุประสงค์เชิงแปรผันในวิธีการ Bayesian เชิงแปรผัน [ 27 ] [ 28 ] เมื่อ กำหนดชุดข้อมูล{คิวθ}θΘ{\displaystyle \{Q_{\theta }\}_{\theta \in \Theta }}ของการกระจายความน่าจะเป็นบนX{\displaystyle {\mathcal {X}}}โดยมีพารามิเตอร์ดังนี้θΘ{\displaystyle \theta \in \Theta }เราสามารถค้นหาการกระจายในชุดข้อมูลนี้ที่ใกล้เคียงกับการกระจายที่ต้องการมากที่สุดพี{\displaystyle P}ที่น่าสนใจ:

เอจีฉันnθΘดีพี(คิวθ){\displaystyle {\underset {\theta \in \Theta }{\operatorname {arg\,min} }}\;D_{P}(Q_{\theta })}

ข้อได้เปรียบที่เป็นไปได้ของความคลาดเคลื่อนของ Stein ในบริบทนี้[ 28 ]เมื่อเปรียบเทียบกับ วัตถุประสงค์การแปรผัน Kullback–Leibler แบบดั้งเดิม คือคิวθ{\displaystyle Q_{\theta }}ไม่จำเป็นต้องต่อเนื่องอย่างสมบูรณ์เมื่อเทียบกับพี{\displaystyle P}เพื่อที่จะดีพี(คิวθ){\displaystyle D_{P}(Q_{\theta })}เพื่อให้มีความชัดเจน คุณสมบัตินี้สามารถใช้เพื่อหลีกเลี่ยงการใช้แบบจำลองการสร้างตามการไหลตัวอย่างเช่น ซึ่งกำหนดข้อจำกัดของการแปลงแบบดิฟเฟอเรนเชียลเพื่อบังคับใช้ความต่อเนื่องสัมบูรณ์ของคิวθ{\displaystyle Q_{\theta }}และพี{\displaystyle P}.

การประมาณค่าทางสถิติ

ความคลาดเคลื่อนของสไตน์ (Stein discrepancy) ได้รับการเสนอให้เป็นเครื่องมือในการปรับแบบจำลองทางสถิติเชิงพารามิเตอร์ให้เข้ากับข้อมูล โดยมีชุดข้อมูลกำหนดไว้{xฉัน}ฉัน=1nX{\displaystyle \{x_{i}\}_{i=1}^{n}\subset {\mathcal {X}}}พิจารณาการแจกแจงแบบไม่ต่อเนื่องที่เกี่ยวข้องคิวn=1nฉัน=1nδ(xฉัน){\displaystyle Q^{n}=\textstyle {\frac {1}{n}}\sum _{i=1}^{n}\delta (x_{i})}สำหรับชุดพารามิเตอร์ที่กำหนด{พีθ}θΘ{\displaystyle \{P_{\theta }\}_{\theta \in \Theta }}ของการกระจายความน่าจะเป็นบนX{\displaystyle {\mathcal {X}}}เราสามารถประมาณค่าของพารามิเตอร์ได้θ{\displaystyle \theta }ซึ่งเข้ากันได้กับชุดข้อมูลโดยใช้ตัวประมาณความคลาดเคลื่อนของ Stein ขั้นต่ำ[ 29 ]

เอจีฉันnθΘดีพีθ(คิวn).{\displaystyle {\underset {\theta \in \Theta }{\operatorname {arg\,min} }}\;D_{P_{\theta }}(Q^{n}).}

แนวทางนี้มีความเกี่ยวข้องอย่างใกล้ชิดกับกรอบการประมาณระยะทางขั้นต่ำโดยที่ "ระยะทาง" นั้นถูกแทนที่ด้วยความคลาดเคลื่อนของสไตน์ หรืออีกทางหนึ่งคือแนวทางแบบเบย์เซียนทั่วไปในการประมาณค่าพารามิเตอร์θ{\displaystyle \theta }สามารถพิจารณาได้[ 4 ]โดยที่กำหนดให้มี การแจกแจง ความน่าจะเป็นก่อนหน้าที่มีฟังก์ชันความหนาแน่นπ(θ){\displaystyle \pi (\theta )},θΘ{\displaystyle \theta \in \Theta }(โดยคำนึงถึงมาตรวัดอ้างอิงที่เหมาะสม)Θ{\displaystyle \Theta }) เราสร้างค่าความน่าจะเป็นภายหลังแบบทั่วไปโดยใช้ฟังก์ชันความหนาแน่นของความน่าจะเป็น

πn(θ)π(θ)เอ็กซ์(γดีพีθ(คิวn)2),{\displaystyle \pi ^{n}(\theta )\propto \pi (\theta )\exp \left(-\gamma D_{P_{\theta }}(Q^{n})^{2}\right),}

สำหรับบางคนγ>0{\displaystyle \gamma >0}ต้องระบุหรือกำหนดเพิ่มเติม

การทดสอบสมมติฐาน

ความคลาดเคลื่อนของสไตน์ยังถูกใช้เป็นสถิติการทดสอบสำหรับการทดสอบความเหมาะสม[ 6 ] [ 7 ]และการเปรียบเทียบโมเดลตัวแปรแฝง[ 30 ] เนื่องจากการทดสอบดังกล่าวมีค่าใช้จ่ายในการคำนวณเป็นกำลังสองของขนาดตัวอย่าง จึงได้มีการพัฒนาทางเลือกอื่นที่มีเวลาการทำงานเชิงเส้น (เกือบ) [ 31 ] [ 15 ]

ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Stein_discrepancy&oldid=1359031055 "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ ความคลาดเคลื่อนของสไตน์

ความคลาดเคลื่อนของสไตน์คือความแตกต่างทางสถิติระหว่างการวัดความน่าจะ เป็นสองแบบ ซึ่งมีรากฐานมาจากวิธีการของสไตน์โดยเริ่มแรกได้รับการกำหนดขึ้นเป็นเครื่องมือในการประเมินคุณภาพของตัวสุ...

คำนิยาม

อนุญาต X {\displaystyle {\mathcal {X}}} เป็น พื้นที่ที่วัดได้ และปล่อยให้ เอ็ม {\displaystyle {\mathcal {M}}} เป็นเซตของ ฟังก์ชันที่วัดได้ ในรูปแบบ ม : X → อาร์ {\displaystyle m:{\mathcal {X}}\rightarrow \mathbb {R} }...

ตัวอย่าง

มีการศึกษาความคลาดเคลื่อนของสไตน์หลายรูปแบบ โดยรูปแบบที่ใช้กันอย่างแพร่หลายที่สุดบางส่วนจะนำเสนอต่อไปนี้

ความคลาดเคลื่อนของสไตน์แบบคลาสสิก

สำหรับการกระจายความน่าจะเป็น พี {\displaystyle P} โดยมีฟังก์ชันความหนาแน่นที่เป็นบวกและสามารถหาอนุพันธ์ได้ พี {\displaystyle p} บน เซตแบบนูน X ⊆ อาร์ ง {\displaystyle {\mathcal {X}}\subseteq \mathbb {R} ^{d}} ซึ่งมีขอบเขตที่กำหนดไว้ ∂ X {\displaystyle...