ในทฤษฎีความน่าจะเป็น มีแนวคิดเกี่ยวกับการลู่เข้าของลำดับตัวแปรสุ่ม อยู่หลายแบบ รวมถึงการลู่เข้าในความน่าจะเป็นการลู่เข้าในการกระจายและการลู่เข้าเกือบแน่นอนแนวคิดการลู่เข้าแต่ละแบบแสดงถึงคุณสมบัติที่แตกต่างกันของลำดับ โดยบางแนวคิดมีความเข้มแข็งกว่าแนวคิดอื่น ตัวอย่างเช่น การลู่เข้าในการกระจายบอกเราเกี่ยวกับการกระจาย ลิมิต ของลำดับตัวแปรสุ่ม ซึ่งเป็นแนวคิดที่อ่อนกว่าการลู่เข้าในความน่าจะเป็น ซึ่งบอกเราเกี่ยวกับค่าที่ตัวแปรสุ่มจะรับ มากกว่าแค่การกระจาย

แนวคิดนี้มีความสำคัญในทฤษฎีความน่าจะเป็น และการประยุกต์ใช้ในสถิติและกระบวนการสุ่ม แนวคิดเดียวกันนี้เป็นที่รู้จักใน คณิตศาสตร์ทั่วไปในชื่อการลู่เข้าแบบสุ่ม (stochastic convergence)และเป็นการกำหนดรูปแบบความคิดที่ว่า คุณสมบัติบางอย่างของลำดับเหตุการณ์ที่สุ่มหรือคาดเดาไม่ได้โดยพื้นฐานนั้น บางครั้งอาจคาดว่าจะเข้าสู่พฤติกรรมที่ไม่เปลี่ยนแปลงโดยพื้นฐาน เมื่อศึกษาเหตุการณ์ที่อยู่ไกลออกไปในลำดับนั้น แนวคิดที่แตกต่างกันของการลู่เข้าเกี่ยวข้องกับวิธีการกำหนดลักษณะของพฤติกรรมดังกล่าว พฤติกรรมที่เข้าใจได้ง่ายสองอย่างคือ ลำดับนั้นจะเข้าสู่ค่าคงที่ในที่สุด และค่าในลำดับนั้นจะเปลี่ยนแปลงต่อไป แต่สามารถอธิบายได้ด้วยการกระจายความน่าจะเป็นที่ไม่เปลี่ยนแปลง

"การบรรจบกันแบบสุ่ม" (Stochastic convergence) เป็นการทำให้แนวคิดที่ว่าลำดับของเหตุการณ์แบบสุ่มหรือคาดเดาไม่ได้โดยพื้นฐานนั้น บางครั้งอาจค่อยๆ เข้าสู่รูปแบบที่แน่นอนได้นั้นเป็นรูปธรรม ตัวอย่างเช่น รูปแบบดังกล่าวอาจเป็นดังนี้

• การลู่เข้าในความหมายแบบดั้งเดิมไปสู่ค่าคงที่ค่าหนึ่ง ซึ่งอาจเกิดขึ้นจากเหตุการณ์สุ่ม
• ผลลัพธ์จะมีความคล้ายคลึงกับผลลัพธ์ที่เกิดจากฟังก์ชันเชิงกำหนดอย่างแท้จริงมากขึ้นเรื่อยๆ
• ความชอบที่เพิ่มมากขึ้นต่อผลลัพธ์บางอย่าง
• ความรู้สึก "ไม่ชอบ" ที่เพิ่มมากขึ้นต่อการเบี่ยงเบนไปจากผลลัพธ์ที่แน่นอน
• การแจกแจงความน่าจะเป็นที่อธิบายผลลัพธ์ถัดไปอาจมีความคล้ายคลึงกับการแจกแจงแบบใดแบบหนึ่งมากขึ้นเรื่อยๆ

บางรูปแบบที่ไม่ชัดเจนนักและเป็นเชิงทฤษฎีมากกว่า อาจเป็นดังนี้

• อนุกรมที่เกิดจากการคำนวณค่าคาดหวังของระยะห่างของผลลัพธ์จากค่าใดค่าหนึ่ง อาจลู่เข้าสู่ 0
• นั่นหมายความว่าค่าความแปรปรวนของตัวแปรสุ่มที่อธิบายเหตุการณ์ถัดไปจะลดลงเรื่อยๆ

รูปแบบอื่นๆ ที่อาจเกิดขึ้นเหล่านี้สะท้อนให้เห็นในรูปแบบต่างๆ ของการบรรจบกันแบบสุ่มที่ได้รับการศึกษามาแล้ว

แม้ว่าการอภิปรายข้างต้นจะเกี่ยวข้องกับการลู่เข้าของอนุกรมเดี่ยวไปยังค่าจำกัด แต่แนวคิดเรื่องการลู่เข้าของอนุกรมสองอนุกรมเข้าหากันก็มีความสำคัญเช่นกัน แต่สามารถจัดการได้ง่ายโดยการศึกษาลำดับที่กำหนดเป็นผลต่างหรืออัตราส่วนของอนุกรมทั้งสอง

ตัวอย่างเช่น ถ้าค่าเฉลี่ยของตัวแปรสุ่มอิสระn ตัว${\displaystyle Y_{i},\ i=1,\dots ,n}$โดยที่ค่าทั้งหมดมี ค่าเฉลี่ยและความแปรปรวนจำกัดเท่ากันจะได้จากสูตรต่อไปนี้

${\displaystyle X_{n}={\frac {1}{n}}\sum _{i=1}^{n}Y_{i}\,,}$

จากนั้นเมื่อ${\displaystyle n}$มีแนวโน้มเข้าสู่ค่าอนันต์${\displaystyle X_{n}}$ลู่เข้าสู่ค่าเฉลี่ย ร่วม ในเชิงความน่าจะเป็น ( ดูด้านล่าง)${\displaystyle \mu }$ของตัวแปรสุ่ม${\displaystyle Y_{i}}$ผลลัพธ์นี้เรียกว่ากฎอ่อนของจำนวนมาก (weak law of large numbers ) รูปแบบการลู่เข้าอื่นๆ ก็มีความสำคัญในทฤษฎีบทที่มีประโยชน์อื่นๆ ด้วย เช่นทฤษฎีบทลิมิตกลาง (central limit theorem )

ต่อไปนี้ เราจะถือว่า${\displaystyle (X_{n})}$เป็นลำดับของตัวแปรสุ่ม และ${\displaystyle X}$เป็นตัวแปรสุ่ม และตัวแปรสุ่มทั้งหมดถูกกำหนดไว้ในปริภูมิความน่าจะเป็น เดียวกัน${\displaystyle (\Omega ,{\mathcal {F}},\mathbb {P} )}$.

ตัวอย่างของการบรรจบกันในการกระจายตัว

โรงงานผลิตลูกเต๋า
สมมติว่าโรงงานผลิตลูกเต๋าแห่งใหม่เพิ่งสร้างเสร็จ ลูกเต๋าชุดแรกๆ จะมีความเอนเอียงค่อนข้างมาก เนื่องจากความไม่สมบูรณ์ในกระบวนการผลิต ผลลัพธ์จากการโยนลูกเต๋าแต่ละลูกจะมีการกระจายตัวที่แตกต่างอย่างเห็นได้ชัดจากการกระจายตัวแบบสม่ำเสมอที่ ต้องการ เมื่อโรงงานได้รับการปรับปรุง ลูกเต๋าจะมีความเอนเอียงน้อยลงเรื่อยๆ และผลลัพธ์จากการโยนลูกเต๋าที่ผลิตใหม่จะใกล้เคียงกับการกระจายตัวแบบสม่ำเสมอมากขึ้นเรื่อยๆ
การโยนเหรียญ
ให้X เป็นเศษส่วนของหัวหลังจากโยนเหรียญที่ไม่เอนเอียงnครั้ง แล้วX จะ มีการแจกแจงแบบเบอร์นูลลีโดยมีค่าเฉลี่ยμ = 0.5และความแปรปรวนσ 2 = 0.25ตัวแปรสุ่มถัดไปX , X , ...จะมีการแจกแจงแบบทวินามทั้งหมดเมื่อn มีค่ามากขึ้น การแจกแจงนี้จะค่อยๆ มีรูปร่างคล้ายกับ เส้นโค้งระฆังของการแจกแจงปกติมากขึ้นเรื่อยๆ ถ้าเราเลื่อนและปรับขนาด X อย่างเหมาะสมแล้ว${\displaystyle \scriptstyle Z_{n}={\frac {\sqrt {n}}{\sigma }}(X_{n}-\mu )}$จะลู่เข้าสู่การกระจายแบบปกติมาตรฐาน ซึ่งเป็นผลลัพธ์ที่ได้มาจากทฤษฎีบทขีดจำกัดกลางอันโด่งดัง
ตัวอย่างภาพประกอบ
สมมติว่า{ X }เป็นลำดับของ ตัวแปรสุ่มแบบ เอกรูปU (−1, 1)ที่เป็นอิสระและมีการกระจายเหมือนกัน ให้${\displaystyle \scriptstyle Z_{n}={\scriptscriptstyle {\frac {1}{\sqrt {n}}}}\sum _{i=1}^{n}X_{i}}$ให้เป็นผลรวม (ที่ทำให้เป็นมาตรฐาน) ของพวกมัน จากนั้นตามทฤษฎีบทลิมิตกลางการกระจายของZ จะเข้าใกล้การกระจายแบบปกติN (0, ⁠ 1 / 3 ⁠ )การลู่เข้านี้แสดงไว้ในภาพ: เมื่อnมีค่ามากขึ้น รูปทรงของฟังก์ชันความหนาแน่นความน่าจะเป็นจะเข้าใกล้เส้นโค้งเกาส์เซียนมากขึ้นเรื่อยๆ

โดยคร่าวๆ แล้ว ด้วยรูปแบบการบรรจบกันนี้ เราคาดหวังมากขึ้นเรื่อยๆ ว่าผลลัพธ์ถัดไปในลำดับของการทดลองแบบสุ่มจะสามารถจำลองได้ดีขึ้นเรื่อยๆ ด้วยการแจกแจงความน่าจะเป็น ที่กำหนดไว้ กล่าวให้แม่นยำยิ่งขึ้น การแจกแจงของตัวแปรสุ่มที่เกี่ยวข้องในลำดับนั้นจะเข้าใกล้การแจกแจงคงที่ที่กำหนดไว้มากขึ้นเรื่อยๆ

การลู่เข้าในเชิงการกระจายตัวเป็นรูปแบบการลู่เข้าที่อ่อนที่สุดที่มักกล่าวถึง เนื่องจากเป็นสิ่งที่แฝงอยู่ในการลู่เข้าประเภทอื่นๆ ทั้งหมดที่กล่าวถึงในบทความนี้ อย่างไรก็ตาม การลู่เข้าในเชิงการกระจายตัวถูกนำมาใช้บ่อยมากในทางปฏิบัติ โดยส่วนใหญ่มักเกิดจากการประยุกต์ใช้ทฤษฎีบทลิมิตกลาง

คำนิยาม

ลำดับ${\displaystyle X_{1},X_{2},\ldots }$ของ ตัวแปรสุ่มค่าจริงที่มีฟังก์ชันการกระจายสะสม${\displaystyle F_{1},F_{2},\ldots }$กล่าวกันว่าลู่เข้าในเชิงการกระจายหรือลู่เข้าอย่างอ่อนหรือลู่เข้าในเชิงกฎเกณฑ์ไปยังตัวแปรสุ่ม${\displaystyle X}$ด้วยฟังก์ชันการกระจายสะสม${\displaystyle F}$ถ้า

${\displaystyle \lim _{n\to \infty }F_{n}(x)=F(x),}$

สำหรับทุกจำนวน${\displaystyle x\in \mathbb {R} }$ซึ่ง${\displaystyle F}$เป็น ค่า ต่อเนื่อง

ข้อกำหนดที่ว่าเฉพาะจุดต่อเนื่องของ${\displaystyle F}$สิ่งที่ควรพิจารณาคือสิ่งสำคัญ ตัวอย่างเช่น ถ้า${\displaystyle X_{n}}$มีการกระจายอย่างสม่ำเสมอตามช่วง${\displaystyle \left(0,{\frac {1}{n}}\right)}$จากนั้นลำดับนี้จะลู่เข้าสู่ตัวแปรสุ่มเสื่อม สภาพในเชิงการ กระจาย${\displaystyle X=0}$. อย่างแท้จริง,${\displaystyle F_{n}(x)=0}$สำหรับทุกคน${\displaystyle n}$เมื่อไร${\displaystyle x\leq 0}$, และ${\displaystyle F_{n}(x)=1}$สำหรับทุกคน${\displaystyle x\geq {\frac {1}{n}}}$เมื่อไร${\displaystyle n>0}$อย่างไรก็ตาม สำหรับตัวแปรสุ่มที่จำกัดนี้${\displaystyle F(0)=1}$, ถึงแม้ว่า${\displaystyle F_{n}(0)=0}$สำหรับทุกคน${\displaystyle n}$ดังนั้น การลู่เข้าของฟังก์ชันการกระจายสะสมจึงล้มเหลว ณ จุดนั้น${\displaystyle x=0}$ที่ไหน${\displaystyle F}$ไม่ต่อเนื่อง

การบรรจบกันของการกระจายอาจแสดงได้ดังนี้

${\displaystyle {\begin{aligned}{}&X_{n}\ \xrightarrow {d} \ X,\ \ X_{n}\ \xrightarrow {\mathcal {D}} \ X,\ \ X_{n}\ \xrightarrow {\mathcal {L}} \ X,\ \ X_{n}\ \xrightarrow {d} \ {\mathcal {L}}_{X},\\&X_{n}\rightsquigarrow X,\ \ X_{n}\Rightarrow X,\ \ {\mathcal {L}}(X_{n})\to {\mathcal {L}}(X),\\\end{aligned}}}$

1

ที่ไหน${\displaystyle \scriptstyle {\mathcal {L}}_{X}}$คือกฎ (การแจกแจงความน่าจะเป็น) ของ${\displaystyle X}$ตัวอย่างเช่น ถ้า${\displaystyle X}$เป็นมาตรฐานปกติที่เราสามารถเขียนได้${\displaystyle X_{n}\,{\xrightarrow {d}}\,{\mathcal {N}}(0,\,1)}$.

สำหรับเวกเตอร์สุ่ม${\displaystyle \left\{X_{1},X_{2},\dots \right\}\subset \mathbb {R} ^{k}}$การลู่เข้าในการกระจายตัวนั้นกำหนดไว้ในทำนองเดียวกัน เรากล่าวว่าลำดับนี้ลู่เข้าในการกระจายตัวไปยังค่าสุ่ม${\displaystyle k}$-เวกเตอร์${\displaystyle X}$ถ้า

${\displaystyle \lim _{n\to \infty }\mathbb {P} (X_{n}\in A)=\mathbb {P} (X\in A)}$

สำหรับทุกๆ${\displaystyle A\subset \mathbb {R} ^{k}}$ซึ่งเป็นเซตความต่อเนื่องของ${\displaystyle X}$.

นิยามของการบรรจบกันในการกระจายอาจขยายจากเวกเตอร์สุ่มไปสู่องค์ประกอบสุ่ม ทั่วไป ในปริภูมิเมตริก ใดๆ และแม้กระทั่งไปสู่ ​​“ตัวแปรสุ่ม” ซึ่งไม่สามารถวัดได้ — สถานการณ์ที่เกิดขึ้นตัวอย่างเช่นในการศึกษากระบวนการเชิงประจักษ์นี่คือ “การบรรจบกันแบบอ่อนของกฎโดยที่กฎไม่ได้ถูกกำหนด” — ยกเว้นในเชิงอสมมาตร^{[ 1 ]}

ในกรณีนี้ คำว่าการลู่เข้าแบบอ่อน (weak convergence ) เหมาะสมกว่า (ดูการลู่เข้าแบบอ่อนของการวัด ) และเรากล่าวว่าลำดับขององค์ประกอบสุ่ม${\displaystyle (X_{n})_{n}}$ลู่เข้าอย่างอ่อนไปยัง${\displaystyle X}$(แสดงเป็น${\displaystyle X_{n}\Rightarrow X}$) ถ้า

${\displaystyle \mathbb {E} ^{*}h(X_{n})\to \mathbb {E} \,h(X)}$

สำหรับฟังก์ชันต่อเนื่องที่มีขอบเขตทั้งหมด${\displaystyle h}$[ ^{2 ] ที่}นี่${\displaystyle E^{*}}$หมายถึงค่าคาดหวังภายนอกซึ่งก็คือค่าคาดหวังของ “ฟังก์ชันที่วัดได้เล็กที่สุด”${\displaystyle g}$ที่ครอบงำ${\displaystyle h(X_{n})}$”.

แนวคิดพื้นฐานเบื้องหลังการบรรจบกันประเภทนี้คือ ความน่าจะเป็นของผลลัพธ์ที่ "ผิดปกติ" จะลดลงเรื่อยๆ เมื่อลำดับดำเนินไป

แนวคิดเรื่องการลู่เข้าในความน่าจะเป็นถูกนำมาใช้บ่อยมากในทางสถิติ ตัวอย่างเช่น ตัวประมาณค่าจะเรียกว่าสอดคล้องกันหากมันลู่เข้าในความน่าจะเป็นไปยังปริมาณที่กำลังประมาณค่า การลู่เข้าในความน่าจะเป็นยังเป็นประเภทของการลู่เข้าที่กำหนดโดยกฎอ่อนของจำนวนมากอีกด้วย

คำนิยาม

ลำดับ${\displaystyle (X_{n})_{n}}$ของตัวแปรสุ่มลู่เข้าสู่ตัวแปรสุ่ม ในเชิงความน่าจะเป็น${\displaystyle X}$ถ้าสำหรับทั้งหมด${\displaystyle \varepsilon >0}$

${\displaystyle \lim _{n\to \infty }\mathbb {P} {\big (}|X_{n}-X|>\varepsilon {\big )}=0.}$

กล่าวให้ชัดเจนยิ่งขึ้นคือ ให้${\displaystyle P_{n}(\varepsilon )}$เป็นความน่าจะเป็นที่${\displaystyle X_{n}}$อยู่นอกทรงกลมรัศมี${\displaystyle \varepsilon }$อยู่ตรงกลางที่${\displaystyle X}$. แล้ว${\displaystyle (X_{n})_{n}}$กล่าวกันว่าลู่เข้าสู่ความน่าจะเป็น${\displaystyle X}$หากสำหรับกรณีใดๆ${\displaystyle \varepsilon >0}$และใดๆ${\displaystyle \delta >0}$มีอยู่จำนวนหนึ่ง${\displaystyle N}$(ซึ่งอาจขึ้นอยู่กับ)${\displaystyle \varepsilon }$และ${\displaystyle \delta }$) โดยที่สำหรับทุก ๆ${\displaystyle n\geq N}$,${\displaystyle P_{n}(\varepsilon )\leq \delta }$(นิยามของขีดจำกัด)

โปรดสังเกตว่าเพื่อให้เงื่อนไขเป็นไปตามที่กำหนด เป็นไปไม่ได้ที่สำหรับแต่ละเงื่อนไข${\displaystyle n}$ตัวแปรสุ่ม${\displaystyle X}$และ${\displaystyle (X_{n})_{n}}$เป็นอิสระต่อกัน (ดังนั้น การลู่เข้าในความน่าจะเป็นจึงเป็นเงื่อนไขของฟังก์ชันการกระจายสะสมร่วม ตรงข้ามกับการลู่เข้าในการกระจาย ซึ่งเป็นเงื่อนไขของฟังก์ชันการกระจายสะสมรายบุคคล) เว้นแต่${\displaystyle X}$เป็นแบบกำหนดได้เช่นเดียวกับกฎจำนวนมากแบบอ่อน ในขณะเดียวกัน กรณีของแบบกำหนดได้${\displaystyle X}$ไม่สามารถจัดการได้ด้วยการลู่เข้าในการกระจายตัว เมื่อใดก็ตามที่ค่าเชิงกำหนดเป็นจุดไม่ต่อเนื่อง (ไม่ใช่จุดโดดเดี่ยว) ซึ่งจะต้องยกเว้นจุดไม่ต่อเนื่องเหล่านั้นอย่างชัดเจน

การลู่เข้าในความน่าจะเป็นจะแสดงโดยการเพิ่มตัวอักษร${\displaystyle p}$โดยใช้ลูกศรชี้ทิศทางการบรรจบกัน หรือใช้ตัวดำเนินการจำกัดความน่าจะเป็น "plim":

${\displaystyle X_{n}\ \xrightarrow {p} \ X,\ \ X_{n}\ \xrightarrow {P} \ X,\ \ {\underset {n\to \infty }{\operatorname {plim} }}\,X_{n}=X.}$

2

สำหรับองค์ประกอบแบบสุ่ม${\displaystyle (X_{n})_{n}}$บนปริภูมิเมตริกที่แยกได้${\displaystyle (S,d)}$การบรรจบกันในความน่าจะเป็นถูกกำหนดในทำนองเดียวกันโดย^{[ 6 ]}

${\displaystyle \forall \varepsilon >0,\mathbb {P} {\big (}d(X_{n},X)\geq \varepsilon {\big )}\to 0.}$

นี่คือรูปแบบของการลู่เข้าแบบสุ่มที่คล้ายคลึงกับการลู่เข้าแบบจุดต่อจุดซึ่งเป็นที่รู้จักกันในวิชาการวิเคราะห์เชิงจริง เบื้องต้นมากที่สุด

คำนิยาม

กล่าวคือ ลำดับX ลู่เข้าเกือบแน่นอนหรือเกือบทุกที่หรือด้วยความน่าจะเป็น 1หรือลู่เข้าอย่างแรงไปทาง${\displaystyle X}$หมายความว่า $${\displaystyle \mathbb {P} \!\left(\lim _{n\to \infty }\!X_{n}=X\right)=1.}$$

นี่หมายความว่าค่าของ${\displaystyle X_{n}}$เข้าใกล้ค่าของ${\displaystyle X}$ในแง่ที่ว่าเหตุการณ์ต่างๆ ซึ่ง${\displaystyle X_{n}}$ไม่ลู่เข้าสู่${\displaystyle X}$มีความน่าจะเป็น${\displaystyle 0}$(ดูเกือบแน่นอน ) โดยใช้ปริภูมิความน่าจะเป็น${\displaystyle (\Omega ,{\mathcal {F}},\mathbb {P} )}$และแนวคิดของตัวแปรสุ่มในฐานะฟังก์ชันจาก${\displaystyle \Omega }$ถึง${\displaystyle \mathbb {R} }$นี่เทียบเท่ากับข้อความดังกล่าว $${\displaystyle \mathbb {P} {\Bigl (}\omega \in \Omega$$ :\lim _{n\to \infty }X_{n}(\omega )=X(\omega ){\Bigr )}=1.}

โดยใช้แนวคิดของลิมิตสูงสุดของลำดับของเซตการลู่เข้าเกือบแน่นอนสามารถนิยามได้ดังนี้: $${\displaystyle \mathbb {P} {\Bigl (}\limsup _{n\to \infty }{\bigl \{}\omega \in \Omega$$ :|X_{n}(\omega )-X(\omega )|>\varepsilon {\bigr \}}{\Bigr )}=0\quad {\text{สำหรับทุก}}\quad \varepsilon >0.}

โดยทั่วไปแล้ว การลู่เข้าเกือบแน่นอนมักจะแสดงด้วยการเพิ่มตัวอักษร " as"เหนือลูกศรที่บ่งบอกถึงการลู่เข้า:

${\displaystyle {\overset {}{X_{n}\,{\xrightarrow {\mathrm {a.s.} }}\,X.}}}$

3

สำหรับองค์ประกอบสุ่ม ทั่วไป${\displaystyle (X_{n})_{n}}$บนปริภูมิเมตริก${\displaystyle (S,d)}$โดยทั่วไปแล้ว การบรรจบกันมักถูกนิยามในลักษณะเดียวกัน: $${\displaystyle \mathbb {P} {\Bigl (}\omega \in \Omega \colon \,d{\big (}X_{n}(\omega ),X(\omega ){\big )}\,{\underset {n\to \infty }{\longrightarrow }}\,0{\Bigr )}=1}$$

กล่าวคือ ลำดับของตัวแปรสุ่ม${\displaystyle (X_{n})_{n}}$กำหนดไว้ใน ปริภูมิความน่าจะเป็นเดียวกัน(เช่นกระบวนการสุ่ม ) ลู่เข้าอย่างแน่นอนหรือทุกที่หรือเฉพาะจุดไปยังXหมายความว่า

$${\displaystyle \forall \omega \in \Omega \colon \ \lim _{n\to \infty }X_{n}(\omega )=X(\omega ),}$$

ที่ไหน${\displaystyle \Omega }$คือปริภูมิของตัวอย่าง ใน ปริภูมิความน่าจะเป็นพื้นฐานซึ่งตัวแปรสุ่มถูกกำหนดไว้

นี่คือแนวคิดของการลู่เข้าแบบจุดต่อจุดของลำดับฟังก์ชันที่ขยายไปสู่ลำดับของตัวแปรสุ่ม (โปรดทราบว่าตัวแปรสุ่มเองก็เป็นฟังก์ชัน)

$${\displaystyle \left\{\omega \in \Omega$$ :\lim _{n\to \infty }X_{n}(\omega )=X(\omega )\right\}=\Omega .}

การลู่เข้าอย่างแน่นอนของตัวแปรสุ่มนั้นหมายถึงการลู่เข้าแบบอื่นๆ ที่กล่าวมาข้างต้นทั้งหมด แต่ในทฤษฎีความน่าจะเป็นนั้น การใช้การลู่เข้าอย่างแน่นอนไม่ได้ให้ประโยชน์อะไรมากไปกว่าการใช้การลู่เข้าเกือบแน่นอน ความแตกต่างระหว่างทั้งสองแบบนั้นมีอยู่เฉพาะในเซตที่มีความน่าจะเป็นเป็นศูนย์เท่านั้น นี่คือเหตุผลที่แนวคิดเรื่องการลู่เข้าอย่างแน่นอนของตัวแปรสุ่มนั้นแทบจะไม่ถูกนำมาใช้เลย

กำหนดให้เป็นจำนวนจริง${\displaystyle r\geq 1}$เรากล่าวว่าลำดับ${\displaystyle (X_{n})_{n}}$บรรจบกันใน${\displaystyle r}$ค่าเฉลี่ยลำดับที่ -th (หรือใน^{นอร์ม} Lr ) ไปทาง ตัวแปรสุ่ม${\displaystyle X}$ถ้าหาก${\displaystyle r}$- ช่วงเวลาสัมบูรณ์${\displaystyle \mathbb {E} (|X_{n}|^{r})}$และ${\displaystyle \mathbb {E} (|X|^{r})}$ของX และ${\displaystyle X}$มีอยู่ และ

${\displaystyle \lim _{n\to \infty }\mathbb {E} \left(|X_{n}-X|^{r}\right)=0,}$

โดยที่ผู้ดำเนินการ${\displaystyle \mathbb {E} }$แสดงถึงค่าที่คาดหวังการลู่เข้าใน${\displaystyle r}$ค่าเฉลี่ย -th บอกเราว่าความคาดหวังของ${\displaystyle r}$กำลังที่ - ของผลต่างระหว่าง${\displaystyle X_{n}}$และ${\displaystyle X}$ลู่เข้าสู่ศูนย์

การบรรจบกันประเภทนี้มักจะแสดงโดยการเพิ่มตัวอักษร${\displaystyle L^{r}}$เหนือลูกศรที่แสดงถึงการบรรจบกัน:

${\displaystyle {\overset {}{X_{n}\,{\xrightarrow {L^{r}}}\,X.}}}$

4

กรณีการบรรจบกันที่สำคัญที่สุดใน${\displaystyle r}$-th หมายถึง:

• เมื่อไร${\displaystyle X_{n}}$บรรจบกันใน${\displaystyle r}$-th หมายถึง${\displaystyle X}$สำหรับ${\displaystyle r=1}$เรากล่าวว่า${\displaystyle X_{n}}$ลู่เข้าสู่ค่าเฉลี่ย${\displaystyle X}$.
• เมื่อไร${\displaystyle X_{n}}$บรรจบกันใน${\displaystyle r}$-th หมายถึง${\displaystyle X}$สำหรับ${\displaystyle r=2}$เรากล่าวว่า${\displaystyle X_{n}}$ลู่เข้าสู่ค่าเฉลี่ยกำลังสอง (หรือค่าเฉลี่ยกำลังสอง )${\displaystyle X}$.

การบรรจบกันใน${\displaystyle r}$-th หมายถึง สำหรับ${\displaystyle r\geq 1}$ซึ่งหมายถึงการลู่เข้าในความน่าจะเป็น (โดยอสมการของมาร์คอฟ ) ยิ่งไปกว่านั้น ถ้า${\displaystyle r>s\geq 1}$การบรรจบกันใน${\displaystyle r}$ค่าเฉลี่ยลำดับที่ -th บ่งบอกถึงการบรรจบกันใน${\displaystyle s}$ค่าเฉลี่ยลำดับที่ -th ดังนั้น การลู่เข้าของค่าเฉลี่ยกำลังสองจึงหมายถึงการลู่เข้าของค่าเฉลี่ยด้วย

นอกจากนี้

${\displaystyle {\overset {}{X_{n}\xrightarrow {L^{r}} X}}\quad \Rightarrow \quad \lim _{n\to \infty }\mathbb {E} [|X_{n}|^{r}]=\mathbb {E} [|X|^{r}].}$

ในทางกลับกันนั้นไม่จำเป็นต้องเป็นจริงเสมอไป แต่จะเป็นจริงก็ต่อเมื่อ${\displaystyle {\overset {}{X_{n}\,\xrightarrow {p} \,X}}}$(โดยใช้ทฤษฎีบท เสริมของ Schefféในรูปแบบทั่วไป)

โดยมีเงื่อนไขว่าปริภูมิความน่าจะเป็นนั้นสมบูรณ์ :

• ถ้า${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$และ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ Y}$, แล้ว${\displaystyle X=Y}$แทบจะแน่นอน
• ถ้า${\displaystyle X_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ X}$และ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ Y}$, แล้ว${\displaystyle X=Y}$แทบจะแน่นอน
• ถ้า${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X}$และ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ Y}$, แล้ว${\displaystyle X=Y}$แทบจะแน่นอน
• ถ้า${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$และ${\displaystyle Y_{n}\ {\xrightarrow {\overset {}{p}}}\ Y}$, แล้ว${\displaystyle aX_{n}+bY_{n}\ {\xrightarrow {\overset {}{p}}}\ aX+bY}$(สำหรับจำนวนจริงใดๆ)${\displaystyle a}$และ${\displaystyle b}$) และ${\displaystyle X_{n}Y_{n}{\xrightarrow {\overset {}{p}}}\ XY}$.
• ถ้า${\displaystyle X_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ X}$และ${\displaystyle Y_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ Y}$, แล้ว${\displaystyle aX_{n}+bY_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ aX+bY}$(สำหรับจำนวนจริงใดๆ)${\displaystyle a}$และ${\displaystyle b}$และ${\displaystyle X_{n}Y_{n}{\xrightarrow {\overset {}{\text{a.s.}}}}\ XY}$.
• ถ้า${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X}$และ${\displaystyle Y_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ Y}$, แล้ว${\displaystyle aX_{n}+bY_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ aX+bY}$(สำหรับจำนวนจริงใดๆ)${\displaystyle a}$และ${\displaystyle b}$)
• ข้อความข้างต้นทั้งหมดไม่เป็นจริงสำหรับการลู่เข้าในการกระจายตัว

ความสัมพันธ์เชิงผลลัพธ์ระหว่างแนวคิดต่างๆ เกี่ยวกับการบรรจบกันนั้น ได้ถูกกล่าวถึงไว้ในแต่ละหัวข้อ โดยใช้สัญลักษณ์ลูกศร ดังนี้:

${\displaystyle {\begin{matrix}{\xrightarrow {\overset {}{L^{s}}}}&{\underset {s>r\geq 1}{\Rightarrow }}&{\xrightarrow {\overset {}{L^{r}}}}&&\\&&\Downarrow &&\\{\xrightarrow {\text{a.s.}}}&\Rightarrow &{\xrightarrow {p}}&\Rightarrow &{\xrightarrow {d}}\end{matrix}}}$

คุณสมบัติเหล่านี้ พร้อมด้วยกรณีพิเศษอื่นๆ อีกจำนวนหนึ่ง สรุปได้ในรายการต่อไปนี้:

• การบรรจบกันเกือบแน่นอนหมายถึงการบรรจบกันในความน่าจะเป็น: ^{[ 8 ] [พิสูจน์]}

  ${\displaystyle X_{n}\ {\xrightarrow {\text{a.s.}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$

• การลู่เข้าในความน่าจะเป็นหมายความว่ามีลำดับย่อยอยู่${\displaystyle (n_{k})}$ซึ่งเกือบจะบรรจบกันอย่างแน่นอน: ^{[ 9 ]}

  ${\displaystyle X_{n}\ \xrightarrow {\overset {}{p}} \ X\quad \Rightarrow \quad X_{n_{k}}\ \xrightarrow {\text{a.s.}} \ X}$

• การบรรจบกันในความน่าจะเป็นหมายถึงการบรรจบกันในการกระจาย: ^{[ 8 ] [พิสูจน์]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{d}}}\ X}$

• การบรรจบกันใน${\displaystyle r}$ค่าเฉลี่ยลำดับที่ n บ่งบอกถึงการลู่เข้าในความน่าจะเป็น:

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$

• การบรรจบกันใน${\displaystyle r}$ค่าเฉลี่ยลำดับที่ n บ่งชี้ถึงการลู่เข้าสู่ค่าเฉลี่ยลำดับที่ต่ำกว่า โดยสมมติว่าทั้งสองลำดับนั้นมากกว่าหรือเท่ากับหนึ่ง:

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{L^{s}}}}\ X,}$ที่ให้ไว้${\displaystyle r\geq s\geq 1}$.

• ถ้า${\displaystyle X_{n}}$ลู่เข้าสู่ค่าคงที่ในการกระจายตัว${\displaystyle c}$, แล้ว${\displaystyle X_{n}}$ลู่เข้าในความน่าจะเป็นไปยัง${\displaystyle c}$: ^{[ 8 ] [พิสูจน์]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{d}}}\ c\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{p}}}\ c,}$ที่ให้ไว้${\displaystyle c}$เป็นค่าคงที่

• ถ้า${\displaystyle X_{n}}$ลู่เข้าสู่การกระจายตัว${\displaystyle X}$และความแตกต่างระหว่าง${\displaystyle X_{n}}$และ${\displaystyle Y_{n}}$เมื่อความน่าจะเป็นเข้าใกล้ศูนย์แล้ว${\displaystyle Y_{n}}$นอกจากนี้ยังมีการบรรจบกันในการกระจายไปยัง${\displaystyle X}$: ^{[ 8 ] [พิสูจน์]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{d}}}\ X,\ \ |X_{n}-Y_{n}|\ {\xrightarrow {\overset {}{p}}}\ 0\ \quad \Rightarrow \quad Y_{n}\ {\xrightarrow {\overset {}{d}}}\ X}$

• ถ้า${\displaystyle X_{n}}$ลู่เข้าสู่การกระจายตัว${\displaystyle X}$และ '${\displaystyle Y_{n}}$ลู่เข้าสู่ค่าคงที่ในการกระจายตัว${\displaystyle c}$จากนั้นเวกเตอร์ร่วม${\displaystyle (X_{n},Y_{n})}$ลู่เข้าสู่การกระจายตัว${\displaystyle (X,c)}$: ^{[ 8 ] [พิสูจน์]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{d}}}\ X,\ \ Y_{n}\ {\xrightarrow {\overset {}{d}}}\ c\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {\overset {}{d}}}\ (X,c)}$โดยที่cเป็นค่าคงที่

  โปรดทราบว่าเงื่อนไขที่ว่า${\displaystyle Y_{n}}$การลู่เข้าสู่ค่าคงที่นั้นสำคัญมาก หากมันจะลู่เข้าสู่ตัวแปรสุ่ม${\displaystyle Y}$ถ้าเช่นนั้น เราก็จะไม่สามารถสรุปได้ว่า${\displaystyle (X_{n},Y_{n})}$ลู่เข้าสู่⁠${\displaystyle (X,Y)}$⁠ .

• ถ้า${\displaystyle X_{n}}$ลู่เข้าในความน่าจะเป็นไปยัง${\displaystyle X}$และ${\displaystyle Y_{n}}$ลู่เข้าในความน่าจะเป็นไปยัง${\displaystyle Y}$จากนั้นเวกเตอร์ร่วม${\displaystyle (X_{n},Y_{n})}$ลู่เข้าในความน่าจะเป็นไปยัง${\displaystyle (X,Y)}$: ^{[ 8 ] [พิสูจน์]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X,\ \ Y_{n}\ {\xrightarrow {\overset {}{p}}}\ Y\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {\overset {}{p}}}\ (X,Y)}$

• ถ้า${\displaystyle X_{n}}$ลู่เข้าในความน่าจะเป็นไปยัง${\displaystyle X}$และถ้า${\displaystyle \mathbb {P} (|X_{n}|\leq b)=1}$สำหรับทุกคน${\displaystyle n}$และบางส่วน${\displaystyle b}$, แล้ว${\displaystyle X_{n}}$บรรจบกันใน${\displaystyle r}$หมายความว่าอย่างไร${\displaystyle X}$สำหรับทุกคน${\displaystyle r\geq 1}$กล่าวอีกนัยหนึ่งคือ ถ้า${\displaystyle X_{n}}$ลู่เข้าในความน่าจะเป็นไปยัง${\displaystyle X}$และตัวแปรสุ่มทั้งหมด${\displaystyle X_{n}}$แทบจะแน่นอนว่ามีขอบเขตบนและล่าง จากนั้น${\displaystyle X_{n}}$ลู่เข้าสู่${\displaystyle X}$รวมถึงในทุกกรณีด้วย${\displaystyle r}$th หมายถึง^{[ 10 ]}
• การแสดงผลแบบเกือบแน่นอนโดยปกติแล้ว การลู่เข้าในการกระจายตัวไม่ได้หมายความถึงการลู่เข้าแบบเกือบแน่นอนเสมอไป อย่างไรก็ตาม สำหรับลำดับที่กำหนด${\displaystyle (X_{n})_{n}}$ซึ่งลู่เข้าสู่การกระจายตัว${\displaystyle X_{0}}$เป็นไปได้เสมอที่จะค้นพบพื้นที่ความน่าจะเป็นใหม่${\displaystyle (\Omega ,F,\mathbb {P} )}$และตัวแปรสุ่ม${\displaystyle (Y_{n})_{n}}$กำหนดไว้บนนั้นเช่นนั้น${\displaystyle Y_{n}}$มีการกระจายอย่างเท่าเทียมกันไปยัง${\displaystyle X_{n}}$สำหรับแต่ละคน${\displaystyle n\geq 0}$, และ${\displaystyle Y_{n}}$ลู่เข้าสู่${\displaystyle Y_{0}}$เกือบจะแน่นอน^{[ 11 ] [ 12 ]}
• ถ้าสำหรับทั้งหมด${\displaystyle \varepsilon >0}$,

  ${\displaystyle \sum _{n}\mathbb {P} \left(|X_{n}-X|>\varepsilon \right)<\infty ,}$

  แล้วเราก็พูดว่า${\displaystyle X_{n}}$ลู่เข้าเกือบสมบูรณ์หรือเกือบจะในเชิงความน่าจะเป็นไปสู่${\displaystyle X}$. เมื่อไร${\displaystyle X_{n}}$บรรจบกันเกือบสมบูรณ์ไปสู่${\displaystyle X}$จากนั้นมันก็จะลู่เข้าสู่ค่าดังกล่าวเกือบแน่นอน${\displaystyle X}$กล่าวอีกนัยหนึ่งคือ ถ้า${\displaystyle X_{n}}$ลู่เข้าในความน่าจะเป็นไปยัง${\displaystyle X}$เร็วพอ (กล่าวคือ ลำดับความน่าจะเป็นของหางข้างต้นสามารถหาผลรวมได้สำหรับทุกกรณี)${\displaystyle \varepsilon >0}$), แล้ว${\displaystyle X_{n}}$นอกจากนี้ยังลู่เข้าสู่ค่าเกือบแน่นอนอีกด้วย${\displaystyle X}$นี่เป็นผลลัพธ์โดยตรงจากทฤษฎีบทบอเรล-แคนเทลลี

• ถ้า${\displaystyle S_{n}}$เป็นผลรวมของ${\displaystyle n}$ตัวแปรสุ่มอิสระที่แท้จริง:

  ${\displaystyle S_{n}=X_{1}+\cdots +X_{n}\,}$

  แล้ว${\displaystyle S_{n}}$ลู่เข้าเกือบแน่นอนก็ต่อเมื่อ${\displaystyle S_{n}}$ลู่เข้าในความน่าจะเป็น หลักฐานสามารถพบได้ในหน้า 126 (ทฤษฎีบท 5.3.4) ของหนังสือโดยKai Lai Chung ^{[ 13 ]}

  อย่างไรก็ตาม สำหรับลำดับของตัวแปรสุ่มที่เป็นอิสระต่อกัน การลู่เข้าในความน่าจะเป็นไม่ได้หมายความถึงการลู่เข้าเกือบแน่นอน^{[ 14 ]}

• ทฤษฎีบทการลู่เข้าแบบครอบงำให้เงื่อนไขที่เพียงพอสำหรับการลู่เข้าแบบเกือบแน่นอนเพื่อบ่งชี้ว่า${\displaystyle L^{1}}$-การบรรจบกัน:

${\displaystyle \left.{\begin{matrix}X_{n}\xrightarrow {\overset {}{\text{a.s.}}} X\\|X_{n}|<Y\\\mathbb {E} [Y]<\infty \end{matrix}}\right\}\quad \Rightarrow \quad X_{n}\xrightarrow {L^{1}} X}$

5

• เงื่อนไขที่จำเป็นและเพียงพอสำหรับ${\displaystyle L^{1}}$การบรรจบกันคือ${\displaystyle X_{n}{\xrightarrow {\overset {}{P}}}X}$และลำดับ${\displaystyle (X_{n})_{n}}$สามารถหาปริพันธ์ได้สม่ำเสมอ
• ถ้า${\displaystyle X_{n}\ \xrightarrow {\overset {}{p}} \ X}$สิ่งต่อไปนี้เทียบเท่ากัน^{[ 15 ]}
  • ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X}$,
  • ${\displaystyle \mathbb {E} [|X_{n}|^{r}]\rightarrow \mathbb {E} [|X|^{r}]<\infty }$,
  • ${\displaystyle \{|X_{n}|^{r}\}}$สามารถหาปริพันธ์ได้สม่ำเสมอ

• ถ้า${\displaystyle X_{n}{\overset {d}{\longrightarrow }}X}$และ${\displaystyle (X_{n})_{n}}$ถ้าสามารถหาปริพันธ์ได้สม่ำเสมอแล้ว${\displaystyle X\in L^{1}}$และ${\displaystyle \lim _{n\to \infty }\mathbb {E} [X_{n}]=\mathbb {E} [X]}$[ ^{16 ]​}

เว็บไซต์ Wikibook เรื่องทฤษฎีเศรษฐมิติมีหน้าเว็บที่กล่าวถึงหัวข้อ: การลู่เข้าของตัวแปรสุ่ม

• การพิสูจน์การลู่เข้าของตัวแปรสุ่ม
• การบรรจบกันของมาตรการ
• การบรรจบกันในการวัด
• กระบวนการสุ่มต่อเนื่อง : คำถามเกี่ยวกับความต่อเนื่องของกระบวนการสุ่มนั้นโดยพื้นฐานแล้วเป็นคำถามเกี่ยวกับการลู่เข้า และแนวคิดและความสัมพันธ์หลายอย่างที่ใช้ข้างต้นก็สามารถนำมาใช้กับคำถามเกี่ยวกับความต่อเนื่องได้เช่นกัน
• การกระจายเชิงเส้นกำกับ
• โอใหญ่ในสัญลักษณ์ความน่าจะเป็น
• ทฤษฎีบทการเป็นตัวแทนของสโกโรคอด
• ทฤษฎีบทการลู่เข้าของทวีดี้
• ทฤษฎีบทของสลุตสกี
• ทฤษฎีบทการแมปแบบต่อเนื่อง