ทฤษฎีบทลิมิตกลาง

พิมพ์	ทฤษฎีบท
สนาม	ทฤษฎีความน่าจะเป็น
คำแถลง	ผลรวมที่ปรับขนาดแล้วของลำดับ ตัวแปรสุ่มอิสระ ที่มีการแจกแจงเหมือนกัน(iid)และ มี ค่าความแปรปรวน บวกจำกัด จะลู่เข้าสู่การแจกแจง ปกติใน เชิงการแจกแจง
การสรุปโดยทั่วไป	CLT ของลินเดเบิร์ก

ในทฤษฎีความน่าจะเป็นทฤษฎีบทลิมิตกลาง ( CLT ) กล่าวว่า ภายใต้เงื่อนไขที่เหมาะสมการแจกแจงของค่าเฉลี่ยตัวอย่างที่ถูกทำให้เป็นมาตรฐานจะลู่เข้าสู่การแจกแจงปกติมาตรฐานแม้ว่าตัวแปรดั้งเดิมเองจะไม่ใช่ตัวแปรที่มีการแจกแจงปกติ ก็ตาม มีทฤษฎีบท CLT หลายเวอร์ชัน แต่ละเวอร์ชันใช้ในบริบทของเงื่อนไขที่แตกต่างกัน

ทฤษฎีบทนี้เป็นแนวคิดสำคัญในทฤษฎีความน่าจะเป็น เพราะมันบ่งชี้ว่าวิธีการทางความน่าจะเป็นและสถิติที่ใช้ได้กับการแจกแจงแบบปกติ สามารถนำไปประยุกต์ใช้กับปัญหาหลายอย่างที่เกี่ยวข้องกับการแจกแจงประเภทอื่นๆ ได้

ทฤษฎีบทนี้มีการเปลี่ยนแปลงหลายครั้งในระหว่างการพัฒนาทฤษฎีความน่าจะเป็นอย่างเป็นทางการ ทฤษฎีบทเวอร์ชันก่อนหน้านี้มีมาตั้งแต่ปี 1811 แต่ในรูปแบบที่ทันสมัยเพิ่งได้รับการระบุอย่างแม่นยำในช่วงทศวรรษ 1920 ^{[ 1 ]}

ในทางสถิติทฤษฎีบทขีดจำกัดส่วนกลาง (CLT) สามารถระบุได้ดังนี้: ให้แทนตัวอย่างทางสถิติขนาดจากประชากรที่มีค่าเฉลี่ยและความแปรปรวน บวกจำกัด และให้แทนค่าเฉลี่ยของตัวอย่าง (ซึ่งเป็นตัวแปรสุ่ม ) แล้วลิมิตเมื่อของการกระจายของจะเป็นการกระจายแบบปกติที่มีค่าเฉลี่ยและความแปรปรวน^{[ 2 ]}${\displaystyle X_{1},X_{2},\dots ,X_{n}}$${\displaystyle n}$${\displaystyle \mu }$${\displaystyle \sigma ^{2}}$${\displaystyle {\bar {X}}_{n}}$${\displaystyle n\to \infty }$${\displaystyle ({\bar {X}}_{n}-\mu ){\sqrt {n}}}$${\displaystyle 0}$${\displaystyle \sigma ^{2}}$

กล่าวอีกนัยหนึ่ง สมมติว่าได้ตัวอย่างข้อมูล จำนวนมาก โดยแต่ละค่าได้มาจากการสุ่มโดยไม่ขึ้นอยู่กับค่าของข้อมูลอื่นๆ และคำนวณค่าเฉลี่ย ( ค่าเฉลี่ยเลขคณิต ) ของค่าที่สังเกตได้ หากทำกระบวนการนี้ซ้ำหลายครั้งจนได้ค่าเฉลี่ยที่สังเกตได้จำนวนมาก ทฤษฎีบทลิมิตกลางกล่าวว่า หากขนาดตัวอย่างมีขนาดใหญ่พอการแจกแจงความน่าจะเป็นของค่าเฉลี่ยเหล่านี้จะใกล้เคียงกับการแจกแจงปกติ

ทฤษฎีบทลิมิตกลางมีหลายรูปแบบ ในรูปแบบทั่วไป ตัวแปรสุ่มต้องเป็นอิสระและมีการแจกแจงเหมือนกัน (iid) ข้อกำหนดนี้สามารถผ่อนปรนได้ การลู่เข้าของค่าเฉลี่ยไปยังการแจกแจงปกติเกิดขึ้นได้กับการแจกแจงที่ไม่เหมือนกันหรือกับการสังเกตที่ไม่เป็นอิสระ หากเป็นไปตามเงื่อนไขบางประการ

ทฤษฎีบทที่เก่าแก่ที่สุดที่กล่าวว่าการแจกแจงปกติสามารถใช้เป็นค่าประมาณของการแจกแจงทวินามได้คือทฤษฎีบทเดอ มัวร์-ลาปลาส

ให้เป็นลำดับของตัวแปรสุ่มอิสระที่มีการแจกแจงเหมือนกัน (iid) โดยมีค่าเฉลี่ยกำหนดโดยและความแปรปรวน จำกัด กำหนดโดยสมมติว่าเราสนใจค่าเฉลี่ยของตัวอย่าง${\displaystyle (X_{n})_{n\geq 1}}$${\displaystyle \mu }$${\displaystyle \sigma ^{2}.}$

$${\displaystyle {\bar {X}}_{n}\equiv {\frac {X_{1}+\cdots +X_{n}}{n}}.}$$

ตามกฎของจำนวนมากค่าเฉลี่ยของตัวอย่าง จะลู่เข้าสู่ ค่าที่คาดหวังเกือบแน่นอน (และดังนั้นจึงลู่เข้าในเชิงความน่าจะเป็น ด้วย) เมื่อ${\displaystyle \mu }$${\displaystyle n\to \infty .}$

ทฤษฎีบทลิมิตกลางแบบคลาสสิกอธิบายขนาดและรูปแบบการกระจายตัวของ ความผันผวน แบบสุ่มรอบ ๆ จำนวนเชิงกำหนดในระหว่างการลู่เข้าดังกล่าว กล่าวคือ ทฤษฎีบทนี้ระบุว่า เมื่อมีค่ามากขึ้น การกระจายตัวของค่าเฉลี่ยปกติ (normalized mean ) ซึ่งก็คือผลต่างระหว่างค่าเฉลี่ยของตัวอย่างกับลิมิตที่ปรับขนาดด้วยตัวประกอบจะเข้าใกล้การกระจายแบบปกติที่มีค่าเฉลี่ยและความแปรปรวนสำหรับค่า ที่มากพอการกระจายตัวของจะเข้าใกล้การกระจายแบบปกติที่มีค่าเฉลี่ยและความแปรปรวน อย่างไม่จำกัด${\displaystyle \mu }$${\displaystyle n}$${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$${\displaystyle {\bar {X}}_{n}}$${\displaystyle \mu ,}$${\displaystyle {\sqrt {n}}}$${\displaystyle 0}$${\displaystyle \sigma ^{2}.}$${\displaystyle n,}$${\displaystyle {\bar {X}}_{n}}$${\displaystyle \mu }$${\displaystyle \sigma ^{2}/n.}$

ประโยชน์ของทฤษฎีบทนี้คือ การกระจายตัวจะเข้าใกล้การกระจายแบบปกติโดยไม่คำนึงถึงรูปร่างของการกระจายตัวของแต่ละบุคคลในทางทฤษฎีบทนี้สามารถกล่าวได้ดังนี้: ${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$${\displaystyle X_{i}.}$

ในกรณีของการลู่เข้าในการกระจาย หมายความว่าฟังก์ชันการกระจายสะสมลู่เข้าแบบจุดต่อจุดไปยังฟังก์ชันการกระจายสะสมของการกระจาย: สำหรับจำนวนจริงทุกจำนวน${\displaystyle \sigma >0,}$${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$${\displaystyle {\mathcal {N}}(0,\sigma ^{2})}$${\displaystyle z,}$

$${\displaystyle \lim _{n\to \infty }\mathbb {P} \left[{\sqrt {n}}({\bar {X}}_{n}-\mu )\leq z\right]=\lim _{n\to \infty }\mathbb {P} \left[{\frac {{\sqrt {n}}({\bar {X}}_{n}-\mu )}{\sigma }}\leq {\frac {z}{\sigma }}\right]=\Phi \left({\frac {z}{\sigma }}\right),}$$

ฟังก์ชันการกระจายสะสมปกติมาตรฐานที่ประเมินค่า ณจุดใดการลู่เข้าเป็นแบบสม่ำเสมอในแง่ที่ว่า ${\displaystyle \Phi (z)}$${\displaystyle z.}$${\displaystyle z}$

$${\displaystyle \lim _{n\to \infty }\;\sup _{z\in \mathbb {R} }\;\left|\mathbb {P} \left[{\sqrt {n}}({\bar {X}}_{n}-\mu )\leq z\right]-\Phi \left({\frac {z}{\sigma }}\right)\right|=0~,}$$

โดยที่หมายถึงค่าสูงสุด (เช่น ขอบเขตบนที่น้อยที่สุด) ของเซต^{[ 5 ]}${\displaystyle \sup }$

ในทฤษฎีบทลิมิตกลางรูปแบบนี้ ตัวแปรสุ่มต้องเป็นอิสระต่อกัน แต่ไม่จำเป็นต้องมีการกระจายแบบเดียวกัน ทฤษฎีบทนี้ยังต้องการให้ตัวแปรสุ่มมีโมเมนต์ลำดับใดลำดับหนึ่งและอัตราการเติบโตของโมเมนต์เหล่านี้ถูกจำกัดโดยเงื่อนไขของ Lyapunov ที่ระบุไว้ด้านล่าง ${\textstyle X_{i}}$${\textstyle \left|X_{i}\right|}$${\textstyle (2+\delta )}$

ในทางปฏิบัติ วิธีที่ง่ายที่สุดมักจะเป็นการตรวจสอบเงื่อนไขของ Lyapunov สำหรับ${\textstyle \delta =1}$

หากลำดับของตัวแปรสุ่มเป็นไปตามเงื่อนไขของ Lyapunov แล้ว ลำดับนั้นก็จะเป็นไปตามเงื่อนไขของ Lindeberg ด้วย อย่างไรก็ตาม ข้อสรุปในทางกลับกันนั้นไม่เป็นจริง

ในบริบทเดียวกันและใช้สัญลักษณ์เดียวกันกับข้างต้น เงื่อนไขของ Lyapunov สามารถแทนที่ด้วยเงื่อนไขที่อ่อนกว่าต่อไปนี้ (จากLindebergในปี 1920)

สมมติว่าสำหรับทุกๆ ${\textstyle \varepsilon >0}$

$${\displaystyle \lim _{n\to \infty }{\frac {1}{s_{n}^{2}}}\sum _{i=1}^{n}\operatorname {E} \left[(X_{i}-\mu _{i})^{2}\cdot \mathbf {1} _{\left\{\left|X_{i}-\mu _{i}\right|>\varepsilon s_{n}\right\}}\right]=0}$$

ฟังก์ชันตัวบ่งชี้อยู่ที่ไหนจากนั้นการกระจายของผลรวมมาตรฐาน ${\textstyle \mathbf {1} _{\{\ldots \}}}$

$${\displaystyle {\frac {1}{s_{n}}}\sum _{i=1}^{n}\left(X_{i}-\mu _{i}\right)}$$

ลู่เข้าสู่การแจกแจงปกติมาตรฐาน${\textstyle {\mathcal {N}}(0,1)}$

แทนที่จะบวกจำนวนเต็มของตัวแปรสุ่มแล้วเลือกค่าสุดท้าย การบวกนั้นอาจเป็นการบวกจำนวนสุ่มของตัวแปรสุ่ม โดยมีเงื่อนไขเกี่ยวกับค่าสุดท้ายตัวอย่างเช่น ทฤษฎีบทต่อไปนี้เป็นบทสรุปที่ 4 ของ Robbins (1948) ซึ่งสมมติว่าค่าสุดท้ายมีการแจกแจงแบบปกติเชิงอะซิมโทติก (Robbins ยังได้พัฒนาเงื่อนไขอื่นๆ ที่นำไปสู่ผลลัพธ์เดียวกันด้วย) ${\displaystyle n}$${\displaystyle n\to \infty }$${\displaystyle N}$${\displaystyle N}$${\displaystyle N}$

บทพิสูจน์ที่ใช้ฟังก์ชันลักษณะเฉพาะสามารถขยายไปยังกรณีที่แต่ละบุคคลเป็นเวกเตอร์สุ่มในโดยมีเวกเตอร์ค่าเฉลี่ยและเมทริกซ์ความแปรปรวนร่วม (ระหว่างส่วนประกอบของเวกเตอร์) และเวกเตอร์สุ่มเหล่านี้เป็นอิสระและมีการกระจายเหมือนกัน ทฤษฎีบทขีดจำกัดกลางหลายมิติระบุว่าเมื่อปรับขนาด ผลรวมจะลู่เข้าสู่การกระจายปกติหลายตัวแปร [ ^{9 ] การ}รวมเวกเตอร์เหล่านี้ทำทีละส่วนประกอบ ${\textstyle \mathbf {X} _{i}}$${\textstyle \mathbb {R} ^{k}}$${\textstyle {\boldsymbol {\mu }}=\operatorname {E} [\mathbf {X} _{i}]}$${\textstyle \mathbf {\Sigma } }$

เพื่อปล่อย ${\displaystyle i=1,2,3,\ldots ,}$

$${\displaystyle \mathbf {X} _{i}={\begin{bmatrix}X_{i}^{(1)}\\\vdots \\X_{i}^{(k)}\end{bmatrix}}}$$

เป็นเวกเตอร์สุ่มอิสระ ผลรวมของเวกเตอร์สุ่มคือ ${\displaystyle \mathbf {X} _{1},\ldots ,\mathbf {X} _{n}}$

$${\displaystyle \sum _{i=1}^{n}\mathbf {X} _{i}={\begin{bmatrix}X_{1}^{(1)}\\\vdots \\X_{1}^{(k)}\end{bmatrix}}+{\begin{bmatrix}X_{2}^{(1)}\\\vdots \\X_{2}^{(k)}\end{bmatrix}}+\cdots +{\begin{bmatrix}X_{n}^{(1)}\\\vdots \\X_{n}^{(k)}\end{bmatrix}}={\begin{bmatrix}\sum _{i=1}^{n}X_{i}^{(1)}\\\vdots \\\sum _{i=1}^{n}X_{i}^{(k)}\end{bmatrix}}}$$

และค่าเฉลี่ยของพวกเขาคือ

$${\displaystyle \mathbf {{\bar {X}}_{n}} ={\begin{bmatrix}{\bar {X}}_{i}^{(1)}\\\vdots \\{\bar {X}}_{i}^{(k)}\end{bmatrix}}={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {X} _{i}.}$$

ดังนั้น,

$${\displaystyle {\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}\left[\mathbf {X} _{i}-\operatorname {E} \left(\mathbf {X} _{i}\right)\right]={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}(\mathbf {X} _{i}-{\boldsymbol {\mu }})={\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right).}$$

ทฤษฎีบทลิมิตกลางแบบหลายตัวแปรกล่าวว่า

$${\displaystyle {\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right)\mathrel {\overset {d}{\longrightarrow }} {\mathcal {N}}_{k}(0,{\boldsymbol {\Sigma }}),}$$ โดยที่เมทริกซ์ความแปรปรวน ร่วมเท่ากับ ${\displaystyle {\boldsymbol {\Sigma }}}$$${\displaystyle {\boldsymbol {\Sigma }}={\begin{bmatrix}{\operatorname {Var} \left(X_{1}^{(1)}\right)}&\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(k)}\right)\\\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(1)}\right)&\operatorname {Var} \left(X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(k)}\right)\\\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(1)}\right)&\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(2)}\right)&\operatorname {Var} \left(X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(k)}\right)\\\vdots &\vdots &\vdots &\ddots &\vdots \\\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(1)}\right)&\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(3)}\right)&\cdots &\operatorname {Var} \left(X_{1}^{(k)}\right)\\\end{bmatrix}}~.}$$

ทฤษฎีบทขีดจำกัดกลางแบบหลายตัวแปรสามารถพิสูจน์ได้โดยใช้ทฤษฎีบทCramér–Wold ^{[ 9 ]}

อัตราการลู่เข้าแสดงโดยผลลัพธ์ประเภท Berry–Esseen ดังต่อไปนี้:

ยังไม่ทราบว่าปัจจัยนี้จำเป็นหรือไม่^{[ 11 ]}${\textstyle d^{1/4}}$

ทฤษฎีบทขีดจำกัดกลางทั่วไป (GCLT) เป็นความพยายามของนักคณิตศาสตร์หลายคน ( เซอร์เกย์ เบิร์นสไตน์ , จาร์ล วัลเดมาร์ ลินเดเบิร์ก , พอล เลวี , วิลเลียม เฟลเลอ ร์ , อังเดรย์ โคลโมโกโรฟและคนอื่นๆ) ในช่วงระหว่างปี 1920 ถึง 1937 ^{[ 12 ]}การพิสูจน์ GCLT ฉบับสมบูรณ์ที่ตีพิมพ์ครั้งแรกคือในปี 1937 โดยพอล เลวี เป็นภาษาฝรั่งเศส^{[ 13 ]}ฉบับภาษาอังกฤษของการพิสูจน์ GCLT ฉบับสมบูรณ์มีอยู่ในหนังสือแปลของบอริส วลาดิมิโรวิช กเนเดนโกและโคลโมโกโรฟในปี 1954 ^{[ 14 ]}

คำแถลงของ GCLT มีดังนี้: ^{[ 15 ]}

กล่าวอีกนัยหนึ่ง ถ้าผลรวมของตัวแปรสุ่มอิสระที่มีการแจกแจงเหมือนกันลู่เข้าสู่การแจกแจงZ ใดๆ แล้วZจะต้องเป็นการแจกแจงแบบเสถียร

การสรุปทั่วไปที่มีประโยชน์ของลำดับของตัวแปรสุ่มอิสระที่มีการแจกแจงเหมือนกัน คือ กระบวนการสุ่มแบบ ผสมในเวลาแบบไม่ต่อเนื่อง "การผสม" หมายความว่า ตัวแปรสุ่มที่อยู่ห่างกันในเชิงเวลาจะมีความเป็นอิสระต่อกันเกือบทั้งหมด มีการใช้การผสมหลายประเภทในทฤษฎีเออร์โกดิกและทฤษฎีความน่าจะเป็น โดยเฉพาะอย่างยิ่งการผสมแบบเข้มข้น (เรียกอีกอย่างว่า α-mixing) ซึ่งกำหนดโดย โดยที่คือ สัมประสิทธิ์การผสม แบบ เข้มข้น${\textstyle \alpha (n)\to 0}$${\textstyle \alpha (n)}$

การกำหนดสูตรอย่างง่ายของทฤษฎีบทขีดจำกัดกลางภายใต้การผสมที่แข็งแกร่งคือ: ^{[ 16 ]}

ในความเป็นจริง,

$${\displaystyle \sigma ^{2}=\operatorname {E} \left(X_{1}^{2}\right)+2\sum _{k=1}^{\infty }\operatorname {E} \left(X_{1}X_{1+k}\right),}$$

โดยที่อนุกรมนี้มาบรรจบกันอย่างสมบูรณ์

ข้อสมมติฐานนี้ไม่สามารถละเว้นได้ เนื่องจากความเป็นปกติเชิงอะซิมโทติกไม่เป็นจริงสำหรับกรณีที่ เป็น ลำดับคงที่ อีก ชุด หนึ่ง${\textstyle \sigma \neq 0}$${\textstyle X_{n}=Y_{n}-Y_{n-1}}$${\textstyle Y_{n}}$

มีทฤษฎีบทเวอร์ชันที่แข็งแกร่งกว่า: ^{[ 17 ]}สมมติฐานถูกแทนที่ด้วยและสมมติฐานถูกแทนที่ด้วย ${\textstyle \operatorname {E} \left[X_{n}^{12}\right]<\infty }$${\textstyle \operatorname {E} \left[{\left|X_{n}\right|}^{2+\delta }\right]<\infty }$${\textstyle \alpha _{n}=O\left(n^{-5}\right)}$

$${\displaystyle \sum _{n}\alpha _{n}^{\frac {\delta }{2(2+\delta )}}<\infty .}$$

การมีอยู่ของสิ่งดังกล่าวทำให้มั่นใจได้ถึงข้อสรุป สำหรับการศึกษาเชิงลึกเกี่ยวกับทฤษฎีบทลิมิตภายใต้เงื่อนไขการผสม โปรดดู ( Bradley 2007 ) ${\textstyle \delta >0}$

ทฤษฎีบทลิมิตกลางมีการพิสูจน์โดยใช้ฟังก์ชันลักษณะเฉพาะ [ ^{20 ] ซึ่ง}คล้ายกับการพิสูจน์กฎจำนวนมาก (แบบอ่อน )

สมมติให้และ เป็นตัวแปรสุ่มอิสระและมีการแจกแจงเหมือนกัน โดยแต่ละตัวมีค่าเฉลี่ยและค่าความแปรปรวนจำกัดผลรวมของมีค่าเฉลี่ยและค่าความแปรปรวนพิจารณาตัวแปรสุ่ม ${\textstyle \{X_{1},\ldots ,X_{n},\ldots \}}$${\textstyle \mu }$${\textstyle \sigma ^{2}}$${\textstyle X_{1}+\cdots +X_{n}}$${\textstyle n\mu }$${\textstyle n\sigma ^{2}}$

$${\displaystyle Z_{n}={\frac {X_{1}+\cdots +X_{n}-n\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{i=1}^{n}{\frac {X_{i}-\mu }{\sqrt {n\sigma ^{2}}}}=:\sum _{i=1}^{n}{\frac {1}{\sqrt {n}}}Y_{i},}$$

โดยขั้นตอนสุดท้ายจะกำหนดตัวแปรสุ่มใหม่แต่ละตัวซึ่งมีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนเป็นหนึ่ง( )ฟังก์ชันลักษณะเฉพาะของจะกำหนดโดย ${\textstyle Y_{i}:={\frac {X_{i}-\mu }{\sigma }}}$${\textstyle \operatorname {var} (Y)=1}$${\textstyle Z_{n}}$

$${\displaystyle {\begin{aligned}\varphi _{Z_{n}}\!(t)=\varphi _{\sum _{i=1}^{n}{{\frac {1}{\sqrt {n}}}Y_{i}}}\!(t)\ &=\ \varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\varphi _{Y_{2}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\cdots \varphi _{Y_{n}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\\[1ex]&=\ \left[\varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\right]^{n},\end{aligned}}}$$

โดยขั้นตอนสุดท้ายอาศัยข้อเท็จจริงที่ว่าตัวแปรทั้งหมดมีการแจกแจงแบบเดียวกัน ฟังก์ชันลักษณะเฉพาะของตัวแปรคือ ตามทฤษฎีบทของเทย์เลอร์ ${\textstyle Y_{i}}$${\textstyle Y_{1}}$$${\displaystyle \varphi _{Y_{1}}\!\left({\frac {t}{\sqrt {n}}}\right)=1-{\frac {t^{2}}{2n}}+o\!\left({\frac {t^{2}}{n}}\right),\quad \left({\frac {t}{\sqrt {n}}}\right)\to 0}$$

โดยที่" สัญลักษณ์oเล็ก " หมายถึงฟังก์ชันบางอย่างของ ที่เข้าใกล้ศูนย์ เร็วกว่าโดยลิมิตของฟังก์ชันเลขชี้กำลัง( )ฟังก์ชันลักษณะเฉพาะของเท่ากับ ${\textstyle o(t^{2}/n)}$${\textstyle t}$${\textstyle t^{2}/n}$${\textstyle e^{x}=\lim _{n\to \infty }\left(1+{\frac {x}{n}}\right)^{n}}$${\displaystyle Z_{n}}$

$${\displaystyle \varphi _{Z_{n}}(t)=\left(1-{\frac {t^{2}}{2n}}+o\left({\frac {t^{2}}{n}}\right)\right)^{n}\rightarrow e^{-{\frac {1}{2}}t^{2}},\quad n\to \infty .}$$

พจน์ลำดับสูงทั้งหมดจะหายไปในลิมิตด้านขวามือเท่ากับฟังก์ชันลักษณะเฉพาะของการแจกแจงปกติมาตรฐานซึ่งหมายความว่าตามทฤษฎีบทความต่อเนื่องของเลวีการแจกแจงของจะเข้าใกล้เมื่อดังนั้น ค่าเฉลี่ย ของตัวอย่าง${\textstyle n\to \infty }$${\textstyle {\mathcal {N}}(0,1)}$${\textstyle Z_{n}}$${\textstyle {\mathcal {N}}(0,1)}$${\textstyle n\to \infty }$

$${\displaystyle {\bar {X}}_{n}={\frac {X_{1}+\cdots +X_{n}}{n}}}$$

เป็นเช่นนั้น

$${\displaystyle {\frac {\sqrt {n}}{\sigma }}\left({\bar {X}}_{n}-\mu \right)=Z_{n}}$$

ลู่เข้าสู่การแจกแจงปกติซึ่งเป็นที่มาของทฤษฎีบทลิมิตกลาง ${\textstyle {\mathcal {N}}(0,1)}$

ทฤษฎีบทลิมิตกลางให้การแจกแจงเชิงอะซิมโทติก เท่านั้น ในฐานะการประมาณค่าสำหรับจำนวนข้อมูลที่จำกัด มันให้การประมาณค่าที่เหมาะสมเฉพาะเมื่ออยู่ใกล้จุดสูงสุดของการแจกแจงปกติเท่านั้น ต้องใช้จำนวนข้อมูลที่มากอย่างยิ่งจึงจะครอบคลุมไปถึงส่วนหางของการแจกแจงได้

การลู่เข้าในทฤษฎีบทลิมิตกลางเป็นแบบสม่ำเสมอเนื่องจากฟังก์ชันการกระจายสะสมลิมิตมีความต่อเนื่อง หากโมเมนต์ กลางที่สาม มีอยู่และมีค่าจำกัด ความเร็วของการลู่เข้าจะอย่างน้อยก็อยู่ในลำดับของ(ดูทฤษฎีบท Berry–Esseen ) วิธีของ Stein ^{[ 21 ]}ไม่เพียงแต่ใช้เพื่อพิสูจน์ทฤษฎีบทลิมิตกลางเท่านั้น แต่ยังใช้เพื่อกำหนดขอบเขตของอัตราการลู่เข้าสำหรับเมตริกที่เลือกอีกด้วย^{[ 22 ]}${\textstyle \operatorname {E} \left[(X_{1}-\mu )^{3}\right]}$${\textstyle 1/{\sqrt {n}}}$

การลู่เข้าสู่การแจกแจงปกติเป็นแบบโมโนโทนิก ในแง่ที่ว่าเอนโทรปีจะเพิ่มขึ้นแบบโมโนโทนิกไปสู่เอนโทรปีของการแจกแจงปกติ^{[ 23 ]}${\textstyle Z_{n}}$

ทฤษฎีบทลิมิตกลางใช้ได้โดยเฉพาะกับผลรวมของตัวแปรสุ่มแบบไม่ ต่อเนื่องที่เป็นอิสระและมีการแจกแจงเหมือนกัน ผลรวมของตัวแปรสุ่มแบบไม่ต่อเนื่องยังคงเป็นตัวแปรสุ่มแบบไม่ต่อเนื่องดังนั้นเราจึงเผชิญกับลำดับของตัวแปรสุ่มแบบไม่ต่อเนื่องซึ่งฟังก์ชันการแจกแจงความน่าจะเป็นสะสมลู่เข้าสู่ฟังก์ชันการแจกแจงความน่าจะเป็นสะสมที่สอดคล้องกับตัวแปรต่อเนื่อง (นั่นคือการแจกแจงปกติ ) ซึ่งหมายความว่าถ้าเราสร้างฮิสโตแกรม ของค่าที่เกิดขึ้นจริง ของผลรวมของ ตัวแปรสุ่มแบบไม่ต่อเนื่องที่เป็นอิสระและเหมือนกัน nตัว เส้นโค้งเชิงเส้นแบบเป็นช่วงที่เชื่อมจุดศูนย์กลางของหน้าด้านบนของสี่เหลี่ยมผืนผ้าที่ประกอบเป็นฮิสโตแกรมจะลู่เข้าสู่เส้นโค้งเกาส์เซียนเมื่อnเข้าใกล้ค่าอนันต์ ความสัมพันธ์นี้เรียกว่าทฤษฎีบทเดอ มัวร์-ลาปลา ซ บทความเกี่ยวกับ การแจกแจงทวินามได้อธิบายรายละเอียดการประยุกต์ใช้ทฤษฎีบทลิมิตกลางในกรณีง่ายๆ ของตัวแปรแบบไม่ต่อเนื่องที่มีค่าที่เป็นไปได้เพียงสองค่า

การศึกษาแสดงให้เห็นว่าทฤษฎีบทลิมิตกลางมีความเข้าใจผิดที่พบได้ทั่วไปแต่ร้ายแรงหลายประการ ซึ่งบางส่วนปรากฏอยู่ในตำราเรียนที่ใช้กันอย่างแพร่หลาย^{[ 24 ] [ 25 ] [ 26 ]}ซึ่งรวมถึง:

• ความเชื่อที่ผิดพลาดที่ว่าทฤษฎีบทนี้ใช้ได้กับการสุ่มตัวอย่างตัวแปรใดๆ เท่านั้น ไม่ใช่ค่าเฉลี่ย (หรือผลรวม) ของ ตัวแปรสุ่ม อิสระและ มีการกระจายเหมือนกัน (iid) ที่ได้จากการสุ่มตัวอย่างซ้ำๆ ในประชากร กล่าวคือ ทฤษฎีบทนี้สมมติว่าการสุ่มตัวอย่างทำให้เกิดการกระจายตัวอย่างที่เกิดจากค่าเฉลี่ย (หรือผลรวม) ที่แตกต่างกันของตัวแปรสุ่มเหล่านั้น
• ความเชื่อที่ผิดพลาดที่ว่าทฤษฎีบทนี้รับประกันว่าการสุ่มตัวอย่างจะนำไปสู่การเกิดการแจกแจงแบบปกติสำหรับตัวอย่างที่มีขนาดใหญ่เพียงพอของตัวแปรสุ่มใดๆ โดยไม่คำนึงถึงการแจกแจงของประชากร ในความเป็นจริง การสุ่มตัวอย่างดังกล่าวจะจำลองคุณสมบัติของประชากรในเชิงอนุกรม ซึ่งเป็นผลลัพธ์ที่เข้าใจได้ง่ายซึ่งได้รับการสนับสนุนโดยทฤษฎีบทของ Glivenko– Cantelli
• ความเชื่อที่ผิดพลาดที่ว่าทฤษฎีบทนำไปสู่การประมาณค่าที่ดีของการกระจายแบบปกติสำหรับขนาดตัวอย่างที่มากกว่าประมาณ 30 ^{[ 27 ]}ทำให้สามารถอนุมานได้อย่างน่าเชื่อถือโดยไม่คำนึงถึงลักษณะของประชากร ในความเป็นจริง กฎเกณฑ์เชิงประจักษ์นี้ไม่มีเหตุผลที่ถูกต้อง และอาจนำไปสู่การอนุมานที่ผิดพลาดอย่างร้ายแรง ดูการทดสอบ Zสำหรับกรณีที่การประมาณค่านี้ใช้ได้

กฎของจำนวนมากและทฤษฎีบทลิมิตกลางเป็นเพียงคำตอบบางส่วนของปัญหาทั่วไปที่ว่า "พฤติกรรมลิมิตของS _nเมื่อnเข้าใกล้อินฟินิตี้เป็นอย่างไร" ในการวิเคราะห์ทางคณิตศาสตร์อนุกรมเชิงเส้นกำกับเป็นหนึ่งในเครื่องมือที่นิยมใช้มากที่สุดในการตอบคำถามดังกล่าว

สมมติว่าเรามีการขยายอนุกรมเชิงอะซิมโทติกของ: ${\textstyle f(n)}$

$${\displaystyle f(n)=a_{1}\varphi _{1}(n)+a_{2}\varphi _{2}(n)+O{\big (}\varphi _{3}(n){\big )}\qquad (n\to \infty ).}$$

การหารทั้งสองส่วนด้วยφ ₁ ( n )และการหาลิมิตจะทำให้ได้ค่า a ₁ซึ่งเป็นสัมประสิทธิ์ของพจน์ลำดับสูงสุดในการขยาย ซึ่งแสดงถึงอัตราที่f ( n )เปลี่ยนแปลงในพจน์นำหน้า

$${\displaystyle \lim _{n\to \infty }{\frac {f(n)}{\varphi _{1}(n)}}=a_{1}.}$$

โดยคร่าวๆ อาจกล่าวได้ว่า " _{f (} n ) เติบโตโดยประมาณเป็น1φ1 ( n ) "เมื่อนำผลต่างระหว่างf ( n )กับค่าประมาณของมัน แล้วหารด้วยพจน์ถัดไปในการกระจาย เราจะได้ข้อความที่ละเอียดขึ้นเกี่ยวกับf ( n ) ดังนี้ :

$${\displaystyle \lim _{n\to \infty }{\frac {f(n)-a_{1}\varphi _{1}(n)}{\varphi _{2}(n)}}=a_{2}.}$$

ในที่นี้อาจกล่าวได้ว่าความแตกต่างระหว่างฟังก์ชันและค่าประมาณของฟังก์ชันนั้นเพิ่มขึ้นโดยประมาณเป็น2φ2 ₍ n )แนวคิด ก็คือ การหารฟังก์ชันด้วยฟังก์ชันมาตรฐาน _{ที่ เหมาะสม และการพิจารณาพฤติกรรมลิมิตของผลลัพธ์ สามารถบอกเรา} ได้มากเกี่ยวกับพฤติกรรมลิมิตของฟังก์ชันดั้งเดิมเอง

โดยคร่าวๆ แล้ว สิ่งทำนองนี้เกิดขึ้นเมื่อศึกษา ผลรวม S _nของตัวแปรสุ่มอิสระที่มีการแจกแจงเหมือนกันX ₁ , ..., X _n ในทฤษฎีความน่าจะเป็นแบบคลาสสิก ถ้าแต่ละ X _iมีค่าเฉลี่ยจำกัดμแล้วตามกฎของจำนวนมาก⁠ส_น/n→ μ . ^{[ 28 ]} นอกจากนี้ หากแต่ละ X _i มีความ แปรปรวนจำกัด σ ²แล้วโดยทฤษฎีบทขีดจำกัดกลาง

$${\displaystyle {\frac {S_{n}-n\mu }{\sqrt {n}}}\to \xi ,}$$

โดยที่ξมีการแจกแจงแบบN (0, σ ² )ซึ่งจะให้ค่าคงที่สองค่าแรกในการขยายแบบไม่เป็นทางการ

$${\displaystyle S_{n}\approx \mu n+\xi {\sqrt {n}}.}$$

ในกรณีที่X _iไม่มีค่าเฉลี่ยหรือความแปรปรวนที่จำกัด การลู่เข้าของผลรวมที่เลื่อนและปรับขนาดใหม่สามารถเกิดขึ้นได้ด้วยปัจจัยการจัดศูนย์กลางและการปรับขนาดที่แตกต่างกัน:

$${\displaystyle {\frac {S_{n}-a_{n}}{b_{n}}}\rightarrow \Xi ,}$$

หรืออย่างไม่เป็นทางการ

$${\displaystyle S_{n}\approx a_{n}+\Xi b_{n}.}$$

การแจกแจงΞที่สามารถเกิดขึ้นได้ในลักษณะนี้เรียกว่า การ แจกแจงเสถียร^{[ 29 ]} เห็นได้ชัดว่าการแจกแจงปกติเป็นการแจกแจงเสถียร แต่ยังมีรูปแบบการแจกแจงเสถียรอื่นๆ อีก เช่นการแจกแจงโคชีซึ่งค่าเฉลี่ยหรือความแปรปรวนไม่ได้ถูกกำหนดไว้ ปัจจัยการปรับขนาดb _nอาจเป็นสัดส่วนกับn ^cสำหรับc ≥ ⁠ ใดๆ1/2;นอกจากนี้ยังสามารถคูณด้วยฟังก์ชันที่เปลี่ยนแปลงช้าๆของ nได้ ^{อีกด้วย [ 30 ] [ 31 ]}

กฎของลอการิทึมซ้ำระบุสิ่งที่เกิดขึ้น "ระหว่าง" กฎของจำนวนมากและทฤษฎีบทลิมิตกลาง โดยเฉพาะอย่างยิ่งกล่าวว่าฟังก์ชันปรับค่ามาตรฐาน√n log log nซึ่งมีขนาดอยู่ระหว่างnของกฎของจำนวนมากและ√nของทฤษฎีบทลิมิตกลาง ให้พฤติกรรมลิมิตที่ไม่ธรรมดา

ความหนาแน่นของผลรวมของตัวแปรอิสระสองตัวขึ้นไปคือการสังเคราะห์ของความหนาแน่นของตัวแปรเหล่านั้น (ถ้าความหนาแน่นเหล่านี้มีอยู่) ดังนั้นทฤษฎีบทลิมิตกลางจึงสามารถตีความได้ว่าเป็นข้อความเกี่ยวกับคุณสมบัติของฟังก์ชันความหนาแน่นภายใต้การสังเคราะห์: การสังเคราะห์ของฟังก์ชันความหนาแน่นจำนวนหนึ่งมีแนวโน้มที่จะเป็นความหนาแน่นปกติเมื่อจำนวนฟังก์ชันความหนาแน่นเพิ่มขึ้นอย่างไม่มีขอบเขต ทฤษฎีบทเหล่านี้ต้องการสมมติฐานที่แข็งแกร่งกว่ารูปแบบของทฤษฎีบทลิมิตกลางที่กล่าวมาข้างต้น ทฤษฎีบทประเภทนี้มักเรียกว่าทฤษฎีบทลิมิตเฉพาะที่ ดู Petrov ^{[ 32 ]}สำหรับทฤษฎีบทลิมิตเฉพาะที่สำหรับผลรวมของตัวแปรสุ่มอิสระและมีการแจกแจงเหมือนกัน

เนื่องจากฟังก์ชันลักษณะเฉพาะของการสังเคราะห์คือผลคูณของฟังก์ชันลักษณะเฉพาะของความหนาแน่นที่เกี่ยวข้อง ทฤษฎีบทลิมิตกลางจึงมีการกล่าวซ้ำอีกแบบหนึ่งคือ ผลคูณของฟังก์ชันลักษณะเฉพาะของฟังก์ชันความหนาแน่นจำนวนหนึ่งจะเข้าใกล้ฟังก์ชันลักษณะเฉพาะของความหนาแน่นปกติเมื่อจำนวนฟังก์ชันความหนาแน่นเพิ่มขึ้นอย่างไม่มีขีดจำกัด ภายใต้เงื่อนไขที่กล่าวไว้ข้างต้น โดยเฉพาะอย่างยิ่ง ต้องใช้ตัวประกอบการปรับขนาดที่เหมาะสมกับอาร์กิวเมนต์ของฟังก์ชันลักษณะเฉพาะ

สามารถกล่าวในทำนองเดียวกันได้เกี่ยวกับการแปลงฟูริเยร์เนื่องจากฟังก์ชันลักษณะเฉพาะนั้นโดยพื้นฐานแล้วคือการแปลงฟูริเยร์

ให้S _nเป็นผลรวมของ ตัวแปรสุ่ม nตัว ทฤษฎีบทลิมิตกลางหลายทฤษฎีให้เงื่อนไขที่ทำให้S _n / √ Var( S _n )ลู่เข้าสู่การแจกแจงN (0,1) (การแจกแจงปกติที่มีค่าเฉลี่ย 0 และความแปรปรวน 1) เมื่อn → ∞ในบางกรณี อาจสามารถหาค่าคงที่σ ²และฟังก์ชันf(n)ได้ที่ทำให้S _n /(σ √ n⋅f ( n ) )ลู่เข้าสู่การแจกแจงN (0,1)เมื่อn → ∞

ลอการิทึม ของผลคูณก็คือผลรวมของลอการิทึมของตัวประกอบ นั่นเองดังนั้น เมื่อลอการิทึมของผลคูณของตัวแปรสุ่มที่รับค่าบวกเท่านั้นเข้าใกล้การแจกแจงแบบปกติ ผลคูณนั้นเองก็จะเข้าใกล้การแจกแจงแบบลอการิทึมปกติด้วย ปริมาณทางกายภาพหลายอย่าง (โดยเฉพาะมวลหรือความยาว ซึ่งเป็นเรื่องของขนาดและไม่สามารถเป็นค่าลบได้) เป็นผลคูณของ ตัวประกอบ สุ่ม ต่างๆ ดังนั้นจึงมีการแจกแจงแบบลอการิทึมปกติ กฎการคูณนี้ซึ่งเป็นเวอร์ชันของทฤษฎีบทขีดจำกัดกลาง บางครั้งเรียกว่ากฎของกิบรัต

ในขณะที่ทฤษฎีบทขีดจำกัดกลางสำหรับผลรวมของตัวแปรสุ่มต้องการเงื่อนไขของความแปรปรวนที่จำกัด ทฤษฎีบทที่สอดคล้องกันสำหรับผลคูณต้องการเงื่อนไขที่สอดคล้องกันว่าฟังก์ชันความหนาแน่นสามารถหาปริพันธ์กำลังสองได้^{[ 34 ]}

ความปกติเชิงอะซิมโทติก กล่าวคือการลู่เข้าสู่การแจกแจงปกติหลังจากมีการเลื่อนและการปรับขนาดที่เหมาะสม เป็นปรากฏการณ์ที่ทั่วไปกว่ากรอบแนวคิดแบบคลาสสิกที่กล่าวถึงข้างต้นมาก นั่นคือ ผลรวมของตัวแปรสุ่มอิสระ (หรือเวกเตอร์) กรอบแนวคิดใหม่ๆ ถูกเปิดเผยออกมาเป็นระยะๆ ปัจจุบันยังไม่มีกรอบแนวคิดที่เป็นเอกภาพเพียงกรอบเดียว

การแจกแจง εn _- close ทั้งสองนี้มีฟังก์ชันความหนาแน่น (อันที่จริงคือฟังก์ชันความหนาแน่นแบบ log-concave) ดังนั้น ระยะห่างของความแปรปรวนรวมระหว่างการแจกแจงทั้งสองนี้จึงเป็นปริพันธ์ของค่าสัมบูรณ์ของผลต่างระหว่างฟังก์ชันความหนาแน่น การลู่เข้าในความแปรปรวนรวมนั้นแข็งแกร่งกว่าการลู่เข้าแบบอ่อน

ตัวอย่างที่สำคัญของฟังก์ชันความหนาแน่นแบบลอการิทึมเว้า คือ ฟังก์ชันที่มีค่าคงที่ภายในทรงนูนที่กำหนด และมีค่าเป็นศูนย์ภายนอก ซึ่งสอดคล้องกับการกระจายแบบสม่ำเสมอบนทรงนูน และเป็นที่มาของคำว่า "ทฤษฎีบทขีดจำกัดกลางสำหรับทรงนูน"

อีกตัวอย่างหนึ่ง: f ( x ₁ , ..., x _n ) = const · exp(−(| x ₁ | ^α + ⋯ + | x _n | ^α ) ^β )โดยที่α > 1และαβ > 1ถ้าβ = 1แล้วf ( x ₁ , ..., x _n )สามารถแยกตัวประกอบได้เป็นconst · exp (−| x ₁ | ^α ) ... exp(−| x _n | ^α )ซึ่งหมายความว่าX ₁ , ..., X _nเป็นอิสระต่อกัน อย่างไรก็ตาม โดยทั่วไปแล้ว พวกมันขึ้นต่อกัน

เงื่อนไขf ( x ₁ , ..., x _n ) = f (| x ₁ |, ..., | x _n |)รับประกันว่าX ₁ , ..., X _nมีค่าเฉลี่ยเป็นศูนย์และไม่มีความสัมพันธ์กันอย่างไรก็ตาม พวกมันไม่จำเป็นต้องเป็นอิสระต่อกัน หรือแม้แต่เป็นอิสระต่อกันเป็นคู่ๆอย่างไรก็ตาม ความเป็นอิสระต่อกันเป็นคู่ๆ ไม่สามารถแทนที่ความเป็นอิสระในทฤษฎีบทขีดจำกัดกลางแบบคลาสสิกได้^{[ 36 ]}

นี่คือผลลัพธ์ประเภท Berry–Esseen

การกระจายตัวของ⁠X ₁ + ⋯ + X _n/√n​ไม่จำเป็นต้องเป็นปกติโดยประมาณ (อันที่จริง อาจเป็นแบบสม่ำเสมอ) ^{[ 38 ]}อย่างไรก็ตาม การกระจายของ c ₁ X ₁ + ⋯ + c _n X _nนั้นใกล้เคียงกับ(ในระยะทางความแปรผันทั้งหมด) สำหรับเวกเตอร์ส่วนใหญ่ ( c ₁ , ..., c _n )ตามการกระจายแบบสม่ำเสมอบนทรงกลม c${\textstyle {\mathcal {N}}(0,1)}$² ₁+ ⋯ + c² _น.= 1 .

หลักการเดียวกันนี้ใช้ได้กับมิติทั้งหมดที่มากกว่า 2 ด้วยเช่นกัน

โพลีโทปK _nเรียกว่าโพลีโทปสุ่มแบบ เกาส์ เซียน

ผลลัพธ์ที่คล้ายกันนี้ใช้ได้กับจำนวนจุดยอด (ของรูปหลายเหลี่ยมเกาส์เซียน) จำนวนขอบ และในความเป็นจริง จำนวนหน้าของทุกมิติ^{[ 42 ]}

ฟังก์ชันเชิงเส้นของเมทริกซ์Mคือผลรวมเชิงเส้นขององค์ประกอบในเมทริกซ์ (โดยมีสัมประสิทธิ์ที่กำหนดให้) M ↦ tr( AM )โดยที่Aคือเมทริกซ์ของสัมประสิทธิ์ ดู Trace (linear algebra) #Inner product

กล่าวได้ว่าเมทริกซ์เชิงตั้งฉากแบบสุ่ม มีการกระจายแบบสม่ำเสมอ หากการกระจายของมันคือ การวัด Haar ที่เป็นมาตรฐาน บนกลุ่มเชิงตั้งฉากO( n , R )ดูที่ เมทริกซ์การหมุน#เมทริก ซ์ การหมุนแบบสุ่มสม่ำเสมอ

ทฤษฎีบทขีดจำกัดกลางสามารถสร้างขึ้นสำหรับการเดินสุ่มแบบ ง่าย บนโครงตาข่ายผลึก (กราฟคลุมแบบอาเบลแบบอนันต์เท่าบนกราฟจำกัด) และใช้สำหรับการออกแบบโครงสร้างผลึก^{[ 45 ] [ 46 ]}

ตัวอย่างง่ายๆ ของทฤษฎีบทขีดจำกัดกลางคือ การทอยลูกเต๋าที่เหมือนกันและไม่มีอคติหลายๆ ลูก การกระจายของผลรวม (หรือค่าเฉลี่ย) ของตัวเลขที่ทอยได้จะประมาณได้ดีด้วยการกระจายแบบปกติ เนื่องจากปริมาณในโลกแห่งความเป็นจริงมักเป็นผลรวมที่สมดุลของเหตุการณ์สุ่มที่ไม่สามารถสังเกตได้จำนวนมาก ทฤษฎีบทขีดจำกัดกลางจึงให้คำอธิบายบางส่วนเกี่ยวกับความแพร่หลายของการกระจายความน่าจะเป็นแบบปกติ นอกจากนี้ยังให้เหตุผลในการประมาณค่าสถิติ ของตัวอย่างขนาดใหญ่ ด้วยการกระจายแบบปกติในการทดลองที่มีการควบคุม อีกด้วย

การเปรียบเทียบฟังก์ชันความหนาแน่นความน่าจะเป็นp ( k )สำหรับผลรวมของลูกเต๋า 6 ด้านที่ยุติธรรมจำนวนn ลูก เพื่อแสดงให้เห็นถึงการลู่เข้าสู่การแจกแจงปกติเมื่อ n เพิ่มขึ้น ตามทฤษฎีบทขีดจำกัดกลาง ในกราฟด้านล่างขวา โปรไฟล์ที่ปรับเรียบของกราฟก่อนหน้าจะถูกปรับขนาด ซ้อนทับ และเปรียบเทียบกับการแจกแจงปกติ (เส้นโค้งสีดำ)

รูปนี้แสดงทฤษฎีบทลิมิตกลาง ค่าเฉลี่ยของตัวอย่างถูกสร้างขึ้นโดยใช้ตัวสร้างเลขสุ่ม ซึ่งสุ่มตัวเลขระหว่าง 0 ถึง 100 จากการแจกแจงความน่าจะเป็นแบบเอกรูป แสดงให้เห็นว่าการเพิ่มขนาดตัวอย่างส่งผลให้ค่าเฉลี่ยของตัวอย่างที่วัดได้ 500 ค่า มีการกระจายตัวใกล้เคียงกับค่าเฉลี่ยของประชากร (50 ในกรณีนี้) มากขึ้น นอกจากนี้ยังเปรียบเทียบการแจกแจงที่สังเกตได้กับการแจกแจงที่คาดว่าจะเกิดขึ้นจากการแจกแจงแบบเกาส์เซียนปกติ และแสดง ค่า ไคกำลังสองที่วัดความเหมาะสมของแบบจำลอง (แบบจำลองเหมาะสมหาก ค่า ไคกำลังสอง ที่ลดลง มีค่าน้อยกว่าหรือใกล้เคียงกับหนึ่ง) ค่าป้อนเข้าของฟังก์ชันเกาส์เซียนปกติคือค่าเฉลี่ยของค่าเฉลี่ยตัวอย่าง (~50) และค่าเบี่ยงเบนมาตรฐานของค่าเฉลี่ยตัวอย่างหารด้วยรากที่สองของขนาดตัวอย่าง (~28.87/ √n )ซึ่งเรียกว่าค่าเบี่ยงเบนมาตรฐานของค่าเฉลี่ย (เนื่องจากหมายถึงการกระจายตัวของค่าเฉลี่ยตัวอย่าง)

การวิเคราะห์การถดถอยโดยเฉพาะอย่างยิ่งวิธีการกำลังสองน้อยที่สุดแบบธรรมดาระบุว่าตัวแปรตามขึ้นอยู่กับตัวแปรอิสระ หนึ่งตัวหรือมากกว่านั้นตามฟังก์ชันบางอย่าง โดยมี พจน์ความคลาดเคลื่อนแบบบวกการอนุมานทางสถิติประเภทต่างๆ เกี่ยวกับการถดถอยนั้นถือว่าพจน์ความคลาดเคลื่อนมีการกระจายแบบปกติ ข้อสมมตินี้สามารถพิสูจน์ได้โดยการสมมติว่าพจน์ความคลาดเคลื่อนนั้นเป็นผลรวมของพจน์ความคลาดเคลื่อนอิสระหลายๆ พจน์ แม้ว่าพจน์ความคลาดเคลื่อนแต่ละตัวจะไม่มีการกระจายแบบปกติ แต่ตามทฤษฎีบทขีดจำกัดกลาง ผลรวมของพจน์เหล่านั้นสามารถประมาณได้ด้วยการกระจายแบบปกติได้เป็นอย่างดี

เนื่องจากมีความสำคัญต่อสถิติ จึงมีเอกสารและแพ็กเกจคอมพิวเตอร์จำนวนมากที่แสดงให้เห็นถึงการบรรจบกันที่เกี่ยวข้องกับทฤษฎีบทขีดจำกัดกลาง^{[ 47 ]}

Henk Tijmsนักคณิตศาสตร์ชาวดัตช์เขียนว่า: ^{[ 48 ]}

ทฤษฎีบทลิมิตกลางมีประวัติความเป็นมาที่น่าสนใจ ทฤษฎีบทฉบับแรกนั้นถูกเสนอโดยนักคณิตศาสตร์ชาวฝรั่งเศสชื่ออับราฮัม เดอ มัวร์ซึ่งในบทความที่โดดเด่นซึ่งตีพิมพ์ในปี 1733 ได้ใช้การแจกแจงปกติเพื่อประมาณการแจกแจงของจำนวนหัวที่ได้จากการโยนเหรียญที่ยุติธรรมหลายครั้ง การค้นพบนี้ล้ำหน้ากว่ายุคสมัยของเขามาก และเกือบจะถูกลืมไปจนกระทั่งนักคณิตศาสตร์ชาวฝรั่งเศสชื่อดังปิแอร์-ซีมง ลาปลาซ ได้ช่วยกอบกู้มันจากความลืมเลือนในงานชิ้นสำคัญของเขาคือ Théorie analytique des probabilitésซึ่งตีพิมพ์ในปี 1812 ลาปลาซได้ขยายการค้นพบของเดอ มัวร์ โดยการประมาณการแจกแจงปกติจากการแจกแจงทวินาม แต่เช่นเดียวกับเดอ มัวร์ การค้นพบของลาปลาซก็ไม่ได้รับความสนใจมากนักในยุคสมัยของเขาเอง ความสำคัญของทฤษฎีบทลิมิตกลางเพิ่งปรากฏชัดเมื่อปลายศตวรรษที่สิบเก้า ในปี 1901 เมื่ออเล็กซานเดอร์ เลียปูนอฟ นักคณิตศาสตร์ชาวรัสเซีย ได้นิยามทฤษฎีบทนี้ในเชิงทั่วไปและพิสูจน์อย่างแม่นยำว่ามันทำงานอย่างไรในทางคณิตศาสตร์ ปัจจุบัน ทฤษฎีบทลิมิตกลางถือเป็นทฤษฎีบทที่สำคัญที่สุดอย่างไม่เป็นทางการในทฤษฎีความน่าจะเป็น

เซอร์ฟรานซิส กัลตันอธิบายทฤษฎีบทขีดจำกัดกลางในลักษณะนี้: ^{[ 49 ]}

ฉันแทบไม่รู้จักสิ่งใดที่จะสร้างความประทับใจให้กับจินตนาการได้มากเท่ากับรูปแบบอันน่าอัศจรรย์ของระเบียบจักรวาลที่แสดงออกโดย "กฎแห่งความถี่ของความผิดพลาด" หากชาวกรีกรู้จักกฎนี้ พวกเขาคงจะยกย่องและบูชาให้เป็นเทพเจ้าไปแล้ว มันปกครองด้วยความสงบและถ่อมตนอย่างสมบูรณ์ท่ามกลางความสับสนวุ่นวายที่สุด ยิ่งฝูงชนมีขนาดใหญ่และยิ่งความอนาธิปไตยปรากฏมากเท่าใด อำนาจของมันก็ยิ่งสมบูรณ์แบบมากขึ้นเท่านั้น มันคือกฎสูงสุดแห่งความไร้เหตุผล เมื่อใดก็ตามที่นำตัวอย่างขนาดใหญ่ขององค์ประกอบที่วุ่นวายมาจัดเรียงตามลำดับขนาดของมัน รูปแบบของความสม่ำเสมอที่สวยงามและไม่คาดคิดก็จะปรากฏขึ้นมาโดยตลอด

คำว่า "ทฤษฎีบทขีดจำกัดกลาง" (ในภาษาเยอรมัน: "zentraler Grenzwertsatz") ถูกใช้ครั้งแรกโดยGeorge Pólyaในปี 1920 ในชื่อบทความ^{[ 50 ] [ 51 ]} Pólya เรียกทฤษฎีบทนี้ว่า "กลาง" เนื่องจากความสำคัญของมันในทฤษฎีความน่าจะเป็น ตามที่ Le Cam กล่าว โรงเรียนความน่าจะเป็นของฝรั่งเศสตีความคำว่ากลางในความหมายว่า "มันอธิบายพฤติกรรมของจุดศูนย์กลางของการกระจายเมื่อเทียบกับส่วนหาง" ^{[ 51 ]}บทคัดย่อของบทความเรื่อง"เกี่ยวกับทฤษฎีบทขีดจำกัดกลางของแคลคูลัสความน่าจะเป็นและปัญหาของโมเมนต์"โดย Pólya ^{[ 50 ]}ในปี 1920 แปลได้ดังนี้

การปรากฏของความหนาแน่นความน่าจะเป็นแบบเกาส์เซียน1 = e ^{− x 2}ในการทดลองซ้ำๆ ในข้อผิดพลาดของการวัด ซึ่งส่งผลให้เกิดการรวมกันของข้อผิดพลาดพื้นฐานจำนวนมากและเล็กน้อยมาก ในกระบวนการแพร่กระจาย ฯลฯ สามารถอธิบายได้ ดังที่ทราบกันดีอยู่แล้ว โดยทฤษฎีบทลิมิตเดียวกัน ซึ่งมีบทบาทสำคัญในแคลคูลัสของความน่าจะเป็น ผู้ค้นพบทฤษฎีบทลิมิตนี้คือลาปลาซ มีความเป็นไปได้ว่าการพิสูจน์อย่างเข้มงวดครั้งแรกนั้นมาจากเชบีเชฟ และสูตรที่ชัดเจนที่สุดเท่าที่ฉันทราบ สามารถพบได้ในบทความของเลียปูนอฟฟ์ ...

Hald ได้ให้รายละเอียดอย่างครบถ้วนเกี่ยวกับประวัติของทฤษฎีบท โดยกล่าวถึงงานพื้นฐานของ Laplace รวมถึง ผลงานของ Cauchy , BesselและPoisson ^{[ 52 ]} Hans Fischer ได้ให้ข้อมูลทางประวัติศาสตร์สองส่วน ส่วนหนึ่งครอบคลุมการพัฒนาจาก Laplace ไปจนถึง Cauchy และอีกส่วนหนึ่ง กล่าวถึงผลงานของvon Mises , Pólya , Lindeberg , LévyและCramér ในช่วงทศวรรษ 1920 ^{[ 53 ]} Le Cam อธิบายถึงช่วงเวลาประมาณปี 1935 ^{[ 51 ]} Bernstein ^{[ 54 ]}นำเสนอการอภิปรายทางประวัติศาสตร์โดยเน้นที่ผลงานของPafnuty ChebyshevและนักเรียนของเขาAndrey MarkovและAleksandr Lyapunovซึ่งนำไปสู่การพิสูจน์ CLT ครั้งแรกในบริบททั่วไป

เกร็ดความรู้ที่น่าสนใจเกี่ยวกับประวัติศาสตร์ของทฤษฎีบทขีดจำกัดกลางคือ การพิสูจน์ผลลัพธ์ที่คล้ายกับ CLT ของ Lindeberg ในปี 1922 เป็นหัวข้อวิทยานิพนธ์ของAlan Turing ในปี 1934 สำหรับ King's Collegeที่มหาวิทยาลัยเคมบริดจ์หลังจากส่งงานแล้ว Turing จึงได้รู้ว่ามีการพิสูจน์ไปแล้ว ดังนั้นวิทยานิพนธ์ของ Turing จึงไม่ได้รับการตีพิมพ์^{[ 55 ]}

• คุณสมบัติการแบ่งส่วนเท่าๆ กันแบบเชิงอะซิมโทติก
• การกระจายเชิงเส้นกำกับ
• การจัดจำหน่ายของเบตส์
• กฎของเบนฟอร์ด – ผลลัพธ์จากการขยายทฤษฎีบทขีดจำกัดส่วนกลาง (CLT) ไปสู่ผลคูณของตัวแปรสุ่ม
• ทฤษฎีบทเบอร์รี-เอสซีน
• ทฤษฎีบทลิมิตกลางสำหรับสถิติเชิงทิศทาง – การประยุกต์ใช้ทฤษฎีบทลิมิตกลางกับกรณีของสถิติเชิงทิศทาง
• วิธีเดลต้า – ใช้ในการคำนวณการแจกแจงลิมิตของฟังก์ชันของตัวแปรสุ่ม
• ทฤษฎีบท Erdős–Kacเชื่อมโยงจำนวนตัวประกอบเฉพาะของจำนวนเต็มกับความน่าจะเป็นแบบปกติ
• ทฤษฎีบท Fisher–Tippett–Gnedenko – ทฤษฎีบทลิมิตสำหรับค่าสุดขีด (เช่นmax{ X _n } )
• การแจกจ่ายของเออร์วิน-ฮอลล์
• ทฤษฎีบทลิมิตกลางของลูกโซ่มาร์คอฟ
• การกระจายแบบปกติ
• ทฤษฎีบทการลู่เข้าของทวีดี้ – ทฤษฎีบทที่สามารถถือได้ว่าเป็นสะพานเชื่อมระหว่างทฤษฎีบทลิมิตกลางและทฤษฎีบทการลู่เข้าของปัวซง^{[ 56 ]}
• ทฤษฎีบทของดอนสเกอร์