กลับไปหน้าบทความ

อ่าน 74 นาที

การกระจายแบบปกติ

เปลี่ยนทางจากพหูพจน์/การเปลี่ยนเส้นทางที่ไม่สามารถพิมพ์ได้

ฉัน(μ,σ)=(1/σ2002/σ2){\displaystyle {\mathcal {I}}(\mu ,\sigma )={\begin{pmatrix}1/\sigma ^{2}&0\\0&2/\sigma ^{2}\end{pmatrix}}}

การกระจายแบบปกติ

การกระจายแบบปกติ
ฟังก์ชันความหนาแน่นความน่าจะเป็น
เส้นโค้งสีแดงคือการแจกแจงปกติมาตรฐาน
ฟังก์ชันการกระจายสะสม
สัญกรณ์เอ็น(μ,σ2){\displaystyle {\mathcal {N}}(\mu ,\sigma ^{2})}
พารามิเตอร์μอาร์{\displaystyle \mu \in \mathbb {R} }= ค่าเฉลี่ย ( ตำแหน่ง )σ2อาร์>0{\displaystyle \sigma ^{2}\in \mathbb {R} _{>0}}= ความแปรปรวน ( มาตราส่วน ยกกำลังสอง )
สนับสนุนxอาร์{\displaystyle x\in \mathbb {R} }
พีดี12πσ2อี(xμ)22σ2{\displaystyle {\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}}
ซีดีเอฟΦ(xμσ)=12[1+เอิร์ฟ(xμσ2)]{\displaystyle \Phi \left({\frac {x-\mu }{\sigma }}\right)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x-\mu }{\sigma {\sqrt {2}}}}\right)\right]}
ควอนไทล์μ+σ2เอิร์ฟ1(2พี1){\displaystyle \mu +\sigma {\sqrt {2}}\operatorname {erf} ^{-1}(2p-1)}
หมายถึงμ{\displaystyle \mu }
ค่ามัธยฐานμ{\displaystyle \mu }
โหมดμ{\displaystyle \mu }
ความแปรปรวนσ2{\displaystyle \sigma ^{2}}
โกรธσ2เอิร์ฟ1(1/2){\displaystyle \sigma {\sqrt {2}}\,\operatorname {erf} ^{-1}(1/2)}
เอเอดีσ2/π{\textstyle \sigma {\sqrt {2/\pi }}}
ความเบี่ยงเบน0{\displaystyle 0}
ความโค้งส่วนเกิน0{\displaystyle 0}
เอนโทรปี12บันทึก(2πอีσ2){\textstyle {\tfrac {1}{2}}\log(2\pi e\sigma ^{2})}
เอ็มจีเอฟเอ็กซ์(μที+σ2ที2/2){\displaystyle \exp(\mu t+\sigma ^{2}t^{2}/2)}
ซีเอฟเอ็กซ์(ฉันμทีσ2ที2/2){\displaystyle \exp(i\mu t-\sigma ^{2}t^{2}/2)}
ข้อมูลของฟิชเชอร์

ฉัน(μ,σ)=(1/σ2002/σ2){\displaystyle {\mathcal {I}}(\mu ,\sigma )={\begin{pmatrix}1/\sigma ^{2}&0\\0&2/\sigma ^{2}\end{pmatrix}}}

ฉัน(μ,σ2)=(1/σ2001/(2σ4)){\displaystyle {\mathcal {I}}(\mu ,\sigma ^{2})={\begin{pmatrix}1/\sigma ^{2}&0\\0&1/(2\sigma ^{4})\end{pmatrix}}}
ความแตกต่าง Kullback–Leibler12{(σ0σ1)2+(μ1μ0)2σ121+lnσ12σ02}{\displaystyle {1 \over 2}\left\{\left({\frac {\sigma _{0}}{\sigma _{1}}}\right)^{2}+{\frac {(\mu _{1}-\mu _{0})^{2}}{\sigma _{1}^{2}}}-1+\ln {\sigma _{1}^{2} \over \sigma _{0}^{2}}\right\}}

ในทฤษฎีความน่าจะเป็นและสถิติ การ แจกแจงปกติหรือการแจกแจงแบบเกาส์เซียน เป็นการ แจกแจงความน่าจะเป็นแบบต่อเนื่องชนิดหนึ่งสำหรับตัวแปรสุ่มค่าจริง รูปแบบทั่วไปของฟังก์ชันความหนาแน่นความน่าจะเป็นคือ[ 1 ] [ 2 ] [ 3 ]เอฟ(x)=12πσ2เอ็กซ์((xμ)22σ2).{\displaystyle f(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\exp {\left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)}\,.} พารามิเตอร์μ{\displaystyle \mu }คือค่าเฉลี่ยหรือค่าคาดหวังของการแจกแจง (รวมถึงค่ามัธยฐานและค่าฐานนิยม ด้วย ) ในขณะที่พารามิเตอร์σ2{\textstyle \sigma ^{2}}คือค่าความแปรปรวนค่าเบี่ยงเบนมาตรฐานของการแจกแจงคือค่าบวกσ{\displaystyle \sigma }(ซิกมา) ตัวแปรสุ่มที่มีการแจกแจงแบบเกาส์เซียนเรียกว่ามีการแจกแจงแบบปกติและเรียกว่าเบนปกติ

การแจกแจงแบบปกติมีความสำคัญในทางสถิติและมักใช้ใน วิทยาศาสตร์ ธรรมชาติและสังคม เพื่อแสดง ตัวแปรสุ่มที่มีค่าจริงซึ่งไม่ทราบการแจกแจง[ 4 ] [ 5 ]ความสำคัญของการแจกแจงแบบปกติส่วนหนึ่งมาจากทฤษฎีบทขีดจำกัดกลางซึ่งระบุว่าค่าเฉลี่ยของ ตัวอย่าง (การสังเกต) ที่ เป็นอิสระทางสถิติ จำนวนมาก ของตัวแปรสุ่มที่มีค่าเฉลี่ยและความแปรปรวนจำกัดนั้นเป็นตัวแปรสุ่มเช่นกัน ซึ่งการแจกแจงจะลู่เข้าสู่การแจกแจงแบบปกติเมื่อจำนวนตัวอย่างเพิ่มขึ้น ดังนั้นปริมาณทางกายภาพที่คาดว่าจะเป็นผลรวมของกระบวนการอิสระจำนวนมาก เช่นข้อผิดพลาดในการวัดมักมีการแจกแจงที่ใกล้เคียงกับแบบปกติ[ 6 ]

ยิ่งไปกว่านั้น การแจกแจงแบบเกาส์เซียนยังมีคุณสมบัติเฉพาะบางประการที่มีคุณค่าในการศึกษาเชิงวิเคราะห์ ตัวอย่างเช่นการรวมเชิงเส้น ใดๆ ของชุดค่าเบี่ยงเบนปกติอิสระที่กำหนดไว้ ถือเป็นค่าเบี่ยงเบนปกติ ผลลัพธ์และวิธีการต่างๆ มากมาย เช่นการแพร่กระจายของความไม่แน่นอนและ การปรับพารามิเตอร์ กำลังสองน้อยที่สุด[ 7 ]สามารถหาได้ในรูปแบบที่ชัดเจนในเชิงวิเคราะห์เมื่อตัวแปรที่เกี่ยวข้องมีการแจกแจงแบบปกติ

บางครั้งการแจกแจงแบบปกติก็เรียกกันอย่างไม่เป็นทางการว่าเส้นโค้งระฆัง [ 8 ] [ 9 ] อย่างไรก็ตามการแจกแจงอื่นๆ อีกมากมายก็มีรูปร่างคล้ายระฆัง (เช่น การแจกแจงCauchy , Student's tและ การแจกแจง โลจิสติก ) (สำหรับชื่ออื่นๆ โปรดดูที่ การตั้งชื่อ )

การแจกแจงความน่าจะเป็นแบบตัวแปรเดียวได้รับการขยายความสำหรับเวกเตอร์ในการแจกแจงปกติแบบหลายตัวแปรและสำหรับเมทริกซ์ในการแจกแจงปกติแบบเมทริกซ์

คำจำกัดความ

การแจกแจงปกติมาตรฐาน

กรณีที่ง่ายที่สุดของการแจกแจงแบบปกติเรียกว่าการแจกแจงแบบปกติมาตรฐานหรือการแจกแจงแบบปกติหน่วยนี่เป็นกรณีพิเศษเมื่อμ=0{\textstyle \mu =0}และσ2=1{\textstyle \sigma ^{2}=1}และอธิบายโดยฟังก์ชันความหนาแน่นความน่าจะเป็น (หรือความหนาแน่น) นี้: [ 10 ]φ(z)=อีz2/22π.{\displaystyle \varphi (z)={\frac {e^{-z^{2}/2}}{\sqrt {2\pi }}}\,.} ตัวแปรz{\displaystyle z}มีค่าเฉลี่ยเป็น 0 และค่าความแปรปรวนและค่าเบี่ยงเบนมาตรฐานเป็น 1 ความหนาแน่นφ(z){\textstyle \varphi (z)}มีค่าสูงสุด12π{\textstyle {\frac {1}{\sqrt {2\pi }}}}ที่z=0{\textstyle z=0}และจุดเปลี่ยนที่z=+1{\textstyle z=+1}และz=1{\displaystyle z=-1} .

แม้ว่าความหนาแน่นข้างต้นจะเป็นที่รู้จักกันทั่วไปในชื่อการแจกแจงปกติมาตรฐาน แต่ก็มีผู้เขียนบางท่านที่ใช้คำนี้เพื่ออธิบายการแจกแจงปกติในรูปแบบอื่นๆ ตัวอย่างเช่น คาร์ล ฟรีดริช เกาส์เคยนิยามการแจกแจงปกติมาตรฐานไว้ว่าφ(z)=1πอีz2,{\textstyle \varphi (z)={\frac {1}{\sqrt {\pi }}}e^{-z^{2}},}ซึ่งมีค่าความแปรปรวนเท่ากับ12{\displaystyle {\tfrac {1}{2}}}และสตีเฟน สติกล์เลอร์เคยให้คำจำกัดความของค่าปกติมาตรฐานไว้ว่าφ(z)=อีπz2,{\textstyle \varphi (z)=e^{-\pi z^{2}},}ซึ่งมีรูปแบบฟังก์ชันที่เรียบง่ายและค่าความแปรปรวนของσ2=12π.{\textstyle \sigma ^{2}={\frac {1}{2\pi }}.}[ 11 ]

การกระจายปกติทั่วไป

ถ้า{\displaystyle Z}ถ้า ค่าเบี่ยงเบนมาตรฐานเป็นแล้วX=σ+μ{\textstyle X=\sigma Z+\mu }จะมีการกระจายแบบปกติโดยมีค่าเฉลี่ยμ{\displaystyle \mu }และ ค่า เบี่ยงเบนมาตรฐานσ{\displaystyle \sigma }นี่เทียบเท่ากับการกล่าวว่าการแจกแจงปกติมาตรฐาน{\displaystyle Z}สามารถปรับ ขนาด /ยืดได้ด้วยตัวคูณσ{\displaystyle \sigma }และเลื่อนโดยμ{\displaystyle \mu }เพื่อให้ได้การแจกแจงปกติที่แตกต่างกันเรียกว่าX{\displaystyle X} .

ในทางกลับกัน ถ้าX{\displaystyle X}เป็น ค่าเบี่ยงเบนปกติที่มีพารามิเตอร์μ{\displaystyle \mu }และσ2{\textstyle \sigma ^{2}}แล้วสิ่งนี้X{\displaystyle X}การกระจายสามารถปรับขนาดและเลื่อนได้โดยใช้สูตร=(Xμ)/σ{\textstyle Z=(X-\mu )/\sigma }เพื่อแปลงให้เป็นการแจกแจงปกติมาตรฐาน ตัวแปรนี้เรียกอีกอย่างว่ารูปแบบมาตรฐานของX{\displaystyle X} .

โดยเฉพาะอย่างยิ่ง ฟังก์ชันความหนาแน่นความน่าจะเป็นสำหรับX{\displaystyle X}สามารถเขียนได้ในรูปของการแจกแจงปกติมาตรฐานφ{\displaystyle \varphi }(โดยมีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนเป็นหนึ่ง): เอฟ(xμ,σ2)=1σφ(xμσ).{\displaystyle f(x\mid \mu ,\sigma ^{2})={\frac {1}{\sigma }}\varphi \left({\frac {x-\mu }{\sigma }}\right)\,.} ความหนาแน่นของความน่าจะเป็นจะต้องถูกปรับขนาดโดย1/σ{\textstyle 1/\sigma }ดังนั้นค่าอินทิกรัลจึงยังคงเป็น 1

สัญกรณ์

ฟังก์ชันความหนาแน่นความน่าจะเป็นของการแจกแจงปกติมาตรฐานมักใช้สัญลักษณ์อักษรกรีกว่าฟี ( phi )ϕ{\displaystyle \phi }[ 12 ]รูปแบบตัวแปรφ{\displaystyle \varphi }ก็ใช้เช่นกัน

ฟังก์ชันการกระจายสะสมของการกระจายปกติมาตรฐานมักใช้สัญลักษณ์อักษรกรีกตัวใหญ่ ฟี (phi ) แทนΦ{\displaystyle \Phi } .

การแจกแจงแบบปกติมักถูกเรียกว่าเอ็น(μ,σ2){\textstyle N(\mu ,\sigma ^{2})}หรือเอ็น(μ,σ2){\displaystyle {\mathcal {N}}(\mu ,\sigma ^{2})}[ 13 ]เมื่อตัวแปรสุ่มX{\displaystyle X}มีการกระจายแบบปกติโดยมีค่าเฉลี่ยμ{\displaystyle \mu }และ ค่า เบี่ยงเบนมาตรฐานσ{\displaystyle \sigma }อาจเขียนได้ว่า

X~เอ็น(μ,σ2).{\displaystyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2}).}

การกำหนดพารามิเตอร์ทางเลือก

ผู้เขียนบางท่านสนับสนุนการใช้ความแม่นยำτ{\displaystyle \tau }โดยใช้เป็นพารามิเตอร์ที่กำหนดความกว้างของการกระจาย แทนที่จะใช้ค่าเบี่ยงเบนมาตรฐานσ{\displaystyle \sigma }หรือความแปรปรวนσ2{\displaystyle \sigma ^{2}}ความแม่นยำโดยทั่วไปจะถูกกำหนดให้เป็นส่วนกลับของความแปรปรวน1/σ2{\displaystyle 1/\sigma ^{2}}[ 14 ]สูตรสำหรับการแจกจ่ายจึง กลายเป็นเอฟ(x)=τ2πอีτ(xμ)2/2.{\displaystyle f(x)={\sqrt {\frac {\tau }{2\pi }}}e^{-\tau (x-\mu )^{2}/2}.}

มีการอ้างว่าตัวเลือกนี้มีข้อดีในการคำนวณเชิงตัวเลขเมื่อσ{\displaystyle \sigma }มี ค่าใกล้เคียงศูนย์มาก และช่วยลดความซับซ้อนของสูตรในบางบริบท เช่น ในการอนุมานแบบเบย์เซียนของตัวแปรที่มีการกระจายแบบปกติหลายตัวแปร

หรืออีกทางหนึ่งคือ ส่วนกลับของค่าเบี่ยงเบนมาตรฐานτ=1/σ{\textstyle \tau '=1/\sigma }อาจนิยามได้ว่าเป็นความแม่นยำซึ่งในกรณีนี้การแสดงออกของการแจกแจงปกติจะกลายเป็น เอฟ(x)=τ2πอี(τ)2(xμ)2/2.{\displaystyle f(x)={\frac {\tau '}{\sqrt {2\pi }}}e^{-(\tau ')^{2}(x-\mu )^{2}/2}.}

ตามที่สติกลอร์กล่าว การกำหนดสูตรนี้มีข้อดีคือสูตรนั้นง่ายกว่าและจำง่ายกว่ามาก อีกทั้งยังมีสูตรประมาณค่าควอนไทล์ของการกระจายตัว ที่เรียบง่ายอีกด้วย

การแจกแจงแบบปกติก่อให้เกิดตระกูลการแจกแจงแบบเอกซ์โปเนนเชียลที่มีพารามิเตอร์ตามธรรมชาติθ1=μσ2{\textstyle \textstyle \theta _{1}={\frac {\mu }{\sigma ^{2}}}}และθ2=12σ2{\textstyle \textstyle \theta _{2}=-{\frac {1}{2\sigma ^{2}}}}และสถิติธรรมชาติxและx 2พารามิเตอร์ความคาดหวังคู่สำหรับการแจกแจงปกติคือη = μและη = μ 2 + σ 2

ฟังก์ชันการกระจายสะสม

ฟังก์ชันการกระจายสะสม (CDF) ของการกระจายปกติมาตรฐาน ซึ่งโดยปกติจะใช้อักษรกรีกตัวใหญ่แทนΦ{\displaystyle \Phi }คือปริพันธ์ Φ(x)=12πxอีที2/2ที.{\displaystyle \Phi (x)={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x}e^{-t^{2}/2}\,dt\,.}

ฟังก์ชันข้อผิดพลาดที่เกี่ยวข้องเอิร์ฟ(x){\textstyle \operatorname {erf} (x)}ให้ความน่าจะเป็นที่ตัวแปรสุ่ม ซึ่งมีการแจกแจงแบบปกติโดยมีค่าเฉลี่ย 0 และความแปรปรวน 1/2 จะตกอยู่ในช่วง[x,x]{\displaystyle [-x,x]}นั่นคือ: เอิร์ฟ(x)=1πxxอีที2ที=2π0xอีที2ที.{\displaystyle \operatorname {erf} (x)={\frac {1}{\sqrt {\pi }}}\int _{-x}^{x}e^{-t^{2}}\,dt={\frac {2}{\sqrt {\pi }}}\int _{0}^{x}e^{-t^{2}}\,dt\,.}

อินทิกรัลเหล่านี้ไม่สามารถแสดงในรูปของฟังก์ชันพื้นฐานได้ และมักถูกเรียกว่าฟังก์ชันพิเศษอย่างไรก็ตาม มีวิธีการประมาณค่าเชิงตัวเลขมากมายที่เป็นที่รู้จัก โปรดดูรายละเอียดเพิ่มเติมด้านล่าง

หน้าที่ทั้งสองมีความสัมพันธ์กันอย่างใกล้ชิด กล่าวคือ Φ(x)=12[1+เอิร์ฟ(x2)].{\displaystyle \Phi (x)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x}{\sqrt {2}}}\right)\right].}

สำหรับการแจกแจงปกติทั่วไปที่มีความหนาแน่นเอฟ{\displaystyle f},หมายถึงμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}ฟังก์ชันการกระจายสะสมคือ เอฟ(x)=Φ(xμσ)=12[1+เอิร์ฟ(xμσ2)].{\displaystyle F(x)=\Phi {\left({\frac {x-\mu }{\sigma }}\right)}={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x-\mu }{\sigma {\sqrt {2}}}}\right)\right].}

ความน่าจะเป็นที่xอยู่ระหว่างaและbโดยที่a < bคือ[ 15 ] : 84พี(เอ<x)=12[เอิร์ฟ(μσ2)เอิร์ฟ(เอμσ2)]{\displaystyle \operatorname {P} (a<x\leq b)={\frac {1}{2}}\left[\operatorname {erf} \left({\frac {b-\mu }{\sigma {\sqrt {2}}}}\right)-\operatorname {erf} \left({\frac {a-\mu }{\sigma {\sqrt {2}}}}\right)\right]}

ส่วนเติมเต็มของฟังก์ชันการกระจายสะสมปกติมาตรฐานคิว(x)=1Φ(x){\textstyle Q(x)=1-\Phi (x)}มักเรียกว่าฟังก์ชัน Qโดยเฉพาะในตำราวิศวกรรม[ 16 ] [ 17 ]มันให้ความน่าจะเป็นที่ค่าของตัวแปรสุ่มปกติมาตรฐานX{\displaystyle X}จะเกินx{\displaystyle x}: พี(X>x){\displaystyle P(X>x)}คำจำกัดความอื่นๆ ของคิว{\displaystyle Q}-ฟังก์ชัน ซึ่งทั้งหมดเป็นการแปลงอย่างง่ายของΦ{\displaystyle \Phi }ยังถูกใช้เป็นครั้งคราวอีกด้วย [ 18 ]

กราฟ ของฟังก์ชันการ กระจาย สะสมแบบ ปกติมาตรฐานΦ{\displaystyle \Phi }มีสมมาตรการหมุน 2 เท่ารอบจุด (0,1/2) กล่าวคือΦ(x)=1Φ(x){\displaystyle \Phi (-x)=1-\Phi (x)} .อนุพันธ์ผกผัน (ปริพันธ์ไม่จำกัดขอบเขต) ของมันสามารถแสดงได้ดังนี้: Φ(x)x=xΦ(x)+φ(x)+ซี.{\displaystyle \int \Phi (x)\,dx=x\Phi (x)+\varphi (x)+C.}

สามารถหาการขยายอนุกรมเชิงอะซิมโทติกของฟังก์ชันการกระจายสะสมสำหรับค่าx มากๆ ได้โดยใช้ การอินทิเกรตโดยส่วน : Φ(x)=12+12πอีx2/2n=01(2n+1)!!x2n+1.{\displaystyle \Phi (x)={\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}e^{-x^{2}/2}\sum _{n=0}^{\infty }{\frac {1}{(2n+1)!!}}x^{2n+1}\,.} ที่ไหน!!{\textstyle !!} หมายถึงแฟกทอเรียลคู่สำหรับข้อมูลเพิ่มเติม โปรดดูที่ฟังก์ชันข้อผิดพลาด §  การขยายอนุกรมอสิมโทติก [ 19 ]

การแสดงผลแบบอนุกรมเทย์เลอร์

อนุกรมเทย์เลอร์สำหรับการแจกแจงปกติφ{\displaystyle \varphi }สามารถหาได้โดยการแทนที่12x2{\displaystyle -{\tfrac {1}{2}}x^{2}}เข้าสู่ชุดอนุกรมเทย์เลอร์สำหรับฟังก์ชันเลขชี้กำลัง : [ 20 ]

φ(x)=12πn=0(1)nn!2nx2n{\displaystyle \varphi (x)={\frac {1}{\sqrt {2\pi }}}\sum _{n=0}^{\infty }{\frac {(-1)^{n}}{n!\,2^{n}}}x^{2n}}

อนุกรมนี้สามารถบูรณาการทีละเทอมเพื่อให้ได้อนุกรมเทย์เลอร์สำหรับฟังก์ชันการกระจายสะสม: [ 21 ]

Φ(x)=12+12πn=0(1)nn!2n(2n+1)x2n+1.{\displaystyle \Phi (x)={\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}\sum _{n=0}^{\infty }{\frac {(-1)^{n}}{n!\,2^{n}(2n+1)}}x^{2n+1}.} อย่างไรก็ตาม อนุกรมนี้ไม่มีประสิทธิภาพสำหรับการคำนวณเนื่องจากการลู่เข้าช้า ยกเว้นในกรณีx{\displaystyle x}มีขนาดเล็ก [ 21 ]

อนุกรมทั้งสองนี้อธิบายฟังก์ชันทั้งหมดซึ่งลู่เข้าสำหรับค่าจริงและค่าเชิงซ้อนทั้งหมดของx{\displaystyle x} .

การคำนวณแบบเรียกซ้ำด้วยอนุกรมเทย์เลอร์

ความสัมพันธ์เวียนเกิดสำหรับพหุนามเฮอร์ไมต์He ( x )สามารถใช้สร้าง การขยายอนุกรม เทย์เลอร์รอบจุดx ใดๆ ได้อย่างมีประสิทธิภาพ : Φ(x)=n=0Φ(n)(x0)n!(xx0)n,{\displaystyle \Phi (x)=\sum _{n=0}^{\infty }{\frac {\Phi ^{(n)}(x_{0})}{n!}}(x-x_{0})^{n}\,,} ที่ไหน: Φ(0)(x0)=12πx0อีที2/2ทีΦ(1)(x0)=12πอีx02/2Φ(n)(x0)=(x0Φ(n1)(x0)+(n2)Φ(n2)(x0)),n2.{\displaystyle {\begin{aligned}\Phi ^{(0)}(x_{0})&={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x_{0}}e^{-t^{2}/2}\,dt\\\Phi ^{(1)}(x_{0})&={\frac {1}{\sqrt {2\pi }}}e^{-x_{0}^{2}/2}\\\Phi ^{(n)}(x_{0})&=-\left(x_{0}\Phi ^{(n-1)}(x_{0})+(n-2)\Phi ^{(n-2)}(x_{0})\right),&n\geq 2\,.\end{aligned}}}

ค่าเบี่ยงเบนมาตรฐานและความครอบคลุม

สำหรับการแจกแจงแบบปกติ ค่าที่น้อยกว่าหนึ่งส่วนเบี่ยงเบนมาตรฐานจากค่าเฉลี่ยคิดเป็น 68.27% ของชุดข้อมูล ในขณะที่ค่าที่สองส่วนเบี่ยงเบนมาตรฐานจากค่าเฉลี่ยคิดเป็น 95.45% และค่าที่สามส่วนเบี่ยงเบนมาตรฐานคิดเป็น 99.73%

ประมาณ 68% ของค่าที่ดึงมาจากการแจกแจงปกติจะอยู่ภายในหนึ่งส่วนเบี่ยงเบนมาตรฐานσจากค่าเฉลี่ย ประมาณ 95% ของค่าจะอยู่ภายในสองส่วนเบี่ยงเบนมาตรฐาน และประมาณ 99.7% จะอยู่ภายในสามส่วนเบี่ยงเบนมาตรฐาน[ 8 ]นี่เป็นที่รู้จักกันในชื่อกฎ 68–95–99.7 (เชิงประจักษ์)หรือกฎ 3 ซิกมา

กล่าวโดยละเอียดคือ ความน่าจะเป็นที่ค่าเบี่ยงเบนมาตรฐานจะอยู่ในช่วงระหว่างμnσ{\textstyle \mu -n\sigma }และμ+nσ{\textstyle \mu +n\sigma }ได้รับจาก เอฟ(μ+nσ)เอฟ(μnσ)=Φ(n)Φ(n)=เอิร์ฟ(n2).{\displaystyle F(\mu +n\sigma )-F(\mu -n\sigma )=\Phi (n)-\Phi (-n)=\operatorname {erf} \left({\frac {n}{\sqrt {2}}}\right).} เมื่อปัดเศษให้เหลือ 12 หลักสำคัญ ค่าสำหรับn=1,2,,6{\textstyle n=1,2,\ldots ,6}เป็น:

n{\displaystyle n}พี=เอฟ(μ+nσ)เอฟ(μnσ){\textstyle p=F(\mu +n\sigma )-F(\mu -n\sigma )}1พี{\textstyle 1-p}หรือ 1 ใน (1พี){\textstyle {\text{or }}1{\text{ in }}(1-p)}โออีไอเอส
10.682 689 492 1370.317 310 507 863
3.151 487 187 53
OEIS : A178647 
20.954 499 736 1040.045 500 263 896
21.977 894 5080
OEIS : A110894 
30.997 300 203 9370.002 699 796 063
370.398 347 345
OEIS : A270712 
40.999 936 657 5160.000 063 342 484
15 787.192 7673
50.999 999 426 6970.000 000 573 303
1 744 277.893 62
60.999 999 998 0270.000 000 001 973
506 797 345.897

สำหรับขนาดใหญ่n{\displaystyle n}เราสามารถใช้การประมาณค่าได้1พี2nπอีn2{\displaystyle 1-p\approx {\frac {\sqrt {2}}{n{\sqrt {\pi e^{n^{2}}}}}}}

ฟังก์ชันควอนไทล์

ฟังก์ชันควอนไทล์ของการแจกแจงคือส่วนกลับของฟังก์ชันการแจกแจงสะสม ฟังก์ชันควอนไทล์ของการแจกแจงปกติมาตรฐานเรียกว่าฟังก์ชันโพรบิตและสามารถแสดงได้ในรูปของฟังก์ชันความคลาดเคลื่อน ผกผัน : Φ1(พี)=2เอิร์ฟ1(2พี1),พี(0,1).{\displaystyle \Phi ^{-1}(p)={\sqrt {2}}\operatorname {erf} ^{-1}(2p-1),\quad p\in (0,1).} สำหรับตัวแปรสุ่มปกติที่มีค่าเฉลี่ยμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}ฟังก์ชันควอนไทล์คือ เอฟ1(พี)=μ+σΦ1(พี)=μ+σ2เอิร์ฟ1(2พี1),พี(0,1).{\displaystyle F^{-1}(p)=\mu +\sigma \Phi ^{-1}(p)=\mu +\sigma {\sqrt {2}}\operatorname {erf} ^{-1}(2p-1),\quad p\in (0,1).}วอนไทล์Φ1(พี){\textstyle \Phi ^{-1}(p)}โดยทั่วไปแล้ว ค่าของการกระจายแบบปกติมาตรฐานจะถูกแสดงด้วยสัญลักษณ์zพี{\displaystyle z_{p}}ค่าเหล่านี้ใช้ในการทดสอบสมมติฐานการสร้างช่วงความเชื่อมั่นและแผนภาพ Q-Qตัวแปรสุ่มปกติX{\displaystyle X}จะเกินμ+zพีσ{\textstyle \mu +z_{p}\sigma }ด้วยความน่าจะเป็น1พี{\textstyle 1-p}และจะอยู่นอกช่วงเวลาμ±zพีσ{\textstyle \mu \pm z_{p}\sigma }ด้วยความน่าจะเป็น2(1พี){\displaystyle 2(1-p)}โดยเฉพาะอย่างยิ่ง ควอนไทล์z0.975{\textstyle z_{0.975}}มีค่าเท่ากับ1.96ดังนั้นตัวแปรสุ่มปกติจะอยู่นอกช่วงดังกล่าวμ±1.96σ{\textstyle \mu \pm 1.96\sigma }เกิดขึ้นเพียง 5% ของกรณีเท่านั้น

ตารางต่อไปนี้แสดงค่าควอนไทล์zพี{\textstyle z_{p}}โดยที่X{\displaystyle X}จะอยู่ในช่วงμ±zพีσ{\textstyle \mu \pm z_{p}\sigma }ด้วยความน่าจะเป็นที่กำหนดไว้พี{\displaystyle p}ค่าเหล่านี้มีประโยชน์ในการกำหนดช่วงความคลาดเคลื่อนสำหรับค่าเฉลี่ยตัวอย่างและตัวประมาณ ทางสถิติอื่นๆ ที่มีการแจกแจงแบบปกติ (หรือ แบบปกติ เชิงอะซิมโทติก ) [ 22 ]ตารางต่อไปนี้แสดง2เอิร์ฟ1(พี)=Φ1(พี+12){\textstyle {\sqrt {2}}\operatorname {erf} ^{-1}(p)=\Phi ^{-1}\left({\frac {p+1}{2}}\right)}, ไม่Φ1(พี){\textstyle \Phi ^{-1}(p)}ตามที่ได้นิยามไว้ข้างต้น

พี{\displaystyle p}zพี{\textstyle z_{p}} พี{\displaystyle p}zพี{\textstyle z_{p}}
0.801.281 551 565 5450.9993.290 526 731 492
0.901.644 853 626 9510.99993.890 591 886 413
0.951.959 963 984 5400.999994.417 173 413 469
0.982.326 347 874 0410.9999994.891 638 475 699
0.992.575 829 303 5490.99999995.326 723 886 384
0.9952.807 033 768 3440.999999995.730 728 868 236
0.9983.090 232 306 1680.9999999996.109 410 204 869

สำหรับขนาดเล็กพี{\displaystyle p}ฟังก์ชันควอนไทล์มีการขยายอนุกรมเชิงอะซิมโทติกที่ มีประโยชน์Φ1(พี)=ln1พี2lnln1พี2ln(2π)+โอ(1).{\textstyle \Phi ^{-1}(p)=-{\sqrt {\ln {\frac {1}{p^{2}}}-\ln \ln {\frac {1}{p^{2}}}-\ln(2\pi )}}+{\mathcal {o}}(1).}

การใช้การหาค่ารากเพื่อคำนวณฟังก์ชันควอนไทล์

วิธีการใดๆ ที่กล่าวมาสำหรับการคำนวณฟังก์ชันการกระจายสะสมΦ(x){\textstyle \Phi (x)}สามารถใช้ร่วมกับวิธีของนิวตัน (หรืออัลกอริทึมการหาค่าราก อื่นๆ เช่นวิธีของฮัลลีย์ ) เพื่อหาค่าของx{\displaystyle x}ซึ่งΦ(x)=q{\displaystyle \Phi (x)=q}สำหรับควอนไทล์ที่ต้องการq{\displaystyle q}ตัวอย่างเช่น เริ่มต้นด้วยการคาดเดาเบื้องต้นที่ถูกต้องโดยประมาณx0{\displaystyle x_{0}}การประมาณค่า ที่ดีขึ้นเรื่อยx1{\displaystyle x_{1}}, x2{\displaystyle x_{2}}...สามารถคำนวณซ้ำได้โดยใช้วิธีของนิวตันด้วย xn=xn1Φ(xn1)qφ(xn1).{\displaystyle x_{n}=x_{n-1}-{\frac {\Phi (x_{n-1})-q}{\varphi (x_{n-1})}}\,.}

คุณสมบัติ

การแจกแจงปกติเป็นการแจกแจงเดียวที่ค่าสะสมนอกเหนือจากสองค่าแรก (เช่น นอกเหนือจากค่าเฉลี่ยและความแปรปรวน ) เป็นศูนย์ นอกจากนี้ยังเป็นการแจกแจงต่อเนื่องที่มีเอนโทรปีสูงสุดสำหรับค่าเฉลี่ยและความแปรปรวนที่กำหนด[ 23 ] [ 24 ] Gearyได้แสดงให้เห็นแล้วว่า หากสมมติว่าค่าเฉลี่ยและความแปรปรวนมีค่าจำกัด การแจกแจงปกติเป็นการแจกแจงเดียวที่ค่าเฉลี่ยและความแปรปรวนที่คำนวณจากชุดของการสุ่มตัวอย่างอิสระจะเป็นอิสระต่อกัน[ 25 ] [ 26 ]

การแจกแจงปกติเป็นกลุ่มย่อยของการแจกแจงแบบวงรีการแจกแจงปกติมีความสมมาตรเกี่ยวกับค่าเฉลี่ย และมีค่าไม่เป็นศูนย์ตลอดช่วงเส้นจำนวนจริง ดังนั้นจึงอาจไม่ใช่แบบจำลองที่เหมาะสมสำหรับตัวแปรที่มีค่าเป็นบวกโดยธรรมชาติหรือมีการเบี่ยงเบนอย่างมาก เช่นน้ำหนักของบุคคลหรือราคาหุ้นตัวแปรดังกล่าวอาจอธิบายได้ดีกว่าด้วยการแจกแจงอื่นๆ เช่นการแจกแจงแบบลอการิทึมปกติหรือการแจกแจงแบบพาเรโต

ค่าความหนาแน่นปกติจะมีค่าเกือบเป็นศูนย์เมื่อค่าx{\displaystyle x}ค่าเบี่ยงเบนมาตรฐานที่อยู่ห่างจากค่าเฉลี่ยมากกว่าสองสามค่า(เช่น การกระจายตัวสามค่าเบี่ยงเบนมาตรฐานครอบคลุมเกือบทั้งหมด ยกเว้น 0.27% ของการกระจายตัวทั้งหมด) ดังนั้น แบบจำลองนี้อาจไม่เหมาะสมเมื่อคาดว่าจะมีค่าผิดปกติ จำนวนมาก —ค่าที่อยู่ห่างจากค่าเฉลี่ยหลายค่าเบี่ยงเบนมาตรฐาน— และวิธีการกำลังสองน้อยที่สุดและ วิธี การอนุมานทางสถิติ อื่นๆ ที่เหมาะสมที่สุดสำหรับตัวแปรที่มีการกระจายแบบปกติ มักจะไม่น่าเชื่อถืออย่างยิ่งเมื่อนำไปใช้กับข้อมูลดังกล่าว ในกรณีเหล่านั้นควรสันนิษฐานว่าเป็นการกระจายแบบหางหนัก และ ใช้วิธีการอนุมานทางสถิติที่แข็งแกร่ง ที่เหมาะสม

การแจกแจงแบบเกาส์เซียนจัดอยู่ในกลุ่มของการแจกแจงแบบเสถียรซึ่งเป็นตัวดึงดูดของผลรวมของ การแจกแจง แบบอิสระที่เหมือนกันไม่ว่าค่าเฉลี่ยหรือความแปรปรวนจะมีค่าจำกัดหรือไม่ก็ตาม ยกเว้นการแจกแจงแบบเกาส์เซียนซึ่งเป็นกรณีจำกัด การแจกแจงแบบเสถียรทั้งหมดจะมีหางที่หนาและมีความแปรปรวนอนันต์ การแจกแจงแบบเกาส์เซียนเป็นหนึ่งในไม่กี่การแจกแจงแบบเสถียรที่มีฟังก์ชันความหนาแน่นความน่าจะเป็นที่สามารถแสดงออกมาในเชิงวิเคราะห์ได้ การแจกแจงแบบอื่น ๆ ได้แก่การแจกแจงแบบโคชีและการแจกแจงแบบเลวี

สมมาตรและอนุพันธ์

การแจกแจงปกติที่มีความหนาแน่นเอฟ(x){\textstyle f(x)}(ค่าเฉลี่ยμ{\displaystyle \mu }และความแปรปรวนσ2>0{\textstyle \sigma ^{2}>0}) มีคุณสมบัติดังต่อไปนี้:

  • มันสมมาตรกันรอบจุดนั้นx=μ,{\textstyle x=\mu ,}ซึ่งในขณะเดียวกันก็เป็นโหมด มัธยฐานและค่าเฉลี่ยของการกระจาย[ 27 ]
  • มีลักษณะเป็นแบบยอดเดียว : อนุพันธ์อันดับแรกเป็นบวกสำหรับx<μ,{\textstyle x<\mu ,}เชิงลบสำหรับx>μ,{\textstyle x>\mu ,}และศูนย์เท่านั้นที่x=μ.{\textstyle x=\mu .}
  • พื้นที่ที่ล้อมรอบด้วยเส้นโค้งและx{\displaystyle x}แกน xมีค่าเท่ากับหนึ่ง (กล่าวคือเท่ากับหนึ่ง)
  • อนุพันธ์อันดับแรกของมันคือเอฟ(x)=xμσ2เอฟ(x).{\textstyle f'(x)=-{\frac {x-\mu }{\sigma ^{2}}}f(x).}
  • อนุพันธ์อันดับสองของมันคือเอฟ"(x)=(xμ)2σ2σ4เอฟ(x).{\textstyle f''(x)={\frac {(x-\mu )^{2}-\sigma ^{2}}{\sigma ^{4}}}f(x).}
  • ความหนาแน่นของมันมีจุดเปลี่ยนความโค้ง สองจุด (ซึ่งอนุพันธ์อันดับสองของเอฟ{\displaystyle f}เป็นศูนย์และเปลี่ยนเครื่องหมาย) ซึ่งอยู่ห่างจากค่าเฉลี่ยหนึ่งส่วนเบี่ยงเบนมาตรฐาน กล่าวคือที่x=μσ{\textstyle x=\mu -\sigma }และx=μ+σ.{\textstyle x=\mu +\sigma .}[ 27 ]
  • ความหนาแน่นของมันเป็นลอการิทึมเว้า[ 27 ]
  • ความหนาแน่นของมันสามารถหาอนุพันธ์ได้ ไม่จำกัดครั้ง จริงๆ แล้วเรียบมากเป็นอันดับ 2 [ 28 ]

นอกจากนี้ ความหนาแน่นφ{\displaystyle \varphi }ของการแจกแจงปกติมาตรฐาน (เช่นμ=0{\textstyle \mu =0}และσ=1{\textstyle \sigma =1}) ยังมีคุณสมบัติดังต่อไปนี้:

  • อนุพันธ์อันดับแรกของมันคือφ(x)=xφ(x).{\textstyle \varphi '(x)=-x\varphi (x).}
  • อนุพันธ์อันดับสองของมันคือφ"(x)=(x21)φ(x){\textstyle \varphi ''(x)=(x^{2}-1)\varphi (x)}
  • โดยทั่วไปแล้ว อนุพันธ์อันดับที่ n ของมัน คือφ(n)(x)=(1)nเขาn(x)φ(x),{\textstyle \varphi ^{(n)}(x)=(-1)^{n}\operatorname {He} _{n}(x)\varphi (x),}ที่ไหนเขาn(x){\textstyle \operatorname {He} _{n}(x)}คือพหุนามเฮอร์ไมต์ลำดับที่n (ความน่าจะเป็น) [ 29 ]
  • ความน่าจะเป็นที่ตัวแปรที่มีการแจกแจงแบบปกติX{\displaystyle X}ด้วยความรู้μ{\displaystyle \mu }และσ2{\textstyle \sigma ^{2}}อยู่ในชุดข้อมูลเฉพาะ สามารถคำนวณได้โดยพิจารณาจากเศษส่วน=(Xμ)/σ{\textstyle Z=(X-\mu )/\sigma }มีการกระจายแบบปกติมาตรฐาน

ช่วงเวลา

โมเมนต์ธรรมดาและสัมบูรณ์ของตัวแปรX{\displaystyle X}คือค่าที่คาดหวังของXพี{\textstyle X^{p}}และ|X|พี{\textstyle |X|^{p}}ตามลำดับ หากค่าที่คาดหวังμ{\displaystyle \mu }ของX{\displaystyle X}ถ้าค่าของ ⁠เป็นศูนย์ พารามิเตอร์เหล่านี้เรียกว่าโมเมนต์กลางมิฉะนั้น พารามิเตอร์เหล่านี้เรียกว่าโมเมนต์ไม่กลางโดยปกติแล้วเราจะสนใจเฉพาะโมเมนต์ที่มีอันดับเป็นจำนวนเต็มเท่านั้นพี{\displaystyle p} .

ถ้าX{\displaystyle X}มีการกระจายแบบปกติ โมเมนต์ที่ไม่เป็นศูนย์กลางมีอยู่และมีค่าจำกัดสำหรับทุกพี{\displaystyle p}ซึ่งส่วนจริงมีค่ามากกว่า −1 สำหรับจำนวนเต็มที่ไม่เป็นลบใดพี{\displaystyle p}ช่วงเวลาศูนย์กลางธรรมดาคือ: [ 30 ]อี[(Xμ)พี]={0ถ้า พี มันแปลกนะσพี(พี1)!!ถ้า พี เท่ากัน{\displaystyle \operatorname {E} \left[(X-\mu )^{p}\right]={\begin{cases}0&{\text{if }}p{\text{ is odd,}}\\\sigma ^{p}(p-1)!!&{\text{if }}p{\text{ is even.}}\end{cases}}} ที่นี่n!!{\textstyle n!!}หมายถึงแฟกทอเรียลคู่ซึ่งก็คือผลคูณของจำนวนทั้งหมดตั้งแต่n{\displaystyle n}ถึง 1 ที่มีพาริ ตี เดียวกันกับn.{\textstyle n.}

โมเมนต์สัมบูรณ์ศูนย์กลางจะตรงกับโมเมนต์ธรรมดาสำหรับลำดับคู่ทั้งหมด แต่จะไม่เป็นศูนย์สำหรับลำดับคี่ สำหรับจำนวนเต็มที่ไม่เป็นลบใดๆพี,{\textstyle p,}

อี[|Xμ|พี]=σพี(พี1)!!{2πถ้า พี มันแปลก1ถ้า พี แม้กระทั่ง=σพี2พี/2Γ(พี+12)π.{\displaystyle {\begin{aligned}\operatorname {E} \left[|X-\mu |^{p}\right]&=\sigma ^{p}(p-1)!!\cdot {\begin{cases}{\sqrt {\frac {2}{\pi }}}&{\text{if }}p{\text{ is odd}}\\1&{\text{if }}p{\text{ is even}}\end{cases}}\\[8pt]&=\sigma ^{p}\cdot {\frac {2^{p/2}\Gamma \left({\frac {p+1}{2}}\right)}{\sqrt {\pi }}}.\end{aligned}}} สูตรสุดท้ายนี้ใช้ได้กับจำนวนที่ไม่ใช่จำนวนเต็มด้วยเช่นกันพี>1.{\textstyle p>-1.}เมื่อค่าเฉลี่ยμ0,{\textstyle \mu \neq 0,}โมเมนต์ธรรมดาและโมเมนต์สัมบูรณ์สามารถแสดงได้ในรูปของฟังก์ชันไฮเปอร์จีโอเมตริกที่บรรจบกัน1เอฟ1{\textstyle {}_{1}F_{1}}และยู.{\textstyle U.}[ 31 ]อี[Xพี]=σพี(ฉัน2)พียู(พี2,12,μ22σ2),อี[|X|พี]=σพี2พี/2Γ(1+พี2)π1เอฟ1(พี2,12,μ22σ2).{\displaystyle {\begin{aligned}\operatorname {E} \left[X^{p}\right]&=\sigma ^{p}\cdot {\left(-i{\sqrt {2}}\right)}^{p}\,U{\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {\mu ^{2}}{2\sigma ^{2}}}\right)},\\\operatorname {E} \left[|X|^{p}\right]&=\sigma ^{p}\cdot 2^{p/2}{\frac {\Gamma {\left({\frac {1+p}{2}}\right)}}{\sqrt {\pi }}}\,{}_{1}F_{1}{\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {\mu ^{2}}{2\sigma ^{2}}}\right)}.\end{aligned}}}

นิพจน์เหล่านี้ยังคงใช้ได้แม้ในกรณีที่พี>1{\displaystyle p>-1}ไม่ใช่จำนวนเต็ม ดูเพิ่มเติมที่พหุนามเฮอร์ไมต์แบบทั่วไป

คำสั่งช่วงเวลาที่ไม่เป็นศูนย์กลางอี[Xพี]{\displaystyle \operatorname {E} \left[X^{p}\right]}ช่วงเวลาสำคัญอี[(Xμ)พี]{\displaystyle \operatorname {E} \left[(X-\mu )^{p}\right]}
01{\displaystyle 1}1{\displaystyle 1}
1μ{\displaystyle \mu }0{\displaystyle 0}
2μ2+σ2{\textstyle \mu ^{2}+\sigma ^{2}}σ2{\textstyle \sigma ^{2}}
3μ3+3μσ2{\textstyle \mu ^{3}+3\mu \sigma ^{2}}0{\displaystyle 0}
4μ4+6μ2σ2+3σ4{\textstyle \mu ^{4}+6\mu ^{2}\sigma ^{2}+3\sigma ^{4}}3σ4{\textstyle 3\sigma ^{4}}
5μ5+10μ3σ2+15μσ4{\textstyle \mu ^{5}+10\mu ^{3}\sigma ^{2}+15\mu \sigma ^{4}}0{\displaystyle 0}
6μ6+15μ4σ2+45μ2σ4+15σ6{\textstyle \mu ^{6}+15\mu ^{4}\sigma ^{2}+45\mu ^{2}\sigma ^{4}+15\sigma ^{6}}15σ6{\textstyle 15\sigma ^{6}}
7μ7+21μ5σ2+105μ3σ4+105μσ6{\textstyle \mu ^{7}+21\mu ^{5}\sigma ^{2}+105\mu ^{3}\sigma ^{4}+105\mu \sigma ^{6}}0{\displaystyle 0}
8μ8+28μ6σ2+210μ4σ4+420μ2σ6+105σ8{\textstyle \mu ^{8}+28\mu ^{6}\sigma ^{2}+210\mu ^{4}\sigma ^{4}+420\mu ^{2}\sigma ^{6}+105\sigma ^{8}}105σ8{\textstyle 105\sigma ^{8}}

ความคาดหวังของX{\displaystyle X}โดยมีเงื่อนไขว่าเหตุการณ์นั้นX{\displaystyle X}ตั้งอยู่ในช่วงเวลาหนึ่ง[เอ,]{\textstyle [a,b]}ได้รับจาก อี[Xเอ<X<]=μσ2เอฟ()เอฟ(เอ)เอฟ()เอฟ(เอ),{\displaystyle \operatorname {E} \left[X\mid a<X<b\right]=\mu -\sigma ^{2}{\frac {f(b)-f(a)}{F(b)-F(a)}}\,,} ที่ไหนเอฟ{\displaystyle f}และเอฟ{\displaystyle F}โดย ที่คือความหนาแน่นและฟังก์ชันการกระจายสะสมของ ตามลำดับX{\displaystyle X}สำหรับ={\textstyle b=\infty }นี่คือสิ่งที่เรียกว่าอัตราส่วนมิลส์ผกผันโปรดสังเกตว่าข้างต้น ความหนาแน่นเอฟ{\displaystyle f}ของX{\displaystyle X}ใช้แทนความหนาแน่นปกติมาตรฐาน เช่น ในอัตราส่วนมิลส์ผกผัน ดังนั้นในที่นี้เราจึงมีσ2{\textstyle \sigma ^{2}}แทนที่จะเป็นσ{\displaystyle \sigma } .

การแปลงฟูริเยร์และฟังก์ชันลักษณะเฉพาะ

การแปลงฟูริเยร์ของความหนาแน่นปกติเอฟ{\displaystyle f}โดยมีค่าเฉลี่ยμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}คือ[ 32 ]

เอฟ^(ที)=เอฟ(x)อีฉันทีxx=อีฉันμทีอี12σ2ที2,{\displaystyle {\hat {f}}(t)=\int _{-\infty }^{\infty }f(x)e^{-itx}\,dx=e^{-i\mu t}e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}\,,}

ที่ไหนฉัน{\displaystyle i}คือหน่วยจินตนาการถ้าค่าเฉลี่ยμ=0{\textstyle \mu =0}โดยปัจจัยแรกคือ 1 และการแปลงฟูริเยร์นั้น นอกเหนือจากปัจจัยคงที่แล้ว ยังเป็นความหนาแน่นปกติในโดเมนความถี่โดยมีค่าเฉลี่ย 0 และความแปรปรวน1/σ2{\displaystyle 1/\sigma ^{2}}โดย เฉพาะอย่างยิ่ง การแจกแจงปกติมาตรฐานφ{\displaystyle \varphi }เป็นฟังก์ชันเฉพาะของการแปลงฟูริเยร์

ในทฤษฎีความน่าจะเป็น การแปลงฟู ริเยร์ของการกระจายความน่าจะเป็นของตัวแปรสุ่มค่าจริงX{\displaystyle X}มีความเชื่อมโยงอย่างใกล้ชิดกับฟังก์ชันลักษณะเฉพาะφX(ที){\textstyle \varphi _{X}(t)}ของตัวแปรนั้น ซึ่งถูกกำหนดให้เป็นค่าที่คาดหวังของอีฉันทีX{\textstyle e^{itX}}โดยเป็นฟังก์ชันของตัวแปรจริงที{\displaystyle t}(พารามิเตอร์ความถี่ของการแปลงฟูริเยร์) คำจำกัดความนี้สามารถขยายไปสู่ตัวแปรค่าเชิงซ้อนได้โดยใช้การวิเคราะห์ที{\displaystyle t}[ 33 ]ความสัมพันธ์ระหว่างทั้งสอง คือ:φX(ที)=เอฟ^(ที).{\displaystyle \varphi _{X}(t)={\hat {f}}(-t)\,.}

ส่วนที่เป็นจริงและส่วนที่เป็นจินตนาการของเอฟ^(ที)=อี[อีฉันทีx]=อีฉันμทีอี12σ2ที2{\displaystyle {\hat {f}}(t)=\operatorname {E} [e^{-itx}]=e^{-i\mu t}e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}}ให้: อี[คอส(ทีx)]=คอส(μที)อี12σ2ที2{\displaystyle \operatorname {E} [\cos(tx)]=\cos(\mu t)e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}}และ อี[บาป(ทีx)]=บาป(μที)อี12σ2ที2.{\displaystyle \operatorname {E} [\sin(tx)]=\sin(\mu t)e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}.}

ในทำนองเดียวกัน อี[ไม้กระบอง(ทีx)]=ไม้กระบอง(μที)อี12σ2ที2{\displaystyle \operatorname {E} [\cosh(tx)]=\cosh(\mu t)e^{{\frac {1}{2}}\sigma ^{2}t^{2}}}และ อี[สินห์(ทีx)]=สินห์(μที)อี12σ2ที2.{\displaystyle \operatorname {E} [\sinh(tx)]=\sinh(\mu t)e^{{\frac {1}{2}}\sigma ^{2}t^{2}}.}

สูตรเหล่านี้ได้รับการประเมินที่ที=1{\displaystyle t=1}จงหาค่าที่คาดหวังของฟังก์ชันตรีโกณมิติและไฮเปอร์โบลิกพื้นฐานเหล่านี้บนตัวแปรสุ่มแบบเกาส์เซียนX~เอ็น(μ,σ2){\displaystyle X\sim N(\mu ,\sigma ^{2})}ซึ่งอาจมองได้ว่าเป็นผลสืบเนื่องมาจากทฤษฎีบทของอิสเซอร์ลิสด้วย เช่นกัน

ฟังก์ชันสร้างโมเมนต์และคูมูลันต์

ฟังก์ชันสร้างโมเมนต์ของตัวแปรสุ่มจริงX{\displaystyle X}คือค่าที่คาดหวังของอีทีX{\textstyle e^{tX}}โดยเป็นฟังก์ชันของพารามิเตอร์จริงที{\displaystyle t}สำหรับการแจกแจงแบบปกติที่มีความหนาแน่นเอฟ{\displaystyle f},หมายถึงμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}ฟังก์ชันสร้างโมเมนต์มีอยู่และเท่ากับ

เอ็ม(ที)=อี[อีทีX]=เอฟ^(ฉันที)=อีμทีอีσ2ที2/2.{\displaystyle M(t)=\operatorname {E} \left[e^{tX}\right]={\hat {f}}(it)=e^{\mu t}e^{\sigma ^{2}t^{2}/2}\,.} สำหรับสิ่งใดเค{\displaystyle k}สัมประสิทธิ์ของทีเค/เค!{\displaystyle t^{k}/k!}ในขณะนั้น ฟังก์ชันก่อกำเนิด (แสดงเป็นอนุกรมกำลังเลขชี้กำลังในที{\displaystyle t})คือค่าคาดหวังของการแจกแจงปกติอี[Xเค]{\displaystyle \operatorname {E} [X^{k}]} .

ฟังก์ชันก่อกำเนิดคูมูลันต์คือลอการิทึมของฟังก์ชันก่อกำเนิดโมเมนต์ กล่าวคือ จี(ที)=lnเอ็ม(ที)=μที+12σ2ที2.{\displaystyle g(t)=\ln M(t)=\mu t+{\tfrac {1}{2}}\sigma ^{2}t^{2}\,.}

สัมประสิทธิ์ของอนุกรมกำลังเลขชี้กำลังนี้กำหนดค่าคุมูลันต์ แต่เนื่องจากนี่เป็นพหุนามกำลังสองใน ที{\displaystyle t}มี เพียง ค่าสะสมสองค่าแรกเท่านั้นที่ไม่เป็นศูนย์ ซึ่งก็คือค่าเฉลี่ย μ{\displaystyle \mu }และความแปรปรวน σ2{\displaystyle \sigma ^{2}} .

ผู้เขียนบางท่านนิยมใช้ฟังก์ชันลักษณะ เฉพาะ E[ e itX ] = e iμtσ 2 t 2 /2และln E[ e itX ] = iμt1 / 2 σ 2 t 2แทน

ตัวดำเนินการและคลาสของสไตน์

ในวิธีการของสไตน์ตัวดำเนินการสไตน์และคลาสของตัวแปรสุ่ม X~เอ็น(μ,σ2){\textstyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2})}เป็นเอเอฟ(x)=σ2เอฟ(x)(xμ)เอฟ(x){\textstyle {\mathcal {A}}f(x)=\sigma ^{2}f'(x)-(x-\mu )f(x)}และเอฟ{\textstyle {\mathcal {F}}}กลุ่มของฟังก์ชันต่อเนื่องสัมบูรณ์ทั้งหมดเอฟ:อาร์อาร์{\displaystyle \textstyle f:\mathbb {R} \to \mathbb {R} }โดยที่อี[|เอฟ(X)|]<{\displaystyle \operatorname {E} [\vert f'(X)\vert ]<\infty } .

ขีดจำกัดความแปรปรวนเป็นศูนย์

ในขีดจำกัดเมื่อσ2{\textstyle \sigma ^{2}}เมื่อความหนาแน่นของความน่าจะเป็นเข้าใกล้ศูนย์เอฟ{\textstyle f}เข้าใกล้ศูนย์ทุกที่ยกเว้นที่μ{\textstyle \mu }ซึ่งเข้าใกล้{\textstyle \infty }ในขณะที่ปริพันธ์ยังคงเท่ากับ 1 การขยายการแจกแจงปกติไปยังกรณีที่มีความแปรปรวนเป็นศูนย์สามารถกำหนดได้โดยใช้มาตรวัดเดลต้าของดิแรกδμ{\textstyle \delta _{\mu }}ถึงแม้ว่าตัวแปรสุ่มที่ได้จะไม่ต่อเนื่องอย่างสมบูรณ์และจึงไม่มีฟังก์ชันความหนาแน่นความน่าจะเป็นก็ตาม ฟังก์ชันการกระจายสะสมของตัวแปรสุ่มดังกล่าวจึงเป็นฟังก์ชันขั้นบันไดของ Heavisideที่เลื่อนไปตามค่าเฉลี่ยμ{\textstyle \mu }กล่าวคือ เอฟ(x)={0ถ้า x<μ1ถ้า xμ.{\displaystyle F(x)={\begin{cases}0&{\text{if }}x<\mu \\1&{\text{if }}x\geq \mu .\end{cases}}}

เอนโทรปีสูงสุด

ของการแจกแจงความน่าจะเป็นทั้งหมดบนจำนวนจริงที่มีค่าเฉลี่ยจำกัดที่กำหนดไว้μ{\displaystyle \mu }และความแปรปรวนที่จำกัดσ2{\displaystyle \sigma ^{2}}การ กระจายแบบปกติเอ็น(μ,σ2){\textstyle N(\mu ,\sigma ^{2})}คืออันที่มีเอนโทรปีสูงสุด[ 23 ]เพื่อดูสิ่งนี้ให้X{\displaystyle X}เป็นตัวแปรสุ่มต่อเนื่องที่มีความหนาแน่นของความน่าจะเป็นเอฟ(x){\displaystyle f(x)}เอนโทรปีของX{\displaystyle X}ถูกกำหนดเป็น [ 34 ] [ 35 ] [ 36 ]ชม(X)=เอฟ(x)lnเอฟ(x)x,{\displaystyle H(X)=-\int _{-\infty }^{\infty }f(x)\ln f(x)\,dx\,,} ที่ไหนเอฟ(x)บันทึกเอฟ(x){\textstyle f(x)\log f(x)}ถือว่ามีค่าเป็นศูนย์เมื่อใดก็ตามที่เอฟ(x)=0{\displaystyle f(x)=0}ฟังก์ชันนี้สามารถหาค่าสูงสุดได้ โดยอยู่ภายใต้ข้อจำกัดที่ว่าการแจกแจงนั้นได้รับการทำให้เป็นมาตรฐานอย่างเหมาะสม และมีค่าเฉลี่ยและความแปรปรวนที่ระบุไว้ โดยใช้แคลคูลัสเชิง แปรผัน ฟังก์ชันที่มีตัวคูณลากรางจ์ สามตัว ถูกกำหนดขึ้น: แอล=เอฟ(x)lnเอฟ(x)xλ0(1เอฟ(x)x)λ1(μเอฟ(x)xx)λ2(σ2เอฟ(x)(xμ)2x).{\displaystyle L=-\int _{-\infty }^{\infty }f(x)\ln f(x)\,dx-\lambda _{0}\left(1-\int _{-\infty }^{\infty }f(x)\,dx\right)-\lambda _{1}\left(\mu -\int _{-\infty }^{\infty }f(x)x\,dx\right)-\lambda _{2}\left(\sigma ^{2}-\int _{-\infty }^{\infty }f(x)(x-\mu )^{2}\,dx\right)\,.}

ที่เอนโทรปีสูงสุด การเปลี่ยนแปลงเล็กน้อยδเอฟ(x){\textstyle \delta f(x)}เกี่ยวกับเอฟ(x){\textstyle f(x)}จะทำให้เกิดการเปลี่ยนแปลงδแอล{\textstyle \delta L}เกี่ยวกับแอล{\displaystyle L}ซึ่งเท่ากับ 0: 0=δแอล=δเอฟ(x)(lnเอฟ(x)1+λ0+λ1x+λ2(xμ)2)x.{\displaystyle 0=\delta L=\int _{-\infty }^{\infty }\delta f(x)\left(-\ln f(x)-1+\lambda _{0}+\lambda _{1}x+\lambda _{2}(x-\mu )^{2}\right)\,dx\,.}

เนื่องจากหลักการนี้ต้องใช้ได้กับสิ่งเล็กๆ ใดๆก็ตามδเอฟ(x){\displaystyle \delta f(x)}โดยที่ตัวคูณδเอฟ(x){\displaystyle \delta f(x)}ต้องเป็นศูนย์ และแก้หาค่าเอฟ(x){\displaystyle f(x)}ผลลัพธ์ : เอฟ(x)=เอ็กซ์(1+λ0+λ1x+λ2(xμ)2).{\displaystyle f(x)=\exp \left(-1+\lambda _{0}+\lambda _{1}x+\lambda _{2}(x-\mu )^{2}\right)\,.}

ข้อจำกัดของลากรางจ์ที่ว่าเอฟ(x){\displaystyle f(x)}จะได้รับการปรับให้เป็นมาตรฐานอย่างเหมาะสมและมีค่าเฉลี่ยและความแปรปรวนตามที่ระบุไว้ก็ต่อเมื่อλ0{\displaystyle \lambda _{0}}, λ1{\displaystyle \lambda _{1}}และλ2{\displaystyle \lambda _{2}}ถูกเลือกเพื่อให้ เอฟ(x)=12πσ2อี(xμ)22σ2.{\displaystyle f(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}\,.} เอนโทรปีของการแจกแจงปกติX~เอ็น(μ,σ2){\textstyle X\sim N(\mu ,\sigma ^{2})}เท่ากับ ชม(X)=12(1+ln2σ2π),{\displaystyle H(X)={\tfrac {1}{2}}(1+\ln 2\sigma ^{2}\pi )\,,} ซึ่งเป็นอิสระจากค่าเฉลี่ยμ{\displaystyle \mu } .

คุณสมบัติอื่นๆ

  1. ถ้าฟังก์ชันลักษณะเฉพาะϕX{\textstyle \phi _{X}}ของตัวแปรสุ่มบางตัวX{\displaystyle X}อยู่ในรูปแบบϕX(ที)=เอ็กซ์คิว(ที){\textstyle \phi _{X}(t)=\exp Q(t)}ในบริเวณใกล้เคียงศูนย์ ที่ซึ่งคิว(ที){\textstyle Q(t)}เป็นพหุนามดังนั้นทฤษฎีบทของ Marcinkiewicz (ตั้งชื่อตามJózef Marcinkiewicz ) ยืนยันว่าคิว{\displaystyle Q}อาจเป็นพหุนามกำลังสองได้มากที่สุด และดังนั้นX{\displaystyle X}เป็นตัวแปรสุ่มปกติ [ 37 ]ผลที่ตามมาของผลลัพธ์นี้คือ การแจกแจงปกติเป็นการแจกแจงเดียวที่มีจำนวนจำกัด (สอง) ของค่าสะสม ที่ไม่เป็น ศูนย์
  2. ถ้าX{\displaystyle X}และวาย{\displaystyle Y}ถ้าตัวแปรสุ่มทั้งสองมี การกระจาย แบบปกติร่วมกันและไม่มีความสัมพันธ์กัน แสดงว่าตัวแปรสุ่มทั้งสอง เป็นอิสระต่อกันเงื่อนไขที่ว่าX{\displaystyle X}และวาย{\displaystyle Y}ควรเป็น ปกติ ร่วมกันเป็นสิ่งจำเป็น หากไม่มีคุณสมบัตินี้ คุณสมบัติจะไม่เป็นจริง [ 38 ] [ 39 ] [พิสูจน์]สำหรับตัวแปรสุ่มที่ไม่ปกติ ความไม่สัมพันธ์กันไม่ได้หมายความถึงความเป็นอิสระ
  3. ความแตกต่าง ของKullback–Leiblerของการแจกแจงปกติหนึ่งรายการX1~เอ็น(μ1,σ12){\textstyle X_{1}\sim N(\mu _{1},\sigma _{1}^{2})}จากที่อื่นX2~เอ็น(μ2,σ22){\textstyle X_{2}\sim N(\mu _{2},\sigma _{2}^{2})}กำหนดโดย: [ 40 ]ดีเคแอล(X1X2)=(μ1μ2)22σ22+12(σ12σ221lnσ12σ22){\displaystyle D_{\mathrm {KL} }(X_{1}\parallel X_{2})={\frac {(\mu _{1}-\mu _{2})^{2}}{2\sigma _{2}^{2}}}+{\frac {1}{2}}\left({\frac {\sigma _{1}^{2}}{\sigma _{2}^{2}}}-1-\ln {\frac {\sigma _{1}^{2}}{\sigma _{2}^{2}}}\right)}ระยะทางเฮลลิงเกอร์ ระหว่างการแจกแจงแบบเดียวกันมีค่าเท่ากับชม2(X1,X2)=12σ1σ2σ12+σ22เอ็กซ์(14(μ1μ2)2σ12+σ22){\displaystyle H^{2}(X_{1},X_{2})=1-{\sqrt {\frac {2\sigma _{1}\sigma _{2}}{\sigma _{1}^{2}+\sigma _{2}^{2}}}}\exp \left(-{\frac {1}{4}}{\frac {(\mu _{1}-\mu _{2})^{2}}{\sigma _{1}^{2}+\sigma _{2}^{2}}}\right)}
  4. เมทริกซ์ข้อมูลของฟิชเชอร์สำหรับการแจกแจงปกติเทียบกับμ{\displaystyle \mu }และσ2{\textstyle \sigma ^{2}}เป็นแนวทแยงและมีรูปแบบฉัน(μ,σ2)=(1σ20012σ4){\displaystyle {\mathcal {I}}(\mu ,\sigma ^{2})={\begin{pmatrix}{\frac {1}{\sigma ^{2}}}&0\\0&{\frac {1}{2\sigma ^{4}}}\end{pmatrix}}}
  5. ไพรเออร์คู่ควบของค่าเฉลี่ยของการแจกแจงปกติคือการแจกแจงปกติอีกแบบหนึ่ง[ 41 ]โดยเฉพาะอย่างยิ่ง ถ้าx1,,xn{\textstyle x_{1},\ldots ,x_{n}}เป็น iid~เอ็น(μ,σ2){\textstyle \sim N(\mu ,\sigma ^{2})}และก่อนหน้านี้คือμ~เอ็น(μ0,σ02){\textstyle \mu \sim N(\mu _{0},\sigma _{0}^{2})}จากนั้นการแจกแจงความน่าจะเป็นภายหลังสำหรับตัวประมาณค่าของμ{\displaystyle \mu }จะเป็นμx1,,xn~เอ็น(σ2nμ0+σ02x¯σ2n+σ02,(nσ2+1σ02)1){\displaystyle \mu \mid x_{1},\ldots ,x_{n}\sim {\mathcal {N}}\left({\frac {{\frac {\sigma ^{2}}{n}}\mu _{0}+\sigma _{0}^{2}{\bar {x}}}{{\frac {\sigma ^{2}}{n}}+\sigma _{0}^{2}}},\left({\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}\right)^{-1}\right)}
  6. กลุ่มการแจกแจงปกติไม่เพียงแต่ก่อตัวเป็นกลุ่มการแจกแจงเอกซ์โพเน นเชียล (EF) เท่านั้น แต่ยังก่อตัวเป็นกลุ่มการแจกแจงเอกซ์โพเนนเชียลธรรมชาติ (NEF) ที่มีฟังก์ชันความแปรปรวน กำลังสอง ( NEF-QVF ) อีกด้วย คุณสมบัติหลายอย่างของการแจกแจงปกติสามารถนำไปใช้กับคุณสมบัติของการแจกแจง NEF-QVF, การแจกแจง NEF หรือการแจกแจง EF ได้โดยทั่วไป การแจกแจง NEF-QVF ประกอบด้วย 6 กลุ่ม ได้แก่ การแจกแจงปัวซง, แกมมา, ทวินาม และทวินามเชิงลบ ในขณะที่กลุ่มการแจกแจงทั่วไปที่ศึกษาในวิชาความน่าจะเป็นและสถิติส่วนใหญ่เป็น NEF หรือ EF
  7. ในเรขาคณิตสารสนเทศกลุ่มของการแจกแจงปกติก่อให้เกิดแมนิโฟลด์ทางสถิติที่มีความโค้งคงที่1{\displaystyle -1}ครอบครัวเดียวกันนี้มีลักษณะแบนราบเมื่อเทียบกับการเชื่อมต่อ (±1 )(อี){\textstyle \nabla ^{(e)}}และ(){\textstyle \nabla ^{(m)}}[ 42 ]
  8. ถ้าX1,,Xn{\textstyle X_{1},\dots ,X_{n}}มีการกระจายตามเอ็น(0,σ2){\textstyle N(0,\sigma ^{2})}, แล้วอี[สูงสุดฉันXฉัน]σ2lnn{\textstyle E[\max _{i}X_{i}]\leq \sigma {\sqrt {2\ln n}}}โปรดทราบว่าไม่มีการสันนิษฐานถึงความเป็นอิสระ[ 43 ]

ทฤษฎีบทลิมิตกลาง

เมื่อจำนวนเหตุการณ์ที่ไม่ต่อเนื่องเพิ่มขึ้น ฟังก์ชันจะเริ่มมีลักษณะคล้ายกับการแจกแจงแบบปกติ
การเปรียบเทียบฟังก์ชันความหนาแน่นความน่าจะเป็นp ( k )สำหรับผลรวมของลูกเต๋า 6 ด้านที่ยุติธรรมจำนวนn ลูก เพื่อแสดงให้เห็นถึงการลู่เข้าสู่การแจกแจงปกติเมื่อ na เพิ่มขึ้น ตามทฤษฎีบทขีดจำกัดกลาง ในกราฟด้านล่างขวา โปรไฟล์ที่ปรับเรียบของกราฟก่อนหน้าจะถูกปรับขนาด ซ้อนทับ และเปรียบเทียบกับการแจกแจงปกติ (เส้นโค้งสีดำ)

ทฤษฎีบทลิมิตกลางกล่าวว่า ภายใต้เงื่อนไขบางประการ (ซึ่งค่อนข้างพบได้ทั่วไป) ผลรวมของตัวแปรสุ่มจำนวนมากจะมีลักษณะการแจกแจงแบบปกติโดยประมาณ โดยเฉพาะอย่างยิ่ง ในกรณีที่X1,,Xn{\textstyle X_{1},\ldots ,X_{n}}เป็น ตัวแปรสุ่มอิสระ ที่มีการแจกแจงเหมือนกันโดยมีค่าเฉลี่ยเป็นศูนย์ และความแปรปรวนเท่ากับ 0σ2{\textstyle \sigma ^{2}}และ{\displaystyle Z}คือค่าเฉลี่ยของพวกเขาที่ปรับขนาดโดยn{\textstyle {\sqrt {n}}}=n(1nฉัน=1nXฉัน){\displaystyle Z={\sqrt {n}}{\biggl (}{\frac {1}{n}}\sum _{i=1}^{n}X_{i}{\biggr )}} จากนั้น เมื่อn{\displaystyle n}เมื่อ ค่าเพิ่มขึ้น การกระจายความน่าจะเป็นของค่า จะเพิ่มขึ้น{\displaystyle Z}จะมีแนวโน้ม เข้าสู่การแจกแจงแบบปกติ โดยมีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนσ2{\displaystyle \sigma ^{2}} .

ทฤษฎีบทนี้สามารถขยายไปใช้กับตัวแปรได้(Xฉัน){\textstyle (X_{i})}ซึ่งไม่เป็นอิสระต่อกันและ/หรือไม่ได้มีการแจกแจงแบบเดียวกัน หากมีการกำหนดข้อจำกัดบางประการเกี่ยวกับระดับความสัมพันธ์และโมเมนต์ของการแจกแจง

สถิติการทดสอบคะแนนและตัวประมาณค่าจำนวนมากที่พบในทางปฏิบัติ ล้วนประกอบด้วยผลรวมของตัวแปรสุ่มบางอย่าง และตัวประมาณค่าจำนวนมากสามารถแสดงได้ในรูปผลรวมของตัวแปรสุ่มโดยใช้ฟังก์ชันอิทธิพลทฤษฎีบทลิมิตกลางบ่งชี้ว่าพารามิเตอร์ทางสถิติเหล่านั้นจะมีการกระจายแบบปกติเชิงอะซิมโทติก

ทฤษฎีบทลิมิตกลางยังบ่งชี้ว่าการแจกแจงบางอย่างสามารถประมาณได้ด้วยการแจกแจงปกติ ตัวอย่างเช่น:

  • การแจกแจงทวินามบี(n,พี){\textstyle B(n,p)}โดยประมาณ เป็นค่าปกติที่มีค่าเฉลี่ยnพี{\textstyle np}และความแปรปรวนnพี(1พี){\textstyle np(1-p)}สำหรับขนาดใหญ่n{\displaystyle n}และสำหรับพี{\displaystyle p}ไม่ควรอยู่ใกล้ 0 หรือ 1 มากเกินไป
  • การแจกแจงปัวซงที่มีพารามิเตอร์λ{\displaystyle \lambda }มีการกระจายแบบปกติโดยประมาณ โดยมีค่าเฉลี่ยλ{\displaystyle \lambda }และความแปรปรวนλ{\displaystyle \lambda }สำหรับค่าขนาดใหญ่ของλ{\displaystyle \lambda } . [ 44 ]
  • การแจกแจงไคกำลังสองχ2(เค){\textstyle \chi ^{2}(k)}มีลักษณะใกล้เคียงกับการแจกแจงแบบปกติ โดยมีค่าเฉลี่ยเค{\displaystyle k}และความแปรปรวน2เค{\textstyle 2k}สำหรับขนาดใหญ่เค{\displaystyle k} .
  • การแจกแจง t ของนักเรียนที(ν){\textstyle t(\nu )}มีลักษณะใกล้เคียงกับการแจกแจงแบบปกติ โดยมีค่าเฉลี่ย 0 และความแปรปรวน 1 เมื่อν{\displaystyle \nu }มีขนาดใหญ่

ความแม่นยำของการประมาณค่าเหล่านี้เพียงพอหรือไม่นั้น ขึ้นอยู่กับวัตถุประสงค์ที่ต้องการใช้ และอัตราการลู่เข้าสู่การแจกแจงแบบปกติ โดยทั่วไปแล้ว การประมาณค่าเหล่านี้มักมีความแม่นยำน้อยกว่าในส่วนปลายของการแจกแจง

ขอบเขตบนทั่วไปสำหรับข้อผิดพลาดในการประมาณค่าในทฤษฎีบทลิมิตกลางนั้นกำหนดโดยทฤษฎีบทเบอร์รี-เอสซีนส่วนการปรับปรุงการประมาณค่านั้นกำหนดโดยการขยายแบบเอ็ดจ์เวิร์

ทฤษฎีบทนี้ยังสามารถใช้เพื่อพิสูจน์การจำลองผลรวมของแหล่งกำเนิดสัญญาณรบกวนแบบสม่ำเสมอจำนวนมากเป็นสัญญาณรบกวนแบบเกาส์เซียนได้ดูAWGN

การดำเนินการและหน้าที่ของตัวแปรปกติ

การดำเนินการกับตัวแปรปกติตัวเดียว

ถ้าX{\displaystyle X}มีการกระจายแบบปกติโดยมีค่าเฉลี่ยμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}, แล้ว

การดำเนินการกับตัวแปรปกติอิสระสองตัว
  • ถ้าX1{\textstyle X_{1}}และX2{\textstyle X_{2}}เป็นตัวแปรสุ่มปกติอิสระสองตัวโดยมีค่าเฉลี่ยμ1{\textstyle \mu _{1}},μ2{\textstyle \mu _{2}}และความแปรปรวนσ12{\textstyle \sigma _{1}^{2}},σ22{\textstyle \sigma _{2}^{2}}จากนั้นผลรวมของพวกมันX1+X2{\textstyle X_{1}+X_{2}}จะมีการกระจายแบบปกติเช่นกัน[พิสูจน์]โดยมีค่าเฉลี่ยμ1+μ2{\textstyle \mu _{1}+\mu _{2}}และความแปรปรวนσ12+σ22{\textstyle \sigma _{1}^{2}+\sigma _{2}^{2}}.
  • โดยเฉพาะอย่างยิ่ง ถ้าX{\displaystyle X}และวาย{\displaystyle Y}เป็นการเบี่ยงเบนปกติที่เป็นอิสระต่อกัน โดยมีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนσ2{\textstyle \sigma ^{2}}, แล้วX+วาย{\textstyle X+Y}และXวาย{\textstyle X-Y}นอกจากนี้ยังเป็นอิสระต่อกันและมีการกระจายแบบปกติ โดยมีค่าเฉลี่ยเป็นศูนย์และความแปรปรวน2σ2{\textstyle 2\sigma ^{2}}นี่เป็นกรณีพิเศษของเอกลักษณ์โพลาไรเซชัน[ 45 ]
  • ถ้าX1{\textstyle X_{1}},X2{\textstyle X_{2}}เป็นค่าเบี่ยงเบนมาตรฐานปกติอิสระสองค่าที่มีค่าเฉลี่ยμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}และเอ{\displaystyle a}, {\displaystyle b}ถ้าเป็นจำนวนจริงใดๆ ตัวแปรนั้นก็จะเป็น...X3=เอX1+X2(เอ+)μเอ2+2+μ{\displaystyle X_{3}={\frac {aX_{1}+bX_{2}-(a+b)\mu }{\sqrt {a^{2}+b^{2}}}}+\mu }นอกจากนี้ยังมีการแจกแจงแบบปกติโดยมีค่าเฉลี่ยμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}ดังนั้น การแจกแจงปกติจึงมีเสถียรภาพ (โดยมีเลขชี้กำลัง)α=2{\textstyle \alpha =2})
  • ถ้าXเค~เอ็น(เค,σเค2){\textstyle X_{k}\sim {\mathcal {N}}(m_{k},\sigma _{k}^{2})},เค{0,1}{\textstyle k\in \{0,1\}}เป็นการแจกแจงแบบปกติ จากนั้นค่าเฉลี่ยเรขาคณิตแบบนอร์มาไลซ์ ของการแจกแจงเหล่านั้น1อาร์nX0α(x)X11α(x)xX0αX11α{\textstyle {\frac {1}{\int _{\mathbb {R} ^{n}}X_{0}^{\alpha }(x)X_{1}^{1-\alpha }(x)\,{\text{d}}x}}X_{0}^{\alpha }X_{1}^{1-\alpha }}เป็นการกระจายแบบปกติเอ็น(α,σα2){\textstyle {\mathcal {N}}(m_{\alpha },\sigma _{\alpha }^{2})}กับα=α0σ12+(1α)1σ02ασ12+(1α)σ02{\textstyle m_{\alpha }={\frac {\alpha m_{0}\sigma _{1}^{2}+(1-\alpha )m_{1}\sigma _{0}^{2}}{\alpha \sigma _{1}^{2}+(1-\alpha )\sigma _{0}^{2}}}}และσα2=σ02σ12ασ12+(1α)σ02{\textstyle \sigma _{\alpha }^{2}={\frac {\sigma _{0}^{2}\sigma _{1}^{2}}{\alpha \sigma _{1}^{2}+(1-\alpha )\sigma _{0}^{2}}}}.
การดำเนินการกับตัวแปรปกติมาตรฐานอิสระสองตัว

ถ้าX1{\textstyle X_{1}}และX2{\textstyle X_{2}}เป็นตัวแปรสุ่มปกติมาตรฐานอิสระสองตัวที่มีค่าเฉลี่ย 0 และความแปรปรวน 1 แล้ว

การดำเนินการกับตัวแปรปกติอิสระหลายตัว

  • การรวมกันเชิงเส้นใดๆของค่าเบี่ยงเบนปกติที่เป็นอิสระต่อกัน ถือเป็นค่าเบี่ยงเบนปกติ
  • ถ้าX1,X2,,Xn{\textstyle X_{1},X_{2},\ldots ,X_{n}}ถ้าตัวแปรสุ่มปกติมาตรฐานทั้งสองเป็นอิสระต่อกัน ผลรวมของกำลังสองของตัวแปรสุ่มทั้งสองจะมีการแจกแจงแบบไคกำลังสองโดยมีn{\displaystyle n}ระดับความเป็นอิสระX12++Xn2~χn2.{\displaystyle X_{1}^{2}+\cdots +X_{n}^{2}\sim \chi _{n}^{2}.}
  • ถ้าX1,X2,,Xn{\textstyle X_{1},X_{2},\ldots ,X_{n}}เป็นตัวแปรสุ่มอิสระที่มีการกระจายแบบปกติ โดยมีค่าเฉลี่ยμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}ดังนั้นค่าเฉลี่ยตัวอย่าง ของพวกเขา จึงเป็นอิสระจากค่าเบี่ยงเบนมาตรฐาน ตัวอย่าง [ 47 ]ซึ่งสามารถแสดงได้โดยใช้ทฤษฎีบทของ Basuหรือทฤษฎีบทของ Cochran [ 48 ]อัตราส่วนของปริมาณทั้งสองนี้จะมี การกระจายแบบ Student's t - distributionด้วยn1{\textstyle n-1}ระดับความเป็นอิสระ:ที=X¯μเอส/n=1n(X1++Xn)μ1n(n1)[(X1X¯)2++(XnX¯)2]~ทีn1.{\displaystyle t={\frac {{\overline {X}}-\mu }{S/{\sqrt {n}}}}={\frac {{\frac {1}{n}}(X_{1}+\cdots +X_{n})-\mu }{\sqrt {{\frac {1}{n(n-1)}}\left[(X_{1}-{\overline {X}})^{2}+\cdots +(X_{n}-{\overline {X}})^{2}\right]}}}\sim t_{n-1}.}
  • ถ้าX1,X2,,Xn{\textstyle X_{1},X_{2},\ldots ,X_{n}},วาย1,วาย2,,วาย{\textstyle Y_{1},Y_{2},\ldots ,Y_{m}}หากตัวแปรสุ่มปกติมาตรฐานที่เป็นอิสระต่อกัน อัตราส่วนของผลรวมกำลังสองปกติของตัวแปรสุ่มเหล่านั้นจะมีการกระจายแบบ Fที่มีองศาอิสระ( n , m ) [ 49 ]เอฟ=(X12+X22++Xn2)/n(วาย12+วาย22++วาย2)/~เอฟn,.{\displaystyle F={\frac {\left(X_{1}^{2}+X_{2}^{2}+\cdots +X_{n}^{2}\right)/n}{\left(Y_{1}^{2}+Y_{2}^{2}+\cdots +Y_{m}^{2}\right)/m}}\sim F_{n,m}.}

การดำเนินการกับตัวแปรปกติที่มีความสัมพันธ์กันหลายตัว

  • รูปแบบกำลังสองของเวกเตอร์ปกติ กล่าวคือ ฟังก์ชันกำลังสองq=xฉัน2+xเจ+{\textstyle q=\sum x_{i}^{2}+\sum x_{j}+c}ตัวแปรไคสแควร์ทั่วไปคือตัวแปรที่ประกอบด้วยตัวแปรปกติอิสระหรือสัมพันธ์กันหลายตัว

การดำเนินการกับฟังก์ชันความหนาแน่น

การแจกแจงปกติแบบแยกส่วน (Split Normal Distribution)นั้น นิยามได้โดยตรงที่สุดโดยการนำส่วนที่ปรับขนาดแล้วของฟังก์ชันความหนาแน่นของการแจกแจงปกติที่แตกต่างกันมาเชื่อมต่อกัน และปรับขนาดความหนาแน่นใหม่เพื่อให้ค่าอินทิเกรตเท่ากับหนึ่ง ส่วนการแจกแจงปกติแบบตัดทอน (Truncated Normal Distribution) นั้น ได้มาจากการปรับขนาดส่วนหนึ่งของฟังก์ชันความหนาแน่นเดียว

การหารลงตัวอย่างไม่จำกัดและทฤษฎีบทของเครเมอร์

สำหรับจำนวนเต็มบวก nใดๆการแจกแจงปกติใดๆ ที่มีค่าเฉลี่ยμ{\displaystyle \mu }และความแปรปรวนσ2{\textstyle \sigma ^{2}}คือการแจกแจงของผลรวมของค่าเบี่ยงเบนปกติอิสระn ค่า โดยแต่ละค่ามีค่าเฉลี่ยμn{\textstyle {\frac {\mu }{n}}}และความแปรปรวนσ2n{\textstyle {\frac {\sigma ^{2}}{n}}}คุณสมบัตินี้เรียกว่าการหารลงตัวแบบไม่มีที่สิ้นสุด[ 50 ]

ในทางกลับกัน ถ้าX1{\textstyle X_{1}}และX2{\textstyle X_{2}}เป็นตัวแปรสุ่มอิสระและผลรวมของตัวแปรเหล่านั้นX1+X2{\textstyle X_{1}+X_{2}}มีการกระจายแบบปกติ ดังนั้นทั้งสองอย่างX1{\textstyle X_{1}}และX2{\textstyle X_{2}}ต้องเป็นค่าเบี่ยงเบนปกติ[ 51 ]

ผลลัพธ์นี้เรียกว่าทฤษฎีบทการแยกส่วนของ Cramérและเทียบเท่ากับการกล่าวว่าการสังเคราะห์ของสองการแจกแจงจะเป็นแบบปกติก็ต่อเมื่อทั้งสองเป็นการแจกแจงแบบปกติเท่านั้น ทฤษฎีบทของ Cramér บ่งชี้ว่าการรวมเชิงเส้นของตัวแปรอิสระที่ไม่ใช่แบบเกาส์เซียนจะไม่มีการแจกแจงแบบปกติอย่างแท้จริง แม้ว่าจะเข้าใกล้มากเท่าที่ต้องการก็ตาม[ 37 ]

ทฤษฎีบท Kac–Bernstein

ทฤษฎีบท Kac –Bernsteinกล่าวว่า ถ้าX{\textstyle X}และวาย{\displaystyle Y}เป็นอิสระและX+วาย{\textstyle X+Y}และXวาย{\textstyle X-Y}นอกจากนี้ ยังเป็นอิสระต่อกันด้วย ดังนั้นทั้งXและYจะต้องมีการกระจายแบบปกติ[ 52 ] [ 53 ]

โดยทั่วไปแล้ว ถ้าX1,,Xn{\textstyle X_{1},\ldots ,X_{n}}เป็นตัวแปรสุ่มอิสระ ดังนั้นจึงเป็นผลรวมเชิงเส้นที่แตกต่างกันสองแบบเอเคXเค{\textstyle \sum {a_{k}X_{k}}}และเคXเค{\textstyle \sum {b_{k}X_{k}}}จะเป็นอิสระได้ก็ต่อเมื่อทุกสิ่งXเค{\textstyle X_{k}}เป็นเรื่องปกติและเอเคเคσเค2=0{\textstyle \sum {a_{k}b_{k}\sigma _{k}^{2}=0}}, ที่ไหนσเค2{\textstyle \sigma _{k}^{2}}แสดงถึงความแปรปรวนของXเค{\textstyle X_{k}}[ 52 ]

ส่วนขยาย

แนวคิดของการแจกแจงปกติ ซึ่งเป็นหนึ่งในการแจกแจงที่สำคัญที่สุดในทฤษฎีความน่าจะเป็น ได้ถูกขยายออกไปไกลเกินกว่ากรอบมาตรฐานของกรณีตัวแปรเดียว (นั่นคือหนึ่งมิติ) (กรณีที่ 1) การขยายเหล่านี้ทั้งหมดก็เรียกว่า กฎ ปกติหรือ กฎ เกาส์เซียน เช่นกัน ดังนั้นจึงมีความกำกวมในชื่อเรียกอยู่บ้าง

ตัวแปรสุ่มXมีการแจกแจงแบบปกติสองส่วน ถ้าหากมีรูปแบบการแจกแจงดังนี้ เอฟX(x)={เอ็น(μ,σ12), ถ้า xμเอ็น(μ,σ22), ถ้า xμ{\displaystyle f_{X}(x)={\begin{cases}N(\mu ,\sigma _{1}^{2}),&{\text{ if }}x\leq \mu \\N(\mu ,\sigma _{2}^{2}),&{\text{ if }}x\geq \mu \end{cases}}} โดยที่μคือค่าเฉลี่ย และσ 2 1 และσ 2 2 คือค่าความแปรปรวนของการกระจายตัวทางด้านซ้ายและด้านขวาของค่าเฉลี่ยตามลำดับ

ค่าเฉลี่ยE( X )ความแปรปรวนV( X )และโมเมนต์กลางลำดับที่สามT( X )ของการแจกแจงนี้ได้รับการกำหนดแล้ว[ 54 ]อี(X)=μ+2π(σ2σ1),วี(X)=(12π)(σ2σ1)2+σ1σ2,ที(X)=2π(σ2σ1)[(4π1)(σ2σ1)2+σ1σ2].{\displaystyle {\begin{aligned}\operatorname {E} (X)&=\mu +{\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1}),\\\operatorname {V} (X)&=\left(1-{\frac {2}{\pi }}\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2},\\\operatorname {T} (X)&={\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1})\left[\left({\frac {4}{\pi }}-1\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2}\right].\end{aligned}}}

หนึ่งในประโยชน์หลักของการใช้กฎเกาส์เซียนในทางปฏิบัติคือการสร้างแบบจำลองการแจกแจงเชิงประจักษ์ของตัวแปรสุ่มต่างๆ มากมายที่พบเจอในทางปฏิบัติ ในกรณีเช่นนี้ การขยายเพิ่มเติมที่เป็นไปได้คือตระกูลการแจกแจงที่สมบูรณ์ยิ่งขึ้น ซึ่งมีพารามิเตอร์มากกว่าสองตัว และด้วยเหตุนี้จึงสามารถปรับให้เข้ากับการแจกแจงเชิงประจักษ์ได้อย่างแม่นยำยิ่งขึ้น ตัวอย่างของการขยายเพิ่มเติมดังกล่าว ได้แก่:

  • การแจกแจงแบบเพียร์สัน — ตระกูลการแจกแจงความน่าจะเป็นที่มีพารามิเตอร์สี่ตัว ซึ่งขยายกฎการแจกแจงปกติเพื่อรวมค่าความเบี่ยงเบนและความโค้งที่แตกต่างกัน
  • การแจกแจงปกติทั่วไปหรือที่รู้จักกันในชื่อการแจกแจงกำลังเอกซ์โปเนนเชียล อนุญาตให้ส่วนหางของการแจกแจงมีลักษณะเชิงอะซิมโทติกที่หนาหรือบางกว่าได้

การอนุมานทางสถิติ

การประมาณค่าพารามิเตอร์

บ่อยครั้งที่เราไม่ทราบค่าพารามิเตอร์ของการแจกแจงปกติ แต่ต้องการประมาณค่าพารามิเตอร์เหล่านั้น นั่นคือ มีตัวอย่างข้อมูลอยู่(x1,,xn){\textstyle (x_{1},\ldots ,x_{n})}จากปกติเอ็น(μ,σ2){\textstyle {\mathcal {N}}(\mu ,\sigma ^{2})}เราต้องการทราบค่าโดยประมาณของพารามิเตอร์ในกลุ่มประชากรนี้μ{\displaystyle \mu }และσ2{\textstyle \sigma ^{2}}วิธีการมาตรฐานในการแก้ปัญหานี้คือ วิธี ความน่าจะเป็นสูงสุดซึ่งต้องทำการหาค่าสูงสุดของฟังก์ชันลอการิทึมความน่าจะเป็น :lnแอล(μ,σ2)=ฉัน=1nlnเอฟ(xฉันμ,σ2)=n2ln(2π)n2lnσ212σ2ฉัน=1n(xฉันμ)2.{\displaystyle {\begin{aligned}\ln {\mathcal {L}}(\mu ,\sigma ^{2})&=\sum _{i=1}^{n}\ln f(x_{i}\mid \mu ,\sigma ^{2})\\&=-{\frac {n}{2}}\ln(2\pi )-{\frac {n}{2}}\ln \sigma ^{2}-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}.\end{aligned}}} การหาอนุพันธ์เทียบกับμ{\displaystyle \mu }และσ2{\textstyle \sigma ^{2}}และการแก้ระบบเงื่อนไขอันดับแรกที่เกิดขึ้นจะให้ค่าประมาณความน่าจะเป็นสูงสุด : μ^=x¯1nฉัน=1nxฉัน,σ^2=1nฉัน=1n(xฉันx¯)2.{\displaystyle {\hat {\mu }}={\overline {x}}\equiv {\frac {1}{n}}\sum _{i=1}^{n}x_{i},\qquad {\hat {\sigma }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.}

แล้วlnแอล(μ^,σ^2){\textstyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})}มีรายละเอียดดังนี้: lnแอล(μ^,σ^2)=n2[ln(2πσ^2)+1]{\displaystyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})=-{\frac {n}{2}}[\ln \left(2\pi {\hat {\sigma }}^{2}\right)+1]}

ค่าเฉลี่ยตัวอย่าง

ผู้ประเมินμ^{\displaystyle \textstyle {\hat {\mu }}}เรียกว่าค่าเฉลี่ยตัวอย่างเนื่องจากเป็นค่าเฉลี่ยเลขคณิตของข้อมูลทั้งหมด สถิตินี้ เรียกว่าค่าเฉลี่ยตัวอย่างx¯{\displaystyle \textstyle {\overline {x}}}สมบูรณ์และเพียงพอสำหรับμ{\displaystyle \mu }และด้วยเหตุนี้ ตามทฤษฎีบทของเลห์มันน์-เชฟเฟ่μ^{\displaystyle \textstyle {\hat {\mu }}}เป็น ตัวประมาณ ค่าความแปรปรวนต่ำสุดแบบสม่ำเสมอที่ไม่เอนเอียง (UMVU) [ 55 ]ในตัวอย่างจำกัด จะมีการกระจายแบบปกติ: μ^~เอ็น(μ,σ2/n).{\displaystyle {\hat {\mu }}\sim {\mathcal {N}}(\mu ,\sigma ^{2}/n).} ความแปรปรวนของตัวประมาณค่านี้เท่ากับ องค์ประกอบ μμของเมทริกซ์ข้อมูลฟิชเชอร์ ผกผันฉัน1{\displaystyle \textstyle {\mathcal {I}}^{-1}}ซึ่งหมายความว่าตัวประมาณค่ามีประสิทธิภาพสำหรับตัวอย่างขนาดจำกัดสิ่งที่มีความสำคัญในทางปฏิบัติคือค่าความคลาดเคลื่อนมาตรฐานของμ^{\displaystyle \textstyle {\hat {\mu }}}เป็นสัดส่วนกับ1/n{\displaystyle \textstyle 1/{\sqrt {n}}}กล่าวคือ หากต้องการลดค่าความคลาดเคลื่อนมาตรฐานลง 10 เท่า จะต้องเพิ่มจำนวนจุดในกลุ่มตัวอย่างขึ้น 100 เท่า ข้อเท็จจริงนี้ถูกนำมาใช้กันอย่างแพร่หลายในการกำหนดขนาดกลุ่มตัวอย่างสำหรับการสำรวจความคิดเห็นและจำนวนครั้งในการ จำลองแบบมอนเตคา ร์โล

จากมุมมองของทฤษฎีเชิงอะซิมโทติกμ^{\displaystyle \textstyle {\hat {\mu }}}มีความสอดคล้องนั่นคือ ลู่เข้าสู่ค่าความน่าจะเป็นμ{\displaystyle \mu }ในฐานะn{\textstyle n\rightarrow \infty }ตัวประมาณค่านี้ยังมีการแจกแจงแบบปกติเชิงอะซิมโทติกซึ่งเป็นผลลัพธ์ที่ได้มาง่ายๆ จากการที่มันเป็นแบบปกติในตัวอย่างจำกัด: n(μ^μ)เอ็น(0,σ2).{\displaystyle {\sqrt {n}}({\hat {\mu }}-\mu )\,\xrightarrow {d} \,{\mathcal {N}}(0,\sigma ^{2}).}

ความแปรปรวนของตัวอย่าง

ผู้ประมาณค่าσ^2{\displaystyle \textstyle {\hat {\sigma }}^{2}}เรียกว่าค่าความแปรปรวนของตัวอย่างเนื่องจากเป็นค่าความแปรปรวนของตัวอย่าง ((x1,,xn){\textstyle (x_{1},\ldots ,x_{n})}ในทางปฏิบัติ มักจะใช้ตัวประมาณค่าอื่นแทนσ^2{\displaystyle \textstyle {\hat {\sigma }}^{2}}ตัวประมาณค่าอีกตัวหนึ่งนี้เรียกว่า 2{\textstyle s^{2}}และยังเรียกว่าความแปรปรวนของตัวอย่างซึ่งแสดงถึงความกำกวมบางอย่างในคำศัพท์ รากที่สองของมัน{\displaystyle s}เรียกว่าค่าเบี่ยงเบนมาตรฐานของตัวอย่างตัวประมาณค่า2{\textstyle s^{2}}แตกต่างจากσ^2{\displaystyle \textstyle {\hat {\sigma }}^{2}}โดยใช้( n − 1)แทนnในตัวส่วน (ซึ่งเรียกว่าการแก้ไขของเบสเซล ):  2=nn1σ^2=1n1ฉัน=1n(xฉันx¯)2.{\displaystyle s^{2}={\frac {n}{n-1}}{\hat {\sigma }}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.} ความแตกต่างระหว่าง2{\textstyle s^{2}}และσ^2{\displaystyle \textstyle {\hat {\sigma }}^{2}}จะมีค่าเล็กน้อยจนแทบไม่มีนัยสำคัญสำหรับ ค่า n ที่ มาก อย่างไรก็ตาม ในตัวอย่างที่มีขนาดจำกัด แรงจูงใจเบื้องหลังการใช้2{\textstyle s^{2}}นั่นคือ มันเป็นตัวประมาณค่าที่ไม่เอนเอียงของพารามิเตอร์พื้นฐานσ2{\textstyle \sigma ^{2}}, ในทางตรงกันข้ามσ^2{\displaystyle \textstyle {\hat {\sigma }}^{2}}มีความลำเอียง นอกจากนี้ ตามทฤษฎีบทของเลห์มันน์-เชฟเฟ่ ตัวประมาณค่า2{\textstyle s^{2}}มีค่าความแปรปรวนต่ำสุดสม่ำเสมอและไม่มีอคติ ( UMVU ) [ 55 ]ซึ่งทำให้เป็นตัวประมาณค่าที่ดีที่สุดในบรรดาตัวประมาณค่าที่ไม่มีอคติทั้งหมด อย่างไรก็ตาม สามารถแสดงให้เห็นได้ว่าตัวประมาณค่าที่มีอคติσ^2{\displaystyle \textstyle {\hat {\sigma }}^{2}}ดีกว่า2{\textstyle s^{2}}ในแง่ของ เกณฑ์ ค่าความคลาดเคลื่อนกำลังสองเฉลี่ย (MSE) ในตัวอย่างที่มีขนาดจำกัดทั้ง2{\textstyle s^{2}}และσ^2{\displaystyle \textstyle {\hat {\sigma }}^{2}}มีการแจกแจงไคกำลังสองแบบปรับ ขนาด ที่มีองศาอิสระ ( n − 1) :2~σ2n1χn12,σ^2~σ2nχn12.{\displaystyle s^{2}\sim {\frac {\sigma ^{2}}{n-1}}\cdot \chi _{n-1}^{2},\qquad {\hat {\sigma }}^{2}\sim {\frac {\sigma ^{2}}{n}}\cdot \chi _{n-1}^{2}.} นิพจน์แรกนี้แสดงให้เห็นว่าความแปรปรวนของ2{\textstyle s^{2}}เท่ากับ2σ4/(n1){\textstyle 2\sigma ^{4}/(n-1)}ซึ่งมีค่ามากกว่า ค่า σσของเมทริกซ์ข้อมูลฟิชเชอร์ ผกผันเล็กน้อยฉัน1{\displaystyle \textstyle {\mathcal {I}}^{-1}}ซึ่งก็คือ2σ4/n{\textstyle 2\sigma ^{4}/n}. ดังนั้น,2{\textstyle s^{2}}ไม่ใช่ตัวประมาณค่าที่มีประสิทธิภาพสำหรับσ2{\textstyle \sigma ^{2}}และยิ่งไปกว่านั้น เนื่องจาก2{\textstyle s^{2}}หากเป็น UMVU เราสามารถสรุปได้ว่าตัวประมาณค่าที่มีประสิทธิภาพสำหรับตัวอย่างขนาดจำกัดคือσ2{\textstyle \sigma ^{2}}ไม่มีอยู่จริง

เมื่อใช้ทฤษฎีเชิงอะซิมโทติก ตัวประมาณค่าทั้งสอง2{\textstyle s^{2}}และσ^2{\displaystyle \textstyle {\hat {\sigma }}^{2}}มีความสอดคล้องกัน กล่าวคือ ความน่าจะเป็นจะลู่เข้าหากันσ2{\textstyle \sigma ^{2}}เนื่องจากขนาดตัวอย่างn{\textstyle n\rightarrow \infty }ตัวประมาณค่าทั้งสองตัวมีลักษณะการแจกแจงปกติเชิงอะซิมโทติกทั้งคู่: n(σ^2σ2)n(2σ2)เอ็น(0,2σ4).{\displaystyle {\sqrt {n}}({\hat {\sigma }}^{2}-\sigma ^{2})\simeq {\sqrt {n}}(s^{2}-\sigma ^{2})\,\xrightarrow {d} \,{\mathcal {N}}(0,2\sigma ^{4}).} โดยเฉพาะอย่างยิ่ง ตัวประมาณค่าทั้งสองมีประสิทธิภาพเชิงอะซิมโทติกสำหรับ σ2{\textstyle \sigma ^{2}}.

ช่วงความเชื่อมั่น

ตามทฤษฎีบทของ Cochranสำหรับการแจกแจงแบบปกติ ค่าเฉลี่ยของตัวอย่างμ^{\displaystyle \textstyle {\hat {\mu }}}และค่าความแปรปรวนของตัวอย่างเป็นอิสระต่อกันซึ่งหมายความว่าไม่มีประโยชน์ที่จะพิจารณาการแจกแจงร่วมกันของพวกมันนอกจากนี้ยังมีทฤษฎีบทผกผัน: ถ้าในตัวอย่างหนึ่ง ค่าเฉลี่ยของตัวอย่างและค่าความแปรปรวนของตัวอย่างเป็นอิสระต่อกัน ตัวอย่างนั้นจะต้องมาจากการแจกแจงปกติ ความเป็นอิสระระหว่างμ^{\displaystyle \textstyle {\hat {\mu }}}และ สามารถใช้ ค่า s ในการสร้าง ค่าสถิติ tได้: ที=μ^μ/n=x¯μ1n(n1)(xฉันx¯)2~ทีn1{\displaystyle t={\frac {{\hat {\mu }}-\mu }{s/{\sqrt {n}}}}={\frac {{\overline {x}}-\mu }{\sqrt {{\frac {1}{n(n-1)}}\sum (x_{i}-{\overline {x}})^{2}}}}\sim t_{n-1}} ปริมาณt นี้ มีการแจกแจงแบบ Student's tที่มี องศาอิสระ ( n − 1)และเป็นสถิติเสริม (ไม่ขึ้นอยู่กับค่าของพารามิเตอร์) การกลับการแจกแจงของ สถิติ t นี้จะช่วยให้เราสร้างช่วงความเชื่อมั่นสำหรับμได้[ 56 ] ใน ทำนองเดียวกัน การกลับ การ แจกแจง χ²ของสถิติจะทำให้เราได้ช่วงความเชื่อมั่นสำหรับσ² [ 57 ]μ[μ^ทีn1,1α/2n,μ^+ทีn1,1α/2n]{\displaystyle \mu \in \left[{\hat {\mu }}-t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}},\,{\hat {\mu }}+t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}}\right]}σ2[n1χn1,1α/222,n1χn1,α/222]{\displaystyle \sigma ^{2}\in \left[{\frac {n-1}{\chi _{n-1,1-\alpha /2}^{2}}}s^{2},\,{\frac {n-1}{\chi _{n-1,\alpha /2}^{2}}}s^{2}\right]} โดยที่t และχ 2 k,p  คือ ค วอนไทล์ที่ pของ การแจกแจง tและχ 2ตามลำดับ ช่วงความเชื่อมั่นเหล่านี้มีระดับความเชื่อมั่น 1 − αหมายความว่าค่าจริงμและσ 2จะอยู่นอกช่วงเหล่านี้ด้วยความน่าจะเป็น (หรือระดับนัยสำคัญ ) αในทางปฏิบัติ ผู้คนมักจะใช้α = 5%ส่งผลให้ได้ช่วงความเชื่อมั่น 95% ช่วงความเชื่อมั่นสำหรับσสามารถหาได้โดยการถอดรากที่สองของขอบเขตช่วงสำหรับσ 2

สูตรโดยประมาณสามารถหาได้จากการกระจายเชิงอะซิมโทติกของμ^{\displaystyle \textstyle {\hat {\mu }}}และs 2 : μ[μ^|zα/2|n,μ^+|zα/2|n]{\displaystyle \mu \in \left[{\hat {\mu }}-{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s,\,{\hat {\mu }}+{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s\right]}σ2[22|zα/2|n2,2+2|zα/2|n2]{\displaystyle \sigma ^{2}\in \left[s^{2}-{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2},\,s^{2}+{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2}\right]} สูตรโดยประมาณจะใช้ได้สำหรับค่าn ที่มาก และสะดวกกว่าสำหรับการคำนวณด้วยมือ เนื่องจากควอนไทล์ปกติมาตรฐานz ไม่ขึ้นอยู่กับnโดยเฉพาะอย่างยิ่ง ค่าα ที่นิยมใช้มากที่สุด คือ 5% ซึ่งจะ ได้ผลลัพธ์เป็น| z | = 1.96

การทดสอบความปกติ

การทดสอบความปกติจะประเมินโอกาสที่ชุดข้อมูลที่กำหนด{ x , ..., x }จะมาจากการกระจายแบบปกติ โดยทั่วไปสมมติฐานว่างH คือ ข้อมูลมีการกระจายแบบปกติโดยมีค่าเฉลี่ยμและความแปรปรวนσ 2 ที่ไม่ระบุ ในขณะที่สมมติฐานทางเลือกH คือ การกระจายนั้นเป็นไปโดยพลการ มีการทดสอบมากมาย (มากกว่า 40 แบบ) ที่ถูกคิดค้นขึ้นสำหรับปัญหานี้ การทดสอบที่โดดเด่นกว่านั้นมีรายละเอียดดังต่อไปนี้:

แผนภาพการวินิจฉัยนั้นดูน่าสนใจกว่าในแง่ของสัญชาตญาณ แต่ในขณะเดียวกันก็มีความเป็นอัตวิสัยสูง เนื่องจากอาศัยการตัดสินใจอย่างไม่เป็นทางการของมนุษย์ในการยอมรับหรือปฏิเสธสมมติฐานว่าง

  • แผนภูมิ Q–Qหรือที่รู้จักกันในชื่อแผนภูมิความน่าจะเป็นปกติหรือ แผนภูมิ แรงค์กิตคือแผนภูมิที่แสดงค่าที่เรียงลำดับแล้วจากชุดข้อมูลเทียบกับค่าที่คาดหวังของควอนไทล์ที่สอดคล้องกันจากการแจกแจงปกติมาตรฐาน กล่าวคือ เป็นแผนภูมิของจุดในรูปแบบ( Φ −1 ( p ), x )โดยที่จุดพล็อตp เท่ากับp = ( kα )/( n + 1 − 2 α )และαเป็นค่าคงที่ปรับแก้ ซึ่งสามารถเป็นอะไรก็ได้ระหว่าง 0 ถึง 1 หากสมมติฐานว่างเป็นจริง จุดที่พล็อตควรจะอยู่บนเส้นตรงโดยประมาณ
  • แผนภูมิ P–P – คล้ายกับแผนภูมิ Q–Q แต่ใช้ไม่บ่อยนัก วิธีนี้ประกอบด้วยการพล็อตจุด( Φ ( z ), p )โดยที่z(เค)=(x(เค)μ^)/σ^{\textstyle \textstyle z_{(k)}=(x_{(k)}-{\hat {\mu }})/{\hat {\sigma }}}สำหรับข้อมูลที่มีการกระจายแบบปกติ กราฟนี้ควรอยู่บนเส้นตรงระหว่าง(0, 0)และ(1, 1 ) 

การทดสอบความเหมาะสมของแบบจำลอง :

การทดสอบตามช่วงเวลา :

  • การทดสอบ K-squared ของ D'Agostino
  • การทดสอบ Jarque–Bera
  • การทดสอบ Shapiro–Wilk : การทดสอบนี้อิงจากเส้นในกราฟ Q–Q ที่มีค่าความชันเท่ากับσการทดสอบจะเปรียบเทียบค่าประมาณกำลังสองน้อยที่สุดของค่าความชันนั้นกับค่าความแปรปรวนของตัวอย่าง และจะปฏิเสธสมมติฐานว่างหากค่าทั้งสองนี้แตกต่างกันอย่างมีนัยสำคัญ

การทดสอบโดยใช้ฟังก์ชันการกระจายเชิงประจักษ์ :

การวิเคราะห์แบบเบย์เซียนของการแจกแจงปกติ

การวิเคราะห์แบบเบย์เซียนของข้อมูลที่มีการแจกแจงแบบปกติมีความซับซ้อน เนื่องจากมีปัจจัยหลายอย่างที่อาจต้องพิจารณา:

สูตรสำหรับกรณีการถดถอยแบบไม่เชิงเส้นได้สรุปไว้ในบทความก่อนหน้าที่เกี่ยวข้องแล้ว

ผลรวมของกำลังสองสองจำนวน

รูปแบบสเกลาร์

สูตรเสริมต่อไปนี้มีประโยชน์ในการทำให้ สมการการปรับปรุง ภายหลัง ง่ายขึ้น ซึ่งหากไม่ใช้สูตรนี้จะค่อนข้างยุ่งยาก

เอ(xy)2+(xz)2=(เอ+)(xเอy+zเอ+)2+เอเอ+(yz)2{\displaystyle a(x-y)^{2}+b(x-z)^{2}=(a+b)\left(x-{\frac {ay+bz}{a+b}}\right)^{2}+{\frac {ab}{a+b}}(y-z)^{2}}

สมการนี้เป็นการเขียนผลรวมของพหุคูณกำลังสองสองตัวใน ตัวแปร x ใหม่ โดยการกระจายกำลังสอง จัดกลุ่มพจน์ในตัวแปรxและทำให้เป็นกำลังสองสมบูรณ์โปรดสังเกตสิ่งต่อไปนี้เกี่ยวกับตัวประกอบคงที่เชิงซ้อนที่แนบมากับบางพจน์:

  1. ปัจจัยเอy+zเอ+{\textstyle {\frac {ay+bz}{a+b}}}มีรูปแบบเป็นค่าเฉลี่ยถ่วงน้ำหนักของyและz
  2. เอเอ+=11เอ+1=(เอ1+1)1.{\textstyle {\frac {ab}{a+b}}={\frac {1}{{\frac {1}{a}}+{\frac {1}{b}}}}=(a^{-1}+b^{-1})^{-1}.}สิ่งนี้แสดงให้เห็นว่าปัจจัยนี้สามารถคิดได้ว่าเป็นผลมาจากสถานการณ์ที่ส่วนกลับของปริมาณaและbบวกกันโดยตรง ดังนั้นในการรวมaและbเข้าด้วยกัน จึงจำเป็นต้องหาค่าส่วนกลับ บวก และหาค่าส่วนกลับอีกครั้งเพื่อให้ได้หน่วยเดิมกลับคืนมา นี่คือการดำเนินการแบบเดียวกับที่ค่าเฉลี่ยฮาร์มอนิก ทำ ดังนั้นจึงไม่น่าแปลกใจที่เอเอ+{\textstyle {\frac {ab}{a+b}}}คือครึ่งหนึ่งของค่าเฉลี่ยฮาร์มอนิกของaและb
รูปแบบเวกเตอร์

สามารถเขียนสูตรที่คล้ายกันสำหรับผลรวมของเวกเตอร์กำลังสองสองตัวได้ดังนี้: ถ้าx , y , zเป็นเวกเตอร์ที่มีความยาวkและAและBเป็น เมทริก ซ์สมมาตรที่ผกผันได้และมีขนาด kเค×เค{\textstyle k\times k}, แล้ว

(yx)เอ(yx)+(xz)บี(xz)=(x)(เอ+บี)(x)+(yz)(เอ1+บี1)1(yz){\displaystyle {\begin{aligned}&(\mathbf {y} -\mathbf {x} )'\mathbf {A} (\mathbf {y} -\mathbf {x} )+(\mathbf {x} -\mathbf {z} )'\mathbf {B} (\mathbf {x} -\mathbf {z} )\\={}&(\mathbf {x} -\mathbf {c} )'(\mathbf {A} +\mathbf {B} )(\mathbf {x} -\mathbf {c} )+(\mathbf {y} -\mathbf {z} )'(\mathbf {A} ^{-1}+\mathbf {B} ^{-1})^{-1}(\mathbf {y} -\mathbf {z} )\end{aligned}}} ที่ไหน =(เอ+บี)1(เอy+บีz){\displaystyle \mathbf {c} =(\mathbf {A} +\mathbf {B} )^{-1}(\mathbf {A} \mathbf {y} +\mathbf {B} \mathbf {z} )}

รูปแบบxA xเรียกว่ารูปแบบกำลังสองและเป็นสเกลาร์ : xเอx=ฉัน,เจเอฉันเจxฉันxเจ{\displaystyle \mathbf {x} '\mathbf {A} \mathbf {x} =\sum _{i,j}a_{ij}x_{i}x_{j}} กล่าวอีกนัยหนึ่งคือ มันจะรวมผลรวมของการรวมกันที่เป็นไปได้ทั้งหมดของผลคูณของคู่ขององค์ประกอบจากxโดยมีสัมประสิทธิ์แยกต่างหากสำหรับแต่ละคู่ นอกจากนี้ เนื่องจากxฉันxเจ=xเจxฉัน{\textstyle x_{i}x_{j}=x_{j}x_{i}}เฉพาะผลรวมเท่านั้นเอฉันเจ+เอเจฉัน{\textstyle a_{ij}+a_{ji}}เรื่องนี้มีผลต่อองค์ประกอบนอกแนวทแยงมุมใดๆ ของAและไม่มีการสูญเสียความเป็นทั่วไปในการสมมติว่าAเป็นเมทริกซ์สมมาตรยิ่งไปกว่านั้น ถ้าAเป็นเมทริกซ์สมมาตรแล้ว รูปแบบจะเป็นดังนี้xเอy=yเอx.{\textstyle \mathbf {x} '\mathbf {A} \mathbf {y} =\mathbf {y} '\mathbf {A} \mathbf {x} .}

ผลรวมของความแตกต่างจากค่าเฉลี่ย

สูตรที่มีประโยชน์อีกสูตรหนึ่งมีดังนี้: ฉัน=1n(xฉันμ)2=ฉัน=1n(xฉันx¯)2+n(x¯μ)2{\displaystyle \sum _{i=1}^{n}(x_{i}-\mu )^{2}=\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}} ที่ไหนx¯=1nฉัน=1nxฉัน.{\textstyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}.}

โดยทราบค่าความแปรปรวนแล้ว

สำหรับชุดข้อมูลX ที่มีการกระจายแบบปกติแบบอิสระและเหมือนกัน (iid ) ขนาดnโดยที่แต่ละจุดxเป็นไปตามเงื่อนไขต่อไปนี้x~เอ็น(μ,σ2){\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}เมื่อทราบค่าความแปรปรวนσ² แล้วการ แจกแจง ก่อนหน้าแบบสังยุคก็จะเป็นการแจกแจงแบบปกติเช่นกัน

สามารถแสดงให้เห็นได้ง่ายขึ้นโดยการเขียนค่าความแปรปรวนใหม่เป็นค่าความแม่นยำกล่าวคือใช้τ = 1/ σ 2จากนั้นถ้าx~เอ็น(μ,1/τ){\textstyle x\sim {\mathcal {N}}(\mu ,1/\tau )}และμ~เอ็น(μ0,1/τ0),{\textstyle \mu \sim {\mathcal {N}}(\mu _{0},1/\tau _{0}),}เราดำเนินการดังต่อไปนี้

ขั้นแรกฟังก์ชันความน่าจะเป็นคือ (โดยใช้สูตรข้างต้นสำหรับผลรวมของความแตกต่างจากค่าเฉลี่ย): พี(Xμ,τ)=ฉัน=1nτ2πเอ็กซ์(12τ(xฉันμ)2)=(τ2π)n/2เอ็กซ์(12τฉัน=1n(xฉันμ)2)=(τ2π)n/2เอ็กซ์[12τ(ฉัน=1n(xฉันx¯)2+n(x¯μ)2)].{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\tau )&=\prod _{i=1}^{n}{\sqrt {\frac {\tau }{2\pi }}}\exp \left(-{\frac {1}{2}}\tau (x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left(-{\frac {1}{2}}\tau \sum _{i=1}^{n}(x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right].\end{aligned}}}

จากนั้น เราจะดำเนินการดังต่อไปนี้: พี(μX)พี(Xμ)พี(μ)=(τ2π)n/2เอ็กซ์[12τ(ฉัน=1n(xฉันx¯)2+n(x¯μ)2)]τ02πเอ็กซ์(12τ0(μμ0)2)เอ็กซ์(12(τ(ฉัน=1n(xฉันx¯)2+n(x¯μ)2)+τ0(μμ0)2))เอ็กซ์(12(nτ(x¯μ)2+τ0(μμ0)2))=เอ็กซ์(12(nτ+τ0)(μnτx¯+τ0μ0nτ+τ0)2+nττ0nτ+τ0(x¯μ0)2)เอ็กซ์(12(nτ+τ0)(μnτx¯+τ0μ0nτ+τ0)2){\displaystyle {\begin{aligned}p(\mu \mid \mathbf {X} )&\propto p(\mathbf {X} \mid \mu )p(\mu )\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]{\sqrt {\frac {\tau _{0}}{2\pi }}}\exp \left(-{\frac {1}{2}}\tau _{0}(\mu -\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(n\tau ({\bar {x}}-\mu )^{2}+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&=\exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}+{\frac {n\tau \tau _{0}}{n\tau +\tau _{0}}}({\bar {x}}-\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}\right)\end{aligned}}}

ในการพิสูจน์ข้างต้น เราใช้สูตรข้างต้นสำหรับผลรวมของกำลังสองสองจำนวน และตัดค่าคงที่ทั้งหมดที่ไม่เกี่ยวข้องกับμ ออกไป ผลลัพธ์ที่ได้คือเคอร์เนลของการแจกแจงแบบปกติ โดยมีค่าเฉลี่ย nτx¯+τ0μ0nτ+τ0{\textstyle {\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}}และความแม่นยำnτ+τ0{\textstyle n\tau +\tau _{0}}, เช่น พี(μX)~เอ็น(nτx¯+τ0μ0nτ+τ0,1nτ+τ0){\displaystyle p(\mu \mid \mathbf {X} )\sim {\mathcal {N}}\left({\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}},{\frac {1}{n\tau +\tau _{0}}}\right)}

สามารถเขียนสิ่งนี้ได้ในรูปของชุดสมการปรับปรุงแบบเบย์เซียนสำหรับพารามิเตอร์ภายหลัง โดยพิจารณาจากพารามิเตอร์ก่อนหน้า: τ0=τ0+nτμ0=nτx¯+τ0μ0nτ+τ0x¯=1nฉัน=1nxฉัน{\displaystyle {\begin{aligned}\tau _{0}'&=\tau _{0}+n\tau \\[5pt]\mu _{0}'&={\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}

กล่าวคือ การรวมจุดข้อมูลn จุด เข้า ด้วยกัน โดยมีความแม่นยำโดยรวมเท่ากับ (หรือเทียบเท่ากับความแปรปรวนโดยรวมเท่ากับn / σ² ) และค่าเฉลี่ยของค่าต่างๆx¯{\textstyle {\bar {x}}}เราสามารถหาค่าความแม่นยำรวมใหม่ได้ง่ายๆ โดยการเพิ่มค่าความแม่นยำรวมของข้อมูลเข้ากับค่าความแม่นยำรวมก่อนหน้า และสร้างค่าเฉลี่ยใหม่โดยใช้ค่าเฉลี่ยถ่วงน้ำหนักด้วยความแม่นยำ กล่าว คือค่าเฉลี่ยถ่วงน้ำหนักของค่าเฉลี่ยของข้อมูลและค่าเฉลี่ยก่อนหน้า โดยแต่ละค่าจะถูกถ่วงน้ำหนักด้วยค่าความแม่นยำรวมที่เกี่ยวข้อง วิธีนี้สมเหตุสมผลหากเรามองว่าความแม่นยำบ่งบอกถึงความแน่นอนของการสังเกต: ในการกระจายของค่าเฉลี่ยภายหลัง แต่ละองค์ประกอบของข้อมูลนำเข้าจะถูกถ่วงน้ำหนักด้วยความแน่นอน และความแน่นอนของการกระจายนี้คือผลรวมของความแน่นอนแต่ละส่วน (เพื่อให้เข้าใจได้ง่ายขึ้น ลองเปรียบเทียบกับวลี "ทั้งหมดนั้น (หรือไม่) มากกว่าผลรวมของส่วนต่างๆ" นอกจากนี้ ลองพิจารณาว่าความรู้เกี่ยวกับค่าเฉลี่ยภายหลังมาจากการรวมกันของความรู้เกี่ยวกับค่าเฉลี่ยก่อนหน้าและความน่าจะเป็น ดังนั้นจึงสมเหตุสมผลที่เราจะมีความแน่นอนในค่าเฉลี่ยภายหลังมากกว่าในองค์ประกอบใดองค์ประกอบหนึ่ง)

สูตรข้างต้นแสดงให้เห็นว่าเหตุใดการวิเคราะห์แบบเบย์เซียนของไพรเออร์คู่ควบสำหรับการแจกแจงปกติจึงสะดวกกว่าในแง่ของความแม่นยำ ความแม่นยำของโพสทีเรียร์คือผลรวมของความแม่นยำของไพรเออร์และความน่าจะเป็น และค่าเฉลี่ยของโพสทีเรียร์คำนวณโดยใช้ค่าเฉลี่ยถ่วงน้ำหนักด้วยความแม่นยำ ดังที่ได้อธิบายไว้ข้างต้น สูตรเดียวกันนี้สามารถเขียนในแง่ของความแปรปรวนได้โดยการผกผันความแม่นยำทั้งหมด ซึ่งจะได้สูตรที่ซับซ้อนกว่า σ02=1nσ2+1σ02μ0=nx¯σ2+μ0σ02nσ2+1σ02x¯=1nฉัน=1nxฉัน{\displaystyle {\begin{aligned}{\sigma _{0}^{2}}'&={\frac {1}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]\mu _{0}'&={\frac {{\frac {n{\bar {x}}}{\sigma ^{2}}}+{\frac {\mu _{0}}{\sigma _{0}^{2}}}}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}

ด้วยค่าเฉลี่ยที่ทราบ

สำหรับชุดข้อมูลX ที่มีการกระจายแบบปกติแบบอิสระและเหมือนกัน (iid ) ขนาดnโดยที่แต่ละจุดxเป็นไปตามเงื่อนไขต่อไปนี้x~เอ็น(μ,σ2){\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}เมื่อทราบค่าเฉลี่ยμแล้ว ค่าความน่าจะเป็นล่วงหน้าแบบสังยุคของความแปรปรวนจะมีการกระจายแบบแกมมาผกผันหรือการกระจายแบบไคกำลังสองผกผันแบบปรับขนาด การ กระจายทั้งสองแบบนี้เทียบเท่ากัน ยกเว้นมีพารามิเตอร์ที่ แตกต่างกัน แม้ว่าการกระจายแบบแกมมาผกผันจะใช้กันทั่วไปมากกว่า แต่เราใช้การกระจายแบบไคกำลังสองผกผันแบบปรับขนาดเพื่อความสะดวก ค่าความน่าจะเป็นล่วงหน้าสำหรับσ²มีดังนี้: พี(σ2ν0,σ02)=(σ02ν02)ν0/2Γ(ν02) เอ็กซ์[ν0σ022σ2](σ2)1+ν02เอ็กซ์[ν0σ022σ2](σ2)1+ν02{\displaystyle p(\sigma ^{2}\mid \nu _{0},\sigma _{0}^{2})={\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\nu _{0}/2}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\propto {\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}}

ฟังก์ชันความน่าจะเป็นจากข้างต้น เมื่อเขียนในรูปของความแปรปรวน จะได้ดังนี้: พี(Xμ,σ2)=(12πσ2)n/2เอ็กซ์[12σ2ฉัน=1n(xฉันμ)2]=(12πσ2)n/2เอ็กซ์[เอส2σ2]{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\sigma ^{2})&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right]\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]\end{aligned}}} ที่ไหน เอส=ฉัน=1n(xฉันμ)2.{\displaystyle S=\sum _{i=1}^{n}(x_{i}-\mu )^{2}.}

แล้ว: พี(σ2X)พี(Xσ2)พี(σ2)=(12πσ2)n/2เอ็กซ์[เอส2σ2](σ02ν02)ν02Γ(ν02) เอ็กซ์[ν0σ022σ2](σ2)1+ν02(1σ2)n/21(σ2)1+ν02เอ็กซ์[เอส2σ2+ν0σ022σ2]=1(σ2)1+ν0+n2เอ็กซ์[ν0σ02+เอส2σ2]{\displaystyle {\begin{aligned}p(\sigma ^{2}\mid \mathbf {X} )&\propto p(\mathbf {X} \mid \sigma ^{2})p(\sigma ^{2})\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]{\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\frac {\nu _{0}}{2}}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\\&\propto \left({\frac {1}{\sigma ^{2}}}\right)^{n/2}{\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\exp \left[-{\frac {S}{2\sigma ^{2}}}+{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]\\&={\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}+n}{2}}}}}\exp \left[-{\frac {\nu _{0}\sigma _{0}^{2}+S}{2\sigma ^{2}}}\right]\end{aligned}}}

ข้างต้นเป็นการแจกแจงไคกำลังสองผกผันแบบปรับขนาดเช่นกัน โดยที่ ν0=ν0+nν0σ02=ν0σ02+ฉัน=1n(xฉันμ)2{\displaystyle {\begin{aligned}\nu _{0}'&=\nu _{0}+n\\\nu _{0}'{\sigma _{0}^{2}}'&=\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-\mu )^{2}\end{aligned}}} หรือเทียบเท่า ν0=ν0+nσ02=ν0σ02+ฉัน=1n(xฉันμ)2ν0+n{\displaystyle {\begin{aligned}\nu _{0}'&=\nu _{0}+n\\{\sigma _{0}^{2}}'&={\frac {\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{\nu _{0}+n}}\end{aligned}}}

เมื่อกำหนดพารามิเตอร์ใหม่โดยใช้การแจกแจงแกมมาผกผันผลลัพธ์ที่ได้คือ: α=α+n2เบต้า=เบต้า+ฉัน=1n(xฉันμ)22{\displaystyle {\begin{aligned}\alpha '&=\alpha +{\frac {n}{2}}\\\beta '&=\beta +{\frac {\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{2}}\end{aligned}}}

โดยที่ค่าเฉลี่ยและความแปรปรวนไม่ทราบค่า

สำหรับชุดข้อมูลX ที่มีการกระจายแบบปกติแบบอิสระและเหมือนกัน (iid ) ขนาดnโดยที่แต่ละจุดxเป็นไปตามเงื่อนไขต่อไปนี้x~เอ็น(μ,σ2){\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}เมื่อค่าเฉลี่ย μไม่ทราบค่าและความแปรปรวนσ² ไม่ทราบ ค่า จะมีการใช้ไพรเออร์ แบบผสม (หลายตัวแปร) คอนจูเกตกับค่าเฉลี่ยและความแปรปรวน ซึ่งประกอบด้วยการแจกแจงแบบนอร์มัล-อินเวอร์ส-แกมมาตามหลักตรรกะแล้ว มีที่มาดังนี้:

  1. จากการวิเคราะห์กรณีที่มีค่าเฉลี่ยไม่ทราบค่าแต่ทราบค่าความแปรปรวน เราพบว่าสมการปรับปรุงนั้นเกี่ยวข้องกับสถิติที่เพียงพอซึ่งคำนวณจากข้อมูล โดยประกอบด้วยค่าเฉลี่ยของจุดข้อมูลและความแปรปรวนทั้งหมดของจุดข้อมูล ซึ่งคำนวณได้จากค่าความแปรปรวนที่ทราบหารด้วยจำนวนจุดข้อมูล
  2. จากการวิเคราะห์กรณีที่มีค่าความแปรปรวนไม่ทราบค่าแต่ทราบค่าเฉลี่ย เราพบว่าสมการปรับปรุงนั้นเกี่ยวข้องกับสถิติที่เพียงพอสำหรับข้อมูล ซึ่งประกอบด้วยจำนวนจุดข้อมูลและผลรวมของค่าเบี่ยงเบนกำลังสอง
  3. โปรดจำไว้ว่าค่าอัปเดตภายหลังจะทำหน้าที่เป็นค่าการแจกแจงก่อนหน้าเมื่อมีการประมวลผลข้อมูลเพิ่มเติม ดังนั้น เราควรคิดถึงค่าก่อนหน้าของเราอย่างมีเหตุผลโดยใช้สถิติเพียงพอที่ได้อธิบายไปแล้ว โดยคำนึงถึงความหมายเดียวกันให้มากที่สุดเท่าที่จะเป็นไปได้
  4. เพื่อจัดการกับกรณีที่ทั้งค่าเฉลี่ยและความแปรปรวนไม่ทราบค่า เราอาจกำหนดค่าความน่าจะเป็นล่วงหน้า (prior) ที่เป็นอิสระต่อกันสำหรับค่าเฉลี่ยและความแปรปรวน โดยมีค่าประมาณคงที่ของค่าเฉลี่ย ความแปรปรวนทั้งหมด จำนวนจุดข้อมูลที่ใช้ในการคำนวณค่าความน่าจะเป็นล่วงหน้าของความแปรปรวน และผลรวมของกำลังสองของส่วนเบี่ยงเบน อย่างไรก็ตาม โปรดทราบว่าในความเป็นจริง ความแปรปรวนทั้งหมดของค่าเฉลี่ยขึ้นอยู่กับความแปรปรวนที่ไม่ทราบค่า และผลรวมของกำลังสองของส่วนเบี่ยงเบนที่ใช้ในค่าความน่าจะเป็นล่วงหน้าของความแปรปรวน (ดูเหมือนว่าจะ) ขึ้นอยู่กับค่าเฉลี่ยที่ไม่ทราบค่า ในทางปฏิบัติ ความสัมพันธ์หลังนี้ค่อนข้างไม่สำคัญ: การเปลี่ยนแปลงค่าเฉลี่ยจริงจะทำให้จุดที่สร้างขึ้นเปลี่ยนแปลงไปในปริมาณที่เท่ากัน และโดยเฉลี่ยแล้วกำลังสองของส่วนเบี่ยงเบนจะยังคงเท่าเดิม อย่างไรก็ตาม นี่ไม่ใช่กรณีของความแปรปรวนทั้งหมดของค่าเฉลี่ย: เมื่อความแปรปรวนที่ไม่ทราบค่าเพิ่มขึ้น ความแปรปรวนทั้งหมดของค่าเฉลี่ยจะเพิ่มขึ้นตามสัดส่วน และเราต้องการที่จะจับความสัมพันธ์นี้ไว้
  5. แนวคิด นี้ชี้ให้เห็นว่าเราควรสร้าง ค่าความ น่าจะเป็นล่วงหน้าแบบมีเงื่อนไขของค่าเฉลี่ยโดยอิงจากค่าความแปรปรวนที่ไม่ทราบค่า โดยมีพารามิเตอร์ตัวหนึ่งระบุค่าเฉลี่ยของข้อมูลจำลองที่เกี่ยวข้องกับค่าความน่าจะเป็นล่วงหน้า และอีกพารามิเตอร์หนึ่งระบุจำนวนข้อมูลจำลอง จำนวนนี้ทำหน้าที่เป็นพารามิเตอร์การปรับขนาดของค่าความแปรปรวน ทำให้สามารถควบคุมค่าความแปรปรวนโดยรวมของค่าเฉลี่ยเมื่อเทียบกับค่าความแปรปรวนจริงได้ ค่าความน่าจะเป็นล่วงหน้าสำหรับค่าความแปรปรวนก็มีพารามิเตอร์สองตัวเช่นกัน ตัวหนึ่งระบุผลรวมของกำลังสองของส่วนเบี่ยงเบนของข้อมูลจำลองที่เกี่ยวข้องกับค่าความน่าจะเป็นล่วงหน้า และอีกตัวหนึ่งระบุจำนวนข้อมูลจำลองอีกครั้ง ค่าความน่าจะเป็นล่วงหน้าแต่ละค่ามีพารามิเตอร์ที่ระบุจำนวนข้อมูลจำลอง และในแต่ละกรณีนี้จะควบคุมค่าความแปรปรวนสัมพัทธ์ของค่าความน่าจะเป็นล่วงหน้านั้น พารามิเตอร์เหล่านี้ถูกกำหนดเป็นสองตัวแยกกัน เพื่อให้สามารถควบคุมค่าความแปรปรวน (หรือความเชื่อมั่น) ของค่าความน่าจะเป็นล่วงหน้าทั้งสองแยกกันได้
  6. This leads immediately to the normal-inverse-gamma distribution, which is the product of the two distributions just defined, with conjugate priors used (an inverse gamma distribution over the variance, and a normal distribution over the mean, conditional on the variance) and with the same four parameters just defined.

The priors are normally defined as follows: p(μσ2;μ0,n0)N(μ0,σ2/n0)p(σ2;ν0,σ02)Iχ2(ν0,σ02)=IG(ν0/2,ν0σ02/2){\displaystyle {\begin{aligned}p(\mu \mid \sigma ^{2};\mu _{0},n_{0})&\sim {\mathcal {N}}(\mu _{0},\sigma ^{2}/n_{0})\\p(\sigma ^{2};\nu _{0},\sigma _{0}^{2})&\sim I\chi ^{2}(\nu _{0},\sigma _{0}^{2})=IG(\nu _{0}/2,\nu _{0}\sigma _{0}^{2}/2)\end{aligned}}}

The update equations can be derived, and look as follows: x¯=1ni=1nxiμ0=n0μ0+nx¯n0+nn0=n0+nν0=ν0+nν0σ02=ν0σ02+i=1n(xix¯)2+n0nn0+n(μ0x¯)2{\displaystyle {\begin{aligned}{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\\\mu _{0}'&={\frac {n_{0}\mu _{0}+n{\bar {x}}}{n_{0}+n}}\\n_{0}'&=n_{0}+n\\\nu _{0}'&=\nu _{0}+n\\\nu _{0}'{\sigma _{0}^{2}}'&=\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+{\frac {n_{0}n}{n_{0}+n}}(\mu _{0}-{\bar {x}})^{2}\end{aligned}}}The respective numbers of pseudo-observations add the number of actual observations to them. The new mean hyperparameter is once again a weighted average, this time weighted by the relative numbers of observations. Finally, the update for ν0σ02{\textstyle \nu _{0}'{\sigma _{0}^{2}}'} is similar to the case with known mean, but in this case the sum of squared deviations is taken with respect to the observed data mean rather than the true mean, and as a result a new interaction term needs to be added to take care of the additional error source stemming from the deviation between prior and data mean.

Occurrence and applications

The occurrence of normal distribution in practical problems can be loosely classified into four categories:

  1. Exactly normal distributions;
  2. Approximately normal laws, for example when such approximation is justified by the central limit theorem; and
  3. Distributions modeled as normal – the normal distribution being the distribution with maximum entropy for a given mean and variance.
  4. Regression problems – the normal distribution being found after systematic effects have been modeled sufficiently well.

Exact normality

The ground state of a quantum harmonic oscillator has the Gaussian distribution.

A normal distribution occurs in some physical theories:

ความปกติโดยประมาณ

การแจกแจงแบบปกติ โดยประมาณเกิดขึ้นในหลายสถานการณ์ ดังที่อธิบายไว้ในทฤษฎีบทขีดจำกัดกลางเมื่อผลลัพธ์เกิดจากผลกระทบเล็กๆ จำนวนมากที่กระทำแบบบวกและเป็นอิสระการแจกแจงของผลลัพธ์จะใกล้เคียงกับการแจกแจงแบบปกติ การประมาณค่าแบบปกติจะไม่ถูกต้องหากผลกระทบกระทำแบบคูณ (แทนที่จะเป็นแบบบวก) หรือหากมีอิทธิพลภายนอกเพียงอย่างเดียวที่มีขนาดใหญ่กว่าผลกระทบอื่นๆ อย่างมาก

ถือว่าปกติ

ฮิสโตแกรมของความกว้างกลีบเลี้ยงของIris versicolorจากชุดข้อมูลดอกไอริส ของ Fisher โดยมีการซ้อนทับด้วยการกระจายแบบปกติที่เหมาะสมที่สุด

ผมมองว่าการปรากฏของเส้นโค้งปกติ – เส้นโค้งลาปลาเซียนของข้อผิดพลาด – เป็นปรากฏการณ์ที่ผิดปกติอย่างมาก มันถูกประมาณค่าคร่าวๆ ในบางการแจกแจง ด้วยเหตุนี้ และเนื่องจากความเรียบง่ายที่สวยงามของมัน เราอาจใช้มันเป็นค่าประมาณเบื้องต้น โดยเฉพาะอย่างยิ่งในการศึกษาเชิงทฤษฎี

มีวิธีการทางสถิติเพื่อทดสอบสมมติฐานนั้นในเชิงประจักษ์ โปรดดูส่วน " การทดสอบภาวะปกติ" ด้านบน

  • ในทางชีววิทยาค่าลอการิทึมของตัวแปรต่างๆ มักมีการกระจายแบบปกติ กล่าวคือ มักมีการกระจายแบบลอการิทึมปกติ (หลังจากแยกตามกลุ่มประชากรชาย/หญิง) โดยมีตัวอย่างเช่น:
    • การวัดขนาดของเนื้อเยื่อที่มีชีวิต (ความยาว ความสูง พื้นที่ผิว น้ำหนัก) [ 61 ]
    • ความยาวของ ส่วนประกอบ ที่ไม่เคลื่อนไหว (เช่น เส้นผม กรงเล็บ เล็บ ฟัน) ของสิ่งมีชีวิตในทิศทางการเจริญเติบโตซึ่งสันนิษฐานได้ว่าความหนาของเปลือกไม้ก็จัดอยู่ในประเภทนี้เช่นกัน
    • การวัดค่าทางสรีรวิทยาบางอย่าง เช่น ความดันโลหิตของผู้ใหญ่
  • ในด้านการเงิน โดยเฉพาะอย่างยิ่งในแบบจำลอง Black–Scholesนั้น การเปลี่ยนแปลงของ ค่า ลอการิทึมของอัตราแลกเปลี่ยน ดัชนีราคา และดัชนีตลาดหุ้น จะถูกสมมติว่ามีการกระจายแบบปกติ (ตัวแปรเหล่านี้มีพฤติกรรมเหมือนดอกเบี้ยทบต้นไม่ใช่ดอกเบี้ยธรรมดา และดังนั้นจึงเป็นการกระจายแบบทวีคูณ) นักคณิตศาสตร์บางคน เช่นBenoit Mandelbrotได้โต้แย้งว่าการกระจายแบบ log-Levyซึ่งมีหางหนาจะเป็นแบบจำลองที่เหมาะสมกว่า โดยเฉพาะอย่างยิ่งสำหรับการวิเคราะห์การตกต่ำของตลาดหุ้นการใช้สมมติฐานของการกระจายแบบปกติในแบบจำลองทางการเงินนั้น ยังถูกวิพากษ์วิจารณ์โดยNassim Nicholas Talebในงานเขียนของเขา ด้วย
  • ข้อผิดพลาดในการวัดในการทดลองทางกายภาพมักจะถูกจำลองโดยการแจกแจงแบบปกติ การใช้การแจกแจงแบบปกติไม่ได้หมายความว่าเรากำลังสมมติว่าข้อผิดพลาดในการวัดมีการแจกแจงแบบปกติ แต่การใช้การแจกแจงแบบปกติจะสร้างการคาดการณ์ที่อนุรักษ์นิยมที่สุดเท่าที่จะเป็นไปได้ โดยอาศัยเพียงความรู้เกี่ยวกับค่าเฉลี่ยและความแปรปรวนของข้อผิดพลาด[ 62 ]
  • ในการทดสอบมาตรฐานผลลัพธ์สามารถทำให้มีการกระจายแบบปกติได้โดยการเลือกจำนวนและความยากของคำถาม (เช่นในการทดสอบ IQ ) หรือการแปลงคะแนนดิบของการทดสอบให้เป็นคะแนนผลลัพธ์โดยการปรับให้เข้ากับการกระจายแบบปกติ ตัวอย่างเช่น ช่วงคะแนนมาตรฐานของ SATที่ 200–800 นั้นอิงตามการกระจายแบบปกติที่มีค่าเฉลี่ย 500 และส่วนเบี่ยงเบนมาตรฐาน 100
ใช้การแจกแจงปกติสะสมที่เหมาะสมกับปริมาณน้ำฝนในเดือนตุลาคม ดูวิธีการปรับการแจกแจงได้ที่นี่

ปัญหาเชิงวิธีวิจัยและการตรวจสอบโดยผู้ทรงคุณวุฒิ

จอห์น ไอโออันนิดิสแย้งว่า การใช้ค่าเบี่ยงเบนมาตรฐานที่มีการกระจายแบบปกติเป็นมาตรฐานในการตรวจสอบความถูกต้องของผลการวิจัย ทำให้การคาดการณ์ที่สามารถพิสูจน์ได้ว่าผิดเกี่ยวกับปรากฏการณ์ที่ไม่มีการกระจายแบบปกติไม่ได้รับการทดสอบ ตัวอย่างเช่น ปรากฏการณ์ที่ปรากฏขึ้นเฉพาะเมื่อมีเงื่อนไขที่จำเป็นทั้งหมดครบถ้วน และปรากฏการณ์หนึ่งไม่สามารถใช้แทนอีกปรากฏการณ์หนึ่งได้ในลักษณะการบวก และปรากฏการณ์ที่ไม่มีการกระจายแบบสุ่ม ไอโออันนิดิสกล่าวว่า การตรวจสอบความถูกต้องโดยใช้ค่าเบี่ยงเบนมาตรฐานเป็นศูนย์กลาง ทำให้สมมติฐานและทฤษฎีดูเหมือนมีความถูกต้องอย่างผิดๆ ในกรณีที่การคาดการณ์ที่สามารถพิสูจน์ได้ว่าผิดบางส่วนแต่ไม่ใช่ทั้งหมดมีการกระจายแบบปกติ เนื่องจากส่วนของการคาดการณ์ที่สามารถพิสูจน์ได้ว่าผิดซึ่งมีหลักฐานขัดแย้งอยู่นั้น อาจและในบางกรณีก็อยู่ในส่วนที่ไม่มีการกระจายแบบปกติของช่วงของการคาดการณ์ที่สามารถพิสูจน์ได้ว่าผิด รวมถึงการปฏิเสธสมมติฐานที่ไม่มีการคาดการณ์ที่สามารถพิสูจน์ได้ว่าผิดใดๆ มีการกระจายแบบปกติอย่างไม่มีมูลความจริง ราวกับว่าสมมติฐานเหล่านั้นไม่สามารถพิสูจน์ได้ว่าผิด ทั้งๆ ที่ความจริงแล้วสมมติฐานเหล่านั้นมีการคาดการณ์ที่สามารถพิสูจน์ได้ว่าผิด Ioannidis โต้แย้งว่ากรณีทฤษฎีที่ขัดแย้งกันเองหลายกรณีได้รับการยอมรับว่าถูกต้องโดยวารสารวิจัยนั้นเกิดจากความล้มเหลวของวารสารในการนำเอาการพิสูจน์เชิงประจักษ์ที่ผิดพลาดของการคาดการณ์ที่ไม่กระจายตัวตามปกติเข้ามาพิจารณา และไม่ใช่เพราะทฤษฎีที่ขัดแย้งกันเองเป็นจริง ซึ่งเป็นไปไม่ได้ แม้ว่าทฤษฎีที่ขัดแย้งกันเองสองทฤษฎีอาจผิดทั้งคู่และทฤษฎีที่สามถูกต้องก็ตาม[ 64 ]

วิธีการคำนวณ

การสร้างค่าจากการกระจายแบบปกติ

เครื่องโยนลูกบอล (Bean Machine)ซึ่งเป็นอุปกรณ์ที่ฟรานซิส กัลตัน คิดค้นขึ้น อาจเรียกได้ว่าเป็นเครื่องกำเนิดตัวแปรสุ่มปกติเครื่องแรก เครื่องนี้ประกอบด้วยแผ่นไม้แนวตั้งที่มีแถวของหมุดสลับกัน ลูกบอลขนาดเล็กจะถูกปล่อยลงมาจากด้านบน แล้วจะกระเด้งไปทางซ้ายหรือขวาอย่างสุ่มเมื่อกระทบกับหมุด ลูกบอลจะถูกรวบรวมลงในถังที่ด้านล่างและค่อยๆ เรียงตัวเป็นรูปแบบที่คล้ายกับเส้นโค้งเกาส์เซียน

ในการจำลองด้วยคอมพิวเตอร์ โดยเฉพาะอย่างยิ่งในการประยุกต์ใช้วิธีมอนเตคาร์โลมักเป็นที่พึงปรารถนาที่จะสร้างค่าที่มีการกระจายแบบปกติ อัลกอริทึมที่ระบุไว้ด้านล่างทั้งหมดสร้างค่าเบี่ยงเบนมาตรฐานปกติ เนื่องจากN ( μ , σ² )สามารถสร้างได้เป็นX = μ + σZโดยที่Zคือค่าเบี่ยงเบนมาตรฐานปกติ อัลกอริทึมทั้งหมดนี้อาศัยความพร้อมใช้งานของตัวสร้างเลขสุ่มUที่สามารถสร้างตัวแปรสุ่มแบบเอกรูปได้

  • วิธีที่ตรงไปตรงมาที่สุดคือการใช้ คุณสมบัติ การแปลงอินทิกรัลความน่าจะเป็น : ถ้าUกระจายอย่างสม่ำเสมอในช่วง (0,1) แล้วΦ −1 ( U )จะมีการกระจายแบบปกติมาตรฐาน ข้อเสียของวิธีนี้คือต้องอาศัยการคำนวณฟังก์ชัน probit Φ −1ซึ่งไม่สามารถทำได้โดยวิธีวิเคราะห์ วิธีการโดยประมาณบางวิธีได้อธิบายไว้ในHart (1968)และใน บทความ erf Wichura ได้นำเสนออัลกอริทึมที่รวดเร็วสำหรับการคำนวณฟังก์ชันนี้ถึง 16 ตำแหน่งทศนิยม[ 65 ] ซึ่ง Rใช้ในการคำนวณตัวแปรสุ่มของการกระจายแบบปกติ
  • วิธีการประมาณค่าที่ง่ายต่อการเขียนโปรแกรมซึ่งอาศัยทฤษฎีบทขีดจำกัดกลางมีดังนี้: สร้างค่าเบี่ยงเบนU (0,1) ที่เป็นเอกรูป 12 ค่า นำมารวมกันทั้งหมด แล้วลบด้วย 6 ค่า ตัวแปรสุ่มที่ได้จะมีค่าประมาณการกระจายแบบปกติมาตรฐาน ในความเป็นจริง การกระจายจะเป็นแบบIrwin –Hallซึ่งเป็นการประมาณค่าพหุนามลำดับที่ 11 แบบ 12 ส่วนสำหรับการกระจายแบบปกติ ค่าเบี่ยงเบนสุ่มนี้จะมีช่วงจำกัดที่(−6, 6) [ 66 ]โปรดทราบว่าในการกระจายแบบปกติที่แท้จริง มีเพียง 0.00034% ของตัวอย่างทั้งหมดเท่านั้นที่จะตกอยู่นอกช่วง± 6 σ 
  • วิธี Box –Mullerใช้ตัวเลขสุ่มอิสระสองตัวUและVที่กระจายอย่างสม่ำเสมอในช่วง (0,1) จากนั้นจึงสร้างตัวแปรสุ่มสองตัวXและYX=2lnยูคอส(2πวี),วาย=2lnยูบาป(2πวี).{\displaystyle X={\sqrt {-2\ln U}}\,\cos(2\pi V),\qquad Y={\sqrt {-2\ln U}}\,\sin(2\pi V).}ทั้งสองจะมีค่าการแจกแจงปกติมาตรฐาน และจะเป็นอิสระต่อกันการกำหนดสูตรนี้เกิดขึ้นเนื่องจากสำหรับเวกเตอร์สุ่มปกติแบบสองตัวแปร( X , Y )ค่า กำลัง สอง ของ นอร์ม + จะมีค่าการแจกแจงไคกำลังสองที่มีสององศาอิสระ ซึ่งเป็นตัวแปรสุ่มเอกซ์โพเนนเชียล ที่ สร้าง ได้ง่าย ซึ่งสอดคล้องกับปริมาณ−2 ln( U )ในสมการเหล่านี้ และมุมจะกระจายอย่างสม่ำเสมอรอบวงกลมที่เลือกโดยตัวแปรสุ่มV
  • วิธีการเชิงขั้วของ Marsagliaเป็นการดัดแปลงวิธีการของ Box–Muller ซึ่งไม่จำเป็นต้องคำนวณฟังก์ชันไซน์และโคไซน์ ในวิธีการนี้UและVจะถูกสุ่มมาจากการแจกแจงแบบเอกรูป (−1,1) จากนั้นคำนวณS = + ถ้า Sมากกว่าหรือเท่ากับ 1 วิธีการจะเริ่มต้นใหม่ มิฉะนั้นจะใช้ค่าทั้งสองX=ยู2lnเอสเอส,วาย=วี2lnเอสเอส{\displaystyle X=U{\sqrt {\frac {-2\ln S}{S}}},\qquad Y=V{\sqrt {\frac {-2\ln S}{S}}}}ส่งคืนค่าเดิม โดยที่XและYเป็นตัวแปรสุ่มปกติมาตรฐานที่เป็นอิสระต่อกัน
  • วิธีอัตราส่วน[ 67 ]เป็นวิธีการปฏิเสธ อัลกอริทึมดำเนินไปดังนี้:
    • สร้างค่าเบี่ยงเบนสม่ำเสมออิสระสองค่า คือUและV ;
    • คำนวณX = 8/ e ( V − 0.5)/ U ;
    • ตัวเลือกเสริม: ถ้าX 2 ≤ 5 − 4 e 1/4 Uให้ยอมรับXและยุติอัลกอริทึม
    • ตัวเลือกเสริม: ถ้าX 2 ≥ 4 e −1.35 / U + 1.4ให้ปฏิเสธXและเริ่มต้นใหม่ตั้งแต่ขั้นตอนที่ 1
    • ถ้าX 2 ≤ −4 ln Uให้ยอมรับXมิฉะนั้นให้เริ่มอัลกอริทึมใหม่
    ขั้นตอนเสริมสองขั้นตอนช่วยให้สามารถหลีกเลี่ยงการประเมินลอการิทึมในขั้นตอนสุดท้ายได้ในกรณีส่วนใหญ่ ขั้นตอนเหล่านี้สามารถปรับปรุงได้อย่างมาก[ 68 ]เพื่อให้การประเมินลอการิทึมเกิดขึ้นได้น้อยมาก
  • อัลกอริทึมซิกกูแรต[ 69 ]เร็วกว่าการแปลงบ็อกซ์-มุลเลอร์และยังคงแม่นยำ ในประมาณ 97% ของทุกกรณี จะใช้เพียงตัวเลขสุ่มสองตัว ตัวเลขสุ่มจำนวนเต็มหนึ่งตัวและตัวเลขสุ่มแบบเอกรูปหนึ่งตัว การคูณหนึ่งครั้ง และการทดสอบเงื่อนไข เฉพาะใน 3% ของกรณีเท่านั้น ที่การรวมกันของทั้งสองนั้นอยู่นอก "แกนหลักของซิกกูแรต" (การสุ่มตัวอย่างแบบปฏิเสธโดยใช้ลอการิทึม) จึงต้องใช้เลขชี้กำลังและตัวเลขสุ่มแบบเอกรูปเพิ่มเติม
  • สามารถใช้เลขคณิตจำนวนเต็มเพื่อสุ่มตัวอย่างจากการกระจายปกติมาตรฐานได้[ 70 ] [ 71 ]วิธีนี้มีความแม่นยำในแง่ที่ว่ามันตรงตามเงื่อนไขของ การประมาณค่า ในอุดมคติ[ 72 ]กล่าวคือ มันเทียบเท่ากับการสุ่มตัวอย่างจำนวนจริงจากการกระจายปกติมาตรฐานและปัดเศษให้เป็นจำนวนจุดลอยตัวที่ใกล้ที่สุดที่สามารถแสดงได้
  • นอกจากนี้ยังมีการตรวจสอบ[ 73 ] บางส่วน เกี่ยวกับความเชื่อมโยงระหว่างการแปลง Hadamard แบบเร็ว กับการกระจายแบบปกติ เนื่องจากการแปลงใช้เพียงการบวกและการลบ และตามทฤษฎีบทขีดจำกัดกลาง ตัวเลขสุ่มจากการกระจายเกือบทุกแบบจะถูกแปลงเป็นการกระจายแบบปกติ ในแง่นี้ ชุดของการแปลง Hadamard สามารถรวมเข้ากับการเรียงสับเปลี่ยนแบบสุ่มเพื่อเปลี่ยนชุดข้อมูลใดๆ ให้เป็นข้อมูลที่มีการกระจายแบบปกติได้

การประมาณค่าเชิงตัวเลขสำหรับฟังก์ชันการกระจายสะสมปกติและฟังก์ชันควอนไทล์ปกติ

ฟังก์ชันการแจกแจงสะสมแบบปกติมาตรฐานถูกนำมาใช้กันอย่างแพร่หลายในการคำนวณทางวิทยาศาสตร์และสถิติ

ค่าΦ ( x )สามารถประมาณได้อย่างแม่นยำมากด้วยวิธีการต่างๆ เช่นการอินทิเกรตเชิงตัวเลขอนุกรมเทย์เลอร์อนุกรมเชิงเส้นกำกับและเศษส่วนต่อเนื่องมีการใช้การประมาณค่าที่แตกต่างกันไปตามระดับความแม่นยำที่ต้องการ

  • Zelen & Severo (1964)ให้ค่าประมาณสำหรับΦ ( x )สำหรับx > 0โดยมีข้อผิดพลาดสัมบูรณ์| ε ( x ) | < 7.5·10 −8 (อัลกอริทึม26.2.17 ):Φ(x)=1φ(x)(1ที+2ที2+3ที3+4ที4+5ที5)+ε(x),ที=11+0x,{\displaystyle \Phi (x)=1-\varphi (x)\left(b_{1}t+b_{2}t^{2}+b_{3}t^{3}+b_{4}t^{4}+b_{5}t^{5}\right)+\varepsilon (x),\qquad t={\frac {1}{1+b_{0}x}},}โดยที่ϕ ( x ) คือฟังก์ชันความ หนาแน่นความน่าจะเป็นปกติมาตรฐาน และb = 0.2316419 , b = 0.319381530 , b = −0.356563782 , b = 1.781477937 , b = −1.821255978 , b = 1.330274429
  • ฮาร์ท (1968)แสดงรายการการประมาณค่าหลายสิบวิธีโดยใช้ฟังก์ชันตรรกยะ ทั้งแบบมีและไม่มีเลขชี้กำลัง สำหรับ ฟังก์ชัน erfc()โดยที่ erfc(x) = 1 - erf(x) อัลกอริทึมของเขามีความซับซ้อนและความแม่นยำแตกต่างกันไป โดยมีความแม่นยำสัมบูรณ์สูงสุด 24 หลัก อัลกอริทึมของเวสต์ (2009)ได้รวมอัลกอริทึม 5666 ของฮาร์ทเข้ากับ การประมาณ ค่าเศษส่วนต่อเนื่องในส่วนท้าย เพื่อให้ได้อัลกอริทึมการคำนวณที่รวดเร็วและมีความแม่นยำ 16 หลัก
  • Cody (1969)หลังจากระลึกได้ว่าวิธีแก้ปัญหาของ Hart68 ไม่เหมาะสมสำหรับ erf จึงได้เสนอวิธีแก้ปัญหาสำหรับทั้ง erf และ erfc โดยมีขอบเขตข้อผิดพลาดสัมพัทธ์สูงสุด ผ่านการประมาณค่า Chebyshev แบบมีเหตุผล
  • Marsaglia (2004)เสนออัลกอริทึมง่ายๆ[หมายเหตุ 1 ]โดยอิงจากการขยายอนุกรมเทย์เลอร์Φ(x)=12+φ(x)(x+x33+x535+x7357+x93579+){\displaystyle \Phi (x)={\frac {1}{2}}+\varphi (x)\left(x+{\frac {x^{3}}{3}}+{\frac {x^{5}}{3\cdot 5}}+{\frac {x^{7}}{3\cdot 5\cdot 7}}+{\frac {x^{9}}{3\cdot 5\cdot 7\cdot 9}}+\cdots \right)}สำหรับการคำนวณΦ ( x )ด้วยความแม่นยำตามอำเภอใจ ข้อเสียของอัลกอริทึมนี้คือใช้เวลาในการคำนวณค่อนข้างช้า (ตัวอย่างเช่น ต้องใช้การวนซ้ำมากกว่า 300 ครั้งในการคำนวณฟังก์ชันด้วยความแม่นยำ 16 หลัก เมื่อx = 10 )
  • ไลบรารีวิทยาศาสตร์ของ GNUคำนวณค่าของฟังก์ชันการกระจายสะสมปกติมาตรฐานโดยใช้อัลกอริทึมของ Hart และการประมาณค่าด้วย พหุ นามChebyshev
  • Dia (2023)เสนอการประมาณค่าต่อไปนี้ของ1Φ{\textstyle 1-\Phi }โดยมีข้อผิดพลาดสัมพัทธ์สูงสุดน้อยกว่า253{\textstyle 2^{-53}}(1.1×1016){\textstyle \left(\approx 1.1\times 10^{-16}\right)}ในค่าสัมบูรณ์: สำหรับx0{\textstyle x\geq 0}1Φ(x)=(0.39894228040143268x+2.92678600515804815)(x2+8.42742300458043240x+18.38871225773938487x2+5.81582518933527391x+8.97280659046817350)(x2+7.30756258553673541x+18.25323235347346525x2+5.70347935898051437x+10.27157061171363079)(x2+5.66479518878470765x+18.61193318971775795x2+5.51862483025707963x+12.72323261907760928)(x2+4.91396098895240075x+24.14804072812762821x2+5.26184239579604207x+16.88639562007936908)(x2+3.83362947800146179x+11.61511226260603247x2+4.92081346632882033x+24.12333774572479110)อีx22{\textstyle {\begin{aligned}1-\Phi \left(x\right)&=\left({\frac {0.39894228040143268}{x+2.92678600515804815}}\right)\left({\frac {x^{2}+8.42742300458043240x+18.38871225773938487}{x^{2}+5.81582518933527391x+8.97280659046817350}}\right)\\&\left({\frac {x^{2}+7.30756258553673541x+18.25323235347346525}{x^{2}+5.70347935898051437x+10.27157061171363079}}\right)\left({\frac {x^{2}+5.66479518878470765x+18.61193318971775795}{x^{2}+5.51862483025707963x+12.72323261907760928}}\right)\\&\left({\frac {x^{2}+4.91396098895240075x+24.14804072812762821}{x^{2}+5.26184239579604207x+16.88639562007936908}}\right)\left({\frac {x^{2}+3.83362947800146179x+11.61511226260603247}{x^{2}+4.92081346632882033x+24.12333774572479110}}\right)e^{-{\frac {x^{2}}{2}}}\end{aligned}}}และสำหรับx<0{\textstyle x<0},

1Φ(x)=1(1Φ(x)){\displaystyle 1-\Phi \left(x\right)=1-\left(1-\Phi \left(-x\right)\right)}

Shore (1982) ได้นำเสนอการประมาณค่าอย่างง่ายที่อาจนำไปใช้ในแบบจำลองการเพิ่มประสิทธิภาพเชิงสุ่มของวิศวกรรมและการวิจัยการดำเนินงาน เช่น วิศวกรรมความน่าเชื่อถือและการวิเคราะห์สินค้าคงคลัง โดยกำหนดให้p = Φ ( z )การประมาณค่าที่ง่ายที่สุดสำหรับฟังก์ชันควอนไทล์คือ: z=Φ1(พี)=5.5556[1(1พีพี)0.1186],พี1/2{\displaystyle z=\Phi ^{-1}(p)=5.5556\left[1-\left({\frac {1-p}{p}}\right)^{0.1186}\right],\qquad p\geq 1/2}

การประมาณค่านี้ให้ค่าความคลาดเคลื่อนสัมบูรณ์สูงสุด สำหรับ z ที่ 0.026 (สำหรับ 0.5 ≤ p ≤ 0.9999ซึ่งสอดคล้องกับ0 ≤ z ≤ 3.719 ) สำหรับp < 1/2ให้แทนpด้วย1 − pแล้วเปลี่ยนเครื่องหมาย การประมาณค่าอีกวิธีหนึ่งซึ่งมีความแม่นยำน้อยกว่าเล็กน้อย คือการประมาณค่าแบบพารามิเตอร์เดียว: z=0.4115{1พีพี+บันทึก[1พีพี]1},พี1/2{\displaystyle z=-0.4115\left\{{\frac {1-p}{p}}+\log \left[{\frac {1-p}{p}}\right]-1\right\},\qquad p\geq 1/2}

วิธีการหลังนี้ใช้เพื่อหาค่าประมาณอย่างง่ายสำหรับปริพันธ์การสูญเสียของการแจกแจงปกติ ซึ่งกำหนดโดย แอล(z)=z(คุณz)φ(คุณ)คุณ=z[1Φ(คุณ)]คุณแอล(z){0.4115(พี1พี)z,พี<1/2,0.4115(1พีพี),พี1/2.หรือเทียบเท่ากันแอล(z){0.4115{1บันทึก[พี1พี]},พี<1/2,0.41151พีพี,พี1/2.{\displaystyle {\begin{aligned}L(z)&=\int _{z}^{\infty }(u-z)\varphi (u)\,du=\int _{z}^{\infty }[1-\Phi (u)]\,du\\[5pt]L(z)&\approx {\begin{cases}0.4115\left({\dfrac {p}{1-p}}\right)-z,&p<1/2,\\\\0.4115\left({\dfrac {1-p}{p}}\right),&p\geq 1/2.\end{cases}}\\[5pt]{\text{or, equivalently,}}\\L(z)&\approx {\begin{cases}0.4115\left\{1-\log \left[{\frac {p}{1-p}}\right]\right\},&p<1/2,\\\\0.4115{\dfrac {1-p}{p}},&p\geq 1/2.\end{cases}}\end{aligned}}}

การประมาณค่านี้มีความแม่นยำเป็นพิเศษสำหรับส่วนปลายด้านขวา (ข้อผิดพลาดสูงสุด 10 −3สำหรับz ≥ 1.4 ) การประมาณค่าที่มีความแม่นยำสูงสำหรับฟังก์ชันการกระจายสะสม โดยอิงตามระเบียบวิธีแบบจำลองการตอบสนอง (RMM, Shore, 2011, 2012) แสดงไว้ใน Shore (2005)

สามารถดูค่าประมาณเพิ่มเติมได้ที่: ฟังก์ชันข้อผิดพลาด#การประมาณค่าด้วยฟังก์ชันพื้นฐานโดยเฉพาะอย่างยิ่ง ข้อผิดพลาด สัมพัทธ์ เล็กน้อย ในโดเมนทั้งหมดสำหรับฟังก์ชันการกระจายสะสมΦ{\displaystyle \Phi }และฟังก์ชันควอนไทล์Φ1{\textstyle \Phi ^{-1}}นอกจากนี้ ยังสามารถหาคำตอบได้ด้วยสูตรที่สามารถผกผันได้อย่างชัดเจน ซึ่งคิดค้นโดย Sergei Winitzki ในปี 2008

ประวัติศาสตร์

การพัฒนา

ผู้เขียนบางท่าน[ 74 ] [ 75 ]ระบุว่าการค้นพบการแจกแจงปกติเป็นผลงานของเดอ มัวฟร์ซึ่งในปี 1738 [หมายเหตุ 2 ] ได้ตีพิมพ์ผล การศึกษาเกี่ยวกับสัมประสิทธิ์ในการขยายทวินามของ( a + b ) n ในฉบับพิมพ์ครั้งที่สองของหนังสือ The Doctrine of Chancesของเขาเดอ มัวฟร์พิสูจน์ว่าพจน์กลางในการขยายนี้มีขนาดโดยประมาณเท่ากับ2n/2πn{\textstyle 2^{n}/{\sqrt {2\pi n}}}และว่า "ถ้าmหรือ1 / 2nเป็น ปริมาณที่มากอย่างไม่มีที่ สิ้นสุดแล้วลอการิทึมของอัตราส่วนที่พจน์ที่อยู่ห่างจากตรงกลางด้วยช่วงมีต่อพจน์ตรงกลางคือ2n{\textstyle -{\frac {2\ell \ell }{n}}}." [ 76 ]แม้ว่าทฤษฎีบทนี้สามารถตีความได้ว่าเป็นการแสดงออกที่ไม่ชัดเจนครั้งแรกสำหรับกฎความน่าจะเป็นปกติ แต่Stiglerชี้ให้เห็นว่า de Moivre เองก็ไม่ได้ตีความผลลัพธ์ของเขาว่าเป็นอะไรมากไปกว่ากฎโดยประมาณสำหรับสัมประสิทธิ์ทวินาม และโดยเฉพาะอย่างยิ่ง de Moivre ขาดแนวคิดของฟังก์ชันความหนาแน่นความน่าจะเป็น[ 77 ]

ในปี ค.ศ. 1809 คาร์ล ฟรีดริช เกาส์ได้แสดงให้เห็นว่าการแจกแจงแบบปกติช่วยให้สามารถใช้วิธีการกำลังสองน้อยที่สุดได้ อย่างมีเหตุผล

ในปี ค.ศ. 1823 เกาส์ได้ตีพิมพ์งานวิจัยเรื่อง" Theoria combinationis observationum erroribus minimis obnoxiae "ซึ่งในงานวิจัยนี้ เขาได้แนะนำแนวคิดทางสถิติที่สำคัญหลายประการ เช่นวิธีการกำลังสองน้อยที่สุดวิธีการความน่าจะเป็นสูงสุดและการแจกแจงแบบปกติเกาส์ใช้M , M , M ″, ...แทนการวัดปริมาณที่ไม่ทราบค่าVและพยายามหาตัวประมาณค่าที่มีความน่าจะเป็นสูงสุดของปริมาณนั้น นั่นคือ ตัวประมาณค่าที่ทำให้ความน่าจะเป็นφ ( MV ) · φ ( M ′ − V ) · φ ( M ″ − V ) · ...ของการได้ผลการทดลองที่สังเกตได้สูงสุด ในสัญลักษณ์ของเขา φΔ คือฟังก์ชันความหนาแน่นความน่าจะเป็นของข้อผิดพลาดในการวัดที่มีขนาด Δ เนื่องจากไม่ทราบว่าฟังก์ชันφคืออะไร เกาส์จึงต้องการให้วิธีการของเขาลดลงเหลือคำตอบที่รู้จักกันดี นั่นคือ ค่าเฉลี่ยเลขคณิตของค่าที่วัดได้[หมายเหตุ 3 ]จากหลักการเหล่านี้ เกาส์แสดงให้เห็นว่ากฎเดียวที่อธิบายเหตุผลของการเลือกค่าเฉลี่ยเลขคณิตเป็นตัวประมาณค่าพารามิเตอร์ตำแหน่งได้ก็คือกฎความคลาดเคลื่อนปกติ: [ 78 ] φΔ=ชม.πอีชม.ชม.ΔΔ,{\displaystyle \varphi {\mathit {\Delta }}={\frac {h}{\surd \pi }}\,e^{-\mathrm {hh} \Delta \Delta },} โดยที่hคือ "การวัดความแม่นยำของการสังเกต" เมื่อใช้กฎปกตินี้เป็นแบบจำลองทั่วไปสำหรับข้อผิดพลาดในการทดลอง เกาส์ได้กำหนดสิ่งที่ปัจจุบันเรียกว่าวิธีการถ่วงน้ำหนักกำลังสองน้อยที่สุดแบบไม่เชิงเส้น[ 79 ]

ปิแอร์-ซีมอง ลาปลาซ พิสูจน์ทฤษฎีบทลิมิตกลางในปี ค.ศ. 1810 ซึ่งเป็นการตอกย้ำความสำคัญของการแจกแจงแบบปกติในทางสถิติ

แม้ว่าเกาส์จะเป็นคนแรกที่เสนอกฎการแจกแจงแบบปกติ แต่ลาปลาซก็มีส่วนสำคัญอย่างมาก[หมายเหตุ 4 ]ลาปลาซเป็นคนแรกที่ตั้งปัญหาการรวมการสังเกตหลายๆ ครั้งในปี 1774 [ 80 ]แม้ว่าวิธีแก้ปัญหาของเขาเองจะนำไปสู่การแจกแจงแบบลาปลาซก็ตาม ลาปลาซเป็นคนแรกที่คำนวณค่าของอินทิกรัลe t 2 dt = πในปี 1782 ซึ่งให้ค่าคงที่ของการทำให้เป็นมาตรฐานสำหรับการแจกแจงแบบปกติ[ 81 ]สำหรับความสำเร็จนี้ เกาส์ยอมรับความสำคัญของลาปลาซ[ 82 ] ในที่สุด ลาปลาซเป็นผู้ที่พิสูจน์และนำเสนอ ทฤษฎีบทขีดจำกัดกลางพื้นฐานต่อวงการวิชาการในปี 1810 ซึ่งเน้นย้ำถึงความสำคัญทางทฤษฎีของการแจกแจงแบบปกติ[ 83 ]

เป็นที่น่าสนใจที่จะสังเกตว่าในปี พ.ศ. 2352 นักคณิตศาสตร์ชาวไอริช-อเมริกันชื่อRobert Adrainได้ตีพิมพ์ผลงานการพิสูจน์กฎความน่าจะเป็นปกติที่ลึกซึ้งแต่มีข้อบกพร่องสองชิ้นพร้อมกันและเป็นอิสระจาก Gauss [ 84 ] ผลงานของเขาส่วนใหญ่ไม่เป็นที่รู้จักของชุมชนวิทยาศาสตร์ จนกระทั่งในปี พ.ศ. 2314 Abbeได้นำผลงานเหล่านั้นกลับมาศึกษาอีกครั้ง[ 85 ]

ในช่วงกลางศตวรรษที่ 19 แม็กซ์เวลล์ได้แสดงให้เห็นว่าการแจกแจงแบบปกติไม่ได้เป็นเพียงเครื่องมือทางคณิตศาสตร์ที่สะดวกเท่านั้น แต่ยังอาจเกิดขึ้นในปรากฏการณ์ทางธรรมชาติได้อีกด้วย: [ 58 ]จำนวนอนุภาคที่มีความเร็วซึ่งถูกวิเคราะห์ในทิศทางหนึ่งๆ อยู่ระหว่างxและx + dxคือ เอ็น1απอีx2α2x{\displaystyle \operatorname {N} {\frac {1}{\alpha \;{\sqrt {\pi }}}}\;e^{-{\frac {x^{2}}{\alpha ^{2}}}}\,dx}

การตั้งชื่อ

ในปัจจุบัน แนวคิดนี้มักเรียกกันในภาษาอังกฤษว่าการแจกแจงปกติหรือการแจกแจงแบบเกาส์เซียนชื่ออื่นๆ ที่ใช้กันน้อยกว่า ได้แก่ การแจกแจงแบบเกาส์ การแจกแจงแบบลาปลาซ-เกาส์ กฎแห่งความคลาดเคลื่อน กฎแห่งความง่ายของความคลาดเคลื่อน กฎข้อที่สองของลาปลาซ และกฎแบบเกาส์เซียน

ดูเหมือนว่าเกาส์เองจะเป็นผู้บัญญัติศัพท์นี้โดยอ้างอิงถึง "สมการปกติ" ที่เกี่ยวข้องกับการประยุกต์ใช้ โดยคำว่าปกติในเชิงเทคนิคหมายถึงตั้งฉากกัน ไม่ใช่ปกติ[ 86 ]อย่างไรก็ตาม ในช่วงปลายศตวรรษที่ 19 ผู้เขียนบางคน[หมายเหตุ 5 ]ได้เริ่มใช้ชื่อการแจกแจงปกติโดยใช้คำว่า "ปกติ" เป็นคำคุณศัพท์ ซึ่ง ในขณะนั้นคำนี้ถูกมองว่าเป็นการสะท้อนให้เห็นว่าการแจกแจงนี้เป็นเรื่องปกติ ทั่วไป และจึงถือว่าปกติเพียร์ซ (หนึ่งในผู้เขียนเหล่านั้น) เคยให้คำจำกัดความของ "ปกติ" ไว้ดังนี้: "...  'ปกติ' ไม่ใช่ค่าเฉลี่ย (หรือค่าเฉลี่ยประเภทอื่นใด) ของสิ่งที่เกิดขึ้นจริง แต่เป็นสิ่งที่ในระยะยาวจะ เกิดขึ้นภายใต้สถานการณ์บางอย่าง" [ 87 ]ในช่วงต้นศตวรรษที่ 20 เพียร์สันได้ทำให้คำว่าปกติ เป็นที่นิยม ในฐานะคำที่ใช้เรียกการแจกแจงนี้[ 88 ]

หลายปีที่แล้ว ผมเคยเรียกเส้นโค้งลาปลาซ-เกาส์เซียนว่า เส้นโค้ง ปกติซึ่งชื่อนี้ถึงแม้จะช่วยหลีกเลี่ยงประเด็นเรื่องความได้เปรียบในระดับนานาชาติ แต่ก็มีข้อเสียคือทำให้ผู้คนเข้าใจผิดว่าการแจกแจงความถี่แบบอื่นๆ ทั้งหมดนั้น 'ผิดปกติ' ในแง่ใดแง่หนึ่ง

นอกจากนี้ เพียร์สันเป็นคนแรกที่เขียนการแจกแจงในรูปของค่าเบี่ยงเบนมาตรฐานσดังเช่นสัญลักษณ์ที่ใช้ในปัจจุบัน ไม่นานหลังจากนั้น ในปี 1915 ฟิชเชอร์ได้เพิ่มพารามิเตอร์ตำแหน่งเข้าไปในสูตรการแจกแจงปกติ โดยแสดงออกมาในรูปแบบที่เขียนกันในปัจจุบัน: เอฟ=12σ2πอี(x)2/(2σ2)x.{\displaystyle df={\frac {1}{\sqrt {2\sigma ^{2}\pi }}}e^{-(x-m)^{2}/(2\sigma ^{2})}\,dx.}

คำว่าการแจกแจงปกติมาตรฐานซึ่งหมายถึงการแจกแจงปกติที่มีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนเป็นหนึ่ง เริ่มใช้กันอย่างแพร่หลายในช่วงทศวรรษ 1950 โดยปรากฏในตำราเรียนยอดนิยมของ P.  G. Hoel (1947) Introduction to Mathematical StatisticsและAlexander M. Mood (1950) Introduction to the Theory of Statistics [ 89 ] [ 90 ] [ 91 ]

ดูเพิ่มเติม

หมายเหตุ

  1. ตัวอย่างเช่น อัลกอริทึมนี้มีอยู่ในบทความเรื่องภาษาโปรแกรม Bc
  2. เดอ มัวร์ตีพิมพ์ผลการค้นพบของเขาครั้งแรกในปี 1733 ในจุลสารชื่อ Approximatio ad Summam Terminorum Binomii ( a + b ) n in Seriem Expansiซึ่งกำหนดไว้สำหรับการเผยแพร่ภายในเท่านั้น แต่จนกระทั่งปี 1738 เขาจึงเปิดเผยผลลัพธ์ของเขาต่อสาธารณะ จุลสารฉบับดั้งเดิมได้รับการพิมพ์ซ้ำหลายครั้ง ดูตัวอย่างเช่น Walker (1985 )
  3. "โดยทั่วไปแล้ว มักถือว่าสมมติฐานที่ว่า หากปริมาณใดๆ ได้รับการกำหนดโดยการสังเกตโดยตรงหลายครั้ง ภายใต้สถานการณ์เดียวกันและด้วยความระมัดระวังเท่าเทียมกัน ค่าเฉลี่ยเลขคณิตของค่าที่สังเกตได้จะให้ค่าที่มีความน่าจะเป็นมากที่สุด หากไม่แม่นยำอย่างเคร่งครัด แต่ก็ใกล้เคียงมากที่สุด ดังนั้นจึงปลอดภัยที่สุดที่จะยึดถือค่าเฉลี่ยเลขคณิตนี้เสมอ" —เกาส์ (1809 , มาตรา 177)
  4. "ธรรมเนียมของผมในการเรียกเส้นโค้งนี้ว่าเส้นโค้งเกาส์-ลาปลาเซียนหรือ เส้นโค้ง ปกติช่วยให้เราไม่ต้องแบ่งความดีความชอบในการค้นพบระหว่างนักดาราศาสตร์และนักคณิตศาสตร์ผู้ยิ่งใหญ่ทั้งสองท่าน" อ้างอิงจากเพียร์สัน (1905 , หน้า 189)
  5. นอกจากที่อ้างอิงไว้โดยเฉพาะในที่นี้แล้ว ยังพบการใช้งานในลักษณะนี้ในงานของ Peirce , Galton ( Galton (1889 , บทที่ V)) และ Lexis ( Lexis (1878) , Rohrbasser & Véron (2003) ) ประมาณปี 1875
ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Normal_distribution&oldid=1361226642 "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ การกระจายแบบปกติ

ฉัน(μ,σ)=(1/σ2002/σ2){\displaystyle {\mathcal {I}}(\mu ,\sigma )={\begin{pmatrix}1/\sigma ^{2}&0\\0&2/\sigma ^{2}\end{pmatrix}}}

การแจกแจงปกติมาตรฐาน

กรณีที่ง่ายที่สุดของการแจกแจงแบบปกติเรียกว่า การแจกแจงแบบปกติมาตรฐาน หรือ การแจกแจงแบบปกติหน่วย นี่เป็นกรณีพิเศษเมื่อ μ = 0 {\textstyle \mu =0} และ σ 2 = 1 {\textstyle \sigma ^{2}=1} และอธิบายโดย ฟังก์ชันความหนาแน่นความน่าจะเป็น (หรือความหนาแน่น) นี้: [ 10 ]...

การกระจายปกติทั่วไป

ถ้า ​ ซ {\displaystyle Z} ถ้า ค่า เบี่ยงเบนมาตรฐาน เป็นแล้ว X = σ ซ + μ {\textstyle X=\sigma Z+\mu } จะมีการกระจายแบบปกติโดยมีค่าเฉลี่ย ⁠ μ {\displaystyle \mu } และ ค่า เบี่ยง เบนมาตรฐาน σ {\displaystyle \sigma } นี่ เทียบเท่ากับการกล่าวว่าการแจกแจงปกติ...

สัญกรณ์

ฟังก์ชันความหนาแน่นความน่าจะเป็นของการแจกแจงปกติมาตรฐานมักใช้สัญลักษณ์อักษรกรีกว่า ฟี ( phi ) ϕ {\displaystyle \phi } [ 12 ]รูป แบบ ตัวแปร ​ φ {\displaystyle \varphi } ก็ ใช้เช่นกัน