ปกติหลายตัวแปร
ฟังก์ชันความหนาแน่นความน่าจะเป็น จุดตัวอย่างจำนวนมากจาก1การแจกแจงปกติหลายตัวแปรที่มีและแสดงร่วมกับวงรี 3 ซิกมา การแจกแจงขอบทั้งสอง และฮิสโตแกรม 1 มิติสองอัน${\displaystyle {\boldsymbol {\mu }}=\left[{\begin{smallmatrix}0\\0\end{smallmatrix}}\right]}$${\displaystyle {\boldsymbol {\Sigma }}=\left[{\begin{smallmatrix}1&3/5\\3/5&2\end{smallmatrix}}\right]}$
สัญกรณ์	${\displaystyle {\mathcal {N}}({\boldสัญลักษณ์ {\mu }},\,{\boldสัญลักษณ์ {\Sigma }})}$
พารามิเตอร์	μ ∈ R k —ตำแหน่งΣ ∈ R k  ×  k —ความแปรปรวนร่วม (เมทริกซ์กึ่งกำหนดเชิงบวก )
สนับสนุน	x ∈ μ + span( Σ ) ⊆ R k
พีดี	${\displaystyle (2\pi )^{-k/2}\det({\boldsymbol {\Sigma }})^{-1/2}\,\exp \left(-{\frac {1}{2}}(\mathbf {x} -{\boldsymbol {\mu }})^{\mathrm {T} }{\boldsymbol {\Sigma }}^{-1}(\mathbf {x} -{\boldsymbol {\mu }})\right),}$มีอยู่เฉพาะเมื่อΣเป็นเมทริกซ์บวกแน่นอนเท่านั้น
หมายถึง	μ
โหมด	μ
ความแปรปรวน	Σ
เอนโทรปี	${\displaystyle {\frac {k}{2}}\log {\mathord {\left(2\pi \mathrm {e} \right)}}+{\frac {1}{2}}\log \det {\mathord {\left({\boldsymbol {\Sigma }}\right)}}}$
เอ็มจีเอฟ	${\displaystyle \exp \!{\Big (}{\boldsymbol {\mu }}^{\mathrm {T} }\mathbf {t} +{\tfrac {1}{2}}\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} {\Big )}}$
ซีเอฟ	${\displaystyle \exp \!{\Big (}i{\boldsymbol {\mu }}^{\mathrm {T} }\mathbf {t} -{\tfrac {1}{2}}\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} {\Big )}}$
ความแตกต่าง Kullback–Leibler	ดู§ ความแตกต่างระหว่าง Kullback และ Leibler

ในทฤษฎีความน่าจะเป็นและสถิติ การ แจกแจงปกติหลายตัวแปรการแจกแจงเกาส์เซียนหลายตัวแปรหรือการแจกแจงปกติร่วม เป็นการขยายความของ การแจกแจงปกติหนึ่งมิติ ( ตัวแปรเดียว ) ไปสู่ มิติที่สูงกว่านิยามหนึ่งคือเวกเตอร์สุ่มจะมีการแจกแจงปกติk ตัวแปร ถ้า ผลรวมเชิงเส้น ทุกตัว ของ ส่วนประกอบ k ตัวของมัน มีการแจกแจงปกติตัวแปรเดียว ความสำคัญของมันส่วนใหญ่มาจากทฤษฎีบทลิมิตกลางหลายตัวแปรการแจกแจงปกติหลายตัวแปรมักใช้เพื่ออธิบายอย่างน้อยโดยประมาณ ชุดของตัวแปรสุ่มค่าจริงที่ อาจ มีความสัมพันธ์กันซึ่งแต่ละตัวจะรวมกลุ่มกันอยู่รอบค่าเฉลี่ย

การแจกแจงปกติหลายตัวแปรของเวกเตอร์สุ่มk มิติ สามารถเขียนได้ในรูปแบบต่อไปนี้: ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$

${\displaystyle \mathbf {X} \ \sim \ {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}),}$

หรือเพื่อระบุอย่างชัดเจนว่ามีมิติ k${\displaystyle \mathbf {X} }$

${\displaystyle \mathbf {X} \ \sim \ {\mathcal {N}}_{k}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}),}$

ด้วยเวกเตอร์ค่าเฉลี่ยkมิติ

${\displaystyle {\boldsymbol {\mu }}=\operatorname {E} [\mathbf {X} ]=(\operatorname {E} [X_{1}],\operatorname {E} [X_{2}],\ldots ,\operatorname {E} [X_{k}])^{\mathrm {T} },}$

และเมทริกซ์ความแปรปรวนร่วม${\displaystyle k\times k}$

${\displaystyle \Sigma _{i,j}=\operatorname {E} [(X_{i}-\mu _{i})(X_{j}-\mu _{j})]=\operatorname {Cov} [X_{i},X_{j}]}$

โดยที่และเมทริกซ์ผกผันของเมทริกซ์ความแปรปรวนร่วมเรียกว่าเมทริกซ์ความแม่นยำซึ่งใช้สัญลักษณ์ แทนด้วย ${\displaystyle 1\leq i\leq k}$${\displaystyle 1\leq j\leq k}$${\displaystyle {\boldsymbol {Q}}={\boldsymbol {\Sigma }}^{-1}}$

เวกเตอร์สุ่ม จริงเรียกว่าเวกเตอร์สุ่มปกติมาตรฐานถ้าส่วนประกอบทั้งหมดเป็นอิสระต่อกัน และแต่ละเวกเตอร์เป็นตัวแปรสุ่มที่มีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนเป็นหนึ่ง ซึ่งมีการแจกแจงแบบปกติ กล่าวคือ ถ้าสำหรับทุก[ ^{1 ] :หน้า 454} ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$${\displaystyle X_{i}}$${\displaystyle X_{i}\sim \ {\mathcal {N}}(0,1)}$${\displaystyle i=1\ldots k}$

เวกเตอร์สุ่มจริงเรียกว่าเวกเตอร์สุ่มปกติแบบศูนย์กลางถ้ามีเมทริกซ์ อยู่ เช่นนั้นซึ่งมีการแจกแจงแบบเดียวกันกับโดยที่เป็นเวกเตอร์สุ่มปกติมาตรฐานที่มีส่วนประกอบ^{[ 1 ] : หน้า 454} ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$${\displaystyle k\times \ell }$${\displaystyle {\boldsymbol {A}}}$${\displaystyle {\boldsymbol {A}}\mathbf {Z} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Z} }$${\displaystyle \ell }$

เวกเตอร์สุ่มจริงเรียกว่าเวกเตอร์สุ่มปกติถ้ามีเวกเตอร์ สุ่ม ซึ่งเป็นเวกเตอร์สุ่มปกติมาตรฐาน เวกเตอร์และเมทริกซ์เช่นนั้น[ ^{2 ] :หน้า 454 [ 1 ] : หน้า 455} ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$${\displaystyle \ell }$${\displaystyle \mathbf {Z} }$${\displaystyle k}$${\displaystyle {\boldsymbol {\mu }}}$${\displaystyle k\times \ell }$${\displaystyle {\boldsymbol {A}}}$${\displaystyle \mathbf {X} ={\boldsymbol {A}}\mathbf {Z} +{\boldsymbol {\mu }}}$

อย่างเป็นทางการ:

ในที่นี้เมทริกซ์ความแปรปรวนร่วมคือ. ${\displaystyle {\boldsymbol {\Sigma }}={\boldsymbol {A}}{\boldsymbol {A}}^{\mathrm {T} }}$

ใน กรณี พิเศษที่เมทริกซ์ความแปรปรวนร่วม เป็นเมทริกซ์ เอกฐาน การแจกแจงที่สอดคล้องกันจะไม่มีความหนาแน่น โปรดดูรายละเอียด ใน ส่วนด้านล่าง กรณีนี้เกิดขึ้นบ่อยใน ทางสถิติตัวอย่างเช่น ในการแจกแจงของเวกเตอร์ของค่าคลาดเคลื่อนในการถดถอยกำลังสองน้อยที่สุดแบบธรรมดาโดยทั่วไปแล้ว ค่า คลาดเคลื่อน เหล่านี้ จะไม่เป็นอิสระต่อกัน สามารถมองได้ว่าเป็นผลลัพธ์ของการใช้เมทริกซ์กับกลุ่มของตัวแปรเกาส์เซียนที่เป็นอิสระต่อกัน${\displaystyle X_{i}}$${\displaystyle {\boldsymbol {A}}}$${\displaystyle \mathbf {Z} }$

คำจำกัดความต่อไปนี้เทียบเท่ากับคำจำกัดความที่ให้ไว้ข้างต้น เวกเตอร์สุ่มมีการแจกแจงแบบปกติหลายตัวแปรก็ต่อเมื่อเป็นไปตามเงื่อนไขที่เทียบเท่ากันข้อใดข้อหนึ่งต่อไปนี้ ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$

• ผลรวมเชิงเส้นทุกรูปแบบของส่วนประกอบต่างๆ ของตัวแปรสุ่มนี้ จะมีการกระจายแบบปกติกล่าวคือ สำหรับเวกเตอร์คงที่ใดๆตัวแปรสุ่มจะมีการกระจายแบบปกติแบบเอกตัวแปร โดยที่การกระจายแบบปกติแบบเอกตัวแปรที่มีความแปรปรวนเป็นศูนย์ จะเป็นจุดมวลบนค่าเฉลี่ยของ เวกเตอร์นั้น${\displaystyle Y=a_{1}X_{1}+\cdots +a_{k}X_{k}}$${\displaystyle \mathbf {a} \in \mathbb {R} ^{k}}$${\displaystyle Y=\mathbf {a} ^{\mathrm {T} }\mathbf {X} }$
• มีเวกเตอร์kมิติ และเมทริกซ์สมมาตรบวกกึ่งกำหนดโดยที่ฟังก์ชันลักษณะเฉพาะของคือ${\displaystyle \mathbf {\mu } }$${\displaystyle k\times k}$${\displaystyle {\boldsymbol {\Sigma }}}$${\displaystyle \mathbf {X} }$$${\displaystyle \varphi _{\mathbf {X} }(\mathbf {u} )=\exp {\Big (}i\mathbf {u} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\tfrac {1}{2}}\mathbf {u} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {u} {\Big )}.}$$

การกระจายปกติทรงกลมสามารถกำหนดลักษณะได้ว่าเป็นการกระจายที่ไม่ซ้ำกันซึ่งส่วนประกอบต่างๆ เป็นอิสระในระบบพิกัดตั้งฉากใดๆ^{[ 3 ] [ 4 ]}

การกระจายแบบปกติหลายตัวแปรเรียกว่า "ไม่เสื่อมสภาพ" เมื่อเมทริกซ์ความแปรปรวน ร่วมสมมาตร เป็นบวกแน่นอนในกรณีนี้การกระจายจะมีความหนาแน่น^{[ 5 ]}${\displaystyle {\boldsymbol {\Sigma }}}$

โดยที่เป็น เวกเตอร์คอลัมน์ kมิติที่เป็นจำนวนจริง และเป็นดีเทอร์มิแนนต์ของซึ่งเรียกอีกอย่างว่าความแปรปรวนทั่วไป สมการข้างต้นจะลดรูปเป็นสมการของการแจกแจงปกติแบบเอกตัวแปร ถ้าเป็นเมทริกซ์ (กล่าวคือ เป็นจำนวนจริงตัวเดียว) ${\displaystyle {\mathbf {x} }}$${\displaystyle |{\boldsymbol {\Sigma }}|\equiv \det {\boldsymbol {\Sigma }}}$${\displaystyle {\boldsymbol {\Sigma }}}$${\displaystyle {\boldsymbol {\Sigma }}}$${\displaystyle 1\times 1}$

รูปแบบ การแจกแจงปกติเชิงซ้อนแบบสมมาตรวงกลมนั้นมีลักษณะที่แตกต่างออกไปเล็กน้อย

แต่ละเส้นไอโซเดนซิตี้โลคัสซึ่งเป็นเส้นของจุดใน ปริภูมิ kมิติ ที่แต่ละจุดให้ค่าความหนาแน่นเดียวกันนั้น เป็นรูปวงรีหรือการขยายความในมิติที่สูงกว่าของวงรี ดังนั้น การแจกแจงปกติแบบหลายตัวแปรจึงเป็นกรณีพิเศษของการแจกแจงแบบวงรี

ปริมาณนี้เรียกว่าระยะทางมาฮาลาโนบิสซึ่งแสดงถึงระยะห่างของจุดทดสอบจากค่าเฉลี่ยระยะทางมาฮาลาโนบิสยกกำลังสอง จะถูกแยกออกเป็นผลรวมของkเทอม โดยแต่ละเทอมเป็นผลคูณของส่วนประกอบที่มีความหมายสามส่วน^{[ 6 ]} โปรดทราบว่าในกรณีที่การแจกแจงจะลดลงเหลือการแจกแจงปกติแบบเอกตัวแปร และระยะทางมาฮาลาโนบิสจะลดลงเหลือค่าสัมบูรณ์ของคะแนนมาตรฐาน ดู ช่วงด้านล่าง ด้วย${\displaystyle {\sqrt {({\mathbf {x} }-{\boldsymbol {\mu }})^{\mathrm {T} }{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})}}}$${\displaystyle {\mathbf {x} }}$${\displaystyle {\boldsymbol {\mu }}}$${\displaystyle ({\mathbf {x} }-{\boldsymbol {\mu }})^{\mathrm {T} }{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})}$${\displaystyle k=1}$

ในกรณี 2 มิติที่ไม่เอกฐาน ( ) ฟังก์ชันความหนาแน่นความน่าจะเป็นของเวกเตอร์คือ: โดยที่คือความสัมพันธ์ระหว่างและโดยที่และในกรณีนี้ ${\displaystyle k=\operatorname {rank} \left(\Sigma \right)=2}$${\displaystyle {\text{[XY]}}\prime }$$${\displaystyle f(x,y)={\frac {1}{2\pi \sigma _{X}\sigma _{Y}{\sqrt {1-\rho ^{2}}}}}\exp \left(-{\frac {1}{2\left[1-\rho ^{2}\right]}}\left[\left({\frac {x-\mu _{X}}{\sigma _{X}}}\right)^{2}-2\rho \left({\frac {x-\mu _{X}}{\sigma _{X}}}\right)\left({\frac {y-\mu _{Y}}{\sigma _{Y}}}\right)+\left({\frac {y-\mu _{Y}}{\sigma _{Y}}}\right)^{2}\right]\right)}$$${\displaystyle \rho }$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \sigma _{X}>0}$${\displaystyle \sigma _{Y}>0}$

${\displaystyle {\boldsymbol {\mu }}={\begin{pmatrix}\mu _{X}\\\mu _{Y}\end{pmatrix}},\quad {\boldsymbol {\Sigma }}={\begin{pmatrix}\sigma _{X}^{2}&\rho \sigma _{X}\sigma _{Y}\\\rho \sigma _{X}\sigma _{Y}&\sigma _{Y}^{2}\end{pmatrix}}.}$

ในกรณีสองตัวแปร เงื่อนไขเทียบเท่าแรกสำหรับการสร้างใหม่ของความปกติแบบหลายตัวแปรสามารถทำให้มีความเข้มงวดน้อยลงได้ เนื่องจากเพียงพอที่จะตรวจสอบว่า เซต ที่นับได้อนันต์ของผลรวมเชิงเส้นที่แตกต่างกันของและเป็นปกติ เพื่อสรุปได้ว่าเวกเตอร์ของ เป็นปกติแบบสองตัวแปร^{[ 7 ]}${\displaystyle X}$${\displaystyle Y}$${\displaystyle {\text{[XY]}}\prime }$

เส้นไอโซเดนซิตี้แบบสองตัวแปรที่พล็อตใน ระนาบ - เป็นรูปวงรี โดย แกนหลักของ วงรี ถูกกำหนดโดยเวกเตอร์ลักษณะเฉพาะของเมทริกซ์ความแปรปรวนร่วม ( เส้นผ่านศูนย์กลางครึ่งใหญ่และครึ่งเล็กของวงรีเท่ากับรากที่สองของค่าลักษณะเฉพาะที่เรียงลำดับแล้ว) ${\displaystyle x,y}$${\displaystyle {\boldsymbol {\Sigma }}}$

เมื่อค่าสัมบูรณ์ของพารามิเตอร์สหสัมพันธ์ เพิ่มขึ้น จุดเหล่านี้จะถูกบีบเข้าหาเส้นต่อไปนี้: ${\displaystyle \rho }$

${\displaystyle y(x)=\operatorname {sgn}(\rho ){\frac {\sigma _{Y}}{\sigma _{X}}}(x-\mu _{X})+\mu _{Y}.}$

เนื่องจากนิพจน์นี้ โดยที่ sgn คือฟังก์ชันเครื่องหมายถูกแทนที่ด้วยเป็นการทำนายเชิงเส้นที่ไม่เอนเอียงที่ดีที่สุดของเมื่อกำหนดค่าของ^{[ 8 ]}${\displaystyle \operatorname {sgn}(\rho )}$${\displaystyle \rho }$${\displaystyle Y}$${\displaystyle X}$

ถ้าเมทริกซ์ความแปรปรวนร่วมไม่มีอันดับเต็ม การแจกแจงปกติหลายตัวแปรจะเสื่อมสภาพและไม่มีความหนาแน่น กล่าวคือ ไม่มีความหนาแน่นเมื่อเทียบกับการวัดเลเบส แบบ kมิติ(ซึ่งเป็นการวัดที่ใช้กันโดยทั่วไปในหลักสูตรความน่าจะเป็นระดับแคลคูลัส) เฉพาะเวกเตอร์สุ่มที่มีการแจกแจงต่อเนื่องอย่างสมบูรณ์เมื่อเทียบกับการวัดเท่านั้นที่จะกล่าวได้ว่ามีความหนาแน่น (เมื่อเทียบกับการวัดนั้น) เพื่อที่จะพูดถึงความหนาแน่นแต่หลีกเลี่ยงการจัดการกับความซับซ้อนทางทฤษฎีการวัด อาจจะง่ายกว่าที่จะจำกัดความสนใจไปที่เซตย่อยของพิกัดของซึ่งเมทริกซ์ความแปรปรวนร่วมสำหรับเซตย่อยนี้เป็นบวกแน่นอน จากนั้นพิกัดอื่นๆ อาจถูกมองว่าเป็นฟังก์ชันเชิงเส้นของพิกัดที่เลือกเหล่านี้^{[ 9 ]}${\displaystyle {\boldsymbol {\Sigma }}}$${\displaystyle \operatorname {rank} ({\boldsymbol {\Sigma }})}$${\displaystyle \mathbf {x} }$

เพื่อที่จะพูดถึงความหนาแน่นอย่างมีความหมายในกรณีพิเศษ เราจึงต้องเลือกมาตรวัดฐานที่แตกต่างออกไป โดยใช้ทฤษฎีบทการสลายตัวเราสามารถกำหนดข้อจำกัดของมาตรวัดเลเบสไปยังปริภูมิย่อยเชิงเส้นตรงมิติ n ของซึ่งการแจกแจงแบบเกาส์เซียนได้รับการรองรับ นั่นคือ. เมื่อเทียบกับมาตรวัดนี้ การแจกแจงจะมีค่าความหนาแน่นตามรูปแบบต่อไปนี้: ${\displaystyle \operatorname {rank} ({\boldsymbol {\Sigma }})}$${\displaystyle \mathbb {R} ^{k}}$${\displaystyle \left\{{\boldsymbol {\mu }}+{\boldsymbol {\Sigma ^{1/2}}}\mathbf {v} :\mathbf {v} \in \mathbb {R} ^{k}\right\}}$

${\displaystyle f(\mathbf {x} )={\frac {\exp \left(-{\frac {1}{2}}\left(\mathbf {x} -{\boldsymbol {\mu }}\right)^{\mathrm {T} }{\boldsymbol {\Sigma }}^{+}\left(\mathbf {x} -{\boldsymbol {\mu }}\right)\right)}{\sqrt {\det \nolimits ^{*}(2\pi {\boldsymbol {\Sigma }})}}}}$

โดยที่คือตัวผกผันทั่วไปและคือดีเทอร์มิแนนต์เทียม^{[ 10 ]}${\displaystyle {\boldsymbol {\Sigma }}^{+}}$${\displaystyle \det \nolimits ^{*}}$

แนวคิดของฟังก์ชันการกระจายสะสม (cdf) ในมิติ 1 สามารถขยายไปสู่กรณีหลายมิติได้สองวิธี โดยอาศัยพื้นที่รูปสี่เหลี่ยมผืนผ้าและพื้นที่รูปวงรี

วิธีแรกคือการกำหนด cdf ของเวกเตอร์สุ่มเป็นความน่าจะเป็นที่ส่วนประกอบทั้งหมดของ เวกเตอร์สุ่ม มีค่าน้อยกว่าหรือเท่ากับค่าที่สอดคล้องกันในเวกเตอร์สุ่ม: ^{[ 11 ]}${\displaystyle F(\mathbf {x} )}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {x} }$

${\displaystyle F(\mathbf {x} )=\mathbb {P} (\mathbf {X} \leq \mathbf {x} ),\quad {\text{where }}\mathbf {X} \sim {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}).}$

แม้ว่าจะไม่มีรูปแบบปิดสำหรับ แต่ก็มีอัลกอริทึมจำนวนหนึ่งที่ประมาณค่าเป็นตัวเลข^{[ 11 ] [ 12 ]}${\displaystyle F(\mathbf {x} )}$

อีกวิธีหนึ่งคือการกำหนด cdf เป็นความน่าจะเป็นที่ตัวอย่างจะอยู่ภายในทรงรีที่กำหนดโดยระยะทาง Mahalanobisจาก Gaussian ซึ่งเป็นการวางนัยทั่วไปโดยตรงของค่าเบี่ยงเบนมาตรฐาน^{[ 13 ]} เพื่อคำนวณค่าของฟังก์ชันนี้ มีสูตรวิเคราะห์แบบปิด^{[ 13 ]}ดังต่อไปนี้ ${\displaystyle F(r)}$${\displaystyle r}$

ช่วงของการแจกแจงปกติหลายตัวแปรให้บริเวณที่ประกอบด้วยเวกเตอร์x ที่สอดคล้องกับเงื่อนไขต่อ ไปนี้

${\displaystyle ({\mathbf {x} }-{\boldsymbol {\mu }})^{\mathrm {T} }{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})\leq \chi _{k}^{2}(p).}$

นี่คือเวกเตอร์มิติ n, คือเวกเตอร์ค่าเฉลี่ยมิติ n ที่ทราบ, คือเมทริกซ์ความแปรปรวน ร่วมที่ทราบ และคือ ฟังก์ชันควอนไทล์สำหรับความน่าจะเป็นของการแจกแจงไคกำลังสองที่มีองศาอิสระ^{[ 14 ]} เมื่อนิพจน์กำหนดภายในของวงรีและการแจกแจงไคกำลังสองจะลดรูปเป็นการแจกแจงเอกซ์โพเนนเชียลที่มีค่าเฉลี่ยเท่ากับสอง (อัตราเท่ากับครึ่ง) ${\displaystyle {\mathbf {x} }}$${\displaystyle k}$${\displaystyle {\boldsymbol {\mu }}}$${\displaystyle k}$${\displaystyle {\boldsymbol {\Sigma }}}$${\displaystyle \chi _{k}^{2}(p)}$${\displaystyle p}$${\displaystyle k}$${\displaystyle k=2,}$

ฟังก์ชัน การกระจายสะสมเสริม (ccdf) หรือการกระจายส่วนหาง ถูกกำหนดเป็นเมื่อแล้ว ccdf สามารถเขียนได้เป็นความน่าจะเป็นสูงสุดของตัวแปรเกาส์เซียนที่ขึ้นอยู่กัน: ^{[ 15 ]}${\displaystyle {\overline {F}}(\mathbf {x} )=1-\mathbb {P} \left(\mathbf {X} \leq \mathbf {x} \right)}$${\displaystyle \mathbf {X} \sim {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }})}$

${\displaystyle {\overline {F}}(\mathbf {x} )=\mathbb {P} \left(\bigcup _{i}\{X_{i}\geq x_{i}\}\right)=\mathbb {P} \left(\max _{i}Y_{i}\geq 0\right),\quad {\text{where }}\mathbf {Y} \sim {\mathcal {N}}\left({\boldsymbol {\mu }}-\mathbf {x} ,\,{\boldsymbol {\Sigma }}\right).}$

แม้ว่าจะไม่มีสูตรปิดที่ง่ายสำหรับการคำนวณ ccdf แต่ค่าสูงสุดของตัวแปรเกาส์เซียนที่ขึ้นอยู่กันสามารถประมาณได้อย่างแม่นยำผ่านวิธีการมอนเตคาร์โล^{[ 15 ] [ 16 ]}

โมเมนต์ลำดับที่k ของ x กำหนดโดย

${\displaystyle \mu _{1,\ldots ,N}(\mathbf {x} )\mathrel {\stackrel {\mathrm {def} }{=}} \mu _{r_{1},\ldots ,r_{N}}(\mathbf {x} )\mathrel {\stackrel {\mathrm {def} }{=}} \operatorname {E} \left[\prod _{j=1}^{N}X_{j}^{r_{j}}\right]}$

โดยที่r ₁ + r ₂ + ⋯ + r _N = k .

โมเมนต์กลางลำดับที่ k มีดังต่อไปนี้

โดยผลรวมจะคำนวณจากการจัดสรรเซตทั้งหมดลงใน คู่ λ (ไม่เรียงลำดับ) คู่ นั่นคือ สำหรับ โมเมนต์กลางลำดับที่ k (= 2 λ = 6)จะบวกผลคูณของค่า ความแปรปรวนร่วม λ = 3ค่า (โดยถือว่าค่าคาดหวังμเป็น 0 เพื่อความเรียบง่าย): ${\displaystyle \left\{1,\ldots ,2\lambda \right\}}$

${\displaystyle {\begin{aligned}&\operatorname {E} [X_{1}X_{2}X_{3}X_{4}X_{5}X_{6}]\\[8pt]={}&\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{4}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{5}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{6}]\operatorname {E} [X_{4}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{4}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{3}X_{6}]+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{3}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{3}X_{6}]+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{3}X_{4}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{4}X_{5}]+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{3}X_{5}]+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{3}X_{4}].\end{aligned}}}$

ผลลัพธ์ที่ได้คือพจน์ในผลรวม (15 พจน์ในกรณีข้างต้น) โดยแต่ละพจน์เป็นผลคูณของ ค่าความแปรปรวนร่วม λ (ในกรณีนี้คือ 3) สำหรับโมเมนต์ลำดับที่สี่ (สี่ตัวแปร) จะมีสามพจน์ สำหรับโมเมนต์ลำดับที่หกจะมี3 × 5 = 15พจน์ และสำหรับโมเมนต์ลำดับที่แปดจะมี3 × 5 × 7 = 105พจน์ ${\displaystyle {\tfrac {(2\lambda -1)!}{2^{\lambda -1}(\lambda -1)!}}}$

จากนั้นจะกำหนดค่าความแปรปรวนร่วมโดยการแทนที่พจน์ในรายการด้วยพจน์ที่สอดคล้องกันในรายการที่ประกอบด้วย เลข 1 จำนวน r ₁ตัว จากนั้น เลข 2 จำนวน r ₂ตัว เป็นต้น เพื่อให้เห็นภาพชัดเจน ลองพิจารณากรณีโมเมนต์กลางลำดับที่ 4 ต่อไปนี้: ${\displaystyle [1,\ldots ,2\lambda ]}$

${\displaystyle {\begin{aligned}\operatorname {E} \left[X_{i}^{4}\right]&=3\sigma _{ii}^{2}\\[4pt]\operatorname {E} \left[X_{i}^{3}X_{j}\right]&=3\sigma _{ii}\sigma _{ij}\\[4pt]\operatorname {E} \left[X_{i}^{2}X_{j}^{2}\right]&=\sigma _{ii}\sigma _{jj}+2\sigma _{ij}^{2}\\[4pt]\operatorname {E} \left[X_{i}^{2}X_{j}X_{k}\right]&=\sigma _{ii}\sigma _{jk}+2\sigma _{ij}\sigma _{ik}\\[4pt]\operatorname {E} \left[X_{i}X_{j}X_{k}X_{n}\right]&=\sigma _{ij}\sigma _{kn}+\sigma _{ik}\sigma _{jn}+\sigma _{in}\sigma _{jk}.\end{aligned}}}$

โดยที่คือค่าความแปรปรวนร่วมของX _iและX _jด้วยวิธีข้างต้น ขั้นแรกจะหาค่าทั่วไปสำหรับโมเมนต์ที่k ที่มี ตัวแปรXที่แตกต่างกันkตัว แล้วจึงลดรูปให้ง่ายขึ้นตามนั้น ตัวอย่างเช่น สำหรับ ให้X i ₌ X j _และใช้ข้อเท็จจริงที่ว่า ${\displaystyle \sigma _{ij}}$${\displaystyle E\left[X_{i}X_{j}X_{k}X_{n}\right]}$${\displaystyle \operatorname {E} [X_{i}^{2}X_{k}X_{n}]}$${\displaystyle \sigma _{ii}=\sigma _{i}^{2}}$

รูปแบบกำลังสองของเวกเตอร์ปกติ( โดยที่เป็นเมทริกซ์เป็นเวกเตอร์ และเป็นสเกลาร์) คือ ตัวแปรไค กำลังสองทั่วไปทิศทางของเวกเตอร์ปกติเป็นไปตามการแจกแจงปกติที่ฉายภาพ^{[ 17 ]}${\displaystyle {\boldsymbol {x}}}$${\displaystyle q({\boldsymbol {x}})={\boldsymbol {x}}'\mathbf {Q_{2}} {\boldsymbol {x}}+{\boldsymbol {q_{1}}}'{\boldsymbol {x}}+q_{0}}$${\displaystyle \mathbf {Q_{2}} }$${\displaystyle {\boldsymbol {q_{1}}}}$${\displaystyle q_{0}}$

ถ้าเป็นฟังก์ชันค่าสเกลาร์ทั่วไปของเวกเตอร์ปกติฟังก์ชันความหนาแน่นความน่าจะเป็น ฟังก์ชันการกระจายสะสมและฟังก์ชันการกระจายสะสมผกผันสามารถคำนวณได้ด้วยวิธีการเชิงตัวเลขของการติดตามรังสี ( โค้ด Matlab เก็บถาวรเมื่อ 2025-02-20 ที่Wayback Machine ) ${\displaystyle f({\boldsymbol {x}})}$

ถ้าทราบค่าเฉลี่ยและเมทริกซ์ความแปรปรวนร่วม ค่าลอการิทึมความน่าจะเป็นของเวกเตอร์ที่สังเกตได้ก็คือค่าลอการิทึมของฟังก์ชันความหนาแน่นความน่าจะเป็นนั่นเอง ${\displaystyle {\boldsymbol {x}}}$

${\displaystyle \ln L({\boldsymbol {x}})=-{\frac {1}{2}}\left[\ln(|{\boldsymbol {\Sigma }}|\,)+({\boldsymbol {x}}-{\boldsymbol {\mu }})'{\boldsymbol {\Sigma }}^{-1}({\boldsymbol {x}}-{\boldsymbol {\mu }})+k\ln(2\pi )\right]}$,

กรณีเชิงซ้อนที่ไม่เป็นศูนย์กลางที่มีสมมาตรแบบวงกลม โดยที่เป็นเวกเตอร์ของจำนวนเชิงซ้อน จะเป็นดังนี้ ${\displaystyle {\boldsymbol {z}}}$

${\displaystyle \ln L({\boldsymbol {z}})=-\ln(|{\boldsymbol {\Sigma }}|\,)-({\boldsymbol {z}}-{\boldsymbol {\mu }})^{\dagger }{\boldsymbol {\Sigma }}^{-1}({\boldsymbol {z}}-{\boldsymbol {\mu }})-k\ln(\pi )}$

กล่าวคือ ใช้การสลับตำแหน่งแบบสังยุค (ระบุด้วย) แทนที่การสลับตำแหน่ง แบบปกติ (ระบุด้วย) ซึ่งแตกต่างจากกรณีจริงเล็กน้อย เนื่องจากรูปแบบสมมาตรแบบวงกลมของการแจกแจงปกติเชิงซ้อน มีรูปแบบของ ค่าคงที่การทำให้เป็นมาตรฐานที่ แตกต่างกันเล็กน้อย${\displaystyle \dagger }$${\displaystyle '}$

มีการใช้สัญลักษณ์ที่คล้ายกันสำหรับการถดถอยเชิงเส้นหลายตัวแปร^{[ 18 ]}

เนื่องจากค่าลอการิทึมความน่าจะเป็นของเวกเตอร์ปกติเป็นรูปแบบกำลังสองของเวกเตอร์ปกติ จึงทำให้เวกเตอร์ปกติมีการแจกแจงแบบ ไคกำลังสองทั่วไป

เอนโทรปีเชิงอนุพันธ์ของการกระจายปกติหลายตัวแปรคือ^{[ 19 ]}

$${\displaystyle {\begin{aligned}h\left(f\right)&=-\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }f(\mathbf {x} )\ln f(\mathbf {x} )\,d\mathbf {x} \\[1ex]&={\frac {1}{2}}\ln \left|2\pi e{\boldsymbol {\Sigma }}\right|={\frac {k}{2}}\left(1+\ln 2\pi \right)+{\frac {1}{2}}\ln \left|{\boldsymbol {\Sigma }}\right|,\end{aligned}}}$$

โดยที่ขีดคั่นแสดงถึง ดีเทอร์มิแน น ต์ของเมทริกซ์ k คือมิติของปริภูมิเวกเตอร์ และผลลัพธ์มีหน่วยเป็นnats

ความแตกต่าง Kullback –Leiblerจากถึงสำหรับเมทริกซ์ที่ไม่เอกฐาน Σ ₁และ Σ ₀คือ: ^{[ 20 ]}${\displaystyle {\mathcal {N}}_{1}({\boldsymbol {\mu }}_{1},{\boldsymbol {\Sigma }}_{1})}$${\displaystyle {\mathcal {N}}_{0}({\boldsymbol {\mu }}_{0},{\boldsymbol {\Sigma }}_{0})}$

${\displaystyle D_{\text{KL}}({\mathcal {N}}_{0}\parallel {\mathcal {N}}_{1})={1 \over 2}\left\{\operatorname {tr} \left({\boldsymbol {\Sigma }}_{1}^{-1}{\boldsymbol {\Sigma }}_{0}\right)+\left({\boldsymbol {\mu }}_{1}-{\boldsymbol {\mu }}_{0}\right)^{\rm {T}}{\boldsymbol {\Sigma }}_{1}^{-1}({\boldsymbol {\mu }}_{1}-{\boldsymbol {\mu }}_{0})-k+\ln {|{\boldsymbol {\Sigma }}_{1}| \over |{\boldsymbol {\Sigma }}_{0}|}\right\},}$

โดยที่แทนดีเทอร์มิแนนต์ของเมทริกซ์คือ ผลรวมของผลต่างระหว่างเมทริกซ์ กับเมทริกซ์ (trace ) คือลอการิทึมธรรมชาติและคือมิติของปริภูมิเวกเตอร์ ${\displaystyle |\cdot |}$${\displaystyle tr(\cdot )}$${\displaystyle \ln(\cdot )}$${\displaystyle k}$

ต้องใช้ลอการิทึมฐานe เนื่องจากพจน์สองพจน์ที่ตามหลังลอการิทึมนั้นเป็นลอการิทึมฐานe ของนิพจน์ที่เป็นตัวประกอบของฟังก์ชันความหนาแน่นหรือเกิดขึ้นเองตามธรรมชาติ ดังนั้นสมการจึงให้ผลลัพธ์ที่วัดเป็นnatsการหารนิพจน์ทั้งหมดข้างต้นด้วย log _e²  จะได้ค่าความแตกต่างในหน่วยบิต

เมื่อไร, ${\displaystyle {\boldsymbol {\mu }}_{1}={\boldsymbol {\mu }}_{0}}$

${\displaystyle D_{\text{KL}}({\mathcal {N}}_{0}\parallel {\mathcal {N}}_{1})={1 \over 2}\left\{\operatorname {tr} \left({\boldsymbol {\Sigma }}_{1}^{-1}{\boldsymbol {\Sigma }}_{0}\right)-k+\ln {|{\boldsymbol {\Sigma }}_{1}| \over |{\boldsymbol {\Sigma }}_{0}|}\right\}.}$

ข้อมูลร่วมกันของการกระจายปกติหลายตัวแปรสองแบบเป็นกรณีพิเศษของความแตกต่าง Kullback–Leiblerซึ่งคือการกระจายหลายตัวแปรแบบมิติเต็ม และคือผลคูณของการกระจายขอบมิติและและโดยที่ข้อมูลร่วมกันระหว่างและกำหนดโดย: ^{[ 21 ]}${\displaystyle P}$${\displaystyle k}$${\displaystyle Q}$${\displaystyle k_{1}}$${\displaystyle k_{2}}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle k_{1}+k_{2}=k}$${\displaystyle X}$${\displaystyle Y}$

${\displaystyle I({\boldsymbol {X}},{\boldsymbol {Y}})={\frac {1}{2}}\ln \left({\frac {\det(\Sigma _{X})\det(\Sigma _{Y})}{\det(\Sigma )}}\right),}$

ที่ไหน

${\displaystyle \Sigma ={\begin{bmatrix}\Sigma _{X}&\Sigma _{XY}\\\Sigma _{XY}&\Sigma _{Y}\end{bmatrix}}.}$

ถ้าเป็นผลคูณของการแจกแจงปกติแบบหนึ่งมิติ ในสัญลักษณ์ของส่วนความแตกต่าง Kullback–Leiblerในบทความนี้จะเป็นเมทริกซ์แนวทแยงที่มีค่าในแนวทแยงคือ, และสูตรที่ได้สำหรับข้อมูลร่วมกันคือ: ${\displaystyle Q}$${\displaystyle k}$${\displaystyle {\boldsymbol {\Sigma }}_{1}}$${\displaystyle {\boldsymbol {\Sigma }}_{0}}$${\displaystyle {\boldsymbol {\mu }}_{1}={\boldsymbol {\mu }}_{0}}$

${\displaystyle I({\boldsymbol {X}})=-{1 \over 2}\ln |{\boldsymbol {\rho }}_{0}|,}$

เมท ริก ^ซ์สหสัมพันธ์ที่สร้างขึ้นจาก[ ^{22 ]}${\displaystyle {\boldsymbol {\rho }}_{0}}$${\displaystyle {\boldsymbol {\Sigma }}_{0}}$

ในกรณีสองตัวแปร สูตรสำหรับข้อมูลร่วมคือ:

${\displaystyle I(x;y)=-{1 \over 2}\ln(1-\rho ^{2}).}$

ถ้าและมีการแจกแจงแบบปกติและเป็นอิสระต่อกันนั่นหมายความว่าตัวแปรทั้งสองมีการแจกแจงแบบปกติร่วมกัน กล่าวคือ ตัวแปรทั้งสองต้องมีการแจกแจงแบบปกติหลายตัวแปร อย่างไรก็ตาม ตัวแปรสองตัวที่มีการแจกแจงแบบปกติร่วมกันไม่จำเป็นต้องเป็นอิสระต่อกัน (จะเป็นอิสระต่อกันก็ต่อเมื่อไม่มีความสัมพันธ์กันเท่านั้น) ${\displaystyle X}$${\displaystyle Y}$${\displaystyle (X,Y)}$${\displaystyle \rho =0}$

ข้อเท็จจริงที่ว่าตัวแปรสุ่มสองตัวและต่างก็มีการแจกแจงแบบปกติ ไม่ได้หมายความว่าตัวแปรสุ่มทั้งสองนั้นมีการแจกแจงแบบปกติร่วมกัน ตัวอย่างง่ายๆ คือ กรณีที่มีการแจกแจงแบบปกติโดยมีค่าเฉลี่ย 0 และความแปรปรวน 1 และถ้าและถ้าโดยที่มีตัวอย่างค้านที่คล้ายกันสำหรับตัวแปรสุ่มมากกว่าสองตัว โดยทั่วไปแล้ว ผลรวมของตัวอย่างเหล่านี้จะได้เป็นแบบ จำลองผสม${\displaystyle X}$${\displaystyle Y}$${\displaystyle (X,Y)}$${\displaystyle X}$${\displaystyle Y=X}$${\displaystyle |X|>c}$${\displaystyle Y=-X}$${\displaystyle |X|<c}$${\displaystyle c>0}$

โดยทั่วไป ตัวแปรสุ่มอาจไม่มีความสัมพันธ์กันแต่มีความสัมพันธ์กันทางสถิติ แต่ถ้าเวกเตอร์สุ่มมีการกระจายแบบปกติหลายตัวแปรแล้ว ส่วนประกอบสองส่วนขึ้นไปที่ไม่มีความสัมพันธ์กันจะเป็นอิสระต่อกันนั่นหมายความว่า ส่วนประกอบสองส่วนขึ้นไปที่เป็นอิสระต่อกันเป็นคู่ๆก็จะเป็นอิสระต่อกันด้วย แต่ดังที่ได้กล่าวไว้ข้างต้นแล้วไม่ เป็น ความจริงที่ว่าตัวแปรสุ่มสองตัวที่ ( แยกกันหรือตามสัดส่วน) มีการกระจายแบบปกติและไม่มีความสัมพันธ์กันจะเป็นอิสระต่อกัน

ถ้าxที่มีมิติNถูกแบ่งออกดังต่อไปนี้

${\displaystyle \mathbf {x} ={\begin{bmatrix}\mathbf {x} _{1}\\\mathbf {x} _{2}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times 1\\(N-q)\times 1\end{bmatrix}}}$

และด้วยเหตุนี้μและΣจึงถูกแบ่งออกดังต่อไปนี้

${\displaystyle {\boldsymbol {\mu }}={\begin{bmatrix}{\boldsymbol {\mu }}_{1}\\{\boldsymbol {\mu }}_{2}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times 1\\(N-q)\times 1\end{bmatrix}}}$

${\displaystyle {\boldsymbol {\Sigma }}={\begin{bmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{12}\\{\boldsymbol {\Sigma }}_{21}&{\boldsymbol {\Sigma }}_{22}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times q&q\times (N-q)\\(N-q)\times q&(N-q)\times (N-q)\end{bmatrix}}}$

จากนั้นการแจกแจงของx ₁โดยมีเงื่อนไขว่าx ₂ = aจะเป็นแบบปกติหลายตัวแปร^{[ 23 ]} ( x ₁  |  x ₂ = a ) ~ N ( μ , Σ )โดยที่

${\displaystyle {\bar {\boldsymbol {\mu }}}={\boldsymbol {\mu }}_{1}+{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\left(\mathbf {a} -{\boldsymbol {\mu }}_{2}\right)}$

และเมทริกซ์ความแปรปรวนร่วม

${\displaystyle {\overline {\boldsymbol {\Sigma }}}={\boldsymbol {\Sigma }}_{11}-{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}{\boldsymbol {\Sigma }}_{21}.}$^{[ 24 ]}

นี่คืออินเวอร์สทั่วไปของเมทริกซ์นี้คือคอมพลีเมนต์ของ SchurของΣ ₂₂ในΣนั่นคือ สมการข้างต้นเทียบเท่ากับการผกผันเมทริกซ์ความแปรปรวนร่วมโดยรวม ตัดแถวและคอลัมน์ที่สอดคล้องกับตัวแปรที่ถูกกำหนดเงื่อนไขออก แล้วผกผันกลับเพื่อให้ได้เมทริกซ์ความแปรปรวนร่วมแบบมีเงื่อนไข ${\displaystyle {\boldsymbol {\Sigma }}_{22}^{-1}}$${\displaystyle {\boldsymbol {\Sigma }}_{22}}$${\displaystyle {\overline {\boldsymbol {\Sigma }}}}$

โปรดทราบว่าการทราบว่าx ₂ = aจะทำให้ค่าความแปรปรวนเปลี่ยนแปลงไป แม้ว่าค่าความแปรปรวนใหม่จะไม่ขึ้นอยู่กับค่าa ที่เฉพาะเจาะจงก็ตาม และที่น่าประหลาดใจยิ่งกว่านั้นคือ ค่าเฉลี่ยจะเปลี่ยนไปลองเปรียบเทียบกับสถานการณ์ที่ไม่ทราบค่าaซึ่งในกรณีนี้x ₁จะมีการกระจายตัว แบบ ${\displaystyle {\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\left(\mathbf {a} -{\boldsymbol {\mu }}_{2}\right)}$${\displaystyle {\mathcal {N}}_{q}\left({\boldsymbol {\mu }}_{1},{\boldsymbol {\Sigma }}_{11}\right)}$

ข้อเท็จจริงที่น่าสนใจอย่างหนึ่งที่ได้มาเพื่อพิสูจน์ผลลัพธ์นี้คือ เวกเตอร์สุ่มและเป็นอิสระต่อกัน ${\displaystyle \mathbf {x} _{2}}$${\displaystyle \mathbf {y} _{1}=\mathbf {x} _{1}-{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\mathbf {x} _{2}}$

เมทริกซ์Σ ₁₂ Σ ₂₂ ⁻¹เรียกว่าเมทริกซ์สัมประสิทธิ์ การถดถอย

ในกรณีสองตัวแปรที่xถูกแบ่งออกเป็นและการแจกแจงแบบมีเงื่อนไขของเมื่อกำหนดคือ^{[ 25 ]}${\displaystyle X_{1}}$${\displaystyle X_{2}}$${\displaystyle X_{1}}$${\displaystyle X_{2}}$

${\displaystyle X_{1}\mid X_{2}=a\ \sim \ {\mathcal {N}}\left(\mu _{1}+{\frac {\sigma _{1}}{\sigma _{2}}}\rho (a-\mu _{2}),\,(1-\rho ^{2})\sigma _{1}^{2}\right)}$

ค่าสัมประสิทธิ์สหสัมพันธ์ระหว่างและคือค่าใด ${\displaystyle \rho ={\frac {\sigma _{12}}{\sigma _{1}\sigma _{2}}}}$${\displaystyle X_{1}}$${\displaystyle X_{2}}$

${\displaystyle {\begin{pmatrix}X_{1}\\X_{2}\end{pmatrix}}\sim {\mathcal {N}}\left({\begin{pmatrix}\mu _{1}\\\mu _{2}\end{pmatrix}},{\begin{pmatrix}\sigma _{1}^{2}&\rho \sigma _{1}\sigma _{2}\\\rho \sigma _{1}\sigma _{2}&\sigma _{2}^{2}\end{pmatrix}}\right)}$

ค่าคาดหวังแบบมีเงื่อนไขของ X ₁เมื่อกำหนดให้ X ₂คือ:

${\displaystyle \operatorname {E} (X_{1}\mid X_{2}=x_{2})=\mu _{1}+\rho {\frac {\sigma _{1}}{\sigma _{2}}}(x_{2}-\mu _{2})}$

พิสูจน์: ผลลัพธ์ได้มาจากการหาค่าเฉลี่ยของการแจกแจงแบบมีเงื่อนไขข้างต้น ${\displaystyle X_{1}\mid X_{2}}$

${\displaystyle {\begin{pmatrix}X_{1}\\X_{2}\end{pmatrix}}\sim {\mathcal {N}}\left({\begin{pmatrix}0\\0\end{pmatrix}},{\begin{pmatrix}1&\rho \\\rho &1\end{pmatrix}}\right)}$

ค่าคาดหวังแบบมีเงื่อนไขของX ₁เมื่อกำหนดให้X ₂คือ

${\displaystyle \operatorname {E} (X_{1}\mid X_{2}=x_{2})=\rho x_{2}}$

และความแปรปรวนแบบมีเงื่อนไขคือ

${\displaystyle \operatorname {var} (X_{1}\mid X_{2}=x_{2})=1-\rho ^{2};}$

ดังนั้น ความ แปรปรวน แบบมีเงื่อนไข _จึงไม่ขึ้นอยู่กับx²

ความคาดหวังแบบมีเงื่อนไขของX ₁เมื่อกำหนดให้X ₂มีค่าน้อยกว่า/มากกว่าzคือ: ^{[ 26 ] : 367}

${\displaystyle \operatorname {E} (X_{1}\mid X_{2}<z)=-\rho {\varphi (z) \over \Phi (z)},}$

${\displaystyle \operatorname {E} (X_{1}\mid X_{2}>z)=\rho {\varphi (z) \over (1-\Phi (z))},}$

โดยอัตราส่วนสุดท้ายในที่นี้เรียกว่า อัตราส่วนมิล ส์ ผกผัน

พิสูจน์: ผลลัพธ์สองข้อสุดท้ายได้มาจากการใช้ผลลัพธ์ดังนั้น ${\displaystyle \operatorname {E} (X_{1}\mid X_{2}=x_{2})=\rho x_{2}}$

${\displaystyle \operatorname {E} (X_{1}\mid X_{2}<z)=\rho E(X_{2}\mid X_{2}<z)}$จากนั้นจึงใช้คุณสมบัติของค่าคาดหวังของการแจกแจงปกติแบบตัดทอน

เพื่อให้ได้การแจกแจงแบบมาร์จินัลเหนือเซตย่อยของตัวแปรสุ่มปกติหลายตัวแปร จำเป็นต้องตัดตัวแปรที่ไม่เกี่ยวข้อง (ตัวแปรที่ต้องการแยกออก) ออกจากเวกเตอร์ค่าเฉลี่ยและเมทริกซ์ความแปรปรวนร่วม การพิสูจน์นี้เป็นไปตามคำจำกัดความของการแจกแจงปกติหลายตัวแปรและพีชคณิตเชิงเส้น^{[ 27 ]}

ตัวอย่าง

ให้X = [ X ₁ , X ₂ , X ₃ ]เป็นตัวแปรสุ่มปกติหลายตัวแปรที่มีเวกเตอร์ค่าเฉลี่ยμ = [ μ ₁ , μ ₂ , μ ₃ ]และเมทริกซ์ความแปรปรวนร่วมΣ (การกำหนดพารามิเตอร์มาตรฐานสำหรับการแจกแจงปกติหลายตัวแปร) แล้วการแจกแจงร่วมของX ′ = [ X ₁ , X ₃ ]เป็นการแจกแจงปกติหลายตัวแปรที่มีเวกเตอร์ค่าเฉลี่ยμ ′ = [ μ ₁ , μ ₃ ]และเมทริกซ์ความแปรปรวนร่วม Σ ${\displaystyle {\boldsymbol {\Sigma }}'={\begin{bmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{13}\\{\boldsymbol {\Sigma }}_{31}&{\boldsymbol {\Sigma }}_{33}\end{bmatrix}}}$

ถ้าY = c + BXเป็นการแปลงเชิงเส้นของโดยที่cเป็นเวกเตอร์ของค่าคงที่ และBเป็นเมทริกซ์คงที่ แล้วYจะมีการแจกแจงปกติแบบหลายตัวแปร โดยมีค่าคาดหวังc + BμและความแปรปรวนBΣB ^Tกล่าวคือโดยเฉพาะอย่างยิ่ง เซตย่อยใดๆ ของX _iก็มีการแจกแจงแบบมาร์จินัลที่เป็นการแจกแจงปกติแบบหลายตัวแปรเช่นกัน เพื่อให้เห็นภาพนี้ ลองพิจารณาตัวอย่างต่อไปนี้: ในการดึงเซตย่อย ( X ₁ , X ₂ , X ₄ ) ^T ออกมา ให้ ใช้${\displaystyle \mathbf {X} \ \sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}),}$${\displaystyle M\times 1}$${\displaystyle M\times N}$${\displaystyle \mathbf {Y} \sim {\mathcal {N}}\left(\mathbf {c} +\mathbf {B} {\boldsymbol {\mu }},\mathbf {B} {\boldsymbol {\Sigma }}\mathbf {B} ^{\rm {T}}\right)}$

${\displaystyle \mathbf {B} ={\begin{bmatrix}1&0&0&0&0&\ldots &0\\0&1&0&0&0&\ldots &0\\0&0&0&1&0&\ldots &0\end{bmatrix}}}$

ซึ่งจะแยกองค์ประกอบที่ต้องการออกมาโดยตรง

อีกผลลัพธ์หนึ่งคือ การแจกแจงของZ = b · Xโดยที่bเป็นเวกเตอร์คงที่ที่มีจำนวนองค์ประกอบเท่ากับXและจุดแสดงถึงผล คูณดอท เป็นการแจกแจงแบบเกาส์เซียนแบบเอกตัวแปรที่มี ผลลัพธ์นี้ได้มาจากการใช้ ${\displaystyle Z\sim {\mathcal {N}}\left(\mathbf {b} \cdot {\boldsymbol {\mu }},\mathbf {b} ^{\rm {T}}{\boldsymbol {\Sigma }}\mathbf {b} \right)}$

${\displaystyle \mathbf {B} ={\begin{bmatrix}b_{1}&b_{2}&\ldots &b_{n}\end{bmatrix}}=\mathbf {b} ^{\rm {T}}.}$

สังเกตว่าคุณสมบัติความเป็นบวกแน่นอนของΣบ่งชี้ว่าค่าความแปรปรวนของผลคูณดอทต้องเป็นบวก

การแปลงเชิงเส้นของX เช่น 2X ไม่เหมือนกับผลรวมของสองการรับรู้ที่เป็นอิสระของX

เส้นโค้งความหนาแน่นเท่ากันของการกระจายปกติหลายตัวแปรที่ไม่เอกฐานคือทรงรี (เช่น การแปลงเชิงเส้นของไฮเปอร์สเฟียร์ ) ที่มีจุดศูนย์กลางอยู่ที่ค่าเฉลี่ย^{[ 28 ]}ดังนั้นการกระจายปกติหลายตัวแปรจึงเป็นตัวอย่างของคลาสของการกระจายแบบวงรีทิศทางของแกนหลักของทรงรีจะกำหนดโดยเวกเตอร์ลักษณะเฉพาะของเมทริกซ์ความแปรปรวนร่วม ความยาวสัมพัทธ์กำลังสองของแกนหลักจะกำหนดโดยค่าลักษณะเฉพาะที่สอดคล้องกัน ${\displaystyle {\boldsymbol {\Sigma }}}$

ถ้าΣ = UΛU ^T = UΛ ^1/2 ( UΛ ^1/2 ) ^Tเป็นการแยกส่วนประกอบค่าลักษณะเฉพาะโดยที่คอลัมน์ของUคือเวกเตอร์ลักษณะเฉพาะหน่วย และΛคือเมทริกซ์แนวทแยงของค่าลักษณะเฉพาะ แล้วเราจะได้ว่า

${\displaystyle \mathbf {X} \ \sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})\iff \mathbf {X} \ \sim {\boldsymbol {\mu }}+\mathbf {U} {\boldsymbol {\Lambda }}^{1/2}{\mathcal {N}}(0,\mathbf {I} )\iff \mathbf {X} \ \sim {\boldsymbol {\mu }}+\mathbf {U} {\mathcal {N}}(0,{\boldsymbol {\Lambda }}).}$

นอกจากนี้Uสามารถเลือกให้เป็นเมทริกซ์การหมุนได้ เนื่องจาก การกลับแกนไม่มีผลต่อN (0, Λ ) แต่การกลับคอลัมน์จะเปลี่ยนเครื่องหมายของ ดีเทอร์มิแน น ต์ ของ UการกระจายN ( μ , Σ ) ก็คือN (0, I ) ที่ถูกปรับขนาดด้วยΛ ^1/2หมุนด้วยUและเลื่อนด้วยμ

ในทางกลับกัน การเลือกค่าμ ใดๆ เมทริกซ์ Uที่มีอันดับเต็มและค่าแนวทแยงมุม Λ _i ที่เป็นบวก จะทำให้ได้การแจกแจงปกติหลายตัวแปรที่ไม่เป็นเอกฐาน หาก Λ _i ใดๆ เป็นศูนย์และUเป็นเมทริกซ์จัตุรัส เมทริกซ์ความแปรปรวนร่วมUΛU ^{T ที่ได้จะ} เป็นเอกฐานในทางเรขาคณิต หมายความว่าทรงรีตามเส้นโค้งทุกอันจะบางมากจนไม่มีที่สิ้นสุดและมีปริมาตรเป็นศูนย์ใน ปริภูมิ nมิติ เนื่องจากแกนหลักอย่างน้อยหนึ่งแกนมีความยาวเป็นศูนย์ นี่คือกรณีเสื่อมสภาพ

"รัศมีรอบค่าเฉลี่ยที่แท้จริงในตัวแปรสุ่มปกติแบบสองตัวแปร ซึ่งเขียนใหม่ในพิกัดเชิงขั้ว (รัศมีและมุม) เป็นไปตามการแจกแจงของ Hoyt " ^{[ 29 ]}

ในมิติเดียว ความน่าจะเป็นที่จะพบตัวอย่างของการแจกแจงปกติในช่วงนั้นอยู่ที่ประมาณ 68.27% แต่ในมิติที่สูงกว่า ความน่าจะเป็นที่จะพบตัวอย่างในบริเวณวงรีส่วนเบี่ยงเบนมาตรฐานจะต่ำกว่า^{[ 30 ]}${\displaystyle \mu \pm \sigma }$

การหาค่าประมาณความน่าจะเป็นสูงสุด ของเมทริกซ์ความแปรปรวนร่วมของการแจกแจงปกติหลายตัวแปรนั้นทำได้ง่าย

โดยสรุป ฟังก์ชันความหนาแน่นความน่าจะเป็น (pdf) ของการแจกแจงปกติแบบหลายตัวแปรคือ

${\displaystyle f(\mathbf {x} )={\frac {1}{\sqrt {(2\pi )^{k}|{\boldsymbol {\Sigma }}|}}}\exp \left(-{1 \over 2}(\mathbf {x} -{\boldsymbol {\mu }})^{\rm {T}}{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})\right)}$

และตัวประมาณค่า ML ของเมทริกซ์ความแปรปรวนร่วมจากตัวอย่าง การสังเกต n ครั้งคือ^{[ 31 ]}

${\displaystyle {\widehat {\boldsymbol {\Sigma }}}={1 \over n}\sum _{i=1}^{n}({\mathbf {x} }_{i}-{\overline {\mathbf {x} }})({\mathbf {x} }_{i}-{\overline {\mathbf {x} }})^{\mathrm {T} }}$

ซึ่งก็คือเมทริกซ์ความแปรปรวนร่วมของตัวอย่างนั่นเอง นี่คือตัวประมาณค่าแบบมีอคติซึ่งค่าคาดหวังคือ

${\displaystyle E\left[{\widehat {\boldsymbol {\Sigma }}}\right]={\frac {n-1}{n}}{\boldsymbol {\Sigma }}.}$

ค่าความแปรปรวนร่วมของตัวอย่างที่ไม่เอนเอียงคือ

${\displaystyle {\widehat {\boldsymbol {\Sigma }}}={\frac {1}{n-1}}\sum _{i=1}^{n}(\mathbf {x} _{i}-{\overline {\mathbf {x} }})(\mathbf {x} _{i}-{\overline {\mathbf {x} }})^{\rm {T}}={\frac {1}{n-1}}\left[X'\left(I-{\frac {1}{n}}\cdot J\right)X\right]}$ (รูปแบบเมทริกซ์; คือเมทริกซ์เอกลักษณ์, J คือเมทริกซ์ที่มีค่าเป็นหนึ่งทั้งหมด; ดังนั้นพจน์ในวงเล็บจึงเป็นเมทริกซ์ศูนย์กลาง)${\displaystyle I}$${\displaystyle K\times K}$${\displaystyle K\times K}$${\displaystyle K\times K}$

เมทริกซ์ข้อมูลของฟิชเชอร์สำหรับการประมาณค่าพารามิเตอร์ของการแจกแจงปกติแบบหลายตัวแปรมีสูตรสำเร็จรูป สามารถนำไปใช้ได้ เช่น ในการคำนวณขอบเขต Cramér–Raoสำหรับการประมาณค่าพารามิเตอร์ในบริบทนี้ ดูรายละเอียดเพิ่มเติมได้ที่ ข้อมูลของฟิชเชอร์

ในสถิติแบบเบย์เซียนค่าความน่าจะเป็นล่วงหน้าแบบสังยุคของเวกเตอร์ค่าเฉลี่ยคือการแจกแจงปกติแบบหลายตัวแปรอีกแบบหนึ่ง และค่าความน่าจะเป็นล่วงหน้าแบบสังยุคของเมทริกซ์ความแปรปรวนร่วมคือการแจกแจงแบบอินเวอร์ส-วิชฮาร์ท สมมติว่ามีการสังเกตการณ์ n ครั้ง${\displaystyle {\mathcal {W}}^{-1}}$

${\displaystyle \mathbf {X} =\{\mathbf {x} _{1},\dots ,\mathbf {x} _{n}\}\sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})}$

และมีการกำหนดค่าก่อนหน้าแบบคอนจูเกตไว้แล้ว โดยที่

${\displaystyle p({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})=p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }})\ p({\boldsymbol {\Sigma }}),}$

ที่ไหน

${\displaystyle p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }})\sim {\mathcal {N}}({\boldsymbol {\mu }}_{0},m^{-1}{\boldsymbol {\Sigma }}),}$

และ

${\displaystyle p({\boldsymbol {\Sigma }})\sim {\mathcal {W}}^{-1}({\boldsymbol {\Psi }},n_{0}).}$

จากนั้น^{[ 31 ]}

${\displaystyle {\begin{array}{rcl}p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }},\mathbf {X} )&\sim &{\mathcal {N}}\left({\frac {n{\bar {\mathbf {x} }}+m{\boldsymbol {\mu }}_{0}}{n+m}},{\frac {1}{n+m}}{\boldsymbol {\Sigma }}\right),\\p({\boldsymbol {\Sigma }}\mid \mathbf {X} )&\sim &{\mathcal {W}}^{-1}\left({\boldsymbol {\Psi }}+n\mathbf {S} +{\frac {nm}{n+m}}({\bar {\mathbf {x} }}-{\boldsymbol {\mu }}_{0})({\bar {\mathbf {x} }}-{\boldsymbol {\mu }}_{0})',n+n_{0}\right),\end{array}}}$

ที่ไหน

${\displaystyle {\begin{aligned}{\bar {\mathbf {x} }}&={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {x} _{i},\\\mathbf {S} &={\frac {1}{n}}\sum _{i=1}^{n}(\mathbf {x} _{i}-{\bar {\mathbf {x} }})(\mathbf {x} _{i}-{\bar {\mathbf {x} }})'.\end{aligned}}}$