ความเป็นอิสระ (ทฤษฎีความน่าจะเป็น)

Q: สำหรับกิจกรรมต่างๆ

เหตุการณ์สองเหตุการณ์ เอ {\displaystyle A} และ บี {\displaystyle B} เป็นอิสระต่อกัน (มักเขียนว่า เอ ⊥ บี {\displaystyle A\perp B} หรือ เอ ⊥ ⊥ บี {\displaystyle A\perp \!\!\!

Q: สำหรับเวกเตอร์สุ่มค่าจริง

เวกเตอร์สุ่มสองตัว X = ( X 1 , … , X ม ) ที {\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{m})^{\mathrm {T} }} และ วาย = ( วาย 1 , … , วาย n ) ที {\displaystyle \mathbf {Y} =(Y_{1},\ldots ,Y_{n})^{\mathrm {T} }} เรียกว่าเป็นอิสระถ้า [ 5 ] : หน้า 187

ความเป็นอิสระเป็นแนวคิดพื้นฐานในทฤษฎีความน่าจะเป็นเช่นเดียวกับในสถิติและทฤษฎีของกระบวนการสุ่ม เหตุการณ์สองเหตุการณ์เป็นอิสระเป็นอิสระทางสถิติหรือเป็นอิสระทางสุ่ม^{[ 1 ]}หากพูดกันอย่างไม่เป็นทางการ การเกิดขึ้นของเหตุการณ์หนึ่งไม่มีผลต่อความน่าจะเป็นของการเกิดขึ้นของอีกเหตุการณ์หนึ่ง หรือเทียบเท่ากับไม่มีผลต่ออัตราต่อรอง ในทำนองเดียวกัน ตัวแปรสุ่มสองตัวเป็นอิสระหากการเกิดขึ้นของตัวแปรหนึ่งไม่มีผลต่อการกระจายความน่าจะเป็นของตัวแปรอื่น ในทางกลับกันความขึ้นอยู่ กัน คือเมื่อการเกิดขึ้นของเหตุการณ์หนึ่งมีผลต่อความน่าจะเป็นของอีกเหตุการณ์หนึ่ง

เมื่อพิจารณากลุ่มเหตุการณ์มากกว่าสองเหตุการณ์ จำเป็นต้องแยกแยะความหมายของความเป็นอิสระสองแบบ เหตุการณ์จะเรียกว่าเป็นอิสระต่อกันเป็นคู่ๆหากเหตุการณ์สองเหตุการณ์ใดๆ ในกลุ่มนั้นเป็นอิสระต่อกัน ในขณะที่ความเป็นอิสระร่วมกัน (หรือความเป็นอิสระโดยรวม ) ของเหตุการณ์ หมายความว่า เหตุการณ์แต่ละเหตุการณ์เป็นอิสระจากเหตุการณ์อื่นๆ ในกลุ่มนั้นไม่ว่าจะเป็นเหตุการณ์ใดก็ตาม แนวคิดที่คล้ายกันนี้มีอยู่สำหรับกลุ่มตัวแปรสุ่ม ความเป็นอิสระร่วมกันบ่งบอกถึงความเป็นอิสระต่อกันเป็นคู่ๆ แต่ไม่ใช่ในทางกลับกัน ในเอกสารทางวิชาการมาตรฐานของทฤษฎีความน่าจะเป็น สถิติ และกระบวนการสุ่มความเป็นอิสระโดยไม่มีคำอธิบายเพิ่มเติมมักหมายถึงความเป็นอิสระร่วมกัน

คำนิยาม

สำหรับกิจกรรมต่างๆ

เหตุการณ์สองเหตุการณ์

เหตุการณ์สองเหตุการณ์ $A$ และ $B$ เป็นอิสระต่อกัน (มักเขียนว่า $A\perp B$ หรือ $A\perp \!\!\!\perp B$ โดยที่สัญลักษณ์หลังมักใช้สำหรับความเป็นอิสระแบบมีเงื่อนไข ) ก็ต่อเมื่อความน่าจะเป็นร่วม ของพวกเขา เท่ากับผลคูณของความน่าจะเป็นของพวกเขา: ^{[ 2 ]}^{:หน้า 29}^{[ 3 ]}^{:หน้า 10}

\mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)

สมการที่ 1

$A\cap B\neq \emptyset$ บ่งชี้ว่ามีเหตุการณ์อิสระสองเหตุการณ์ $A$ และ $B$ มีองค์ประกอบร่วมกันในปริภูมิของตัวอย่างเพื่อไม่ให้เหตุการณ์เหล่านั้นเป็น เหตุการณ์ที่ไม่ เกิดขึ้นพร้อมกัน (เหตุการณ์ที่ไม่เกิดขึ้นพร้อมกันก็ต่อเมื่อ (iff)) $A\cap B=\emptyset$ เหตุใดการกำหนดความเป็นอิสระด้วยเงื่อนไขนี้จึงชัดเจนขึ้น โดยการเขียนใหม่ด้วยความน่าจะเป็นแบบมีเงื่อนไข $P(A\mid B)={\frac {P(A\cap B)}{P(B)}}$ ในฐานะความน่าจะเป็นที่เหตุการณ์นั้นเกิดขึ้น $A$ เกิดขึ้นโดยมีเงื่อนไขว่าเหตุการณ์นั้น $B$ ได้เกิดขึ้นแล้ว หรือคาดว่าได้เกิดขึ้นแล้ว:

\mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)\iff \mathrm {P} (A\mid B)={\frac {\mathrm {P} (A\cap B)}{\mathrm {P} (B)}}=\mathrm {P} (A)

และในทำนองเดียวกัน

\mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)\iff \mathrm {P} (B\mid A)={\frac {\mathrm {P} (A\cap B)}{\mathrm {P} (A)}}=\mathrm {P} (B)

ดังนั้น การเกิดขึ้นของ $B$ ไม่ส่งผลต่อความน่าจะเป็นของ $A$ และในทางกลับกัน กล่าวอีกนัยหนึ่งคือ $A$ และ $B$ เป็นอิสระต่อกัน แม้ว่านิพจน์ที่ได้มาอาจดูเข้าใจง่ายกว่า แต่ก็ไม่ใช่คำจำกัดความที่เหมาะสม เนื่องจากความน่าจะเป็นแบบมีเงื่อนไขอาจไม่มีนิยามหาก $\mathrm {P} (A)$ หรือ $\mathrm {P} (B)$ มีค่าเป็น 0 ยิ่งไปกว่านั้น นิยามที่ต้องการทำให้ชัดเจนโดยสมมาตรว่าเมื่อ $A$ เป็นอิสระจาก $B$ , $B$ นอกจากนี้ยังเป็นอิสระจาก $A$ .

อัตราต่อรอง

กล่าวโดยพิจารณาจากอัตราต่อรอง เหตุการณ์สองเหตุการณ์จะเป็นอิสระต่อกันก็ต่อเมื่ออัตราส่วนของ อัตราต่อรองเท่ากับ ⁠ $A$ และ $B$ คือ เอกภาพ (1) ในทำนองเดียวกันกับความน่าจะเป็น นี่เทียบเท่ากับอัตราต่อรองแบบมีเงื่อนไขที่เท่ากับอัตราต่อรองแบบไม่มีเงื่อนไข:

O(A\mid B)=O(A){\text{ and }}O(B\mid A)=O(B),

หรือโอกาสที่เหตุการณ์หนึ่งจะเกิดขึ้น เมื่อกำหนดให้เหตุการณ์อีกเหตุการณ์หนึ่งเกิดขึ้น จะเท่ากับโอกาสที่เหตุการณ์นั้นจะเกิดขึ้น เมื่อกำหนดให้เหตุการณ์อีกเหตุการณ์หนึ่งไม่เกิดขึ้น:

O(A\mid B)=O(A\mid \neg B){\text{ and }}O(B\mid A)=O(B\mid \neg A).

อัตราส่วนความน่าจะเป็นสามารถนิยามได้ดังนี้

O(A\mid B):O(A\mid \neg B),

หรือสมมาตรสำหรับอัตราต่อรองของ⁠ $B$ กำหนดให้ $A$ และดังนั้นจะเป็น 1 ก็ต่อเมื่อเหตุการณ์เหล่านั้นเป็นอิสระต่อกัน

เหตุการณ์มากกว่าสองเหตุการณ์

เซตของเหตุการณ์ ที่มีจำนวน จำกัด $\{A_{i}\}_{i=1}^{n}$ เป็นอิสระต่อกันเป็นคู่ๆหากเหตุการณ์แต่ละคู่เป็นอิสระต่อกัน^{[ 4 ]} —นั่นคือ ถ้าและเฉพาะเมื่อสำหรับดัชนีคู่ที่แตกต่างกันทั้งหมด $m,k$ ,

\mathrm {P} (A_{m}\cap A_{k})=\mathrm {P} (A_{m})\mathrm {P} (A_{k})

สมการที่ 2

เซตจำกัดของเหตุการณ์จะเป็นอิสระต่อกันก็ต่อเมื่อเหตุการณ์แต่ละเหตุการณ์เป็นอิสระจากจุดตัดของเหตุการณ์อื่นๆ^{[ 4 ]}^{[ 3 ]}^{:หน้า 11} —นั่นคือ ก็ต่อเมื่อสำหรับทุกๆ $k\leq n$ และสำหรับดัชนี k ทุกๆ ตัว $1\leq i_{1}<\dots <i_{k}\leq n$ ,

\mathrm {P} \left(\bigcap _{j=1}^{k}A_{i_{j}}\right)=\prod _{j=1}^{k}\mathrm {P} (A_{i_{j}})

สมการที่ 3

นี่เรียกว่ากฎการคูณสำหรับเหตุการณ์อิสระ ไม่ใช่เงื่อนไขเดียวที่เกี่ยวข้องกับผลคูณของความน่าจะเป็นของเหตุการณ์เดี่ยวทั้งหมดเท่านั้น แต่ต้องเป็นจริงสำหรับกลุ่มย่อยของเหตุการณ์ทั้งหมดด้วย

สำหรับเหตุการณ์มากกว่าสองเหตุการณ์ ชุดเหตุการณ์ที่เป็นอิสระต่อกัน (ตามคำนิยาม) จะเป็นอิสระต่อกันเป็นคู่ๆ แต่ในทางกลับกันนั้นไม่จำเป็นต้องเป็นจริงเสมอไป [ ^{2 ] :}^{หน้า 30}

ความน่าจะเป็นของบันทึกและเนื้อหาข้อมูล

กล่าวโดยอ้างอิงจากความน่าจะเป็นแบบลอการิทึมเหตุการณ์สองเหตุการณ์จะเป็นอิสระต่อกันก็ต่อเมื่อความน่าจะเป็นแบบลอการิทึมของเหตุการณ์ร่วมเท่ากับผลรวมของความน่าจะเป็นแบบลอการิทึมของเหตุการณ์แต่ละเหตุการณ์:

\log \mathrm {P} (A\cap B)=\log \mathrm {P} (A)+\log \mathrm {P} (B)

ในทฤษฎีสารสนเทศค่าลบของลอการิทึมความน่าจะเป็นถูกตีความว่าเป็นปริมาณสารสนเทศดังนั้น เหตุการณ์สองเหตุการณ์จะเป็นอิสระต่อกันก็ต่อเมื่อปริมาณสารสนเทศของเหตุการณ์รวมเท่ากับผลรวมของปริมาณสารสนเทศของเหตุการณ์แต่ละเหตุการณ์

\mathrm {I} (A\cap B)=\mathrm {I} (A)+\mathrm {I} (B)

โปรดดูเนื้อหาข้อมูล § การบวกของเหตุการณ์อิสระสำหรับรายละเอียดเพิ่มเติม

สำหรับตัวแปรสุ่มที่มีค่าเป็นจำนวนจริง

ตัวแปรสุ่มสองตัว

ตัวแปรสุ่มสองตัว $X$ และ $Y$ เป็นอิสระต่อกันก็ต่อเมื่อ (iff) องค์ประกอบของระบบ $π$ ที่สร้างขึ้นโดยพวกมันเป็นอิสระต่อกัน กล่าวคือ สำหรับทุกๆ $x$ และ $y$ เหตุการณ์ต่างๆ $\{X\leq x\}$ และ $\{Y\leq y\}$ เป็นเหตุการณ์อิสระ (ตามที่กำหนดไว้ข้างต้นในสมการที่ 1 ) กล่าวคือ $X$ และ $Y$ ด้วยฟังก์ชันการกระจายสะสม $F_{X}(x)$ และ $F_{Y}(y)$ เป็นอิสระต่อกันก็ต่อเมื่อตัวแปรสุ่มรวม $(X,Y)$ มีฟังก์ชันการกระจายสะสมร่วม^{[ 3 ]}^{:หน้า 15}

F_{X,Y}(x,y)=F_{X}(x)F_{Y}(y)\quad {\text{for all }}x,y

สมการที่ 4

โดยทั่วไปและในทำนองเดียวกัน ถ้า $X$ และ $Y$ จะเป็นค่าจริง ถ้าตัวแปรสุ่มทั้งสองตัว $(X,Y)$ มีค่าใน ${\mathcal {X}}\times {\mathcal {Y}}$ โดยมีการแจกแจงความน่าจะเป็นร่วมกัน $P_{X,Y}$ และคนชายขอบ $P_{X}$ และ $P_{Y}$ เรามีมาตรการที่เท่าเทียมกัน

P_{X,Y}(d(x,y))=P_{X}(dx)P_{Y}(dy),

เช่น สำหรับชุด Borel ทุกชุด $A\subseteq {\mathcal {X}}\times {\mathcal {Y}}$ เรามี

P_{X,Y}(A)=\int _{A}P_{X,Y}(d(x,y))=\int _{A}P_{X}(dx)P_{Y}(dy)

ที่ไหน $P_{X,Y}(A)=P\left((X,Y)\in A\right)$ . ถ้า $X$ และ $Y$ เป็นค่าที่ไม่ต่อเนื่อง ซึ่งทำให้ง่ายขึ้นเป็น

P_{X,Y}(x_{i},y_{j})=P_{X}(x_{i})P_{Y}(y_{j}){\text{ for all }}i=1,..,|{\mathcal {X}}|,\,j=1,..,|{\mathcal {Y}}|,

ในขณะที่ถ้า $X$ และ $Y$ เป็นค่าจริงและมีความหนาแน่นของความน่าจะเป็น $p_{X}(x)$ และ $p_{Y}(y)$ และความหนาแน่นความน่าจะเป็นร่วม $p_{X,Y}(x,y)$ มันกลายเป็น

p_{X,Y}(x,y)=p_{X}(x)p_{Y}(y)\quad {\text{for almost all }}(x,y)\in \mathbb {R} ^{2}.

โดยที่ "เกือบทั้งหมด" หมายถึงทั้งหมด ยกเว้นเซตที่มีขนาดเป็นศูนย์

ตัวแปรสุ่มมากกว่าสองตัว

เซตจำกัดของ $n$ ตัวแปรสุ่ม $\{X_{1},\ldots ,X_{n}\}$ ตัวแปรสุ่ม จะมีความเป็นอิสระต่อกันเป็นคู่ๆก็ต่อเมื่อตัวแปรสุ่มทุกคู่มีความเป็นอิสระต่อกันเท่านั้น ถึงแม้ว่าชุดของตัวแปรสุ่มจะมีความเป็นอิสระต่อกันเป็นคู่ๆ แต่ก็ไม่ได้หมายความว่าจะมีความเป็นอิสระต่อกันโดยสิ้นเชิงเสมอไปดังที่จะกล่าวต่อไป

เซตจำกัดของ $n$ ตัวแปรสุ่ม $\{X_{1},\ldots ,X_{n}\}$ เป็นอิสระต่อกันก็ต่อเมื่อ สำหรับลำดับตัวเลขใดๆ $\{x_{1},\ldots ,x_{n}\}$ เหตุการณ์ต่างๆ $\{X_{1}\leq x_{1}\},\ldots ,\{X_{n}\leq x_{n}\}$ เป็นเหตุการณ์อิสระต่อกัน (ตามที่กำหนดไว้ข้างต้นในสมการที่ 3 ) ซึ่งเทียบเท่ากับเงื่อนไขต่อไปนี้สำหรับฟังก์ชันการกระจายสะสมร่วม $F_{X_{1},\ldots ,X_{n}}(x_{1},\ldots ,x_{n})$ เซตจำกัดของ $n$ ตัวแปรสุ่ม $\{X_{1},\ldots ,X_{n}\}$ เป็นอิสระต่อกันก็ต่อเมื่อ^{[ 3 ]}^{:หน้า 16}

F_{X_{1},\ldots ,X_{n}}(x_{1},\ldots ,x_{n})=F_{X_{1}}(x_{1})\cdot \ldots \cdot F_{X_{n}}(x_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}

สมการที่ 5

ในที่นี้ไม่จำเป็นต้องกำหนดให้การแจกแจงความน่าจะเป็นสามารถแยกตัวประกอบได้สำหรับทุกความเป็นไปได้ $k$ -เซตย่อยของ องค์ประกอบเช่นเดียวกับในกรณีของ $n$ กิจกรรมต่างๆ นี่ไม่ใช่สิ่งที่จำเป็นเพราะ เช่น $F_{X_{1},X_{2},X_{3}}(x_{1},x_{2},x_{3})=F_{X_{1}}(x_{1})\cdot F_{X_{2}}(x_{2})\cdot F_{X_{3}}(x_{3})$ หมายความว่า $F_{X_{1},X_{3}}(x_{1},x_{3})=F_{X_{1}}(x_{1})\cdot F_{X_{3}}(x_{3})$ .

เช่นเดียวกับกรณีของตัวแปรสุ่มสองตัว การกำหนดความเป็นอิสระโดยทั่วไปสามารถทำได้ในเชิงทฤษฎีการวัด ชุดของตัวแปรสุ่ม $(X_{1},\ldots ,X_{n})$ โดยมีค่าอยู่ในพื้นที่ที่สามารถวัดได้ ${\mathcal {X}}_{1},\times \ldots \times {\mathcal {X}}_{n}$ โดยมีการแจกจ่ายร่วมกัน $P_{X_{1},\ldots X_{n}}$ และส่วนชายขอบ $P_{X_{1}}\ldots P_{X_{n}}$ เป็นอิสระต่อกันก็ต่อเมื่อ

P_{X_{1},\ldots X_{n}}(d(x_{1},\ldots x_{n}))=P_{X_{1}}(dx_{1})\cdots P_{X_{n}}(dx_{n})

ซึ่งหมายความว่าสำหรับชุด Borel ทุกชุด $A\subseteq {\mathcal {X}}_{1}\times \cdots \times {\mathcal {X}}_{n}$ เรามี

P_{X_{1},\ldots ,X_{n}}(A)=\int _{A}P_{X_{1},\ldots X_{n}}(d(x_{1},\ldots x_{n}))=\int _{A}P_{X_{1}}(dx_{1})\cdots P_{X_{n}}(dx_{n}),

นิยามนี้เทียบเท่ากับนิยามข้างต้นทุกประการเมื่อค่าของตัวแปรสุ่มเป็นจำนวนจริงข้อดีคือสามารถใช้ได้กับตัวแปรสุ่มที่มีค่าเป็นจำนวนเชิงซ้อน หรือตัวแปรสุ่มที่รับค่าใน ปริภูมิที่วัดได้ อื่นๆ (ซึ่งรวมถึงปริภูมิเชิงทอพอโลยีที่มีพีชคณิต σ ที่เหมาะสม)

สำหรับเวกเตอร์สุ่มค่าจริง

เวกเตอร์สุ่มสองตัว $\mathbf {X} =(X_{1},\ldots ,X_{m})^{\mathrm {T} }$ และ $\mathbf {Y} =(Y_{1},\ldots ,Y_{n})^{\mathrm {T} }$ เรียกว่าเป็นอิสระถ้า^{[ 5 ]}^{:หน้า 187}

F_{\mathbf {X,Y} }(\mathbf {x,y} )=F_{\mathbf {X} }(\mathbf {x} )\cdot F_{\mathbf {Y} }(\mathbf {y} )\quad {\text{for all }}\mathbf {x} ,\mathbf {y}

สมการที่ 6

ที่ไหน $F_{\mathbf {X} }(\mathbf {x} )$ และ $F_{\mathbf {Y} }(\mathbf {y} )$ แทนฟังก์ชันการกระจายสะสมของ $\mathbf {X}$ และ $\mathbf {Y}$ และ $F_{\mathbf {X,Y} }(\mathbf {x,y} )$ แสดงถึงฟังก์ชันการกระจายสะสมร่วมของพวกเขา ความเป็นอิสระของ $\mathbf {X}$ และ $\mathbf {Y}$ มักแสดงด้วย $\mathbf {X} \perp \!\!\!\perp \mathbf {Y}$ เขียนแยกตามส่วนประกอบ $\mathbf {X}$ และ $\mathbf {Y}$ เรียกว่าเป็นอิสระหาก

F_{X_{1},\ldots ,X_{m},Y_{1},\ldots ,Y_{n}}(x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n})=F_{X_{1},\ldots ,X_{m}}(x_{1},\ldots ,x_{m})\cdot F_{Y_{1},\ldots ,Y_{n}}(y_{1},\ldots ,y_{n})\quad {\text{for all }}x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n}.

สำหรับกระบวนการสุ่ม

สำหรับกระบวนการสุ่มหนึ่งกระบวนการ

นิยามของความเป็นอิสระสามารถขยายได้จากเวกเตอร์สุ่มไปสู่กระบวนการสุ่มดังนั้น สำหรับกระบวนการสุ่มที่เป็นอิสระ จำเป็นต้องมีตัวแปรสุ่มที่ได้จากการสุ่มตัวอย่างกระบวนการ ณ จุดใด ๆ $n$ ครั้ง $t_{1},\ldots ,t_{n}$ เป็นตัวแปรสุ่มอิสระสำหรับทุก ๆ $n$ [ ^{6 ] :}^{หน้า 163}

ในทางทฤษฎี กระบวนการสุ่ม $\left\{X_{t}\right\}_{t\in {\mathcal {T}}}$ เรียกว่าเป็นอิสระ ก็ต่อเมื่อสำหรับทุกๆ $n\in \mathbb {N}$ และสำหรับทุกคน $t_{1},\ldots ,t_{n}\in {\mathcal {T}}$

F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})=F_{X_{t_{1}}}(x_{1})\cdot \ldots \cdot F_{X_{t_{n}}}(x_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}

สมการที่ 7

ที่ไหน $F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})=\mathrm {P} (X(t_{1})\leq x_{1},\ldots ,X(t_{n})\leq x_{n})$ ความเป็นอิสระของกระบวนการสุ่มนั้นเป็นคุณสมบัติภายในกระบวนการสุ่มเอง ไม่ใช่คุณสมบัติระหว่างกระบวนการสุ่มสองกระบวนการ

สำหรับกระบวนการสุ่มสองกระบวนการ

ความเป็นอิสระของกระบวนการสุ่มสองกระบวนการ คือคุณสมบัติระหว่างกระบวนการสุ่มสองกระบวนการ $\left\{X_{t}\right\}_{t\in {\mathcal {T}}}$ และ $\left\{Y_{t}\right\}_{t\in {\mathcal {T}}}$ ซึ่งถูกกำหนดไว้ในปริภูมิความน่าจะเป็นเดียวกัน $(\Omega ,{\mathcal {F}},P)$ ในทางทฤษฎีแล้ว มีกระบวนการสุ่มสองกระบวนการ $\left\{X_{t}\right\}_{t\in {\mathcal {T}}}$ และ $\left\{Y_{t}\right\}_{t\in {\mathcal {T}}}$ กล่าวกันว่ามีความเป็นอิสระหากพิจารณาจากทุกสิ่ง $n\in \mathbb {N}$ และสำหรับทุกคน $t_{1},\ldots ,t_{n}\in {\mathcal {T}}$ เวกเตอร์สุ่ม $(X(t_{1}),\ldots ,X(t_{n}))$ และ $(Y(t_{1}),\ldots ,Y(t_{n}))$ เป็นอิสระ^{[ 7 ]}^{:หน้า 515}เช่น ถ้า

F_{X_{t_{1}},\ldots ,X_{t_{n}},Y_{t_{1}},\ldots ,Y_{t_{n}}}(x_{1},\ldots ,x_{n},y_{1},\ldots ,y_{n})=F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})\cdot F_{Y_{t_{1}},\ldots ,Y_{t_{n}}}(y_{1},\ldots ,y_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}

สมการที่ 8

พีชคณิต σ อิสระ

นิยามข้างต้น ( สมการที่ 1และสมการที่ 2 ) ทั้งสองได้รับการขยายความโดยนิยามความเป็นอิสระสำหรับσ-algebra ดังต่อไปนี้ ให้ $(\Omega ,\Sigma ,\mathrm {P} )$ เป็นปริภูมิความน่าจะเป็นและให้ ${\mathcal {A}}$ และ ${\mathcal {B}}$ เป็นพีชคณิตย่อย σ สองตัวของ $\Sigma$ . ${\mathcal {A}}$ และ ${\mathcal {B}}$ กล่าวกันว่ามีความเป็นอิสระก็ต่อเมื่อ เมื่อใดก็ตามที่ $A\in {\mathcal {A}}$ และ $B\in {\mathcal {B}}$ ,

\mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B).

ในทำนองเดียวกัน ตระกูลจำกัดของ σ-algebras $(\tau _{i})_{i\in I}$ , ที่ไหน $I$ เป็นเซตดัชนีและกล่าวได้ว่าเป็นอิสระต่อกันก็ต่อเมื่อ

{\displaystyle \forall \left(A_{i}\right)_{i\in I}\in \prod \nolimits _{i\in I}\tau _{i}\

และตระกูลอนันต์ของ σ-algebra จะเรียกว่าเป็นอิสระ หากตระกูลย่อยจำกัดทั้งหมดของตระกูลนั้นเป็นอิสระเช่นกัน

คำจำกัดความใหม่นี้มีความเกี่ยวข้องโดยตรงกับคำจำกัดความก่อนหน้านี้:

เหตุการณ์สองเหตุการณ์จะเป็นอิสระต่อกัน (ในความหมายเดิม) ก็ต่อเมื่อพีชคณิต σ ที่เหตุการณ์ทั้งสองสร้างขึ้นนั้นเป็นอิสระต่อกัน (ในความหมายใหม่) พีชคณิต σ ที่สร้างขึ้นจากเหตุการณ์หนึ่ง $E\in \Sigma$ คือ ตามนิยามแล้ว

\sigma (\{E\})=\{\emptyset ,E,\Omega \setminus E,\Omega \}.

ตัวแปรสุ่มสองตัว $X$ และ $Y$ กำหนดไว้เหนือ $\Omega$ เป็นอิสระต่อกัน (ในความหมายเดิม) ก็ต่อเมื่อพีชคณิต σ ที่พวกมันสร้างขึ้นเป็นอิสระต่อกัน (ในความหมายใหม่) พีชคณิต σ ที่สร้างขึ้นโดยตัวแปรสุ่ม $X$ โดยกำหนดค่าต่างๆ ในพื้นที่ที่สามารถวัดได้ $S$ ประกอบด้วยเซตย่อยทั้งหมดของ ตามนิยาม $\Omega$ ของแบบฟอร์ม $X^{-1}(U)$ , ที่ไหน $U$ คือเซตย่อยที่วัดได้ใดๆ ของ $S$ .

จากนิยามนี้ เราสามารถแสดงให้เห็นได้อย่างง่ายดายว่า ถ้า $X$ และ $Y$ เป็นตัวแปรสุ่มและ $Y$ ถ้าเป็นค่าคงที่แล้ว $X$ และ $Y$ เป็นอิสระต่อกัน เนื่องจากพีชคณิต σ ที่สร้างขึ้นโดยตัวแปรสุ่มคงที่คือพีชคณิต σ ที่ไม่สำคัญ $\{\varnothing ,\Omega \}$ เหตุการณ์ที่มีความน่าจะเป็นเป็นศูนย์ไม่สามารถส่งผลกระทบต่อความเป็นอิสระ ดังนั้นความเป็นอิสระจึงยังคงอยู่หาก $Y$ มีเพียง Pr เท่านั้นซึ่งแทบจะแน่นอนว่าเป็นค่าคงที่

คุณสมบัติ

ความเป็นอิสระ

โปรดทราบว่าเหตุการณ์หนึ่งจะเป็นอิสระจากตัวมันเองก็ต่อเมื่อ...

\mathrm {P} (A)=\mathrm {P} (A\cap A)=\mathrm {P} (A)\cdot \mathrm {P} (A)\iff \mathrm {P} (A)=0{\text{ or }}\mathrm {P} (A)=1.

ดังนั้นเหตุการณ์หนึ่งจะเป็นอิสระจากตัวมันเองก็ต่อเมื่อมัน เกิดขึ้น เกือบแน่นอนหรือส่วนเติมเต็ม ของมัน เกิดขึ้นเกือบแน่นอน ข้อเท็จจริงนี้มีประโยชน์เมื่อพิสูจน์กฎศูนย์-หนึ่ง^{[ 8 ]}

ในทำนองเดียวกัน ตัวแปรสุ่มจะเป็นอิสระจากตัวเองก็ต่อเมื่อมันมีค่าคงที่เกือบแน่นอนเท่านั้น

ค่าคาดหวัง ความแปรปรวนร่วม ความแปรปรวน และความสัมพันธ์

ถ้า $X$ และ $Y$ ถ้าตัวแปรสุ่มทั้งสองเป็นอิสระต่อกันทางสถิติแล้ว:

- ค่าที่คาดหวังของผลิตภัณฑ์คือผลคูณของค่าที่คาดหวัง^{[ 9 ]}^{:หน้า 10} :

\operatorname {E} [X^{n}Y^{m}]=\operatorname {E} [X^{n}]\operatorname {E} [Y^{m}]

- ความแปรปรวนร่วม $\operatorname {Cov} [X,Y]$ คือศูนย์:

\operatorname {Cov} [X,Y]=\operatorname {E} [XY]-\operatorname {E} [X]\operatorname {E} [Y]=0

- ค่าความแปรปรวนของผลรวม คือ ผลรวมของค่าความแปรปรวนต่างๆ:

\operatorname {V} [X+Y]=\operatorname {V} [X]+\operatorname {V} [Y]+2\operatorname {Cov} [X,Y]=\operatorname {V} [X]+\operatorname {V} [Y]

- ความสัมพันธ์เป็นศูนย์:

\rho _{X,Y}={\dfrac {\operatorname {Cov} [X,Y]}{\sigma _{X}\sigma _{Y}}}=0

แต่ในทางกลับกันนั้นไม่เป็นจริง: คุณสมบัติแต่ละข้อนี้ไม่ได้หมายความถึงความเป็นอิสระเสมอไป ตัวอย่างเช่น หากตัวแปรสุ่มสองตัวมีค่าความแปรปรวนร่วมเป็น 0 ตัวแปรทั้งสองก็อาจยังไม่เป็นอิสระต่อกันก็ได้

ในทำนองเดียวกันสำหรับกระบวนการสุ่มสองกระบวนการ $\left\{X_{t}\right\}_{t\in {\mathcal {T}}}$ และ $\left\{Y_{t}\right\}_{t\in {\mathcal {T}}}$ : ถ้าพวกมันเป็นอิสระต่อกัน พวกมันก็จะไม่มีความสัมพันธ์กัน [ ^{10 ] :}^{หน้า 151}

ฟังก์ชันลักษณะเฉพาะ

ตัวแปรสุ่มสองตัว $X$ และ $Y$ เวกเตอร์สุ่ม จะเป็นอิสระต่อกันก็ต่อเมื่อฟังก์ชันลักษณะเฉพาะของเวกเตอร์สุ่มนั้น เป็นอิสระต่อกัน $(X,Y)$ พอใจ

\varphi _{(X,Y)}(t,s)=\varphi _{X}(t)\cdot \varphi _{Y}(s).

โดยเฉพาะอย่างยิ่ง ฟังก์ชันลักษณะเฉพาะของผลรวมของพวกมันคือผลคูณของฟังก์ชันลักษณะเฉพาะส่วนขอบของพวกมัน:

\varphi _{X+Y}(t)=\varphi _{X}(t)\cdot \varphi _{Y}(t),

แม้ว่าข้อสรุปในทางกลับกันจะไม่เป็นความจริงก็ตาม ตัวแปรสุ่มที่ตรงตามเงื่อนไขหลังนี้เรียกว่าตัวแปรสุ่มย่อยอิสระ

ตัวอย่าง

การทอยลูกเต๋า

เหตุการณ์ที่ได้เลข 6 ในการทอยลูกเต๋าครั้งแรกและเหตุการณ์ที่ได้เลข 6 ในครั้งที่สองเป็นเหตุการณ์อิสระต่อกันในทางตรงกันข้าม เหตุการณ์ที่ได้เลข 6 ในการทอยลูกเต๋าครั้งแรกและเหตุการณ์ที่ผลรวมของเลขที่ได้จากการทอยครั้งแรกและครั้งที่สองเท่ากับ 8 เป็นเหตุการณ์ที่ไม่เป็นอิสระต่อกัน

ไพ่จับฉลาก

หากสุ่มหยิบไพ่สองใบจากสำรับโดย ใส่คืน การได้ไพ่สีแดงในครั้งแรกและการได้ไพ่สีแดงในครั้งที่สองเป็นเหตุการณ์ อิสระต่อกันในทางตรงกันข้าม หากสุ่มหยิบไพ่สองใบจากสำรับโดยไม่ ใส่คืน การได้ไพ่สีแดงในครั้งแรกและการได้ไพ่สีแดงในครั้งที่สอง ไม่ใช่ เหตุการณ์ อิสระต่อกัน เพราะสำรับไพ่ที่เอาไพ่สีแดงออกไปแล้วจะมีจำนวนไพ่สีแดงเหลือน้อยลงตามสัดส่วน

ความเป็นอิสระแบบคู่และซึ่งกันและกัน

พิจารณาปริภูมิความน่าจะเป็นสองปริภูมิที่แสดงไว้ ในทั้งสองกรณี $\mathrm {P} (A)=\mathrm {P} (B)=1/2$ และ $\mathrm {P} (C)=1/4$ เหตุการณ์ในช่องว่างแรกเป็นอิสระต่อกันเป็นคู่ๆ เนื่องจาก $\mathrm {P} (A|B)=\mathrm {P} (A|C)=1/2=\mathrm {P} (A)$ , $\mathrm {P} (B|A)=\mathrm {P} (B|C)=1/2=\mathrm {P} (B)$ , และ $\mathrm {P} (C|A)=\mathrm {P} (C|B)=1/4=\mathrm {P} (C)$ แต่เหตุการณ์ทั้งสามนั้นไม่ได้เป็นอิสระต่อกัน เหตุการณ์ในพื้นที่ที่สองเป็นอิสระต่อกันเป็นคู่ๆ และเป็นอิสระต่อกันโดยสิ้นเชิง เพื่อให้เห็นภาพความแตกต่าง ลองพิจารณาเงื่อนไขจากเหตุการณ์สองเหตุการณ์ ในกรณีที่เป็นอิสระต่อกันเป็นคู่ๆ แม้ว่าเหตุการณ์ใดเหตุการณ์หนึ่งจะเป็นอิสระจากอีกสองเหตุการณ์โดยแต่ละเหตุการณ์ แต่ก็ไม่ได้เป็นอิสระจากจุดร่วมของอีกสองเหตุการณ์นั้น

\mathrm {P} (A|BC)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {1}{40}}}}={\tfrac {4}{5}}\neq \mathrm {P} (A)

\mathrm {P} (B|AC)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {1}{40}}}}={\tfrac {4}{5}}\neq \mathrm {P} (B)

\mathrm {P} (C|AB)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {6}{40}}}}={\tfrac {2}{5}}\neq \mathrm {P} (C)

อย่างไรก็ตาม ในกรณีที่ทั้งสองสิ่งเป็นอิสระต่อกัน

\mathrm {P} (A|BC)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {1}{16}}}}={\tfrac {1}{2}}=\mathrm {P} (A)

\mathrm {P} (B|AC)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {1}{16}}}}={\tfrac {1}{2}}=\mathrm {P} (B)

\mathrm {P} (C|AB)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {3}{16}}}}={\tfrac {1}{4}}=\mathrm {P} (C)

ความเป็นอิสระสามทาง แต่ไม่มีความเป็นอิสระแบบคู่

สามารถสร้างตัวอย่างที่มีสามเหตุการณ์ได้ โดยที่

\mathrm {P} (A\cap B\cap C)=\mathrm {P} (A)\mathrm {P} (B)\mathrm {P} (C),

และถึงกระนั้น เหตุการณ์สองเหตุการณ์จากสามเหตุการณ์ก็ไม่เป็นอิสระต่อกัน (และด้วยเหตุนี้ ชุดของเหตุการณ์จึงไม่เป็นอิสระต่อกัน) ^{[ 11 ]}ตัวอย่างนี้แสดงให้เห็นว่าความเป็นอิสระต่อกันนั้นเกี่ยวข้องกับข้อกำหนดเกี่ยวกับผลคูณของความน่าจะเป็นของการรวมกันของเหตุการณ์ทั้งหมด ไม่ใช่เพียงแค่เหตุการณ์เดียวดังเช่นในตัวอย่างนี้

ความเป็นอิสระแบบมีเงื่อนไข

สำหรับกิจกรรมต่างๆ

เหตุการณ์ต่างๆ $A$ และ $B$ มีความเป็นอิสระต่อกันแบบมีเงื่อนไขเมื่อกำหนดเหตุการณ์หนึ่ง $C$ เมื่อไร

$\mathrm {P} (A\cap B\mid C)=\mathrm {P} (A\mid C)\cdot \mathrm {P} (B\mid C)$ .

สำหรับตัวแปรสุ่ม

โดยสัญชาตญาณแล้ว ตัวแปรสุ่มสองตัว $X$ และ $Y$ มีความเป็นอิสระต่อกันแบบมีเงื่อนไขเมื่อกำหนด $Z$ ถ้าหากครั้งหนึ่ง $Z$ เป็นที่ทราบกันดีว่า คุณค่าของ $Y$ ไม่ได้เพิ่มข้อมูลเพิ่มเติมใดๆ เกี่ยวกับ $X$ ตัวอย่างเช่น การวัดสองครั้ง $X$ และ $Y$ ของปริมาณพื้นฐานเดียวกัน $Z$ ไม่เป็นอิสระต่อกัน แต่เป็นอิสระต่อกันแบบมีเงื่อนไขเมื่อกำหนด $Z$ (เว้นแต่ว่าความคลาดเคลื่อนในการวัดทั้งสองครั้งจะมีความเกี่ยวข้องกัน)

นิยามอย่างเป็นทางการของความเป็นอิสระแบบมีเงื่อนไขนั้นอิงอยู่กับแนวคิดของการแจกแจงแบบมีเงื่อนไขถ้า $X$ , $Y$ , และ $Z$ ถ้าตัวแปรสุ่มไม่ต่อเนื่องเราจะกำหนด $X$ และ $Y$ เพื่อให้เป็นอิสระแบบมีเงื่อนไขเมื่อกำหนด $Z$ ถ้า

\mathrm {P} (X\leq x,Y\leq y\;|\;Z=z)=\mathrm {P} (X\leq x\;|\;Z=z)\cdot \mathrm {P} (Y\leq y\;|\;Z=z)

สำหรับทุกคน $x$ , $y$ และ $z$ โดยที่ $\mathrm {P} (Z=z)>0$ ในทางกลับกัน หากตัวแปรสุ่มเป็นแบบต่อเนื่องและมีฟังก์ชันความหนาแน่นความน่าจะ เป็นร่วม $f_{XYZ}(x,y,z)$ , แล้ว $X$ และ $Y$ มีความเป็นอิสระต่อกันแบบมีเงื่อนไขเมื่อกำหนด $Z$ ถ้า

f_{XY|Z}(x,y|z)=f_{X|Z}(x|z)\cdot f_{Y|Z}(y|z)

สำหรับจำนวนจริงทั้งหมด $x$ , $y$ และ $z$ โดยที่ $f_{Z}(z)>0$ .

ถ้าแยกเป็นรายชิ้น $X$ และ $Y$ มีความเป็นอิสระต่อกันแบบมีเงื่อนไขเมื่อกำหนด $Z$ , แล้ว

\mathrm {P} (X=x|Y=y,Z=z)=\mathrm {P} (X=x|Z=z)

สำหรับใดๆ $x$ , $y$ และ $z$ กับ $\mathrm {P} (Z=z)>0$ นั่นคือ การแจกแจงแบบมีเงื่อนไขสำหรับ $X$ ที่ให้ไว้ $Y$ และ $Z$ เหมือนกับที่กำหนดไว้ $Z$ โดยลำพัง สมการที่คล้ายกันนี้ใช้ได้กับฟังก์ชันความหนาแน่นความน่าจะเป็นแบบมีเงื่อนไขในกรณีต่อเนื่องด้วย

ความเป็นอิสระสามารถมองได้ว่าเป็นความเป็นอิสระแบบมีเงื่อนไขชนิดพิเศษ เนื่องจากความน่าจะเป็นสามารถมองได้ว่าเป็นความน่าจะเป็นแบบมีเงื่อนไขชนิดหนึ่ง เมื่อไม่มีเหตุการณ์ใดเกิดขึ้น

ประวัติศาสตร์

ก่อนปี 1933 ความเป็นอิสระในทฤษฎีความน่าจะเป็นถูกกำหนดในเชิงคำพูด ตัวอย่างเช่นเดอ มัวร์ให้คำจำกัดความดังนี้: “เหตุการณ์สองเหตุการณ์เป็นอิสระต่อกัน เมื่อไม่มีความเชื่อมโยงกัน และการเกิดขึ้นของเหตุการณ์หนึ่งไม่ส่งเสริมหรือขัดขวางการเกิดขึ้นของอีกเหตุการณ์หนึ่ง” ^{[ 12 ]}หากมีเหตุการณ์อิสระ n เหตุการณ์ ความน่าจะเป็นของเหตุการณ์ที่เหตุการณ์ทั้งหมดเกิดขึ้นจะคำนวณได้จากผลคูณของความน่าจะเป็นของเหตุการณ์ทั้ง n เหตุการณ์ เห็นได้ชัดว่ามีความเชื่อว่าสูตรนี้เป็นผลมาจากคำจำกัดความข้างต้น (บางครั้งเรียกว่าทฤษฎีบทการคูณ) แน่นอนว่าการพิสูจน์ข้อกล่าวอ้างของเขาไม่สามารถทำได้หากปราศจากสมมติฐานโดยปริยายที่เป็นทางการเพิ่มเติม

นิยามของความเป็นอิสระที่ระบุไว้ในบทความนี้ กลายเป็นนิยามมาตรฐาน (ซึ่งปัจจุบันใช้ในหนังสือทุกเล่ม) หลังจากที่ปรากฏในปี 1933 ซึ่งเป็นส่วนหนึ่งของการวางสัจพจน์ของความน่าจะเป็นของ Kolmogorov ^{[ 13 ]} Kolmogorovระบุว่าเป็นผลงานของSN Bernsteinและอ้างอิงถึงสิ่งพิมพ์ที่ตีพิมพ์เป็นภาษารัสเซียในปี 1927 ^{[ 14 ]}

น่าเสียดายที่ทั้ง Bernstein และ Kolmogorov ไม่ทราบถึงผลงานของGeorg Bohlmann Bohlmann ได้ให้คำจำกัดความเดียวกันสำหรับเหตุการณ์สองเหตุการณ์ในปี พ.ศ. 2444 ^{[ 15 ]}และสำหรับเหตุการณ์ n เหตุการณ์ในปี พ.ศ. 2451 ^{[ 16 ]}ในบทความหลังนี้ เขาได้ศึกษาแนวคิดของเขาอย่างละเอียด ตัวอย่างเช่น เขาได้ยกตัวอย่างแรกที่แสดงให้เห็นว่าความเป็นอิสระแบบคู่ไม่ได้หมายความถึงความเป็นอิสระซึ่งกันและกัน แม้กระทั่งทุกวันนี้ Bohlmann ก็แทบจะไม่ถูกอ้างถึงเลย ข้อมูลเพิ่มเติมเกี่ยวกับผลงานของเขาสามารถพบได้ในOn the contributions of Georg Bohlmann to probability theoryจากde:Ulrich Krengel ^{[ 17 ]}

ดูเพิ่มเติม

ลิงก์ภายนอก

สื่อที่เกี่ยวข้องกับความเป็นอิสระ (ทฤษฎีความน่าจะเป็น) ในวิกิมีเดียคอมมอนส์

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

6 ] :

[ 7 ]

[ 8 ]

[ 9 ]

10 ] :

[ 11 ]

[ 12 ]

[ 13 ]

[ 14 ]

[ 15 ]

[ 16 ]

[ 17 ]

ความเป็นอิสระ (ทฤษฎีความน่าจะเป็น)

คำนิยาม

สำหรับกิจกรรมต่างๆ

เหตุการณ์สองเหตุการณ์

อัตราต่อรอง

เหตุการณ์มากกว่าสองเหตุการณ์

ความน่าจะเป็นของบันทึกและเนื้อหาข้อมูล

สำหรับตัวแปรสุ่มที่มีค่าเป็นจำนวนจริง

ตัวแปรสุ่มสองตัว

ตัวแปรสุ่มมากกว่าสองตัว

สำหรับเวกเตอร์สุ่มค่าจริง

สำหรับกระบวนการสุ่ม

สำหรับกระบวนการสุ่มหนึ่งกระบวนการ

สำหรับกระบวนการสุ่มสองกระบวนการ

พีชคณิต σ อิสระ

คุณสมบัติ

ความเป็นอิสระ

ค่าคาดหวัง ความแปรปรวนร่วม ความแปรปรวน และความสัมพันธ์

ฟังก์ชันลักษณะเฉพาะ

ตัวอย่าง

การทอยลูกเต๋า

ไพ่จับฉลาก

ความเป็นอิสระแบบคู่และซึ่งกันและกัน

ความเป็นอิสระสามทาง แต่ไม่มีความเป็นอิสระแบบคู่

ความเป็นอิสระแบบมีเงื่อนไข

สำหรับกิจกรรมต่างๆ

สำหรับตัวแปรสุ่ม

ประวัติศาสตร์

ดูเพิ่มเติม

ลิงก์ภายนอก

ข้อมูลสำคัญจากบทความ