กลับไปหน้าบทความ

อ่าน 3 นาที

ความไม่เท่าเทียมกันของเบนเน็ตต์

ความไม่เท่าเทียมกันของความน่าจะเป็น/ต้นขั้วความน่าจะเป็น

ในทฤษฎีความน่าจะเป็น อสมการของเบนเน็ตต์ให้ขอบเขตบนของความน่าจะเป็นที่ผลรวมของตัวแปรสุ่มอิสระจะเบี่ยงเบนจากค่าที่คาดหวังมากกว่าจำนวนที่กำหนดไว้...

ความไม่เท่าเทียมกันของเบนเน็ตต์

ในทฤษฎีความน่าจะเป็น อสมการของเบนเน็ตต์ให้ขอบเขตบนของความน่าจะเป็นที่ผลรวมของตัวแปรสุ่มอิสระจะเบี่ยงเบนจากค่าที่คาดหวังมากกว่าจำนวนที่กำหนดไว้ อสมการของเบนเน็ตต์ได้รับการพิสูจน์โดยจอร์จ เบนเน็ตต์แห่งมหาวิทยาลัยนิวเซาท์เวลส์ในปี 1962 [ 1 ]

คำแถลง

ให้ X , … X เป็นตัวแปรสุ่มอิสระที่มีความแปรปรวนจำกัด สมมติเพิ่มเติมว่า| X - E X | ≤ aเกือบแน่นอนสำหรับทุกiและกำหนดเอสn=ฉัน=1n[Xฉันอี(Xฉัน)]{\displaystyle S_{n}=\sum _{i=1}^{n}\left[X_{i}-\operatorname {E} (X_{i})\right]}และσ2=ฉัน=1nอี(XฉันอีXฉัน)2.{\displaystyle \sigma ^{2}=\sum _{i=1}^{n}\operatorname {E} (X_{i}-\operatorname {E} X_{i})^{2}.} ดังนั้นสำหรับt ≥ 0ใด ๆ

ปร.(เอสn>ที)เอ็กซ์(σ2เอ2ชม.(เอทีσ2)),{\displaystyle \Pr \left(S_{n}>t\right)\leq \exp \left(-{\frac {\sigma ^{2}}{a^{2}}}h\left({\frac {at}{\sigma ^{2}}}\right)\right),}

โดยที่h ( u ) = (1 + u )log(1 + u ) – uและ log หมายถึงลอการิทึมธรรมชาติ[ 2 ] [ 3 ]

การสรุปและการเปรียบเทียบกับขอบเขตอื่นๆ

สำหรับการวางนัยทั่วไป โปรดดู Freedman (1975) [ 4 ]และ Fan, Grama และ Liu (2012) [ 5 ]สำหรับ เวอร์ชัน มาร์ติงเกลของความไม่เท่าเทียมกันของ Bennett และการปรับปรุงตามลำดับ

อสมการของ Hoeffdingสมมติเพียงว่าค่าที่นำมาบวกกันนั้นมีขอบเขตเกือบแน่นอน ในขณะที่อสมการของ Bennett ให้ผลลัพธ์ที่ดีขึ้นเมื่อความแปรปรวนของค่าที่นำมาบวกกันนั้นน้อยเมื่อเทียบกับขอบเขตเกือบแน่นอน อย่างไรก็ตาม อสมการของ Hoeffding มีลักษณะหางแบบ sub-Gaussian ในขณะที่โดยทั่วไปแล้วอสมการของ Bennett มีลักษณะหางแบบ Poissonian

อสมการของเบนเน็ตต์มีความคล้ายคลึงกับอสมการของเบิร์นสไตน์ มากที่สุด ซึ่งอสมการแรกยังให้ความเข้มข้นในแง่ของความแปรปรวนและขอบเขตที่แน่นอนเกือบ 100% สำหรับแต่ละเทอม อสมการของเบนเน็ตต์มีความเข้มแข็งกว่าขอบเขตนี้ แต่คำนวณได้ซับซ้อนกว่า[ 3 ]

ในอสมการทั้งสองนี้ แตกต่างจากอสมการหรือทฤษฎีบทลิมิตอื่นๆ ตรงที่ไม่มีข้อกำหนดว่าตัวแปรประกอบจะต้องมีการแจกแจงที่เหมือนกันหรือคล้ายคลึงกัน

ตัวอย่าง

สมมติว่าX แต่ละตัว เป็นตัวแปรสุ่มไบนารีอิสระที่มีความน่าจะเป็นpแล้วอสมการของเบนเน็ตต์กล่าวว่า:

ปร.(ฉัน=1nXฉัน>พีn+ที)เอ็กซ์(nพีชม.(ทีnพี)).{\displaystyle \Pr \left(\sum _{i=1}^{n}X_{i}>pn+t\right)\leq \exp \left(-nph\left({\frac {t}{np}}\right)\right).}

สำหรับที10nพี{\displaystyle t\geq 10np}, ชม.(ทีnพี)ที2nพีบันทึกทีnพี,{\displaystyle h({\frac {t}{np}})\geq {\frac {t}{2np}}\log {\frac {t}{np}},} ดังนั้น

ปร.(ฉัน=1nXฉัน>พีn+ที)(ทีnพี)ที/2{\displaystyle \Pr \left(\sum _{i=1}^{n}X_{i}>pn+t\right)\leq \left({\frac {t}{np}}\right)^{-t/2}}

สำหรับที10nพี{\displaystyle t\geq 10np}.

ในทางตรงกันข้ามอสมการของ Hoeffdingให้ขอบเขตของเอ็กซ์(2ที2/n){\displaystyle \exp(-2t^{2}/n)}และ อสมการเบิร์นสไตน์ข้อแรกให้ขอบเขตของเอ็กซ์(ที22nพี+2ที/3){\displaystyle \exp(-{\frac {t^{2}}{2np+2t/3}})}. สำหรับทีnพี{\displaystyle t\gg np}อสมการของ Hoeffding ให้ผลลัพธ์ดังนี้เอ็กซ์(Θ(ที2/n)){\displaystyle \exp(-\Theta (t^{2}/n))}เบิร์นสไตน์ให้เอ็กซ์(Θ(ที)){\displaystyle \exp(-\Theta (t))}และเบนเน็ตต์ให้เอ็กซ์(Θ(ทีบันทึกทีnพี)){\displaystyle \exp(-\Theta (t\log {\frac {t}{np}}))}.

ดูเพิ่มเติม

ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Bennett%27s_inequality&oldid=1322056124 "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ ความไม่เท่าเทียมกันของเบนเน็ตต์

ในทฤษฎีความน่าจะเป็น อสมการของเบนเน็ตต์ให้ขอบเขตบนของความน่าจะเป็นที่ผลรวมของตัวแปรสุ่มอิสระจะเบี่ยงเบนจากค่าที่คาดหวังมากกว่าจำนวนที่กำหนดไว้...

คำแถลง

ให้ X , … X เป็น ตัวแปรสุ่มอิสระ ที่มีความแปรปรวนจำกัด สมมติเพิ่มเติมว่า | X - E X | ≤ a เกือบแน่นอน สำหรับทุก i และกำหนด เอส n = ∑ ฉัน = 1 n [ X ฉัน − อี ⁡ ( X ฉัน ) ] {\displaystyle S_{n}=\sum _{i=1}^{n}\left[X_{i}-\operatorname {E} (X_{i})\right]} และ σ 2...

การสรุปและการเปรียบเทียบกับขอบเขตอื่นๆ

สำหรับการวางนัยทั่วไป โปรดดู Freedman (1975) [ 4 ] และ Fan, Grama และ Liu (2012) [ 5 ] สำหรับ เวอร์ชัน มาร์ติงเก ลของความไม่เท่าเทียมกันของ Bennett และการปรับปรุงตามลำดับ

ตัวอย่าง

สมมติว่า X แต่ละตัว เป็นตัวแปรสุ่มไบนารีอิสระที่มีความน่าจะเป็น p แล้วอสมการของเบนเน็ตต์กล่าวว่า: