ทฤษฎีบทของคอคแรน
ในทางสถิติทฤษฎีบทของ Cochranซึ่งคิดค้นโดยWilliam G. Cochran [ 1 ] เป็นทฤษฎีบทที่ใช้ในการพิสูจน์ผลลัพธ์ที่เกี่ยวข้องกับการแจกแจงความน่าจะเป็นของสถิติที่ใช้ใน การวิเคราะห์ ความแปรปรวน[ 2 ]
คำแถลง
ให้ , และ เป็น ตัวแปรสุ่มที่ มีการแจกแจงแบบปกติมาตรฐานแบบอิสระและเหมือนกัน ให้เป็นเมทริกซ์สมมาตรกำหนดให้r เป็นอันดับของกำหนดให้เพื่อให้Q เป็นรูปแบบกำลังสองและสมมติเพิ่มเติมว่า
ทฤษฎีบทของ Cochranกล่าวว่าสิ่งต่อไปนี้เทียบเท่ากัน:
- ,
- ค่าQ เป็นอิสระต่อกัน
- แต่ละQ มีการแจกแจงไคกำลังสองโดยมีr องศาอิสระ[ 1 ] [ 3 ]
โดยทั่วไปจะระบุว่า โดยที่เป็นตัวผกผันที่ยกกำลังสองได้เอง และถูกแทนที่ด้วยแต่หลังจากการแปลงเชิงตั้งฉาก จะได้และ ดังนั้นเราจึงลดรูปเป็นทฤษฎีบทข้างต้น ในที่นี้หมายถึงการแปลงแนวทแยง
สูตรทางเลือก
เวอร์ชันต่อไปนี้มักพบเห็นได้เมื่อพิจารณาการถดถอยเชิงเส้น[ 4 ]สมมติว่าเป็นเวกเตอร์สุ่มปกติหลายตัวแปร มาตรฐาน (ในที่นี้หมายถึงเมทริกซ์เอกลักษณ์n x n ) และถ้าเป็นเมทริกซ์สมมาตรn x n ทั้งหมด ที่มี แล้วเมื่อกำหนดเงื่อนไขใดเงื่อนไขหนึ่งต่อไปนี้จะบ่งชี้ถึงเงื่อนไขอีกสองข้อ:
- (ดังนั้นจึงเป็นเมทริกซ์บวกกึ่งกำหนด )
- เป็นอิสระจากสำหรับ
ตัวอย่าง
ค่าเฉลี่ยตัวอย่างและความแปรปรวนตัวอย่าง
ถ้าX , ..., X เป็นตัวแปรสุ่มอิสระที่มีการแจกแจงแบบปกติ โดยมีค่าเฉลี่ยμและส่วนเบี่ยงเบนมาตรฐานσแล้ว
เป็นการแจกแจงปกติมาตรฐานสำหรับแต่ละi โปรดทราบว่าค่า Qทั้งหมดเท่ากับผลรวมของ ค่า U ยกกำลังสอง ดังแสดงในที่นี้:
ซึ่งเกิดจากสมมติฐานเดิมที่ว่าดังนั้นแทนที่จะเป็นเช่นนั้น เราจะคำนวณปริมาณนี้และแยกมันออกเป็นQ ในภายหลัง สามารถเขียนได้ว่า
(นี่คือค่าเฉลี่ยของตัวอย่าง ) เพื่อดูความสัมพันธ์นี้ ให้คูณตลอดด้วยและสังเกตว่า
และขยายเพื่อให้
พจน์ที่สามเป็นศูนย์ เพราะเท่ากับค่าคงที่คูณด้วย
และพจน์ที่สองประกอบด้วย พจน์ที่เหมือนกัน nพจน์ที่นำมาบวกกัน ดังนั้น
และด้วยเหตุนี้
ทีนี้มาดูเมทริกซ์ที่ มีแต่ เลข 1 ซึ่งมีอันดับ 1 โดย กำหนดให้. นิพจน์นี้สามารถหาได้โดยการกระจายในรูปแบบเมทริกซ์ สามารถแสดงได้ว่าอันดับของคือเนื่องจากผลรวมของทุกแถวเท่ากับศูนย์ ดังนั้นเงื่อนไขของทฤษฎีบทของ Cochran จึงเป็นไปตามที่กำหนด
ทฤษฎีบทของ Cochran ระบุว่าQ และQ เป็นอิสระต่อกัน โดยมีการแจกแจงไคกำลังสองที่มีองศาอิสระn − 1 และ 1 ตามลำดับ ซึ่งแสดงให้เห็นว่าค่าเฉลี่ยตัวอย่างและ ความแปรปรวนตัวอย่างเป็นอิสระต่อกัน นอกจากนี้ยังสามารถแสดงได้ด้วยทฤษฎีบทของ Basuและในความเป็นจริง คุณสมบัตินี้เป็นลักษณะเฉพาะของการแจกแจงปกติ เนื่องจากไม่มีการแจกแจงอื่นใดที่ค่าเฉลี่ยตัวอย่างและความแปรปรวนตัวอย่างเป็นอิสระต่อกัน[ 5 ]
การแจกจ่าย
ผลลัพธ์ของการแจกแจงจะเขียนในเชิงสัญลักษณ์ดังนี้
ตัวแปรสุ่มทั้งสองนี้เป็นสัดส่วนกับค่าความแปรปรวนที่แท้จริงแต่ไม่ทราบค่าσ² ดังนั้นอัตราส่วนของตัวแปรสุ่มทั้ง สองจึงไม่ขึ้นอยู่กับσ² และเนื่องจากตัวแปรสุ่มทั้ง สองเป็นอิสระทางสถิติ การแจกแจงของอัตราส่วนของตัวแปรสุ่มทั้งสองจึงกำหนดโดย
โดยที่F คือการแจกแจง F ที่มี องศาอิสระ1 และn − 1 (ดู การแจกแจง t ของ Student ด้วย ) ขั้นตอนสุดท้ายในที่นี้คือการกำหนดนิยามของตัวแปรสุ่มที่มีการแจกแจง F อย่างมีประสิทธิภาพ
การประมาณค่าความแปรปรวน
ในการประมาณค่าความแปรปรวนσ² นั้นตัวประมาณค่าหนึ่งที่บางครั้งใช้คือ ตัวประมาณ ค่าความน่าจะเป็นสูงสุดของความแปรปรวนของการแจกแจงแบบปกติ
ทฤษฎีบทของคอคแรนแสดงให้เห็นว่า
และคุณสมบัติของการแจกแจงไคกำลังสองแสดงให้เห็นว่า
การพิสูจน์
ข้ออ้าง : ให้เป็นการแจกแจงแบบเกาส์เซียนมาตรฐานใน แล้วสำหรับเมทริกซ์สมมาตรใดๆถ้าและมีการแจกแจงแบบเดียวกัน แล้วจะมีค่าไอเกนเดียวกัน (โดยไม่คำนึงถึงความซ้ำซ้อน)
ให้ค่าไอเกนของเป็นแล้วคำนวณฟังก์ชันลักษณะเฉพาะของซึ่งจะได้เป็น
(ในการคำนวณ ขั้นแรกให้แปลงเมทริกซ์ให้เป็นเมทริกซ์ทแยงมุมเปลี่ยนไปใช้กรอบอ้างอิงนั้น แล้วใช้ข้อเท็จจริงที่ว่าฟังก์ชันลักษณะเฉพาะของผลรวมของตัวแปรอิสระคือผลคูณของฟังก์ชันลักษณะเฉพาะของตัวแปรเหล่านั้น)
เพื่อให้และเท่ากัน ฟังก์ชันลักษณะเฉพาะของทั้งสองต้องเท่ากัน ดังนั้นจึงมีค่าไอเกนเดียวกัน (โดยไม่คำนึงถึงความซ้ำซ้อน)
เรียกร้อง : .
เนื่องจากเมทริกซ์สมมาตร และตามข้ออ้างก่อนหน้านี้เมทริกซ์จึงมีค่าไอเกนเดียวกันกับ 0
บทตั้ง : ถ้า เมทริกซ์ และ เป็นเมทริกซ์สมมาตร ทั้งหมดและมีค่าไอเกนเป็น 0 และ 1 แล้วเมทริกซ์ทั้งสามนี้จะสามารถทำให้เป็นเมทริกซ์ทแยงมุมได้พร้อมกัน
กำหนดค่า i ให้คงที่ และพิจารณาเวกเตอร์ลักษณะเฉพาะ v ของเมทริกซ์ โดยที่. จากนั้นเราจะได้. เราสังเกตว่าเมทริกซ์ s เป็นเมทริกซ์กึ่งบวก เนื่องจากเวกเตอร์ลักษณะเฉพาะของเมทริกซ์ทั้งหมดเป็นค่าที่ไม่เป็นลบ ดังนั้น สำหรับทุกs เราต้องมี. ดังนั้นเราจึงได้การแยกของ เมทริก ซ์ ออกเป็นโดยที่ปริภูมิเวกเตอร์ลักษณะเฉพาะ 1 มิติของ เมทริกซ์ อยู่ในปริภูมิเวกเตอร์ลักษณะเฉพาะ 0 มิติของ เมทริกซ์ สำหรับ. ตอนนี้ให้ทำการอุปนัยโดยการย้ายเข้าไปในเมทริกซ์ถ้าสำหรับทุกs แล้วฐานที่ทำให้เมทริกซ์ แต่ละเมทริกซ์เป็นเมทริกซ์ทแยงมุมพร้อมกันจะกำหนดโดย โดยที่คือฐานของปริภูมิเวกเตอร์ลักษณะเฉพาะ 1 มิติของเมทริกซ์.
ต่อไปนี้เราจะพิสูจน์ทฤษฎีบทเดิม เราจะพิสูจน์ว่าทั้งสามกรณีนั้นเทียบเท่ากันโดยการพิสูจน์ว่าแต่ละกรณีบ่งชี้ถึงกรณีถัดไปในวัฏจักร ( )
กรณีศึกษา : ทุกอย่างเป็นอิสระต่อกัน
กำหนดค่าคงที่บางอย่างกำหนดเมทริกซ์และทำให้เป็นเมทริกซ์ทแยงมุมโดยใช้การแปลงเชิงตั้งฉากจากนั้นพิจารณาเมทริกซ์ ซึ่งก็ถูกทำให้เป็นเมทริกซ์ทแยงมุมเช่นกัน
ให้แล้วมันก็จะเป็นแบบเกาส์เซียนมาตรฐานเช่นกัน ดังนั้นเราจึงมี
ตรวจสอบค่าในแนวทแยงมุมของเมทริกซ์เหล่านั้น เพื่อดูว่าค่าในแนวทแยงมุมที่ไม่เป็นศูนย์นั้นมีค่าใดบ้างที่ไม่ทับซ้อนกัน
ดังนั้นค่าไอเกนทั้งหมดของ จึงเป็น 0 และ 1 ดังนั้น จึงเป็นการแจกแจงที่มีระดับความเป็นอิสระ
กรณีศึกษา : แต่ละกรณีเป็นการแจกแจง
กำหนดค่าใดๆ ให้เป็นเมทริกซ์ทแยงมุมโดยใช้การแปลงเชิงตั้งฉากแล้วจัดเรียงดัชนีใหม่เพื่อให้ จากนั้นสำหรับบางค่าการ หมุนทรงกลมของ
เนื่องจากเราจึงได้ทั้งหมดดังนั้นทั้งหมดและ มีค่าไอเกน
ดังนั้นให้หาค่าทแยงมุมพร้อมกัน แล้วบวกเข้าด้วยกัน เพื่อหาค่า.
กรณี : .
ขั้น แรก เราจะแสดงให้เห็นว่าเมทริกซ์B ( i )สามารถทำให้เป็นเมทริกซ์ทแยงมุมพร้อมกันได้ด้วยเมทริกซ์เชิงตั้งฉาก และค่าไอเกน ที่ไม่เป็นศูนย์ของเมทริกซ์เหล่านั้น ทั้งหมดมีค่าเท่ากับ +1 เมื่อแสดงให้เห็นเช่นนั้นแล้ว ให้ใช้การแปลงเชิงตั้งฉากนี้กับฐานไอเกน พร้อมกัน ซึ่งเวกเตอร์สุ่มจะกลายเป็นแต่ทั้งหมดก็ยังคงเป็นอิสระและเป็นแบบเกาส์เซียนมาตรฐาน จากนั้นผลลัพธ์ก็จะตามมา
แต่ละเมทริกซ์B ( i )มีอันดับrᵢและมีค่าลักษณะเฉพาะที่ไม่เป็นศูนย์ rᵢ จำนวนแต่ละ i ผลจะมีอันดับอย่างมากที่สุดเนื่องจากดังนั้นC ( i ) มีอันดับเท่ากับN − rᵢพอดี
ดังนั้นB ( i )และC ( i )สามารถทำให้เป็นแนวทแยงพร้อมกันได้ซึ่งสามารถแสดงได้โดยการทำให้B ( i ) เป็นแนวทแยงก่อน โดยใช้ทฤษฎีบทสเปกตรัมในฐานนี้ จะมีรูปแบบดังนี้:
ดังนั้นแถวล่างจึงเป็นศูนย์ เนื่องจากจึงสรุปได้ว่าแถวเหล่านี้ในC ( i )ในฐานนี้มีบล็อกด้านขวาซึ่งเป็นเมทริกซ์เอกลักษณ์ โดยมีค่าเป็นศูนย์ในแถวที่เหลือ แต่เนื่องจากC ( i )มีอันดับN − riจึงต้องมีค่าเป็นศูนย์ที่อื่น ดังนั้นจึงเป็นเมทริกซ์ทแยงมุมในฐานนี้เช่นกัน สรุปได้ว่าค่าลักษณะเฉพาะ ที่ไม่เป็นศูนย์ทั้งหมด ของทั้งB ( i )และC ( i คือ +1 ข้อโต้แย้งนี้ใช้ได้กับi ทุกตัว ดังนั้นB ( i ) ทุกตัวจึง เป็นเมทริกซ์กึ่งบวก แน่นอน
ยิ่งไปกว่านั้น การวิเคราะห์ข้างต้นสามารถทำซ้ำได้ในฐานแนวทแยงสำหรับในฐานนี้คือเอกลักษณ์ของปริภูมิเวกเตอร์ ดังนั้นจึงสรุปได้ว่าทั้งB (2)และสามารถทำให้เป็นแนวทแยงได้พร้อมกันในปริภูมิเวกเตอร์นี้ (และด้วยเหตุนี้จึงรวมถึงB (1) ด้วย ) โดยการทำซ้ำจะสรุปได้ว่าB ทั้งหมด สามารถทำให้เป็นแนวทแยงได้พร้อมกัน
ดังนั้นจึงมีเมทริกซ์เชิงตั้งฉากอยู่เมทริกซ์หนึ่ง ซึ่งสำหรับทุกค่าจะเป็นเมทริกซ์ทแยงมุม โดยที่ค่าใดๆที่มีดัชนี, , จะเท่ากับ 1 ในขณะที่ค่าใดๆ ที่มีดัชนีอื่นๆ จะเท่ากับ 0
ดูเพิ่มเติม
- ทฤษฎีบทของแครเมร์ว่าด้วยการสลายตัวของการแจกแจงแบบปกติ
- การหารลงตัวอย่างไม่มีที่สิ้นสุด (ความน่าจะเป็น)