ข้อผิดพลาดกำลังสองเฉลี่ย
ในทางสถิติ ค่า ความคลาดเคลื่อนกำลังสองเฉลี่ย ( MSE ) [ 1 ]หรือค่าเบี่ยงเบนกำลังสองเฉลี่ย ( MSD ) ของตัวประมาณค่า (ของกระบวนการประมาณค่าปริมาณที่ไม่สามารถสังเกตได้) จะวัดค่าเฉลี่ยของกำลังสองของความคลาดเคลื่อนนั่นคือ ค่าเฉลี่ยของความแตกต่างกำลังสองระหว่างค่าที่ประมาณได้กับค่าจริง MSE เป็นฟังก์ชันความเสี่ยงซึ่งสอดคล้องกับค่าที่คาดหวังของการสูญเสียความคลาดเคลื่อนกำลังสอง[ 2 ]ข้อเท็จจริงที่ว่า MSE มักจะเป็นบวกอย่างเคร่งครัด (และไม่ใช่ศูนย์) เป็นเพราะความสุ่มหรือเพราะตัวประมาณค่าไม่ได้คำนึงถึงข้อมูล ที่อาจทำให้ ได้ค่าประมาณที่แม่นยำยิ่งขึ้น[ 3 ]ในการเรียนรู้ของเครื่องโดยเฉพาะอย่างยิ่งการลดความเสี่ยงเชิงประจักษ์ MSE อาจหมายถึง ความเสี่ยง เชิงประจักษ์ (การสูญเสียเฉลี่ยในชุดข้อมูลที่สังเกตได้) เป็นการประมาณค่า MSE ที่แท้จริง (ความเสี่ยงที่แท้จริง: การสูญเสียเฉลี่ยในการกระจายประชากรจริง)
MSE เป็นตัววัดคุณภาพของตัวประมาณค่า เนื่องจากได้มาจากกำลังสองของระยะทางแบบยุคลิดจึงมีค่าเป็นบวกเสมอและจะลดลงเมื่อค่าความคลาดเคลื่อนเข้าใกล้ศูนย์
MSE (Moment of Error) คือโมเมนต์ ที่สอง (รอบจุดกำเนิด) ของความคลาดเคลื่อน ดังนั้นจึงรวมทั้งความแปรปรวนของตัวประมาณค่า (ความกว้างของการกระจายตัวของค่าประมาณจากตัวอย่างข้อมูล หนึ่ง ไปยังอีกตัวอย่างหนึ่ง) และอคติ (ระยะห่างระหว่างค่าเฉลี่ยที่ประมาณได้จากค่าจริง) สำหรับตัวประมาณค่าที่ไม่เอนเอียง MSE จะเท่ากับความแปรปรวนของตัวประมาณค่า เช่นเดียวกับความแปรปรวน MSE มีหน่วยวัดเดียวกันกับกำลังสองของปริมาณที่กำลังประมาณค่า ในทำนองเดียวกับค่าเบี่ยงเบนมาตรฐานการหาค่ารากที่สองของ MSE จะได้ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยรากที่สองหรือค่าเบี่ยงเบนกำลังสองเฉลี่ยรากที่สอง (RMSE หรือ RMSD) ซึ่งมีหน่วยเดียวกันกับปริมาณที่กำลังประมาณค่า สำหรับตัวประมาณค่าที่ไม่เอนเอียง RMSE จะเท่ากับรากที่สองของความแปรปรวนซึ่งเรียกว่าความคลาดเคลื่อนมาตรฐาน
คำจำกัดความและคุณสมบัติพื้นฐาน
ค่า MSE (Minimum Stability Error) ใช้ประเมินคุณภาพของตัวทำนาย (เช่น ฟังก์ชันที่แปลงค่าอินพุตใดๆ ไปเป็นค่าตัวอย่างของตัวแปรสุ่ม บางตัว ) หรือตัวประมาณค่า (เช่นฟังก์ชันทางคณิตศาสตร์ที่แปลงค่าตัวอย่างข้อมูลไปเป็นค่าประมาณของพารามิเตอร์ของประชากรที่สุ่มตัวอย่างข้อมูลมา) ในบริบทของการทำนาย การทำความเข้าใจช่วงการทำนายก็มีประโยชน์เช่นกัน เพราะมันให้ช่วงที่ค่าสังเกตในอนาคตจะตกอยู่ในนั้นด้วยความน่าจะเป็นที่แน่นอน นิยามของ MSE จะแตกต่างกันไปตามว่ากำลังอธิบายถึงตัวทำนายหรือตัวประมาณค่า
ตัวทำนาย
ถ้าเวกเตอร์ของการทำนายถูกสร้างขึ้นจากตัวอย่างจุดข้อมูลของตัวแปรทั้งหมด และเป็นเวกเตอร์ของค่าที่สังเกตได้ของตัวแปรที่กำลังทำนาย โดยที่เป็นค่าที่ทำนายได้ (เช่น จากการปรับแบบกำลังสองน้อยที่สุด ) แล้วค่า MSE ภายในตัวอย่างของตัวทำนายจะคำนวณได้ดังนี้
กล่าวอีกนัยหนึ่ง MSE คือค่าเฉลี่ย ของกำลังสองของค่าความคลาดเคลื่อนซึ่งเป็นปริมาณที่คำนวณได้ง่ายสำหรับตัวอย่างเฉพาะ (ดังนั้นจึงขึ้นอยู่กับตัวอย่าง)
ในสัญลักษณ์ เมทริกซ์ โดยที่คือและคือเวกเตอร์คอลัมน์
MSE สามารถคำนวณได้จาก จุดข้อมูล qจุดที่ไม่ได้ใช้ในการประมาณแบบจำลอง ไม่ว่าจะเป็นเพราะถูกเก็บไว้เพื่อจุดประสงค์นี้ หรือเพราะข้อมูลเหล่านี้เพิ่งได้รับมาใหม่ ในกระบวนการนี้ ซึ่งเรียกว่าการตรวจสอบแบบไขว้ (cross-validation ) MSE มักเรียกว่าMSEทดสอบ [ 4 ]และคำนวณได้ดังนี้
ผู้ประเมิน
MSE ของตัวประมาณค่าที่เกี่ยวข้องกับพารามิเตอร์ที่ไม่ทราบค่าถูกกำหนดเป็น[ 1 ]
คำจำกัดความนี้ขึ้นอยู่กับพารามิเตอร์ที่ไม่ทราบค่า ดังนั้น MSE จึงเป็นคุณสมบัติเบื้องต้นของตัวประมาณค่า MSE อาจเป็นฟังก์ชันของพารามิเตอร์ที่ไม่ทราบค่า ซึ่งในกรณีนี้ตัวประมาณค่า MSE ใดๆ ที่อิงตามค่าประมาณของพารามิเตอร์เหล่านี้จะเป็นฟังก์ชันของข้อมูล (และดังนั้นจึงเป็นตัวแปรสุ่ม) หากตัวประมาณค่าได้มาจากสถิติของตัวอย่างและใช้ในการประมาณค่าพารามิเตอร์ของประชากร ค่าคาดหวังจะสัมพันธ์กับการกระจายตัวอย่างของสถิติของตัวอย่างนั้น
MSE สามารถเขียนได้เป็นผลรวมของความแปรปรวนของตัวประมาณและอคติกำลัง สอง ของตัวประมาณ ซึ่งเป็นวิธีที่มีประโยชน์ในการคำนวณ MSE และแสดงให้เห็นว่าในกรณีของตัวประมาณที่ไม่เอนเอียง MSE และความแปรปรวนจะเท่ากัน[ 5 ]
หลักฐานแสดงความสัมพันธ์ระหว่างความแปรปรวนและอคติ
สามารถพิสูจน์ได้สั้นกว่านั้นโดยใช้สูตรที่รู้จักกันดีว่าสำหรับตัวแปรสุ่มโดยการแทนที่ด้วยเราจะได้ แต่ในกรณีการสร้างแบบจำลองจริง MSE สามารถอธิบายได้ว่าเป็นผลรวมของความแปรปรวนของแบบจำลอง อคติของแบบจำลอง และความไม่แน่นอนที่ลดไม่ได้ (ดูการแลกเปลี่ยนระหว่างอคติและความแปรปรวน ) ตามความสัมพันธ์ดังกล่าว MSE ของตัวประมาณค่าสามารถใช้สำหรับ การเปรียบเทียบ ประสิทธิภาพ ได้อย่างง่ายดาย ซึ่งรวมถึงข้อมูลของความแปรปรวนและอคติของตัวประมาณค่า นี่เรียกว่าเกณฑ์ MSE
ในการถดถอย
ในการวิเคราะห์การถดถอย การพล็อตเป็นวิธีที่เป็นธรรมชาติมากกว่าในการดูแนวโน้มโดยรวมของข้อมูลทั้งหมด ค่าเฉลี่ยของระยะห่างจากแต่ละจุดไปยังแบบจำลองการถดถอยที่คาดการณ์ไว้สามารถคำนวณได้ และแสดงเป็นค่าความคลาดเคลื่อนกำลังสองเฉลี่ย การยกกำลังสองมีความสำคัญในการลดความซับซ้อนด้วยเครื่องหมายลบ เพื่อลด MSE ให้เหลือน้อยที่สุด แบบจำลองอาจมีความแม่นยำมากขึ้น ซึ่งหมายความว่าแบบจำลองจะใกล้เคียงกับข้อมูลจริงมากขึ้น ตัวอย่างหนึ่งของการถดถอยเชิงเส้นโดยใช้วิธีนี้คือวิธีกำลังสองน้อยที่สุดซึ่งประเมินความเหมาะสมของแบบจำลองการถดถอยเชิงเส้นเพื่อสร้างแบบจำลองชุดข้อมูลแบบสองตัวแปร [ 6 ] แต่ข้อจำกัดของวิธีนี้เกี่ยวข้องกับการกระจายของข้อมูลที่ทราบ
บางครั้ง คำว่า ค่าความคลาดเคลื่อน กำลังสองเฉลี่ย (mean squared error)ถูกใช้เพื่ออ้างถึงการประมาณค่าความแปรปรวนของความคลาดเคลื่อนที่ไม่เอนเอียง: ผลรวมกำลังสองของส่วนเหลือหารด้วยจำนวนองศาอิสระคำจำกัดความนี้สำหรับปริมาณที่ทราบและคำนวณได้นั้นแตกต่างจากคำจำกัดความข้างต้นสำหรับ MSE ที่คำนวณได้ของตัวทำนาย เนื่องจากมีการใช้ตัวหารที่แตกต่างกัน ตัวหารคือขนาดตัวอย่างที่ลดลงด้วยจำนวนพารามิเตอร์ของแบบจำลองที่ประมาณจากข้อมูลเดียวกัน ( n − p ) สำหรับตัวแปรอิสระp ตัว หรือ ( n − p − 1) หากใช้ค่าคงที่ (ดูข้อผิดพลาดและส่วนเหลือในสถิติสำหรับรายละเอียดเพิ่มเติม) [ 7 ]แม้ว่า MSE (ตามที่กำหนดไว้ในบทความนี้) จะไม่ใช่ตัวประมาณค่าความแปรปรวนของความคลาดเคลื่อนที่ไม่เอนเอียง แต่ก็มีความสอดคล้องกันเมื่อพิจารณาความสอดคล้องกันของตัวทำนาย
ในการวิเคราะห์การถดถอย "ค่าความคลาดเคลื่อนกำลังสองเฉลี่ย" ซึ่งมักเรียกว่าค่าความคลาดเคลื่อนในการทำนายกำลังสองเฉลี่ยหรือ "ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยจากข้อมูลนอกกลุ่มตัวอย่าง" อาจหมายถึงค่าเฉลี่ยของ ค่า เบี่ยงเบนกำลังสอง ของค่าที่ทำนายจากค่าจริง ใน พื้นที่ทดสอบนอกกลุ่มตัวอย่างที่สร้างขึ้นโดยแบบจำลองที่ประมาณค่าในพื้นที่กลุ่มตัวอย่างเฉพาะค่านี้ก็เป็นปริมาณที่ทราบและคำนวณได้ และจะแตกต่างกันไปตามกลุ่มตัวอย่างและพื้นที่ทดสอบนอกกลุ่มตัวอย่าง
ในบริบทของ อัลกอริธึม การลดระดับความชัน (gradient descent ) เป็นเรื่องปกติที่จะนำค่าตัวประกอบ มาใช้ในค่า MSE เพื่อความสะดวกในการคำนวณหลังจากหาอนุพันธ์แล้ว ดังนั้นค่าที่ในทางเทคนิคแล้วเป็นครึ่งหนึ่งของค่าเฉลี่ยของกำลังสองของความคลาดเคลื่อน อาจเรียกว่า MSE ได้
ตัวอย่าง
หมายถึง
สมมติว่าเรามีตัวอย่างสุ่มขนาดจากประชากรสมมติว่าหน่วยตัวอย่างถูกเลือกแบบมีการคืนกลับนั่นคือหน่วยตัวอย่างถูกเลือกทีละหน่วย และหน่วยตัวอย่างที่ถูกเลือกไปแล้วยังคงมีสิทธิ์ถูกเลือกได้อีกในทุกครั้งที่สุ่มเลือก ตัวประมาณค่าเฉลี่ยของประชากรโดยทั่วไปคือ ค่าเฉลี่ยของตัวอย่าง
ซึ่งมีค่าที่คาดหวังเท่ากับค่าเฉลี่ยที่แท้จริง(ดังนั้นจึงไม่มีอคติ) และมีค่าความคลาดเคลื่อนกำลังสองเฉลี่ยเท่ากับ
ความ แปรปรวนของประชากรอยู่ที่ไหน
สำหรับการแจกแจงแบบเกาส์เซียนนี่คือตัวประมาณค่าที่ไม่เอนเอียงที่ดีที่สุดของค่าเฉลี่ยประชากร นั่นคือตัวที่มีค่า MSE ต่ำที่สุด (และด้วยเหตุนี้จึงมีค่าความแปรปรวนต่ำที่สุด) ในบรรดาตัวประมาณค่าที่ไม่เอนเอียงทั้งหมด สามารถตรวจสอบได้ว่าค่า MSE ข้างต้นเท่ากับค่าผกผันของข้อมูลฟิชเชอร์ (ดูขอบเขต Cramér–Rao ) แต่ค่าเฉลี่ยตัวอย่างเดียวกันนี้ไม่ใช่ตัวประมาณค่าที่ดีที่สุดของค่าเฉลี่ยประชากร เช่น สำหรับการแจกแจงแบบเอกรูป
ความแปรปรวน
ตัวประมาณค่าความแปรปรวนที่ใช้กันโดยทั่วไปคือความแปรปรวนของตัวอย่างที่ปรับแก้แล้ว:
นี่เป็นค่าที่ไม่เอนเอียง (ค่าที่คาดหวังคือ) ดังนั้นจึงเรียกว่าความแปรปรวนของตัวอย่างที่ไม่เอนเอียงและ MSE ของมันคือ[ 8 ]
โดยที่คือโมเมนต์กลาง ลำดับที่สี่ ของการกระจายตัวหรือประชากร และคือ ค่าความ โค้ง ส่วนเกิน
อย่างไรก็ตาม เราสามารถใช้ตัวประมาณค่าอื่นๆที่เป็นสัดส่วนกับ ได้และการเลือกที่เหมาะสมจะช่วยให้ได้ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยที่ต่ำกว่าเสมอ หากเรากำหนด
จากนั้นเราจึงคำนวณ:
สิ่งนี้จะลดลงเมื่อ
สำหรับการแจกแจงแบบเกาส์เซียนโดยที่หมายความว่าค่า MSE จะมีค่าต่ำสุดเมื่อหารผลรวมด้วยค่าความโค้งส่วนเกินต่ำสุดคือ[ a ] ซึ่งได้มาจากการแจกแจงแบบเบอร์นูลลีที่มีp = 1/2 (การโยนเหรียญ) และค่า MSE จะมีค่าต่ำสุดสำหรับดังนั้นไม่ว่าค่าความโค้งจะเป็นเท่าใด เราจะได้ค่าประมาณที่ดีกว่า (ในแง่ของการมีค่า MSE ต่ำกว่า) โดยการปรับลดค่าประมาณที่ไม่เอนเอียงลงเล็กน้อย นี่เป็นตัวอย่างง่ายๆ ของตัวประมาณแบบหดตัว : เรา "หดตัว" ตัวประมาณเข้าหาศูนย์ (ปรับลดค่าประมาณที่ไม่เอนเอียงลง)
นอกจากนี้ แม้ว่าค่าความแปรปรวนของตัวอย่างที่แก้ไขแล้วจะเป็นตัวประมาณค่าที่ไม่เอนเอียงที่ดีที่สุด (ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยต่ำสุดในบรรดาตัวประมาณค่าที่ไม่เอนเอียง) ของความแปรปรวนสำหรับการแจกแจงแบบเกาส์เซียน แต่ถ้าการแจกแจงไม่ใช่แบบเกาส์เซียนแล้ว แม้ในบรรดาตัวประมาณค่าที่ไม่เอนเอียง ตัวประมาณค่าที่ไม่เอนเอียงที่ดีที่สุดของความแปรปรวนอาจไม่ใช่ค่าดังกล่าว
การกระจายแบบเกาส์เซียน
ตารางต่อไปนี้แสดงตัวประมาณค่าพารามิเตอร์ที่แท้จริงของประชากร μ และ σ 2 หลายตัว สำหรับกรณีเกาส์เซียน[ 9 ]
| คุณค่าที่แท้จริง | ผู้ประเมิน | ข้อผิดพลาดกำลังสองเฉลี่ย |
|---|---|---|
| = ตัวประมาณค่า ที่ไม่เอนเอียงของค่าเฉลี่ยประชากร | ||
| = ตัวประมาณค่าที่ไม่เอนเอียงของความแปรปรวนของประชากร | ||
| = ตัวประมาณค่าความแปรปรวนของประชากรที่ มีอคติ | ||
| = ตัวประมาณค่าความแปรปรวนของประชากรที่ มีอคติ |
การตีความ
ค่า MSE เท่ากับศูนย์ หมายความว่าตัวประมาณค่าสามารถทำนายค่าสังเกตของพารามิเตอร์ได้อย่างแม่นยำสมบูรณ์แบบ ซึ่งเป็นค่าในอุดมคติ (แต่โดยทั่วไปแล้วเป็นไปไม่ได้)
ค่า MSE สามารถนำมาใช้เพื่อการเปรียบเทียบได้สามารถเปรียบเทียบแบบจำลองทางสถิติ สองแบบขึ้นไปโดยใช้ค่า MSE เป็นตัววัดว่าแบบจำลองเหล่านั้นอธิบายชุดข้อมูลที่กำหนดได้ดีเพียงใด ตัวประมาณค่าที่ไม่เอนเอียง (ที่ประมาณจากแบบจำลองทางสถิติ) ที่มีค่าความแปรปรวนน้อยที่สุดในบรรดาตัวประมาณค่าที่ไม่เอนเอียงทั้งหมด คือ ตัวประมาณค่าที่ไม่เอนเอียงที่ดีที่สุดหรือ MVUE ( Minimum-Variance Unbiased Estimator )
ทั้ง เทคนิค การวิเคราะห์ความแปรปรวนและการถดถอยเชิงเส้นจะประมาณค่า MSE เป็นส่วนหนึ่งของการวิเคราะห์ และใช้ค่า MSE ที่ประมาณได้เพื่อกำหนดนัยสำคัญทางสถิติของปัจจัยหรือตัวทำนายที่กำลังศึกษา เป้าหมายของการออกแบบการทดลองคือการสร้างการทดลองในลักษณะที่ว่า เมื่อวิเคราะห์ข้อมูลที่ได้แล้ว ค่า MSE จะใกล้เคียงกับศูนย์เมื่อเทียบกับขนาดของผลกระทบจากการทดลองอย่างน้อยหนึ่งค่า
ในการวิเคราะห์ความแปรปรวนแบบทางเดียวค่า MSE สามารถคำนวณได้โดยการหารผลรวมของกำลังสองของความคลาดเคลื่อนด้วยระดับความเป็นอิสระ นอกจากนี้ ค่า f คืออัตราส่วนของค่าเฉลี่ยกำลังสองของการทดลองและค่า MSE
นอกจากนี้ MSE ยังถูกใช้ใน เทคนิค การถดถอยแบบทีละขั้นตอน หลายวิธี เพื่อพิจารณาว่าควรเลือกตัวแปรทำนายจากชุดตัวแปรที่กำหนดไว้กี่ตัวในแบบจำลองสำหรับชุดข้อมูลที่กำหนด
แอปพลิเคชัน
การลดค่า MSE ให้เหลือน้อยที่สุดเป็นเกณฑ์สำคัญในการเลือกตัวประมาณค่า ดูที่ ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยต่ำสุด (Minimum Mean Square Error หรือ MSE) ในบรรดาตัวประมาณค่าที่ไม่เอนเอียง การลดค่า MSE ให้เหลือน้อยที่สุดเทียบเท่ากับการลดค่าความแปรปรวนให้เหลือน้อยที่สุด และตัวประมาณค่าที่ทำเช่นนั้นได้คือตัวประมาณค่าที่ไม่เอนเอียงที่มีความแปรปรวนต่ำสุดอย่างไรก็ตาม ตัวประมาณค่าที่เอนเอียงอาจมีค่า MSE ต่ำกว่า ดูที่ ความเอนเอียงของตัวประมาณค่า (Estimator Bias )
ในการสร้างแบบจำลองทางสถิติค่า MSE สามารถแสดงถึงความแตกต่างระหว่างค่าสังเกตจริงและค่าสังเกตที่ทำนายโดยแบบจำลอง ในบริบทนี้ ค่า MSE ใช้เพื่อกำหนดขอบเขตที่แบบจำลองเหมาะสมกับข้อมูล ตลอดจนพิจารณาว่าการลบตัวแปรอธิบายบางตัวออกนั้นเป็นไปได้หรือไม่โดยไม่ทำให้ความสามารถในการทำนายของแบบจำลองลดลงอย่างมีนัยสำคัญ
ในการพยากรณ์และการคาดการณ์คะแนนBrierเป็นตัววัดความแม่นยำในการพยากรณ์โดยอิงจากค่า MSE
ฟังก์ชันการสูญเสีย
การสูญเสียแบบกำลังสองเป็นหนึ่งในฟังก์ชันการสูญเสียที่ ใช้กันอย่างแพร่หลายที่สุด ในทางสถิติ แม้ว่าการใช้งานอย่างแพร่หลายจะมาจากความสะดวกทางคณิตศาสตร์มากกว่าการพิจารณาถึงการสูญเสียที่แท้จริงในการใช้งานคาร์ล ฟรีดริช เกาส์ผู้แนะนำการใช้ค่าเฉลี่ยกำลังสองของข้อผิดพลาด ตระหนักถึงความไม่แน่นอนของมันและเห็นด้วยกับข้อโต้แย้งในประเด็นเหล่านี้[ 3 ]ประโยชน์ทางคณิตศาสตร์ของค่าเฉลี่ยกำลังสองของข้อผิดพลาดนั้นเห็นได้ชัดเจนเป็นพิเศษในการใช้งานเพื่อวิเคราะห์ประสิทธิภาพของการถดถอยเชิงเส้นเนื่องจากช่วยให้สามารถแบ่งความแปรปรวนในชุดข้อมูลออกเป็นความแปรปรวนที่อธิบายโดยแบบจำลองและความแปรปรวนที่อธิบายโดยความสุ่ม
การวิจารณ์
การใช้ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยได้รับการวิพากษ์วิจารณ์จากนักทฤษฎีการตัดสินใจJames Berger อย่างไม่ต้องสงสัย ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยเป็นค่าลบของค่าที่คาดหวังของฟังก์ชันอรรถประโยชน์ เฉพาะอย่างหนึ่ง นั่นคือฟังก์ชันอรรถประโยชน์กำลังสอง ซึ่งอาจไม่ใช่ฟังก์ชันอรรถประโยชน์ที่เหมาะสมที่จะใช้ภายใต้สถานการณ์ที่กำหนด อย่างไรก็ตาม มีบางสถานการณ์ที่ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยสามารถใช้เป็นค่าประมาณที่ดีสำหรับฟังก์ชันความสูญเสียที่เกิดขึ้นตามธรรมชาติในการใช้งาน[ 10 ]
เช่นเดียวกับความแปรปรวน ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยมีข้อเสียคือให้น้ำหนักกับค่าผิดปกติมากเกินไป[ 11 ]ซึ่งเป็นผลมาจากการยกกำลังสองของแต่ละเทอม ซึ่งทำให้ค่าความคลาดเคลื่อนขนาดใหญ่มีน้ำหนักมากกว่าค่าความคลาดเคลื่อนขนาดเล็ก คุณสมบัตินี้ซึ่งไม่เป็นที่ต้องการในหลายๆ การใช้งาน ทำให้ผู้วิจัยหันมาใช้ทางเลือกอื่น เช่นค่าความคลาดเคลื่อนสัมบูรณ์เฉลี่ยหรือค่าที่อิงตามค่า มัธยฐาน
ดูเพิ่มเติม
- การแลกเปลี่ยนระหว่างอคติและความแปรปรวน
- เครื่องมือประเมินของฮอดจ์ส
- ตัวประมาณค่าเจมส์-สไตน์
- เปอร์เซ็นต์ความคลาดเคลื่อนเฉลี่ย
- ข้อผิดพลาดการหาปริมาณกำลังสองเฉลี่ย
- สถิติไคกำลังสองที่ลดลง
- การกระจัดเฉลี่ยกำลังสอง
- ข้อผิดพลาดในการทำนายกำลังสองเฉลี่ย
- ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยต่ำสุด
- โอเวอร์ฟิตติ้ง
- อัตราส่วนสัญญาณต่อสัญญาณรบกวนสูงสุด
หมายเหตุ
- ^สามารถพิสูจน์ได้โดยใช้ความไม่เท่าเทียมกันของ Jensenดังนี้โมเมนต์กลางลำดับ ที่สี่ เป็นขอบเขตบนสำหรับกำลังสองของความแปรปรวน ดังนั้นค่าต่ำสุดของอัตราส่วนจึงเป็นหนึ่ง ด้วยเหตุนี้ ค่าต่ำสุดของความโค้งส่วนเกินจึงเป็น -2 ซึ่งได้มาจากการแจกแจงแบบ Bernoulli ที่มี p = 1/2 เป็นต้น