ทฤษฎีเชิงอะซิมโทติก (สถิติ)
ในทางสถิติทฤษฎีเชิงอะซิมโทติกหรือทฤษฎีตัวอย่างขนาดใหญ่เป็นกรอบสำหรับการประเมินคุณสมบัติของตัวประมาณค่าและการทดสอบทางสถิติภายในกรอบนี้ มักจะถือว่าขนาดตัวอย่างnอาจเพิ่มขึ้นอย่างไม่มีที่สิ้นสุด จากนั้นจึงประเมินคุณสมบัติของตัวประมาณค่าและการทดสอบภายใต้ขีดจำกัดของn → ∞ในทางปฏิบัติ การประเมินขีดจำกัดถือว่าใช้ได้โดยประมาณสำหรับขนาดตัวอย่างจำกัดขนาดใหญ่เช่นกัน[ 1 ]
ภาพรวม
ปัญหาทางสถิติส่วนใหญ่เริ่มต้นด้วยชุดข้อมูลที่มีขนาดnทฤษฎีเชิงอะซิมโทติกดำเนินไปโดยสมมติว่าเป็นไปได้ (ในทางทฤษฎี) ที่จะเก็บรวบรวมข้อมูลเพิ่มเติมต่อไปเรื่อยๆ ดังนั้นขนาดตัวอย่างจึงเพิ่มขึ้นอย่างไม่มีที่สิ้นสุด กล่าวคือn → ∞ภายใต้สมมติฐานนี้ ผลลัพธ์หลายอย่างสามารถได้มาซึ่งไม่สามารถหาได้จากตัวอย่างที่มีขนาดจำกัด ตัวอย่างเช่นกฎอ่อนของจำนวนมากกฎนี้ระบุว่าสำหรับลำดับของตัวแปรสุ่มอิสระและมีการกระจายเหมือนกัน (IID) X , X , ... , ถ้าดึงค่าหนึ่งค่าจากตัวแปรสุ่มแต่ละตัวและคำนวณค่าเฉลี่ยของ ค่า nค่าแรกเป็นX แล้วX จะลู่เข้าสู่ค่าเฉลี่ยของประชากรE[ X ] ในความน่าจะเป็น เมื่อn → ∞ [ 2 ]
ในทฤษฎีเชิงอะซิมโทติก วิธีการมาตรฐานคือn → ∞สำหรับแบบจำลองทางสถิติ บางแบบ อาจใช้วิธีอะซิมโทติกที่แตกต่างกันเล็กน้อย ตัวอย่างเช่น สำหรับข้อมูลแบบพาเนลมักจะถือว่ามิติหนึ่งในข้อมูลคงที่ ในขณะที่มิติอื่นเพิ่มขึ้น: T = ค่าคงที่และN → ∞หรือในทางกลับกัน[ 2 ]
นอกเหนือจากวิธีการมาตรฐานในการหาค่าประมาณเชิงอนุกรมแล้ว ยังมีวิธีการทางเลือกอื่นๆ อีก:
- ภายใต้ กรอบแนวคิด ความปกติเชิงอะซิมโทติกเฉพาะที่นั้นถือว่าค่าของ "พารามิเตอร์ที่แท้จริง" ในแบบจำลองจะเปลี่ยนแปลงเล็กน้อยตามnโดยที่ แบบจำลองที่ nจะสอดคล้องกับθ = θ + h / √ nแนวทางนี้ช่วยให้เราสามารถศึกษาความสม่ำเสมอของตัวประมาณค่าได้
- เมื่อศึกษาการทดสอบทางสถิติ เพื่อหาประสิทธิภาพในการแยกแยะความแตกต่างจากสมมติฐานทางเลือกที่ใกล้เคียงกับสมมติฐานว่าง จะทำภายใต้กรอบที่เรียกว่า "สมมติฐานทางเลือกเฉพาะที่" local alternatives) โดยสมมติฐานว่าง คือH₀ θ = θ₀และสมมติฐานทางเลือกคือH₁ : θ = θ₀ + h / √nวิธีนี้เป็นที่นิยมอย่างยิ่งสำหรับทดสอบรากหน่วย (unit tests )
- มีแบบจำลองที่มิติของปริภูมิพารามิเตอร์Θ ขยายตัวอย่างช้าๆ ตามnซึ่งสะท้อนให้เห็นว่ายิ่งมีจำนวนการสังเกตมากเท่าใด ก็ยิ่งสามารถนำผลกระทบเชิงโครงสร้างมาใส่ในแบบจำลองได้มากขึ้นเท่านั้น
- ในการประมาณความหนาแน่นเคอร์เนลและการถดถอยเคอร์เนลจะมีการกำหนดพารามิเตอร์เพิ่มเติมอีกตัวหนึ่ง คือ แบนด์วิดท์hในแบบจำลองเหล่านั้น โดยทั่วไปจะถือว่าh → 0เมื่อn → ∞อย่างไรก็ตาม อัตราการล convergence ต้องได้รับการเลือกอย่างระมัดระวัง โดยปกติh ∝ n −1/5
ในหลายกรณี ผลลัพธ์ที่มีความแม่นยำสูงสำหรับตัวอย่างที่มีขนาดจำกัดสามารถได้มาโดยวิธีการเชิงตัวเลข (เช่น คอมพิวเตอร์) อย่างไรก็ตาม แม้ในกรณีดังกล่าว การวิเคราะห์เชิงอะซิมโทติกก็ยังคงมีประโยชน์ ประเด็นนี้ได้รับการกล่าวถึงโดยSmall (2010 , §1.4) ดังต่อไปนี้
เป้าหมายหลักของการวิเคราะห์เชิงอะซิมโทติกคือการทำความเข้าใจเชิงคุณภาพ ที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับเครื่องมือ เชิงปริมาณข้อสรุปของการวิเคราะห์เชิงอะซิมโทติกมักจะเสริมข้อสรุปที่ได้จากวิธีการเชิงตัวเลข
รูปแบบการลู่เข้าของตัวแปรสุ่ม
คุณสมบัติเชิงอะซิมโทติก
ตัวประมาณค่าจุด
ต่อไปนี้จะเป็นลำดับของตัวประมาณค่าแบบสุ่ม
กล่าวได้ว่าลำดับนั้น มี ความสอดคล้อง(อย่างอ่อน)หากความน่าจะเป็นของลำดับ นั้นลู่ เข้าสู่ค่าที่แท้จริงของพารามิเตอร์ที่กำลังประมาณค่า:
ซึ่งหมายความว่าความน่าจะเป็นที่ค่าประมาณจะเข้าใกล้ค่าจริงมากขึ้นเรื่อยๆ เมื่อค่าจริงเข้าใกล้ค่าอนันต์[ 2 ]ลำดับของการประมาณค่าจะเรียกว่ามีความสอดคล้องกันอย่างมากหากมันลู่ เข้า สู่ค่าพารามิเตอร์ที่แท้จริงเกือบแน่นอนความแตกต่างเล็กน้อยจากตัวประมาณค่าที่มีความสอดคล้องกันน้อยคือ ตัวประมาณค่าที่มีความสอดคล้องกันอย่างมากจะรับประกันว่าจะเข้าใกล้ค่าจริงมากขึ้นเรื่อยๆเมื่อ ค่าจริง เข้าใกล้ค่าอนันต์ในที่สุด
หากเป็นไปได้ที่จะหาลำดับของค่าคงที่ที่ไม่สุ่ม( ซึ่งอาจขึ้นอยู่กับค่า) และการแจกแจงที่ไม่เสื่อมสภาพโดยที่
ดังนั้น ลำดับของตัวประมาณค่าจึงกล่าวได้ว่ามีการกระจายแบบเชิงเส้นกำกับ (asymptotic distribution )
โดยส่วนใหญ่แล้ว การแจกแจงเชิงอะซิมโทติกของตัวประมาณค่าที่พบในทางปฏิบัติคือการแจกแจงปกติ สำหรับเมทริกซ์ความแปรปรวนร่วมบางเมทริกซ์ซึ่งในกรณีนี้ ตัวประมาณค่าจะเรียกว่าเป็นแบบปกติเชิงอะซิมโทติก [ 3 ] ผู้เขียนบางคนกำหนดให้และ โดยเฉพาะ แล้วจึงเรียกลำดับของตัวประมาณค่า ว่าแบบ ปกติเชิงอะซิมโทติกสำหรับ[ 4 ]
ความเป็นกลางในขอบเขตจำกัด
ลำดับนี้เรียกว่าไม่มีอคติในขีดจำกัดถ้า[ 5 ]ตัวประมาณค่าที่มีคุณสมบัตินี้บางครั้งก็เรียกว่าไม่มีอคติโดยประมาณ[ 6 ]
ความเป็นกลางเชิงอะซิมโทติก
ลำดับนี้เรียกว่าไม่มีอคติเชิงอะซิมโทติกสำหรับพารามิเตอร์หากลู่เข้าสู่การกระจายไปยังตัวแปรสุ่มที่มี สำหรับลำดับ ของจำนวนจริงบางลำดับ[ 7 ]
การจำกัดความแปรปรวน
หากมีลำดับของจำนวนจริงอยู่ซึ่งแล้วเรียกว่าค่าความแปรปรวนจำกัดของโดยทั่วไปจะเลือก[ 8 ]
ความแปรปรวนเชิงอะซิมโทติก
หากมีลำดับที่ซึ่งโดยที่เรียกว่าความแปรปรวนเชิงอะซิมโทติกของ[ 9 ]โดยเฉพาะอย่างยิ่ง หากเป็นอคติเชิงอะซิมโทติกแล้ว
ลำดับดังกล่าวเรียกว่ามีประสิทธิภาพเชิงอะซิมโทติกหากเป็นปกติเชิงอะซิมโทติกสำหรับและความแปรปรวนเชิงอะซิมโทติกคือโดยมีข้อมูลของฟิชเชอร์นั่นคือ ความแปรปรวนเชิงอะซิมโทติกบรรลุขอบเขตของCramér –Rao [ 10 ] [ 11 ]
การทดสอบทางสถิติ
บริเวณความเชื่อมั่นเชิงอะซิมโทติก
ความสัมพันธ์ทั่วไประหว่างคุณสมบัติเชิงอะซิมโทติก
ดังที่กล่าวมาข้างต้น ให้เป็นลำดับของตัวประมาณค่าใดๆ
- ถ้าเป็นแบบปกติเชิงอะซิมโทติกสำหรับ แล้วมันจะสอดคล้องกัน (ตามทฤษฎีบทของสลุตสกี )
- ถ้ามีความสอดคล้องกัน ก็จะไม่มีอคติเชิงอะซิมโทติก[ 12 ]
- ถ้าไม่มีอคติเชิงอะซิมโทติกและสามารถอินทิเกรตได้สม่ำเสมอก็จะไม่มีอคติในลิมิต[ 13 ]ตัวอย่างเช่น กรณีนี้เกิดขึ้นเมื่อโมเมนต์ที่สองมีขอบเขตสม่ำเสมอ กล่าวคือ
- ในกรณีตัวแปรเดียว ถ้าตัวประมาณค่าไม่มีอคติเชิงอะซิมโทติกจะมีค่าความแปรปรวนเชิงอะซิมโทติกและถ้าค่าความแปรปรวนจำกัดมีอยู่จริง ก็จะเป็น. [ 10 ]ความเท่าเทียมกันเกิดขึ้นก็ต่อเมื่อลำดับของตัวประมาณค่าที่เป็นมาตรฐาน นั่นคือสำหรับค่าที่เหมาะสมสามารถอินทิเกรตได้สม่ำเสมอ (ซึ่งมักจะเป็นกรณีในทางปฏิบัติ) [ 9 ] [ 10 ]
ทฤษฎีบทเชิงอะซิมโทติก
คุณสมบัติเชิงอะซิ้มโทติกของลำดับตัวประมาณค่า(สำหรับพารามิเตอร์) มักเป็นผลมาจากทฤษฎีบททั่วไปจากทฤษฎีความน่าจะเป็น ในส่วนต่อไปนี้ เราจะให้ เป็นการสังเกตการณ์ที่เป็นอิสระและมีการกระจายเหมือนกันจากการกระจาย ที่ แท้จริง
เพื่อความสอดคล้อง
กฎแห่งจำนวนมากที่แข็งแกร่ง
ถ้าตัวประมาณค่าอยู่ในรูปแบบสำหรับฟังก์ชันที่วัดได้บางฟังก์ชันโดยที่แล้วตามกฎจำนวนมากที่ เข้มงวด
ดังนั้น ถ้าแล้วจะมีความสอดคล้องอย่างมาก
ทฤษฎีบทการแมปแบบต่อเนื่อง
ถ้าตัวประมาณค่าอยู่ในรูปแบบสำหรับฟังก์ชันต่อเนื่องบางฟังก์ชันและลำดับของตัวประมาณค่าแล้ว ตามทฤษฎีบทการแมปแบบต่อเนื่องเช่นเดียวกันนี้ก็เป็นจริงหากการลู่เข้าเกือบแน่นอนถูกแทนที่ด้วยการลู่เข้าในความน่าจะเป็น
ดังนั้น ถ้าแล้ว ก็จะมีความสอดคล้อง (อย่างมาก)
สำหรับการกระจายเชิงอะซิมโทติก
- ทฤษฎีบทลิมิตกลาง
- ทฤษฎีบทฟิชเชอร์-ทิปเป็ต-เกเนเดนโก
- ทฤษฎีบทกลิเวนโก-คันเทลลี
- ทฤษฎีบทของสลุตสกี
- วิธีเดลต้า
ดูเพิ่มเติม
บรรณานุกรม
- Balakrishnan, N.; Ibragimov, IAVB; Nevzorov, VB, บรรณาธิการ (2001), วิธีการเชิงอะซิมโทติกในความน่าจะเป็นและสถิติพร้อมการประยุกต์ใช้ , Birkhäuser , ISBN 9781461202097
- บิลลิงสลีย์, พี. (1995), ความน่าจะเป็นและการวัด (ฉบับที่ 3), จอห์น ไวลีย์ แอนด์ ซันส์
- Borovkov, AA ; Borovkov, KA (2010), การวิเคราะห์เชิงอะซิมโทติกของการเดินสุ่ม , สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์
- Buldygin, VV; Solntsev, S. (1997), พฤติกรรมเชิงอะซิมโทติกของผลรวมของตัวแปรสุ่มที่แปลงเชิงเส้น , Springer, ISBN 9789401155687
- เลอ แคม, แอล. ; หยาง, จีแอล (2000), สถิติเชิงอะซิมโทติก (ฉบับที่ 2), สปริงเกอร์
- Casella, G.; Berger, RL (2002), การอนุมานทางสถิติ (ฉบับที่ 2), Duxbury
- Dawson, D.; Kulik, R.; Ould Haye, M.; Szyszkowicz, B.; Zhao, Y., บรรณาธิการ (2015), กฎและวิธีการเชิงอะซิมโทติกในสโตแคสติกส์ , Springer-Verlag
- Höpfner, R. (2014), สถิติเชิงเส้นกำกับ , Walter de Gruyter
- Lehmann, EL; Casella, G. (1998), ทฤษฎีการประมาณค่าแบบจุด (ฉบับที่ 2), Springer
- Lin'kov, Yu. N. (2001), วิธีการทางสถิติเชิงอะซิมโทติกสำหรับกระบวนการสุ่ม , สมาคมคณิตศาสตร์อเมริกัน
- Oliveira, PE (2012), การวิเคราะห์เชิงอะซิมโทติกสำหรับตัวแปรสุ่มที่เกี่ยวข้อง , Springer
- เปตรอฟ, วี.วี. (1995), ทฤษฎีบทลิมิตของทฤษฎีความน่าจะเป็น , สำนักพิมพ์มหาวิทยาลัยออกซ์ฟอร์ด
- Sen, PK; Singer, JM; Pedroso de Lima, AC (2009), จากตัวอย่างจำกัดสู่วิธีการเชิงอะซิมโทติกในสถิติ , สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์
- Shao, J. (2003). สถิติทางคณิตศาสตร์ (ฉบับที่ 2). Springer . ISBN 978-0-387-95382-3.
- Shiryaev, AN; Spokoiny, VG (2000), การทดลองทางสถิติและการตัดสินใจ: ทฤษฎีเชิงอะซิมโทติก , World Scientific
- Small, CG (2010), การขยายและการประมาณเชิงอนุกรมสำหรับสถิติ , Chapman & Hall
- van der Vaart, AW (1998), สถิติเชิงเส้นกำกับ , สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์