วิกิพีเดียภาษาไทย
กลับไปหน้าบทความ

อ่าน 16 นาที

สถิติแบบไม่ใช้พารามิเตอร์

สถิติแบบไม่ใช้พารามิเตอร์เป็นประเภทของการวิเคราะห์ทางสถิติที่ตั้งสมมติฐานน้อยที่สุดเกี่ยวกับการกระจาย พื้นฐาน ของข้อมูลที่กำลังศึกษา โดยทั่วไปแบบจำลองเหล่านี้จะมีมิติอนันต์...

สถิติแบบไม่ใช้พารามิเตอร์

สถิติแบบไม่ใช้พารามิเตอร์เป็นประเภทของการวิเคราะห์ทางสถิติที่ตั้งสมมติฐานน้อยที่สุดเกี่ยวกับการกระจาย พื้นฐาน ของข้อมูลที่กำลังศึกษา โดยทั่วไปแบบจำลองเหล่านี้จะมีมิติอนันต์ แทนที่จะเป็นมิติจำกัด เช่นเดียวกับสถิติแบบใช้พารามิเตอร์ [ 1 ] สถิติแบบไม่ใช้พารามิเตอร์สามารถใช้สำหรับสถิติเชิงพรรณนาหรือการอนุมานทางสถิติการทดสอบแบบไม่ใช้พารามิเตอร์มักใช้เมื่อสมมติฐานของการทดสอบแบบใช้พารามิเตอร์ถูกละเมิดอย่างชัดเจน[ 2 ]

คำจำกัดความ

คำว่า "สถิติแบบไม่ใช้พารามิเตอร์" ได้รับการนิยามอย่างไม่แม่นยำในสองลักษณะดังต่อไปนี้:

ความหมายแรกของคำว่า"ไม่พาราเมตริก"เกี่ยวข้องกับเทคนิคที่ไม่ต้องอาศัยข้อมูลที่อยู่ในตระกูลการแจกแจงความน่าจะเป็นแบบพาราเมตริกใดๆ ซึ่งรวมถึงเทคนิคต่างๆ ดังต่อไปนี้:

  • วิธีการที่ไม่ขึ้นกับการกระจายตัวของข้อมูล ซึ่งไม่ขึ้นอยู่กับสมมติฐานว่าข้อมูลนั้นได้มาจากตระกูลการกระจายความน่าจะเป็น แบบพาราเมตริก ที่ กำหนดไว้
  • สถิติถูกนิยามว่าเป็นฟังก์ชันของตัวอย่าง โดยไม่ขึ้นอยู่กับพารามิเตอร์ ใด ๆ

ตัวอย่างหนึ่งคือสถิติเรียงลำดับซึ่งอิงตามการจัดอันดับตามลำดับของข้อมูลสังเกตการณ์

การอภิปรายต่อไปนี้นำมาจากทฤษฎีสถิติขั้นสูงของ Kendall [ 3 ]

สมมติฐานทางสถิติเกี่ยวข้องกับพฤติกรรมของตัวแปรสุ่มที่สังเกตได้... ตัวอย่างเช่น สมมติฐาน (ก) ที่ว่าการแจกแจงแบบปกติมีค่าเฉลี่ยและความแปรปรวนที่ระบุไว้ เป็นสมมติฐานทางสถิติ เช่นเดียวกับสมมติฐาน (ข) ที่ว่าการแจกแจงนั้นมีค่าเฉลี่ยที่กำหนดแต่ความแปรปรวนไม่ระบุ เช่นเดียวกับสมมติฐาน (ค) ที่ว่าการแจกแจงนั้นมีรูปแบบปกติโดยที่ทั้งค่าเฉลี่ยและความแปรปรวนไม่ระบุ และสุดท้าย สมมติฐาน (ง) ที่ว่าการแจกแจงต่อเนื่องสองแบบที่ไม่ระบุนั้นเหมือนกัน ก็เป็นสมมติฐานทางสถิติเช่นกัน

จะสังเกตได้ว่าในตัวอย่าง (a) และ (b) การกระจายตัวของข้อมูลที่สังเกตได้นั้นถือว่าเป็นรูปแบบหนึ่ง (แบบปกติ) และสมมติฐานนั้นเกี่ยวข้องกับค่าของพารามิเตอร์หนึ่งตัวหรือทั้งสองตัวเท่านั้น สมมติฐานเช่นนี้ ด้วยเหตุผลที่ชัดเจน จึงเรียกว่าสมมติฐานแบบพาราเมตริก

สมมติฐาน (c) มีลักษณะที่แตกต่างออกไป เนื่องจากไม่มีการระบุค่าพารามิเตอร์ใดๆ ในข้อความของสมมติฐาน เราอาจเรียกสมมติฐานดังกล่าวว่า สมมติฐานแบบไม่ใช้พารามิเตอร์ (nonparametric ) ได้อย่างเหมาะสม สมมติฐาน (d) ก็เป็นสมมติฐานแบบไม่ใช้พารามิเตอร์เช่นกัน แต่ยิ่งไปกว่านั้น ยังไม่ได้ระบุรูปแบบพื้นฐานของการแจกแจง และอาจเรียกได้ว่า สมมติฐานแบบไม่ขึ้นกับการแจกแจง ( distribution-free ) ได้อย่างเหมาะสม แม้จะมีความแตกต่างเหล่านี้ แต่ในเอกสารทางสถิติโดยทั่วไปมักใช้คำว่า "ไม่ใช้พารามิเตอร์" กับวิธีการทดสอบที่เราเพิ่งเรียกว่า "ไม่ขึ้นกับการแจกแจง" ซึ่งทำให้สูญเสียการจำแนกประเภทที่มีประโยชน์ไป

ความหมายที่สองของคำว่า"ไม่ใช้พารามิเตอร์"เกี่ยวข้องกับเทคนิคที่ไม่ถือว่าโครงสร้างของแบบจำลองนั้นคงที่ โดยทั่วไปแล้ว แบบจำลองจะมีขนาดใหญ่ขึ้นเพื่อรองรับความซับซ้อนของข้อมูล ในเทคนิคเหล่านี้ ตัวแปรแต่ละตัว มัก จะถือว่าอยู่ในกลุ่มการแจกแจงแบบพารามิเตอร์ และมีการตั้งสมมติฐานเกี่ยวกับประเภทของความสัมพันธ์ระหว่างตัวแปรด้วย เทคนิคเหล่านี้ได้แก่:

  • การถดถอยแบบไม่ใช้พารามิเตอร์คือการสร้างแบบจำลองที่พิจารณาโครงสร้างความสัมพันธ์ระหว่างตัวแปรโดยไม่ใช้พารามิเตอร์ แต่กระนั้นก็อาจมีการตั้งสมมติฐานแบบพารามิเตอร์เกี่ยวกับการกระจายของค่าความคลาดเคลื่อนของแบบจำลองได้
  • แบบจำลองเบย์เซียนแบบลำดับชั้นที่ไม่ใช้พารามิเตอร์เช่น แบบจำลองที่อิงตามกระบวนการ Dirichletซึ่งอนุญาตให้จำนวนตัวแปรแฝงเพิ่มขึ้นได้ตามความจำเป็นเพื่อให้เหมาะสมกับข้อมูล แต่ตัวแปรแต่ละตัวยังคงเป็นไปตามการแจกแจงแบบพารามิเตอร์ และแม้แต่กระบวนการที่ควบคุมอัตราการเติบโตของตัวแปรแฝงก็ยังเป็นไปตามการแจกแจงแบบพารามิเตอร์

การใช้งานและวัตถุประสงค์

วิธีการทางสถิติแบบไม่พาราเมตริกถูกนำมาใช้กันอย่างแพร่หลายในการศึกษาประชากรที่มีลำดับ (เช่น บทวิจารณ์ภาพยนตร์ที่ได้รับคะแนนหนึ่งถึงห้าดาว) การใช้วิธีการทางสถิติแบบไม่พาราเมตริกอาจมีความจำเป็นเมื่อข้อมูลมีลำดับแต่ไม่มี การตีความเชิง ตัวเลข ที่ชัดเจน เช่น เมื่อประเมินความชอบในแง่ของระดับการวัดวิธีการทางสถิติแบบไม่พาราเมตริกจะให้ผลลัพธ์เป็นข้อมูลเชิงลำดับ

เนื่องจากวิธีการแบบไม่ใช้พารามิเตอร์นั้นตั้งสมมติฐานน้อยกว่า จึงสามารถนำไปใช้ได้ทั่วไปมากกว่าวิธีการแบบใช้พารามิเตอร์ โดยเฉพาะอย่างยิ่ง สามารถนำไปใช้ในสถานการณ์ที่ทราบข้อมูลเกี่ยวกับแอปพลิเคชันนั้นๆ น้อย นอกจากนี้ เนื่องจากอาศัยสมมติฐานน้อยกว่า วิธีการแบบไม่ใช้พารามิเตอร์จึงมีความแข็งแกร่งกว่า

วิธีการแบบไม่พาราเมตริกบางครั้งถูกมองว่าใช้งานง่ายกว่าและมีความเสถียรกว่าวิธีการแบบพาราเมตริก แม้ว่าข้อสมมติฐานของวิธีการแบบพาราเมตริกจะถูกต้องก็ตาม เนื่องจากวิธีการแบบไม่พาราเมตริกมีลักษณะทั่วไปมากกว่า ทำให้มีโอกาสน้อยที่จะถูกนำไปใช้ผิดหรือเข้าใจผิด วิธีการแบบไม่พาราเมตริกจึงถือเป็นทางเลือกที่รอบคอบ เพราะจะยังคงใช้งานได้แม้ว่าข้อสมมติฐานจะไม่เป็นไปตามที่กำหนด ในขณะที่วิธีการแบบพาราเมตริกอาจให้ผลลัพธ์ที่ผิดพลาดได้เมื่อข้อสมมติฐานถูกละเมิด

ข้อดีของการทดสอบแบบไม่ใช้พารามิเตอร์คือสามารถนำไป ใช้ได้ในวงกว้างกว่าและมีความแข็งแกร่ง กว่า แต่ ก็มีข้อเสียเช่นกัน กล่าวคือ ในกรณีที่เงื่อนไขของการทดสอบแบบใช้พารามิเตอร์เป็นไปตามที่กำหนด การทดสอบแบบไม่ใช้พารามิเตอร์จะมีกำลังทางสถิติ น้อยกว่า กล่าวอีกนัยหนึ่งคือ อาจต้องใช้ขนาดตัวอย่างที่ใหญ่ขึ้นเพื่อให้ได้ข้อสรุปที่มีระดับความมั่นใจเท่ากัน

แบบจำลองที่ไม่ใช้พารามิเตอร์

แบบจำลองที่ไม่ใช้พารามิเตอร์แตกต่างจาก แบบจำลอง ที่ใช้พารามิเตอร์ตรงที่โครงสร้างของแบบจำลองไม่ได้ถูกกำหนดไว้ล่วงหน้าแต่จะถูกกำหนดจากข้อมูล คำว่า"ไม่ใช้พารามิเตอร์"ไม่ได้หมายความว่าแบบจำลองเหล่านั้นไม่มีพารามิเตอร์เลย แต่หมายความว่าจำนวนและลักษณะของพารามิเตอร์นั้นมีความยืดหยุ่นและไม่ตายตัว

การทดสอบแบบไม่ใช้พารามิเตอร์

วิธีการทางสถิติเชิงอนุมานแบบไม่ใช้พารามิเตอร์ (หรือแบบไม่ขึ้นกับการกระจายตัว ) คือกระบวนการทางคณิตศาสตร์สำหรับการทดสอบสมมติฐานทางสถิติ ซึ่งแตกต่างจากสถิติแบบใช้พารามิเตอร์ตรงที่ไม่ตั้งสมมติฐานใดๆ เกี่ยวกับการกระจายความน่าจะเป็นของตัวแปรที่กำลังประเมิน การทดสอบที่ใช้บ่อยที่สุด ได้แก่

สถิติทางคณิตศาสตร์

ในสถิติเชิงคณิตศาสตร์แบบจำลองที่ไม่ใช้พารามิเตอร์ หมายถึงแบบจำลองที่ไม่ต้องอาศัยสมมติฐานเชิงพารามิเตอร์เกี่ยวกับลักษณะการกระจายของข้อมูลที่ไม่ทราบค่า (ใน ปัญหา การประมาณความหนาแน่น ) หรือฟังก์ชันการถดถอย (ใน ปัญหา การถดถอย ) ในขณะที่เป้าหมายของแบบจำลองเชิงพารามิเตอร์ใดๆ คือการประมาณค่าพารามิเตอร์จำนวนจำกัดθ1,…,θพี∈อาร์{\displaystyle \theta _{1},\dots ,\theta _{p}\in \mathbb {R} }แบบจำลองที่ไม่ใช่พาราเมตริกมีเป้าหมายเพื่อประมาณการกระจายข้อมูล/ฟังก์ชันการถดถอยโดยตรง[ 5 ] [ 6 ]

อย่างไรก็ตาม สำหรับการวิเคราะห์ทางคณิตศาสตร์ วิธีการแบบพาราเมตริกและแบบไม่พาราเมตริกนั้นสามารถนำมาประยุกต์ใช้ได้ในบริบทเดียวกัน กล่าวคือ สมมติว่าฟังก์ชันที่จะประมาณค่า (การกระจายข้อมูลหรือฟังก์ชันการถดถอย) เป็นส่วนหนึ่งของเซตของฟังก์ชันที่กำหนดโดยชุดพารามิเตอร์Θ{\displaystyle \Theta }เราจึงค้นหาฟังก์ชัน (ที่วัดได้)ทีn:Xn→Θ{\displaystyle T_{n}:{\mathcal {X}}^{n}\to \Theta }ซึ่งประมาณค่าพารามิเตอร์ "ที่แท้จริง" โดยอิงจากจุดข้อมูลx1,…,xn∈X{\displaystyle x_{1},\dots ,x_{n}\in {\mathcal {X}}}ความแตกต่างที่สำคัญระหว่างวิธีการแบบพาราเมตริกและแบบไม่พาราเมตริกคือ ในกรณีแรกนั้น...Θ⊂อาร์ง{\displaystyle \Theta \subset \mathbb {R} ^{d}}สำหรับบางคนง∈เอ็น{\displaystyle d\in \mathbb {N} }ในขณะที่ในกรณีหลังΘ{\displaystyle \Theta }โดยทั่วไปแล้ว คือเซตของฟังก์ชันเป้าหมายที่เป็นไปได้ เช่น เซตของฟังก์ชันต่อเนื่องหรือ เซตของ ฟังก์ชันที่หาอนุพันธ์ได้

คำถามที่เกี่ยวข้องในสาขานี้เกี่ยวกับการสร้างตัวประมาณค่าที่สมเหตุสมผลความสอดคล้องอัตราการบรรจบกันและความเหมาะสมที่สุด และการประมาณค่าแบบปรับตัวได้[ 6 ]

ความสม่ำเสมอ

เช่นเดียวกับในสถิติเชิงพาราเมตริกคุณสมบัติที่พึงประสงค์สำหรับตัวประมาณค่าคือเอฟn^{\displaystyle {\หมวก {f_{n}}}}นั่นคือการลู่เข้าสู่ฟังก์ชันเป้าหมายเอฟ{\displaystyle f}เนื่องจากขนาดตัวอย่างn{\displaystyle n}เมื่อค่าเข้าใกล้อนันต์ นั่นคือ ข้อผิดพลาดในการประมาณค่าจะลู่เข้าสู่ศูนย์ โดยปกติแล้ว การประมาณค่าจะวัดในแง่ของแอล2{\displaystyle L^{2}}-ระยะห่างปกติระหว่างเอฟn^{\displaystyle {\หมวก {f_{n}}}}และเอฟ{\displaystyle f}เนื่องจากตัวประมาณค่าเป็นฟังก์ชันของข้อมูลที่สุ่มเลือกมาX=(X1,…,Xn){\displaystyle X=(X_{1},\dots ,X_{n})}เนื่องจากค่าประมาณเป็นตัวแปรสุ่มเช่นกัน ดังนั้นเราจึงแยกแยะโหมดการลู่เข้าที่แตกต่างกันสองแบบ:

ความสอดคล้องที่อ่อนแอ:ลิมn→∞อี[‖เอฟn^(X)−เอฟ‖แอล22]=0{\displaystyle \lim _{n\to \infty }\mathbb {E} [\lVert {\hat {f_{n}}}(X)-f\rVert _{L^{2}}^{2}]=0}.

ความสม่ำเสมอที่แข็งแกร่ง:ลิมn→∞‖เอฟn^(X)−เอฟ‖แอล22=0{\displaystyle \lim _{n\to \infty }\lVert {\hat {f_{n}}}(X)-f\rVert _{L^{2}}^{2}=0}แทบจะแน่นอน

ถ้าตัวประมาณค่ามีความสอดคล้องกันสำหรับค่ากำลังสองที่สามารถอินทิเกรตได้ ทั้งหมดเอฟ{\displaystyle f}จากนั้นจึงเรียกว่า มีความสอดคล้อง กันโดยทั่วไป[ 5 ]

ตัวประมาณค่าแบบไม่ใช้พารามิเตอร์ทั่วไปจำนวนมากมีความสอดคล้องกันในระดับอ่อนภายใต้การเลือกพารามิเตอร์ของแบบจำลองที่เหมาะสม เช่นตัวประมาณค่า Nadarya-Watson , kNNsและตัวประมาณค่าพหุนามเฉพาะที่ บางตัว [ 7 ]

อัตราการบรรจบกันที่เหมาะสมที่สุดของมินิแม็กซ์

หัวข้อสำคัญในการวิเคราะห์ทางสถิติของตัวประมาณค่าแบบไม่ใช้พารามิเตอร์ คือ ความเร็วในการลู่เข้าสู่ฟังก์ชันเป้าหมายที่แท้จริงเอฟ{\displaystyle f}และพิจารณาว่าความเร็วเหมาะสมที่สุดหรือไม่ กล่าวคือ การลู่เข้าเร็วที่สุดเท่าที่จะเป็นไปได้ วิธีที่ใช้กันทั่วไปในการวัดความเร็วการลู่เข้าของตัวประมาณค่าคือ อัตราการลู่เข้า แบบมินิแม็กซ์ ซึ่งพิจารณาถึงการสูญเสียที่คาดหวังของตัวประมาณค่าในสถานการณ์ที่เลวร้ายที่สุด ภายใต้สมมติฐานบางประการเกี่ยวกับความเรียบของเอฟ{\displaystyle f}สามารถแสดงให้เห็นได้ว่ามีอัตราการลู่เข้าขั้นต่ำที่ไม่มีตัวประมาณค่าใดสามารถต่ำกว่าได้ ดังนั้นตัวประมาณค่าใด ๆ ที่บรรลุอัตราขั้นต่ำนี้จึงเรียกว่าตัวประมาณค่าที่เหมาะสมที่สุด

ในทางคณิตศาสตร์ ฟังก์ชันเป้าหมายเอฟ{\displaystyle f}สันนิษฐานว่าอยู่ในกลุ่มฟังก์ชันบางประเภทชม{\displaystyle {\mathcal {H}}}เรียกว่ากลุ่มสมมติฐานซึ่งเหนี่ยวนำให้เกิดการกระจายตัวพีเอฟ{\displaystyle \mathbb {P} _{f}}บนX{\displaystyle {\mathcal {X}}}และคุณภาพการประมาณค่าของตัวประมาณค่าเอฟn^:Xn→ชม{\displaystyle {\hat {f_{n}}}:{\mathcal {X}}^{n}\to {\mathcal {H}}}วัดโดยฟังก์ชันบางอย่างแอล:ชม×ชม→[0,∞){\displaystyle L:{\mathcal {H}}\times {\mathcal {H}}\to [0,\infty )}อัตราการลู่เข้าแบบมินิแม็กซ์ของเอฟn^{\displaystyle {\หมวก {f_{n}}}}เป็นลำดับ(ψn)n∈เอ็น{\displaystyle (\psi _{n})_{n\in \mathbb {N} }}ของจำนวนจริงซึ่งเป็นไปตามนั้นลิม ซัพn→∞1ψnจีบเอฟ∈ชมอีเอฟ[แอล(เอฟ,เอฟn^(X1,…,Xn))]<∞,ลิม อินฟ์n→∞1ψnจีบเอฟ∈ชมอีเอฟ[แอล(เอฟ,เอฟn^(X1,…,Xn))]>0,{\displaystyle {\begin{aligned}\limsup _{n\to \infty }{\frac {1}{\psi _{n}}}\sup _{f\in {\mathcal {H}}}\mathbb {E} _{f}{\big [}L{\big (}f,{\hat {f_{n}}}(X_{1},\dots ,X_{n}){\big )}{\big ]}&<\infty ,\\\liminf _{n\to \infty }{\frac {1}{\psi _{n}}}\sup _{f\in {\mathcal {H}}}\mathbb {E} _{f}{\big [}L{\big (}f,{\hat {f_{n}}}(X_{1},\dots ,X_{n}){\big )}{\big ]}&>0,\end{aligned}}}ที่ไหนอีเอฟ[⋅]{\displaystyle \mathbb {E} _{f}[\cdot ]}บ่งชี้ว่าตัวแปรสุ่มX1,…,Xn{\displaystyle X_{1},\dots ,X_{n}}ซึ่งวาดจุดข้อมูล มีการกระจายตัวพีเอฟ{\displaystyle \mathbb {P} _{f}}.

ขอบล่างสากลสำหรับการประมาณค่าสำหรับกลุ่มสมมติฐานชม{\displaystyle {\mathcal {H}}}เป็นลำดับ(ψn)n∈เอ็น{\displaystyle (\psi _{n})_{n\in \mathbb {N} }}ซึ่งถือครองไว้ลิม ซัพn→∞1ψnข้อมูลρn^จีบเอฟ∈ชมอีเอฟ[แอล(เอฟ,ρ^n(X1,…,Xn))]<∞,ลิม อินฟ์n→∞1ψnข้อมูลρn^จีบเอฟ∈ชมอีเอฟ[แอล(เอฟ,ρ^n(X1,…,Xn))]>0,{\displaystyle {\begin{aligned}\limsup _{n\to \infty }{\frac {1}{\psi _{n}}}\inf _{\hat {\rho _{n}}}\sup _{f\in {\mathcal {H}}}\mathbb {E} _{f}{\big [}L{\big (}f,{\hat {\rho }}_{n}(X_{1},\dots ,X_{n}){\big )}{\big ]}&<\infty ,\\\liminf _{n\to \infty }{\frac {1}{\psi _{n}}}\inf _{\hat {\rho _{n}}}\sup _{f\in {\mathcal {H}}}\mathbb {E} _{f}{\big [}L{\big (}f,{\hat {\rho }}_{n}(X_{1},\dots ,X_{n}){\big )}{\big ]}&>0,\end{aligned}}}โดยที่ค่าต่ำสุดนั้นได้มาจากตัวประมาณค่าที่เป็นไปได้ทั้งหมดρ^n{\displaystyle {\hat {\rho }}_{n}}(นั่นคือฟังก์ชันที่วัดได้ ) โดยอิงจากn{\displaystyle n}ข้อสังเกต

การวิเคราะห์โดยละเอียดของตัวประมาณค่าแบบไม่ใช้พารามิเตอร์จะแยกออกเป็น การประมาณความหนาแน่นของความน่าจะเป็น และฟังก์ชันการถดถอย

การประมาณความหนาแน่น

โดยทั่วไป การกำหนดค่าประมาณความหนาแน่นจะเกี่ยวข้องกับปริภูมิฟังก์ชันที่มีบรรทัดฐาน(เอฟ,‖⋅‖){\displaystyle ({\mathcal {F}},\lVert \cdot \rVert )}ซึ่งเป็นเซตย่อยของฟังก์ชันความหนาแน่นชม={เอฟ∈เอฟ:เอฟ≥0,∫Xเอฟ(x)งx=1,‖เอฟ‖≤1}{\displaystyle {\mathcal {H}}=\{f\in {\mathcal {F}}:f\geq 0,\int _{\mathcal {X}}f(x)dx=1,\lVert f\rVert \leq 1\}}และตัวแปรสุ่มอิสระX1,…,Xn∈X⊂อาร์ง{\displaystyle X_{1},\dots ,X_{n}\in {\mathcal {X}}\subset \mathbb {R} ^{d}}กระจายตามการวัดด้วยความหนาแน่นเอฟ∈ชม{\displaystyle f\in {\mathcal {H}}}ซึ่งเป็นตัวสร้างข้อมูล

ค่าขอบเขตล่างของมินิแม็กซ์เป็นที่ทราบกันดีสำหรับคู่ของคลาสฟังก์ชันที่แตกต่างกันเอฟ{\displaystyle {\mathcal {F}}}และตัวชี้วัดการเปรียบเทียบแอล{\displaystyle L}ตัวเลือกทั่วไปสำหรับเอฟ{\displaystyle {\mathcal {F}}}เป็น:

  • เอฟ=ซีα(X),α>0{\displaystyle {\mathcal {F}}=C^{\alpha }({\mathcal {X}}),\alpha >0}พื้นที่ของ : พื้นที่ของ⌊α⌋{\displaystyle \lfloor \alpha \rfloor }ฟังก์ชันที่หาอนุพันธ์ได้ - ครั้ง โดยที่อนุพันธ์สูงสุดคือ(α−⌊α⌋){\displaystyle (\alpha -\lfloor \alpha \rfloor )}- Hölder -เรียบลื่น
  • เอฟ=ชมส(X)=วส,2(X),ส>0{\displaystyle {\mathcal {F}}=H^{s}({\mathcal {X}})=W^{s,2}({\mathcal {X}}),s>0}: พื้นที่ของฟังก์ชันเรียบแบบโซโบเลฟ ที่มี อนุพันธ์อ่อน ที่สามารถหาปริพันธ์กำลังสอง ได้
  • เอฟ=บีพี,qส(X),ส>0,พี,q∈(0,∞]{\displaystyle {\mathcal {F}}=B_{p,q}^{s}({\mathcal {X}}),s>0,p,q\in (0,\infty ]}: พื้นที่ของฟังก์ชันเรียบแบบเบซอ ฟ

อันที่จริงแล้ว ปริภูมิโฮลเดอร์และปริภูมิโซโบเลฟเป็นกรณีพิเศษของปริภูมิเบซอฟบางประเภท กล่าวคือซีα(X)=บี∞,∞α(X){\displaystyle C^{\alpha }({\mathcal {X}})=B_{\infty ,\infty }^{\alpha }({\mathcal {X}})}สำหรับα∉ซ{\displaystyle \alpha \notin \mathbb {Z} }และชมส(X)=บี2,2ส(X){\displaystyle H^{s}({\mathcal {X}})=B_{2,2}^{s}({\mathcal {X}})}[ 8 ]ดังนั้นการหาขอบเขตล่างภายใต้สมมติฐานความเรียบของ Besov มักจะเพียงพอ

ตัวเลือกทั่วไปสำหรับแอล{\displaystyle L}ได้แก่: [ 6 ]

  • แอล(เอฟ,จี)=(เอฟ(x0)−จี(x0))2,x0∈X{\displaystyle L(f,g)=(f(x_{0})-g(x_{0}))^{2},x_{0}\in {\mathcal {X}}}: ค่าความคลาดเคลื่อนกำลังสองแบบจุดต่อจุด (MSE)
  • แอล(เอฟ,จี)=‖เอฟ−จี‖แอล2(X)2{\displaystyle L(f,g)=\lVert f-g\rVert _{L^{2}({\mathcal {X}})}^{2}}: ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยแบบบูรณาการ (MISE)
  • แอล(เอฟ,จี)=‖เอฟ−จี‖แอล∞(X){\displaystyle L(f,g)=\lVert f-g\rVert _{L^{\infty }({\mathcal {X}})}}ระยะทางบรรทัดฐานสูงสุด
  • แอล(เอฟ,จี)=เคแอล(พีเอฟ‖พีจี){\displaystyle L(f,g)=\mathrm {KL} (\mathbb {P} _{f}\lVert \mathbb {P} _{g})}: ความแตกต่างของ Kullback-Leiblerของการกระจายที่เกิดจากเอฟ{\displaystyle f}และจี{\displaystyle g}.
  • แอล(เอฟ,จี)=ทีวี(พีเอฟ,พีจี){\displaystyle L(f,g)=\mathrm {TV} (\mathbb {P} _{f},\mathbb {P} _{g})}: ระยะความแปรผันรวมของการกระจายที่เกิดจากเอฟ{\displaystyle f}และจี{\displaystyle g}.
  • แอล(เอฟ,จี)=วเบต้า(พีเอฟ,พีจี),เบต้า≥1{\displaystyle L(f,g)=W_{\beta }(\mathbb {P} _{f},\mathbb {P} _{g}),\beta \geq 1}: เดอะวาสเซอร์สไตน์-เบต้า{\displaystyle \beta }ระยะห่างของการกระจายที่เกิดจากเอฟ{\displaystyle f}และจี{\displaystyle g}.

ตามทฤษฎีบทของ Scheffé ระยะทางความแปรผันรวมทีวี(พีเอฟ,พีจี){\displaystyle \mathrm {TV} (\mathbb {P} _{f},\mathbb {P} _{g})}เทียบเท่ากับแอล1{\displaystyle L^{1}}-ระยะทางของเอฟ{\displaystyle f}และจี{\displaystyle g}.

ระดับความเรียบเนียน‖เอฟ−จี‖แอล2(X)2{\displaystyle \lVert f-g\rVert _{L^{2}({\mathcal {X}})}^{2}}วเบต้า(พีเอฟ,พีจี){\displaystyle W_{\beta }(\mathbb {P} _{f},\mathbb {P} _{g})}ทีวี(พีเอฟ,พีจี){\displaystyle \mathrm {TV} (\mathbb {P} _{f},\mathbb {P} _{g})}เคแอล(พีเอฟ‖พีจี){\displaystyle \mathrm {KL} (\mathbb {P} _{f}\lVert \mathbb {P} _{g})}
บีพี,qส(X){\displaystyle B_{p,q}^{s}({\mathcal {X}})}n−2ส2ส+ง{\displaystyle n^{-{\frac {2s}{2s+d}}}}[ 9 ](พี,q≥1,ส>ง/q){\displaystyle (p,q\geq 1,\,s>d/q)}n−ส+12ส+ง{\displaystyle n^{-{\frac {s+1}{2s+d}}}}[ 10 ]n−ส2ส+ง{\displaystyle n^{-{\frac {s}{2s+d}}}}[ 9 ]n−2ส2ส+ง{\displaystyle n^{-{\frac {2s}{2s+d}}}}
แอล2(อาร์)∩ซี∞(อาร์){\displaystyle L^{2}(\mathbb {R} )\cap C^{\infty }(\mathbb {R} )}n−1{\displaystyle n^{-1}}[ 11 ]---

ขอบล่างของ MISE บางครั้งถูกนำไปเปรียบเทียบกับขอบเขต Cramér–Raoจากสถิติเชิงพารามิเตอร์ ซึ่งเป็นขอบล่างสำหรับค่าความคลาดเคลื่อนกำลังสองเฉลี่ยของ ตัว ประมาณค่าพารามิเตอร์แบบปกติ ที่ไม่เอนเอียงθ{\displaystyle \theta }:จีบθ∈Θอี[‖θ−θ^n‖2]≥n−1จีบθ∈Θทีร(ฉัน(θ)−1)⏟=คโอnสที.,จีบเอฟ∈บีพี,qส(X)อี[‖เอฟ−เอฟn^‖แอล2(X)2]≥คn−2ส/(2ส+ง),{\displaystyle {\begin{aligned}\sup _{\theta \in \Theta }\mathbb {E} &[\lVert \theta -{\hat {\theta }}_{n}\rVert ^{2}]\geq n^{-1}\underbrace {\sup _{\theta \in \Theta }\mathrm {tr} (I(\theta )^{-1})} _{=const.},\\\sup _{f\in B_{p,q}^{s}({\mathcal {X}})}\mathbb {E} &[\lVert f-{\hat {f_{n}}}\rVert _{L^{2}({\mathcal {X}})}^{2}]\geq cn^{-2s/(2s+d)},\end{aligned}}}ที่ไหนฉัน(θ){\displaystyle I(\theta )}คือข้อมูลฟิชเชอร์ของแบบจำลองพาราเมตริกและค>0{\displaystyle c>0}เป็นค่าคงที่บางค่า ดังนั้นอัตราแบบไม่ใช้พารามิเตอร์จึงช้ากว่าอัตราแบบใช้พารามิเตอร์n−1{\displaystyle n^{-1}}โดยเฉพาะในมิติขนาดใหญ่ และเข้าใกล้อัตราพาราเมตริกเมื่อความเรียบของความหนาแน่นมีแนวโน้มเข้าสู่ค่าอนันต์

ตัวอย่างเช่น ตัวประมาณความหนาแน่นเคอร์เนลบรรลุขอบเขตล่างเมื่อเทียบกับ MISE ภายใต้คลาสสมมติฐาน Sobolev ภายใต้การเลือกแบนด์วิดท์ที่เหมาะสม และจึงถือว่าเหมาะสมที่สุดแบบมินิแม็กซ์[ 6 ]เมื่อไม่นานมานี้โมเดลสร้างข้อมูลตามคะแนน ยัง แสดงให้เห็นว่าสามารถบรรลุอัตราการบรรจบกันแบบมินิแม็กซ์ในความแปรผันทั้งหมดและในระยะทาง Wasserstein-1 ได้อีก ด้วยบีพี,qส([0,1]ง){\displaystyle B_{p,q}^{s}([0,1]^{d})}-การกระจายแบบราบเรียบส>(1/พี−1/2)+{\displaystyle s>(1/p-1/2)_{+}}ซึ่งถูกจำกัดไม่ให้เป็นศูนย์จากด้านล่าง[ 12 ]

การถดถอย

ใน การวิเคราะห์ การถดถอยข้อมูลจะปรากฏเป็นคู่ๆ(X1,วาย1),…,(Xn,วายn){\displaystyle (X_{1},Y_{1}),\dots ,(X_{n},Y_{n})}โดยสมมติว่าข้อมูลเป็นอิสระต่อกันและมีการกระจายแบบเดียวกัน และอี[|วาย1|]<∞{\displaystyle \mathbb {E} [|Y_{1}|]<\infty }เราสามารถเขียนได้เสมอวายฉัน=เอฟ(Xฉัน)+εฉัน,{\displaystyle Y_{i}=f(X_{i})+\varepsilon _{i},}กับเอฟ(x)=อี[วาย1∣X1=x]{\displaystyle f(x)=\mathbb {E} [Y_{1}\mid X_{1}=x]}โดยที่ เป็นฟังก์ชันการถดถอยที่จะประมาณค่า และ เป็นตัวแปรสัญญาณรบกวนεฉัน{\displaystyle \varepsilon _{i}}เติมเต็มอี[εฉัน]=0{\displaystyle \mathbb {E} [\varepsilon _{i}]=0}และอี[ε2]=σ2>0{\displaystyle \mathbb {E} [\varepsilon ^{2}]=\sigma ^{2}>0}โดยทั่วไป ตัวแปรอิสระXฉัน{\displaystyle X_{i}}สันนิษฐานว่ามีค่าอยู่ในหน่วยลูกบาศก์[0,1]ง{\displaystyle [0,1]^{d}}และอาจเป็นจุดที่กำหนดไว้บนตาราง (การออกแบบเชิงกำหนด) หรือกระจายอย่างสม่ำเสมอ (การออกแบบเชิงสุ่ม) ดังนั้นX=[0,1]ง×อาร์{\displaystyle {\mathcal {X}}=[0,1]^{d}\times \mathbb {R} }.

การตั้งค่าข้างต้นใช้ได้กับการจำแนกแบบไบนารีเช่นกัน ในกรณีนั้น ค่าที่สังเกตได้จะมีเพียงสองค่า เช่น 0 และ 1 ดังนี้เอฟ(x)=อี[1{วาย1=1}∣X=x]=พี(วาย1=1∣X=x){\displaystyle f(x)=\mathbb {E} [\mathbb {1} _{\{Y_{1}=1\}}\mid X=x]=\mathbb {P} (Y_{1}=1\mid X=x)}และกำหนดตัวประมาณค่าเอฟn^{\displaystyle {\hat {f_{n}}}}ของเอฟ{\displaystyle f}โดยถือว่าตัวจำแนกประเภทมีรูปแบบดังนี้ซี(x)=1[1/2,1](เอฟn^(x)){\displaystyle C(x)=\mathbb {1} _{[1/2,1]}({\hat {f_{n}}}(x))}กล่าวคือ พวกเขาจัดประเภทจุดหนึ่งเป็น 1 ถ้าความน่าจะเป็นโดยประมาณของวาย=1{\displaystyle Y=1}มากกว่า1/2{\displaystyle 1/2}(และ 0 ในกรณีอื่น ๆ) อัน ที่จริง วิธีการจำแนกประเภทหลายวิธีมีรูปแบบดังกล่าว ตัวอย่างเช่นการถดถอยโลจิสติกการวิเคราะห์การจำแนกเชิงเส้นการวิเคราะห์การจำแนกเชิงกำลังสองและ วิธีการ เพื่อนบ้านใกล้ที่สุด k ตัวและเครื่องสนับสนุนเวกเตอร์

จากนั้น สำหรับการวิเคราะห์ทางสถิติ กลุ่มสมมติฐานจะมีรูปแบบดังนี้ชม={เอฟ∈เอฟ:‖เอฟ‖≤1}{\displaystyle {\mathcal {H}}=\{f\in {\mathcal {F}}:\lVert f\rVert \leq 1\}}สำหรับปริภูมิฟังก์ชันที่มีบรรทัดฐานบางอย่าง(เอฟ,‖⋅‖){\displaystyle ({\mathcal {F}},\lVert \cdot \rVert )}และความคาดหวังอีเอฟ{\displaystyle \mathbb {E} _{f}}ดำเนินการโดยคำนึงถึงการแจกแจงร่วมของX{\displaystyle X}และวาย{\displaystyle Y}(หรือเพียงแค่วาย{\displaystyle Y}ถ้าหากXฉัน{\displaystyle X_{i}}(เป็นแบบกำหนดได้)

ในการถดถอยแบบไม่ใช้พารามิเตอร์คลาสสมมติฐานจำเป็นต้องมีข้อสมมติที่เข้มงวดเกี่ยวกับฟังก์ชันการถดถอย มิฉะนั้น ขอบล่างของมินิแม็กซ์อาจช้าเกินไปอย่างไม่มีเหตุผล ตัวอย่างเช่น ถ้าเอฟ=แอล∞([0,1]){\displaystyle {\mathcal {F}}=L^{\infty }([0,1])}นั่นคือ เซตของฟังก์ชันที่มีขอบเขตดังนั้นสำหรับตัวประมาณค่าใดๆเอฟn^{\displaystyle {\hat {f_{n}}}}และลำดับศูนย์ใดๆ(ψn)n∈เอ็น{\displaystyle (\psi _{n})_{n\in \mathbb {N} }}มีอยู่จริงเอฟ∈ชม{\displaystyle f\in {\mathcal {H}}}โดยที่[ 13 ]

ลิม ซัพn→∞อี[‖เอฟ−เอฟn^‖แอล2([0,1])2]ψn≥1.{\displaystyle \limsup _{n\to \infty }{\frac {\mathbb {E} [\lVert f-{\hat {f_{n}}}\rVert _{L^{2}([0,1])}^{2}]}{\psi _{n}}}\geq 1.}

ดังนั้น ตัวเลือกทั่วไปสำหรับเอฟ{\displaystyle {\mathcal {F}}}เป็น:

  • เอฟ=ซีα([0,1]ง),α>0{\displaystyle {\mathcal {F}}=C^{\alpha }([0,1]^{d}),\alpha >0}พื้นที่ของ : พื้นที่ของ⌊α⌋{\displaystyle \lfloor \alpha \rfloor }ฟังก์ชันที่หาอนุพันธ์ได้ - ครั้ง โดยที่อนุพันธ์สูงสุดคือ(α−⌊α⌋){\displaystyle (\alpha -\lfloor \alpha \rfloor )}- Hölder -เรียบลื่น
  • เอฟ=วเค,q([0,1]ง),เค∈เอ็น,q>ง{\displaystyle {\mathcal {F}}=W^{k,q}([0,1]^{d}),k\in \mathbb {N} ,q>d}: พื้นที่ของฟังก์ชันเรียบแบบโซโบเลฟ ที่มีแอลq{\displaystyle L^{q}}อนุพันธ์อ่อนที่สามารถหาปริพันธ์ได้

ตัวเลือกทั่วไปสำหรับแอล{\displaystyle L}เป็น:

  • แอล(เอฟ,จี)=(เอฟ(x0)−จี(x0))2,x0∈[0,1]ง{\displaystyle L(f,g)=(f(x_{0})-g(x_{0}))^{2},x_{0}\in [0,1]^{d}}: ค่าความคลาดเคลื่อนกำลังสองแบบจุดต่อจุด (MSE)
  • แอล(เอฟ,จี)=‖เอฟ−จี‖แอลพี([0,1]ง),พี∈[1,∞){\displaystyle L(f,g)=\lVert f-g\rVert _{L^{p}([0,1]^{d})},p\in [1,\infty )}: เดอะพี{\displaystyle p}-บรรทัดฐานที่ -th
  • แอล(เอฟ,จี)=‖เอฟ−จี‖แอล∞([0,1]ง){\displaystyle L(f,g)=\lVert f-g\rVert _{L^{\infty }([0,1]^{d})}}ระยะทางบรรทัดฐานสูงสุด

ภายใต้สมมติฐานทางเทคนิคบางประการ ขอบเขตล่างต่อไปนี้เป็นที่ทราบกันดี

ระดับความเรียบเนียน(เอฟ(x0)−จี(x0))2{\displaystyle (f(x_{0})-g(x_{0}))^{2}}แอลพี([0,1]ง){\displaystyle L^{p}([0,1]^{d})}แอล∞([0,1]ง){\displaystyle L^{\infty }([0,1]^{d})}
ซีα([0,1]ง){\displaystyle C^{\alpha }([0,1]^{d})}n−2α2α+ง{\displaystyle n^{-{\frac {2\alpha }{2\alpha +d}}}}[ 6 ] (การออกแบบที่กำหนด)n−α2α+ง{\displaystyle n^{-{\frac {\alpha }{2\alpha +d}}}}[ 6 ] [ 14 ](บันทึก⁡n/n)α2α+ง{\displaystyle (\log n/n)^{\frac {\alpha }{2\alpha +d}}}[ 6 ] [ 14 ]
วเค,q([0,1]ง){\displaystyle W^{k,q}([0,1]^{d})}-n−เค2เค+ง{\displaystyle n^{-{\frac {k}{2k+d}}}}[ 14 ](n/σ≥1){\displaystyle ({\sqrt {n}}/\sigma \geq 1)}n−เค2เค+ง{\displaystyle n^{-{\frac {k}{2k+d}}}}[ 14 ](n/σ≥1){\displaystyle ({\sqrt {n}}/\sigma \geq 1)}

ตัวประมาณพหุนามเฉพาะที่บางตัวมีค่าเหมาะสมที่สุดแบบมินิแม็กซ์เมื่อเทียบกับแอล2{\displaystyle L^{2}}ภายใต้ชม=ซีα([0,1]ง){\displaystyle {\mathcal {H}}=C^{\alpha }([0,1]^{d})}สำหรับค่าตามอำเภอใจα>0{\displaystyle \alpha >0}เมื่อแบนด์วิดท์อยู่ในระดับที่เหมาะสมโอ(n−12α+ง){\displaystyle {\mathcal {O}}(n^{-{\frac {1}{2\alpha +d}}})}[ 6 ] kNNsยังเหมาะสมที่สุดในแง่ของค่า MSE ภายใต้ชม=ซี2([0,1]ง){\displaystyle {\mathcal {H}}=C^{2}([0,1]^{d})}และเกี่ยวกับแอล2{\displaystyle L^{2}}ภายใต้ชม=ซี1([0,1]ง){\displaystyle {\mathcal {H}}=C^{1}([0,1]^{d})}เมื่อจำนวนเพื่อนบ้านที่พิจารณามีขนาดตามลำดับโอ(n1ง+4){\displaystyle {\mathcal {O}}(n^{\frac {1}{d+4}})}และโอ(n1ง+2){\displaystyle {\mathcal {O}}(n^{\frac {1}{d+2}})}ตามลำดับ[ 15 ]

ความสามารถในการปรับตัว

โดยทั่วไปแล้ว การเลือกค่าพารามิเตอร์ของแบบจำลอง (เช่น แบนด์วิดท์สำหรับวิธีการเคอร์เนล หรือจำนวนเพื่อนบ้านสำหรับ kNN) ที่จำเป็นเพื่อให้ได้อัตราการล convergence ที่เหมาะสมที่สุดนั้น มักขึ้นอยู่กับพารามิเตอร์ความเรียบของฟังก์ชันเป้าหมายที่ไม่ทราบค่า ซึ่งหมายความว่า ในทางปฏิบัติ หากไม่มีการประมาณค่าพารามิเตอร์ที่เหมาะสม วิธีการที่กล่าวมาข้างต้นก็จะไม่ใช่วิธีที่ดีที่สุด

แต่สิ่งที่น่าสนใจคือวิธีการที่บรรลุอัตราการล convergence ที่เหมาะสมที่สุดแบบ minimax ไม่เพียงแต่สำหรับพารามิเตอร์ความเรียบเฉพาะตัวหนึ่งเท่านั้น แต่ยังรวมถึงค่าต่างๆ ด้วย ให้คลาสสมมติฐานมีรูปแบบดังนี้ชม=⋃เบต้า>0ชมเบต้า{\displaystyle {\mathcal {H}}=\bigcup _{\beta >0}{\mathcal {H}}_{\beta }}(ตัวอย่างเช่นชมเบต้า=ซีเบต้า([0,1]ง){\displaystyle {\mathcal {H}}_{\beta }=C^{\beta }([0,1]^{d})}หรือชมเบต้า=ชมเบต้า([0,1]ง){\displaystyle {\mathcal {H}}_{\beta }=H^{\beta }([0,1]^{d})}) และปล่อยให้ψnเบต้า{\displaystyle \psi _{n}^{\beta }}อัตราการบรรจบกันที่เหมาะสมในชมเบต้า{\displaystyle {\mathcal {H}}_{\beta }}จากนั้นจึงเป็นตระกูลของตัวประมาณค่า(เอฟn^)n∈เอ็น{\displaystyle ({\hat {f_{n}}})_{n\in \mathbb {N} }}เรียกว่าปรับตัวได้ในความหมายของมินิแม็กซ์หากมีค่าคงที่อยู่ซี(เบต้า){\displaystyle C(\beta )}ขึ้นอยู่กับเพียงอย่างเดียวเบต้า{\displaystyle \beta }โดยที่[ 6 ]จีบเอฟ∈ชมเบต้าอี[แอล(เอฟn^,เอฟ)]≤ซี(เบต้า)ψnเบต้า,∀เบต้า>0,∀n∈เอ็น.{\displaystyle \sup _{f\in {\mathcal {H}}_{\beta }}\mathbb {E} [L({\hat {f_{n}}},f)]\leq C(\beta )\psi _{n}^{\beta },\quad \forall \beta >0,\quad \forall n\in \mathbb {N} .}กล่าวอีกนัยหนึ่ง จำเป็นต้องใช้ตัวประมาณค่าแบบปรับตัวได้เพื่อให้ได้อัตราการล convergence แบบ minimax ในทุกกลุ่มสมมติฐานชมเบต้า{\displaystyle {\mathcal {H}}_{\beta }}แต่โดยไม่พิจารณาพารามิเตอร์ที่ไม่ทราบค่าเบต้า{\displaystyle \beta }เป็นข้อโต้แย้ง ตัวประมาณค่าแบบปรับตัวมักจะเกิดขึ้นจากการใช้ตัวประมาณค่าที่เหมาะสมที่สุดแบบมินิแม็กซ์สำหรับกลุ่มของคลาสสมมติฐาน และโดยการประมาณค่าไฮเปอร์พารามิเตอร์ผ่านกระบวนการระดับสูงกว่า เช่น การประมาณความเสี่ยงที่ไม่เอนเอียงหรือ การตรวจ สอบแบบไขว้[ 5 ] [ 6 ]

ประวัติศาสตร์

สถิติแบบไม่ใช้พารามิเตอร์ในยุคแรกๆ ได้แก่ค่ามัธยฐาน (ศตวรรษที่ 13 หรือก่อนหน้านั้น ใช้ในการประมาณค่าโดยเอ็ดเวิร์ด ไรท์ในปี 1599 ดูค่ามัธยฐาน §  ประวัติ ) และการทดสอบเครื่องหมายโดยจอห์น อาร์บัทนอต (1710) ในการวิเคราะห์อัตราส่วนเพศของมนุษย์เมื่อแรกเกิด (ดูการทดสอบเครื่องหมาย §  ประวัติ ) [ 16 ] [ 17 ]

ดูเพิ่มเติม

หมายเหตุ

  1. ↑ "สถิติแบบไม่ใช้พารามิเตอร์ทั้งหมด" Springer Texts in Statistics . 2006. doi : 10.1007/0-387-30623-4 . ISBN 978-0-387-25145-5.
  2. ↑ Pearce, J; Derrick, B (2019). "การทดสอบเบื้องต้น: ปีศาจแห่งสถิติ?" . Reinvention: An International Journal of Undergraduate Research . 12 (2). doi : 10.31273/reinvention.v12i2.339 .
  3. ↑ Stuart A., Ord JK, Arnold S. (1999), Kendall's Advanced Theory of Statistics: Volume 2A—Classical Inference and the Linear Model , ฉบับที่หก, §20.2–20.3 ( Arnold ).
  4. ↑ Adikaram, KKLB; Hussein, MA; Effenberger, M.; Becker, T. (16 พฤศจิกายน 2015). "การระบุความพอดีเชิงเส้นสากล: วิธีการที่ไม่ขึ้นอยู่กับข้อมูล ค่าผิดปกติ และแบบจำลองการกระจายสัญญาณรบกวน และปราศจากการเติมข้อมูลที่ขาดหายหรือถูกลบ" PLOS ONE . ​​10 (11) e0141486. ​​Bibcode : 2015PLoSO..1041486A . doi : 10.1371/journal.pone.0141486 . ISSN 1932-6203 . PMC 4646355 . PMID 26571035 .   
  5. 1 2 3 Györfi et al. 2002 .
  6. 1 2 3 4 5 6 7 8 9 10 Tsybakov, Alexandre (2009). บทนำสู่การประมาณค่าแบบไม่ใช้พารามิเตอร์ Springer. ISBN 978-0-387-79051-0.
  7. ↑เจอร์ฟี และคณะ 2545 , หน้า. 72,81,88.
  8. ↑ทรีเบล, ฮันส์ (1983) ทฤษฎีปริภูมิฟังก์ชัน . เอกสารทางคณิตศาสตร์ บีร์ฮอเซอร์ แวร์แล็ก. ไอเอสบีเอ็น 9783764313814.
  9. 1 2 Yang, Yuhong; Barron, Andrew (1999). "การกำหนดอัตราการบรรจบกันแบบมินิแม็กซ์ตามทฤษฎีสารสนเทศ" . Annals of Statistics . 27 (5): 1564– 1599.
  10. ↑ Niles-Weed, Jonathan; Berthet, Quentin (2022). "การประมาณค่ามินิแม็กซ์ของความหนาแน่นเรียบในระยะทาง Wasserstein" . Annals of Statistics . 50 (3): 1519– 1540.
  11. ↑ Boyd, David W.; Steele, J. Michael (1978). "ขอบเขตล่างสำหรับอัตราการประมาณความหนาแน่นแบบไม่ใช้พารามิเตอร์" Annals of Statistics . 6 (4): 932– 934.
  12. ↑ Oko, Kazusato; Akiyama, Shunta; Suzuki, Taiji (2023). "แบบจำลองการแพร่กระจายคือตัวประมาณการการกระจายแบบมินิแม็กซ์ที่เหมาะสมที่สุด" . รายงานการประชุมนานาชาติว่าด้วยการเรียนรู้ของเครื่องจักร ครั้งที่ 40 . 202 : 26517– 26582.
  13. ↑เจอร์ฟี และคณะ 2545 , หน้า. 32.
  14. 1 2 3 4 Nemirovski, Arkadi (2000). หัวข้อในสถิติ แบบไม่ใช้พารามิเตอร์หน้า5–31 
  15. ↑เจอร์ฟี และคณะ 2545 , หน้า 93–96.
  16. ↑ Conover, WJ (1999), "บทที่ 3.4: การทดสอบเครื่องหมาย", สถิติเชิงปฏิบัติแบบไม่ใช้พารามิเตอร์ ( ฉบับที่สาม), Wiley, หน้า157–176 , ISBN   0-471-16068-7
  17. ↑ Sprent, P. (1989), วิธีการทางสถิติแบบไม่พาราเมตริกประยุกต์ ( ฉบับที่สอง), Chapman & Hall, ISBN  0-412-44980-3

เอกสารอ้างอิงทั่วไป

  • Bagdonavicius, V., Kruopis, J., Nikulin, MS (2011). "การทดสอบแบบไม่ใช้พารามิเตอร์สำหรับข้อมูลที่สมบูรณ์", ISTE & WILEY: ลอนดอนและโฮโบเคน. ISBN 978-1-84821-269-5.
  • Corder, GW; Foreman, DI (2014). สถิติแบบไม่ใช้พารามิเตอร์: วิธีการทีละขั้นตอน . Wiley. ISBN 978-1-118-84031-3.
  • Gibbons, Jean Dickinson ; Chakraborti, Subhabrata (2003). การอนุมานทางสถิติแบบไม่ใช้พารามิเตอร์ฉบับที่ 4 สำนักพิมพ์ CRC ISBN 0-8247-4052-1.
  • Györfi, ลาสซโล; โคห์เลอร์, ไมเคิล; คริซิซัก, อดัม; เดิน, แฮร์โร (2002) ทฤษฎีการถดถอยแบบไม่อิงพารามิเตอร์แบบไม่มีการกระจาย สปริงเกอร์. ไอเอสบีเอ็น 0-387-95441-4.
  • Hettmansperger, TP; McKean, JW (1998). วิธีการทางสถิติแบบไม่ใช้พารามิเตอร์ที่ทนทาน . ห้องสมุดสถิติของ Kendall. เล่มที่ 5. ลอนดอน: Edward Arnold . ISBN 0-340-54937-8MR 1604954​​ และ ISBNด้วย 0-471-19479-4.
  • Hollander M., Wolfe DA, Chicken E. (2014). วิธีการทางสถิติแบบไม่ใช้พารามิเตอร์ , John Wiley & Sons.
  • เชสกิน, เดวิด เจ. (2003) คู่มือวิธีการทางสถิติแบบพาราเมตริกและไม่พาราเมตริกสำนักพิมพ์ซีอาร์ซีISBN 1-58488-440-1
  • วาสเซอร์แมน, แลร์รี (2007). สถิติแบบไม่ใช้พารามิเตอร์ทั้งหมด , สปริงเกอร์. ISBN 0-387-25145-6.
ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Nonparametric_statistics&oldid=1363618274 "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ สถิติแบบไม่ใช้พารามิเตอร์

สถิติแบบไม่ใช้พารามิเตอร์เป็นประเภทของการวิเคราะห์ทางสถิติที่ตั้งสมมติฐานน้อยที่สุดเกี่ยวกับการกระจาย พื้นฐาน ของข้อมูลที่กำลังศึกษา โดยทั่วไปแบบจำลองเหล่านี้จะมีมิติอนันต์...

คำจำกัดความ

คำว่า "สถิติแบบไม่ใช้พารามิเตอร์" ได้รับการนิยามอย่างไม่แม่นยำในสองลักษณะดังต่อไปนี้:

การใช้งานและวัตถุประสงค์

วิธีการทางสถิติแบบไม่พาราเมตริกถูกนำมาใช้กันอย่างแพร่หลายในการศึกษาประชากรที่มีลำดับ (เช่น บทวิจารณ์ภาพยนตร์ที่ได้รับคะแนนหนึ่งถึงห้าดาว) การใช้วิธีการทางสถิติแบบไม่พาราเมตริกอาจมีความจำเป็นเมื่อข้อมูลมี ลำดับ แต่ไม่มี การตีความเชิง ตัวเลข ที่ชัดเจน เช่น...

แบบจำลองที่ไม่ใช้พารามิเตอร์

แบบจำลองที่ไม่ใช้พารามิเตอร์ แตกต่างจาก แบบจำลอง ที่ใช้พารามิเตอร์ ตรงที่โครงสร้างของแบบจำลองไม่ได้ถูกกำหนดไว้ ล่วงหน้า แต่จะถูกกำหนดจากข้อมูล คำว่า "ไม่ใช้พารามิเตอร์" ไม่ได้หมายความว่าแบบจำลองเหล่านั้นไม่มีพารามิเตอร์เลย...