การแจกแจงปกติทั่วไป
การแจกแจงปกติทั่วไป ( GND ) หรือการแจกแจงเกาส์เซียนทั่วไป ( GGD ) เป็นหนึ่งในสองตระกูลของการแจกแจงความน่าจะเป็นต่อเนื่องบน เส้น จำนวนจริง แบบ พาราเมตริกทั้งสองตระกูลนี้เพิ่มพารามิเตอร์รูปร่างเข้าไปในการแจกแจงปกติเพื่อแยกแยะความแตกต่างระหว่างสองตระกูลนี้ จึงจะเรียกในที่นี้ว่า "สมมาตร" และ "อสมมาตร" อย่างไรก็ตาม นี่ไม่ใช่คำศัพท์มาตรฐาน
เวอร์ชันสมมาตร
| สมมาตรทั่วไปปกติ | |||
|---|---|---|---|
ฟังก์ชันความหนาแน่นความน่าจะเป็น | |||
ฟังก์ชันการกระจายสะสม | |||
| พารามิเตอร์ | ตำแหน่ง ( จริง )มาตราส่วน (บวก, จริง )รูปร่าง (เชิงบวก, จริง ) | ||
| สนับสนุน | ;+\infty )\!} | ||
| พีดี | หมายถึงฟังก์ชันแกมมา | ||
| ซีดีเอฟ | ที่ไหนเป็นพารามิเตอร์รูปร่างเป็นพารามิเตอร์มาตราส่วนและคือฟังก์ชันแกมมาล่างที่ไม่สมบูรณ์และไม่ได้ปรับค่ามาตรฐาน | ||
| ควอนไทล์ | ที่ไหนคือฟังก์ชันควอนไทล์ของการกระจายแกมมา[ 1 ] | ||
| หมายถึง | |||
| ค่ามัธยฐาน | |||
| โหมด | |||
| ความแปรปรวน | |||
| ความเบี่ยงเบน | 0 | ||
| ความโค้งส่วนเกิน | |||
| เอนโทรปี | [ 2 ] | ||
การแจกแจงปกติทั่วไปแบบสมมาตรหรือที่รู้จักกันในชื่อการแจกแจง Subbotin [ 3 ]การแจกแจงกำลังเลขชี้กำลังหรือการแจกแจงข้อผิดพลาดทั่วไปเป็นตระกูลพาราเมตริกของการแจกแจงแบบสมมาตรประกอบด้วย การแจกแจง ปกติและ การแจกแจง Laplace ทั้งหมด และในกรณีจำกัด จะรวมถึงการแจกแจงเอกรูปต่อเนื่อง ทั้งหมด บนช่วงที่จำกัดของเส้นจำนวนจริง
ครอบครัวนี้รวมถึงการแจกแจงแบบปกติเมื่อ(โดยมีค่าเฉลี่ย)และความแปรปรวน) และรวมถึงการกระจายแบบลาปลาสเมื่อ.เช่นเดียวกับความหนาแน่นจะลู่เข้าสู่ความหนาแน่นสม่ำเสมอแบบจุดต่อจุดบน .
ตระกูลนี้อนุญาตให้มีหางที่หนักกว่าปกติ (เมื่อ)หรือเบากว่าปกติ (เมื่อ )เป็นวิธีที่มีประโยชน์ในการกำหนดพารามิเตอร์ของความหนาแน่นแบบสมมาตรและแบนราบที่ต่อเนื่องกันตั้งแต่แนวตั้งฉาก ( ))ไปสู่ความหนาแน่นสม่ำเสมอ ( )และ ความหนาแน่นแบบ เลปโตเคอร์ติก สมมาตรต่อเนื่อง ที่ครอบคลุมตั้งแต่ลาปลาซ ( ))ถึงความหนาแน่นปกติ ( ) . พารามิเตอร์รูปร่างนอกจากนี้ยังควบคุมความแหลมคมของยอดแหลมนอกเหนือจากส่วนหาง ด้วย
การประมาณค่าพารามิเตอร์
การประมาณค่าพารามิเตอร์โดยใช้ความน่าจะเป็นสูงสุดและวิธีการของโมเมนต์ได้รับการศึกษาแล้ว[ 4 ]ค่าประมาณไม่มีรูปแบบปิดและต้องได้รับมาโดยวิธีการเชิงตัวเลข นอกจากนี้ยังมีการเสนอตัวประมาณค่าที่ไม่ต้องใช้การคำนวณเชิงตัวเลขอีกด้วย[ 5 ]
ฟังก์ชันลอการิทึมความน่าจะเป็นปกติทั่วไปมีอนุพันธ์ต่อเนื่องจำนวนอนันต์ (กล่าวคือ อยู่ในกลุ่ม(ของฟังก์ชันเรียบ ) เฉพาะในกรณีที่เป็นจำนวนเต็มคู่บวก มิฉะนั้น ฟังก์ชันจะมีค่าเป็นอนุพันธ์ต่อเนื่อง ส่งผลให้ผลลัพธ์มาตรฐานสำหรับความสอดคล้องและความปกติเชิงอะซิมโทติกของ การประมาณค่า ความน่าจะเป็นสูงสุดของใช้ได้เฉพาะเมื่อ .
ตัวประมาณค่าความน่าจะเป็นสูงสุด
เป็นไปได้ที่จะปรับการแจกแจงปกติทั่วไปโดยใช้วิธีความน่าจะเป็นสูงสุด โดยประมาณ [ 4 ] [ 6 ]ด้วยตั้งค่าเริ่ม ต้นเป็นช่วงเวลาแรกของตัวอย่าง, ค่า ถูกประมาณโดยใช้ วิธีการวนซ้ำแบบ นิวตัน-ราฟสันโดยเริ่มต้นจากการคาดเดาค่าเริ่มต้นที่ ,
ที่ไหน
คือ โมเมนต์ทางสถิติแรกของค่าสัมบูรณ์และคือโมเมนต์ ทางสถิติที่สอง การวนซ้ำคือ
ที่ไหน
และและคือฟังก์ชันไดแกมมาและฟังก์ชันตรีแกมมาตามลำดับ
กำหนดค่าสำหรับจึงสามารถประมาณค่าได้โดยการหาค่าต่ำสุดของ:
ในที่สุดได้รับการประเมินว่า
สำหรับค่ามัธยฐานเป็นตัวประมาณค่าที่เหมาะสมกว่าสำหรับครั้งหนึ่งคาดการณ์ไว้ว่าและสามารถประมาณได้ตามที่อธิบายไว้ข้างต้น[ 4 ]
แอปพลิเคชัน
การแจกแจงปกติทั่วไปแบบสมมาตรถูกนำมาใช้ในการสร้างแบบจำลองเมื่อความเข้มข้นของค่ารอบค่าเฉลี่ยและพฤติกรรมส่วนหางเป็นสิ่งที่น่าสนใจเป็นพิเศษ[ 7 ] [ 8 ] สามารถใช้ตระกูลการแจกแจงอื่นๆ ได้หากเน้นที่ความเบี่ยงเบนอื่นๆ จากภาวะปกติ หากความสมมาตรของการแจกแจงเป็นสิ่งที่สนใจหลัก สามารถใช้ตระกูลการ แจกแจงปกติแบบเบ้หรือแบบอสมมาตรของตระกูลการแจกแจงปกติทั่วไปที่กล่าวถึงด้านล่างได้ หากพฤติกรรมส่วนหางเป็นสิ่งที่สนใจหลัก สามารถใช้ตระกูลการแจกแจง t ของนักเรียนได้ ซึ่งประมาณค่าการแจกแจงปกติเมื่อระดับความเป็นอิสระเพิ่มขึ้นเป็นอนันต์ การแจกแจง t แตกต่างจากการแจกแจงปกติทั่วไปนี้ตรงที่ได้ส่วนหางที่หนักกว่าปกติโดยไม่มีจุดแหลมที่จุดกำเนิด มีการนำไปใช้ในฟิสิกส์พลาสมาภายใต้ชื่อการแจกแจง Langdon ซึ่งเป็นผลมาจากการแผ่รังสีเบร็มส์สตรัลลิงแบบผกผัน[ 9 ]
ใน ปัญหา การถดถอยเชิงเส้นที่จำลองเป็นMLEจะเป็นโดยใช้ค่าp-norm
คุณสมบัติ
ช่วงเวลา
อนุญาตมีค่าเฉลี่ยเป็นศูนย์ การกระจายแบบเกาส์เซียนทั่วไปที่มีรูปร่างและพารามิเตอร์การปรับขนาดช่วงเวลาของ มีอยู่และมีจำนวนจำกัดสำหรับทุกมากกว่าสำหรับจำนวนเต็มที่ไม่เป็นลบใดๆโมเมนต์กลางธรรมดาคือ [ 2 ]
ความเชื่อมโยงกับฟังก์ชันบวกแน่นอน
ฟังก์ชันความหนาแน่นความน่าจะเป็นของการแจกแจงปกติทั่วไปแบบสมมาตรเป็นฟังก์ชันบวกแน่นอน สำหรับ [ 10 ] [ 11 ]
การหารที่ไม่มีที่สิ้นสุด
การแจกแจงแบบเกาส์เซียนทั่วไปแบบสมมาตรเป็นการแจกแจงที่แบ่งได้ไม่จำกัดก็ต่อเมื่อ . [ 10 ]
การสรุปโดยทั่วไป
การแจกแจงปกติทั่วไปแบบหลายตัวแปร กล่าวคือ ผลคูณของการแจกแจงกำลังเลขชี้กำลังที่เหมือนกันและพารามิเตอร์ เป็นความหนาแน่นความน่าจะเป็นเพียงอย่างเดียวที่สามารถเขียนได้ในรูปแบบและมีขอบเขตอิสระ[ 12 ]ผลลัพธ์สำหรับกรณีพิเศษของการแจกแจงปกติหลายตัวแปรนั้นเดิมทีเป็นผลงานของแม็กซ์เวลล์[ 13 ]
เวอร์ชันอสมมาตร
| ปกติทั่วไปแบบไม่สมมาตร | |||
|---|---|---|---|
ฟังก์ชันความหนาแน่นความน่าจะเป็น | |||
ฟังก์ชันการกระจายสะสม | |||
| พารามิเตอร์ | ตำแหน่ง ( จริง )มาตราส่วน (บวก, จริง )รูปร่าง ( จริง ) | ||
| สนับสนุน | |||
| พีดี | , ที่ไหนเป็นไฟล์ PDF มาตรฐาน ปกติ | ||
| ซีดีเอฟ | , ที่ไหนคือCDF ปกติ มาตรฐาน | ||
| หมายถึง | |||
| ค่ามัธยฐาน | |||
| ความแปรปรวน | |||
| ความเบี่ยงเบน | |||
| ความโค้งส่วนเกิน | |||
การแจกแจงปกติทั่วไปแบบไม่สมมาตรเป็นตระกูลของการแจกแจงความน่าจะเป็นแบบต่อเนื่องซึ่งพารามิเตอร์รูปร่างสามารถใช้เพื่อแนะนำความไม่สมมาตรหรือความเบ้ได้[ 14 ] [ 15 ] เมื่อพารามิเตอร์รูปร่างเป็นศูนย์ จะได้การแจกแจงปกติ ค่าบวกของพารามิเตอร์รูปร่างจะให้การแจกแจงแบบเบ้ซ้ายที่มีขอบเขตด้านขวา และค่าลบของพารามิเตอร์รูปร่างจะให้การแจกแจงแบบเบ้ขวาที่มีขอบเขตด้านซ้าย เฉพาะเมื่อพารามิเตอร์รูปร่างเป็นศูนย์เท่านั้นที่ฟังก์ชันความหนาแน่นของการแจกแจงนี้จะเป็นบวกตลอดทั้งเส้นจำนวนจริง ในกรณีนี้ การแจกแจงจะเป็นการแจกแจงปกติ มิฉะนั้น การแจกแจงจะเป็นการ แจกแจงแบบลอกา ริทมิกปกติ แบบเลื่อนและอาจกลับด้านได้
การประมาณค่าพารามิเตอร์
สามารถประมาณค่าพารามิเตอร์ได้โดยใช้ วิธี การประมาณค่าความน่าจะเป็นสูงสุดหรือวิธีโมเมนต์ ค่าประมาณพารามิเตอร์ไม่มีสูตรตายตัว ดังนั้นจึงต้องใช้การคำนวณเชิงตัวเลขเพื่อหาค่าประมาณ เนื่องจากปริภูมิของตัวอย่าง (เซตของจำนวนจริงที่ความหนาแน่นไม่เป็นศูนย์) ขึ้นอยู่กับค่าที่แท้จริงของพารามิเตอร์ ผลลัพธ์มาตรฐานบางอย่างเกี่ยวกับประสิทธิภาพของการประมาณค่าพารามิเตอร์จึงไม่สามารถนำมาใช้ได้โดยอัตโนมัติเมื่อทำงานกับกลุ่มตัวแปรนี้
แอปพลิเคชัน
การแจกแจงปกติแบบทั่วไปที่ไม่สมมาตรสามารถใช้สร้างแบบจำลองค่าที่อาจมีการกระจายแบบปกติ หรืออาจเบ้ขวาหรือเบ้ซ้ายเมื่อเทียบกับการแจกแจงปกติได้ การแจกแจงปกติแบบเบ้เป็นอีกหนึ่งการแจกแจงที่มีประโยชน์สำหรับการสร้างแบบจำลองความเบี่ยงเบนจากภาวะปกติเนื่องจากความเบ้ การแจกแจงอื่นๆ ที่ใช้ในการสร้างแบบจำลองข้อมูลที่มีความเบ้ ได้แก่ การแจกแจงแกมมา การแจกแจงล็อก นอร์มั ล และ การแจกแจง ไวบูลแต่การแจกแจงเหล่านี้ไม่ได้รวมถึงการแจกแจงปกติเป็นกรณีพิเศษ
ความแตกต่างแบบ Kullback–Leibler ระหว่าง PDF สองไฟล์
ความแตกต่าง Kullback–Leibler (KLD) เป็นวิธีการที่ใช้ในการคำนวณความแตกต่างหรือความคล้ายคลึงกันระหว่างฟังก์ชันความหนาแน่นความน่าจะเป็นสองฟังก์ชัน[ 16 ]
อนุญาตและการแจกแจงแบบเกาส์เซียนทั่วไปสองแบบที่มีพารามิเตอร์และภายใต้ข้อจำกัด[ 17 ] จากนั้นความ แตกต่าง นี้กำหนดโดย:
การแจกแจงอื่นๆ ที่เกี่ยวข้องกับการแจกแจงปกติ
ตระกูลการแจกแจงปกติทั่วไปสองตระกูลที่กล่าวถึงในที่นี้ เช่นเดียวกับ ตระกูลการแจกแจง ปกติแบบเบ้เป็นตระกูลพาราเมตริกที่ขยายการแจกแจงปกติโดยการเพิ่มพารามิเตอร์รูปร่าง เนื่องจากบทบาทสำคัญของการแจกแจงปกติในความน่าจะเป็นและสถิติ การแจกแจงจำนวนมากจึงสามารถอธิบายได้ในแง่ของความสัมพันธ์กับการแจกแจงปกติ ตัวอย่างเช่น การแจกแจงลอการิทึมปกติ การแจกแจงปกติ แบบพับและ การแจกแจง ปกติผกผันถูกกำหนดให้เป็นการแปลงค่าที่แจกแจงแบบปกติ แต่แตกต่างจากตระกูลการแจกแจงปกติทั่วไปและการแจกแจงปกติแบบเบ้ตรงที่ การแจกแจงเหล่านี้ไม่ได้รวมการแจกแจงปกติเป็นกรณีพิเศษ
อันที่จริงแล้ว การแจกแจงทั้งหมดที่มีความแปรปรวนจำกัดนั้น ในขีดจำกัดแล้วมีความสัมพันธ์อย่างมากกับการแจกแจงปกติ การแจกแจง Student-t การแจกแจง Irwin-Hallและการแจกแจง Batesก็เป็นการขยายการแจกแจงปกติ และรวมถึงในการแจกแจงปกติในขีดจำกัดด้วย ดังนั้นจึงไม่มีเหตุผลที่ชัดเจนที่จะเลือกใช้การแจกแจงปกติแบบ "ทั่วไป" ประเภทที่ 1 เช่น มากกว่าการรวมกันของ Student-t และการแจกแจง Irwin-Hall ที่ขยายแบบปกติ – ซึ่งจะรวมถึงการแจกแจงแบบสามเหลี่ยม (ซึ่งไม่สามารถจำลองได้ด้วยการแจกแจงเกาส์เซียนแบบทั่วไปประเภทที่ 1)
สามารถสร้างการแจกแจงแบบสมมาตรที่สามารถจำลองพฤติกรรมทั้งส่วนหาง (ยาวและสั้น) และส่วนกลาง (เช่น แบบแบน แบบสามเหลี่ยม หรือแบบเกาส์เซียน) ได้อย่างอิสระโดยสมบูรณ์เช่นโดยใช้X = IH / χ
การแจกแจงแบบ Tukey g และ hยังอนุญาตให้มีการเบี่ยงเบนจากภาวะปกติ ทั้งผ่านความเบี่ยงเบนและหางที่หนา[ 18 ]