กลับไปหน้าบทความ

อ่าน 37 นาที

ตระกูลเลขชี้กำลัง

ใน ความน่าจะเป็น และ สถิติ ตระกูล เอกซ์ โพเนนเชียล คือ ชุด พารามิเตอร์ ของ การแจกแจงความน่าจะเป็น ในรูปแบบหนึ่งที่ระบุไว้ด้านล่าง รูปแบบพิเศษนี้ถูกเลือกเพื่อความสะดวกทางคณิตศาสตร์...

ตระกูลเลขชี้กำลัง

ในความน่าจะเป็นและสถิติตระกูล เอกซ์ โพเนนเชียลคือ ชุด พารามิเตอร์ของการแจกแจงความน่าจะเป็นในรูปแบบหนึ่งที่ระบุไว้ด้านล่าง รูปแบบพิเศษนี้ถูกเลือกเพื่อความสะดวกทางคณิตศาสตร์ รวมถึงการช่วยให้ผู้ใช้สามารถคำนวณค่าคาดหวัง ความแปรปรวนร่วมโดยใช้การหาอนุพันธ์ตามคุณสมบัติทางพีชคณิตที่มีประโยชน์บางประการ ตลอดจนเพื่อความทั่วไป เนื่องจากตระกูลเอกซ์โพเนนเชียลในแง่หนึ่งเป็นชุดการแจกแจงที่เป็นธรรมชาติมากที่จะพิจารณา บางครั้งคำว่าชั้นเอกซ์โพเนนเชียลถูกใช้แทนคำว่า "ตระกูลเอกซ์โพเนนเชียล" [ 1 ]หรือคำเก่ากว่า คือ ตระกูลคูปมัน-ดาร์มัวส์บางครั้งเรียกอย่างไม่เป็นทางการว่าตระกูลเอกซ์โพเนนเชียล ชั้นของการแจกแจงนี้มีความแตกต่างกันเนื่องจากทั้งหมดมีคุณสมบัติที่พึงประสงค์หลายประการ ที่สำคัญที่สุดคือการมีอยู่ของสถิติ ที่เพียงพอ

แนวคิดของตระกูลเอกซ์โพเนนเชียลได้รับการยกย่องให้แก่[ 2 ] EJG Pitman , [ 3 ] G. Darmois , [ 4 ]และBO Koopman [ 5 ]ในปี 1935–1936 ตระกูลเอกซ์โพเนนเชียลของการแจกแจงให้กรอบการทำงานทั่วไปสำหรับการเลือกพารามิเตอร์ทางเลือกที่เป็นไปได้ของตระกูลการแจกแจงแบบพาราเมตริก ในแง่ของพารามิเตอร์ธรรมชาติ และสำหรับการกำหนดสถิติตัวอย่าง ที่มีประโยชน์ ซึ่งเรียกว่าสถิติเพียงพอตามธรรมชาติของตระกูล

ความยากในการตั้งชื่อ

คำว่า "การแจกแจง" และ "ตระกูล" มักถูกใช้ในความหมายที่ไม่เคร่งครัดนัก โดยเฉพาะอย่างยิ่งตระกูลเอกซ์โพเนนเชียลคือชุดของการแจกแจง ซึ่งการแจกแจงเฉพาะจะแปรผันตามพารามิเตอร์[ a ]อย่างไรก็ตามตระกูลการแจกแจงแบบพารามิเตอร์มักถูกเรียกว่า " การแจกแจง" (เช่น "การแจกแจงปกติ" ซึ่งหมายถึง "ตระกูลของการแจกแจงปกติ") และบางครั้งชุดของตระกูลเอกซ์โพเนนเชียลทั้งหมดก็ถูกเรียกว่า "ตระกูลเอกซ์โพเนนเชียล" อย่างไม่เคร่งครัดนัก

คำนิยาม

การแจกแจงที่ใช้กันทั่วไปส่วนใหญ่เป็นแบบตระกูลเอกซ์โพเนนเชียลหรือเป็นส่วนย่อยของตระกูลเอกซ์โพเนนเชียล ซึ่งแสดงไว้ในหัวข้อย่อยด้านล่าง หัวข้อย่อยถัดไปเป็นลำดับของคำจำกัดความทางคณิตศาสตร์ที่ครอบคลุมมากขึ้นเรื่อยๆ ของตระกูลเอกซ์โพเนนเชียล ผู้อ่านทั่วไปอาจต้องการจำกัดความสนใจไว้ที่คำจำกัดความแรกและง่ายที่สุด ซึ่งสอดคล้องกับตระกูลการแจกแจงความน่าจะเป็น แบบไม่ต่อเนื่องหรือต่อเนื่อง ที่มีพารามิเตอร์เดียว

ตัวอย่างของการแจกแจงแบบตระกูลเลขชี้กำลัง

ตระกูลเลขชี้กำลังประกอบด้วยการแจกแจงที่พบได้บ่อยที่สุดหลายอย่าง ในบรรดาการแจกแจงอื่นๆ อีกมากมาย ตระกูลเลขชี้กำลังยังรวมถึงสิ่งต่อไปนี้: [ 6 ]

การแจกแจงทั่วไปหลายแบบจัดอยู่ในกลุ่มการแจกแจงแบบเอกซ์โปเนนเชียล แต่จะเป็นเช่นนั้นก็ต่อเมื่อพารามิเตอร์บางอย่างคงที่และทราบค่าแล้วเท่านั้น ตัวอย่างเช่น:

โปรดทราบว่าในแต่ละกรณี พารามิเตอร์ที่ต้องกำหนดให้คงที่คือพารามิเตอร์ที่กำหนดขีดจำกัดของช่วงค่าที่สามารถสังเกตได้

ตัวอย่างของการแจกแจงทั่วไปที่ไม่ใช่ตระกูลการแจกแจงแบบเอกซ์โปเนนเชียล ได้แก่การแจกแจง แบบ tของนักเรียน การแจกแจงแบบผสมส่วน ใหญ่และแม้แต่ตระกูลการแจกแจงแบบเอกรูปเมื่อขอบเขตไม่คงที่ ดูรายละเอียดเพิ่มเติมได้ ใน หัวข้อตัวอย่าง ด้านล่าง

พารามิเตอร์สเกลาร์

ค่าของเรียกว่าพารามิเตอร์ของตระกูล

ตระกูลการแจกแจงแบบเอกซ์โพเนนเชียลพารามิเตอร์เดียว คือชุดของการแจกแจงความน่าจะเป็นซึ่งฟังก์ชันความหนาแน่นความน่าจะเป็น (หรือฟังก์ชันมวลความน่าจะเป็นสำหรับกรณีของการแจกแจงแบบไม่ต่อเนื่อง ) สามารถแสดงได้ในรูปแบบ

โดยที่T ( x ) , h ( x ) , η ( θ )และA ( θ )เป็นฟังก์ชันที่ทราบค่า ฟังก์ชันh ( x )ต้องมีค่าไม่เป็นลบ

รูปแบบอื่นที่เทียบเท่ากันซึ่งมักใช้กันคือ

หรือเทียบเท่า

ในแง่ของ ความน่าจะเป็น แบบ ลอการิทึม

โปรดสังเกตว่าและ.

การรองรับต้องเป็นอิสระจากθ

ที่สำคัญคือการสนับสนุนของ(ค่าที่เป็นไปได้ทั้งหมดซึ่งมากกว่า) จะต้องไม่ขึ้นอยู่กับ[ 7 ] ข้อกำหนดนี้สามารถใช้เพื่อยกเว้นการแจกแจงตระกูลพาราเมตริกจากการเป็นตระกูลเอกซ์โพเนนเชียล

ตัวอย่างเช่น: การแจกแจงพาเรโตมีฟังก์ชันความหนาแน่นความน่าจะเป็น (pdf) ซึ่งกำหนดไว้สำหรับ(ค่าต่ำสุดโดยที่ คือพารามิเตอร์มาตราส่วน) และขอบเขตการรองรับของมันจึงมีขีดจำกัดล่างเป็นเนื่องจากขอบเขตการรองรับของขึ้นอยู่กับค่าของพารามิเตอร์ ดังนั้นตระกูลของการแจกแจงพาเรโตจึงไม่ก่อให้เกิดตระกูลการแจกแจงแบบเอกซ์โปเนนเชียล (อย่างน้อยที่สุดเมื่อไม่ทราบค่า)

อีกตัวอย่างหนึ่ง: การแจกแจงแบบเบอร์นูลลี เช่น การแจกแจง ทวิ นาม การแจกแจงทวิ นามเชิงลบการแจกแจงเรขาคณิตและการแจกแจงที่คล้ายกัน จะสามารถรวมอยู่ในกลุ่มการแจกแจงเอกซ์โพเนนเชียลได้ก็ต่อเมื่อจำนวนการทดลองแบบเบอร์นูลลี n ถูกกำหนดให้เป็นค่าคงที่ โดยไม่รวมอยู่ในพารามิเตอร์อิสระเนื่องจากจำนวนการทดลองที่อนุญาตจะกำหนดขีดจำกัดของจำนวน "ความสำเร็จ" หรือ "ความล้มเหลว" ที่สามารถสังเกตได้ในชุดของการทดลอง

เวกเตอร์ที่มีค่าเป็นxและ θ

โดยทั่วไปแล้วจะเป็นเวกเตอร์ของการวัด ซึ่งในกรณีนี้อาจเป็นฟังก์ชันจากปริภูมิของค่าที่เป็นไปได้ของไปยังจำนวนจริง

โดยทั่วไปแล้วและสามารถเป็นเวกเตอร์ค่าได้ โดยที่เป็นค่าจริง อย่างไรก็ตาม โปรดดูการอภิปรายด้านล่างเกี่ยวกับพารามิเตอร์เวกเตอร์ในส่วนที่เกี่ยวข้องกับตระกูลเลขชี้กำลัง โค้ง

การกำหนดสูตรแบบแคนอน

ถ้าเช่นนั้นตระกูลเลขชี้กำลังจะถูกเรียกว่าอยู่ในรูปแบบมาตรฐานโดยการกำหนดพารามิเตอร์ที่แปลงแล้วจะสามารถแปลงตระกูลเลขชี้กำลังให้เป็นรูปแบบมาตรฐานได้เสมอ รูปแบบมาตรฐานนั้นไม่ซ้ำกัน เนื่องจากสามารถคูณด้วยค่าคงที่ที่ไม่เป็นศูนย์ใดๆ ก็ได้ โดยมีเงื่อนไขว่าT ( x )จะต้องคูณด้วยส่วนกลับของค่าคงที่นั้น หรือสามารถบวก ค่าคงที่ c เข้าไป และคูณh ( x ) ด้วย เพื่อชดเชย ในกรณีพิเศษที่และT ( x ) = xแล้วตระกูลนั้นเรียกว่าตระกูล เลขชี้กำลังธรรมชาติ

แม้ว่าจะเป็นปริมาณสเกลาร์ และมีพารามิเตอร์เพียงตัวเดียว ฟังก์ชันและก็ยังคงเป็นเวกเตอร์ได้ ดังที่อธิบายไว้ด้านล่าง

ฟังก์ชันหรือเทียบเท่าจะถูกกำหนดโดยอัตโนมัติเมื่อเลือกฟังก์ชันอื่นๆ แล้ว เนื่องจากต้องมีรูปแบบที่ทำให้การกระจายตัวเป็นปกติ (ผลรวมหรืออินทิเกรตเท่ากับหนึ่งตลอดทั้งโดเมน) ยิ่งไปกว่านั้น ฟังก์ชันทั้งสองนี้สามารถเขียนเป็นฟังก์ชันของ ได้เสมอแม้ว่าจะไม่ใช่ ฟังก์ชัน แบบหนึ่งต่อหนึ่งกล่าวคือ ค่าที่แตกต่างกันสองค่าขึ้นไปของจะแมปไปยังค่าเดียวกันของและดังนั้นจึงไม่สามารถผกผันได้ ในกรณีเช่นนี้ ค่าทั้งหมดของที่แมปไปยังค่าเดียวกันจะมีค่าเดียวกันสำหรับและ ด้วย

การแยกตัวประกอบของตัวแปรที่เกี่ยวข้อง

สิ่งที่สำคัญที่ควรทราบ และเป็นลักษณะเฉพาะของฟังก์ชันตระกูลเลขชี้กำลังทั้งหมด คือ พารามิเตอร์และตัวแปรสังเกตจะต้องสามารถแยกตัวประกอบได้ (สามารถแยกออกเป็นผลคูณซึ่งแต่ละผลคูณเกี่ยวข้องกับตัวแปรเพียงประเภทเดียว) ไม่ว่าจะโดยตรงหรือภายในส่วนใดส่วนหนึ่ง (ฐานหรือเลขชี้กำลัง) ของ การดำเนินการ ยกกำลังโดยทั่วไปแล้ว หมายความว่าตัวประกอบทั้งหมดที่ประกอบเป็นฟังก์ชันความหนาแน่นหรือฟังก์ชันมวลจะต้องอยู่ในรูปแบบใดรูปแบบหนึ่งต่อไปนี้:

โดยที่fและhเป็นฟังก์ชันใดๆ ของxซึ่งเป็นตัวแปรทางสถิติที่สังเกตได้; gและjเป็นฟังก์ชันใดๆ ของพารามิเตอร์คงที่ที่กำหนดรูปร่างของการแจกแจง; และcเป็นนิพจน์คงที่ใดๆ (เช่น ตัวเลขหรือนิพจน์ที่ไม่เปลี่ยนแปลงตามxหรือ)

นอกจากนี้ยังมีข้อจำกัดเพิ่มเติมเกี่ยวกับจำนวนปัจจัยดังกล่าวที่สามารถเกิดขึ้นได้ ตัวอย่างเช่น นิพจน์สองอย่างต่อไปนี้:

เหมือนกัน กล่าวคือ เป็นผลคูณของตัวประกอบสองตัวที่ "อนุญาต" อย่างไรก็ตาม เมื่อเขียนใหม่ให้อยู่ในรูปแยกตัวประกอบแล้ว

จะเห็นได้ว่าไม่สามารถแสดงออกมาในรูปแบบที่ต้องการได้ (อย่างไรก็ตาม รูปแบบประเภทนี้เป็นสมาชิกของตระกูลเลขชี้กำลังโค้งซึ่งอนุญาตให้มีพจน์แยกตัวประกอบหลายพจน์ในเลขชี้กำลัง)

เพื่อดูว่าเหตุใดจึงมีการแสดงออกในรูปแบบดังกล่าว

มีคุณสมบัติเหมาะสม

และด้วยเหตุนี้จึงสามารถแยกตัวประกอบภายในเลขชี้กำลังได้ ในทำนองเดียวกัน

และสามารถแยกตัวประกอบภายในเลขชี้กำลังได้อีกครั้ง

ตัวประกอบที่ประกอบด้วยผลรวมซึ่งมีตัวแปรทั้งสองประเภทเกี่ยวข้อง (เช่น ตัวประกอบในรูปแบบ) ไม่สามารถแยกตัวประกอบได้ในลักษณะนี้ (ยกเว้นในบางกรณีที่ปรากฏโดยตรงในเลขชี้กำลัง) นี่คือเหตุผลที่ตัวอย่างเช่นการแจกแจงโคชีและการแจกแจงทีของสตูเดนต์ไม่ใช่ตระกูลเลขชี้กำลัง

พารามิเตอร์เวกเตอร์

นิยามในแง่ของ พารามิเตอร์ จำนวนจริง หนึ่งตัว สามารถขยายไปสู่พารามิเตอร์ เวกเตอร์จริง หนึ่งตัวได้

กลุ่มของการแจกแจงจะเรียกว่าอยู่ในกลุ่มการแจกแจงเอกซ์โพเนนเชียลเวกเตอร์ ถ้าฟังก์ชันความหนาแน่นความน่าจะเป็น (หรือฟังก์ชันมวลความน่าจะเป็น สำหรับการแจกแจงแบบไม่ต่อเนื่อง) สามารถเขียนได้ดังนี้

หรือในรูปแบบที่กะทัดรัดกว่านั้น

รูปแบบนี้เขียนผลรวมเป็นผลคูณดอท ของ ฟังก์ชัน เวกเตอร์และT ( x )

รูปแบบอื่นที่เทียบเท่ากันซึ่งมักพบเห็นได้คือ

เช่นเดียวกับกรณีค่าสเกลาร์ ตระกูลเลขชี้กำลังจะอยู่ในรูปแบบมาตรฐานก็ต่อเมื่อ

ตระกูลเวกเตอร์เอกซ์โพเนนเชียลจะเรียกว่าโค้งถ้ามิติของ

น้อยกว่ามิติของเวกเตอร์

กล่าวคือ ถ้ามิติ d ของเวกเตอร์พารามิเตอร์น้อยกว่าจำนวนฟังก์ชันs ของเวก เตอร์พารามิเตอร์ในการแสดงฟังก์ชันความหนาแน่นความน่าจะเป็นข้างต้น การแจกแจงทั่วไปส่วนใหญ่ในตระกูลเอกซ์โพเนนเชียลนั้นไม่โค้งและอัลกอริทึมจำนวนมากที่ออกแบบมาเพื่อทำงานกับตระกูลเอกซ์โพเนนเชียลใด ๆ จะสมมติโดยปริยายหรือโดยชัดแจ้งว่าการแจกแจงนั้นไม่โค้ง

เช่นเดียวกับกรณีของพารามิเตอร์ที่มีค่าเป็นสเกลาร์ ฟังก์ชันหรือเทียบเท่าจะถูกกำหนดโดยอัตโนมัติโดยข้อจำกัดการทำให้เป็นมาตรฐาน เมื่อเลือกฟังก์ชันอื่นๆ แล้ว แม้ว่าจะไม่ใช่ฟังก์ชันหนึ่งต่อหนึ่ง ฟังก์ชันและสามารถกำหนดได้โดยกำหนดให้การแจกแจงเป็นมาตรฐานสำหรับแต่ละค่าของพารามิเตอร์ธรรมชาติซึ่งจะให้รูปแบบมาตรฐาน

หรือเทียบเท่า

บางครั้งอาจพบรูปแบบข้างต้นโดยใช้ แทนซึ่งเป็นสูตรที่เทียบเท่ากันทุกประการ เพียงแต่ใช้สัญลักษณ์ที่แตกต่างกันสำหรับผลคูณดอทเท่านั้น

พารามิเตอร์เวกเตอร์, ตัวแปรเวกเตอร์

รูปแบบพารามิเตอร์เวกเตอร์สำหรับตัวแปรสุ่มค่าสเกลาร์ตัวเดียว สามารถขยายได้อย่างง่ายดายเพื่อครอบคลุมการแจกแจงร่วมสำหรับเวกเตอร์ของตัวแปรสุ่ม การแจกแจงที่ได้นั้นก็เหมือนกับการแจกแจงข้างต้นสำหรับตัวแปรสุ่มค่าสเกลาร์ โดยที่ค่าสเกลาร์x แต่ละตัว ถูกแทนที่ด้วยเวกเตอร์

มิติkของตัวแปรสุ่มไม่จำเป็นต้องตรงกับมิติd ของ  เวก เตอร์พารามิเตอร์ หรือ (ในกรณีของฟังก์ชันเลขชี้กำลังโค้ง) มิติsของพารามิเตอร์ธรรมชาติและสถิติเพียงพอT ( x )

ในกรณีนี้ การแจกแจงจะเขียนได้ดังนี้

หรือพูดให้กระชับยิ่งขึ้นก็คือ

หรืออีกทางเลือกหนึ่งคือ

การกำหนดสูตรเชิงทฤษฎีการวัด

เราใช้ฟังก์ชันการกระจายสะสม (CDF) เพื่อครอบคลุมทั้งการกระจายแบบไม่ต่อเนื่องและแบบต่อเนื่อง

สมมติว่าHเป็นฟังก์ชันที่ไม่ลดลงของตัวแปรจริง จากนั้นปริพันธ์เลเบส-สตีลต์เจสเทียบกับคือปริพันธ์เทียบกับมาตรวัดอ้างอิงของตระกูลเลขชี้กำลังที่สร้างขึ้น โดย H

สมาชิกใดๆ ในตระกูลเลขชี้กำลังนั้นมีฟังก์ชันการกระจายสะสม

H ( x )คือตัวรวม Lebesgue–Stieltjesสำหรับการวัดอ้างอิง เมื่อการวัดอ้างอิงมีค่าจำกัด สามารถทำให้เป็นมาตรฐานได้ และ Hก็คือฟังก์ชันการกระจายสะสมของความน่าจะเป็น ถ้า Fเป็นฟังก์ชันต่อเนื่องสัมบูรณ์ที่มีความหนาแน่นสัมพันธ์กับการวัดอ้างอิง(โดยทั่วไปคือการวัด Lebesgue ) เราสามารถเขียนได้ว่าในกรณีนี้ Hก็เป็นฟังก์ชันต่อเนื่องสัมบูรณ์เช่นกัน และสามารถเขียนได้ว่าดังนั้นสูตรจึงลดลงเหลือเท่ากับในย่อหน้าก่อนหน้า ถ้า Fเป็นฟังก์ชันไม่ต่อเนื่อง H ก็ คือฟังก์ชันขั้นบันได (โดยมีขั้นบันไดบนขอบเขตของ F )

อีกวิธีหนึ่ง เราสามารถเขียนมาตรวัดความน่าจะเป็นโดยตรงได้ดังนี้

สำหรับ การวัดอ้างอิงบางอย่าง

การตีความ

ในคำจำกัดความข้างต้น ฟังก์ชันT ( x ) , η ( θ )และA ( η )เป็นฟังก์ชันที่กำหนดขึ้นเอง อย่างไรก็ตาม ฟังก์ชันเหล่านี้มีความหมายสำคัญในการกระจายความน่าจะเป็นที่ได้

  • T ( x )คือสถิติเพียงพอของการแจกแจง สำหรับตระกูลการแจกแจงแบบเอกซ์โพเนนเชียล สถิติเพียงพอคือฟังก์ชันของข้อมูลที่เก็บข้อมูลทั้งหมดที่ข้อมูล xให้ไว้เกี่ยวกับค่าพารามิเตอร์ที่ไม่ทราบค่า ซึ่งหมายความว่า สำหรับชุดข้อมูลใดๆและy อัตราส่วนความน่าจะเป็นจะเท่ากัน นั่นคือถ้า T ( x ) = T ( y )ซึ่งเป็นจริงแม้ว่า xและ yจะไม่เท่ากันก็ตาม มิติของ T ( x )เท่ากับจำนวนพารามิเตอร์ของ θและครอบคลุมข้อมูลทั้งหมดเกี่ยวกับข้อมูลที่เกี่ยวข้องกับพารามิเตอร์ θสถิติเพียงพอของชุด ข้อมูลการสังเกต ที่เป็นอิสระและมีการแจกแจงเหมือนกันนั้นเป็นเพียงผลรวมของสถิติเพียงพอแต่ละตัว และรวบรวมข้อมูลทั้งหมดที่จำเป็นในการอธิบายการแจกแจงภายหลังของพารามิเตอร์ เมื่อกำหนดข้อมูล (และด้วยเหตุนี้จึงสามารถประมาณค่าพารามิเตอร์ที่ต้องการได้) (คุณสมบัติที่สำคัญนี้จะกล่าวถึงเพิ่มเติมด้านล่าง )
  • ηเรียกว่าพารามิเตอร์ธรรมชาติเซตของค่าηที่ทำให้ฟังก์ชันสามารถหาปริพันธ์ได้เรียกว่าปริภูมิพารามิเตอร์ธรรมชาติสามารถแสดงได้ว่าปริภูมิพารามิเตอร์ธรรมชาติเป็น ปริภูมิ แบบนูน เสมอ
  • A ( η )เรียกว่าฟังก์ชันการแบ่งพาร์ติชันแบบลอการิทึม[ b ]เนื่องจากเป็นลอการิทึมของปัจจัยการทำให้เป็นมาตรฐานซึ่งหากไม่มีปัจจัยนี้จะไม่สามารถเป็นการกระจายความน่าจะเป็นได้:

ฟังก์ชันAมีความสำคัญในตัวของมันเอง เพราะค่าเฉลี่ยความแปรปรวนและโมเมนต์ อื่นๆ ของสถิติเพียงพอT ( x )สามารถหาได้ง่ายๆ โดยการหาอนุพันธ์ของA ( η )ตัวอย่างเช่น เนื่องจากlog( x )เป็นหนึ่งในส่วนประกอบของสถิติเพียงพอของการแจกแจงแกมมาจึงสามารถหาค่า สำหรับการแจกแจงนี้ได้ง่ายๆ โดยใช้A ( η )ในทางเทคนิคแล้ว นี่เป็นความจริงเพราะเป็นฟังก์ชันสร้างคูมูลันต์ของสถิติเพียงพอ

คุณสมบัติ

ตระกูลฟังก์ชันเลขชี้กำลังมีคุณสมบัติมากมายที่ทำให้มีประโยชน์อย่างยิ่งสำหรับการวิเคราะห์ทางสถิติ ในหลายกรณี สามารถแสดงได้ว่า มี เพียงตระกูลฟังก์ชันเลขชี้กำลังเท่านั้นที่มีคุณสมบัติเหล่านี้ ตัวอย่างเช่น:

กำหนดให้ตระกูลเลขชี้กำลังถูกกำหนดโดย โดยที่คือปริภูมิพารามิเตอร์ ซึ่งแล้ว

  • ถ้ามีส่วนภายในที่ไม่ว่างเปล่าใน แล้วเมื่อกำหนดตัวอย่าง IID ใดๆ สถิติจะเป็นสถิติที่สมบูรณ์สำหรับ[ 9 ] [ 10 ]
  • เป็นสถิติขั้นต่ำสำหรับก็ต่อเมื่อสำหรับทั้งหมดและในการสนับสนุนของถ้าแล้วหรือ[ 11 ]

ตัวอย่าง

เมื่อพิจารณาตัวอย่างในส่วนนี้ สิ่งสำคัญคือต้องระลึกถึงการอภิปรายข้างต้นเกี่ยวกับความหมายของการกล่าวว่า "การแจกแจง" เป็นตระกูลเอกซ์โปเนนเชียล และโดยเฉพาะอย่างยิ่งต้องจำไว้ว่าชุดของพารามิเตอร์ที่อนุญาตให้เปลี่ยนแปลงได้นั้นมีความสำคัญอย่างยิ่งในการกำหนดว่า "การแจกแจง" เป็นตระกูลเอกซ์โปเนนเชียลหรือไม่

การแจกแจงแบบปกติ , แบบเอกซ์โปเนนเชียล, แบบล็อกนอร์มัล, แบบแกมมา, แบบไคกำลังสอง , แบบเบตา , แบบดิริชเล ต์ , แบบ เบอร์นูลลี , แบบแคทิคอล , แบบปัวซง , แบบเรขาคณิต , แบบอินเวอร์ส เกาส์เซียน , แบบ ALAAM , แบบฟอนมิเซสและแบบฟอนมิเซส-ฟิชเชอร์ ล้วนเป็นตระกูลการแจกแจงแบบเอกซ์โปเนนเชียลทั้งสิ้น

การแจกแจงบางประเภทจะเป็นตระกูลการแจกแจงเอกซ์โพเนนเชียลได้ก็ต่อเมื่อพารามิเตอร์บางตัวถูกกำหนดให้คงที่เท่านั้น เช่น ตระกูลการแจกแจงพาเรโตที่มีขอบเขตต่ำสุดคงที่x<sub> m </sub> ก็เป็นตระกูลการแจกแจงเอกซ์โพเนนเชียล ตระกูล การแจกแจง ทวินามและพหุนามที่มีจำนวนครั้งในการทดลองคง ที่ nแต่มีพารามิเตอร์ความน่าจะเป็นที่ไม่ทราบค่า ก็เป็นตระกูลการแจกแจงเอกซ์โพเนนเชียล และตระกูลการแจกแจงทวินามเชิงลบที่มีจำนวนความล้มเหลวคงที่ (หรือพารามิเตอร์เวลาหยุด) rก็เป็นตระกูลการแจกแจงเอกซ์โพเนนเชียล อย่างไรก็ตาม หากพารามิเตอร์คงที่ใดๆ ที่กล่าวมาข้างต้นสามารถเปลี่ยนแปลงได้ ตระกูลการแจกแจงที่ได้จะไม่ใช่ตระกูลการแจกแจงเอกซ์โพเนนเชียล

ดังที่กล่าวมาข้างต้น โดยทั่วไปแล้วขอบเขตการรองรับของตระกูลการแจกแจงแบบเอกซ์โพเนนเชียลจะต้องคงที่เหมือนเดิมในทุกการตั้งค่าพารามิเตอร์ของตระกูลนั้น นี่คือเหตุผลที่กรณีข้างต้น (เช่น การแจกแจงแบบทวินามที่มีจำนวนการทดลองแปรผัน การแจกแจงแบบพาเรโตที่มีขอบเขตต่ำสุดแปรผัน) ไม่ใช่ตระกูลการแจกแจงแบบเอกซ์โพเนนเชียล เพราะในทุกกรณี พารามิเตอร์ที่เกี่ยวข้องจะส่งผลต่อขอบเขตการรองรับ (โดยเฉพาะอย่างยิ่ง การเปลี่ยนแปลงค่าต่ำสุดหรือค่าสูงสุดที่เป็นไปได้) ด้วยเหตุผลที่คล้ายกัน การแจกแจงแบบเอกรูปไม่ต่อเนื่องและการแจกแจงแบบเอกรูปต่อเนื่อง จึงไม่ใช่ ตระกูลการแจกแจงแบบเอกซ์โพเนนเชียล เนื่องจากขอบเขตหนึ่งหรือทั้งสองขอบเขตแปรผัน

การแจกแจงไวบูลที่มีพารามิเตอร์รูปร่างk คงที่นั้น เป็นตระกูลการแจกแจงแบบเอกซ์โปเนนเชียล แตกต่างจากตัวอย่างก่อนหน้านี้ พารามิเตอร์รูปร่างไม่มีผลต่อขอบเขตการแจกแจง ข้อเท็จจริงที่ว่าการอนุญาตให้พารามิเตอร์รูปร่างเปลี่ยนแปลงได้ทำให้การแจกแจงไวบูลไม่ใช่แบบเอกซ์โปเนนเชียลนั้น เป็นผลมาจากรูปแบบเฉพาะของฟังก์ชันความหนาแน่นความน่าจะเป็น ของไวบูล ( kปรากฏอยู่ในเลขชี้กำลังของเลขชี้กำลัง)

โดยทั่วไปแล้ว การแจกแจงที่เกิดจาก การผสมผสานอย่างจำกัดหรือไม่จำกัดของการแจกแจงอื่นๆ เช่น ความหนาแน่น ของแบบจำลองผสมและการแจกแจงความน่าจะเป็นแบบผสมไม่ใช่ ตระกูลเอก ซ์โพเนนเชียล ตัวอย่างเช่น แบบจำลองผสมเกาส์เซียนทั่วไปรวมถึงการแจกแจงแบบหางหนักจำนวน มาก ที่เกิดจากการผสม (เช่น การผสมอย่างไม่จำกัด) การแจกแจงกับการแจกแจงก่อนหน้าเหนือพารามิเตอร์ตัวใดตัวหนึ่ง เช่นการแจกแจงtของนักเรียน (การผสมการแจกแจงปกติเหนือ การแจกแจงก่อนหน้าแบบแม่นยำ ที่แจกแจงแกมมา ) และ การแจกแจง เบตา-ไบโนเมียลและ การแจกแจง ดิริชเลต์-มัลติโนเมียลตัวอย่างอื่นๆ ของการแจกแจงที่ไม่ใช่ตระกูลเอกซ์โพเนนเชียล ได้แก่การแจกแจง F การแจกแจงโคชี การแจกแจงไฮเปอร์จีโอเมตริกและการ แจกแจงโลจิสติ

ต่อไปนี้เป็นตัวอย่างโดยละเอียดของการแสดงการแจกแจงที่มีประโยชน์บางอย่างในรูปแบบของตระกูลเลขชี้กำลัง

การแจกแจงแบบปกติ: ค่าเฉลี่ยไม่ทราบ แต่ค่าความแปรปรวนทราบ

ตัวอย่างแรก พิจารณาตัวแปรสุ่มที่มีการแจกแจงแบบปกติ โดยมีค่าเฉลี่ยμ ที่ไม่ทราบค่า และความแปรปรวนσ²ที่ทราบ ค่า ฟังก์ชันความหนาแน่นของความน่าจะเป็นจะเป็น ดังนี้

นี่คือตระกูลฟังก์ชันเลขชี้กำลังแบบพารามิเตอร์เดียว ดังที่เห็นได้จากการตั้งค่า

ถ้าσ = 1จะอยู่ในรูปแบบมาตรฐาน เนื่องจาก  η ( μ ) = μ

การแจกแจงแบบปกติ: ไม่ทราบค่าเฉลี่ยและไม่ทราบค่าความแปรปรวน

ต่อไป พิจารณากรณีของการแจกแจงแบบปกติที่มีค่าเฉลี่ยและความแปรปรวนที่ไม่ทราบค่า ฟังก์ชันความหนาแน่นของความน่าจะเป็นจะเป็นดังนี้

นี่คือตระกูลเลขชี้กำลังซึ่งสามารถเขียนในรูปแบบมาตรฐานได้โดยการกำหนด

การแจกแจงทวินาม

ตัวอย่างหนึ่งของตระกูลเอกซ์โพเนนเชียลแบบไม่ต่อเนื่อง คือ การแจกแจงทวินามที่มีจำนวนครั้งทดลองnที่ทราบค่า ฟังก์ชันความน่าจะเป็นมวลสำหรับการแจกแจงนี้คือ ซึ่งสามารถเขียนได้เทียบเท่าเป็น ซึ่งแสดงให้เห็นว่าการแจกแจงทวินามเป็นตระกูลเอกซ์โพเนนเชียล โดยมีพารามิเตอร์ธรรมชาติคือ ฟังก์ชันของp นี้ เรียกว่าโลจิต (logit )

ตารางการแจกแจง

ตารางต่อไปนี้แสดงวิธีการเขียนการแจกแจงทั่วไปจำนวนหนึ่งใหม่เป็นการแจกแจงตระกูลเอกซ์โพเนนเชียลที่มีพารามิเตอร์ธรรมชาติ โปรดดูแฟลชการ์ด[ 12 ]สำหรับตระกูลเอกซ์โพเนนเชียลหลัก

สำหรับตัวแปรสเกลาร์และพารามิเตอร์สเกลาร์ รูปแบบจะเป็นดังนี้:

สำหรับตัวแปรสเกลาร์และพารามิเตอร์เวกเตอร์:

สำหรับตัวแปรเวกเตอร์และพารามิเตอร์เวกเตอร์:

สูตรข้างต้นเลือกใช้รูปแบบฟังก์ชันของตระกูลเลขชี้กำลังที่มีฟังก์ชันแบ่งส่วนแบบลอการิทึมเหตุผลก็คือเพื่อให้สามารถคำนวณโมเมนต์ของสถิติเพียงพอ ได้ง่าย โดยการหาอนุพันธ์ของฟังก์ชันนี้เท่านั้น รูปแบบอื่น ๆ เกี่ยวข้องกับการกำหนดพารามิเตอร์ของฟังก์ชันนี้ในรูปของพารามิเตอร์ปกติ แทนที่จะเป็นพารามิเตอร์ธรรมชาติ และ/หรือใช้ตัวประกอบที่อยู่นอกเลขชี้กำลัง ความสัมพันธ์ระหว่างแบบหลังและแบบแรกคือ: ในการแปลงระหว่างการแสดงผลที่เกี่ยวข้องกับพารามิเตอร์สองประเภท ให้ใช้สูตรด้านล่างสำหรับการเขียนพารามิเตอร์ประเภทหนึ่งในรูปของพารามิเตอร์อีกประเภทหนึ่ง

การกระจาย พารามิเตอร์θพารามิเตอร์ธรรมชาติηการแมปพารามิเตอร์ผกผัน การวัดฐานh ( x )สถิติที่เพียงพอT ( x )พาร์ทิชันลอการิทึมA ( η )การแบ่งพาร์ติชันลอการิทึมA ( θ )
การแจกแจงแบบเบอร์นูลลี นี่คือฟังก์ชัน logit นี่คือฟังก์ชันโลจิสติกส์
การแจกแจงทวินามที่มีจำนวนครั้งการทดลองที่ทราบแล้ว
การแจกแจงปัวซง
การแจกแจงทวินามเชิงลบที่มีจำนวนความล้มเหลวที่ทราบแล้ว
การแจกแจงแบบเอกซ์โปเนนเชียล
การแจกแจงพาเรโตที่มีค่าต่ำสุดที่ทราบ
การแจกแจงไวบูลที่มีรูปร่างk ที่ทราบแล้ว
การแจกแจงแบบลาปลาสที่มีค่าเฉลี่ยที่ทราบ
การแจกแจงไคกำลังสอง
การแจกแจงปกติที่มีค่าความแปรปรวนที่ทราบแล้ว
การแจกแจงเบอร์นูลลีแบบต่อเนื่อง

โดยที่log 2หมายถึงลอการิทึมแบบวนซ้ำ

การกระจายแบบปกติ
การแจกแจงแบบลอการิทมิกปกติ
การกระจายแบบเกาส์เซียนผกผัน
การแจกแจงแกมมา
การกระจายแกมมาผกผัน
การกระจายแบบเกาส์เซียนผกผันทั่วไป
การแจกแจงไคกำลังสองผกผันแบบปรับขนาด
การแจกแจงเบต้า (แบบที่ 1)
การแจกแจงเบต้า (แบบที่ 2)
การกระจายปกติหลายตัวแปร
การแจกแจงเชิงหมวดหมู่ (แบบที่ 1)ที่ไหน ที่ไหนคือวงเล็บไอเวอร์สัน[ i ]
การแจกแจงเชิงหมวดหมู่ (แบบที่ 2)ที่ไหนที่ไหนคือวงเล็บไอเวอร์สัน[ i ]
การแจกแจงเชิงหมวดหมู่ (แบบที่ 3)ที่ไหน

นี่คือ ฟังก์ชัน softmaxผกผันซึ่งเป็นการขยายความของฟังก์ชัน logit

ที่ไหน และ .

นี่คือฟังก์ชัน softmax ซึ่ง เป็นการ ขยายความของฟังก์ชัน logistic

คือวงเล็บไอเวอร์สัน[ i ]
การแจกแจงพหุนาม (แบบที่ 1) โดยทราบจำนวนครั้งของการทดลองnที่ไหนที่ไหน
การแจกแจงพหุนาม (แบบที่ 2) โดยทราบจำนวนครั้งของการทดลองที่ไหน

ที่ไหน

การแจกแจงพหุนาม (แบบที่ 3) โดยทราบจำนวนครั้งของการทดลองที่ไหน

ที่ไหนและ

การแจกแจงแบบ Dirichlet (แบบที่ 1)
การแจกแจงแบบ Dirichlet (แบบที่ 2)
การจัดจำหน่ายวิชาร์ต

มีการนำเสนอตัวแปรสามแบบที่มีการกำหนดพารามิเตอร์แตกต่างกัน เพื่ออำนวยความสะดวกในการคำนวณค่าโมเมนต์ของสถิติที่เพียงพอ

หมายเหตุ : ใช้ประโยชน์จากข้อเท็จจริงที่ว่าผลรวมของเมทริกซ์ ( trace) มีลักษณะคล้ายกับ ผลคูณดอท ( dot product ) โดยถือว่าพารามิเตอร์ของเมทริกซ์อยู่ ในรูปเวกเตอร์ ( vectorized ) เมื่อนำไปใส่ในรูปเลขชี้กำลัง นอกจากนี้และเป็นเมทริกซ์สมมาตร ดังนั้น เช่น
การแจกแจงวิชาร์ตผกผัน
การกระจายแบบนอร์มัล-แกมมา
  1. ^ a b cวงเล็บไอเวอร์สันเป็นการขยายความของฟังก์ชันเดลต้าแบบไม่ต่อเนื่อง: ถ้าข้อความในวงเล็บเป็นจริง วงเล็บจะมีค่าเป็น 1; ถ้าข้อความที่อยู่ภายในเป็นเท็จ วงเล็บไอเวอร์สันจะมีค่าเป็นศูนย์ มีสัญลักษณ์ที่แตกต่างกันหลายแบบ เช่น วงเล็บหยัก: a = bเทียบเท่ากับ สัญลักษณ์ [ a = b ]ที่ใช้ข้างต้น

รูปแบบทั้งสามของการแจกแจงเชิงหมวดหมู่และการแจกแจงแบบพหุนามนั้น เกิดจากข้อเท็จจริงที่ว่าพารามิเตอร์ถูกจำกัดไว้ดังนี้

ดังนั้นจึงมีเพียงพารามิเตอร์ที่เป็นอิสระ เท่านั้น

  • ตัวแปรที่ 1 ใช้พารามิเตอร์ธรรมชาติที่มีความสัมพันธ์อย่างง่ายระหว่างพารามิเตอร์มาตรฐานและพารามิเตอร์ธรรมชาติ อย่างไรก็ตาม มีเพียงบางส่วนของพารามิเตอร์ธรรมชาติเท่านั้นที่เป็นอิสระ และเซตของพารามิเตอร์ธรรมชาตินั้นไม่สามารถระบุได้ข้อจำกัดของพารามิเตอร์ปกติจะแปลงเป็นข้อจำกัดที่คล้ายกันสำหรับพารามิเตอร์ธรรมชาติ
  • ตัวแปรที่ 2 แสดงให้เห็นว่าชุดพารามิเตอร์ธรรมชาติทั้งหมดนั้นไม่สามารถระบุได้: การเพิ่มค่าคงที่ใดๆ ให้กับพารามิเตอร์ธรรมชาติจะไม่มีผลต่อการแจกแจงที่ได้ อย่างไรก็ตาม โดยการใช้ข้อจำกัดเกี่ยวกับพารามิเตอร์ธรรมชาติ สูตรสำหรับพารามิเตอร์ปกติในรูปของพารามิเตอร์ธรรมชาติสามารถเขียนได้ในลักษณะที่ไม่ขึ้นอยู่กับค่าคงที่ที่เพิ่มเข้าไป
  • ตัวเลือกที่ 3 แสดงวิธีการทำให้พารามิเตอร์สามารถระบุได้สะดวกโดยการตั้งค่าซึ่งเป็นการ "หมุน" อย่างมีประสิทธิภาพและทำให้พารามิเตอร์ธรรมชาติตัวสุดท้ายมีค่าคงที่เท่ากับ 0 สูตรที่เหลือทั้งหมดเขียนในลักษณะที่ไม่เข้าถึงดังนั้นในทางปฏิบัติแล้วแบบจำลองจึงมีเพียงพารามิเตอร์ ทั้งแบบปกติและแบบธรรมชาติ

ตัวแปร 1 และ 2 ไม่ใช่ตระกูลเลขชี้กำลังมาตรฐานเลย แต่เป็นตระกูลเลขชี้กำลังแบบโค้ง กล่าว คือ มีพารามิเตอร์อิสระฝังอยู่ในปริภูมิพารามิเตอร์มิติ n [ 13 ]ผลลัพธ์มาตรฐานหลายอย่างสำหรับตระกูลเลขชี้กำลังไม่สามารถนำไปใช้กับตระกูลเลขชี้กำลังแบบโค้งได้ ตัวอย่างเช่น ฟังก์ชัน log-partition ซึ่งมีค่าเป็น 0 ในกรณีโค้ง ในตระกูลเลขชี้กำลังมาตรฐาน อนุพันธ์ของฟังก์ชันนี้สอดคล้องกับโมเมนต์ (หรือเรียกทางเทคนิคว่าคูมูลันต์ ) ของสถิติที่เพียงพอ เช่น ค่าเฉลี่ยและความแปรปรวน อย่างไรก็ตาม ค่า 0 บ่งชี้ว่าค่าเฉลี่ยและความแปรปรวนของสถิติที่เพียงพอทั้งหมดเป็น 0 อย่างสม่ำเสมอ ในขณะที่ในความเป็นจริง ค่าเฉลี่ยของสถิติที่เพียงพอที่ th ควรจะเป็น(สิ่งนี้จะปรากฏอย่างถูกต้องเมื่อใช้รูปแบบของที่แสดงในตัวแปร 3)

โมเมนต์และคูมูลันต์ของสถิติเพียงพอ

การทำให้การแจกแจงเป็นมาตรฐาน

เราเริ่มต้นด้วยการทำให้การแจกแจงความน่าจะเป็นเป็นมาตรฐาน โดยทั่วไปแล้ว ฟังก์ชันf ( x ) ที่ไม่เป็นลบใดๆ ที่ทำหน้าที่เป็นแกนหลักของการแจกแจงความน่าจะเป็น (ส่วนที่เข้ารหัสการพึ่งพาx ทั้งหมด ) สามารถทำให้เป็นการแจกแจงที่เหมาะสมได้โดยการทำให้เป็นมาตรฐาน กล่าวคือ

ที่ไหน

บางครั้ง ตัวประกอบZจะถูกเรียกว่าตัวปรับมาตรฐานหรือฟังก์ชันแบ่งส่วนโดยอิงจากความคล้ายคลึงกับฟิสิกส์เชิงสถิติ

ในกรณีของตระกูลเลขชี้กำลังที่

เคอร์เนลคือ และฟังก์ชันพาร์ติชันคือ

เนื่องจากการกระจายตัวจะต้องได้รับการทำให้เป็นมาตรฐาน เราจึงมี

กล่าวอีกนัยหนึ่ง หรือเทียบเท่ากัน

ด้วยเหตุนี้จึงเรียก ฟังก์ชัน A ว่า ฟังก์ชัน ปรับค่าลอการิทึมให้เป็นมาตรฐานหรือฟังก์ชันแบ่งพาร์ติชันลอการิทึม

ฟังก์ชันสร้างโมเมนต์ของสถิติเพียงพอ

ตอนนี้ฟังก์ชันสร้างโมเมนต์ของT ( x )คือ

เป็นการพิสูจน์คำกล่าวข้างต้นที่ว่า

คือฟังก์ชันก่อกำเนิดคูมูลันต์ สำหรับT

กลุ่มย่อยที่สำคัญของตระกูลเลขชี้กำลังคือตระกูลเลขชี้กำลังธรรมชาติซึ่งมีรูปแบบที่คล้ายคลึงกันสำหรับฟังก์ชันสร้างโมเมนต์ของการกระจายของ x

เอกลักษณ์เชิงอนุพันธ์สำหรับคูมูลันต์

โดยเฉพาะอย่างยิ่ง การใช้คุณสมบัติของฟังก์ชันก่อกำเนิดคูมูลันต์

และ

โมเมนต์ดิบสองค่าแรกและโมเมนต์อันดับสองแบบผสมทั้งหมดสามารถกู้คืนได้จากเอกลักษณ์ทั้งสองนี้ โมเมนต์และคูมูลันต์ลำดับสูงกว่าได้มาจากการอนุพันธ์ลำดับสูงกว่า เทคนิคนี้มักมีประโยชน์เมื่อTเป็นฟังก์ชันที่ซับซ้อนของข้อมูล ซึ่งโมเมนต์ของข้อมูลนั้นคำนวณได้ยากโดยการอินทิเกรต

อีกวิธีหนึ่งที่จะมองเรื่องนี้โดยไม่ต้องอาศัยทฤษฎีของคูมูลันต์คือ เริ่มจากข้อเท็จจริงที่ว่าการแจกแจงของตระกูลเอกซ์โพเนนเชียลจะต้องได้รับการทำให้เป็นมาตรฐาน แล้วจึงทำการหาอนุพันธ์ เราจะยกตัวอย่างโดยใช้กรณีง่ายๆ ของพารามิเตอร์หนึ่งมิติ แต่การพิสูจน์ในทำนองเดียวกันนี้สามารถใช้ได้กับกรณีทั่วไปมากกว่า

ในกรณีหนึ่งมิติ เรามี

สิ่งนี้ต้องได้รับการปรับให้เป็นมาตรฐาน ดังนั้น

หาอนุพันธ์ของทั้งสองข้างเทียบกับη :

ดังนั้น,

ตัวอย่างที่ 1

เพื่อเป็นตัวอย่างเบื้องต้น ลองพิจารณาการแจกแจงแกมมาซึ่งการแจกแจงนี้กำหนดโดย

จากตารางข้างต้น เราจะเห็นว่าพารามิเตอร์ธรรมชาติมีค่าดังนี้

การแทนที่แบบย้อนกลับคือ

สถิติที่เพียงพอคือ(log x , x)และฟังก์ชันการแบ่งพาร์ติชันแบบลอการิทึมคือ

เราสามารถหาค่าเฉลี่ยของสถิติเพียงพอได้ดังนี้ ขั้นแรก สำหรับη 1 :

ฟังก์ชันไดแกมมา (อนุพันธ์ของลอการิทึมแกมมา) อยู่ที่ไหนและเราใช้การแทนที่แบบย้อนกลับในขั้นตอนสุดท้าย

ต่อไปนี้คือค่าη 2 :

อีกครั้งโดยทำการแทนที่แบบย้อนกลับในขั้นตอนสุดท้าย

ในการคำนวณค่าความแปรปรวนของxเราเพียงแค่ทำการหาอนุพันธ์อีกครั้ง:

การคำนวณทั้งหมดนี้สามารถทำได้โดยใช้การอินทิเกรต โดยใช้ประโยชน์จากคุณสมบัติต่างๆ ของฟังก์ชันแกมมาแต่ต้องใช้ความพยายามมากกว่ามาก

ตัวอย่างที่ 2

อีกตัวอย่างหนึ่งคือ พิจารณาตัวแปรสุ่มค่าจริงXที่มีฟังก์ชันความหนาแน่น

จัดทำดัชนีโดยพารามิเตอร์รูปร่าง(เรียกว่าการแจกแจงแบบสเกวโลจิสติก ) ความหนาแน่นสามารถเขียนใหม่ได้ดังนี้

โปรดสังเกตว่านี่คือตระกูลเลขชี้กำลังที่มีพารามิเตอร์ธรรมชาติ

สถิติที่เพียงพอ

และฟังก์ชันการแบ่งพาร์ติชันลอการิทึม

ดังนั้น เมื่อใช้เอกลักษณ์แรก

และใช้เอกลักษณ์ที่สอง

ตัวอย่างนี้แสดงให้เห็นถึงกรณีที่การใช้วิธีนี้ง่ายมาก แต่การคำนวณโดยตรงนั้นแทบจะเป็นไปไม่ได้เลย

ตัวอย่างที่ 3

ตัวอย่างสุดท้ายคือกรณีที่การหาปริพันธ์ทำได้ยากมาก นั่นคือกรณีของการแจกแจงวิชาร์ตซึ่งกำหนดไว้บนเมทริกซ์ แม้แต่การหาอนุพันธ์ก็ยังค่อนข้างยุ่งยาก เพราะเกี่ยวข้องกับแคลคูลัสเมทริกซ์แต่เอกลักษณ์ที่เกี่ยวข้องได้ระบุไว้ในบทความนั้นแล้ว

จากตารางข้างต้น เราจะเห็นได้ว่าพารามิเตอร์ธรรมชาติมีค่าดังนี้

การแทนที่แบบย้อนกลับคือ

และสถิติที่เพียงพอคือ

ฟังก์ชันการแบ่งพาร์ติชันแบบลอการิทึมถูกเขียนในรูปแบบต่างๆ ในตาราง เพื่ออำนวยความสะดวกในการหาอนุพันธ์และการแทนค่ากลับ เราใช้รูปแบบต่อไปนี้:

ความคาดหวังของX (ที่เกี่ยวข้องกับη 1 )

ในการหาอนุพันธ์เทียบกับη 1เราจำเป็นต้องใช้ เอกลักษณ์ แคลคูลัสเมทริกซ์ ต่อไปนี้ :

แล้ว:

บรรทัดสุดท้ายใช้ข้อเท็จจริงที่ว่าVเป็นเมทริกซ์สมมาตร ดังนั้นจึงเหมือนเดิมเมื่อสลับตำแหน่ง

ความคาดหวังของ log | X | (ที่เกี่ยวข้องกับη 2 )

ทีนี้ สำหรับη 2เราจำเป็นต้องขยายส่วนของฟังก์ชัน log-partition ที่เกี่ยวข้องกับฟังก์ชันแกมมาหลายตัวแปร ก่อน :

นอกจากนี้เรายังต้องการฟังก์ชันไดแกมมา ด้วย :

แล้ว:

สูตรหลังนี้ปรากฏอยู่ใน บทความเกี่ยวกับ การแจกแจงแบบวิชาร์ตความคาดหวังทั้งสองนี้จำเป็นเมื่อทำการหา อนุพันธ์ของสมการปรับปรุง แบบเบย์แปรผันในเครือข่ายเบย์ที่เกี่ยวข้องกับการแจกแจงแบบวิชาร์ต (ซึ่งเป็นไพรเออร์คู่ควบของการแจกแจงปกติแบบหลายตัวแปร )

การคำนวณสูตรเหล่านี้โดยใช้การอินทิเกรตจะยากกว่ามาก ตัวอย่างเช่น สูตรแรกจะต้องใช้การอินทิเกรตเมทริกซ์

เอนโทรปี

เอนโทรปีสัมพัทธ์

เอนโทรปีสัมพัทธ์ ( ความแตกต่างของ Kullback–Leibler , KL divergence) ของการแจกแจงสองแบบในตระกูลเอกซ์โพเนนเชียลมีการแสดงออกอย่างง่ายในรูปของความแตกต่างของ Bregmanระหว่างพารามิเตอร์ธรรมชาติโดยสัมพันธ์กับ log-normalizer [ 14 ]เอนโทรปีสัมพัทธ์ถูกกำหนดในรูปของปริพันธ์ ในขณะที่ความแตกต่างของ Bregman ถูกกำหนดในรูปของอนุพันธ์และผลคูณภายใน ดังนั้นจึงคำนวณได้ง่ายกว่าและมีสูตรสำเร็จรูป (โดยสมมติว่าอนุพันธ์มีสูตรสำเร็จรูป) นอกจากนี้ ความแตกต่างของ Bregman ในรูปของพารามิเตอร์ธรรมชาติและ log-normalizer เท่ากับความแตกต่างของ Bregman ของพารามิเตอร์คู่ (พารามิเตอร์ความคาดหวัง) ในลำดับตรงกันข้าม สำหรับฟังก์ชันคู่ควบนูน[ 15 ]

เมื่อกำหนดตระกูลเอกซ์โพเนนเชียลที่มีตัวปรับค่าลอการิทึม( พร้อมคอนจูเกตแบบนูน) โดยเขียนแทน การ แจกแจงในตระกูลนี้ที่สอดคล้องกับค่าคงที่ของพารามิเตอร์ธรรมชาติ(โดยเขียนแทนค่าอื่น และแทนพารามิเตอร์ความคาดหวัง/โมเมนต์คู่ที่สอดคล้องกัน) โดยเขียนKLแทนความแตกต่าง KL และแทน ความแตกต่าง Bregman ความแตกต่างเหล่า นี้มีความสัมพันธ์กันดังนี้ :

โดยทั่วไปแล้ว ค่าความแตกต่าง KL จะเขียนโดยอ้างอิงกับ พารามิเตอร์ ตัวแรกในขณะที่ค่าความแตกต่าง Bregman จะเขียนโดยอ้างอิงกับ พารามิเตอร์ ตัวที่สองดังนั้นจึงสามารถอ่านได้ว่า "เอนโทรปีสัมพัทธ์เท่ากับค่าความแตกต่าง Bregman ที่กำหนดโดยตัวทำให้เป็นมาตรฐานแบบลอการิทึมบนพารามิเตอร์ธรรมชาติที่สลับกัน" หรือเทียบเท่ากับ "เท่ากับค่าความแตกต่าง Bregman ที่กำหนดโดยคู่ขนานของตัวทำให้เป็นมาตรฐานแบบลอการิทึมบนพารามิเตอร์ความคาดหวัง"

การหาค่าเอนโทรปีสูงสุด

ตระกูลเลขชี้กำลังเกิดขึ้นตามธรรมชาติเป็นคำตอบของคำถามต่อไปนี้: การกระจาย เอนโทรปีสูงสุดที่สอดคล้องกับข้อจำกัดที่กำหนดเกี่ยวกับค่าที่คาดหวังคืออะไร? [ 16 ]

เอนโทรปีสารสนเทศของการกระจายความน่าจะเป็นdF ( x )สามารถคำนวณได้โดยอ้างอิงจากการกระจายความน่าจะเป็นอื่น (หรือโดยทั่วไปแล้วคือการวัดเชิงบวก) เท่านั้น และการวัดทั้งสองต้อง มีความต่อเนื่องสัมบูรณ์ซึ่งกันและกันดังนั้น เราจึงต้องเลือกการวัดอ้างอิงdH ( x )ที่มีขอบเขตเดียวกันกับdF ( x )

เอนโทรปีของdF ( x )เทียบกับdH ( x )คือ

หรือ

โดยที่dF / dHและdH / dFคืออนุพันธ์ของ Radon–Nikodymนิยามทั่วไปของเอนโทรปีสำหรับการกระจายแบบไม่ต่อเนื่องที่รองรับบนเซตIคือ

สมมติว่า (แม้ว่าจะไม่ค่อยมีการกล่าวถึง) dH ถูกเลือกให้เป็นมาตรวัดการนับบนI

พิจารณากลุ่มของปริมาณที่สังเกตได้ (ตัวแปรสุ่ม) T iการแจกแจงความน่าจะเป็นdFที่มีเอนโทรปีเทียบกับdHมากที่สุด ภายใต้เงื่อนไขที่ว่าค่าคาดหวังของT iเท่ากับt i จะ เป็นตระกูลเอกซ์โพเนนเชียล โดยมีdHเป็นมาตรวัดอ้างอิง และ( T 1 , ..., T n )เป็นสถิติเพียงพอ

การหาอนุพันธ์เป็นการคำนวณแบบแปรผัน อย่างง่าย โดยใช้ตัวคูณลากรางจ์ การทำให้เป็นมาตรฐานทำได้โดยการกำหนดให้T 0 = 1เป็นหนึ่งในข้อจำกัด พารามิเตอร์ตามธรรมชาติของการแจกแจงคือตัวคูณลากรางจ์ และปัจจัยการทำให้เป็นมาตรฐานคือตัวคูณลากรางจ์ที่เกี่ยวข้องกับT 0

สำหรับตัวอย่างของการหาอนุพันธ์ดังกล่าว โปรดดูที่การ กระจายความน่าจะเป็นแบบเอนโทรปีสูงสุด

บทบาทในด้านสถิติ

การประเมินแบบคลาสสิก: ความเพียงพอ

ตามทฤษฎีบท ของ Pitman - Koopman - Darmoisในบรรดาตระกูลของการแจกแจงความน่าจะเป็นที่มีโดเมนไม่เปลี่ยนแปลงตามพารามิเตอร์ที่กำลังประมาณค่า มีเพียงตระกูลการแจกแจงแบบเอกซ์โปเนนเชียลเท่านั้นที่มีสถิติเพียงพอซึ่งมิติยังคงมีขอบเขตจำกัดเมื่อขนาดตัวอย่างเพิ่มขึ้น

กล่าวโดยสรุป สมมติว่าX k (โดยที่k = 1, 2, 3, ... n ) เป็น ตัวแปรสุ่มอิสระที่มีการแจกแจงเหมือน กันเฉพาะในกรณีที่การแจกแจงของตัวแปรสุ่มเหล่านี้อยู่ในตระกูลการแจกแจงแบบเอกซ์โพเนนเชียลเท่านั้น จึงจะมีสถิติเพียงพอT ( X 1 , ..., X n )ที่จำนวนส่วนประกอบสเกลาร์ไม่เพิ่มขึ้นเมื่อขนาดตัวอย่างnเพิ่มขึ้น สถิติTอาจเป็นเวกเตอร์หรือจำนวนสเกลาร์เดี่ยวแต่ไม่ว่าจะเป็นอะไรก็ตามขนาด ของมัน จะไม่เพิ่มขึ้นหรือลดลงเมื่อได้รับข้อมูลเพิ่มเติม

ในทางกลับกัน หากเงื่อนไขเหล่านี้ผ่อนคลายลง กลุ่มของการแจกแจงแบบเอกรูป (ไม่ว่าจะเป็นแบบไม่ต่อเนื่องหรือแบบต่อเนื่องโดยที่ขอบเขตใดขอบเขตหนึ่งหรือทั้งสองอย่างไม่ทราบค่า) จะมีสถิติที่เพียงพอ ได้แก่ ค่าสูงสุดของตัวอย่าง ค่าต่ำสุดของตัวอย่าง และขนาดของตัวอย่าง แต่จะไม่ก่อให้เกิดกลุ่มการแจกแจงแบบเอกซ์โปเนนเชียล เนื่องจากโดเมนจะแปรผันตามพารามิเตอร์

การประมาณค่าแบบเบย์เซียน: การแจกแจงแบบคู่ควบ

ตระกูลเลขชี้กำลังมีความสำคัญในสถิติแบบเบย์เซียน เช่นกัน ในสถิติแบบเบย์เซียนการแจกแจงความน่าจะเป็นก่อนหน้าจะถูกคูณด้วยฟังก์ชันความน่าจะเป็นแล้วจึงปรับให้เป็นมาตรฐานเพื่อสร้างการแจกแจงความน่าจะเป็นภายหลังในกรณีที่ฟังก์ชันความน่าจะเป็นอยู่ในตระกูลเลขชี้กำลัง จะมีค่าความน่าจะเป็นก่อนหน้าแบบสังยุค ซึ่งมักจะอยู่ในตระกูลเลขชี้กำลังเช่นกัน ค่าความน่าจะเป็นก่อนหน้าแบบสังยุค π สำหรับพารามิเตอร์ของตระกูลเลขชี้กำลัง

ได้รับจาก

หรือเทียบเท่า

โดยที่sคือมิติของและและคือไฮเปอร์พารามิเตอร์ (พารามิเตอร์ที่ควบคุมพารามิเตอร์) สอดคล้องกับจำนวนการสังเกตที่มีประสิทธิภาพที่การแจกแจงก่อนหน้ามีส่วนร่วม และสอดคล้องกับปริมาณทั้งหมดที่การสังเกตเสมือนเหล่านี้มีส่วนร่วมต่อสถิติที่เพียงพอเหนือการสังเกตและการสังเกตเสมือนทั้งหมดคือค่าคงที่การทำให้เป็นมาตรฐานซึ่งถูกกำหนดโดยอัตโนมัติโดยฟังก์ชันที่เหลือและใช้เพื่อให้แน่ใจว่าฟังก์ชันที่กำหนดเป็นฟังก์ชันความหนาแน่นของความน่าจะเป็น (กล่าวคือ เป็นมาตรฐาน ) และ ในทำนองเดียวกันคือฟังก์ชันเดียวกันกับในคำจำกัดความของการแจกแจงซึ่ง π คือการแจกแจงก่อนหน้าแบบสังยุค

ไพรเออร์แบบคอนจูเกต คือไพรเออร์ที่เมื่อรวมกับความน่าจะเป็นและทำให้เป็นมาตรฐานแล้ว จะได้การแจกแจงแบบโพสทีเรียร์ที่มีประเภทเดียวกันกับไพรเออร์ ตัวอย่างเช่น หากเรากำลังประมาณความน่าจะเป็นของความสำเร็จของการแจกแจงแบบทวินาม หากเราเลือกใช้การแจกแจงแบบเบตาเป็นไพรเออร์ การแจกแจงแบบโพสทีเรียร์ก็จะเป็นการแจกแจงแบบเบตาอีกแบบหนึ่ง ซึ่งทำให้การคำนวณการแจกแจงแบบโพสทีเรียร์ง่ายขึ้นมาก ในทำนองเดียวกัน หากเรากำลังประมาณค่าพารามิเตอร์ของการแจกแจงแบบปัวซงการใช้ไพรเออร์แบบแกมมาจะนำไปสู่การแจกแจงแบบโพสทีเรียร์แบบแกมมาอีกแบบหนึ่ง ไพรเออร์แบบคอนจูเกตมักมีความยืดหยุ่นและสะดวกมาก อย่างไรก็ตาม หากความเชื่อของเราเกี่ยวกับค่าที่เป็นไปได้ของพารามิเตอร์ทีตาของการแจกแจงแบบทวินามแสดงโดยการแจกแจงแบบไพรเออร์แบบสองยอด (bimodal) (เช่น) การแจกแจงแบบเบตาจะไม่สามารถแสดงได้ด้วยการแจกแจงแบบเบตา แต่สามารถแสดงได้โดยใช้ความหนาแน่นแบบผสมเป็นไพรเออร์ ในที่นี้คือการรวมกันของการแจกแจงแบบเบตา 2 แบบ ซึ่งเป็นรูปแบบหนึ่งของไฮเปอร์ไพรเออร์

ความน่าจะเป็นแบบสุ่มจะไม่จัดอยู่ในกลุ่มฟังก์ชันเอกซ์โปเนนเชียล ดังนั้นโดยทั่วไปจึงไม่มีไพรเออร์แบบสังยุคอยู่ ดังนั้นจึงต้องคำนวณความน่าจะเป็นภายหลังด้วยวิธีการเชิงตัวเลข

เพื่อแสดงว่าการแจกแจงความน่าจะเป็นก่อนหน้าข้างต้นเป็นการแจกแจงความน่าจะเป็นก่อนหน้าแบบสังยุค เราสามารถหาการแจกแจงความน่าจะเป็นภายหลังได้

ขั้นแรก สมมติว่าความน่าจะเป็นของการสังเกตเพียงครั้งเดียวเป็นไปตามตระกูลฟังก์ชันเอกซ์ponential โดยมีพารามิเตอร์ตามธรรมชาติเป็นตัวกำหนด:

จากนั้น สำหรับข้อมูลความน่าจะเป็นจะคำนวณได้ดังนี้:

จากนั้น สำหรับไพรเออร์คู่ควบข้างต้น:

จากนั้นเราสามารถคำนวณค่าความน่าจะเป็นภายหลังได้ดังนี้:

บรรทัดสุดท้ายคือเคอร์เนลของการแจกแจงความน่าจะเป็นภายหลัง กล่าวคือ

สิ่งนี้แสดงให้เห็นว่าค่าความน่าจะเป็นภายหลังมีรูปแบบเดียวกันกับค่าความน่าจะเป็นก่อนหน้า

ข้อมูลXเข้าสู่สมการนี้เฉพาะในนิพจน์ เท่านั้น

ซึ่งเรียกว่าสถิติเพียงพอของข้อมูล กล่าวคือ ค่าของสถิติเพียงพอนั้นเพียงพอที่จะกำหนดการแจกแจงภายหลังได้อย่างสมบูรณ์ ไม่จำเป็นต้องใช้จุดข้อมูลจริง และชุดข้อมูลทั้งหมดที่มีสถิติเพียงพอเดียวกันจะมีลักษณะการแจกแจงเดียวกัน นี่เป็นสิ่งสำคัญเพราะมิติของสถิติเพียงพอจะไม่เพิ่มขึ้นตามขนาดของข้อมูล — มันมีส่วนประกอบเพียงเท่ากับจำนวนส่วนประกอบของ(หรือเทียบเท่ากับจำนวนพารามิเตอร์ของการแจกแจงของจุดข้อมูลเดียว)

สมการสำหรับการปรับปรุงมีดังนี้:

สิ่งนี้แสดงให้เห็นว่าสมการการปรับปรุงสามารถเขียนได้ง่ายๆ โดยใช้จำนวนจุดข้อมูลและสถิติเพียงพอของข้อมูล ซึ่งสามารถเห็นได้อย่างชัดเจนในตัวอย่างต่างๆ ของสมการการปรับปรุงที่แสดงใน หน้าเกี่ยวกับไพรเออร์ แบบคอนจูเกตเนื่องจากวิธีการคำนวณสถิติเพียงพอ จึงจำเป็นต้องใช้ผลรวมของส่วนประกอบของข้อมูล (ในบางกรณีอาจอยู่ในรูปผลคูณหรือรูปแบบอื่นๆ — ผลคูณสามารถเขียนได้ในรูปผลรวมของลอการิทึม ) กรณีที่สมการการปรับปรุงสำหรับการแจกแจงเฉพาะไม่ตรงกับรูปแบบข้างต้น คือกรณีที่ไพรเออร์แบบคอนจูเกตถูกแสดงโดยใช้การกำหนดพารามิเตอร์ ที่แตกต่าง จากที่สร้างไพรเออร์แบบคอนจูเกตในรูปแบบข้างต้น — โดยเฉพาะอย่างยิ่งเนื่องจากรูปแบบข้างต้นถูกกำหนดไว้เหนือพารามิเตอร์ธรรมชาติในขณะที่ไพรเออร์แบบคอนจูเกตมักถูกกำหนดไว้เหนือพารามิเตอร์จริง

การประมาณค่าที่ไม่ลำเอียง

ถ้าความน่าจะเป็นเป็นตระกูลเอกซ์โพเนนเชียล ตัวประมาณที่ไม่เอนเอียงของคือ[ 17 ]

การทดสอบสมมติฐาน: การทดสอบที่มีประสิทธิภาพสูงสุดอย่างสม่ำเสมอ

ตระกูลเอกซ์โพเนนเชียลแบบพารามิเตอร์เดียวมีอัตราส่วนความน่าจะเป็นที่ไม่ลดลงแบบโมโนโทนในสถิติเพียงพอT ( x )โดยมีเงื่อนไขว่าη ( θ ) ไม่ลดลง ผลที่ ตาม มา คือ มีการทดสอบที่มีกำลังสูงสุดอย่างสม่ำเสมอสำหรับการทดสอบสมมติฐานH₀ : θθ₀เทียบกับH₁ : θ < θ₀

แบบจำลองเชิงเส้นทั่วไป

ตระกูลเลขชี้กำลังเป็นพื้นฐานของฟังก์ชันการแจกแจงที่ใช้ในแบบจำลองเชิงเส้นทั่วไป (GLM) ซึ่งเป็นแบบจำลองประเภทหนึ่งที่ครอบคลุมแบบจำลองการถดถอยที่ใช้กันทั่วไปในทางสถิติหลายแบบ ตัวอย่างเช่นการถดถอยโลจิสติกโดยใช้ตระกูลทวินาม และการถดถอยปัวซ

ดูเพิ่มเติม

เชิงอรรถ

  1. ตัวอย่างเช่น กลุ่มของการแจกแจงปกติประกอบด้วยการแจกแจงปกติมาตรฐาน N (0, 1)ที่มีค่าเฉลี่ย 0 และความแปรปรวน 1 รวมถึงการแจกแจงปกติอื่นๆ ที่มีค่าเฉลี่ยและความแปรปรวนแตกต่างกัน
  2. ^ ในทางสถิติ คำว่า "ฟังก์ชันการแบ่งส่วน"มักใช้เป็นคำพ้องความหมายของ "ตัวประกอบการทำให้เป็นมาตรฐาน"
  3. ^การแจกแจงเหล่านี้มักไม่ใช่ตระกูลการแจกแจงแบบเอกซ์โปเนนเชียล ตัวอย่างทั่วไปของตระกูลการแจกแจงที่ไม่ใช่เอกซ์โปเนนเชียลที่เกิดขึ้นจากตระกูลเอกซ์โปเนนเชียล ได้แก่ การ แจกแจง แบบ tของนักเรียนการแจกแจงแบบเบตา-ไบโนเมียลและการแจกแจงแบบดิริชเลต์-มัลติโนเมีย

อ่านเพิ่มเติม

  • Fahrmeir, Ludwig; Tutz, G. (1994). การสร้างแบบจำลองทางสถิติหลายตัวแปรโดยใช้แบบจำลองเชิงเส้นทั่วไป Springer. หน้า  18–22 , 345–349 . ISBN 0-387-94233-5.
  • คีนเนอร์, โรเบิร์ต ดับเบิลยู. (2006). สถิติเชิงทฤษฎี: หัวข้อสำหรับหลักสูตรแกนกลาง . สปริงเกอร์. หน้า  27–28 , 32–33 . ISBN 978-0-387-93838-7.
  • เลห์มันน์, เอล; คาเซลลา, จี. (1998) ทฤษฎีการประมาณค่าจุด (ฉบับพิมพ์ครั้งที่ 2) วินาที 1.5. ไอเอสบีเอ็น 0-387-98502-6.
  • บทนำเกี่ยวกับตระกูลการแจกแจงแบบเอกซ์โปเนนเชียล
  • ตระกูลการแจกแจงแบบเอกซ์โปเนนเชียลการใช้คำศัพท์ทางคณิตศาสตร์บางคำที่เก่าแก่ที่สุดเท่าที่ทราบ
  • jMEF: ไลบรารี Java สำหรับตระกูลเลขชี้กำลังลิงก์ที่เลิกใช้งานแล้วถูกเก็บถาวรเมื่อ 2013-04-11 ที่archive.today
  • แบบจำลองกราฟิก ตระกูลเลขชี้กำลัง และการอนุมานเชิงแปรผันโดย Wainwright และ Jordan (2008)
ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Exponential_family&oldid=1353354621 "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ ตระกูลเลขชี้กำลัง

ใน ความน่าจะเป็น และ สถิติ ตระกูล เอกซ์ โพเนนเชียล คือ ชุด พารามิเตอร์ ของ การแจกแจงความน่าจะเป็น ในรูปแบบหนึ่งที่ระบุไว้ด้านล่าง รูปแบบพิเศษนี้ถูกเลือกเพื่อความสะดวกทางคณิตศาสตร์...

ความยากในการตั้งชื่อ

คำว่า "การแจกแจง" และ "ตระกูล" มักถูกใช้ในความหมายที่ไม่เคร่งครัดนัก โดยเฉพาะอย่างยิ่ง ตระกูล เอกซ์โพเนนเชียลคือ ชุด ของการแจกแจง ซึ่งการแจกแจงเฉพาะจะแปรผันตามพารามิเตอร์ [ a ] อย่างไรก็ตาม ตระกูล การแจกแจงแบบพารามิเตอร์มักถูกเรียกว่า " การ แจกแจง" (เช่น...

คำนิยาม

การแจกแจงที่ใช้กันทั่วไปส่วนใหญ่เป็นแบบตระกูลเอกซ์โพเนนเชียลหรือเป็นส่วนย่อยของตระกูลเอกซ์โพเนนเชียล ซึ่งแสดงไว้ในหัวข้อย่อยด้านล่าง หัวข้อย่อยถัดไปเป็นลำดับของคำจำกัดความทางคณิตศาสตร์ที่ครอบคลุมมากขึ้นเรื่อยๆ ของตระกูลเอกซ์โพเนนเชียล...

ตัวอย่างของการแจกแจงแบบตระกูลเลขชี้กำลัง

ตระกูลเลขชี้กำลังประกอบด้วยการแจกแจงที่พบได้บ่อยที่สุดหลายอย่าง ในบรรดาการแจกแจงอื่นๆ อีกมากมาย ตระกูลเลขชี้กำลังยังรวมถึงสิ่งต่อไปนี้: [ 6 ]