อ่าน 5 นาที
ฟังก์ชันเว้าแบบลอการิทึม
ในการวิเคราะห์ความนูนฟังก์ชันที่ไม่เป็นลบf : R n → R +จะเป็นฟังก์ชันเว้าเชิงลอการิทึม (หรือเรียกสั้น ๆ ว่าlog-concave ) ถ้า โดเมน ของฟังก์ชัน...
ฟังก์ชันเว้าแบบลอการิทึม
ในการวิเคราะห์ความนูนฟังก์ชันที่ไม่เป็นลบf : R n → R +จะเป็นฟังก์ชันเว้าเชิงลอการิทึม (หรือเรียกสั้น ๆ ว่าlog-concave ) ถ้า โดเมน ของฟังก์ชัน เป็นเซตแบบนูนและถ้ามันสอดคล้องกับอสมการ
สำหรับทุกx , y ∈ dom fและ0 < θ < 1ถ้าfเป็นค่าบวกอย่างแท้จริง นี่เทียบเท่ากับการกล่าวว่าลอการิทึมของฟังก์ชันlog ∘ fเป็นฟังก์ชันเว้านั่นคือ
สำหรับทุกx , y ∈ dom fและ0 < θ < 1
ตัวอย่างของฟังก์ชันลอการิทึมเว้า ได้แก่ฟังก์ชันตัวบ่งชี้ 0-1 ของเซตแบบนูน (ซึ่งต้องใช้คำจำกัดความที่ยืดหยุ่นกว่า) และฟังก์ชันเกาส์เซียน
ในทำนองเดียวกัน ฟังก์ชันจะเป็นฟังก์ชันลอการิทึมนูน (log-convex)ถ้าฟังก์ชันนั้นสอดคล้องกับอสมการผกผัน
สำหรับทุกx , y ∈ dom fและ0 < θ < 1
สำหรับฟังก์ชันแบบไม่ต่อเนื่องที่ไม่เป็นลบf : Z → R +จะเป็น log-concave [ 1 ]ถ้า
คุณสมบัติ
- ฟังก์ชัน log-concave ยังเป็นquasi-concave ด้วย ซึ่งเป็นผลมาจากข้อเท็จจริงที่ว่า logarithm เป็นฟังก์ชันเอกภาค ซึ่งหมายความว่าเซตระดับบนสุดของฟังก์ชันนี้เป็นเซตแบบนูน[ 2 ]
- ฟังก์ชันเว้าทุกฟังก์ชันที่มีค่าไม่เป็นลบในโดเมนของมันจะเป็นฟังก์ชันลอการิทึมเว้า อย่างไรก็ตาม ข้อความกลับกันนั้นไม่จำเป็นต้องเป็นจริงเสมอไป ตัวอย่างเช่นฟังก์ชันเกาส์เซียนf ( x ) = exp(−x² / 2) ซึ่งเป็นฟังก์ชันลอการิทึมเว้า เนื่องจากlog f ( x ) = −x² / 2เป็นฟังก์ชันเว้าของxแต่fไม่ใช่ฟังก์ชันเว้า เนื่องจากอนุพันธ์อันดับสองมีค่าเป็นบวกสำหรับ | x | > 1
- จากสองประเด็นข้างต้นความเว้า ความเว้า แบบลอการิทึม และความเว้าแบบ กึ่ง เว้า
- ฟังก์ชันที่หาอนุพันธ์ได้สองครั้งและมีค่าไม่เป็นลบ โดยมีโดเมนเป็นฟังก์ชันนูน จะเป็นฟังก์ชันเว้าลอการิทึมก็ต่อเมื่อสำหรับทุกxที่สอดคล้องกับf ( x ) > 0
- [ 2 ]
- เช่น
- เป็น
- กึ่งบวกเชิงลบสำหรับฟังก์ชันของตัวแปรเดียว เงื่อนไขนี้จะลดรูปเหลือเพียง
การดำเนินการที่รักษาความโค้งของบันทึก
- ผลคูณ: ผลคูณของฟังก์ชันลอการิทึมเว้าก็จะเป็นฟังก์ชันลอการิทึมเว้าเช่นกัน ที่จริงแล้ว ถ้าfและgเป็นฟังก์ชันลอการิทึมเว้าแล้วlog fและlog gก็จะเป็นฟังก์ชันเว้าตามนิยาม ดังนั้น
- เป็นฟังก์ชันเว้า ดังนั้นf g จึง เป็นฟังก์ชันเว้าตามลอการิทึม ด้วย
- ขอบเขต : ถ้าf ( x , y ) : R n + m → Rเป็นฟังก์ชันเว้าลอการิทึม แล้ว
- เป็นฟังก์ชันเว้าเชิงลอการิทึม (ดูอสมการ Prékopa–Leindler )
- นี่หมายความว่าการสังเคราะห์เชิงคอนโวลูชันจะรักษาคุณสมบัติความเว้าแบบลอการิทึมไว้ เนื่องจากh ( x , y ) = f ( x - y ) g ( y )เป็นฟังก์ชันเว้าแบบลอการิทึม ถ้าfและgเป็นฟังก์ชันเว้าแบบลอการิทึม และดังนั้น
- เป็นฟังก์ชันเว้าล็อก (log-concave)
การแจกแจงแบบลอการิทึมเว้า
การแจกแจงแบบลอการิทึมเว้ามีความจำเป็นสำหรับอัลกอริทึมหลายอย่าง เช่นการสุ่มตัวอย่างแบบปฏิเสธที่ปรับตัวได้การแจกแจงทุกแบบที่มีความหนาแน่นแบบลอการิทึมเว้าเป็นการแจกแจงความน่าจะเป็นเอนโทรปีสูงสุด ที่มีค่าเฉลี่ย μที่ระบุและการวัดความเสี่ยงการเบี่ยงเบนD [ 3 ] ในความเป็นจริง การแจกแจงความน่าจะเป็น ทั่วไปหลายแบบเป็นแบบลอการิทึมเว้า ตัวอย่างบางส่วน: [ 4 ]
- การแจกแจงปกติและการแจกแจงปกติแบบหลายตัวแปร
- การแจกแจงแบบเอกซ์โปเนนเชียล
- การกระจายแบบสม่ำเสมอเหนือเซตแบบนูน ใด ๆ
- การแจกแจงทวินาม
- การแจกแจงโลจิสติกส์
- การแจกแจงค่าสุดขั้ว
- การแจกแจงลาปลาส
- การแจกแจงไค
- การแจกแจงแบบไฮเปอร์โบลิกซีแคนต์
- การแจกแจง Wishartถ้าn ≥ p + 1, [ 5 ]
- การแจกแจงแบบ Dirichletหากพารามิเตอร์ทั้งหมดมีค่า ≥ 1 [ 5 ]
- การแจกแจงแกมมาถ้าพารามิเตอร์รูปร่างมีค่า ≥ 1
- การแจกแจงไคสแควร์หากจำนวนองศาอิสระ ≥ 2
- การแจกแจงแบบเบต้าหากพารามิเตอร์รูปร่างทั้งสองมีค่า ≥ 1 และ
- การแจกแจงแบบไวบูลหากค่าพารามิเตอร์รูปร่าง ≥ 1
โปรดทราบว่าข้อจำกัดของพารามิเตอร์ทั้งหมดมีที่มาพื้นฐานเดียวกัน นั่นคือ เลขชี้กำลังของปริมาณที่ไม่เป็นลบจะต้องไม่เป็นลบด้วย เพื่อให้ฟังก์ชันนั้นเป็นฟังก์ชันเว้าตามลอการิทึม
การแจกแจงต่อไปนี้ไม่ใช่การแจกแจงแบบลอการิทึมเว้าสำหรับพารามิเตอร์ทั้งหมด:
- การแจกแจง t ของนักเรียน
- การแจกแจงแบบโคชี
- การแจกแจงพาเรโต
- การแจกแจงแบบล อการิทมิกปกติและ
- การแจกแจงF
โปรดทราบว่าฟังก์ชันการกระจายสะสม (CDF) ของการแจกแจงแบบลอการิทึมเว้าทั้งหมดก็เป็นแบบลอการิทึมเว้าเช่นกัน อย่างไรก็ตาม การแจกแจงที่ไม่ใช่แบบลอการิทึมเว้าบางแบบก็มี CDF แบบลอการิทึมเว้าด้วยเช่นกัน:
- การแจกแจงแบบล อ การิทมิ กปกติ
- การแจกแจงพาเรโต
- การแจกแจงไวบูลเมื่อพารามิเตอร์รูปร่าง < 1 และ
- การแจกแจงแกมมาเมื่อพารามิเตอร์รูปร่าง < 1
คุณสมบัติบางประการของฟังก์ชันการแจกแจงแบบลอการิทึมเว้า ได้แก่:
- ถ้าฟังก์ชันความหนาแน่นมีลักษณะเว้าตามลอการิทึมฟังก์ชันการกระจายสะสม (CDF) ก็จะมีลักษณะเว้าตามลอการิทึมเช่นกัน
- ถ้าฟังก์ชันความหนาแน่นหลายตัวแปรมีลักษณะเว้าแบบลอการิทึม ฟังก์ชันความหนาแน่นส่วนย่อยเหนือชุดย่อยใดๆ ของตัวแปร ก็จะมีลักษณะเว้าแบบลอการิทึมเช่นกัน
- ผลรวมของ ตัวแปรสุ่มแบบลอการิทึมเว้าสองตัวที่เป็นอิสระต่อกันจะเป็นแบบลอการิทึมเว้าเช่นกัน ซึ่งเป็นผลมาจากข้อเท็จจริงที่ว่า การสังเคราะห์ (convolution) ของฟังก์ชันแบบลอการิทึมเว้าสองฟังก์ชันก็จะเป็นแบบลอการิทึมเว้าเช่นกัน
- ผลคูณของฟังก์ชันลอการิทึมเว้าสองฟังก์ชันจะเป็นฟังก์ชันลอการิทึมเว้าเช่นกัน นั่นหมายความว่าความหนาแน่นร่วม ที่เกิดจากการคูณความหนาแน่นของความน่าจะเป็นสองค่า (เช่น การแจกแจงปกติ-แกมมา ซึ่งมีค่าพารามิเตอร์รูปร่าง ≥ 1 เสมอ) จะเป็นฟังก์ชันลอการิทึมเว้า คุณสมบัตินี้ถูกนำไปใช้อย่างมากในโปรแกรม สุ่มตัวอย่างแบบกิบส์ทั่วไปเช่นBUGSและJAGSซึ่งทำให้สามารถใช้การสุ่มตัวอย่างแบบปฏิเสธแบบปรับได้ กับ ชุดการแจกแจงแบบมีเงื่อนไขที่หลากหลายซึ่งได้มาจากผลคูณของการแจกแจงอื่นๆ
- ถ้าความหนาแน่นเป็นแบบลอการิทึมเว้าฟังก์ชันการอยู่รอด ก็จะเป็นแบบลอการิทึม เว้า เช่นกัน [ 4 ]
- ถ้าฟังก์ชันความหนาแน่นเป็นแบบลอการิทึมเว้า (log-concave) จะมีอัตราความเสี่ยง แบบโมโนโทน (MHR) และเป็นการแจกแจงแบบปกติเนื่องจากอนุพันธ์ของลอการิทึมของฟังก์ชันการอยู่รอดคืออัตราความเสี่ยงที่เป็นลบ และโดยความเว้าจะเป็นแบบโมโนโทน กล่าวคือ
- ซึ่งมีค่าลดลงเนื่องจากเป็นอนุพันธ์ของฟังก์ชันเว้า
ดูเพิ่มเติม
หมายเหตุ
- ^ Johnson, O., 2007. ความเว้าแบบลอการิทึมและคุณสมบัติเอนโทรปีสูงสุดของการแจกแจงปัวซง กระบวนการสุ่มและการประยุกต์ใช้ 117(6), หน้า 791-802
- ^ a b Boyd, Stephen ; Vandenberghe, Lieven (2004). "ฟังก์ชันเว้าและนูนแบบลอการิทึม" . การเพิ่มประสิทธิภาพแบบนูน . สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์. หน้า 104– 108. ISBN 0-521-83378-7.
- ^ Grechuk, Bogdan; Molyboha, Anton; Zabarankin, Michael (พฤษภาคม 2009). "หลักการเอนโทรปีสูงสุดด้วยมาตรวัดความเบี่ยงเบนทั่วไป" (PDF)คณิตศาสตร์ของการวิจัยการดำเนินงาน 34 ( 2): 445– 467. doi : 10.1287/moor.1090.0377 .
- ^ a bดูBagnoli, Mark; Bergstrom, Ted (2005). "Log-Concave Probability and Its Applications" (PDF) . Economic Theory . 26 (2): 445– 469. doi : 10.1007/s00199-004-0514-4 . S2CID 1046688 .
- ^ a b Prékopa, András (1971). "มาตรวัดเว้าแบบลอการิทึมพร้อมการประยุกต์ใช้กับการเขียนโปรแกรมเชิงสุ่ม" (PDF) . Acta Scientiarum Mathematicarum . 32 ( 3– 4): 301– 316.
สรุปเนื้อหา
ข้อมูลสำคัญจากบทความ
ข้อมูลสำคัญเกี่ยวกับ ฟังก์ชันเว้าแบบลอการิทึม
ในการวิเคราะห์ความนูนฟังก์ชันที่ไม่เป็นลบf : R n → R +จะเป็นฟังก์ชันเว้าเชิงลอการิทึม (หรือเรียกสั้น ๆ ว่าlog-concave ) ถ้า โดเมน ของฟังก์ชัน...
คุณสมบัติ
ฟังก์ชัน log-concave ยังเป็น quasi-concave ด้วย ซึ่งเป็นผลมาจากข้อเท็จจริงที่ว่า logarithm เป็นฟังก์ชันเอกภาค ซึ่งหมายความว่า เซตระดับบนสุด ของฟังก์ชันนี้เป็นเซตแบบนูน [ 2 ] ฟังก์ชันเว้าทุกฟังก์ชันที่มีค่าไม่เป็นลบในโดเมนของมันจะเป็นฟังก์ชันลอการิทึมเว้า...
การดำเนินการที่รักษาความโค้งของบันทึก
ผลคูณ: ผลคูณของฟังก์ชันลอการิทึมเว้าก็จะเป็นฟังก์ชันลอการิทึมเว้าเช่นกัน ที่จริงแล้ว ถ้า f และ g เป็นฟังก์ชันลอการิทึมเว้าแล้ว log f และ log g ก็จะเป็นฟังก์ชันเว้าตามนิยาม ดังนั้น บันทึก เอฟ ( x ) + บันทึก จี ( x ) = บันทึก ( เอฟ ( x ) จี ( x ) )...
การแจกแจงแบบลอการิทึมเว้า
การแจกแจงแบบลอการิทึมเว้ามีความจำเป็นสำหรับอัลกอริทึมหลายอย่าง เช่น การสุ่มตัวอย่างแบบปฏิเสธที่ปรับตัวได้ การแจกแจงทุกแบบที่มีความหนาแน่นแบบลอการิทึมเว้าเป็นการ แจกแจงความน่าจะเป็นเอนโทรปีสูงสุด ที่มีค่าเฉลี่ย μ ที่ระบุและ การวัดความเสี่ยงการเบี่ยงเบน D [ 3 ]...