อ่าน 3 นาที
ความน่าจะเป็นลอการิทึม
ใน ทฤษฎีความน่าจะเป็น และ วิทยาศาสตร์คอมพิวเตอร์ ความ น่าจะเป็นแบบลอการิทึม เป็นเพียง ลอการิทึม ของ ความน่าจะเป็น [ 1 ]...
ความน่าจะเป็นลอการิทึม
ในทฤษฎีความน่าจะเป็นและวิทยาศาสตร์คอมพิวเตอร์ความน่าจะเป็นแบบลอการิทึมเป็นเพียงลอการิทึมของความน่าจะเป็น[ 1 ]การใช้ความน่าจะเป็นแบบลอการิทึมหมายถึงการแสดงความน่าจะเป็นบนมาตราส่วนลอการิทึม แทนที่จะเป็นช่วงหน่วยมาตรฐาน
เนื่องจากความน่าจะเป็นของเหตุการณ์อิสระ จะคูณกัน และลอการิทึมจะแปลงการคูณเป็นการบวก ดังนั้นลอการิทึมของความน่าจะเป็นของเหตุการณ์อิสระจึงสามารถบวกกันได้ ความน่าจะเป็นแบบลอการิทึมจึงมีประโยชน์ในการคำนวณ และมีการตีความที่เข้าใจง่ายในแง่ของทฤษฎีสารสนเทศ กล่าวคือ ค่าคาดหวังที่เป็นลบของลอการิทึมของความน่าจะเป็นคือเอนโทรปีของสารสนเทศของเหตุการณ์ ในทำนองเดียวกันความน่าจะเป็นมักจะถูกแปลงเป็นมาตราส่วนลอการิทึม และความน่าจะเป็นแบบลอการิทึม ที่สอดคล้องกัน สามารถตีความได้ว่าเป็นระดับที่เหตุการณ์สนับสนุนแบบจำลองทางสถิติความน่าจะเป็นแบบลอการิทึมถูกนำไปใช้อย่างกว้างขวางในการคำนวณที่เกี่ยวข้องกับความน่าจะเป็น และได้รับการศึกษาในฐานะแนวคิดที่สำคัญในแอปพลิเคชันบางอย่างของทฤษฎีสารสนเทศ เช่นการประมวลผลภาษาธรรมชาติ
แรงจูงใจ
การแสดงความน่าจะเป็นในลักษณะนี้มีข้อดีในทางปฏิบัติหลายประการ:
- ความเร็วเนื่องจากกระบวนการคูณมีค่าใช้จ่ายมากกว่าการบวก การหาผลคูณของความน่าจะเป็นจำนวนมากจึงมักเร็วกว่าหากแสดงในรูปของลอการิทึม (การแปลงเป็นรูปของลอการิทึมมีค่าใช้จ่าย แต่เกิดขึ้นเพียงครั้งเดียว) การคูณเกิดขึ้นจากการคำนวณความน่าจะเป็นที่เหตุการณ์อิสระหลายเหตุการณ์เกิดขึ้นพร้อมกัน ความน่าจะเป็นที่เหตุการณ์อิสระทั้งหมดที่สนใจเกิดขึ้นพร้อมกันคือผลคูณของความน่าจะเป็นของเหตุการณ์เหล่านั้นทั้งหมด
- ความแม่นยำการใช้ความน่าจะเป็นแบบลอการิทึมช่วยปรับปรุงเสถียรภาพเชิงตัวเลขเมื่อความน่าจะเป็นมีขนาดเล็กมาก เนื่องจากวิธีการที่คอมพิวเตอร์ประมาณค่าจำนวนจริง[ 1 ]
- ความเรียบง่ายการแจกแจงความน่าจะเป็นหลายๆ แบบมีรูปแบบเลขชี้กำลัง การหาค่าลอการิทึมของการแจกแจงเหล่านี้จะกำจัดฟังก์ชันเลขชี้กำลังออกไป ทำให้เลขชี้กำลังคลายตัว ตัวอย่างเช่น ค่าลอการิทึมของความน่าจะเป็นของฟังก์ชันความหนาแน่นความน่าจะเป็น ของการแจกแจงปกติ คือแทนที่จะเป็นค่าลอการิทึมของความน่าจะเป็นทำให้การคำนวณทางคณิตศาสตร์บางอย่างทำได้ง่ายขึ้น
- การเพิ่มประสิทธิภาพเนื่องจากการกระจายความน่าจะ เป็นทั่วไปส่วนใหญ่ โดยเฉพาะตระกูลเอกซ์โพเนนเชียล มีลักษณะเว้า เฉพาะในเชิงลอการิทึมเท่านั้น[ 2 ] [ 3 ]และความเว้าของฟังก์ชันเป้าหมายมีบทบาทสำคัญในการเพิ่มค่าสูงสุดของฟังก์ชัน เช่น ความน่าจะเป็น ตัวเพิ่มประสิทธิภาพจึงทำงานได้ดีขึ้นกับความน่าจะเป็นเชิงลอการิทึม
ประเด็นเรื่องการเป็นตัวแทน
ฟังก์ชันลอการิทึมไม่นิยามสำหรับศูนย์ ดังนั้นค่าความน่าจะเป็นแบบลอการิทึมจึงแสดงได้เฉพาะความน่าจะเป็นที่ไม่เป็นศูนย์เท่านั้น เนื่องจากลอการิทึมของจำนวนในช่วงมีค่าเป็นลบ จึงมักใช้ค่าความน่าจะเป็นแบบลอการิทึมที่เป็นลบ ในกรณีนั้น ค่าความน่าจะเป็นแบบลอการิทึมในสูตรต่อไปนี้จะต้องกลับค่า
สามารถเลือกฐานใดก็ได้สำหรับลอการิทึม
การจัดการขั้นพื้นฐาน
ในส่วนนี้ เราจะเรียกความน่าจะเป็นในปริภูมิเชิงลอการิทึมว่า “ และโดยย่อคือ:”
ผลคูณของความน่าจะเป็นสอดคล้องกับการบวกในปริภูมิเชิงลอการิทึม
การคำนวณ ผลรวมของความน่าจะเป็น ในพื้นที่ลอการิทึมนั้นค่อนข้างซับซ้อนกว่า โดยต้องคำนวณเลขชี้กำลังหนึ่งตัวและลอการิทึมหนึ่งตัว
อย่างไรก็ตาม ในหลายกรณี การคูณความน่าจะเป็น (ซึ่งให้ความน่าจะเป็นของการเกิดเหตุการณ์อิสระทั้งหมด) มักถูกใช้บ่อยกว่าการบวกความน่าจะเป็น (ซึ่งให้ความน่าจะเป็นของการเกิดเหตุการณ์อย่างน้อยหนึ่งเหตุการณ์จากเหตุการณ์ที่ไม่เกี่ยวข้องกัน) นอกจากนี้ ในบางสถานการณ์สามารถหลีกเลี่ยงค่าใช้จ่ายในการคำนวณการบวกได้โดยการใช้ความน่าจะเป็นสูงสุดเป็นค่าประมาณ เนื่องจากความน่าจะเป็นเป็นค่าที่ไม่เป็นลบ จึงให้ค่าขอบล่าง ค่าประมาณนี้ถูกนำไปใช้ในทางกลับกันเพื่อให้ได้ค่าประมาณต่อเนื่องของฟังก์ชันสูงสุด
การเพิ่มในพื้นที่บันทึก
สูตรข้างต้นมีความแม่นยำกว่าหากใช้ประโยชน์จากความไม่สมมาตรในสูตรการบวกควรเป็นตัวถูกดำเนินการที่มากกว่า (ค่าลบที่น้อยที่สุด) วิธีนี้จะให้ผลลัพธ์ที่ถูกต้องเช่นกันหากตัวถูกดำเนินการตัวใดตัวหนึ่งเป็นค่าลบอนันต์แบบจุดลอยตัวซึ่งสอดคล้องกับความน่าจะเป็นเป็นศูนย์
ปริมาณนี้ไม่สามารถระบุได้และจะให้ผลลัพธ์เป็นNaN ซึ่งเป็นคำตอบที่ต้องการ
สูตรข้างต้นเพียงอย่างเดียวจะให้ผลลัพธ์ที่ไม่แน่นอนในกรณีที่อาร์กิวเมนต์ทั้งสองเป็นค่าว่างควรตรวจสอบกรณีนี้แยกต่างหากเพื่อให้ได้ผลลัพธ์ที่ถูกต้อง
ด้วยเหตุผลเชิงตัวเลข ควรใช้ฟังก์ชันที่คำนวณ( log1p ) โดยตรง
ดูเพิ่มเติม
สรุปเนื้อหา
ข้อมูลสำคัญจากบทความ
ข้อมูลสำคัญเกี่ยวกับ ความน่าจะเป็นลอการิทึม
ใน ทฤษฎีความน่าจะเป็น และ วิทยาศาสตร์คอมพิวเตอร์ ความ น่าจะเป็นแบบลอการิทึม เป็นเพียง ลอการิทึม ของ ความน่าจะเป็น [ 1 ]...
แรงจูงใจ
การแสดงความน่าจะเป็นในลักษณะนี้มีข้อดีในทางปฏิบัติหลายประการ:
ประเด็นเรื่องการเป็นตัวแทน
ฟังก์ชันลอการิทึมไม่นิยามสำหรับศูนย์ ดังนั้นค่าความน่าจะเป็นแบบลอการิทึมจึงแสดงได้เฉพาะความน่าจะเป็นที่ไม่เป็นศูนย์เท่านั้น เนื่องจากลอการิทึมของจำนวนในช่วงมีค่าเป็นลบ จึงมักใช้ค่าความน่าจะเป็นแบบลอการิทึมที่เป็นลบ ในกรณีนั้น...
การจัดการขั้นพื้นฐาน
ในส่วนนี้ เราจะเรียกความน่าจะเป็นในปริภูมิเชิงลอการิทึมว่า “ และโดยย่อคือ:” x ′ {\displaystyle x'} y ′ {\displaystyle y'} x ′ = บันทึก ( x ) ∈ อาร์ y ′ = บันทึก ( y ) ∈ อาร์ {\displaystyle {\begin{aligned}x'&=\log(x)\in \mathbb {R} \\y'&=\log(y)\in...