ฟังก์ชันการสูญเสีย
ในทฤษฎีการเพิ่มประสิทธิภาพทางคณิตศาสตร์และ การตัดสินใจ ฟังก์ชันการสูญเสียหรือฟังก์ชันต้นทุน (บางครั้งเรียกว่าฟังก์ชันข้อผิดพลาด) [ 1 ]คือฟังก์ชันที่แมปเหตุการณ์หรือค่าของตัวแปรหนึ่งตัวหรือมากกว่าไปยังจำนวนจริงที่แสดงถึง "ต้นทุน" บางอย่างที่เกี่ยวข้องกับเหตุการณ์นั้นปัญหาการเพิ่มประสิทธิภาพมุ่งที่จะลดฟังก์ชันการสูญเสียให้เหลือ น้อยที่สุด ฟังก์ชันเป้าหมายอาจเป็นฟังก์ชันการสูญเสียหรือสิ่งที่ตรงกันข้าม (ในโดเมนเฉพาะ เรียกกันว่าฟังก์ชันรางวัลฟังก์ชันกำไรฟังก์ชันอรรถประโยชน์ฟังก์ชันความเหมาะสมฯลฯ) ซึ่งในกรณีนี้จะต้องเพิ่มให้สูงสุด ฟังก์ชันการสูญเสียอาจรวมถึงเงื่อนไขจากหลายระดับของลำดับชั้น
ในทางสถิติ โดยทั่วไปจะใช้ฟังก์ชันความสูญเสียสำหรับการประมาณค่าพารามิเตอร์และเหตุการณ์ที่เกี่ยวข้องคือฟังก์ชันของความแตกต่างระหว่างค่าที่ประมาณและค่าจริงสำหรับข้อมูลตัวอย่าง แนวคิดนี้ซึ่งมีมาตั้งแต่สมัยลาปลาซได้ถูกนำกลับมาใช้ในสถิติอีกครั้งโดยอับราฮัม วอลด์ในช่วงกลางศตวรรษที่ 20 [ 2 ] ในบริบทของเศรษฐศาสตร์ตัวอย่างเช่น โดยทั่วไปแล้วจะเป็นต้นทุนทางเศรษฐกิจหรือความเสียใจในการจำแนกประเภทมันคือค่าปรับสำหรับการจำแนกตัวอย่างที่ไม่ถูกต้อง ในวิทยาศาสตร์ประกันภัยมันถูกใช้ในบริบทของการประกันภัยเพื่อจำลองผลประโยชน์ที่จ่ายเหนือเบี้ยประกัน โดยเฉพาะอย่างยิ่งตั้งแต่ผลงานของฮาราลด์ คราเมอร์ในช่วงทศวรรษที่ 1920 [ 3 ]ในการควบคุมที่เหมาะสมที่สุดความสูญเสียคือค่าปรับสำหรับการไม่บรรลุค่าที่ต้องการ ในการจัดการความเสี่ยงทางการเงินฟังก์ชันนี้จะถูกแมปกับความสูญเสียทางการเงิน

ตัวอย่าง
เสียใจ
Leonard J. Savageโต้แย้งว่า การใช้วิธีการที่ไม่ใช่แบบเบย์เซียน เช่นมินิแม็ก ซ์ ฟังก์ชันความสูญเสียควรอยู่บนพื้นฐานของแนวคิดเรื่องความเสียใจกล่าวคือ ความสูญเสียที่เกี่ยวข้องกับการตัดสินใจควรเป็นความแตกต่างระหว่างผลลัพธ์ของการตัดสินใจที่ดีที่สุดที่สามารถทำได้ภายใต้สถานการณ์ที่จะทราบได้ กับการตัดสินใจที่เกิดขึ้นจริงก่อนที่จะทราบสถานการณ์เหล่านั้น
ฟังก์ชันการสูญเสียกำลังสอง
การใช้ ฟังก์ชันความสูญเสีย แบบกำลังสองเป็นเรื่องปกติ เช่น เมื่อใช้ เทคนิค กำลังสองน้อยที่สุดโดยทั่วไปแล้วจะจัดการทางคณิตศาสตร์ได้ง่ายกว่าฟังก์ชันความสูญเสียอื่นๆ เนื่องจากคุณสมบัติของความแปรปรวนรวมถึงความสมมาตร: ข้อผิดพลาดที่สูงกว่าเป้าหมายจะทำให้เกิดความสูญเสียเท่ากับข้อผิดพลาดที่มีขนาดเท่ากันที่ต่ำกว่าเป้าหมาย ถ้าเป้าหมายคือฟังก์ชันความสูญเสียแบบกำลังสองจะเป็น
สำหรับค่าคงที่บางค่า ค่าของค่าคงที่นั้นไม่มีผลต่อการตัดสินใจ และสามารถละเลยได้โดยกำหนดให้เท่ากับ 1 ซึ่งเรียกอีกอย่างว่าการสูญเสียข้อผิดพลาดกำลังสอง ( SEL ) [ 1 ]
สถิติทั่วไปหลายอย่างรวมถึงการทดสอบ t-testแบบจำลองการถดถอยการออกแบบการทดลองและอื่นๆ อีกมากมาย ใช้ระเบียบวิธีLeast Squares ที่ ประยุกต์ใช้โดยใช้ทฤษฎี การถดถอยเชิงเส้นซึ่งมีพื้นฐานมาจากฟังก์ชันความสูญเสียแบบกำลังสอง
ฟังก์ชันความสูญเสียแบบกำลังสองยังใช้ในปัญหาการควบคุมที่เหมาะสมเชิงเส้น-กำลังสอง ด้วย ในปัญหาเหล่านี้ แม้ในกรณีที่ไม่มีความไม่แน่นอน ก็อาจไม่สามารถบรรลุค่าที่ต้องการของตัวแปรเป้าหมายทั้งหมดได้ บ่อยครั้งที่ความสูญเสียจะแสดงในรูปแบบกำลังสองของการเบี่ยงเบนของตัวแปรที่สนใจจากค่าที่ต้องการ วิธีการนี้สามารถจัดการได้เพราะส่งผลให้เกิดเงื่อนไขเชิงเส้นอันดับแรกในบริบทของการควบคุมแบบสุ่มค่าที่คาดหวังของรูปแบบกำลังสองจะถูกนำมาใช้ ความสูญเสียแบบกำลังสองให้ความสำคัญกับค่าผิดปกติมากกว่าข้อมูลจริงเนื่องจากลักษณะที่เป็นกำลังสอง ดังนั้นจึงมีการใช้ทางเลือกอื่น เช่น ความสูญเสียแบบ Huber , log-cosh และ SMAE เมื่อข้อมูลมีค่าผิดปกติขนาดใหญ่จำนวนมาก

ฟังก์ชันการสูญเสีย 0-1
ในสถิติและทฤษฎีการตัดสินใจฟังก์ชันความสูญเสียที่ใช้บ่อยคือฟังก์ชันความสูญเสีย 0-1
ในทฤษฎีสารสนเทศฟังก์ชันความสูญเสียนี้เรียกว่าการบิดเบือนแบบแฮมมิง (Hamming distortion )
การสร้างฟังก์ชันความสูญเสียและฟังก์ชันวัตถุประสงค์
ในการใช้งานหลายๆ ครั้ง ฟังก์ชันวัตถุประสงค์ รวมถึงฟังก์ชันการสูญเสียในกรณีพิเศษ จะถูกกำหนดโดยการกำหนดปัญหา ในสถานการณ์อื่นๆ ความชอบของผู้ตัดสินใจจะต้องถูกดึงออกมาและแสดงด้วยฟังก์ชันค่าสเกลาร์ (เรียกอีกอย่างว่า ฟังก์ชัน อรรถประโยชน์ ) ในรูปแบบที่เหมาะสมสำหรับการปรับให้เหมาะสม ซึ่งเป็นปัญหาที่Ragnar Frischได้เน้นย้ำในสุนทรพจน์รับรางวัลโนเบล ของเขา [ 4 ] วิธีการที่มีอยู่สำหรับการสร้างฟังก์ชันวัตถุประสงค์ได้ถูกรวบรวมไว้ในรายงานการประชุมเฉพาะเรื่องสองงาน[ 5 ] [ 6 ] โดยเฉพาะอย่างยิ่งAndranik Tangianได้แสดงให้เห็นว่าฟังก์ชันวัตถุประสงค์ที่ใช้งานได้มากที่สุด — แบบกำลังสองและแบบบวก — ถูกกำหนดโดย จุด ความไม่แตกต่าง เพียงไม่กี่ จุด เขาใช้คุณสมบัตินี้ในแบบจำลองสำหรับการสร้างฟังก์ชันวัตถุประสงค์เหล่านี้จาก ข้อมูล เชิงลำดับหรือเชิงปริมาณที่ได้มาจากการสัมภาษณ์ผู้ตัดสินใจโดยใช้คอมพิวเตอร์ช่วย[ 7 ] [ 8 ] ในบรรดาสิ่งอื่นๆ เขาได้สร้างฟังก์ชันวัตถุประสงค์เพื่อกระจายงบประมาณอย่างเหมาะสมสำหรับมหาวิทยาลัยเวสต์ฟาเลีย 16 แห่ง[ 9 ] และเงินอุดหนุนจากยุโรปเพื่อปรับอัตราการว่างงานให้เท่าเทียมกันใน 271 ภูมิภาคของเยอรมนี[ 10 ]
การขาดทุนที่คาดการณ์ไว้
ในบางบริบท ค่าของฟังก์ชันความสูญเสียเองก็เป็นปริมาณสุ่ม เนื่องจากขึ้นอยู่กับผลลัพธ์ของตัวแปรสุ่ม
สถิติ
ทั้ง ทฤษฎีสถิติ แบบความถี่และแบบเบย์เซียน ต่าง เกี่ยวข้องกับการตัดสินใจโดยอาศัยค่าคาดหวังของฟังก์ชันความสูญเสีย อย่างไรก็ตาม ปริมาณนี้ถูกนิยามแตกต่างกันภายใต้สองแนวคิดนี้
ความสูญเสียที่คาดหวังตามหลักความถี่
ก่อนอื่น เราจะกำหนดการสูญเสียที่คาดหวังในบริบทของความถี่ โดยจะได้มาจากการหาค่าที่คาดหวังโดยสัมพันธ์กับการกระจายความน่าจะเป็น , , ของข้อมูลที่สังเกตได้ซึ่งเรียกอีกอย่างว่าฟังก์ชันความเสี่ยง[ 11 ] [ 12 ] [ 13 ] [ 14 ]ของกฎการตัดสินใจและพารามิเตอร์โดยที่กฎการตัดสินใจขึ้นอยู่กับผลลัพธ์ของฟังก์ชันความเสี่ยงกำหนดโดย:
ในที่นี้คือสถานะทางธรรมชาติที่คงที่แต่อาจไม่ทราบแน่ชัดคือเวกเตอร์ของการสังเกตที่สุ่มเลือกจากประชากรคือค่าคาดหวังของค่าทั้งหมดในประชากรของคือการวัดความน่าจะเป็นเหนือปริภูมิเหตุการณ์ของ(กำหนดพารามิเตอร์โดย ) และอินทิกรัลจะถูก ประเมิน เหนือ ขอบเขตทั้งหมดของ
ความเสี่ยงแบบเบย์ส
ในแนวทางแบบเบย์เซียน ค่าคาดหวังจะคำนวณโดยใช้การแจกแจงความน่าจะเป็นล่วงหน้า ของพารามิเตอร์:
โดยที่เรียกว่าความน่าจะเป็นเชิงทำนายซึ่งได้ถูก "รวมออกไปแล้ว" คือการแจกแจงความน่าจะเป็นภายหลัง และลำดับของการรวมได้ถูกเปลี่ยนแปลง จากนั้นควรเลือกการกระทำที่ลดการสูญเสียที่คาดหวังนี้ให้เหลือน้อยที่สุด ซึ่งเรียกว่าความเสี่ยงของเบย์สในสมการหลังนี้ ตัวอินทิกรัลภายในเรียกว่าความเสี่ยงภายหลังและการลดความเสี่ยงภายหลังให้เหลือน้อยที่สุดเมื่อเทียบกับการตัดสินใจจะช่วยลดความเสี่ยงของเบย์สโดยรวมให้เหลือน้อยที่สุดด้วย การตัดสินใจที่เหมาะสมที่สุดนี้เรียกว่ากฎการตัดสินใจของเบย์ส - มันลดการสูญเสียเฉลี่ยให้เหลือน้อยที่สุดในทุกสถานะที่เป็นไปได้ของธรรมชาติในทุกผลลัพธ์ของข้อมูลที่เป็นไปได้ (ถ่วงน้ำหนักด้วยความน่าจะเป็น) ข้อดีอย่างหนึ่งของวิธีการแบบเบย์สคือ เราจำเป็นต้องเลือกการกระทำที่เหมาะสมที่สุดภายใต้ข้อมูลที่สังเกตได้จริงเท่านั้น เพื่อให้ได้การกระทำที่เหมาะสมที่สุดอย่างสม่ำเสมอ ในขณะที่การเลือกกฎการตัดสินใจที่เหมาะสมที่สุดแบบความถี่ตามจริง ซึ่งเป็นฟังก์ชันของการสังเกตที่เป็นไปได้ทั้งหมด เป็นปัญหาที่ยากกว่ามาก อย่างไรก็ตาม สิ่งสำคัญไม่แพ้กันคือ กฎของเบย์สสะท้อนให้เห็นถึงการพิจารณาผลลัพธ์ของการสูญเสียภายใต้สถานะต่างๆ ของธรรมชาติ
ตัวอย่างในทางสถิติ
- สำหรับพารามิเตอร์สเกลาร์ฟังก์ชันการตัดสินใจที่มีเอาต์พุตเป็นการประมาณค่าของและฟังก์ชันความสูญเสียแบบกำลังสอง ( ความสูญเสียแบบกำลังสอง ) ฟังก์ชันความเสี่ยงจะกลายเป็นค่าเฉลี่ยของความคลาดเคลื่อนกำลังสองของการประมาณค่า ตัวประมาณ ค่าที่พบโดยการลดค่าเฉลี่ยของความคลาดเคลื่อนกำลังสอง ให้เหลือน้อยที่สุด จะประมาณค่าเฉลี่ยของการแจกแจงความน่าจะเป็นภายหลังของ
- ในการประมาณความหนาแน่นพารามิเตอร์ที่ไม่ทราบค่าคือความหนาแน่นของความน่าจะเป็นนั่นเอง โดยทั่วไปแล้ว ฟังก์ชันความสูญเสียจะถูกเลือกให้เป็นค่าปกติในปริภูมิฟังก์ชัน ที่เหมาะสม ตัวอย่างเช่น สำหรับค่าปกติฟังก์ชันความเสี่ยงจะกลายเป็นค่าเฉลี่ยของความคลาดเคลื่อนกำลังสองแบบบูร ณาการ
การตัดสินใจทางเศรษฐกิจภายใต้ความไม่แน่นอน
ในทางเศรษฐศาสตร์ การตัดสินใจภายใต้ความไม่แน่นอนมักถูกจำลองโดยใช้ฟังก์ชันอรรถประโยชน์ของฟอน นอยมันน์-มอร์เกนสเติร์นสำหรับตัวแปรที่ไม่แน่นอนที่สนใจ เช่น ความมั่งคั่ง ณ สิ้นงวด เนื่องจากค่าของตัวแปรนี้ไม่แน่นอน ค่าของฟังก์ชันอรรถประโยชน์จึงไม่แน่นอนเช่นกัน เป้าหมายคือการเพิ่มค่าอรรถประโยชน์ที่คาดหวังให้สูงสุด
กฎการตัดสินใจ
กฎการตัดสินใจจะทำการเลือกโดยใช้เกณฑ์ความเหมาะสมที่สุด เกณฑ์ที่ใช้กันทั่วไปบางส่วน ได้แก่:
- มินิแม็กซ์ : เลือกกฎการตัดสินใจที่มีผลขาดทุนมากที่สุดน้อยที่สุด กล่าวคือ ลดผลขาดทุนในกรณีที่เลวร้ายที่สุด (ผลขาดทุนสูงสุดที่เป็นไปได้) ให้เหลือน้อยที่สุด
- ความไม่เปลี่ยนแปลง : เลือกกฎการตัดสินใจที่ตรงตามข้อกำหนดด้านความไม่เปลี่ยนแปลง
- เลือกกฎการตัดสินใจที่มีค่าเฉลี่ยความสูญเสียต่ำที่สุด (กล่าวคือ ลดค่าคาดหวังของฟังก์ชันความสูญเสียให้เหลือน้อยที่สุด):
การเลือกฟังก์ชันความสูญเสีย
การปฏิบัติทางสถิติที่ดีต้องเลือกตัวประมาณค่าที่สอดคล้องกับความแปรปรวนที่ยอมรับได้จริงที่เกิดขึ้นในบริบทของปัญหาประยุกต์เฉพาะ ดังนั้น ในการใช้งานฟังก์ชันการสูญเสีย การเลือกวิธีการทางสถิติที่จะใช้ในการสร้างแบบจำลองปัญหาประยุกต์ขึ้นอยู่กับการทราบถึงการสูญเสียที่จะเกิดขึ้นจากความผิดพลาดภายใต้สถานการณ์เฉพาะของปัญหา[ 15 ]
ตัวอย่างที่พบได้ทั่วไปคือการประมาณ " ตำแหน่ง " ภายใต้สมมติฐานทางสถิติทั่วไปค่าเฉลี่ยเป็นสถิติที่ใช้ในการประมาณตำแหน่งที่ทำให้ความสูญเสียที่คาดหวังภายใต้ ฟังก์ชันความสูญเสีย แบบกำลังสอง น้อยที่สุด ในขณะที่ ค่ามัธยฐานเป็น ตัวประมาณที่ทำให้ความสูญเสียที่คาดหวังภายใต้ฟังก์ชันความสูญเสียแบบผลต่างสัมบูรณ์น้อยที่สุด อย่างไรก็ตาม ตัวประมาณที่เหมาะสมที่สุดอาจแตกต่างกันไปในสถานการณ์อื่นๆ ที่พบได้น้อยกว่า
ในทางเศรษฐศาสตร์ เมื่อผู้ลงทุนไม่สนใจความเสี่ยงฟังก์ชันเป้าหมายจะแสดงออกมาในรูปของค่าคาดหวังของปริมาณทางการเงิน เช่น กำไร รายได้ หรือความมั่งคั่ง ณ สิ้นงวด สำหรับ ผู้ลงทุนที่ หลีกเลี่ยงความเสี่ยงหรือชื่นชอบความเสี่ยงการสูญเสียจะวัดได้จากค่าลบของฟังก์ชันอรรถประโยชน์และฟังก์ชันเป้าหมายที่จะต้องปรับให้เหมาะสมที่สุดคือค่าคาดหวังของอรรถประโยชน์
นอกจากนี้ ยังสามารถใช้มาตรวัดต้นทุนอื่นๆ ได้อีก เช่นอัตราการเสียชีวิตหรืออัตราการเจ็บป่วยในสาขาสาธารณสุขหรือวิศวกรรมความปลอดภัย
สำหรับอัลกอริธึมการปรับให้ เหมาะสมส่วนใหญ่ เป็นที่พึงปรารถนาที่จะมีฟังก์ชันความสูญเสียที่ต่อเนื่องและสามารถหาอนุพันธ์ได้ทั่ว ทั้งระบบ
ฟังก์ชันความสูญเสียที่ใช้กันทั่วไปสองแบบคือความสูญเสียกำลังสอง ( squared loss ) และความสูญเสียสัมบูรณ์ (absolute loss ) อย่างไรก็ตาม ความสูญเสียสัมบูรณ์มีข้อเสียคือไม่สามารถหาอนุพันธ์ได้ ที่จุด ส่วน ความสูญเสียกำลังสองมีข้อเสียคือมีแนวโน้มที่จะถูกครอบงำด้วยค่าผิดปกติ —เมื่อทำการรวมค่าของชุดค่า (เช่นใน) ผลรวมสุดท้ายมักจะเป็นผลมาจากค่า ที่มีขนาดใหญ่เป็นพิเศษเพียงไม่กี่ค่า มากกว่าจะเป็นการแสดงค่า เฉลี่ยของค่า
การเลือกฟังก์ชันการสูญเสียไม่ใช่เรื่องตามอำเภอใจ มันมีข้อจำกัดมาก และบางครั้งฟังก์ชันการสูญเสียอาจมีลักษณะเฉพาะตามคุณสมบัติที่ต้องการ[ 16 ]ในบรรดาหลักการเลือกนั้น ตัวอย่างเช่น ข้อกำหนดเรื่องความสมบูรณ์ของกลุ่มสถิติสมมาตรในกรณีของ การสังเกต แบบ iidหลักการของข้อมูลที่สมบูรณ์ และอื่นๆ
ดับเบิลยู. เอ็ดเวิร์ดส์ เดมิงและนาซิม นิโคลัส ทาเลบโต้แย้งว่า ความเป็นจริงเชิงประจักษ์ ไม่ใช่คุณสมบัติทางคณิตศาสตร์ที่สวยงาม ควรเป็นพื้นฐานเพียงอย่างเดียวในการเลือกฟังก์ชันความสูญเสีย และความสูญเสียในชีวิตจริงมักจะไม่ใช่คุณสมบัติทางคณิตศาสตร์ที่สวยงาม และไม่สามารถหาอนุพันธ์ได้ ต่อเนื่อง สมมาตร ฯลฯ ตัวอย่างเช่น คนที่มาถึงก่อนประตูเครื่องบินปิดยังสามารถขึ้นเครื่องได้ แต่คนที่มาถึงหลังจากนั้นไม่สามารถขึ้นเครื่องได้ ซึ่งเป็นความไม่ต่อเนื่องและความไม่สมมาตรที่ทำให้การมาถึงช้าเล็กน้อยมีค่าใช้จ่ายมากกว่าการมาถึงก่อนเวลาเล็กน้อย ในการให้ยา ค่าใช้จ่ายของการให้ยาน้อยเกินไปอาจทำให้ยาไม่ได้ผล ในขณะที่ค่าใช้จ่ายของการให้ยามากเกินไปอาจเป็นพิษที่ยอมรับได้ ซึ่งเป็นอีกตัวอย่างหนึ่งของความไม่สมมาตร การจราจร ท่อ คาน ระบบนิเวศ สภาพภูมิอากาศ ฯลฯ อาจทนต่อภาระหรือความเครียดที่เพิ่มขึ้นได้โดยมีการเปลี่ยนแปลงเพียงเล็กน้อยจนถึงจุดหนึ่ง จากนั้นก็จะเกิดการอุดตันหรือพังทลายอย่างรุนแรง เดมิงและทาเลบโต้แย้งว่า สถานการณ์เหล่านี้พบได้ทั่วไปในปัญหาในชีวิตจริง อาจพบได้บ่อยกว่ากรณีคลาสสิกที่เรียบ ต่อเนื่อง สมมาตร และเป็นอนุพันธ์เสียอีก[ 17 ]
ดูเพิ่มเติม
- ความเสียใจแบบเบย์เซียน
- ฟังก์ชันความสูญเสียสำหรับการจำแนกประเภท
- ส่วนลดความเสียหายสูงสุด
- การสูญเสียบานพับ
- กฎการให้คะแนน
- ความเสี่ยงทางสถิติ
อ่านเพิ่มเติม
- Aretz, Kevin; Bartram, Söhnke M.; Pope, Peter F. (เมษายน–มิถุนายน 2554). "ฟังก์ชันการสูญเสียที่ไม่สมมาตรและความมีเหตุผลของผลตอบแทนหุ้นที่คาดหวัง" (PDF)วารสารการพยากรณ์ระหว่างประเทศ 27 ( 2): 413– 437. doi : 10.1016/j.ijforecast.2009.10.008 . SSRN 889323 .
- เบอร์เกอร์, เจมส์ โอ. (1985). ทฤษฎีการตัดสินใจทางสถิติและการวิเคราะห์แบบเบย์เซียน (ฉบับที่ 2). นิวยอร์ก: สปริงเกอร์-เวอร์แลก. รหัสบรรณานุกรม : 1985sdtb.book.....B . ISBN 978-0-387-96098-2MR 0804611
- Cecchetti, S. (2000). "การกำหนดนโยบายการเงิน: วัตถุประสงค์และกฎเกณฑ์" . Oxford Review of Economic Policy . 16 (4): 43– 59. doi : 10.1093/oxrep/16.4.43 .
- Horowitz, Ann R. (1987). "ฟังก์ชันการสูญเสียและนโยบายสาธารณะ". วารสารเศรษฐศาสตร์มหภาค . 9 (4): 489– 504. doi : 10.1016/0164-0704(87)90016-4 .