กลับไปหน้าบทความ

อ่าน 2 นาที

การเพิ่มประสิทธิภาพโดยปราศจากอนุพันธ์

อัลกอริธึมและวิธีการเพิ่มประสิทธิภาพ

การเพิ่มประสิทธิภาพแบบไม่ใช้อนุพันธ์ (บางครั้งเรียกว่าการเพิ่มประสิทธิภาพแบบกล่องดำ ) เป็นสาขาหนึ่งในการเพิ่มประสิทธิภาพทางคณิตศาสตร์ที่ไม่ใช้ ข้อมูล...

การเพิ่มประสิทธิภาพโดยปราศจากอนุพันธ์

การเพิ่มประสิทธิภาพแบบไม่ใช้อนุพันธ์ (บางครั้งเรียกว่าการเพิ่มประสิทธิภาพแบบกล่องดำ ) เป็นสาขาหนึ่งในการเพิ่มประสิทธิภาพทางคณิตศาสตร์ที่ไม่ใช้ ข้อมูล อนุพันธ์ในความหมายแบบดั้งเดิมเพื่อหาคำตอบที่เหมาะสมที่สุด: บางครั้งข้อมูลเกี่ยวกับอนุพันธ์ของฟังก์ชันเป้าหมายfอาจไม่พร้อมใช้งาน ไม่น่าเชื่อถือ หรือไม่สามารถหาได้ในทางปฏิบัติ ตัวอย่างเช่นfอาจไม่เรียบ หรือใช้เวลานานในการประเมิน หรือมีสัญญาณรบกวนในบางลักษณะ ดังนั้นวิธีการที่อาศัยอนุพันธ์หรือประมาณค่าโดยใช้ความแตกต่างจำกัด จึง แทบไม่มีประโยชน์ ปัญหาในการหาจุดที่เหมาะสมที่สุดในสถานการณ์ดังกล่าวเรียกว่า การเพิ่มประสิทธิภาพแบบไม่ใช้อนุพันธ์ อัลกอริทึมที่ไม่ใช้อนุพันธ์หรือความแตกต่างจำกัดเรียกว่าอัลกอริทึมแบบไม่ใช้อนุพันธ์[ 1 ]

การแนะนำ

ปัญหาที่ต้องแก้ไขคือการหาค่าที่เหมาะสมที่สุดของฟังก์ชันเป้าหมายด้วยวิธีเชิงตัวเลขสำหรับเซต บางเซต (โดยปกติคือ) กล่าวคือ หาค่า ที่ทำให้ โดยไม่เสียความเป็นทั่วไปสำหรับทุกค่า

เมื่อเหมาะสม วิธีการทั่วไปคือการปรับปรุงค่าประมาณพารามิเตอร์แบบวนซ้ำโดยใช้การปีนเขาเฉพาะที่ในภูมิทัศน์ของฟังก์ชันเป้าหมาย อัลกอริทึมที่ใช้ค่าอนุพันธ์จะใช้ข้อมูลอนุพันธ์เพื่อค้นหาทิศทางการค้นหาที่ดี เนื่องจากตัวอย่างเช่น เกรเดียนต์จะให้ทิศทางของการปีนขึ้นที่ชันที่สุด การเพิ่มประสิทธิภาพโดยใช้ค่าอนุพันธ์มีประสิทธิภาพในการค้นหาค่าเหมาะสมที่สุดเฉพาะที่สำหรับปัญหาแบบโมดอลเดียวที่เรียบในโดเมนต่อเนื่อง อย่างไรก็ตาม อาจมีปัญหาเมื่อ เช่นฟังก์ชันไม่เชื่อมต่อกัน หรือเป็นจำนวนเต็ม (แบบผสม) หรือเมื่อมีค่าใช้จ่ายสูงในการประเมิน หรือไม่เรียบ หรือมีสัญญาณรบกวน ดังนั้น (การประมาณค่าเชิงตัวเลขของ) อนุพันธ์จึงไม่ให้ข้อมูลที่เป็นประโยชน์ ปัญหาที่แตกต่างออกไปเล็กน้อยคือเมื่อฟังก์ชันมีหลายโมดอล ในกรณีนี้ วิธีการที่ใช้ค่าอนุพันธ์เฉพาะที่ให้ค่าเหมาะสมที่สุดเฉพาะที่เท่านั้น แต่อาจพลาดค่าเหมาะสมที่สุดโดยรวม

ในการหาค่าเหมาะสมที่สุดโดยไม่ใช้ค่าอนุพันธ์ มีการใช้วิธีการต่างๆ เพื่อแก้ไขปัญหาเหล่านี้โดยใช้เพียงค่าฟังก์ชันของตัวแปรเท่านั้นแต่ไม่ใช้ค่าอนุพันธ์ วิธีการบางอย่างได้รับการพิสูจน์แล้วว่าสามารถค้นหาค่าที่เหมาะสมที่สุดได้ แต่บางวิธีก็เป็นเพียงวิธีการแบบเมตาฮิว ริสติก เนื่องจากปัญหาโดยทั่วไปยากต่อการ แก้ไขมากกว่าการหาค่าเหมาะสมที่สุดแบบนูน สำหรับวิธีการเหล่านี้ เป้าหมายคือการค้นหาค่าพารามิเตอร์ "ที่ดี" อย่างมีประสิทธิภาพ ซึ่งอาจใกล้เคียงกับค่าที่เหมาะสมที่สุดหากมีทรัพยากรเพียงพอ แต่โดยทั่วไปแล้วไม่สามารถรับประกันความเหมาะสมที่สุดได้ ควรจำไว้ว่าความท้าทายนั้นมีความหลากหลาย ดังนั้นโดยทั่วไปแล้วจึงไม่สามารถใช้อัลกอริทึมเดียวสำหรับปัญหาทุกประเภทได้

อัลกอริทึม

อัลกอริทึมการหาค่าเหมาะสมที่สุดที่ไม่ต้องใช้ค่าอนุพันธ์ที่โดดเด่น ได้แก่:

เกณฑ์มาตรฐาน

มีเกณฑ์มาตรฐานสำหรับอัลกอริธึมการเพิ่มประสิทธิภาพแบบกล่องดำ ดูตัวอย่างเช่น การทดสอบ bbob-biobj [ 2 ]

ดูเพิ่มเติม

  • Audet, Charles; Kokkolaras, Michael (2016). "การเพิ่มประสิทธิภาพแบบกล่องดำและปราศจากอนุพันธ์: ทฤษฎี อัลกอริทึม และการประยุกต์ใช้"การเพิ่มประสิทธิภาพและวิศวกรรม 17 : 1– 2. doi : 10.1007 /s11081-016-9307-4 .
ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Derivative-free_optimization&oldid=1346514244 "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ การเพิ่มประสิทธิภาพโดยปราศจากอนุพันธ์

การเพิ่มประสิทธิภาพแบบไม่ใช้อนุพันธ์ (บางครั้งเรียกว่าการเพิ่มประสิทธิภาพแบบกล่องดำ ) เป็นสาขาหนึ่งในการเพิ่มประสิทธิภาพทางคณิตศาสตร์ที่ไม่ใช้ ข้อมูล...

การแนะนำ

ปัญหาที่ต้องแก้ไขคือการหาค่าที่เหมาะสมที่สุดของฟังก์ชันเป้าหมายด้วยวิธีเชิงตัวเลขสำหรับ เซต บางเซต (โดยปกติคือ) กล่าวคือ หาค่า ที่ทำให้ โดยไม่เสียความเป็นทั่วไปสำหรับทุกค่า เอฟ : เอ → อาร์ {\displaystyle f\colon A\to \mathbb {R} } เอ {\displaystyle A} เอ ⊂...

อัลกอริทึม

อัลกอริทึมการหาค่าเหมาะสมที่สุดที่ไม่ต้องใช้ค่าอนุพันธ์ที่โดดเด่น ได้แก่:

เกณฑ์มาตรฐาน

มีเกณฑ์มาตรฐานสำหรับอัลกอริธึมการเพิ่มประสิทธิภาพแบบกล่องดำ ดูตัวอย่างเช่น การทดสอบ bbob-biobj [ 2 ]