สปลายปรับเรียบ (Smoothing spline)คือค่าประมาณฟังก์ชันที่ได้จากชุดข้อมูลที่มีสัญญาณรบกวนของตัวแปรเป้าหมายเพื่อปรับสมดุลระหว่างการวัดความเหมาะสมของ กับการวัดความเรียบ ของโดยใช้ค่าอนุพันธ์เป็นเกณฑ์ สปลายปรับเรียบเป็นวิธีการหนึ่งในการปรับเรียบข้อมูลที่มีสัญญาณรบกวน ตัวอย่างที่คุ้นเคยที่สุดคือสปลายปรับเรียบแบบลูกบาศก์ (cubic smoothing spline) แต่ก็ยังมีอีกหลายความเป็นไปได้ รวมถึงกรณีที่เป็นปริมาณเวกเตอร์ด้วย ${\displaystyle {\hat {f}}(x)}$${\displaystyle y_{i}}$${\displaystyle f(x_{i})}$${\displaystyle {\hat {f}}(x_{i})}$${\displaystyle y_{i}}$${\displaystyle {\hat {f}}(x)}$${\displaystyle x_{i},y_{i}}$${\displaystyle x}$

ให้เป็นเซตของการสังเกต ซึ่งจำลองโดยความสัมพันธ์โดยที่ เป็นตัวแปรสุ่มอิสระที่มีค่าเฉลี่ยเป็นศูนย์ การประมาณค่าสปลายเรียบลูกบาศก์ของฟังก์ชันถูกกำหนดให้เป็นค่าต่ำสุดที่ไม่ซ้ำกันในปริภูมิโซโบเลฟบนช่วงกระชับของ^{[ 1 ] [ 2 ]}${\displaystyle \{x_{i},Y_{i}:i=1,\dots ,n\}}$${\displaystyle Y_{i}=f(x_{i})+\epsilon _{i}}$${\displaystyle \epsilon _{i}}$${\displaystyle {\hat {f}}}$${\displaystyle f}$${\displaystyle W_{2}^{2}}$

${\displaystyle \sum _{i=1}^{n}\{Y_{i}-{\hat {f}}(x_{i})\}^{2}+\lambda \int {\hat {f}}^{\prime \prime }(x)^{2}\,dx.}$

หมายเหตุ:

• ${\displaystyle \แลมบ์ดา \geq 0}$เป็นพารามิเตอร์การปรับเรียบที่ควบคุมความสมดุลระหว่างความแม่นยำต่อข้อมูลและความหยาบของการประมาณค่าฟังก์ชัน มักจะประมาณค่าโดยการตรวจสอบแบบไขว้ทั่วไป^{[ 3 ]}หรือโดยความน่าจะเป็นแบบ จำกัด (REML) ^{[ 4 ]}ซึ่งใช้ประโยชน์จากการเชื่อมโยงระหว่างการปรับเรียบแบบสปลายน์และการประมาณค่าแบบเบย์เซียน (ค่าปรับเรียบสามารถมองได้ว่าเกิดจากความน่าจะเป็นก่อนหน้าของ) ^{[ 5 ]}${\displaystyle f}$
• โดยทั่วไปแล้ว การคำนวณอินทิกรัลจะทำบนเส้นจำนวนจริงทั้งหมด แม้ว่าจะสามารถจำกัดช่วงให้อยู่เฉพาะบนเส้นจำนวนจริงได้เช่นกัน${\displaystyle x_{i}}$
• เนื่องจาก(ไม่มีการปรับให้เรียบ) สปลายน์ปรับให้เรียบจะลู่เข้าสู่สปลายน์การประมาณค่า${\displaystyle \lambda \to 0}$
• เมื่อทำการปรับให้เรียบอย่างไม่มีที่สิ้นสุด ค่าปรับสำหรับความหยาบจะมีความสำคัญสูงสุด และค่าประมาณจะลู่เข้าสู่ค่าประมาณกำลังสองน้อยที่สุดเชิงเส้น${\displaystyle \lambda \to \infty }$
• การลงโทษความหยาบโดยอิงจากอนุพันธ์อันดับสองเป็นวิธีที่พบได้บ่อยที่สุดในเอกสารทางสถิติสมัยใหม่ แม้ว่าวิธีการนี้สามารถปรับใช้กับการลงโทษโดยอิงจากอนุพันธ์อื่นๆ ได้อย่างง่ายดายก็ตาม
• ในวรรณกรรมยุคแรก มีการใช้ผลต่างลำดับที่สองหรือสามที่มีระยะห่างเท่ากันในการลงโทษ แทนที่จะใช้ผลต่างอนุพันธ์^{[ 6 ]}ดูเพิ่มเติมที่ การ ปรับเรียบ Whittaker–Henderson${\displaystyle x_{i}}$
• วัตถุประสงค์การปรับเรียบผลรวมกำลังสองแบบมีค่าปรับสามารถแทนที่ด้วย วัตถุประสงค์ ความน่าจะเป็นแบบมีค่าปรับโดยที่พจน์ผลรวมกำลังสองจะถูกแทนที่ด้วยการวัดความเที่ยงตรงต่อข้อมูลตามลอการิทึมความน่าจะเป็นอีกแบบหนึ่ง^{[ 1 ]} พจน์ผลรวมกำลังสองสอดคล้องกับความน่าจะเป็นแบบมีค่าปรับโดยมีข้อสมมติฐานแบบเกา ส์เซียนบน${\displaystyle \epsilon _{i}}$

การคิดถึงการปรับเส้นโค้งให้เรียบโดยแบ่งเป็นสองขั้นตอนจะเป็นประโยชน์:

1. ขั้นแรก ให้หาค่าต่างๆก่อน${\displaystyle {\hat {f}}(x_{i});i=1,\ldots ,n}$
2. จากค่าเหล่านี้ จงหาค่าxทั้งหมด${\displaystyle {\hat {f}}(x)}$

ตอนนี้ ให้เริ่มขั้นตอนที่สองก่อน

เมื่อกำหนดเวกเตอร์ของค่าที่เหมาะสมแล้ว ส่วนผลรวมกำลังสองของเกณฑ์สปลายน์จะคงที่ เหลือเพียงแค่การหาค่าต่ำสุดของและตัวหาค่าต่ำสุดคือสปลายน์ ลูกบาศก์ธรรมชาติ ที่ประมาณค่าจุดต่างๆสปลายน์ที่ประมาณค่านี้เป็นตัวดำเนินการเชิงเส้น และสามารถเขียนได้ในรูปแบบ ${\displaystyle {\hat {m}}=({\hat {f}}(x_{1}),\ldots ,{\hat {f}}(x_{n}))^{T}}$${\displaystyle \int {\hat {f}}''(x)^{2}\,dx}$${\displaystyle (x_{i},{\hat {f}}(x_{i}))}$

${\displaystyle {\hat {f}}(x)=\sum _{i=1}^{n}{\hat {f}}(x_{i})f_{i}(x)}$

โดยที่เป็นเซตของฟังก์ชันฐานสปลายน์ ดังนั้น ค่าปรับความหยาบจึงมีรูปแบบดังนี้ ${\displaystyle f_{i}(x)}$

${\displaystyle \int {\hat {f}}''(x)^{2}dx={\hat {m}}^{T}A{\hat {m}}.}$

โดยที่องค์ประกอบของคือฟังก์ชันพื้นฐาน และด้วยเหตุนี้ เมทริกซ์ จึงขึ้นอยู่กับการกำหนด ค่า ของตัวแปรทำนายแต่ไม่ขึ้นอยู่กับการตอบสนองหรือ${\displaystyle A}$${\displaystyle \int f_{i}''(x)f_{j}''(x)dx}$${\displaystyle A}$${\displaystyle x_{i}}$${\displaystyle Y_{i}}$${\displaystyle {\hat {m}}}$

${\displaystyle A}$เป็น เมทริก ซ์ ที่กำหนดโดย${\displaystyle n\times n}$${\displaystyle A=\เดลต้า ^{T}W^{-1}\เดลต้า }$

${\displaystyle \Delta }$เป็นเมทริกซ์ของผลต่างอันดับสองที่มีองค์ประกอบดังนี้: ${\displaystyle (n-2)\times n}$

${\displaystyle \Delta _{ii}=1/h_{i}}$, ,${\displaystyle \Delta _{i,i+1}=-1/h_{i}-1/h_{i+1}}$${\displaystyle \Delta _{i,i+2}=1/h_{i+1}}$

${\displaystyle W}$เป็นเมทริกซ์สมมาตรสามแนวทแยงมุมที่มีองค์ประกอบดังนี้: ${\displaystyle (n-2)\times (n-2)}$

${\displaystyle W_{i-1,i}=W_{i,i-1}=h_{i}/6}$และคือระยะห่างระหว่างปมที่ต่อเนื่องกัน (หรือค่า x) ${\displaystyle W_{ii}=(h_{i}+h_{i+1})/3}$${\displaystyle h_{i}=\xi _{i+1}-\xi _{i}}$

กลับไปที่ขั้นตอนแรกกันอีกครั้ง ผลรวมกำลังสองที่ถูกปรับโทษสามารถเขียนได้ดังนี้

${\displaystyle \{Y-{\hat {m}}\}^{T}\{Y-{\hat {m}}\}+\lambda {\hat {m}}^{T}A{\hat {m}},}$

ที่ไหน. ${\displaystyle Y=(Y_{1},\ldots ,Y_{n})^{T}}$

ลดค่าให้น้อยที่สุดโดยการหาอนุพันธ์เทียบกับ ซึ่งส่งผลให้: ^{[ 7 ]}และ ${\displaystyle {\hat {m}}}$${\displaystyle {\hat {m}}}$${\displaystyle -2\{Y-{\hat {m}}\}+2\lambda A{\hat {m}}=0}$${\displaystyle {\hat {m}}=(I+\lambda A)^{-1}Y.}$

แนวทางของ De Boor ใช้ประโยชน์จากแนวคิดเดียวกัน คือการหาจุดสมดุลระหว่างการมีเส้นโค้งที่เรียบเนียนและการอยู่ใกล้กับข้อมูลที่กำหนด^{[ 8 ]}

${\displaystyle p\sum _{i=1}^{n}\left({\frac {Y_{i}-{\hat {f}}\left(x_{i}\right)}{\delta _{i}}}\right)^{2}+\left(1-p\right)\int \left({\hat {f}}^{\left(m\right)}\left(x\right)\right)^{2}\,dx}$

โดยที่เป็นพารามิเตอร์ที่เรียกว่าปัจจัยความเรียบและอยู่ในช่วงและเป็นปริมาณที่ควบคุมขอบเขตของการทำให้เรียบ (ซึ่งแสดงถึงน้ำหนักของแต่ละจุด) ในทางปฏิบัติ เนื่องจากส่วนใหญ่ใช้สปลายลูกบาศก์จึงมักจะเป็นวิธีแก้ปัญหาสำหรับได้รับการเสนอโดยChristian Reinschในปี 1967 ^{[ 9 ]}สำหรับเมื่อเข้าใกล้จะลู่เข้าสู่สปลาย "ธรรมชาติ" ที่ประมาณค่าข้อมูลที่กำหนด^{[ 8 ]}เมื่อเข้าใกล้จะลู่เข้าสู่เส้นตรง (เส้นโค้งที่เรียบที่สุด) เนื่องจากการหาค่าที่เหมาะสมของเป็นงานของการลองผิดลองถูกจึงมีการแนะนำค่าคงที่ที่เกินมาเพื่อความสะดวก^{[ 9 ]}ใช้เพื่อกำหนดค่าของ ในเชิงตัวเลขเพื่อให้ฟังก์ชันตรงตามเงื่อนไขต่อไปนี้: ${\displaystyle p}$${\displaystyle [0,1]}$${\displaystyle \delta _{i};i=1,\dots ,n}$${\displaystyle \เดลต้า _{i}^{-2}}$${\displaystyle Y_{i}}$${\displaystyle m}$${\displaystyle 2}$${\displaystyle m=2}$${\displaystyle m=2}$${\displaystyle p}$${\displaystyle 1}$${\displaystyle {\hat {f}}}$${\displaystyle p}$${\displaystyle 0}$${\displaystyle {\hat {f}}}$${\displaystyle p}$${\displaystyle S}$${\displaystyle S}$${\displaystyle p}$${\displaystyle {\hat {f}}}$

${\displaystyle \sum _{i=1}^{n}\left({\frac {Y_{i}-{\hat {f}}\left(x_{i}\right)}{\delta _{i}}}\right)^{2}\leq S}$

อัลกอริทึมที่อธิบายโดย de Boor เริ่มต้นด้วยและเพิ่มขึ้นเรื่อยๆจนกว่าจะตรงตามเงื่อนไข^{[ 8 ]}ถ้าเป็นการประมาณค่าเบี่ยงเบนมาตรฐานสำหรับขอแนะนำให้เลือกค่าคงที่ ในช่วง การ มีหมายความว่าคำตอบคือตัวประมาณค่าสปลายน์ "ธรรมชาติ" ^{[ 9 ]}การเพิ่มหมายความว่าเราจะได้เส้นโค้งที่เรียบเนียนขึ้นเมื่ออยู่ห่างจากข้อมูลที่กำหนดมากขึ้น ${\displaystyle p=0}$${\displaystyle p}$${\displaystyle \delta _{i}}$${\displaystyle Y_{i}}$${\displaystyle S}$${\displaystyle \left[n-{\sqrt {2n}},n+{\sqrt {2n}}\right]}$${\displaystyle S=0}$${\displaystyle S}$

มีวิธีการหลักสองประเภทสำหรับการขยายผลจากการปรับเรียบโดยพิจารณาจากค่าสเกลาร์ไปสู่การปรับเรียบโดยพิจารณาจากค่าเวกเตอร์ วิธีแรกเป็นการขยายผลของค่าปรับเรียบแบบสปลายน์ไปสู่การตั้งค่าแบบหลายมิติ ตัวอย่างเช่น หากเราพยายามประมาณค่าเราอาจใช้ ค่าปรับ เรียบแบบสปลายน์แผ่นบางและหาค่าที่ทำให้น้อยที่สุด ${\displaystyle x}$${\displaystyle x}$${\displaystyle f(x,z)}$${\displaystyle {\hat {f}}(x,z)}$

${\displaystyle \sum _{i=1}^{n}\{y_{i}-{\hat {f}}(x_{i},z_{i})\}^{2}+\lambda \int \left[\left({\frac {\partial ^{2}{\hat {f}}}{\partial x^{2}}}\right)^{2}+2\left({\frac {\partial ^{2}{\hat {f}}}{\partial x\partial z}}\right)^{2}+\left({\frac {\partial ^{2}{\hat {f}}}{\partial z^{2}}}\right)^{2}\right]{\textrm {d}}x\,{\textrm {d}}z.}$

วิธีการสปลายแผ่นบางสามารถขยายไปสู่การปรับเรียบโดยสัมพันธ์กับมิติมากกว่าสองมิติและลำดับการอนุพันธ์อื่น ๆ ในการลงโทษได้^{[ 1 ]}เมื่อมิติเพิ่มขึ้นจะมีข้อจำกัดบางประการเกี่ยวกับลำดับการอนุพันธ์ที่เล็กที่สุดที่สามารถใช้ได้^{[ 1 ]}แต่ในความเป็นจริง บทความต้นฉบับของ Duchon ^{[ 10 ]}ให้การลงโทษที่ซับซ้อนกว่าเล็กน้อยซึ่งสามารถหลีกเลี่ยงข้อจำกัดนี้ได้

สปลายแผ่นบางนั้นเป็นแบบไอโซโทรปิก หมายความว่าหากเราหมุน ระบบพิกัด ค่าประมาณจะไม่เปลี่ยนแปลง แต่ก็หมายความว่าเรากำลังสมมติว่าระดับการปรับให้เรียบนั้นเหมาะสมในทุกทิศทาง โดยทั่วไปแล้วถือว่าสมเหตุสมผลเมื่อทำการปรับให้เรียบโดยสัมพันธ์กับตำแหน่งเชิงพื้นที่ แต่ในหลายกรณีไอโซโทรปิกไม่ใช่สมมติฐานที่เหมาะสม และอาจนำไปสู่ความไวต่อการเลือกหน่วยวัดที่ดูเหมือนจะไม่มีเหตุผล ตัวอย่างเช่น หากทำการปรับให้เรียบโดยสัมพันธ์กับระยะทางและเวลา ตัวปรับให้เรียบแบบไอโซโทรปิกจะให้ผลลัพธ์ที่แตกต่างกันหากวัดระยะทางเป็นเมตรและเวลาเป็นวินาที เมื่อเทียบกับกรณีที่เปลี่ยนหน่วยเป็นเซนติเมตรและชั่วโมง ${\displaystyle x,z}$

การวางนัยทั่วไปประเภทที่สองสำหรับการปรับเรียบแบบหลายมิติจะจัดการกับ ปัญหา ความไม่แปรผันตามมาตราส่วน นี้โดยตรง โดยใช้การสร้างสปลายผลคูณเทนเซอร์^{[ 11 ] [ 12 ] [ 13 ]}สปลายดังกล่าวมีค่าปรับเรียบที่มีพารามิเตอร์ปรับเรียบหลายตัว ซึ่งเป็นราคาที่ต้องจ่ายสำหรับการไม่ถือว่าระดับความเรียบเดียวกันนั้นเหมาะสมในทุกทิศทาง

เส้นโค้งเรียบ (Smoothing splines) มีความเกี่ยวข้อง แต่แตกต่างจาก:

• สปลายการถดถอย (Regression splines ) ในวิธีนี้ ข้อมูลจะถูกปรับให้เข้ากับชุดฟังก์ชันพื้นฐานสปลายที่มีชุดจุดเชื่อมต่อที่ลดลง โดยทั่วไปแล้วจะใช้วิธีการกำลังสองน้อยที่สุด (least squares) ไม่มีการใช้ค่าปรับความหยาบ (roughness penalty) (ดูเพิ่มเติมที่ สปลายการถดถอยแบบปรับตัวหลายตัวแปร (multivariate adaptive regression splines ))
• สปลายแบบมีค่าปรับซึ่งเป็นการรวมปมที่ลดลงของสปลายถดถอยเข้ากับค่าปรับความหยาบของสปลายปรับเรียบ^{[ 14 ] [ 15 ]}
• วิธีการ สปลายแผ่นบางและแผนที่ยืดหยุ่นสำหรับการเรียนรู้แมนิโฟล ด์ วิธีนี้ผสมผสาน การลงโทษ แบบกำลังสองน้อยที่สุดสำหรับข้อผิดพลาดในการประมาณค่าเข้ากับการลงโทษการดัดและการยืดของแมนิโฟลด์ที่ใช้ในการประมาณค่า และใช้การแบ่งส่วนหยาบของปัญหาการหาค่าเหมาะสมที่สุด

ซอร์สโค้ดสำหรับ การปรับเรียบ สปลายน์สามารถพบได้ในตัวอย่างจากหนังสือA Practical Guide to Splines ของ Carl de Boorตัวอย่างเหล่านี้เขียนด้วยภาษาโปรแกรมFortranซอร์สโค้ดที่อัปเดตแล้วยังมีอยู่ในเว็บไซต์อย่างเป็นทางการของ Carl de Boor อีกด้วย[1 ]

• Wahba, G. (1990). แบบจำลองสปลายน์สำหรับข้อมูลเชิงสังเกต SIAM, ฟิลาเดลเฟีย
• Green, PJ และ Silverman, BW (1994). การถดถอยแบบไม่ใช้พารามิเตอร์และแบบจำลองเชิงเส้นทั่วไป CRC Press.
• เดอ บูร์, ซี. (2001). คู่มือปฏิบัติเกี่ยวกับสปลายน์ (ฉบับปรับปรุง) . สปริงเกอร์.