วิธีการเชิงตัวเลขสำหรับสมการเชิงอนุพันธ์สามัญคือ วิธีการที่ใช้ในการหา ค่าประมาณ เชิงตัวเลขของคำตอบของสมการเชิงอนุพันธ์สามัญ (ODE) การใช้งานวิธีการเหล่านี้เรียกอีกอย่างว่า " การอินทิเกรตเชิงตัวเลข " แม้ว่าคำนี้อาจหมายถึงการคำนวณอินทิกรัลด้วย เช่นกัน

สมการเชิงอนุพันธ์จำนวนมากไม่สามารถหาคำตอบที่แน่นอนได้ อย่างไรก็ตาม ในทางปฏิบัติ เช่น ในงานวิศวกรรม การประมาณค่าเชิงตัวเลขของคำตอบมักจะเพียงพอ อัลกอริทึมที่ศึกษาในที่นี้สามารถใช้ในการคำนวณค่าประมาณดังกล่าวได้ อีกวิธีหนึ่งคือการใช้เทคนิคจากแคลคูลัสเพื่อหาการกระจายอนุกรมของคำตอบ

สมการเชิงอนุพันธ์สามัญเกิดขึ้นในสาขาวิทยาศาสตร์หลายสาขา รวมถึงฟิสิกส์ เคมี ชีววิทยาและเศรษฐศาสตร์[ 1 ]นอกจาก^{นี้วิธี}การบางอย่างใน สมการเชิงอนุพันธ์ ย่อยเชิงตัวเลขจะแปลงสมการเชิงอนุพันธ์ย่อยให้เป็นสมการเชิงอนุพันธ์สามัญ ซึ่งจะต้องได้รับการแก้ไขต่อ ^ไป

สมการเชิงอนุพันธ์อันดับหนึ่งเป็นปัญหาค่าเริ่มต้น (IVP) ในรูปแบบ^{[ 2 ]}

$${\displaystyle y'(t)=f(t,y(t)),\qquad y(t_{0})=y_{0},}$$

1

โดยที่y เป็นฟังก์ชันและเงื่อนไขเริ่มต้นคือเวกเตอร์ที่กำหนดให้ อันดับหนึ่งหมายความว่ามีเพียงอนุพันธ์อันดับแรกของy เท่านั้น ที่ปรากฏในสมการ และไม่มีอนุพันธ์อันดับสูงกว่านั้น ${\displaystyle f}$${\displaystyle f:[t_{0},\infty )\times \mathbb {R} ^{d}\to \mathbb {R} ^{d}}$${\displaystyle y_{0}\in \mathbb {R} ^{d}}$

โดยไม่เสียความเป็นทั่วไปสำหรับระบบอันดับสูงกว่า เราจะจำกัดตัวเองไว้ที่สมการเชิงอนุพันธ์อันดับหนึ่งเท่านั้น เพราะสมการเชิงอนุพันธ์สามัญอันดับสูงกว่าสามารถแปลงเป็นระบบสมการอันดับหนึ่งที่ใหญ่กว่าได้โดยการแนะนำตัวแปรเพิ่มเติม ตัวอย่างเช่น สมการอันดับสอง y ′′ = − yสามารถเขียนใหม่เป็นสมการอันดับหนึ่งสองสมการได้ดังนี้y ′ = zและz ′ = − y

ในส่วนนี้ เราจะอธิบายวิธีการเชิงตัวเลขสำหรับ IVP และสังเกตว่าปัญหาค่าขอบเขต (BVP) ต้องใช้ชุดเครื่องมือที่แตกต่างกัน ใน BVP นั้น เรากำหนดค่าหรือส่วนประกอบของคำตอบyที่มากกว่าหนึ่งจุด ด้วยเหตุนี้ จึงต้องใช้วิธีการที่แตกต่างกันในการแก้ปัญหา BVP ตัวอย่างเช่นวิธีการยิง (และรูปแบบต่างๆ) หรือวิธีการทั่วโลก เช่นความแตกต่างแบบจำกัด [ ^{3 ] วิธีการ ของ} Galerkin ^{[ 4 ]}หรือวิธีการจัดตำแหน่งนั้นเหมาะสมสำหรับปัญหาประเภทนี้

ทฤษฎีบทPicard–Lindelöfกล่าวว่าจะมีคำตอบเพียงหนึ่งเดียวก็ต่อเมื่อfเป็นฟังก์ชันลิปชิตซ์ต่อเนื่อง

วิธีการเชิงตัวเลขสำหรับการแก้ปัญหา IVP อันดับแรกมักจะแบ่งออกเป็นสองประเภทใหญ่ๆ คือ^{[ 5 ]}วิธีการหลายขั้นตอนเชิงเส้นหรือวิธีการ Runge–Kuttaการแบ่งย่อยเพิ่มเติมสามารถทำได้โดยการแบ่งวิธีการออกเป็นวิธีการที่ชัดแจ้งและวิธีการที่ไม่ชัดแจ้ง ตัวอย่างเช่นวิธีการหลายขั้นตอนเชิงเส้น ที่ไม่ชัดแจ้ง ได้แก่วิธีการ Adams-Moultonและวิธีการหาอนุพันธ์ย้อนหลัง (BDF) ในขณะที่วิธีการ Runge–Kutta ที่ไม่ชัดแจ้ง^{[ 6 ]}ได้แก่ Runge–Kutta ที่ไม่ชัดแจ้งในแนวทแยง (DIRK) ^{[ 7 ] [ 8 ]} Runge–Kutta ที่ไม่ชัดแจ้งในแนวทแยงมุมเดียว (SDIRK) ^{[ 9 ]}และวิธีการเชิงตัวเลข Gauss–Radau ^{[ 10 ]} (อิงตามการหาปริพันธ์แบบเกาส์เซียน^{[ 11 ]} ) ตัวอย่างที่ชัดเจนจากตระกูลวิธีการหลายขั้นตอนเชิงเส้นได้แก่วิธีการ Adams–Bashforth และวิธีการ Runge–Kutta ใดๆ ที่มี ตาราง Butcherแนวทแยงมุมล่างถือเป็น วิธีการ ที่ชัดเจนโดยทั่วไปแล้ว กฎง่ายๆ ข้อหนึ่งระบุว่า สมการเชิงอนุพันธ์ ที่ซับซ้อนจำเป็นต้องใช้แผนการคำนวณแบบปริยาย ในขณะที่ปัญหาที่ไม่ซับซ้อนสามารถแก้ไขได้อย่างมีประสิทธิภาพมากกว่าด้วยแผนการคำนวณแบบชัดแจ้ง

วิธีการเชิงเส้นทั่วไป (GLMs) ที่เรียกว่านี้เป็นการวางนัยทั่วไปของวิธีการสองกลุ่มใหญ่ข้างต้น^{[ 12 ]}

จากจุดใดๆ บนเส้นโค้ง คุณสามารถหาค่าประมาณของจุดใกล้เคียงบนเส้นโค้งได้โดยการเคลื่อนไปตามเส้นสัมผัสกับเส้นโค้งเป็นระยะทางสั้นๆ

เริ่มต้นด้วยสมการเชิงอนุพันธ์ ( 1 ) เราแทนที่อนุพันธ์y ′ ด้วยการประมาณ ผลต่างจำกัด

$${\displaystyle y'(t)\approx {\frac {y(t+h)-y(t)}{h}},}$$

2

ซึ่งเมื่อจัดเรียงใหม่จะได้สูตรต่อไปนี้ และเมื่อใช้ ( 1 ) จะได้: $${\displaystyle y(t+h)\approx y(t)+hy'(t)}$$

$${\displaystyle y(t+h)\approx y(t)+hf(t,y(t)).}$$

3

สูตรนี้มักถูกนำไปใช้ในลักษณะต่อไปนี้ เราเลือกขนาดขั้นตอนhและเราสร้างลำดับ เราใช้สัญลักษณ์แทนค่าประมาณเชิงตัวเลขของคำตอบที่แน่นอน โดย ได้รับแรงบันดาลใจจาก ( 3 ) เราคำนวณค่าประมาณเหล่านี้โดยใช้รูปแบบ เวียนเกิด ต่อไปนี้${\displaystyle t_{0},t_{1}=t_{0}+h,t_{2}=t_{0}+2h,\dots }$${\displaystyle y_{n}}$${\displaystyle y(t_{n})}$

$${\displaystyle y_{n+1}=y_{n}+hf(t_{n},y_{n}).}$$

4

นี่คือวิธีของออยเลอร์ (หรือวิธีออยเลอร์แบบเดินหน้าซึ่งแตกต่างจากวิธีออยเลอร์แบบถอยหลังที่จะอธิบายต่อไป) วิธีนี้ตั้งชื่อตามเลออนฮาร์ด ออยเลอร์ผู้ที่อธิบายวิธีนี้ในปี 1768

วิธี ของ ออยเลอร์เป็นตัวอย่างของ วิธีแบบ ชัดแจ้งซึ่งหมายความว่าค่าใหม่y _{n +1}ถูกกำหนดขึ้นโดยใช้สิ่งที่เราทราบอยู่แล้ว เช่นy _n

ถ้าแทนที่จะใช้ ( 2 ) เราใช้การประมาณค่า

$${\displaystyle y'(t)\approx {\frac {y(t)-y(th)}{h}},}$$

5

เราจึงได้วิธีการออยเลอร์แบบย้อนกลับ :

$${\displaystyle y_{n+1}=y_{n}+hf(t_{n+1},y_{n+1}).}$$

6

วิธี Backward Euler เป็น วิธีแบบ ปริยายหมายความว่าเราต้องแก้สมการเพื่อหาค่าy _{n +1}โดยทั่วไปมักใช้การวนซ้ำแบบจุดตรึง หรือ วิธี Newton–Raphson (ที่ดัดแปลงบางส่วน) เพื่อให้ได้ผลลัพธ์นี้

การแก้สมการนี้ใช้เวลานานกว่าวิธีแบบชัดแจ้ง ค่าใช้จ่ายนี้ต้องนำมาพิจารณาเมื่อเลือกวิธีที่จะใช้ ข้อดีของวิธีแบบไม่ชัดแจ้ง เช่น ( 6 ) คือโดยทั่วไปแล้วจะมีความเสถียรมากกว่าในการแก้สมการแบบแข็งซึ่งหมายความว่าสามารถใช้ ขนาดขั้นตอน h ที่ใหญ่กว่าได้

ตัวรวมเลขชี้กำลังอธิบายถึงกลุ่มตัวรวมจำนวนมากที่เพิ่งมีการพัฒนาอย่างมากเมื่อไม่นานมานี้^{[ 13 ]} พวกมันมีอายุย้อนไปอย่างน้อยถึงทศวรรษที่ 1960

แทนที่ ( 1 ) เราถือว่าสมการเชิงอนุพันธ์มีรูปแบบใดรูปแบบหนึ่งดังต่อไปนี้

$${\displaystyle y'(t)=-A\,y+{\mathcal {N}}(y),}$$

7

หรือได้ทำการแปลงเป็นเชิงเส้นในระดับท้องถิ่นโดยอิงจากสถานะพื้นหลัง เพื่อสร้างพจน์เชิงเส้นและพจน์ที่ไม่เป็นเชิงเส้น ${\displaystyle -Ay}$${\displaystyle {\คณิตศาสตร์ {N}}(y)}$

ตัวรวมเลขชี้กำลังถูกสร้างขึ้นโดยการคูณ ( 7 ) ด้วยและทำการอินทิเกรตผลลัพธ์อย่างแม่นยำในช่วงเวลาที่: สมการอินทิกรัลนี้แม่นยำ แต่ไม่ได้กำหนดอินทิกรัล ${\textstyle e^{At}}$${\displaystyle [t_{n},t_{n+1}]}$${\displaystyle t_{n+1}=t_{n}{+}h}$$${\displaystyle y_{n+1}=e^{-Ah}y_{n}+\int _{0}^{h}e^{-(h-\tau )A}{\mathcal {N}}{\left(y\left(t_{n}+\tau \right)\right)}\,d\tau .}$$

ตัวรวมเชิงเลขชี้กำลังอันดับหนึ่งสามารถสร้างขึ้นได้โดยการคงค่าให้คงที่ตลอดช่วงทั้งหมด: ${\displaystyle {\mathcal {N}}(y(t_{n}+\tau ))}$

$${\displaystyle y_{n+1}=e^{-Ah}y_{n}+A^{-1}\left(1-e^{-Ah}\right){\mathcal {N}}{\left(y(t_{n})\right)}\ .}$$

8

วิธีของออยเลอร์มักไม่แม่นยำเพียงพอ กล่าวโดยละเอียดคือ มีลำดับเพียงหนึ่งเท่านั้น (แนวคิดเรื่องลำดับจะอธิบายต่อไป) นี่จึงเป็นสาเหตุที่นักคณิตศาสตร์มองหาวิธีการที่มีลำดับสูงกว่า

วิธีหนึ่งที่เป็นไปได้คือ การใช้ค่าy _n ที่คำนวณไว้ก่อนหน้านี้ เพื่อกำหนดy _{n +1} เท่านั้น แต่ยังทำให้คำตอบขึ้นอยู่กับค่าในอดีตเพิ่มเติมอีกด้วย ซึ่งจะได้วิธีการที่เรียกว่าวิธีหลายขั้นตอน วิธีที่ง่ายที่สุดอาจเป็นวิธีแบบก้าวกระโดด (leapfrog method)ซึ่งเป็นวิธีอันดับสองและ (โดยคร่าวๆ) อาศัยค่าเวลาสองค่า

วิธีการหลายขั้นตอนเชิงปฏิบัติเกือบทั้งหมดจัดอยู่ในกลุ่มวิธีการหลายขั้นตอนเชิงเส้นซึ่งมีรูปแบบดังนี้ $${\displaystyle {\begin{aligned}&{}\alpha _{k}y_{n+k}+\alpha _{k-1}y_{n+k-1}+\cdots +\alpha _{0}y_{n}\\&{}\quad =h\left[\beta _{k}f(t_{n+k},y_{n+k})+\beta _{k-1}f(t_{n+k-1},y_{n+k-1})+\cdots +\beta _{0}f(t_{n},y_{n})\right].\end{aligned}}}$$

อีกความเป็นไปได้หนึ่งคือการใช้จุดเพิ่มเติมในช่วงดังกล่าวซึ่งนำไปสู่ตระกูลวิธีการรันเก-คุตตา (Runge–Kutta methods)ซึ่งตั้งชื่อตามคาร์ล รันเกและมาร์ติน คุตตาวิธีการอันดับสี่วิธีหนึ่งของพวกเขานั้นได้รับความนิยมเป็นพิเศษ ${\displaystyle [t_{n},t_{n+1}]}$

การนำวิธีการเหล่านี้ไปใช้ในการแก้สมการเชิงอนุพันธ์สามัญอย่างมีประสิทธิภาพนั้น จำเป็นต้องอาศัยมากกว่าแค่สูตรการคำนวณแบบก้าวเวลา

การใช้ขนาดขั้นตอนเดียวกันตลอดเวลามักไม่มีประสิทธิภาพ ดังนั้นจึง มีการพัฒนา วิธีการที่มีขนาดขั้นตอนแปรผันได้โดยปกติแล้ว ขนาดขั้นตอนจะถูกเลือกเพื่อให้ข้อผิดพลาด (เฉพาะจุด) ต่อขั้นตอนต่ำกว่าระดับความคลาดเคลื่อนที่ยอมรับได้ ซึ่งหมายความว่าวิธีการเหล่านี้จะต้องคำนวณตัวบ่งชี้ข้อผิดพลาดซึ่งเป็นการประมาณค่าข้อผิดพลาดเฉพาะจุด ด้วย

การขยายแนวคิดนี้คือการเลือกแบบไดนามิกระหว่างวิธีการต่างๆ ที่มีลำดับต่างกัน (เรียกว่า^วิธีการลำดับตัวแปร ) วิธีการที่อิงตามการขยายของริชาร์ดสัน [ ^{14 ]}เช่นอัลกอริทึม Bulirsch–Stoer [ ^{15 ] [ 16 ]}มักถูกใช้เพื่อสร้างวิธีการต่างๆ ที่มีลำดับต่าง ^กัน

คุณสมบัติอื่นๆ ที่น่าสนใจ ได้แก่:

• ผลลัพธ์ที่หนาแน่น : การประมาณค่าเชิงตัวเลขราคาประหยัดสำหรับช่วงเวลาการอินทิเกรตทั้งหมด ไม่ใช่เฉพาะที่จุดt ₀ , t ₁ , t ₂ , ... เท่านั้น
• การระบุตำแหน่งเหตุการณ์ : การหาช่วงเวลาที่ฟังก์ชันเฉพาะอย่างใดอย่างหนึ่งมีค่าเป็นศูนย์ โดยทั่วไปแล้วจำเป็นต้องใช้อัลกอริทึมการหาค่าราก
• รองรับการประมวลผลแบบขนาน
• เมื่อใช้สำหรับการอินทิเกรตโดยสัมพันธ์กับเวลา ความสามารถในการย้อนกลับของเวลา

วิธีการหลายวิธีไม่อยู่ในกรอบที่กล่าวถึงในที่นี้ วิธีการทางเลือกบางประเภท ได้แก่:

• วิธีการอนุพันธ์หลายตัวซึ่งไม่เพียงใช้ฟังก์ชันf เท่านั้น แต่ยังใช้อนุพันธ์ของฟังก์ชันนั้นด้วย คลาสนี้รวมถึงวิธีการ Hermite–Obreschkoffและวิธีการ Fehlbergรวมถึงวิธีการต่างๆ เช่นวิธีการ Parker–Sochacki ^{[ 17 ]}หรือวิธีการ Bychkov–Scherbakov ซึ่งคำนวณสัมประสิทธิ์ของอนุกรมเทย์เลอร์ของคำตอบyแบบเวียนซ้ำ
• วิธีการสำหรับ ODE อันดับสองเรากล่าวว่า ODE อันดับสูงทั้งหมดสามารถแปลงเป็น ODE อันดับแรกในรูปแบบ (1) ได้ แม้ว่านี่จะเป็นความจริง แต่ก็อาจไม่ใช่แนวทางที่ดีที่สุด โดยเฉพาะอย่างยิ่งวิธีการของ Nyströmทำงานโดยตรงกับสมการอันดับสอง
• วิธีการบูรณาการทางเรขาคณิต^{[ 18 ] [ 19 ]}ได้รับการออกแบบเป็นพิเศษสำหรับคลาส ODE พิเศษ (ตัวอย่างเช่น ตัวบูรณาการเชิงซิมเพล็กติกสำหรับการแก้สมการแฮมิลโทเนียน ) โดยคำนึงถึงว่าการแก้ปัญหาเชิงตัวเลขจะเคารพโครงสร้างพื้นฐานหรือเรขาคณิตของคลาสเหล่านี้
• วิธีการระบบสถานะควอนตัมเป็นกลุ่มของวิธีการอินทิเกรต ODE ที่อิงตามแนวคิดของการควอนตัมสถานะ วิธีการเหล่านี้มีประสิทธิภาพเมื่อจำลองระบบที่เบาบางซึ่งมีการไม่ต่อเนื่องบ่อยครั้ง

ปัญหาค่าเริ่มต้นบางอย่างต้องการการบูรณาการที่ความละเอียดเชิงเวลาสูงมากและ/หรือในช่วงเวลาที่ยาวนานมาก จนวิธีการก้าวเวลาแบบอนุกรมแบบดั้งเดิมไม่สามารถใช้งานได้จริงในแบบเรียลไทม์ (เช่น ปัญหาค่าเริ่มต้นในการพยากรณ์อากาศเชิงตัวเลข การจำลองพลาสมา และพลศาสตร์โมเลกุล) วิธีการประมวล ผลแบบขนานในเวลา (PinT) ได้รับการพัฒนาขึ้นเพื่อตอบสนองต่อปัญหาเหล่านี้ เพื่อลดเวลาในการจำลองโดยใช้ การประมวล ผล แบบขนาน

วิธีการ PinT ในยุคแรก (ซึ่งเสนอครั้งแรกในช่วงทศวรรษ 1960) ^{[ 20 ]}ในตอนแรกถูกมองข้ามโดยนักวิจัยเนื่องจากสถาปัตยกรรมคอมพิวเตอร์แบบขนานที่จำเป็นยังไม่แพร่หลาย เมื่อมีพลังการประมวลผลมากขึ้น ความสนใจจึงกลับมาอีกครั้งในช่วงต้นทศวรรษ 2000 ด้วยการพัฒนาPararealซึ่งเป็นอัลกอริทึม PinT ที่ยืดหยุ่น ใช้งานง่าย และเหมาะสมสำหรับการแก้ปัญหา IVP ที่หลากหลาย การมาถึงของคอมพิวเตอร์ระดับเอ็กซาสเกล ทำให้อัลกอริทึม PinT ได้รับความสนใจจากงานวิจัยมากขึ้น และได้รับการพัฒนาในลักษณะที่สามารถใช้ประโยชน์ จากซูเปอร์คอมพิวเตอร์ที่ทรงพลังที่สุดในโลกได้วิธีการที่ได้รับความนิยมมากที่สุดในปี 2023 ได้แก่ Parareal, PFASST, ParaDiag และ MGRIT ^{[ 21 ]}

การวิเคราะห์เชิงตัวเลขไม่ได้หมายถึงเพียงแค่การออกแบบวิธีการเชิงตัวเลขเท่านั้น แต่ยังรวมถึงการวิเคราะห์วิธีการเหล่านั้นด้วย แนวคิดหลักสามประการในการวิเคราะห์นี้ได้แก่:

• การลู่เข้า : วิธีการนั้นประมาณค่าคำตอบได้หรือไม่
• ลำดับ : ความแม่นยำในการประมาณคำตอบ และ
• ความเสถียร : ว่าข้อผิดพลาดถูกลดทอนลงหรือไม่ ^{[ 22 ]}

กล่าวได้ว่าวิธีการเชิงตัวเลขลู่เข้าหากคำตอบเชิงตัวเลขเข้าใกล้คำตอบที่ถูกต้องเมื่อขนาดขั้นตอนhเข้าใกล้ 0 กล่าวโดยละเอียด เราต้องการให้สำหรับทุก ODE (1) ที่มีฟังก์ชันLipschitz fและทุกt ^*  > 0

$${\displaystyle \lim _{h\to 0^{+}}\max _{n=0,1,\dots ,\lfloor t^{*}/h\rfloor }\left\|y_{n,h}-y(t_{n})\right\|=0.}$$

วิธีการทั้งหมดที่กล่าวมาข้างต้นนั้นลู่เข้า

สมมติว่าวิธีการเชิงตัวเลขคือ

$${\displaystyle y_{n+k}=\Psi (t_{n+k};y_{n},y_{n+1},\dots ,y_{n+k-1};h).\,}$$

ข้อผิดพลาดเฉพาะ จุด(การตัดทอน)ของวิธีการ คือ ข้อผิดพลาดที่เกิดขึ้นในขั้นตอนใดขั้นตอนหนึ่งของวิธีการ กล่าวคือ เป็นความแตกต่างระหว่างผลลัพธ์ที่ได้จากวิธีการ โดยสมมติว่าไม่มีข้อผิดพลาดเกิดขึ้นในขั้นตอนก่อนหน้า กับคำตอบที่ถูกต้องแม่นยำ:

$${\displaystyle \delta _{n+k}^{h}=\Psi {\left(t_{n+k};y(t_{n}),y(t_{n+1}),\dots ,y(t_{n+k-1});h\right)}-y(t_{n+k}).}$$

กล่าวได้ว่าวิธีการนั้นสอดคล้องกันหาก วิธีการนั้นมีลำดับหาก ดังนั้นวิธีการจะสอดคล้องกันหากมีลำดับมากกว่า 0 วิธีการออยเลอร์ (ไปข้างหน้า) (4) และวิธีการออยเลอร์แบบย้อนกลับ (6) ที่นำเสนอข้างต้นต่างก็มีลำดับ 1 ดังนั้นจึงสอดคล้องกัน วิธีการส่วนใหญ่ที่ใช้ในทางปฏิบัติมีลำดับที่สูงกว่า ความสอดคล้องกันเป็นเงื่อนไขที่จำเป็นสำหรับการลู่เข้า แต่ไม่เพียงพอ สำหรับวิธีการที่จะลู่เข้าได้ วิธีการนั้นต้องทั้งสอดคล้องกันและมีเสถียรภาพเป็นศูนย์ $${\displaystyle \lim _{h\to 0}{\frac {\delta _{n+k}^{h}}{h}}=0.}$$${\displaystyle p}$$${\displaystyle \delta _{n+k}^{h}=O(h^{p+1})\quad {\text{as }}h\to 0.}$$

แนวคิดที่เกี่ยวข้องคือข้อผิดพลาดโดยรวม (การตัดทอน)ซึ่งเป็นข้อผิดพลาดที่เกิดขึ้นในทุกขั้นตอนที่จำเป็นเพื่อให้ได้เวลาที่กำหนดไว้ กล่าวคือข้อผิดพลาดโดยรวม ณ เวลาคือโดยที่ข้อผิดพลาดโดยรวมของวิธีการแบบขั้นตอนเดียวลำดับที่ คือ; โดยเฉพาะอย่างยิ่ง วิธีการดังกล่าวจะลู่เข้า ข้อความนี้ไม่จำเป็นต้องเป็นจริงสำหรับวิธีการแบบหลายขั้นตอน ${\displaystyle t}$${\displaystyle t}$${\displaystyle y_{N}-y(t)}$${\displaystyle N=(t-t_{0})/h}$${\displaystyle p}$${\displaystyle O(h^{p})}$

สำหรับสมการเชิงอนุพันธ์บางสมการ การประยุกต์ใช้วิธีมาตรฐาน เช่น วิธีออยเลอร์วิธีรันเก-คุตตา แบบชัดเจน หรือวิธีหลายขั้นตอน (เช่น วิธีอดัมส์-แบชฟอร์ธ) แสดงให้เห็นถึงความไม่เสถียรในคำตอบ แม้ว่าวิธีอื่นๆ อาจสร้างคำตอบที่เสถียรได้ก็ตาม “พฤติกรรมที่ยากลำบาก” ในสมการนี้ (ซึ่งอาจไม่จำเป็นต้องซับซ้อนเอง) เรียกว่าความแข็งและมักเกิดจากการมีมาตราส่วนเวลาที่แตกต่างกันในปัญหาพื้นฐาน^{[ 23 ]}ตัวอย่างเช่น การชนกันในระบบกลไก เช่น ในตัวสั่นแบบกระทบมักเกิดขึ้นในมาตราส่วนเวลาที่เล็กกว่ามากเมื่อเทียบกับเวลาสำหรับการเคลื่อนที่ของวัตถุ ความไม่สอดคล้องกันนี้ทำให้เกิด “การหักเลี้ยวที่คมชัด” มากในเส้นโค้งของพารามิเตอร์สถานะ

ปัญหาที่แข็งทื่อพบได้ทั่วไปในจลนศาสตร์เคมีทฤษฎีการควบคุมกลศาสตร์ของแข็ง การพยากรณ์อากาศ ชีววิทยา ฟิสิกส์พลาสมาและอิเล็กทรอนิกส์วิธีหนึ่งที่จะเอาชนะความแข็งทื่อคือการขยายแนวคิดของสมการเชิงอนุพันธ์ไปสู่การรวมเชิงอนุพันธ์ซึ่งอนุญาตให้และจำลองความไม่เรียบ^{[ 24 ] [ 25 ]}

ด้านล่างนี้คือลำดับเหตุการณ์ของการพัฒนาที่สำคัญบางประการในสาขานี้^{[ 26 ] [ 27 ]}

• ปี 1768 - เลออนฮาร์ด ออยเลอร์เผยแพร่วิธีการของเขา
• ปี ค.ศ. 1824 - ออกัสติน หลุยส์ โคชีพิสูจน์การลู่เข้าของวิธีออยเลอร์ ในการพิสูจน์นี้ โคชีใช้วิธีออยเลอร์แบบปริยาย
• ปี ค.ศ. 1855 - มีการกล่าวถึงวิธีการหลายขั้นตอนของจอห์น คาวช์ อดัมส์ เป็นครั้งแรก ในจดหมายที่เขียนโดยฟรานซิส บาชฟอร์ธ
• ปี 1895 - คาร์ล รันเกเผยแพร่วิธีรันเก-คุตตะเป็น ครั้งแรก
• ปี ค.ศ. 1901 - มาร์ติน คุตตา อธิบายวิธี การรันเก-คุตตาอันดับสี่ที่เป็นที่นิยม
• ปี 1910 - ลูอิส ฟราย ริชาร์ดสันประกาศวิธีการประมาณค่าแบบขยายผล ของเขา ซึ่ง เรียกว่า การประมาณค่าแบบขยายผลริชาร์ดสัน
• ปี 1952 - ชาร์ลส์ เอฟ. เคอร์ติสและโจเซฟ โอ๊คแลนด์ เฮิร์ชเฟลเดอร์บัญญัติศัพท์คำว่า"สมการแข็ง" (stiff equations )
• ปี 1963 - เกอร์มุนด์ ดาห์ลควิสต์ นำเสนอเสถียรภาพแบบ Aของวิธีการอินทิเกรต

ปัญหาค่าขอบเขต (BVPs) มักจะได้รับการแก้ไขเชิงตัวเลขโดยการแก้ปัญหาเมทริกซ์ที่เทียบเท่าโดยประมาณซึ่งได้มาจากการแบ่งส่วน BVP ดั้งเดิม^{[ 28 ]}วิธีที่ใช้กันทั่วไปในการแก้ปัญหา BVP เชิงตัวเลขในมิติเดียวเรียกว่าวิธีผลต่างจำกัด^{[ 3 ]} วิธีนี้ใช้ประโยชน์จากการรวมเชิงเส้นของค่าจุดเพื่อสร้างสัมประสิทธิ์ผลต่างจำกัดที่อธิบายอนุพันธ์ของฟังก์ชัน ตัวอย่างเช่น การประมาณ ผลต่างกลาง อันดับสอง ของอนุพันธ์อันดับแรกมีดังนี้:

$${\displaystyle u'(x_{i})={\frac {u_{i+1}-u_{i-1}}{2h}}+{\mathcal {O}}(h^{2}),}$$

และ ผลต่างศูนย์กลางอันดับสองสำหรับอนุพันธ์อันดับสองกำหนดโดย:

$${\displaystyle u''(x_{i})={\frac {u_{i+1}-2u_{i}+u_{i-1}}{h^{2}}}+{\mathcal {O}}(h^{2}).}$$

ในสูตรทั้งสองนี้คือระยะห่างระหว่าง ค่า x ที่อยู่ติดกัน ในโดเมนแบบไม่ต่อเนื่อง จากนั้นจึงสร้างระบบเชิงเส้นที่สามารถแก้ได้โดยใช้วิธีเมทริกซ์ มาตรฐาน ตัวอย่างเช่น สมมติว่าสมการที่ต้องแก้คือ: ${\displaystyle h=x_{i}-x_{i-1}}$

$${\displaystyle {\begin{aligned}&{\frac {d^{2}u}{dx^{2}}}=u,\\[1ex]&u(0)=0,\\&u(1)=1.\end{aligned}}}$$

ขั้นตอนต่อไปคือการแบ่งปัญหาออกเป็นส่วนย่อยๆ และใช้การประมาณค่าอนุพันธ์เชิงเส้น เช่น

$${\displaystyle u''_{i}={\frac {u_{i+1}-2u_{i}+u_{i-1}}{h^{2}}}}$$

และแก้ระบบสมการเชิงเส้นที่ได้ ซึ่งจะนำไปสู่สมการต่างๆ เช่น:

$${\displaystyle {\frac {u_{i+1}-2u_{i}+u_{i-1}}{h^{2}}}-u_{i}=0,\quad \forall i={1,2,3,\dots ,n-1}.}$$

เมื่อมองแวบแรก ระบบสมการนี้ดูเหมือนจะมีปัญหาเนื่องจากสมการไม่มีพจน์ใดที่ไม่ถูกคูณด้วยตัวแปร แต่ในความเป็นจริงแล้วไม่ใช่เช่นนั้น ที่i = 1 และn − 1 มีพจน์ที่เกี่ยวข้องกับค่าขอบเขตและ เนื่องจากทราบค่าทั้งสองนี้แล้ว จึงสามารถแทนค่าลงในสมการนี้ได้โดยตรง และส่งผลให้ได้ ระบบสมการเชิงเส้นไม่เอกพันธุ์ที่มีคำตอบที่ไม่ใช่คำตอบศูนย์ ${\displaystyle u(0)=u_{0}}$${\displaystyle u(1)=u_{n}}$

• สภาพของกูแรนต์–ฟรีดริชส์–ลิวี
• การเคลื่อนตัวของพลังงาน
• วิธีการเชิงเส้นทั่วไป
• รายชื่อหัวข้อการวิเคราะห์เชิงตัวเลข #วิธีการเชิงตัวเลขสำหรับสมการเชิงอนุพันธ์สามัญ
• อัลกอริทึมการแพร่กระจายระบบอ้างอิงแบบย้อนกลับได้
• ภาษาModelica และ ซอฟต์แวร์OpenModelica

• Joseph W. Rudmin, การประยุกต์ใช้วิธี Parker–Sochacki กับกลศาสตร์ท้องฟ้าเก็บถาวรเมื่อ 2016-05-16 ที่ Portuguese Web Archive , 1998
• Dominique Tournès, L'intégration approchée des équations différentielles ordinaires (1671–1914) , thèse de doctorat de l'université Paris 7 - Denis Diderot, มิถุนายน 1996. Réimp. Villeneuve d'Ascq : Presses universitaires du Septentrion, 1997, 468 หน้า (เนื้อหาออนไลน์ที่ครอบคลุมเกี่ยวกับประวัติการวิเคราะห์เชิงตัวเลขของ ODE สำหรับเนื้อหาภาษาอังกฤษเกี่ยวกับประวัติของการวิเคราะห์เชิงตัวเลขของ ODE โปรดดู หนังสือกระดาษของ Chabert และ Goldstine ที่เขาเสนอราคา เป็นต้น)
• Pchelintsev, AN (2020). "วิธีการเชิงตัวเลขที่แม่นยำและอัลกอริทึมสำหรับการสร้างคำตอบของระบบอลวน" วารสารพลวัตไม่เชิงเส้นประยุกต์ 9 ( 2): 207– 221. arXiv : 2011.10664 . doi : 10.5890/JAND.2020.06.004 . S2CID  225853788 .
• kvบนGitHub ( ไลบรารี C++พร้อมตัวแก้สมการเชิงอนุพันธ์สามัญที่แม่นยำ)
• INTLAB (ไลบรารีที่สร้างโดยMATLAB / GNU Octaveซึ่งรวมถึงตัวแก้สมการเชิงอนุพันธ์สามัญที่มีความแม่นยำสูง)