ในทางสถิติแบบจำลองอัตถารีเกรสซีฟ ( AR ) คือแบบจำลอง ที่แสดงถึง กระบวนการสุ่มประเภทหนึ่งสามารถใช้เพื่ออธิบายกระบวนการที่เปลี่ยนแปลงตามเวลาจากแหล่งกำเนิดตามธรรมชาติและแหล่งกำเนิดเทียมหลายแหล่ง แบบจำลองนี้ระบุตัวแปรเอาต์พุตที่ขึ้นอยู่เชิงเส้นกับค่าก่อนหน้าของตัวเองบน พื้นฐาน สุ่มแบบจำลองอยู่ในรูปของสมการผลต่าง สุ่ม (หรือความสัมพันธ์เวียนเกิด ) ซึ่งไม่ควรสับสนกับสมการเชิงอนุพันธ์ร่วมกับแบบจำลองค่าเฉลี่ยเคลื่อนที่ (MA)มันเป็นกรณีพิเศษและองค์ประกอบสำคัญของ แบบจำลอง อัตถารีเกรสซีฟ-ค่าเฉลี่ยเคลื่อนที่ (ARMA) และ แบบจำลองอัตถารีเกรสซีฟ-ค่า เฉลี่ยเคลื่อนที่แบบบูรณาการ (ARIMA) สำหรับอนุกรมเวลา ซึ่งมีโครงสร้างสุ่มที่ซับซ้อนกว่า นอกจากนี้ยังเป็นกรณีพิเศษของแบบจำลองอัตถารีเกรสซีฟเวกเตอร์ (VAR) ซึ่งประกอบด้วยระบบของสมการผลต่างสุ่มที่เชื่อมโยงกันมากกว่าหนึ่งสมการในตัวแปรสุ่มที่เปลี่ยนแปลงมากกว่าหนึ่งตัว

ส่วนขยายที่สำคัญอีกประการหนึ่งคือแบบจำลองอัตถารีเกรสซีฟแบบแปรผันตามเวลา (TVAR) ซึ่งอนุญาตให้สัมประสิทธิ์อัตถารีเกรสซีฟเปลี่ยนแปลงไปตามเวลาเพื่อจำลองกระบวนการที่วิวัฒนาการหรือไม่คงที่ แบบจำลอง TVAR ถูกนำไปใช้อย่างกว้างขวางในกรณีที่พลวัตพื้นฐานของระบบไม่คงที่ เช่น ในการสร้างแบบจำลองอนุกรมเวลาของเซ็นเซอร์^{[ 1 ] [ 2 ] วิทยาศาสตร์ภูมิอากาศ [ 3 ] เศรษฐศาสตร์และการเงิน(}เช่นเศรษฐศาสตร์^{เชิงปริมาณ} ) [ 4 ^{] [ 5 ]การประมวล}ผล^{สัญญาณ} [ ^{6 ] โทรคมนาคม} [ 7 ^{] ระบบ}เรดาร์[ ^{8 ] และ}สัญญาณทางชีวภาพ^{[ 9 ]}

แตกต่างจากแบบจำลองค่าเฉลี่ยเคลื่อนที่ (MA) แบบจำลองอัตถารีเกรสซีฟไม่จำเป็นต้องมีเสถียรภาพเสมอไป ความไม่เสถียรอาจเกิดขึ้นได้เนื่องจากการมีอยู่ของรากหน่วยหรือเนื่องจากพารามิเตอร์ของแบบจำลองเปลี่ยนแปลงตามเวลา เช่นในแบบจำลองอัตถารีเกรสซีฟที่เปลี่ยนแปลงตามเวลา

แบบจำลองภาษาขนาดใหญ่เรียกว่าแบบจำลองอัตถารีเกรสซีฟ แต่ในความหมายนี้ มันไม่ใช่แบบจำลองอัตถารีเกรสซีฟแบบคลาสสิก เพราะมันไม่ใช่แบบจำลองเชิงเส้น

สัญลักษณ์นี้แสดงถึงแบบจำลองอัตถารีเกรสซีฟลำดับp แบบจำลอง AR( p ) ถูกกำหนดดังนี้ ${\displaystyle AR(p)}$

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{ti}+\varepsilon _{t}}$

โดยที่พารามิเตอร์ของแบบจำลองและสัญญาณรบกวนสีขาว [ ^{10 ]} [ ^{11 ] สามารถ}เขียนได้เทียบเท่าโดยใช้^ตัวดำเนินการ backshift Bดังนี้ ${\displaystyle \varphi _{1},\ldots ,\varphi _{p}}$${\displaystyle \varepsilon _{t}}$

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}B^{i}X_{t}+\varepsilon _{t}}$

ดังนั้น เมื่อย้ายพจน์ผลรวมไปทางด้านซ้ายและใช้สัญลักษณ์พหุนามเราจะได้

${\displaystyle \varphi (B)X_{t}=\varepsilon _{t}}$

ดังนั้น แบบจำลองอัตถารีเกรสซีฟจึงสามารถมองได้ว่าเป็นผลลัพธ์ของ ตัวกรอง การตอบสนองแบบอิมพัลส์อนันต์ ที่มีทุก ขั้ว ซึ่งมีอินพุตเป็นสัญญาณรบกวนสีขาว

จำเป็นต้องมีข้อจำกัดพารามิเตอร์บางอย่างเพื่อให้แบบจำลองยังคงมีเสถียรภาพในความหมายอ่อนตัวอย่างเช่น กระบวนการในแบบจำลอง AR(1) ที่ไม่มีเสถียรภาพ โดยทั่วไปแล้ว สำหรับแบบจำลอง AR( p ) ที่จะมีเสถียรภาพในความหมายอ่อน รากของพหุนามจะต้องอยู่นอกวงกลมหน่วย กล่าวคือ ราก (เชิงซ้อน) แต่ละรากจะต้องเป็นไปตาม(ดูหน้า 89,92 ^{[ 12 ]} ) ${\displaystyle |\varphi _{1}|\geq 1}$${\displaystyle \Phi (z):=\textstyle 1-\sum _{i=1}^{p}\varphi _{i}z^{i}}$${\displaystyle z_{i}}$${\displaystyle |z_{i}|>1}$

ในกระบวนการ AR การเปลี่ยนแปลงเพียงครั้งเดียวจะส่งผลต่อค่าของตัวแปรที่เปลี่ยนแปลงไปในอนาคตอันไกลโพ้น ตัวอย่างเช่น พิจารณาแบบจำลอง AR(1) ค่าที่ไม่เป็นศูนย์สำหรับณ เวลาt = 1 จะส่งผลต่อด้วยปริมาณ จาก นั้นโดยสมการ AR สำหรับในรูปของ จะส่งผลต่อ ด้วยปริมาณจากนั้นโดยสมการ AR สำหรับในรูปของจะส่งผลต่อด้วยปริมาณการดำเนินกระบวนการนี้ต่อไปแสดงให้เห็นว่าผลกระทบของไม่มีวันสิ้นสุด แม้ว่าหากกระบวนการอยู่ในสภาวะคงที่ ผลกระทบจะลดลงจนเข้าใกล้ศูนย์ในที่สุด ${\displaystyle X_{t}=\varphi _{1}X_{t-1}+\varepsilon _{t}}$${\displaystyle \varepsilon _{t}}$${\displaystyle X_{1}}$${\displaystyle \varepsilon _{1}}$${\displaystyle X_{2}}$${\displaystyle X_{1}}$${\displaystyle X_{2}}$${\displaystyle \varphi _{1}\varepsilon _{1}}$${\displaystyle X_{3}}$${\displaystyle X_{2}}$${\displaystyle X_{3}}$${\displaystyle \varphi _{1}^{2}\varepsilon _{1}}$${\displaystyle \varepsilon _{1}}$

เนื่องจากการเปลี่ยนแปลงแต่ละครั้งส่งผลต่อ ค่า Xในอนาคตอันไกลโพ้นนับจากเวลาที่เกิดขึ้น ดังนั้นค่าX _t ใดๆ ก็ตาม จึงได้รับผลกระทบจากการเปลี่ยนแปลงที่เกิดขึ้นในอดีตอันไกลโพ้นเช่นกัน สามารถเห็นได้จากการเขียนสมการถดถอยอัตโนมัติใหม่

${\displaystyle \varphi (B)X_{t}=\varepsilon _{t}\,}$

(โดยที่ค่าคงที่ถูกละเว้นไป เนื่องจากถือว่าตัวแปรนั้นถูกวัดเป็นค่าเบี่ยงเบนจากค่าเฉลี่ย) ดังนี้

${\displaystyle X_{t}={\frac {1}{\varphi (B)}}\varepsilon _{t}\,.}$

เมื่อทำการหารพหุนาม ทางด้านขวา พหุนามในตัวดำเนินการเลื่อนย้อนกลับที่ใช้กับ จะมีลำดับอนันต์ นั่นคือ จะมีค่าที่ล่าช้าของปรากฏอยู่ทางด้านขวาของสมการ เป็นจำนวนอนันต์${\displaystyle \varepsilon _{t}}$${\displaystyle \varepsilon _{t}}$

ฟังก์ชันสหสัมพันธ์อัตโนมัติของกระบวนการ AR( p ) สามารถแสดงได้ดังนี้

${\displaystyle \rho (\tau )=\sum _{k=1}^{p}a_{k}y_{k}^{-|\tau |},}$

รากของพหุนามอยู่ ที่ไหน${\displaystyle y_{k}}$

${\displaystyle \varphi (B)=1-\sum _{k=1}^{p}\varphi _{k}B^{k}}$

โดยที่Bคือตัวดำเนินการเลื่อนย้อนกลับ (backshift operator ) โดยที่คือฟังก์ชันที่กำหนดการถดถอยอัตโนมัติ (autoregression ) และ โดยที่ คือสัมประสิทธิ์ในการถดถอยอัตโนมัติ สูตรนี้ใช้ได้เฉพาะเมื่อรากทั้งหมดมีจำนวนเท่าของ 1 เท่านั้น ${\displaystyle \varphi (\cdot )}$${\displaystyle \varphi _{k}}$

ฟังก์ชันสหสัมพันธ์อัตโนมัติของกระบวนการ AR( p ) คือผลรวมของเลขชี้กำลังที่ลดลง

• รากจริงแต่ละรากจะสร้างส่วนประกอบให้กับฟังก์ชันสหสัมพันธ์อัตโนมัติซึ่งจะลดลงแบบเลขชี้กำลัง
• ในทำนองเดียวกัน รากคู่ สังยุคเชิงซ้อนแต่ละคู่จะก่อให้เกิดการสั่นแบบลดทอนแบบเอกซ์ponential

กระบวนการ AR ที่ง่ายที่สุดคือ AR(0) ซึ่งไม่มีความสัมพันธ์ระหว่างเทอมต่างๆ มีเพียงเทอมข้อผิดพลาด/นวัตกรรม/สัญญาณรบกวนเท่านั้นที่ส่งผลต่อเอาต์พุตของกระบวนการ ดังนั้นในรูป AR(0) จึงสอดคล้องกับสัญญาณรบกวนสีขาว

สำหรับกระบวนการ AR(1) ที่มีค่าเป็นบวกเฉพาะพจน์ก่อนหน้าในกระบวนการและพจน์สัญญาณรบกวนเท่านั้นที่จะมีส่วนช่วยในเอาต์พุต หากมีค่าใกล้เคียงกับ 0 กระบวนการจะยังคงดูเหมือนสัญญาณรบกวนสีขาว แต่เมื่อ มีค่าเข้าใกล้ 1 เอาต์พุตจะได้รับส่วนช่วยจากพจน์ก่อนหน้ามากกว่าสัญญาณรบกวน ส่งผลให้เกิดการ "ทำให้เรียบ" หรือการ รวม เอาต์พุต คล้ายกับตัวกรองความถี่ต่ำ${\displaystyle \varphi }$${\displaystyle \varphi }$${\displaystyle \varphi }$

สำหรับกระบวนการ AR(2) เทอมสองเทอมก่อนหน้าและเทอมสัญญาณรบกวนมีส่วนช่วยในเอาต์พุต หากทั้งและเป็นบวก เอาต์พุตจะคล้ายกับตัวกรองความถี่ต่ำ โดยส่วนความถี่สูงของสัญญาณรบกวนจะลดลง หากเป็นบวกในขณะที่เป็นลบ กระบวนการจะสนับสนุนการเปลี่ยนแปลงเครื่องหมายระหว่างเทอมของกระบวนการ เอาต์พุตจะแกว่งไปมา ซึ่งสามารถเชื่อมโยงกับการตรวจจับขอบหรือการตรวจจับการเปลี่ยนแปลงทิศทางได้ ${\displaystyle \varphi _{1}}$${\displaystyle \varphi _{2}}$${\displaystyle \varphi _{1}}$${\displaystyle \varphi _{2}}$

กระบวนการ AR(1) กำหนดโดย: โดยที่เป็นกระบวนการไวท์นอยส์ที่มีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนคงที่(หมายเหตุ: ตัวห้อยของถูกตัดออก) กระบวนการนี้เป็นสภาวะคงที่แบบอ่อน (weak-sense stationary ) ถ้าเนื่องจากได้มาจากเอาต์พุตของตัวกรองเสถียรที่มีอินพุตเป็นไวท์นอยส์ (ถ้าแล้วความแปรปรวนของจะขึ้นอยู่กับช่วงเวลาหน่วงtดังนั้นความแปรปรวนของอนุกรมจะลู่เข้าสู่ค่าอนันต์เมื่อtเข้าสู่ค่าอนันต์ และจึงไม่เป็นสภาวะคงที่แบบอ่อน) สมมติว่าค่าเฉลี่ยจะเหมือนกันสำหรับทุกค่าของtตามนิยามของสภาวะคงที่แบบอ่อน ถ้าค่าเฉลี่ยถูกกำหนดโดย จะได้ว่าและดังนั้น $${\displaystyle X_{t}=\varphi X_{t-1}+\varepsilon _{t}\,}$$${\displaystyle \varepsilon _{t}}$${\displaystyle \sigma _{\varepsilon }^{2}}$${\displaystyle \varphi _{1}}$${\displaystyle |\varphi ||<1}$${\displaystyle \varphi =1}$${\displaystyle X_{t}}$${\displaystyle |\varphi ||<1}$${\displaystyle \operatorname {E} (X_{t})}$${\displaystyle \mu }$$${\displaystyle \operatorname {E} (X_{t})=\varphi \operatorname {E} (X_{t-1})+\operatorname {E} (\varepsilon _{t}),}$$$${\displaystyle \mu =\varphi \mu +0,}$$

${\displaystyle \mu =0.}$

ความแปรปรวนคือ

${\displaystyle {\textrm {var}}(X_{t})=\operatorname {E} (X_{t}^{2})-\mu ^{2}={\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}},}$

โดยที่ค่าเบี่ยงเบนมาตรฐานของ คือค่าใด สามารถแสดงได้โดยสังเกตว่า ${\displaystyle \sigma _{\varepsilon }}$${\displaystyle \varepsilon _{t}}$

${\displaystyle {\textrm {var}}(X_{t})=\varphi ^{2}{\textrm {var}}(X_{t-1})+\sigma _{\varepsilon }^{2},}$

จากนั้นจึงสังเกตว่าปริมาณข้างต้นเป็นจุดคงที่ที่มั่นคงของความสัมพันธ์นี้

ค่าความแปรปรวนร่วมอัตโนมัติกำหนดโดย

${\displaystyle B_{n}=\operatorname {E} (X_{t+n}X_{t})-\mu ^{2}={\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,\,\varphi ^{|n|}.}$

จะเห็นได้ว่าฟังก์ชันความแปรปรวนร่วมอัตโนมัติจะลดลงตามเวลาการลดลง (เรียกอีกอย่างว่า^ค่าคงที่เวลา ) ของ[ ^{13 ]}${\displaystyle \tau =1/(1-\varphi )}$

ฟังก์ชันความหนาแน่นสเปกตรัมคือการแปลงฟูริเยร์ของฟังก์ชันความแปรปรวนร่วมอัตโนมัติ ในแง่ของเวลาไม่ต่อเนื่อง จะเป็นการแปลงฟูริเยร์แบบไม่ต่อเนื่อง:

${\displaystyle \Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,\sum _{n=-\infty }^{\infty }B_{n}e^{-i\omega n}={\frac {1}{\sqrt {2\pi }}}\,\left({\frac {\sigma _{\varepsilon }^{2}}{1+\varphi ^{2}-2\varphi \cos(\omega )}}\right).}$

นิพจน์นี้เป็นคาบเนื่องจากลักษณะที่ไม่ต่อเนื่องของซึ่งแสดงออกมาในรูปของพจน์โคไซน์ในตัวส่วน หากเราสมมติว่าเวลาสุ่มตัวอย่าง ( ) น้อยกว่าเวลาการสลายตัว ( ) มาก เราสามารถใช้การประมาณค่าแบบต่อเนื่องกับ: ${\displaystyle X_{j}}$${\displaystyle \Delta t=1}$${\displaystyle \tau }$${\displaystyle B_{n}}$

${\displaystyle B(t)\approx {\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,\,\varphi ^{|t|}}$

ซึ่งส่งผลให้ความหนาแน่นสเปกตรัม มีลักษณะเป็นแบบลอเรนซ์ :

${\displaystyle \Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,{\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,{\frac {\gamma }{\pi (\gamma ^{2}+\omega ^{2})}}}$

ความถี่เชิงมุมที่สัมพันธ์กับเวลาการสลายตัวอยู่ที่ใด ${\displaystyle \gamma =1/\tau }$${\displaystyle \tau }$

สามารถหาค่าแสดงแทนอีกแบบหนึ่ง ได้โดยการแทน ค่าลงในสมการนิยามก่อน ทำซ้ำกระบวนการนี้Nครั้งจะได้ ${\displaystyle X_{t}}$${\displaystyle \varphi X_{t-2}+\varepsilon _{t-1}}$${\displaystyle X_{t-1}}$

${\displaystyle X_{t}=\varphi ^{N}X_{t-N}+\sum _{k=0}^{N-1}\varphi ^{k}\varepsilon _{t-k}.}$

เมื่อNเข้าใกล้ค่าอนันต์ ค่าจะเข้าใกล้ศูนย์ และ: ${\displaystyle \varphi ^{N}}$

${\displaystyle X_{t}=\sum _{k=0}^{\infty }\varphi ^{k}\varepsilon _{t-k}.}$

จะเห็นได้ว่าเป็นสัญญาณรบกวนสีขาวที่ถูกคอนโวลูชันกับเคอร์เนลบวกกับค่าเฉลี่ยคงที่ ถ้าสัญญาณรบกวนสีขาวเป็นกระบวนการเกาส์เซียนแล้วก็จะเป็นกระบวนการเกาส์เซียนเช่นกัน ในกรณีอื่นๆทฤษฎีบทลิมิตกลางระบุว่าจะมีการกระจายแบบปกติโดยประมาณเมื่อมีค่าใกล้เคียงกับหนึ่ง ${\displaystyle X_{t}}$${\displaystyle \varphi ^{k}}$${\displaystyle \varepsilon _{t}}$${\displaystyle X_{t}}$${\displaystyle X_{t}}$${\displaystyle \varphi }$

สำหรับ กรณีนี้ กระบวนการจะเป็นลำดับเรขาคณิต ( การเติบโตหรือการลดลง แบบเลขชี้กำลัง ) ในกรณีนี้ สามารถหาคำตอบได้โดยวิธีวิเคราะห์: โดยที่เป็นค่าคงที่ที่ไม่ทราบค่า ( เงื่อนไขเริ่มต้น ) ${\displaystyle \varepsilon _{t}=0}$${\displaystyle X_{t}=\varphi X_{t-1}}$${\displaystyle X_{t}=a\varphi ^{t}}$${\displaystyle a}$

แบบจำลอง AR(1) เป็นแบบจำลองเวลาไม่ต่อเนื่องที่เทียบเคียงได้กับกระบวนการ Ornstein-Uhlenbeck แบบต่อเนื่อง ดังนั้นบางครั้งจึงเป็นประโยชน์ที่จะเข้าใจคุณสมบัติของแบบจำลอง AR(1) ในรูปแบบที่เทียบเท่ากัน ในรูปแบบนี้ แบบจำลอง AR(1) ที่มีพารามิเตอร์กระบวนการจะกำหนดโดย ${\displaystyle \theta \in \mathbb {R} }$

${\displaystyle X_{t+1}=X_{t}+(1-\theta )(\mu -X_{t})+\varepsilon _{t+1}}$โดยที่คือค่าเฉลี่ยของแบบจำลอง และคือกระบวนการไวท์นอยส์ที่มีค่าเฉลี่ยเป็นศูนย์และความแปรปรวนคงที่${\displaystyle |\theta |<1\,}$${\displaystyle \mu :=E(X)}$${\displaystyle \{\varepsilon _{t}\}}$${\displaystyle \sigma }$

โดยการเขียนใหม่เป็นและจากนั้นพิสูจน์ (โดยการอุปมาน) จะสามารถแสดงได้ว่า ${\displaystyle X_{t+1}=\theta X_{t}+(1-\theta )\mu +\varepsilon _{t+1}}$${\displaystyle X_{t+n}=\theta ^{n}X_{t}+(1-\theta ^{n})\mu +\sum _{i=1}^{n}\left(\theta ^{n-i}\varepsilon _{t+i}\right)}$

${\displaystyle \operatorname {E} (X_{t+n}\mid X_{t})=\mu \left[1-\theta ^{n}\right]+X_{t}\theta ^{n}}$และ

${\displaystyle \operatorname {Var} (X_{t+n}\mid X_{t})=\sigma ^{2}{\frac {1-\theta ^{2n}}{1-\theta ^{2}}}.}$

ค่าสหสัมพันธ์อัตโนมัติบางส่วนของกระบวนการ AR(p) เท่ากับศูนย์ที่ค่าความล่าช้ามากกว่าpดังนั้นค่าความล่าช้าสูงสุดที่เหมาะสมpคือค่าความล่าช้าหลังจากนั้นค่าสหสัมพันธ์อัตโนมัติบางส่วนทั้งหมดจะเป็นศูนย์

มีหลายวิธีในการประมาณค่าสัมประสิทธิ์ เช่น วิธีการ กำลังสองน้อยที่สุดแบบธรรมดาหรือวิธีการของโมเมนต์ (ผ่านสมการของยูล-วอล์คเกอร์)

แบบจำลอง AR( p ) กำหนดโดยสมการ

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}.\,}$

แบบจำลองนี้ใช้พารามิเตอร์ที่i = 1, ..., pโดยมีความสัมพันธ์โดยตรงระหว่างพารามิเตอร์เหล่านี้กับฟังก์ชันความแปรปรวนร่วมของกระบวนการ และความสัมพันธ์นี้สามารถผกผันเพื่อกำหนดพารามิเตอร์จากฟังก์ชันสหสัมพันธ์อัตโนมัติ (ซึ่งได้มาจากความแปรปรวนร่วม) โดยใช้วิธีการสมการของ Yule–Walker ${\displaystyle \varphi _{i}}$

สมการ Yule–Walker ซึ่งตั้งชื่อตามUdny YuleและGilbert Walker [ ^{14 ] [ 15 ]}คือชุดสมการต่อไป^{นี้[ 16 ]}

${\displaystyle \gamma _{m}=\sum _{k=1}^{p}\varphi _{k}\gamma _{m-k}+\sigma _{\varepsilon }^{2}\delta _{m,0},}$

โดยที่m = 0, …, pซึ่งจะได้สม การ p + 1สมการ ในที่นี้คือฟังก์ชันความแปรปรวนร่วมอัตโนมัติของ X _tคือค่าเบี่ยงเบนมาตรฐานของกระบวนการสัญญาณรบกวนขาเข้า และคือฟังก์ชันเดลต้าของโครเนกเกอร์ ${\displaystyle \gamma _{m}}$${\displaystyle \sigma _{\varepsilon }}$${\displaystyle \delta _{m,0}}$

เนื่องจากส่วนสุดท้ายของแต่ละสมการจะมีค่าไม่เป็นศูนย์ก็ต่อเมื่อm = 0 เท่านั้น ดังนั้นจึงสามารถแก้ชุดสมการได้โดยการแสดงสมการสำหรับm > 0ในรูปแบบเมทริกซ์ ซึ่งจะได้สมการดังนี้

${\displaystyle {\begin{bmatrix}\gamma _{1}\\\gamma _{2}\\\gamma _{3}\\\vdots \\\gamma _{p}\\\end{bmatrix}}={\begin{bmatrix}\gamma _{0}&\gamma _{-1}&\gamma _{-2}&\cdots \\\gamma _{1}&\gamma _{0}&\gamma _{-1}&\cdots \\\gamma _{2}&\gamma _{1}&\gamma _{0}&\cdots \\\vdots &\vdots &\vdots &\ddots \\\gamma _{p-1}&\gamma _{p-2}&\gamma _{p-3}&\cdots \\\end{bmatrix}}{\begin{bmatrix}\varphi _{1}\\\varphi _{2}\\\varphi _{3}\\\vdots \\\varphi _{p}\\\end{bmatrix}}}$

ซึ่งสามารถแก้ได้สำหรับทุกค่า สมการที่เหลือสำหรับm = 0 คือ ${\displaystyle \{\varphi _{m};m=1,2,\dots ,p\}.}$

${\displaystyle \gamma _{0}=\sum _{k=1}^{p}\varphi _{k}\gamma _{-k}+\sigma _{\varepsilon }^{2},}$

ซึ่งเมื่อ ทราบแล้ว ก็สามารถหาคำตอบได้${\displaystyle \{\varphi _{m};m=1,2,\dots ,p\}}$${\displaystyle \sigma _{\varepsilon }^{2}.}$

การกำหนดสูตรทางเลือกอีกวิธีหนึ่งคือการใช้ฟังก์ชันสหสัมพันธ์อัตโนมัติพารามิเตอร์ AR จะถูกกำหนดโดย องค์ประกอบ p + 1 แรก ของฟังก์ชันสหสัมพันธ์อัตโนมัติ จากนั้นฟังก์ชันสหสัมพันธ์อัตโนมัติทั้งหมดสามารถหาได้โดยการคำนวณแบบวนซ้ำ ^{[ 17 ]}${\displaystyle \rho (\tau )}$

${\displaystyle \rho (\tau )=\sum _{k=1}^{p}\varphi _{k}\rho (k-\tau )}$

ตัวอย่างกระบวนการ AR( p ) ลำดับต่ำบางประเภท

• p =1
  • ${\displaystyle \gamma _{1}=\varphi _{1}\gamma _{0}}$
  • เพราะฉะนั้น${\displaystyle \rho _{1}=\gamma _{1}/\gamma _{0}=\varphi _{1}}$
• p =2
  • สมการ Yule–Walker สำหรับกระบวนการ AR(2) คือ

    ${\displaystyle \gamma _{1}=\varphi _{1}\gamma _{0}+\varphi _{2}\gamma _{-1}}$

    ${\displaystyle \gamma _{2}=\varphi _{1}\gamma _{1}+\varphi _{2}\gamma _{0}}$

    • จำไว้ว่า${\displaystyle \gamma _{-k}=\gamma _{k}}$
    • เมื่อใช้สมการแรกจะได้${\displaystyle \rho _{1}=\gamma _{1}/\gamma _{0}={\frac {\varphi _{1}}{1-\varphi _{2}}}}$
    • เมื่อใช้สูตรการเรียกซ้ำจะได้ผลลัพธ์ดังนี้${\displaystyle \rho _{2}=\gamma _{2}/\gamma _{0}={\frac {\varphi _{1}^{2}-\varphi _{2}^{2}+\varphi _{2}}{1-\varphi _{2}}}}$

สมการข้างต้น (สมการ Yule–Walker) ให้วิธีการประมาณค่าพารามิเตอร์ของแบบจำลอง AR( p ) หลายวิธี โดยการแทนที่ค่าความแปรปรวนตามทฤษฎีด้วยค่าประมาณ^{[ 18 ]}ตัวแปรบางส่วนเหล่านี้สามารถอธิบายได้ดังนี้:

• การประมาณค่าความแปรปรวนร่วมอัตโนมัติหรือความสัมพันธ์อัตโนมัติ ในที่นี้จะประมาณค่าแต่ละค่าแยกกัน โดยใช้การประมาณค่าแบบดั้งเดิม มีหลายวิธีในการทำเช่นนี้ และการเลือกใช้วิธีใดวิธีหนึ่งจะส่งผลต่อคุณสมบัติของวิธีการประมาณค่า ตัวอย่างเช่น บางวิธีอาจทำให้ได้ค่าประมาณความแปรปรวนที่เป็นลบ
• การกำหนดปัญหาเป็นการถดถอยกำลังสองน้อยที่สุดโดยสร้างปัญหาการทำนายกำลังสองน้อยที่สุดแบบธรรมดาขึ้นมา โดยอาศัยการทำนายค่าของX _tจาก ค่าก่อนหน้า pค่าของอนุกรมเดียวกัน นี่อาจมองได้ว่าเป็นแผนการทำนายไปข้างหน้า สมการปกติสำหรับปัญหานี้สามารถมองได้ว่าสอดคล้องกับการประมาณค่าในรูปแบบเมทริกซ์ของสมการ Yule–Walker ซึ่งการปรากฏของค่าความแปรปรวนร่วมอัตโนมัติที่มีค่าล่าช้าเดียวกันแต่ละครั้งจะถูกแทนที่ด้วยค่าประมาณที่แตกต่างกันเล็กน้อย
• การกำหนดสูตรเป็นรูปแบบที่ขยายของปัญหาการทำนายแบบกำลังสองน้อยที่สุดธรรมดา ในที่นี้ สมการการทำนายสองชุดถูกรวมเข้าเป็นแผนการประมาณค่าเดียวและชุดสมการปกติชุดเดียว ชุดหนึ่งเป็นชุดสมการการทำนายไปข้างหน้า และอีกชุดหนึ่งเป็นชุดสมการการทำนายย้อนกลับที่สอดคล้องกัน ซึ่งเกี่ยวข้องกับการแสดงผลย้อนกลับของแบบจำลอง AR:

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t+i}+\varepsilon _{t}^{*}\,.}$

ค่าที่คาดการณ์ของX _tจะขึ้นอยู่กับ ค่าในอนาคต pของอนุกรมเดียวกัน วิธีการประมาณค่าพารามิเตอร์ AR แบบนี้เป็นผลงานของ John Parker Burg ^{[ 19 ]}และเรียกว่าวิธี Burg ^{[ 20 ]} Burg และผู้เขียนในภายหลังเรียกค่าประมาณเหล่านี้ว่า "ค่าประมาณเอนโทรปีสูงสุด" ^{[ 21 ]}แต่เหตุผลเบื้องหลังนี้สามารถนำไปใช้กับชุดพารามิเตอร์ AR ที่ประมาณค่าใดๆ ก็ได้ เมื่อเปรียบเทียบกับวิธีการประมาณค่าโดยใช้สมการการทำนายไปข้างหน้าเพียงอย่างเดียว จะได้ค่าประมาณความแปรปรวนร่วมอัตโนมัติที่แตกต่างกัน และค่าประมาณเหล่านี้มีคุณสมบัติความเสถียรที่แตกต่างกัน ค่าประมาณของ Burg เกี่ยวข้องกับ การ ประมาณสเปกตรัมเอนโทรปีสูงสุด โดยเฉพาะ ^{[ 22 ]}

วิธีการประมาณค่าอื่นๆ ที่เป็นไปได้ ได้แก่การประมาณค่าด้วยวิธีความน่าจะเป็นสูงสุด วิธีการประมาณค่าด้วยวิธีความน่าจะเป็นสูงสุดมีสองรูปแบบที่แตกต่างกัน: แบบแรก (ซึ่งโดยทั่วไปเทียบเท่ากับวิธีการกำลังสองน้อยที่สุดแบบทำนายไปข้างหน้า) ฟังก์ชันความน่าจะเป็นที่พิจารณาคือฟังก์ชันที่สอดคล้องกับการแจกแจงแบบมีเงื่อนไขของค่าในภายหลังในอนุกรม โดยกำหนด ค่า p เริ่มต้น ในอนุกรม แบบที่สอง ฟังก์ชันความน่าจะเป็นที่พิจารณาคือฟังก์ชันที่สอดคล้องกับการแจกแจงร่วมแบบไม่มีเงื่อนไขของค่าทั้งหมดในอนุกรมที่สังเกตได้ ความแตกต่างอย่างมากในผลลัพธ์ของวิธีการเหล่านี้อาจเกิดขึ้นได้หากอนุกรมที่สังเกตได้สั้น หรือหากกระบวนการใกล้เคียงกับภาวะไม่คงที่

ความหนาแน่นสเปกตรัมกำลัง (PSD) ของกระบวนการ AR( p ) ที่มีความแปรปรวนของสัญญาณรบกวนคือ^{[ 17 ]}${\displaystyle \mathrm {Var} (Z_{t})=\sigma _{Z}^{2}}$

${\displaystyle S(f)={\frac {\sigma _{Z}^{2}}{|1-\sum _{k=1}^{p}\varphi _{k}e^{-i2\pi fk}|^{2}}}.}$

สำหรับสัญญาณรบกวนสีขาว (AR(0))

${\displaystyle S(f)=\sigma _{Z}^{2}.}$

สำหรับ AR(1)

${\displaystyle S(f)={\frac {\sigma _{Z}^{2}}{|1-\varphi _{1}e^{-2\pi if}|^{2}}}={\frac {\sigma _{Z}^{2}}{1+\varphi _{1}^{2}-2\varphi _{1}\cos 2\pi f}}}$

• หาก มีจุดสูงสุดของสเปกตรัมเพียงจุดเดียวที่ซึ่งมักเรียกว่าสัญญาณรบกวนสีแดงเมื่อ เข้าใกล้ 1 มากขึ้น พลังงานที่ความถี่ต่ำก็จะยิ่งแรงขึ้น กล่าวคือ ความล่าช้าของเวลาจะมากขึ้น ดังนั้น นี่จึงเป็นตัวกรองความถี่ต่ำ เมื่อนำไปใช้กับแสงสเปกตรัมเต็มรูปแบบ ทุกอย่างยกเว้นแสงสีแดงจะถูกกรองออกไป${\displaystyle \varphi _{1}>0}$${\displaystyle f=0}$${\displaystyle \varphi _{1}}$
• หากมีค่าต่ำสุดที่ซึ่งมักเรียกว่าสัญญาณรบกวนสีน้ำเงินสิ่งนี้ทำหน้าที่คล้ายกับตัวกรองความถี่สูง กล่าวคือ ทุกอย่างยกเว้นแสงสีน้ำเงินจะถูกกรองออกไป${\displaystyle \varphi _{1}<0}$${\displaystyle f=0}$

พฤติกรรมของกระบวนการ AR(2) ถูกกำหนดโดยรากของสมการลักษณะเฉพาะ ของมันทั้งหมด ซึ่งแสดงออกมาในรูปของตัวดำเนินการล่าช้าดังนี้:

${\displaystyle 1-\varphi _{1}B-\varphi _{2}B^{2}=0,}$

หรือเทียบเท่ากับขั้วของฟังก์ชันถ่ายโอนซึ่งกำหนดไว้ในโดเมน Zดังนี้:

${\displaystyle H_{z}=(1-\varphi _{1}z^{-1}-\varphi _{2}z^{-2})^{-1}.}$

ดังนั้น ค่าของ z ที่เป็นขั้วจึงเป็นค่าที่สอดคล้องกับเงื่อนไขต่อไปนี้:

${\displaystyle 1-\varphi _{1}z^{-1}-\varphi _{2}z^{-2}=0,}$

ซึ่งจะได้ผลลัพธ์ดังนี้:

${\displaystyle z_{1},z_{2}={\frac {1}{2\varphi _{2}}}\left(\varphi _{1}\pm {\sqrt {\varphi _{1}^{2}+4\varphi _{2}}}\,\right).}$

${\displaystyle z_{1}}$และเป็นส่วนกลับของรากเฉพาะ รวมถึงค่าลักษณะเฉพาะของเมทริกซ์การปรับปรุงตามเวลาด้วย: ${\displaystyle z_{2}}$

${\displaystyle {\begin{bmatrix}\varphi _{1}&\varphi _{2}\\1&0\end{bmatrix}}}$

กระบวนการ AR(2) สามารถแบ่งออกเป็นสามกลุ่มโดยขึ้นอยู่กับลักษณะของราก/ขั้ว:

• เมื่อกระบวนการนี้จะมีคู่ขั้วเชิงซ้อนคู่หนึ่ง ทำให้เกิดจุดสูงสุดที่ความถี่กลางที่:${\displaystyle \varphi _{1}^{2}+4\varphi _{2}<0}$

${\displaystyle f^{*}={\frac {1}{2\pi }}\cos ^{-1}\left({\frac {\varphi _{1}}{2{\sqrt {-\varphi _{2}}}}}\right),}$

โดยมีแบนด์วิดท์รอบจุดสูงสุดแปรผกผันกับขนาดของขั้ว:

${\displaystyle |z_{1}|=|z_{2}|={\sqrt {-\varphi _{2}}}.}$

เงื่อนไขที่เกี่ยวข้องกับรากที่สองทั้งหมดเป็นจำนวนจริงในกรณีของขั้วเชิงซ้อน เนื่องจากมีอยู่เฉพาะเมื่อ. ${\displaystyle \varphi _{2}<0}$

มิเช่นนั้น กระบวนการนี้จะมีรากฐานที่แท้จริง และ:

• เมื่อมันทำหน้าที่เป็นตัวกรองความถี่ต่ำสำหรับสัญญาณรบกวนสีขาวที่มีจุดสูงสุดของสเปกตรัมที่${\displaystyle \varphi _{1}>0}$${\displaystyle f=0}$
• เมื่อมันทำหน้าที่เป็นตัวกรองความถี่สูงสำหรับสัญญาณรบกวนสีขาวที่มีจุดสูงสุดของสเปกตรัมที่.${\displaystyle \varphi _{1}<0}$${\displaystyle f=1/2}$

กระบวนการจะไม่เสถียรเมื่อขั้วอยู่บนหรือนอกวงกลมหน่วย หรือกล่าวอีกนัยหนึ่งคือเมื่อรากเฉพาะอยู่บนหรือภายในวงกลมหน่วย กระบวนการจะเสถียรเมื่อขั้วอยู่ภายในวงกลมหน่วยอย่างเคร่งครัด (รากอยู่นอกวงกลมหน่วยอย่างเคร่งครัด) หรือกล่าวอีกนัยหนึ่งคือเมื่อสัมประสิทธิ์อยู่ในรูปสามเหลี่ยม ${\displaystyle -1\leq \varphi _{2}\leq 1-|\varphi _{1}|}$

ฟังก์ชัน PSD แบบเต็มรูปแบบสามารถแสดงออกมาในรูปแบบจริงได้ดังนี้:

${\displaystyle S(f)={\frac {\sigma _{Z}^{2}}{1+\varphi _{1}^{2}+\varphi _{2}^{2}-2\varphi _{1}(1-\varphi _{2})\cos(2\pi f)-2\varphi _{2}\cos(4\pi f)}}}$

• R – แพ็ก เกจ statsประกอบด้วย ฟังก์ชัน ar ; ^{[ 23 ]}แพ็ก เกจ astsaประกอบด้วย ฟังก์ชัน sarimaเพื่อปรับโมเดลต่างๆ รวมถึง AR ^{[ 24 ]}
• MATLAB – Econometrics Toolbox ^{[ 25 ]}และ System Identification Toolbox ^{[ 26 ]}ประกอบด้วยโมเดล AR ^{[ 27 ]}
• MATLABและOctave – กล่องเครื่องมือ TSAประกอบด้วยฟังก์ชันการประมาณค่าหลายฟังก์ชันสำหรับโมเดล AR แบบตัวแปรเดียว หลายตัวแปรและแบบปรับตัวได้^{[ 28 ]}
• PyMC 3 – กรอบงานสถิติแบบเบย์เซียนและการเขียนโปรแกรมเชิงความน่าจะเป็น รองรับโหมด AR ที่มีp lags
• bayesloop – รองรับการอนุมานพารามิเตอร์และการเลือกแบบจำลองสำหรับกระบวนการ AR-1 ที่มีพารามิเตอร์เปลี่ยนแปลงตามเวลา^{[ 29 ]}
• Python – statsmodels.org โฮสต์โมเดล AR ^{[ 30 ]}

การตอบสนองต่อแรงกระตุ้นของระบบ คือ การเปลี่ยนแปลงของตัวแปรที่กำลังวิวัฒนาการเพื่อตอบสนองต่อการเปลี่ยนแปลงของค่าตัวแปรกระตุ้นเมื่อkช่วงเวลาก่อนหน้า โดยเป็นฟังก์ชันของkเนื่องจากแบบจำลอง AR เป็นกรณีพิเศษของแบบจำลองเวกเตอร์อัตถารีเกรสซีฟ การคำนวณการตอบสนองต่อแรงกระตุ้นในvector autoregression#impulse responseจึงสามารถนำมาใช้ได้ที่นี่

เมื่อกำหนดพารามิเตอร์ของการถดถอยอัตโนมัติแล้ว

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}\,}$

เมื่อได้ประมาณค่าแล้ว การถดถอยอัตโนมัติสามารถใช้ในการพยากรณ์จำนวนช่วงเวลาใดๆ ในอนาคตได้ ขั้นแรก ให้ใช้tแทนช่วงเวลาแรกที่ยังไม่มีข้อมูล แทนค่าที่ทราบก่อนหน้าX _t-iสำหรับi= 1, ..., pลงในสมการถดถอยอัตโนมัติ โดยกำหนดให้เทอมความคลาดเคลื่อนเท่ากับศูนย์ (เนื่องจากเราพยากรณ์ว่าX _tจะเท่ากับค่าที่คาดหวัง และค่าที่คาดหวังของเทอมความคลาดเคลื่อนที่ยังไม่ทราบนั้นเป็นศูนย์) ผลลัพธ์ของสมการถดถอยอัตโนมัติคือการพยากรณ์สำหรับช่วงเวลาแรกที่ยังไม่ทราบ ต่อไป ให้ใช้tแทน ช่วงเวลา ถัดไปที่ยังไม่มีข้อมูล อีกครั้งหนึ่ง สมการถดถอยอัตโนมัติจะถูกใช้เพื่อทำการพยากรณ์ โดยมีความแตกต่างกันอย่างหนึ่งคือ ค่าของXในช่วงเวลาก่อนหน้าช่วงเวลาที่กำลังพยากรณ์นั้นไม่ทราบ ดังนั้นจึงใช้ค่าที่คาดหวัง—ค่าที่ทำนายได้จากขั้นตอนการพยากรณ์ก่อนหน้านี้—แทน จากนั้นสำหรับช่วงเวลาต่อๆ ไป จะใช้วิธีการเดียวกัน โดยแต่ละครั้งจะเพิ่มค่าพยากรณ์อีกหนึ่งค่าทางด้านขวาของสมการพยากรณ์ จนกระทั่งหลังจาก ทำการพยากรณ์ p ครั้ง ค่าทางด้านขวาของ สมการทั้งหมดpค่า จะเป็นค่าที่พยากรณ์ได้จากขั้นตอนก่อนหน้า ${\displaystyle \varepsilon _{t}}$

มีแหล่งที่มาของความไม่แน่นอนสี่ประการเกี่ยวกับการคาดการณ์ที่ได้มาในลักษณะนี้: (1) ความไม่แน่นอนว่าแบบจำลองอัตถารีเกรสซีฟเป็นแบบจำลองที่ถูกต้องหรือไม่ (2) ความไม่แน่นอนเกี่ยวกับความแม่นยำของค่าที่คาดการณ์ซึ่งใช้เป็นค่าที่ล่าช้าในด้านขวาของสมการอัตถารีเกรสซีฟ (3) ความไม่แน่นอนเกี่ยวกับค่าที่แท้จริงของสัมประสิทธิ์อัตถารีเกรสซีฟ และ (4) ความไม่แน่นอนเกี่ยวกับค่าของเทอมความคลาดเคลื่อนสำหรับช่วงเวลาที่กำลังคาดการณ์ แต่ละข้อในสามข้อสุดท้ายสามารถวัดปริมาณและรวมกันเพื่อให้ได้ช่วงความเชื่อมั่นสำหรับการคาดการณ์ล่วงหน้าn ขั้น ช่วงความเชื่อมั่นจะกว้างขึ้นเมื่อ nเพิ่มขึ้นเนื่องจากการใช้ค่าประมาณที่เพิ่มขึ้นสำหรับตัวแปรด้านขวา ${\displaystyle \varepsilon _{t}\,}$

• แบบจำลองค่าเฉลี่ยเคลื่อนที่
• สมการผลต่างเชิงเส้น
• การวิเคราะห์เชิงทำนาย
• การเข้ารหัสทำนายเชิงเส้น
• เสียงก้อง
• การเรียกซ้ำของเลวินสัน
• กระบวนการออร์นสไตน์-อูห์เลนเบ็ค
• การตอบสนองแบบอิมพัลส์อนันต์
• PagedAttention / vAttention — อัลกอริทึมความสนใจสำหรับการให้บริการโมเดลภาษาขนาดใหญ่อย่างมีประสิทธิภาพ

• การวิเคราะห์การถดถอยอัตโนมัติ (AR)โดย Paul Bourke
• วิดีโอการบรรยายวิชาเศรษฐศาสตร์เชิงปริมาณ (หัวข้อ: แบบจำลองอัตถารีเกรสซีฟ)บน YouTubeโดย Mark Thoma