กลับไปหน้าบทความ

อ่าน 20 นาที

การหาค่าสหสัมพันธ์อัตโนมัติ

การหาค่าสหสัมพันธ์อัตโนมัติ ( Autocorrelation ) หรือบางครั้งเรียกว่าค่าสหสัมพันธ์อนุกรม (Serial Correlation ) ในกรณีเวลาไม่ต่อเนื่อง คือการวัด ความสัมพันธ์ของ สัญญาณกับสำเนาของ...

การหาค่าสหสัมพันธ์อัตโนมัติ

ด้านบน: กราฟแสดงชุดตัวเลขสุ่ม 100 ตัวที่ซ่อน ฟังก์ชัน ไซน์ ไว้ ด้านล่าง: กราฟแสดงความสัมพันธ์อัตโนมัติ (ACF) ของชุดตัวเลขบนแกน y สำหรับแต่ละค่าล่าช้าบนแกน x จุดสูงสุดจะเกิดขึ้นที่ค่าล่าช้าซึ่งชุดตัวเลขมีความสัมพันธ์กันสูง จุดสูงสุดทางด้านขวาของจุดสูงสุดเริ่มต้นที่ค่าล่าช้า 0 แสดงถึงความเป็นคาบในชุดตัวเลขและช่วยในการประมาณคาบของฟังก์ชันไซน์ที่ซ่อนอยู่
การเปรียบเทียบเชิงภาพของคอนโวลูชันครอสคอร์เรเลชันและออโตคอร์เรเลชันสำหรับการดำเนินการที่เกี่ยวข้องกับฟังก์ชันfและสมมติว่าความสูงของfคือ 1.0 ค่าของผลลัพธ์ที่จุด 5 จุดที่แตกต่างกันจะแสดงด้วยพื้นที่แรเงาใต้แต่ละจุด นอกจากนี้ ความสมมาตรของfก็เป็นเหตุผลที่ทำให้ผลลัพธ์เหมือนกันในตัวอย่างนี้

การหาค่าสหสัมพันธ์อัตโนมัติ ( Autocorrelation ) หรือบางครั้งเรียกว่าค่าสหสัมพันธ์อนุกรม (Serial Correlation ) ในกรณีเวลาไม่ต่อเนื่อง คือการวัด ความสัมพันธ์ของ สัญญาณกับสำเนาของ สัญญาณ นั้น ที่ล่าช้ากว่าค่าเดิม โดยพื้นฐานแล้ว มันคือการวัดความคล้ายคลึงกันระหว่างการสังเกตตัวแปรสุ่มณ จุดต่างๆ ในโดเมน ของมัน (โดยทั่วไปคือเวลา ) การวิเคราะห์ค่าสหสัมพันธ์อัตโนมัติเป็นเครื่องมือทางคณิตศาสตร์สำหรับการระบุรูปแบบที่ซ้ำกันหรือคาบเวลา ที่ซ่อน อยู่ภายในสัญญาณที่ถูกบดบังด้วยสัญญาณรบกวน ค่าสหสัมพันธ์อัตโนมัติถูกนำมาใช้กันอย่างแพร่หลายในการประมวลผลสัญญาณโดเมนเวลาและการวิเคราะห์อนุกรมเวลาเพื่อทำความเข้าใจพฤติกรรมของข้อมูลเมื่อเวลาผ่านไป

สาขาวิชาต่างๆ ให้คำจำกัดความของความสัมพันธ์อัตโนมัติแตกต่างกัน และคำจำกัดความเหล่านั้นไม่ได้มีความหมายเหมือนกันทั้งหมด ในบางสาขาวิชา คำนี้ใช้แทนกันได้กับคำว่าความ แปรปรวนร่วมอัตโนมัติ

แบบจำลองอนุกรมเวลาหลายแบบรวมเอาความสัมพันธ์อัตโนมัติไว้ด้วย เช่นกระบวนการรากหน่วยกระบวนการคงที่ตามแนวโน้มกระบวนการถดถอยอัตโนมัติและกระบวนการค่าเฉลี่ยเคลื่อนที่

ความสัมพันธ์อัตโนมัติของกระบวนการสุ่ม

ในทางสถิติความสัมพันธ์อัตโนมัติของกระบวนการสุ่ม จริงหรือเชิงซ้อน คือความสัมพันธ์แบบเพียร์สันระหว่างค่าของกระบวนการ ณ เวลาต่างๆ โดยเป็นฟังก์ชันของเวลาทั้งสองหรือของช่วงเวลาที่ล่าช้า ให้เป็นกระบวนการสุ่มในช่วงเวลา และเป็นตัวแปรสุ่ม ณ เวลา( อาจเป็นจำนวนเต็มสำหรับ กระบวนการ เวลาไม่ต่อเนื่องหรือจำนวนจริงสำหรับ กระบวนการ เวลาต่อเนื่อง ) ดังนั้น นิยามของฟังก์ชันความสัมพันธ์อัตโนมัติระหว่างเวลาและคือ[ 1 ] : 388 [ 2 ] : 165

โดยที่คือ ตัวดำเนินการ ค่าคาดหวังและเครื่องหมายขีดคั่นแทนการสังยุคเชิงซ้อนโปรดทราบว่าค่าคาดหวังอาจไม่สามารถนิยามได้อย่างชัดเจน

สมมติว่ากระบวนการมีค่าเฉลี่ย และความแปรปรวนที่เวลาสำหรับแต่ละ การลบค่าเฉลี่ยก่อนการคูณจะได้ฟังก์ชันความแปรปรวนร่วมอัตโนมัติระหว่างเวลาและ: [ 1 ] : 392 [ 2 ] : 168

โปรดทราบว่านิพจน์นี้ไม่ได้นิยามไว้อย่างชัดเจนสำหรับอนุกรมเวลาหรือกระบวนการทั้งหมด เนื่องจากค่าเฉลี่ยอาจไม่มีอยู่จริง หรือค่าความแปรปรวนอาจเป็นศูนย์ (สำหรับกระบวนการคงที่) หรือเป็นอนันต์ (สำหรับกระบวนการที่มีการกระจายตัวที่ขาดโมเมนต์ที่เหมาะสม เช่นกฎกำลัง บางประเภท )

นิยามของกระบวนการสุ่มแบบอยู่ตัวในความหมายกว้าง

ถ้าเป็นกระบวนการสถิตในความหมายกว้างค่าเฉลี่ยและความแปรปรวนจะไม่ขึ้นกับเวลา และยิ่งไปกว่านั้น ฟังก์ชันความแปรปรวนร่วมอัตโนมัติจะขึ้นอยู่กับความล่าช้าระหว่างและ เท่านั้น กล่าวคือ ความแปรปรวนร่วมอัตโนมัติขึ้นอยู่กับระยะห่างของเวลาระหว่างคู่ของค่า แต่ไม่ขึ้นอยู่กับตำแหน่งของค่าเหล่านั้นในเวลา นอกจากนี้ยังหมายความว่า ความแปรปรวนร่วมอัตโนมัติและความสัมพันธ์อัตโนมัติสามารถแสดงได้ในรูปฟังก์ชันของความล่าช้าของเวลา และนี่จะเป็นฟังก์ชันคู่ของความล่าช้า ซึ่งทำให้ได้รูปแบบที่คุ้นเคยมากขึ้นสำหรับฟังก์ชันความสัมพันธ์อัตโนมัติ[ 1 ] : 395

และฟังก์ชันความแปรปรวนร่วมอัตโนมัติ :

โดยเฉพาะอย่างยิ่ง โปรดสังเกตว่า

การทำให้เป็นมาตรฐาน

ในบางสาขาวิชา (เช่น สถิติและ การวิเคราะห์อนุกรมเวลา ) เป็นเรื่องปกติ ที่จะทำการปรับค่าฟังก์ชันความแปรปรวนร่วมอัตโนมัติให้เป็นค่ามาตรฐาน เพื่อให้ได้ ค่าสัมประสิทธิ์สหสัมพันธ์เพียร์สัน ที่ขึ้นอยู่กับเวลา อย่างไรก็ตาม ในสาขาวิชาอื่นๆ (เช่น วิศวกรรมศาสตร์) มักจะละเว้นการปรับค่ามาตรฐาน และใช้คำว่า "สหสัมพันธ์อัตโนมัติ" และ "ความแปรปรวนร่วมอัตโนมัติ" แทนกันได้

นิยามของสัมประสิทธิ์สหสัมพันธ์อัตโนมัติของกระบวนการสุ่มคือ[ 2 ] : 169

หากฟังก์ชันนั้นได้รับการกำหนดไว้อย่างดี ค่าของฟังก์ชันจะต้องอยู่ในช่วงโดยที่ 1 แสดงถึงความสัมพันธ์ที่สมบูรณ์แบบ และ −1 แสดงถึงความสัมพันธ์ผกผัน ที่สมบูรณ์ แบบ

สำหรับ กระบวนการ สถิตในความหมายกว้าง (WSS) นิยามคือ

การทำให้เป็นมาตรฐานมีความสำคัญทั้งในแง่ที่ว่า การตีความค่าสหสัมพันธ์อัตโนมัติว่าเป็นค่าสหสัมพันธ์จะให้มาตรวัดความแข็งแกร่งของการพึ่งพาทางสถิติ ที่ไม่ขึ้นกับมาตราส่วน และในแง่ที่ว่าการทำให้เป็นมาตรฐานมีผลต่อคุณสมบัติทางสถิติของค่าสหสัมพันธ์อัตโนมัติที่ประมาณได้

คุณสมบัติ

คุณสมบัติสมมาตร

ข้อเท็จจริงที่ว่าฟังก์ชันสหสัมพันธ์อัตโนมัติเป็นฟังก์ชันคู่สามารถระบุได้ดังนี้[ 2 ] : 171 ตามลำดับสำหรับกระบวนการ WSS: [ 2 ] : 173

ค่าสูงสุดที่ศูนย์

สำหรับกระบวนการ WSS: [ 2 ] : 174 โปรดสังเกตว่าเป็นของจริงเสมอ

อสมการโคชี-ชวาร์ซ

อสมการ โคชี-ชวาร์ซอสมการสำหรับกระบวนการสุ่ม: [ 1 ] : 392

การหาค่าสหสัมพันธ์อัตโนมัติของสัญญาณรบกวนสีขาว

ค่าสหสัมพันธ์อัตโนมัติของสัญญาณ ไวท์นอยส์แบบต่อเนื่องจะมีค่าสูงสุดที่ชัดเจน (แสดงด้วยฟังก์ชันเดลต้าของดิแรก ) ที่และจะมีค่าเท่ากับ อย่างแน่นอนสำหรับค่าอื่นๆทั้งหมด

ทฤษฎีบทไวเนอร์-คินชิน

ทฤษฎีบทWiener–Khinchinเชื่อมโยงฟังก์ชันสหสัมพันธ์อัตโนมัติกับความหนาแน่นสเปกตรัมกำลังผ่านการแปลงฟูริเยร์ :

สำหรับฟังก์ชันค่าจริง ฟังก์ชันสหสัมพันธ์อัตโนมัติแบบสมมาตรจะมีการแปลงแบบสมมาตรที่เป็นค่าจริง ดังนั้นทฤษฎีบท Wiener–Khinchinจึงสามารถเขียนใหม่ได้โดยใช้โคไซน์ที่เป็นค่าจริงเท่านั้น:

การหาค่าสหสัมพันธ์อัตโนมัติของเวกเตอร์สุ่ม

เมทริกซ์ความสัมพันธ์อัตโนมัติ ( ซึ่งอาจเปลี่ยนแปลงตามเวลา) (หรือเรียกว่าโมเมนต์ที่สอง) ของเวกเตอร์ สุ่ม (ซึ่งอาจเปลี่ยนแปลงตามเวลา) คือเมทริกซ์ที่มีองค์ประกอบเป็นค่าความสัมพันธ์อัตโนมัติของทุกคู่ขององค์ประกอบในเวกเตอร์สุ่มนั้น เมทริกซ์ความสัมพันธ์อัตโนมัตินี้ถูกนำไปใช้ใน อัลกอริธึม การประมวลผลสัญญาณดิจิทัลต่างๆ

สำหรับเวกเตอร์สุ่ม ที่มีองค์ประกอบสุ่มซึ่ง มี ค่าคาดหวังและความแปรปรวนเมทริกซ์สหสัมพันธ์อัตโนมัติจะถูกกำหนดโดย[ 3 ] : 190 [ 1 ] : 334

โดยที่หมายถึงการสลับตำแหน่งของเวกเตอร์

เป็นเมทริกซ์ที่มีมิติ:

ตัวอย่างเช่น ถ้าเป็นเวกเตอร์สุ่ม แล้วเป็นเมทริกซ์ที่มี สมาชิกลำดับ ที่ คือ

ถ้าเป็นเวกเตอร์สุ่มเชิงซ้อนเมทริกซ์สหสัมพันธ์อัตโนมัติจะถูกกำหนดโดย แทน

ในที่นี้หมายถึงการสลับตำแหน่งของเฮอร์มิเชีย

คุณสมบัติของเมทริกซ์สหสัมพันธ์อัตโนมัติ

  • เมทริกซ์ออโตสหสัมพันธ์เป็นเมทริกซ์เฮอร์มิเชียนสำหรับเวกเตอร์สุ่มเชิงซ้อนและเป็นเมทริกซ์สมมาตรสำหรับเวกเตอร์สุ่มจริง[ 3 ] : 190
  • เมทริกซ์สหสัมพันธ์อัตโนมัติเป็นเมทริกซ์กึ่งบวก[ 3 ] : 190 เช่นสำหรับเวกเตอร์สุ่มจริง และตามลำดับในกรณีของเวกเตอร์สุ่มเชิงซ้อน
  • ค่าไอเกนทั้งหมดของเมทริกซ์สหสัมพันธ์อัตโนมัติเป็นจำนวนจริงและไม่เป็นลบ
  • เมทริกซ์ความแปรปรวนร่วมอัตโนมัติมีความสัมพันธ์กับเมทริกซ์สหสัมพันธ์อัตโนมัติ ดังนี้: สำหรับเวกเตอร์สุ่มเชิงซ้อน:

การหาค่าสหสัมพันธ์อัตโนมัติของสัญญาณเชิงกำหนด

ในการประมวลผลสัญญาณคำจำกัดความข้างต้นมักจะใช้โดยไม่ต้องทำการทำให้เป็นมาตรฐาน กล่าวคือ โดยไม่ต้องลบค่าเฉลี่ยและหารด้วยความแปรปรวน เมื่อฟังก์ชันสหสัมพันธ์อัตโนมัติถูกทำให้เป็นมาตรฐานโดยค่าเฉลี่ยและความแปรปรวน บางครั้งจะเรียกว่าสัมประสิทธิ์สหสัมพันธ์อัตโนมัติ[ 4 ]หรือฟังก์ชันความแปรปรวนร่วมอัตโนมัติ

การหาค่าสหสัมพันธ์อัตโนมัติของสัญญาณเวลาต่อเนื่อง

เมื่อกำหนดสัญญาณแล้ว ความสัมพันธ์อัตโนมัติแบบต่อเนื่องมักจะถูกกำหนดให้เป็นปริพันธ์ความสัมพันธ์ไขว้ แบบต่อเนื่องของ กับตัวมันเอง ที่ช่วงเวลาล่าช้า[ 1 ] : 411

โดยที่แทนค่าสังยุคเชิงซ้อนของโปรดทราบว่าพารามิเตอร์ในอินทิกรัลเป็นตัวแปรสมมติและจำเป็นเฉพาะสำหรับการคำนวณอินทิกรัลเท่านั้น ไม่มีความหมายเฉพาะเจาะจง

การหาค่าสหสัมพันธ์อัตโนมัติของสัญญาณเวลาไม่ต่อเนื่อง

ค่าสหสัมพันธ์อัตโนมัติแบบไม่ต่อเนื่องที่ช่วงเวลาล่าช้าสำหรับสัญญาณเวลาไม่ต่อเนื่องคือ

คำจำกัดความข้างต้นใช้ได้กับสัญญาณที่สามารถหาปริพันธ์กำลังสองได้ หรือสามารถหาผลรวมกำลังสองได้ กล่าวคือ มีพลังงานจำกัด สัญญาณที่ "คงอยู่ตลอดไป" จะถูกมองว่าเป็นกระบวนการสุ่ม ซึ่งในกรณีนี้จำเป็นต้องใช้คำจำกัดความที่แตกต่างกัน โดยขึ้นอยู่กับค่าที่คาดหวัง สำหรับกระบวนการสุ่มแบบสถิตในความหมายกว้างความสัมพันธ์อัตโนมัติจะถูกกำหนดดังนี้

สำหรับกระบวนการที่ไม่คงที่ ค่าเหล่านี้จะเป็นฟังก์ชันของหรือ ด้วยเช่น กัน

สำหรับกระบวนการที่เป็นเออร์โกดิก เช่นกัน ความคาดหวังสามารถแทนที่ด้วยลิมิตของค่าเฉลี่ยตามเวลา ความสัมพันธ์อัตโนมัติของกระบวนการเออร์โกดิกบางครั้งถูกกำหนดหรือเทียบเท่ากับ[ 4 ]

คำจำกัดความเหล่านี้มีข้อดีตรงที่ให้ผลลัพธ์แบบพารามิเตอร์เดียวที่ชัดเจนและสมเหตุสมผลสำหรับฟังก์ชันคาบ แม้ว่าฟังก์ชันเหล่านั้นจะไม่ใช่ผลลัพธ์ของกระบวนการเออร์โกดิกแบบอยู่ตัวก็ตาม

อีกทางเลือกหนึ่ง สัญญาณที่คงอยู่ตลอดไปสามารถวิเคราะห์ได้ด้วยการวิเคราะห์ฟังก์ชันสหสัมพันธ์อัตโนมัติในช่วงเวลาสั้น โดยใช้ปริพันธ์ในช่วงเวลาจำกัด (ดูการแปลงฟูริเยร์ในช่วงเวลาสั้นสำหรับกระบวนการที่เกี่ยวข้อง)

นิยามของสัญญาณคาบ

ถ้าเป็นฟังก์ชันคาบต่อเนื่องที่มีคาบ การอินทิเกรตจากถึงจะถูกแทนที่ด้วยการอินทิเกรตในช่วงใดๆที่มีความยาว:

ซึ่งเทียบเท่ากับ

คุณสมบัติ

ต่อไปนี้ เราจะอธิบายคุณสมบัติของความสัมพันธ์อัตโนมัติแบบหนึ่งมิติเท่านั้น เนื่องจากคุณสมบัติส่วนใหญ่สามารถถ่ายโอนจากกรณีหนึ่งมิติไปยังกรณีหลายมิติได้อย่างง่ายดาย คุณสมบัติเหล่านี้ใช้ได้กับ กระบวนการ สถิตในความหมายกว้าง[ 5 ]

  • คุณสมบัติพื้นฐานอย่างหนึ่งของการหาค่าสหสัมพันธ์อัตโนมัติคือสมมาตรซึ่งพิสูจน์ได้ง่ายจากนิยาม ในกรณีต่อเนื่อง
  • ฟังก์ชันสหสัมพันธ์อัตโนมัติแบบต่อเนื่องจะถึงจุดสูงสุดที่จุดกำเนิด ซึ่งมีค่าจริง กล่าวคือ สำหรับความล่าช้าใดๆ ก็ตาม[ 1 ] : 410นี่ เป็นผลสืบเนื่องมาจากความไม่เท่าเทียมกันของการจัดเรียงใหม่ผลลัพธ์เดียวกันนี้ยังคงใช้ได้ในกรณีแบบไม่ต่อเนื่อง
  • ค่าสหสัมพันธ์อัตโนมัติของฟังก์ชันคาบนั้นเองก็เป็นฟังก์ชันคาบเช่นกัน โดยมีคาบเดียวกัน
  • ค่าสหสัมพันธ์อัตโนมัติของผลรวมของฟังก์ชันสองฟังก์ชันที่ไม่เกี่ยวข้องกันโดยสมบูรณ์ (ค่าสหสัมพันธ์ไขว้เป็นศูนย์สำหรับทุกค่า) คือผลรวมของค่าสหสัมพันธ์อัตโนมัติของแต่ละฟังก์ชันแยกกัน
  • เนื่องจากการหาค่าสหสัมพันธ์อัตโนมัติ (autocorrelation) เป็นประเภทเฉพาะของการหาค่าสหสัมพันธ์ไขว้ (cross -correlation) จึงยังคงคุณสมบัติทั้งหมดของการหาค่าสหสัมพันธ์ไขว้เอาไว้
  • โดยใช้สัญลักษณ์แทนการสังเคราะห์และเป็นฟังก์ชันที่จัดการฟังก์ชันและถูกกำหนดเป็น ดังนั้นนิยามของอาจเขียนได้ดังนี้:

การหาความสัมพันธ์อัตโนมัติแบบหลายมิติ

การหาค่าสหสัมพันธ์อัตโนมัติ แบบหลายมิติมีนิยามที่คล้ายคลึงกัน ตัวอย่างเช่น ในสามมิติ ค่าสหสัมพันธ์อัตโนมัติของสัญญาณแบบไม่ ต่อเนื่องที่สามารถหาผลรวมกำลังสองได้ จะเป็นดังนี้

เมื่อนำค่าเฉลี่ยมาลบออกจากสัญญาณก่อนคำนวณฟังก์ชันสหสัมพันธ์อัตโนมัติ ฟังก์ชันที่ได้มักเรียกว่าฟังก์ชันความแปรปรวนร่วมอัตโนมัติ

การคำนวณที่มีประสิทธิภาพ

สำหรับข้อมูลที่แสดงเป็น ลำดับแบบ ไม่ต่อเนื่องมักจำเป็นต้องคำนวณค่าสหสัมพันธ์อัตโนมัติด้วยประสิทธิภาพการคำนวณ สูง สามารถใช้วิธีการแบบใช้กำลังทั้งหมด โดย อิงตามนิยามของการประมวลผลสัญญาณ ได้เมื่อขนาดของสัญญาณมีขนาดเล็ก ตัวอย่างเช่น ในการคำนวณค่าสหสัมพันธ์อัตโนมัติของลำดับสัญญาณจริง (เช่นและ สำหรับค่า iอื่นๆ ทั้งหมด) ด้วยมือ เราต้องตระหนักก่อนว่านิยามที่กล่าวมาข้างต้นนั้นเหมือนกับการคูณแบบ "ปกติ" แต่มีการเลื่อนไปทางขวา โดยการบวกในแนวตั้งแต่ละครั้งจะให้ค่าสหสัมพันธ์อัตโนมัติสำหรับค่าความล่าช้าเฉพาะ:

ดังนั้นลำดับออโตคอร์เรเลชันที่ต้องการคือโดยที่และออโตคอร์เรเลชันสำหรับค่าความล่าช้าอื่นๆ เป็นศูนย์ ในการคำนวณนี้ เราไม่ได้ทำการทดเลขระหว่างการบวกเหมือนที่ทำกันทั่วไปในการคูณ โปรดทราบว่าเราสามารถลดจำนวนการดำเนินการที่จำเป็นลงครึ่งหนึ่งได้โดยใช้ประโยชน์จากสมมาตรโดยธรรมชาติของออโตคอร์เรเลชัน หากสัญญาณเป็นคาบ เช่นเราจะได้ออโตคอร์เรเลชันแบบวงกลม (คล้ายกับการสังเคราะห์แบบวงกลม ) โดยที่ส่วนหางด้านซ้ายและด้านขวาของลำดับออโตคอร์เรเลชันก่อนหน้านี้จะทับซ้อนกันและให้ซึ่งมีคาบเดียวกับลำดับสัญญาณกระบวนการนี้สามารถพิจารณาได้ว่าเป็นการประยุกต์ใช้คุณสมบัติการสังเคราะห์ของZ-transformของสัญญาณแบบไม่ต่อเนื่อง

ในขณะที่อัลกอริทึมแบบใช้กำลังทั้งหมดมีลำดับแต่ก็มีอัลกอริทึมที่มีประสิทธิภาพหลายอย่างที่สามารถคำนวณค่าสหสัมพันธ์อัตโนมัติได้ในลำดับn log( n )ตัวอย่างเช่นทฤษฎีบท Wiener–Khinchinอนุญาตให้คำนวณค่าสหสัมพันธ์อัตโนมัติจากข้อมูลดิบX ( t )ด้วยการแปลงฟูริเยร์แบบเร็ว (FFT) สองครั้ง: [ 6 ]

โดยที่ IFFT หมายถึงการแปลงฟูริเยร์ผกผันแบบเร็วเครื่องหมายดอกจันหมายถึง ค่าสั ง ยุคเชิงซ้อน

อีกทางเลือกหนึ่งคือ สามารถทำการหาความสัมพันธ์แบบหลายτ ได้โดยใช้การคำนวณแบบ brute force สำหรับค่า τ ต่ำ จากนั้นค่อยๆ จัดกลุ่ม ข้อมูล X ( t )ด้วย ความหนาแน่น แบบลอการิทึมเพื่อคำนวณค่าที่สูงขึ้น ส่งผลให้ได้ ประสิทธิภาพ n log( n ) เท่ากัน แต่ใช้หน่วยความจำน้อยลง[ 7 ] [ 8 ]

การประมาณการ

สำหรับ กระบวนการ แบบไม่ต่อเนื่องที่มีค่าเฉลี่ยและความแปรปรวนที่ทราบแล้ว ซึ่งเราสังเกตค่าสังเกตการณ์ต่างๆ ค่าประมาณของสัมประสิทธิ์สหสัมพันธ์อัตโนมัติสามารถหาได้ดังนี้

สำหรับจำนวนเต็มบวกใดๆ เมื่อ ทราบค่าเฉลี่ยและความแปรปรวน ที่แท้จริง การประมาณค่านี้จะ ไม่เอนเอียงหากไม่ทราบค่าเฉลี่ยและความแปรปรวนที่ แท้จริง ของกระบวนการ จะมีหลายความเป็นไปได้:

  • หาก แทนที่ และด้วยสูตรมาตรฐานสำหรับค่าเฉลี่ยตัวอย่างและความแปรปรวนตัวอย่างแล้วค่าประมาณนี้จะไม่ถูกต้อง
  • การประมาณค่าตาม พีริโอโดแกรมจะแทนที่ในสูตรข้างต้นด้วยการประมาณค่านี้มักจะเอนเอียง อย่างไรก็ตาม โดยทั่วไปจะมีค่าความคลาดเคลื่อนกำลังสองเฉลี่ย ที่น้อยกว่า [ 9 ] [ 10 ]
  • ความเป็นไปได้อื่นๆ มาจากการประมวลผลข้อมูลทั้งสองส่วน แยกกัน และคำนวณค่าเฉลี่ยตัวอย่างและ/หรือค่าความแปรปรวนตัวอย่างแยกกัน เพื่อใช้ในการกำหนดค่าประมาณ

ข้อดีของการประมาณค่าประเภทสุดท้ายคือ ชุดของค่าสหสัมพันธ์อัตโนมัติที่ประมาณได้ ซึ่งเป็นฟังก์ชันของจะสร้างฟังก์ชันที่เป็นสหสัมพันธ์อัตโนมัติที่ถูกต้องในแง่ที่ว่าสามารถกำหนดกระบวนการทางทฤษฎีที่มีสหสัมพันธ์อัตโนมัติดังกล่าวได้ การประมาณค่าอื่นๆ อาจประสบปัญหาที่ว่า หากนำไปใช้ในการคำนวณความแปรปรวนของผลรวมเชิงเส้นของ's ความแปรปรวนที่คำนวณได้อาจเป็นค่าลบ[ 11 ]

ทฤษฎีบทฮัสซานี −1/2

ในการวิเคราะห์อนุกรมเวลาทฤษฎีบท Hassani −1/2เป็นเอกลักษณ์ตัวอย่างจำกัดที่เกี่ยวข้องกับตัวประมาณแบบดั้งเดิมของฟังก์ชันสหสัมพันธ์อัตโนมัติของตัวอย่าง (ACF) สำหรับอนุกรมเวลาที่มีความยาวโดยใช้ตัวประมาณที่แก้ไขค่าเฉลี่ยตัวอย่างตามปกติHassani แสดงให้เห็นว่าผลรวมของสหสัมพันธ์อัตโนมัติของตัวอย่างเหนือค่าความล่าช้าที่เป็นบวกทั้งหมดมีค่าคงที่: [ 12 ]

เอกลักษณ์ดังกล่าวเป็นผลมาจากข้อเท็จจริงที่ว่าค่าความแปรปรวนร่วมอัตโนมัติของตัวอย่างคำนวณได้หลังจากลบค่าเฉลี่ยของตัวอย่างแล้ว ดังนั้น ผลรวมของค่าสังเกตที่ปรับให้มีค่าเฉลี่ยเป็นศูนย์จึงเป็นศูนย์ ซึ่งเป็นการกำหนดข้อจำกัดทางพีชคณิตให้กับชุดค่าสหสัมพันธ์อัตโนมัติของตัวอย่างทั้งหมด ทฤษฎีบทนี้จึงเป็นคุณสมบัติของตัวประมาณค่าและตัวอย่างที่มีขนาดจำกัด มากกว่าจะเป็นคุณสมบัติของกระบวนการสุ่มพื้นฐาน

ผลลัพธ์บ่งชี้ว่าค่าสหสัมพันธ์อัตโนมัติของตัวอย่างข้ามช่วงเวลาไม่เป็นอิสระต่อกัน นอกจากนี้ยังแสดงให้เห็นว่าค่า ACF ของตัวอย่างไม่สามารถเป็นบวกโดยรวมได้เมื่อรวมกันในช่วงเวลาที่เป็นบวกทั้งหมด ซึ่งนำไปสู่ข้อควรระวังในการตีความผลรวมของค่าสหสัมพันธ์อัตโนมัติที่ประมาณการไว้ว่าเป็นมาตรวัดโดยตรงของการพึ่งพาโดยรวม ความคงทน หรือพฤติกรรมความจำระยะยาว เนื่องจากผลรวมของช่วงเวลาทั้งหมดจะคงที่โดยไม่คำนึงถึงอนุกรมเวลาคงที่พื้นฐาน[ 12 ] [ 13 ]

ทฤษฎีบทนี้ได้รับการกล่าวถึงในส่วนที่เกี่ยวข้องกับการตรวจสอบการวินิจฉัยและการเลือกแบบจำลองในการวิเคราะห์อนุกรมเวลา โดยเฉพาะอย่างยิ่ง งานในภายหลังได้ตรวจสอบผลกระทบของทฤษฎีบทนี้ต่อการทดสอบที่อิงตามความสัมพันธ์อัตโนมัติของตัวอย่าง รวมถึงสถิติ Ljung–Box และสำหรับการตีความรูปแบบ ACF เชิงประจักษ์ในกระบวนการหน่วยความจำระยะสั้นและระยะยาว[ 14 ] [ 15 ]เอกลักษณ์นี้ยังถูกใช้เพื่อเน้นความแตกต่างระหว่างความสัมพันธ์อัตโนมัติเชิงทฤษฎีของกระบวนการและความสัมพันธ์อัตโนมัติเชิงประจักษ์ที่ประมาณจากตัวอย่างจำกัด[ 16 ]

ทฤษฎีบทนี้ใช้ได้กับตัวประมาณค่า ACF ที่แก้ไขค่าเฉลี่ยตัวอย่างมาตรฐาน ไม่ควรสับสนกับข้อความเกี่ยวกับผลรวมของฟังก์ชันสหสัมพันธ์อัตโนมัติเชิงทฤษฎีของกระบวนการพื้นฐาน ซึ่งอาจแตกต่างกันไปขึ้นอยู่กับแบบจำลองและพารามิเตอร์[ 13 ]

การวิเคราะห์การถดถอย

ในการวิเคราะห์การถดถอยโดยใช้ข้อมูลอนุกรมเวลาความสัมพันธ์อัตโนมัติในตัวแปรที่สนใจมักจะถูกจำลองด้วยแบบจำลองอัตถารีเกรสซีฟ (AR) แบบจำลองค่าเฉลี่ยเคลื่อนที่ (MA) การรวมกันของทั้งสองแบบจำลองเป็นแบบจำลองอัตถารีเกรสซีฟ-ค่าเฉลี่ยเคลื่อนที่ (ARMA) หรือส่วนขยายของแบบจำลองหลังที่เรียกว่าแบบจำลองอัตถารีเกรสซีฟ-ค่าเฉลี่ยเคลื่อนที่แบบบูรณาการ (ARIMA) สำหรับอนุกรมข้อมูลที่มีความสัมพันธ์กันหลายชุด จะใช้แบบจำลองเวกเตอร์อัตถารีเกรสซีฟ (VAR) หรือส่วนขยายของ VAR

ใน การ วิเคราะห์ถดถอยกำลังสองน้อยที่สุดแบบธรรมดา (OLS) ความเหมาะสมของแบบจำลองสามารถตรวจสอบได้บางส่วนโดยการตรวจสอบว่ามีการความสัมพันธ์อัตโนมัติของค่าความคลาดเคลื่อนของการถดถอยหรือไม่ ความสัมพันธ์อัตโนมัติที่เป็นปัญหาของค่าความคลาดเคลื่อน ซึ่งไม่สามารถสังเกตได้นั้น โดยทั่วไปสามารถตรวจพบได้เนื่องจากทำให้เกิดความสัมพันธ์อัตโนมัติในค่าความคลาดเคลื่อนที่สังเกตได้ (ค่าความคลาดเคลื่อนยังเป็นที่รู้จักในชื่อ "พจน์ความคลาดเคลื่อน" ในเศรษฐศาสตร์ ) ความสัมพันธ์อัตโนมัติของค่าความคลาดเคลื่อนขัดแย้งกับข้อสมมติฐานของการวิเคราะห์ถดถอยกำลังสองน้อยที่สุดแบบธรรมดาที่ว่าพจน์ความคลาดเคลื่อนไม่มีความสัมพันธ์กัน ซึ่งหมายความว่าทฤษฎีบท Gauss-Markovไม่สามารถนำมาใช้ได้ และตัวประมาณค่า OLS จะไม่ใช่ตัวประมาณค่าเชิงเส้นที่ดีที่สุดที่ไม่เอนเอียง ( BLUE ) อีกต่อไป แม้ว่าจะไม่ทำให้ค่าประมาณสัมประสิทธิ์ OLS เอนเอียง แต่ค่าความคลาดเคลื่อนมาตรฐานมักจะถูกประเมินต่ำเกินไป (และค่า t-scoreจะถูกประเมินสูงเกินไป) เมื่อความสัมพันธ์อัตโนมัติของค่าความคลาดเคลื่อนที่ช่วงเวลาต่ำเป็นบวก

การทดสอบแบบดั้งเดิมสำหรับการมีอยู่ของความสัมพันธ์อัตโนมัติลำดับแรกคือสถิติ Durbin–Watsonหรือหากตัวแปรอธิบายรวมถึงตัวแปรตามที่ล่าช้าสถิติ h ของ Durbin สถิติ Durbin-Watson สามารถแมปเชิงเส้นไปยังความสัมพันธ์ Pearson ระหว่างค่าและค่าที่ล่าช้าได้[ 17 ] การทดสอบที่ยืดหยุ่นกว่า ครอบคลุมความสัมพันธ์อัตโนมัติลำดับสูงกว่า และใช้ได้ไม่ว่าตัวแปรอิสระจะรวมถึงค่าที่ล่าช้าของตัวแปรตามหรือไม่ก็ตาม คือการทดสอบ Breusch–Godfreyซึ่งเกี่ยวข้องกับการถดถอยเสริม โดยที่ค่าตกค้างที่ได้จากการประมาณแบบจำลองที่สนใจจะถูกถดถอยกับ (ก) ตัวแปรอิสระดั้งเดิม และ (ข) ค่าที่ล่าช้า k ค่าของค่าตกค้าง โดยที่ 'k' คือลำดับของการทดสอบ สถิติการทดสอบเวอร์ชันที่ง่ายที่สุดจากการถดถอยเสริมนี้คือTR 2โดยที่Tคือขนาดตัวอย่าง และR 2คือสัมประสิทธิ์การกำหนด ภายใต้สมมติฐานว่างที่ว่าไม่มีความสัมพันธ์อัตโนมัติ สถิตินี้จะมีการกระจายตัวแบบเชิงเส้นกำกับดังนี้ โดยมีkองศาอิสระ

การตอบสนองต่อค่าสหสัมพันธ์อัตโนมัติที่ไม่เป็นศูนย์ ได้แก่กำลังสองน้อยที่สุดทั่วไปและตัวประมาณค่า HAC ของ Newey–West (Heteroskedasticity and Autocorrelation Consistent) [ 18 ]

ในการประมาณค่าแบบจำลองค่าเฉลี่ยเคลื่อนที่ (MA) ฟังก์ชันสหสัมพันธ์อัตโนมัติจะถูกใช้เพื่อกำหนดจำนวนพจน์ความคลาดเคลื่อนที่ล่าช้าที่เหมาะสมที่จะรวมไว้ โดยอิงจากข้อเท็จจริงที่ว่าสำหรับกระบวนการ MA อันดับq เราจะได้สำหรับและสำหรับ

แอปพลิเคชัน

ความสามารถของการหาค่าสหสัมพันธ์อัตโนมัติในการค้นหารูปแบบที่ซ้ำกันในข้อมูลก่อให้เกิดการประยุกต์ใช้งานมากมาย รวมถึง:

การพึ่งพาแบบอนุกรม

ความสัมพันธ์แบบอนุกรมมีความเชื่อมโยงอย่างใกล้ชิดกับแนวคิดเรื่องความสัมพันธ์อัตโนมัติ แต่เป็นแนวคิดที่แตกต่างกัน (ดูความสัมพันธ์และความสัมพันธ์แบบอนุกรม ) โดยเฉพาะอย่างยิ่ง เป็นไปได้ที่จะมีความสัมพันธ์แบบอนุกรมแต่ไม่มีความสัมพันธ์ (เชิงเส้น) อย่างไรก็ตาม ในบางสาขา คำทั้งสองนี้ถูกใช้เป็นคำพ้องความหมาย

อนุกรม เวลาของตัวแปรสุ่มจะมีความสัมพันธ์แบบอนุกรม หากค่า ณ เวลาใดเวลาหนึ่งในอนุกรมมีความสัมพันธ์ทางสถิติกับค่า ณ เวลาอื่น ส่วนอนุกรมจะไม่มีความเกี่ยวข้องกันแบบอนุกรม หากไม่มีความสัมพันธ์ใดๆ ระหว่างคู่ค่าใดๆ เลย

หากอนุกรมเวลาเป็นแบบคงที่ความสัมพันธ์ทางสถิติระหว่างคู่ค่าจะหมายความว่ามีความสัมพันธ์ทางสถิติระหว่างคู่ค่าทั้งหมดที่ช่วงเวลาเดียวกัน

ดูเพิ่มเติม

อ่านเพิ่มเติม

  • Kmenta, Jan (1986). องค์ประกอบของเศรษฐศาสตร์เชิงปริมาณ (ฉบับพิมพ์ครั้งที่สอง). นิวยอร์ก: Macmillan. หน้า  298–334 . ISBN 978-0-02-365070-3.
  • Marno Verbeek (10 สิงหาคม 2017). คู่มือเศรษฐศาสตร์เชิงปริมาณสมัยใหม่ . Wiley. ISBN 978-1-119-40110-0.
  • Soltanalian, Mojtaba; Stoica, Petre (2012). "การออกแบบเชิงคำนวณของลำดับที่มีคุณสมบัติความสัมพันธ์ที่ดี" IEEE Transactions on Signal Processing . 60 (5): 2180. Bibcode : 2012ITSP...60.2180S . doi : 10.1109/TSP.2012.2186134 .
  • โซโลมอน ดับเบิลยู. โกลอมบ์ และกวง กง . การออกแบบสัญญาณเพื่อความสัมพันธ์ที่ดี: สำหรับการสื่อสารไร้สาย การเข้ารหัส และเรดาร์ . สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์, 2005.
  • Klapetek, Petr (2018). การประมวลผลข้อมูลเชิงปริมาณในกล้องจุลทรรศน์แบบสแกนโพรบ: การประยุกต์ใช้ SPM สำหรับนาโนเมตรี (ฉบับที่สอง). Elsevier. หน้า 108–112 ISBN 9780128133477.
  • Hassani, Hossein (2009). ผลรวมของฟังก์ชันสหสัมพันธ์อัตโนมัติของตัวอย่าง ตัวดำเนินการสุ่มและสมการสุ่ม 17 (2): หน้า 125–130. doi : 10.1515/ROSE.2009.008 .
  • Hassani, Hossein (2010). หมายเหตุเกี่ยวกับผลรวมของฟังก์ชันสหสัมพันธ์อัตโนมัติของตัวอย่าง]. Physica A: Statistical Mechanics and its Applications. 389 (8): หน้า 1601–1606. doi : 10.1016/j.physa.2009.12.050 .
ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Autocorrelation&oldid=1356234487#Matrix "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ การหาค่าสหสัมพันธ์อัตโนมัติ

การหาค่าสหสัมพันธ์อัตโนมัติ ( Autocorrelation ) หรือบางครั้งเรียกว่าค่าสหสัมพันธ์อนุกรม (Serial Correlation ) ในกรณีเวลาไม่ต่อเนื่อง คือการวัด ความสัมพันธ์ของ สัญญาณกับสำเนาของ...

ความสัมพันธ์อัตโนมัติของกระบวนการสุ่ม

ใน ทางสถิติ ความสัมพันธ์อัตโนมัติของ กระบวนการสุ่ม จริงหรือเชิงซ้อน คือ ความสัมพันธ์แบบเพียร์สัน ระหว่างค่าของกระบวนการ ณ เวลาต่างๆ โดยเป็นฟังก์ชันของเวลาทั้งสองหรือของช่วงเวลาที่ล่าช้า ให้เป็นกระบวนการสุ่มในช่วงเวลา และเป็นตัวแปรสุ่ม ณ เวลา( อาจเป็น...

นิยามของกระบวนการสุ่มแบบอยู่ตัวในความหมายกว้าง

ถ้าเป็น กระบวนการสถิตในความหมายกว้าง ค่าเฉลี่ยและความแปรปรวนจะไม่ขึ้นกับเวลา และยิ่งไปกว่านั้น ฟังก์ชันความแปรปรวนร่วมอัตโนมัติจะขึ้นอยู่กับความล่าช้าระหว่างและ เท่านั้น กล่าวคือ ความแปรปรวนร่วมอัตโนมัติขึ้นอยู่กับระยะห่างของเวลาระหว่างคู่ของค่า...

การทำให้เป็นมาตรฐาน

ในบางสาขาวิชา (เช่น สถิติและ การวิเคราะห์อนุกรมเวลา ) เป็นเรื่องปกติ ที่จะทำการปรับค่าฟังก์ชันความแปรปรวนร่วมอัตโนมัติให้เป็นค่ามาตรฐาน เพื่อให้ได้ ค่าสัมประสิทธิ์สหสัมพันธ์เพียร์สัน ที่ขึ้นอยู่กับเวลา อย่างไรก็ตาม ในสาขาวิชาอื่นๆ (เช่น วิศวกรรมศาสตร์)...