ในการวิเคราะห์อนุกรมเวลา (หรือการพยากรณ์) — ดังที่ดำเนินการในสถิติการประมวลผลสัญญาณและสาขาอื่นๆ อีกมากมาย — นวัตกรรมคือความแตกต่างระหว่างค่าที่สังเกตได้ของตัวแปร ณ เวลาtและการพยากรณ์ที่ดีที่สุดของค่านั้นโดยอาศัยข้อมูลที่มีอยู่ก่อนเวลาtหากวิธีการพยากรณ์ทำงานได้อย่างถูกต้อง นวัตกรรมที่ต่อเนื่องกันจะไม่สัมพันธ์กัน กล่าวคือ ประกอบเป็น อนุกรมเวลาของ สัญญาณรบกวนสีขาวดังนั้นจึงกล่าวได้ว่าอนุกรมเวลาของนวัตกรรมได้มาจากอนุกรมเวลาของการวัดโดยกระบวนการ 'ทำให้เป็นสีขาว' หรือการกำจัดส่วนประกอบที่คาดการณ์ได้ การใช้คำว่านวัตกรรมในความหมายที่อธิบายไว้ที่นี่เป็นผลมาจากHendrik BodeและClaude Shannon (1950) ^{[ 1 ]}ในการอภิปราย ปัญหา ตัวกรอง Wienerแม้ว่าแนวคิดนี้จะแฝงอยู่ในงานของKolmogorov อยู่ แล้ว ^{[ 2 ]}

ในทางตรงกันข้าม ค่าส่วนเหลือคือความแตกต่างระหว่างค่าที่สังเกตได้ของตัวแปร ณ เวลาt กับสถานะที่ ปรับปรุงแล้วที่เหมาะสมที่สุดของค่านั้น โดยอาศัยข้อมูลที่มีอยู่จนถึง (รวมถึง) เวลาt 

• ตัวกรองคาลมาน
• ปัญหาการกรอง (กระบวนการสุ่ม)
• ข้อผิดพลาดและค่าตกค้างในทางสถิติ
• ผีเสื้อแห่งนวัตกรรม