การวิเคราะห์ส่วนประกอบหลักที่ทนทาน (Robust Principal Component Analysis: RPCA)เป็นการดัดแปลงกระบวนการทางสถิติที่ใช้กันอย่างแพร่หลายของการวิเคราะห์ส่วนประกอบหลัก (Principal Component Analysis: PCA) ซึ่งทำงานได้ดีกับ ข้อมูลที่เสียหาย อย่างมากมีแนวทางที่แตกต่างกันมากมายสำหรับ Robust PCA รวมถึงเวอร์ชันในอุดมคติของ Robust PCA ซึ่งมีเป้าหมายเพื่อกู้คืนเมทริกซ์อันดับต่ำ L จากการวัดที่เสียหายอย่างมาก M = L +S ^{[ 1} ] การแยกส่วนนี้ในเมทริกซ์อันดับต่ำและเบาบางสามารถทำได้โดยเทคนิค ^{ต่างๆ}เช่น วิธีการค้นหาส่วนประกอบหลัก (Principal Component Pursuit: PCP) ^{[ 1 ]} Stable PCP ^{[ 2 ]} Quantized PCP ^{[ 3 ]} Block based PCP ^{[ 4 ]}และ Local PCP ^{[ 5 ]}จากนั้นจะใช้วิธีการเพิ่มประสิทธิภาพ เช่น วิธี Augmented Lagrange Multiplier (ALM ^{[ 6 ]} ), วิธี Alternating Direction (ADM ^{[ 7 ]} ), Fast Alternating Minimization (FAM ^{[ 8 ]} ), Iteratively Reweighted Least Squares (IRLS ^{[ 9 ] [ 10 ] [ 11 ]} ) หรือ Alternating Projections (AP ^{[ 12 ] [ 13 ] [ 14 ]} )

อัลกอริทึมที่รับประกันในปี 2014 สำหรับปัญหา PCA ที่แข็งแกร่ง (โดยมีเมทริกซ์อินพุตเป็น) เป็นอัลกอริทึมประเภทการลดค่าสลับกัน^{[ 12 ]}ความซับซ้อนในการคำนวณคือโดยที่อินพุตคือการซ้อนทับของเมทริกซ์อันดับต่ำ (อันดับ) และเมทริกซ์แบบเบาบางที่มีมิติและคือความแม่นยำที่ต้องการของโซลูชันที่กู้คืน กล่าวคือโดยที่คือส่วนประกอบอันดับต่ำที่แท้จริง และคือส่วนประกอบอันดับต่ำที่ประมาณหรือกู้คืน ตามสัญชาตญาณ อัลกอริทึมนี้จะทำการฉายภาพของส่วนที่เหลือไปยังชุดของเมทริกซ์อันดับต่ำ (ผ่าน การดำเนินการ SVD ) และเมทริกซ์แบบเบาบาง (ผ่านการกำหนดเกณฑ์ที่เข้มงวดแบบรายการต่อรายการ) ในลักษณะสลับกัน นั่นคือ การฉายภาพอันดับต่ำของความแตกต่างระหว่างเมทริกซ์อินพุตและเมทริกซ์แบบเบาบางที่ได้ในการวนซ้ำที่กำหนด ตามด้วยการฉายภาพแบบเบาบางของความแตกต่างระหว่างเมทริกซ์อินพุตและเมทริกซ์อันดับต่ำที่ได้ในขั้นตอนก่อนหน้า และวนซ้ำสองขั้นตอนจนกว่าจะบรรจบกัน ${\displaystyle M=L+S}$${\displaystyle O\left(mnr^{2}\log {\frac {1}{\epsilon }}\right)}$${\displaystyle r}$${\displaystyle m\times n}$${\displaystyle \epsilon }$${\displaystyle \|{\widehat {L}}-L\|_{F}\leq \epsilon }$${\displaystyle L}$${\displaystyle {\หมวกกว้าง {L}}}$

อัลกอริทึมการฉายภาพสลับนี้ได้รับการปรับปรุงในภายหลังด้วยเวอร์ชันเร่งความเร็วที่เรียกว่า AccAltProj ^{[ 13 ]}การเร่งความเร็วทำได้โดยการใช้ การฉายภาพ พื้นที่สัมผัสก่อนที่จะฉายภาพเศษเหลือลงบนชุดของเมทริกซ์อันดับต่ำ เทคนิคนี้ช่วยปรับปรุงความซับซ้อนในการคำนวณด้วยค่าคงที่ที่เล็กกว่ามากในขณะที่ยังคงรักษาการลู่เข้าเชิงเส้นที่รับประกันตามทฤษฎีไว้ ${\displaystyle O\left(mnr\log {\frac {1}{\epsilon }}\right)}$

อีกเวอร์ชันที่รวดเร็วของอัลกอริธึมการฉายภาพสลับแบบเร่งความเร็วคือ IRCUR ^{[ 14 ]}โดยใช้โครงสร้างของการแยกส่วน CUR ในกรอบงานการฉายภาพสลับเพื่อลดความซับซ้อนในการคำนวณของ RPCA อย่างมาก${\displaystyle O\left(\max\{m,n\}r^{2}\log(m)\log(n)\log {\frac {1}{\epsilon }}\right)}$

วิธีนี้ประกอบด้วยการผ่อนคลายข้อจำกัดด้านอันดับในปัญหาการหาค่าเหมาะสมที่สุดให้เป็นนอร์มแบบนิวเคลียร์และข้อจำกัดด้านความเบาบางให้เป็นนอร์มโปรแกรมที่ได้สามารถแก้ไขได้โดยใช้วิธีต่างๆ เช่น วิธีตัวคูณลากรางจ์เสริม ${\displaystyle rank(L)}$${\displaystyle \|L\|_{*}}$${\displaystyle \|S\|_{0}}$${\displaystyle \ell _{1}}$${\displaystyle \|S\|_{1}}$

งานวิจัยล่าสุดบางชิ้นเสนออัลกอริทึม RPCA ที่มีพารามิเตอร์ที่เรียนรู้ได้/ฝึกฝนได้^{[ 15 ]}อัลกอริทึมที่เรียนรู้ได้/ฝึกฝนได้ดังกล่าวสามารถคลี่คลายออกมาเป็นโครงข่ายประสาทเทียมเชิงลึกซึ่งพารามิเตอร์สามารถเรียนรู้ได้ผ่านเทคนิคการเรียนรู้ของเครื่องจากชุดข้อมูลหรือการกระจายปัญหาที่กำหนด อัลกอริทึมที่เรียนรู้แล้วจะมีประสิทธิภาพที่เหนือกว่าในการกระจายปัญหาที่เกี่ยวข้อง

RPCA มีการประยุกต์ใช้งานที่สำคัญในชีวิตจริงมากมาย โดยเฉพาะอย่างยิ่งเมื่อข้อมูลที่กำลังศึกษาอยู่สามารถจำลองได้อย่างเป็นธรรมชาติในรูปแบบของเมทริกซ์อันดับต่ำบวกกับเมทริกซ์แบบเบาบาง ตัวอย่างต่อไปนี้ได้รับแรงบันดาลใจจากความท้าทายร่วมสมัยในวิทยาศาสตร์คอมพิวเตอร์และขึ้นอยู่กับการประยุกต์ใช้งานนั้น เมทริกซ์อันดับต่ำหรือเมทริกซ์แบบเบาบางอาจเป็นสิ่งที่น่าสนใจ:

เมื่อพิจารณาลำดับ เฟรม วิดีโอการเฝ้าระวังมักจะจำเป็นต้องระบุถึงกิจกรรมที่โดดเด่นจากพื้นหลัง หากเราเรียงเฟรมวิดีโอเป็นคอลัมน์ของเมทริกซ์ M ส่วนประกอบที่มีอันดับต่ำ L จะสอดคล้องกับพื้นหลังที่นิ่ง และส่วนประกอบที่เบาบาง S จะจับภาพวัตถุที่เคลื่อนไหวในพื้นหน้า^{[ 1 ] [ 16 ]}

ภาพของ พื้นผิวนูนแบบ แลมเบอร์เชียน ภายใต้แสงสว่างที่แตกต่างกันครอบคลุมพื้นที่ย่อยมิติต่ำ^{[ 17 ]}นี่เป็นหนึ่งในเหตุผลที่ทำให้แบบจำลองมิติต่ำมีประสิทธิภาพสำหรับข้อมูลภาพ โดยเฉพาะอย่างยิ่ง การประมาณภาพใบหน้าของมนุษย์ด้วยพื้นที่ย่อยมิติต่ำนั้นทำได้ง่าย การที่จะสามารถดึงพื้นที่ย่อยนี้ได้อย่างถูกต้องนั้นมีความสำคัญอย่างยิ่งในแอปพลิเคชันหลายอย่าง เช่นการจดจำใบหน้าและการจัดเรียง ปรากฏว่า RPCA สามารถนำไปใช้กับปัญหานี้ได้อย่างประสบความสำเร็จเพื่อกู้คืนใบหน้าได้อย่างแม่นยำ^{[ 1 ]}

• การวิเคราะห์องค์ประกอบหลักแบบ L1-norm

• PCA ที่แข็งแกร่ง^{[ 16 ]}
• RPCA แบบไดนามิก^{[ 18 ]}
• การแยกส่วนเป็นเมทริกซ์อันดับต่ำบวกเมทริกซ์บวก^{[ 19 ]}
• แบบจำลองอันดับต่ำ^{[ 20 ]}

• T. Bouwmans, N. Aybat และ E. Zahzah. คู่มือการแยกส่วนเมทริกซ์ที่มีอันดับต่ำและเมทริกซ์เบาบางที่ทนทาน: การประยุกต์ใช้ในการประมวลผลภาพและวิดีโอ , CRC Press , Taylor and Francis Group, พฤษภาคม 2016 (ข้อมูลเพิ่มเติม: http://www.crcpress.com/product/isbn/9781498724623 )
• Z. Lin, H. Zhang, "แบบจำลองอันดับต่ำในการวิเคราะห์ภาพ: ทฤษฎี อัลกอริทึม และการประยุกต์ใช้", สำนักพิมพ์ Academic Press, Elsevier, มิถุนายน 2017 (ข้อมูลเพิ่มเติม: https://www.elsevier.com/books/low-rank-models-in-visual-analysis/lin/978-0-12-812731-5 )

• N. Vaswani , Y. Chi, T. Bouwmans, ฉบับพิเศษเรื่อง “ การคิดใหม่เกี่ยวกับ PCA สำหรับชุดข้อมูลสมัยใหม่: ทฤษฎี อัลกอริทึม และการประยุกต์ใช้ ”, Proceedings of the IEEE , 2018
• T. Bouwmans, N. Vaswani , P. Rodriguez, R. Vidal, Z. Lin, ฉบับพิเศษเรื่อง “ การเรียนรู้และการติดตามซับสเปซที่ทนทาน: ทฤษฎี อัลกอริทึม และการประยุกต์ใช้ ”, IEEE Journal of Selected Topics in Signal Processing, ธันวาคม 2018

• RSL-CV 2015: การประชุมเชิงปฏิบัติการเกี่ยวกับการเรียนรู้ซับสเปซที่ทนทานและการมองเห็นด้วยคอมพิวเตอร์ร่วมกับ ICCV 2015 (สำหรับข้อมูลเพิ่มเติม: http://rsl-cv2015.univ-lr.fr/workshop/ )
• RSL-CV 2017: การประชุมเชิงปฏิบัติการเกี่ยวกับการเรียนรู้ซับสเปซที่ทนทานและคอมพิวเตอร์วิชั่น ร่วมกับ ICCV 2017 (สำหรับข้อมูลเพิ่มเติม: http://rsl-cv.univ-lr.fr/2017/ )
• RSL-CV 2021: การประชุมเชิงปฏิบัติการเกี่ยวกับการเรียนรู้ซับสเปซที่ทนทานและคอมพิวเตอร์วิชั่น ร่วมกับ ICCV 2021 (สำหรับข้อมูลเพิ่มเติม: https://rsl-cv.univ-lr.fr/2021/ )

• การประชุมพิเศษในหัวข้อ "อัลกอริทึมออนไลน์สำหรับ PCA ที่ทนทานแบบคงที่และแบบไดนามิก และการรับรู้แบบบีบอัด" ร่วมกับการประชุม SSP 2018 (ข้อมูลเพิ่มเติม: https://ssp2018.org/ )

• เว็บไซต์การลบพื้นหลัง
• เว็บไซต์ DLAM
• เอกสารจากมหาวิทยาลัยอิลลินอยส์ - ลิงก์คลังเอกสาร

ไลบรารีLRS (พัฒนาโดยAndrews Sobral ) รวบรวมอัลกอริธึมการแยกส่วนเมทริกซ์ที่มีอันดับต่ำและเมทริกซ์เบาบางไว้ใน MATLAB ไลบรารีนี้ได้รับการออกแบบมาเพื่อตรวจจับวัตถุเคลื่อนที่ในวิดีโอ แต่ก็สามารถใช้กับงานด้านคอมพิวเตอร์วิชั่น/แมชชีนเลิร์นนิงอื่นๆ ได้เช่นกัน ปัจจุบันไลบรารี LRS มีอัลกอริธึมมากกว่า 100 รายการที่ใช้เมทริกซ์และเทนเซอร์เป็น พื้นฐาน

• ห้องสมุด LRS