การแยกส่วนอันดับเทนเซอร์
ในพีชคณิตเชิงเส้นหลายตัวการแยกส่วนอันดับเทนเซอร์[ 1 ]หรือการแยกส่วนอันดับRคือการแยกส่วนเทนเซอร์เป็นผลรวมของเทนเซอร์อันดับ 1 จำนวนR ตัว โดยที่ Rมีค่าน้อยที่สุด การคำนวณการแยกส่วนนี้ยังเป็นปัญหาที่ยังเปิดอยู่
การแยกส่วนแบบพหุนามเชิงแคนอน (CPD)เป็นรูปแบบหนึ่งของการแยกส่วนอันดับเทนเซอร์ ซึ่งเทนเซอร์จะถูกประมาณค่าเป็นผลรวมของเทนเซอร์อันดับ 1 จำนวนK ตัว สำหรับค่า K ที่ผู้ใช้กำหนด การแยกส่วน CP ได้ถูกนำไปประยุกต์ใช้ในด้านภาษาศาสตร์และเคมีเชิงสถิติโดยได้รับการแนะนำโดยแฟรงค์ ลอเรน ฮิตช์ค็อกในปี 1927 [ 2 ]และต่อมาได้ถูกค้นพบใหม่หลายครั้ง โดยเฉพาะในด้านจิตวิทยาเชิงสถิติ[ 3 ] [ 4 ] การแยกส่วน CP เรียกว่า CANDECOMP [ 3 ] PARAFAC [ 4 ]หรือ CANDECOMP/PARAFAC (CP) โปรดทราบว่าการแยกส่วนอันดับ PARAFAC2 เป็นรูปแบบหนึ่งของการแยกส่วน CP [ 5 ]
อีกหนึ่งการขยายความทั่วไปที่เป็นที่นิยมของการแยกค่าเอกลักษณ์ของเมทริกซ์ (SVD) ซึ่งรู้จักกันในชื่อ การแยกค่าเอกลักษณ์ ลำดับสูง (higher-order singular value decomposition) จะคำนวณเมทริกซ์โหมดตั้งฉาก และมีการประยุกต์ใช้ในเศรษฐศาสตร์เชิงปริมาณการประมวลผลสัญญาณคอมพิวเตอร์วิชั่นคอมพิวเตอร์กราฟิกและจิตวิทยาการวัดผล
สัญกรณ์
ตัวแปรสเกลาร์จะใช้ตัวอักษรตัวเล็กแบบตัวเอียงในการแสดงและค่าขอบเขตบนของสเกลาร์จะแสดงด้วยตัวอักษรพิมพ์ใหญ่ตัวเอียง.
ดัชนีจะแสดงด้วยตัวอักษรพิมพ์เล็กและพิมพ์ใหญ่แบบตัวเอียงผสมกันดัชนีหลายตัวที่อาจพบเจอเมื่ออ้างถึงโหมดหลายโหมดของเทนเซอร์นั้น มักจะแสดงด้วยสัญลักษณ์ที่สะดวกคือ...ที่ไหน .
เวกเตอร์จะใช้ตัวอักษรโรมันตัวเล็กหนาแทนและเมทริกซ์จะถูกแสดงด้วยตัวอักษรพิมพ์ใหญ่ตัวหนา.
เทนเซอร์ลำดับสูงกว่าจะใช้ตัวอักษรเขียนหวัดแทนองค์ประกอบหนึ่งของเทนเซอร์ลำดับที่ -ถูกกำหนดโดยหรือ.
คำนิยาม
เทนเซอร์ข้อมูล คือชุดของการสังเกตแบบหลายตัวแปรที่จัดเรียงเป็น อาร์เรย์แบบ Mทาง โดยที่M = C + 1 เทนเซอร์แต่ละตัวสามารถแทนด้วยขนาดที่เหมาะสมได้เป็นผลรวมเชิงเส้นของเทนเซอร์อันดับ 1:
ที่ไหนและที่ไหนเมื่อจำนวนพจน์ถ้าค่าในนิพจน์ข้างต้นน้อยที่สุดแล้วเรียกว่าอันดับของเทนเซอร์ และการแยกส่วนประกอบมักเรียกว่าการแยกส่วนประกอบตามอันดับ (เทนเซอร์)การแยกส่วนประกอบ CP ขั้นต่ำหรือการแยกส่วนประกอบแบบพหุนามเชิงแคนอน (CPD)หากจำนวนเทอมไม่ใช่ขั้นต่ำ การแยกส่วนประกอบข้างต้นมักเรียกว่าCANDECOMP/PARAFACหรือการแยกส่วนประกอบแบบพหุนาม
อันดับเทนเซอร์
ตรงกันข้ามกับกรณีของเมทริกซ์ การคำนวณอันดับของเทนเซอร์เป็นปัญหาNP-hard [ 6 ] กรณีเดียวที่เข้าใจได้ดีอย่างเห็นได้ชัดคือเทนเซอร์ในซึ่งสามารถหาอันดับได้จากรูปแบบปกติของKronecker – Weierstrass ของ เมทริกซ์เชิง เส้น ที่เทนเซอร์แสดง[ 7 ]มีอัลกอริทึมเวลาพหุนามที่เรียบง่ายสำหรับการรับรองว่าเทนเซอร์มีอันดับ 1 นั่นคือการแยกค่าเอกลักษณ์ลำดับสูง
ตามธรรมเนียมแล้ว อันดับของเทนเซอร์ศูนย์คือศูนย์ อันดับของเทนเซอร์คือหนึ่ง โดยมีเงื่อนไขว่า.
การพึ่งพาสนาม
อันดับของเทนเซอร์ขึ้นอยู่กับฟิลด์ที่เทนเซอร์ถูกแยกส่วน เป็นที่ทราบกันว่าเทนเซอร์จริงบางตัวอาจยอมรับการแยกส่วนเชิงซ้อนซึ่งมีอันดับน้อยกว่าอันดับของการแยกส่วนจริงของเทนเซอร์เดียวกันอย่างเคร่งครัด ตัวอย่างเช่น[ 8 ]พิจารณาเทนเซอร์จริงต่อไปนี้
ที่ไหนอันดับของเทนเซอร์นี้บนจำนวนจริงเป็นที่ทราบกันว่าคือ 3 ในขณะที่อันดับเชิงซ้อนของมันมีเพียง 2 เนื่องจากเป็นผลรวมของเทนเซอร์อันดับเชิงซ้อน 1 กับคอนจูเกตเชิงซ้อน ของมัน กล่าวคือ
ที่ไหน.
ในทางตรงกันข้าม อันดับของเมทริกซ์จริงจะไม่ลดลงภายใต้การขยายฟิลด์ไปยัง: อันดับของเมทริกซ์จริงและอันดับของเมทริกซ์เชิงซ้อนจะตรงกันสำหรับเมทริกซ์จริง
อันดับทั่วไป
อันดับทั่วไปถูกกำหนดให้เป็นลำดับต่ำสุดโดยที่การปิดในโทโพโลยีซาริสกีของเซตของเทนเซอร์ที่มีอันดับไม่เกินคือพื้นที่ทั้งหมดในกรณีของเทนเซอร์เชิงซ้อน เทนเซอร์ที่มีอันดับไม่เกินก่อตัวเป็นกลุ่มหนาแน่น: เทนเซอร์ทุกตัวในปริภูมิที่กล่าวถึงข้างต้นนั้น มีอันดับต่ำกว่าอันดับทั่วไป หรือเป็นลิมิตในโทโพโลยีแบบยุคลิดของลำดับเทนเซอร์จากในกรณีของเทนเซอร์จริง เซตของเทนเซอร์ที่มีอันดับไม่เกิน คือเซตของเทนเซอร์ก่อตัวเป็นเซตเปิดที่มีการวัดเป็นบวกในโทโพโลยีแบบยุคลิดเท่านั้น อาจมีเซตเปิดแบบยุคลิดของเทนเซอร์ที่มีอันดับสูงกว่าอันดับทั่วไปอย่างเคร่งครัด อันดับทั้งหมดที่ปรากฏบนเซตเปิดในโทโพโลยีแบบยุคลิดเรียกว่าอันดับทั่วไปอันดับทั่วไปที่เล็กที่สุดเรียกว่าอันดับทั่วไป คำจำกัดความนี้ใช้ได้กับทั้งเทนเซอร์เชิงซ้อนและเทนเซอร์จริง อันดับทั่วไปของปริภูมิเทนเซอร์ได้รับการศึกษาครั้งแรกในปี 1983 โดยVolker Strassen [ 9 ]
เพื่อเป็นตัวอย่างประกอบแนวคิดข้างต้น เป็นที่ทราบกันดีว่าทั้ง 2 และ 3 ต่างก็เป็นอันดับทั่วไปของในขณะที่อันดับทั่วไปของคือ 2 ในทางปฏิบัติ หมายความว่าเทนเซอร์จริงที่สุ่มตัวอย่างแบบสุ่ม (จากการวัดความน่าจะเป็นแบบต่อเนื่องบนปริภูมิของเทนเซอร์) ที่มีขนาดเทนเซอร์อันดับ 1 จะมีโอกาสเป็นศูนย์ เทนเซอร์อันดับ 2 จะมีโอกาสเป็นบวก และเทนเซอร์อันดับ 3 จะมีโอกาสเป็นบวก ในทางกลับกัน เทนเซอร์เชิงซ้อนที่สุ่มเลือกมาที่มีขนาดเท่ากัน จะมีโอกาสเป็นศูนย์ เทนเซอร์อันดับ 2 จะมีโอกาสเป็นหนึ่ง และเทนเซอร์อันดับ 3 จะมีโอกาสเป็นศูนย์ เป็นที่ทราบกันดีอยู่แล้วว่าเทนเซอร์จริงอันดับ 3 ทั่วไปในจะมีระดับความซับซ้อนเท่ากับ 2
อันดับทั่วไปของปริภูมิเทนเซอร์ขึ้นอยู่กับความแตกต่างระหว่างปริภูมิเทนเซอร์แบบสมดุลและแบบไม่สมดุล ปริภูมิเทนเซอร์, ที่ไหนเรียกว่าไม่สมดุลเมื่อใดก็ตามที่
และถ้าไม่เป็นเช่นนั้น ก็จะเรียกว่า สมดุล
พื้นที่เทนเซอร์ที่ไม่สมดุล
เมื่อตัวประกอบตัวแรกมีขนาดใหญ่มากเมื่อเทียบกับตัวประกอบอื่นๆ ในผลคูณเทนเซอร์ พื้นที่เทนเซอร์จะทำงานคล้ายกับพื้นที่เมทริกซ์ โดยทั่วไปแล้ว อันดับของเทนเซอร์ที่อยู่ในพื้นที่เทนเซอร์ที่ไม่สมดุลจะมีค่าเท่ากับ
เกือบทุกที่กล่าวให้แม่นยำยิ่งขึ้นคือ อันดับของเทนเซอร์ทุกตัวในปริภูมิเทนเซอร์ที่ไม่สมดุล, ที่ไหนเป็นเซตปิดที่ไม่แน่นอนในโทโพโลยี Zariski ซึ่งเท่ากับค่าข้างต้น[ 10 ]
พื้นที่เทนเซอร์ที่สมดุล
อันดับ ทั่วไป ที่คาดหวังของเทนเซอร์ที่อยู่ในปริภูมิเทนเซอร์สมดุลนั้นเท่ากับ
เกือบทุกที่สำหรับเทนเซอร์เชิงซ้อน และบนเซตแบบยุคลิดเปิดสำหรับเทนเซอร์จริง โดยที่
กล่าวให้แม่นยำยิ่งขึ้น คือ อันดับของเทนเซอร์ทุกตัวใน, ที่ไหนเป็นเซตปิดที่ไม่แน่นอนในโทโพโลยี Zariskiซึ่งคาดว่าจะเท่ากับค่าข้างต้น[ 11 ]สำหรับเทนเซอร์จริงคือลำดับต่ำสุดที่คาดว่าจะเกิดขึ้นในเซตของการวัดแบบยุคลิดที่เป็นบวก ค่านี้มักถูกอ้างถึงว่าเป็นอันดับทั่วไปที่คาดหวังของปริภูมิเทนเซอร์เนื่องจากเป็นเพียงการคาดเดาที่ถูกต้องเท่านั้น เป็นที่ทราบกันว่าลำดับทั่วไปที่แท้จริงนั้นสอดคล้องกับเงื่อนไขนี้เสมอ
ข้อสันนิษฐาน ของAbo–Ottaviani–Peterson [ 11 ]ระบุว่าคาดหวังความเท่าเทียมกัน กล่าวคือโดยมีข้อยกเว้นดังต่อไปนี้:
ในแต่ละกรณีพิเศษเหล่านี้ ลำดับชั้นทั่วไปเป็นที่ทราบกันดีอยู่แล้วโปรดทราบว่าในขณะที่เซตของเทนเซอร์อันดับ 3 ในถึงแม้ว่าค่าที่ได้จะผิดพลาด (13 ไม่ใช่ 14 ตามที่คาดไว้) แต่ลำดับทั่วไปในพื้นที่นั้นก็ยังคงเป็นค่าที่คาดไว้คือ 4 ในทำนองเดียวกัน เซตของเทนเซอร์ที่มีลำดับ 5 ในมีข้อบกพร่อง (44 ไม่ใช่ 45 ตามที่คาดไว้) แต่ลำดับทั่วไปในพื้นที่นั้นยังคงเป็น 6 ตามที่คาดไว้
ข้อสันนิษฐาน AOP ได้รับการพิสูจน์อย่างสมบูรณ์แล้วในกรณีพิเศษหลายกรณี ลิคเทกได้แสดงให้เห็นแล้วตั้งแต่ปี 1985 ว่าโดยมีเงื่อนไขว่า[ 12 ] ในปี 2554 Catalisano, Geramita และ Gimigliano ได้สร้างความ ก้าวหน้าครั้งสำคัญ โดยพิสูจน์ว่ามิติที่คาดหวังของเซตของอันดับเทนเซอร์ของรูปแบบเป็นไปตามที่คาดไว้ ยกเว้นเทนเซอร์อันดับ 3 ในกรณีแฟกเตอร์ 4 แต่ถึงอย่างนั้นอันดับที่คาดไว้ในกรณีนั้นก็ยังคงเป็น 4 อยู่ดี ดังนั้น สำหรับเทนเซอร์ไบนารีทั้งหมด[ 13 ]
อันดับสูงสุด
โดยทั่วไปแล้วยังไม่ทราบ อันดับสูงสุดที่เทนเซอร์ใดๆ ในปริภูมิเทนเซอร์สามารถรับได้ แม้แต่ข้อสันนิษฐานเกี่ยวกับอันดับสูงสุดนี้ก็ยังไม่มี ปัจจุบัน ขอบเขตบนทั่วไปที่ดีที่สุดระบุว่าอันดับสูงสุดของ, ที่ไหนพึงพอใจ
ที่ไหนเป็นลำดับทั่วไป (น้อยที่สุด) ของ[ 14 ] เป็นที่ทราบกันดีว่าความไม่เท่าเทียมกันข้างต้นอาจเป็นแบบเข้มงวด ตัวอย่างเช่น อันดับทั่วไปของเทนเซอร์ในมีค่าเท่ากับสอง ดังนั้นขอบเขตข้างต้นจึงให้ผลลัพธ์ดังนี้ในขณะที่ทราบกันว่าอันดับสูงสุดเท่ากับ 3 [ 8 ]
อันดับชายแดน
อันดับ A-เทนเซอร์เรียกว่าเทนเซอร์ขอบเขตหากมีลำดับของเทนเซอร์ที่มีอันดับไม่เกินซึ่งมีขีดจำกัดคือ. ถ้าถ้าค่าต่ำสุดที่ลำดับลู่เข้าดังกล่าวมีอยู่จริง ค่านั้นจะเรียกว่าอันดับขอบเขตของ ลำดับนั้นสำหรับเทนเซอร์อันดับ 2 กล่าวคือ เมทริกซ์ อันดับและอันดับขอบ จะตรงกัน เสมออย่างไรก็ตาม สำหรับเทนเซอร์อันดับ 3พวกมันอาจแตกต่างกัน เทนเซอร์ขอบเขตได้รับการศึกษาครั้งแรกในบริบทของอัลกอริธึมการคูณเมทริกซ์โดยประมาณ อย่างรวดเร็ว โดย Bini, Lotti และ Romani ในปี 1980 [ 15 ]
ตัวอย่างคลาสสิกของเทนเซอร์ขอบเขตคือเทนเซอร์อันดับ 3
สามารถประมาณค่าได้อย่างแม่นยำด้วยลำดับของเทนเซอร์อันดับ 2 ต่อไปนี้
เช่นดังนั้น อันดับขอบเขตของมันจึงเป็น 2 ซึ่งน้อยกว่าอันดับของมันอย่างชัดเจน เมื่อเวกเตอร์ทั้งสองตั้งฉากกัน ตัวอย่างนี้จึงเรียกว่าสถานะW
คุณสมบัติ
ความสามารถในการระบุตัวตน
จากนิยามของเทนเซอร์บริสุทธิ์ จึงสรุปได้ว่าก็ต่อเมื่อมีอยู่จริงเท่านั้นโดยที่และสำหรับทุกค่าmด้วยเหตุนี้ พารามิเตอร์จึงของเทนเซอร์อันดับ 1เรียกว่าสามารถระบุได้หรือมีเอกลักษณ์เฉพาะตัว อันดับ-เทนเซอร์เรียกว่าสามารถระบุได้ถ้าการแยกส่วนอันดับเทนเซอร์ทุกส่วนเป็นผลรวมของเซตเดียวกันของเทนเซอร์ที่แตกต่างกันที่ซึ่ง's มีลำดับที่ 1 ลำดับที่สามารถระบุได้-ดังนั้นจึงมีการแยกส่วนที่เป็นเอกลักษณ์โดยพื้นฐานเพียงหนึ่งเดียวเท่านั้นและทั้งหมดการแยกส่วนอันดับเทนเซอร์ของสามารถหาได้โดยการสลับลำดับของผลบวก สังเกตว่าในการแยกส่วนอันดับเทนเซอร์ทั้งหมด's นั้นแตกต่างกัน เพราะมิเช่นนั้นลำดับชั้นของอย่างมากก็จะเป็น.
ความสามารถในการระบุตัวตนทั่วไป
เทนเซอร์ลำดับที่ 2 ในกล่าวคือ เมทริกซ์นั้นไม่สามารถระบุได้สำหรับสิ่งนี้เป็นผลมาจากการสังเกตเป็นหลักที่ไหนเป็นวัตถุที่ผกผันได้เมทริกซ์,,และสามารถแสดงได้[ 16 ]ว่าสำหรับทุกๆ, ที่ไหนเป็นเซตปิดในโทโพโลยีซาริสกี การแยกส่วนทางด้านขวามือเป็นผลรวมของชุดเทนเซอร์อันดับ 1 ที่แตกต่างจากการแยกส่วนทางด้านซ้ายมือ ซึ่งหมายความว่าเทนเซอร์อันดับ 2 ที่มีอันดับโดยทั่วไปแล้วไม่สามารถระบุได้
สถานการณ์จะเปลี่ยนไปอย่างสิ้นเชิงสำหรับเทนเซอร์ลำดับสูงกว่าในกับและทั้งหมดเพื่อความง่ายในการเขียนสัญลักษณ์ สมมติโดยไม่เสียความเป็นทั่วไปว่าปัจจัยต่างๆ เรียงลำดับดังนี้. อนุญาตแทนเซตของเทนเซอร์ที่มีอันดับซึ่งถูกจำกัดโดยจากนั้น ข้อความต่อไปนี้ได้รับการพิสูจน์ว่าถูกต้องโดยใช้การพิสูจน์ด้วยคอมพิวเตอร์ช่วยสำหรับปริภูมิทุกมิติ[ 17 ] และคาด การณ์ว่าใช้ได้โดยทั่วไป: [ 17 ] [ 18 ] [ 19 ]
มีเซตปิดอยู่ในโทโพโลยีของซาริสกีซึ่งเทนเซอร์ทุกตัวสามารถระบุได้ ((ในกรณีนี้ เรียกว่าสามารถระบุได้โดยทั่วไป ) เว้นแต่จะมีกรณีพิเศษอย่างใดอย่างหนึ่งต่อไปนี้เกิดขึ้น:
- ลำดับชั้นสูงเกินไป:;
- พื้นที่ดังกล่าวมีความไม่สมดุลในด้านการระบุตัวตน กล่าวคือและลำดับชั้นนั้นใหญ่เกินไป:;
- พื้นที่นั้นเป็นกรณีที่บกพร่องและอันดับคือ;
- พื้นที่นั้นเป็นกรณีที่บกพร่อง, ที่ไหนและอันดับคือ;
- พื้นที่นั้นคือและอันดับคือ;
- พื้นที่นั้นคือและอันดับคือ; หรือ
- พื้นที่นั้นคือและอันดับคือ.
- พื้นที่นี้สมบูรณ์แบบ กล่าวคือเป็นจำนวนเต็ม และอันดับคือ.
ในกรณีพิเศษเหล่านี้ จำนวน การแยกส่วน ที่ซับซ้อน โดยทั่วไป (และขั้นต่ำ) คือ
- พิสูจน์แล้วว่าใน 4 กรณีแรก;
- พิสูจน์แล้วว่าเป็นสองในกรณีที่ 5; [ 20 ]
- คาดว่า[ 21 ]จะเป็นหกในกรณีที่ 6
- พิสูจน์แล้วว่าเป็นสองในกรณีที่ 7; [ 22 ]และ
- คาดว่า[ 21 ]จะมีอย่างน้อยสองกรณีในกรณีที่ 8 ยกเว้นสองกรณีที่ระบุได้และ.
โดยสรุป เทนเซอร์ทั่วไปอันดับและอันดับหากข้อมูลนั้นไม่เสียสมดุลในการระบุตัวตน ก็คาดว่าจะสามารถระบุตัวตนได้ (ยกเว้นกรณีพิเศษในพื้นที่ขนาดเล็ก)
ปัญหาความไม่เสถียรของปัญหาการประมาณค่ามาตรฐาน
The rank approximation problem asks for the rank- decomposition closest (in the usual Euclidean topology) to some rank- tensor , where . That is, one seeks to solve
where is the Frobenius norm.
It was shown in a 2008 paper by de Silva and Lim[8] that the above standard approximation problem may be ill-posed. A solution to aforementioned problem may sometimes not exist because the set over which one optimizes is not closed. As such, a minimizer may not exist, even though an infimum would exist. In particular, it is known that certain so-called border tensors may be approximated arbitrarily well by a sequence of tensor of rank at most , even though the limit of the sequence converges to a tensor of rank strictly higher than . The rank-3 tensor
can be approximated arbitrarily well by the following sequence of rank-2 tensors
as . This example neatly illustrates the general principle that a sequence of rank- tensors that converges to a tensor of strictly higher rank needs to admit at least two individual rank-1 terms whose norms become unbounded. Stated formally, whenever a sequence
has the property that (in the Euclidean topology) as , then there should exist at least such that
as . This phenomenon is often encountered when attempting to approximate a tensor using numerical optimization algorithms. It is sometimes called the problem of diverging components. It was, in addition, shown that a random low-rank tensor over the reals may not admit a rank-2 approximation with positive probability, leading to the understanding that the ill-posedness problem is an important consideration when employing the tensor rank decomposition.
A common partial solution to the ill-posedness problem consists of imposing an additional inequality constraint that bounds the norm of the individual rank-1 terms by some constant. Other constraints that result in a closed set, and, thus, well-posed optimization problem, include imposing positivity or a bounded inner product strictly less than unity between the rank-1 terms appearing in the sought decomposition.
Calculating the CPD
Alternating algorithms:
Direct algorithms:
General optimization algorithms:
- simultaneous diagonalization (SD)
- การแยกส่วน Schur แบบทั่วไปพร้อมกัน (SGSD)
- เลเวนเบิร์ก-มาร์ควาร์ดต์ (LM)
- การไล่ระดับสีคอนจูเกตแบบไม่เชิงเส้น (NCG)
- BFGS หน่วยความจำจำกัด (L-BFGS)
อัลกอริทึมค่าลักษณะเฉพาะ:
เครื่องมือแยกตัวประกอบ:
การแยกตัวประกอบแบบเบย์เซียน/การสุ่มตัวอย่าง/วิธีการมาร์คอฟเชน มอนเตคาร์โล (MCMC):
การเรียนรู้เชิงลึก/โครงข่ายประสาทเทียม (การเรียนรู้แบบอิงตามความชัน):
- LFM [ 34 ]
- เครือข่ายพลังงานการจับคู่ความหมาย (SME) [ 35 ]
- เครือข่ายเทนเซอร์ประสาท[ 36 ]
- เครือข่ายกราฟเทนเซอร์แบบวนซ้ำ[ 37 ]
อัลกอริทึมการแก้ระบบสมการพหุนามทั่วไป:
อย่างไรก็ตาม P Wiriyathammabhum และ B Kijsirikul [ 39 ]พบว่าไม่มีอัลกอริทึมการแก้ปัญหาที่เหมาะสมที่สุด (วิธีการเพิ่มประสิทธิภาพที่มีอยู่ทั้งหมดไม่สามารถให้คำตอบที่เหมาะสมที่สุดได้) เนื่องจากพวกเขาสร้างเทนเซอร์คะแนนและจัดอันดับคำตอบใหม่โดยใช้การเลือกแบบโลภทีละขั้นตอนซึ่งสามารถให้คำตอบที่ดีกว่าอย่างมีนัยสำคัญ อย่างน้อยใน nd-PCA, nd-FLD/LDA และอื่นๆ (ตัวแปร CPD และ Tucker) สมมติฐานคือการกำหนดค่าพารามิเตอร์ n-1 ตัวอื่นๆ ทั้งหมดให้คงที่ในขณะที่เพิ่มประสิทธิภาพพารามิเตอร์ที่ n นั้นมักจะ (พิสูจน์ได้) ไม่เหมาะสม MS Mahanta และ KN Plataniotis [ 40 ]เสนอวิธีการจัดกลุ่มสเปกตรัมอีกวิธีหนึ่งซึ่งให้คำตอบที่ดีกว่า
แอปพลิเคชัน
ในการเรียนรู้ของเครื่อง การแยกส่วน CP เป็นส่วนประกอบหลักในการเรียนรู้แบบจำลองตัวแปรแฝงเชิงความน่าจะเป็นผ่านเทคนิคการจับคู่โมเมนต์ ตัวอย่างเช่น พิจารณาแบบจำลองหลายมุมมอง[ 41 ]ซึ่งเป็นแบบจำลองตัวแปรแฝงเชิงความน่าจะเป็น ในแบบจำลองนี้ การสร้างตัวอย่างถูกกำหนดไว้ดังนี้: มีตัวแปรสุ่มที่ซ่อนอยู่ซึ่งไม่สามารถสังเกตได้โดยตรง ซึ่งเมื่อกำหนดแล้ว จะมี ตัวแปรสุ่มอิสระ แบบมีเงื่อนไข หลายตัว ที่เรียกว่า "มุมมอง" ที่แตกต่างกันของตัวแปรที่ซ่อนอยู่ ตัวอย่างเช่น สมมติว่ามีสามมุมมองของ- ตัวแปรซ่อนเร้นเชิงหมวดหมู่ของรัฐจากนั้นจึงเป็นโมเมนต์ที่สามเชิงประจักษ์ของแบบจำลองตัวแปรแฝงนี้เป็นเทนเซอร์อันดับ 3 และสามารถแยกองค์ประกอบได้ดังนี้: .
ในการประยุกต์ใช้งาน เช่นการสร้างแบบจำลองหัวข้อ (topic modeling ) สามารถตีความได้ว่าเป็นการปรากฏร่วมกันของคำในเอกสาร จากนั้นสัมประสิทธิ์ในการแยกส่วนของเทนเซอร์โมเมนต์เชิงประจักษ์นี้สามารถตีความได้ว่าเป็นความน่าจะเป็นของการเลือกหัวข้อเฉพาะ และแต่ละคอลัมน์ของเมทริกซ์ปัจจัยสอดคล้องกับความน่าจะเป็นของคำในคำศัพท์ที่เกี่ยวข้องกับหัวข้อนั้นๆ
ดูเพิ่มเติม
อ่านเพิ่มเติม
- Kolda, Tamara G. ; Bader, Brett W. (2009). "การแยกส่วนเทนเซอร์และการประยุกต์ใช้" SIAM Rev . 51 (3): 455– 500. Bibcode : 2009SIAMR..51..455K . CiteSeerX 10.1.1.153.2059 . doi : 10.1137/07070111X . S2CID 16074195 .
- แลนด์สเบิร์ก, โจเซฟ เอ็ม. (2012). เทนเซอร์: เรขาคณิตและการประยุกต์ใช้ . AMS.
- ครูเนนเบิร์ก, ปีเตอร์ เอ็ม. (2008) ประยุกต์การวิเคราะห์ข้อมูลหลายทางจอห์น ไวลีย์ แอนด์ ซันส์
ลิงก์ภายนอก
- คู่มือการใช้งาน PARAFAC
- การวิเคราะห์ปัจจัยคู่ขนาน (PARAFAC)
- FactoMineR (ซอฟต์แวร์วิเคราะห์ข้อมูลหลายตัวแปรเชิงสำรวจฟรี ที่เชื่อมโยงกับR )