แบบจำลองนี้พยายามอธิบายชุดของ${\displaystyle p}$การสังเกตในแต่ละ${\displaystyle n}$บุคคลที่มีชุดของ${\displaystyle k}$ปัจจัยร่วม (${\displaystyle f_{i,j}}$) โดยที่จำนวนปัจจัยต่อหน่วยมีน้อยกว่าจำนวนการสังเกตต่อหน่วย (${\displaystyle k<p}$แต่ละบุคคลมี${\displaystyle k}$ของปัจจัยร่วมของตนเอง และปัจจัยเหล่านี้เกี่ยวข้องกับการสังเกตผ่านเมทริกซ์การโหลด ปัจจัย (${\displaystyle L\in \mathbb {R} ^{p\times k}}$) สำหรับการสังเกตเพียงครั้งเดียว ตามที่ระบุไว้

${\displaystyle x_{i,m}-\mu _{i}=l_{i,1}f_{1,m}+\dots +l_{i,k}f_{k,m}+\varepsilon _{i,m}}$

ที่ไหน

• ${\displaystyle x_{i,m}}$คือค่าของ${\displaystyle i}$การสังเกตครั้งที่ th ของ${\displaystyle m}$บุคคลนั้น
• ${\displaystyle \mu _{i}}$คือค่าเฉลี่ยของการสังเกตสำหรับ${\displaystyle i}$การสังเกตครั้งที่ th
• ${\displaystyle l_{i,j}}$คือการโหลดสำหรับ${\displaystyle i}$การสังเกตครั้งที่ th ของ${\displaystyle j}$ปัจจัยที่ th
• ${\displaystyle f_{j,m}}$คือค่าของ${\displaystyle j}$ปัจจัยที่ th ของ${\displaystyle m}$บุคคลนั้น และ
• ${\displaystyle \varepsilon _{i,m}}$คือ${\displaystyle (i,m)}$เทอมความคลาดเคลื่อนสุ่มที่ไม่สามารถสังเกตได้ซึ่งมีค่าเฉลี่ยเป็นศูนย์และค่าความแปรปรวนจำกัด

ในรูปแบบเมทริกซ์

${\displaystyle X-\mathrm {M} =LF+\varepsilon }$

โดยที่เมทริกซ์การสังเกต${\displaystyle X\in \mathbb {R} ^{p\times n}}$เมทริกซ์การโหลด${\displaystyle L\in \mathbb {R} ^{p\times k}}$เมทริกซ์ปัจจัย${\displaystyle F\in \mathbb {R} ^{k\times n}}$เมทริกซ์พจน์ความคลาดเคลื่อน${\displaystyle \varepsilon \in \mathbb {R} ^{p\times n}}$และเมทริกซ์ค่าเฉลี่ย${\displaystyle \mathrm {M} \in \mathbb {R} ^{p\times n}}$โดยที่${\displaystyle (i,m)}$องค์ประกอบนั้นก็คือ...${\displaystyle \mathrm {M} _{i,m}=\mu _{i}}$.

นอกจากนี้ เราจะกำหนดข้อสมมติฐานต่อไปนี้ด้วย${\displaystyle F}$:

1. ${\displaystyle F}$และ${\displaystyle \varepsilon }$เป็นอิสระต่อกัน
2. ${\displaystyle \mathrm {E} (F)=0}$; ที่ไหน${\displaystyle \mathrm {E} }$ คือความคาดหวัง
3. ${\displaystyle \mathrm {Cov} (F)=I}$ที่ไหน${\displaystyle \mathrm {Cov} }$ คือเมทริกซ์ความแปรปรวนร่วมเพื่อให้แน่ใจว่าปัจจัยต่างๆ ไม่มีความสัมพันธ์กัน และ${\displaystyle I}$คือเมทริกซ์เอกลักษณ์

สมมติ${\displaystyle \mathrm {Cov} (X-\mathrm {M} )=\Sigma }$. แล้ว

${\displaystyle \Sigma =\mathrm {Cov} (X-\mathrm {M} )=\mathrm {Cov} (LF+\varepsilon ),\,}$

และด้วยเหตุนี้ จากเงื่อนไขข้อที่ 1 และ 2 ที่กำหนดไว้${\displaystyle F}$ข้างบน,${\displaystyle E[LF]=LE[F]=0}$และ${\displaystyle \mathrm {Cov} (LF+\epsilon )=\mathrm {Cov} (LF)+\mathrm {Cov} (\epsilon )}$การให้

${\displaystyle \Sigma =L\mathrm {Cov} (F)L^{T}+\mathrm {Cov} (\varepsilon ),\,}$

หรือการตั้งค่า${\displaystyle \Psi$ :=\mathrm {Cov} (\varepsilon )} ,

${\displaystyle \Sigma =LL^{T}+\Psi .\,}$

สำหรับเมทริกซ์เชิงตั้งฉาก ใดๆ${\displaystyle Q}$ถ้าเราตั้งค่า${\displaystyle L^{\prime }=\ LQ}$และ${\displaystyle F^{\prime }=Q^{T}F}$เกณฑ์สำหรับการเป็นปัจจัยและค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยยังคงใช้ได้ ดังนั้น ชุดของปัจจัยและค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยจึงมีเอกลักษณ์เฉพาะตัวเท่านั้น ยกเว้นการแปลงเชิงตั้งฉาก

สมมติว่านักจิตวิทยามีสมมติฐานว่ามีสติปัญญา อยู่สองประเภท คือ "สติปัญญาด้านภาษา" และ "สติปัญญาด้านคณิตศาสตร์" ซึ่งทั้งสองประเภทนี้ไม่สามารถสังเกตได้โดยตรง^{[หมายเหตุ 1 ]}หลักฐานสำหรับสมมติฐานนี้ได้มาจากการพิจารณาคะแนนสอบของนักเรียน 1,000 คนจาก 10 สาขาวิชาที่แตกต่างกัน หากนักเรียนแต่ละคนถูกเลือกแบบสุ่มจากประชากร ขนาดใหญ่ คะแนนสอบทั้ง 10 ครั้งของนักเรียนแต่ละคนจะเป็นตัวแปรสุ่ม สมมติฐานของนักจิตวิทยาอาจกล่าวว่า สำหรับแต่ละสาขาวิชาทั้ง 10 สาขา คะแนนเฉลี่ยของกลุ่มนักเรียนทั้งหมดที่มีค่าสติปัญญาด้านภาษาและคณิตศาสตร์ร่วมกันบางค่า จะเป็นค่าคงที่คูณด้วยระดับสติปัญญาด้านภาษาของพวกเขา บวกกับค่าคงที่อีกค่าหนึ่งคูณด้วยระดับสติปัญญาด้านคณิตศาสตร์ของพวกเขา กล่าวคือ เป็นผลรวมเชิงเส้นของ "ปัจจัย" ทั้งสองนี้ ตัวเลขสำหรับวิชาใดวิชาหนึ่ง ซึ่งนำค่าความฉลาดทั้งสองประเภทมาคูณกันเพื่อให้ได้คะแนนที่คาดหวังนั้น ตามสมมติฐานแล้วจะต้องมีค่าเท่ากันสำหรับทุกคู่ระดับความฉลาด และเรียกว่า"ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัย" (factor loading)สำหรับวิชานั้น ตัวอย่างเช่น สมมติฐานอาจกล่าวว่า ความถนัดโดยเฉลี่ยของนักเรียนในสาขาดาราศาสตร์ ที่คาดการณ์ไว้ คือ

{10 × ความฉลาดทางภาษาของนักเรียน} + {6 × ความฉลาดทางคณิตศาสตร์ของนักเรียน}

ตัวเลข 10 และ 6 คือค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัยที่เกี่ยวข้องกับดาราศาสตร์ วิชาการอื่นๆ อาจมีค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัยที่แตกต่างกัน

นักเรียนสองคนซึ่งสันนิษฐานว่ามีระดับสติปัญญาด้านภาษาและคณิตศาสตร์ที่เหมือนกัน อาจมีความถนัดด้านดาราศาสตร์ที่วัดได้แตกต่างกัน เนื่องจากความถนัดของแต่ละบุคคลแตกต่างจากความถนัดเฉลี่ย (ที่คาดการณ์ไว้ข้างต้น) และเนื่องจากข้อผิดพลาดในการวัดเอง ความแตกต่างเหล่านี้รวมกันเรียกว่า "ข้อผิดพลาด" ซึ่งเป็นศัพท์ทางสถิติที่หมายถึงปริมาณที่แต่ละบุคคลวัดได้แตกต่างจากค่าเฉลี่ยหรือค่าที่คาดการณ์ได้จากระดับสติปัญญาของเขาหรือเธอ (ดูข้อผิดพลาดและค่าตกค้างในสถิติ )

ข้อมูลที่สังเกตได้ซึ่งจะนำมาใช้ในการวิเคราะห์ปัจจัยนั้น จะประกอบด้วยคะแนน 10 คะแนนของนักเรียนแต่ละคนจากทั้งหมด 1,000 คน รวมเป็นตัวเลขทั้งหมด 10,000 ตัว ค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัยและระดับของสติปัญญา 2 ประเภทของแต่ละนักเรียนจะต้องอนุมานจากข้อมูลเหล่านั้น

ต่อไปนี้ เมทริกซ์จะถูกระบุด้วยตัวแปรที่มีดัชนี ดัชนี "วิชาเรียน" จะถูกระบุด้วยตัวอักษร${\displaystyle a}$,${\displaystyle b}$และ${\displaystyle c}$โดยมีค่าตั้งแต่${\displaystyle 1}$ถึง${\displaystyle p}$ซึ่งเท่ากับ${\displaystyle 10}$ในตัวอย่างข้างต้น ดัชนี "ปัจจัย" จะถูกระบุด้วยตัวอักษร${\displaystyle p}$,${\displaystyle q}$และ${\displaystyle r}$โดยมีค่าตั้งแต่${\displaystyle 1}$ถึง${\displaystyle k}$ซึ่งเท่ากับ${\displaystyle 2}$ในตัวอย่างข้างต้น ดัชนี "อินสแตนซ์" หรือ "ตัวอย่าง" จะระบุด้วยตัวอักษร${\displaystyle i}$,${\displaystyle j}$และ${\displaystyle k}$โดยมีค่าตั้งแต่${\displaystyle 1}$ถึง${\displaystyle N}$ในตัวอย่างข้างต้น หากตัวอย่างของ${\displaystyle N=1000}$นักเรียนได้เข้าร่วมในกิจกรรม${\displaystyle p=10}$การสอบ${\displaystyle i}$คะแนนของนักเรียนคนที่...${\displaystyle a}$การสอบนี้จัดโดย${\displaystyle x_{ai}}$วัตถุประสงค์ของการวิเคราะห์ปัจจัยคือการระบุลักษณะความสัมพันธ์ระหว่างตัวแปรต่างๆ${\displaystyle x_{a}}$ซึ่งของ${\displaystyle x_{ai}}$คือตัวอย่างเฉพาะ หรือชุดของการสังเกต เพื่อให้ตัวแปรอยู่ในระดับเดียวกัน จึงต้องทำการแปลงให้เป็นคะแนนมาตรฐาน${\displaystyle z}$:

${\displaystyle z_{ai}={\frac {x_{ai}-{\hat {\mu }__{a}}{{\hat {\sigma }__{a}}}}$

โดยที่ค่าเฉลี่ยของกลุ่มตัวอย่างคือ:

${\displaystyle {\hat {\mu }}_{a}={\tfrac {1}{N}}\sum _{i}x_{ai}}$

และค่าความแปรปรวนของตัวอย่างคำนวณได้จากสูตร:

${\displaystyle {\hat {\sigma }}_{a}^{2}={\tfrac {1}{N-1}}\sum _{i}(x_{ai}-{\hat {\mu }}_{a})^{2}}$

ดังนั้นแบบจำลองการวิเคราะห์ปัจจัยสำหรับกลุ่มตัวอย่างนี้จึงเป็นดังนี้:

${\displaystyle {\begin{matrix}z_{1,i}&=&\ell _{1,1}F_{1,i}&+&\ell _{1,2}F_{2,i}&+&\varepsilon _{1,i}\\\vdots &&\vdots &&\vdots &&\vdots \\z_{10,i}&=&\ell _{10,1}F_{1,i}&+&\ell _{10,2}F_{2,i}&+&\varepsilon _{10,i}\end{matrix}}}$

หรือกล่าวโดยย่อ:

${\displaystyle z_{ai}=\sum _{p}\ell _{ap}F_{pi}+\varepsilon _{ai}}$

ที่ไหน

• ${\displaystyle F_{1i}}$คือ${\displaystyle i}$"ความฉลาดทางภาษา" ของนักเรียน
• ${\displaystyle F_{2i}}$คือ${\displaystyle i}$ความฉลาดทางคณิตศาสตร์ของนักเรียน
• ${\displaystyle \ell _{ap}}$ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยสำหรับ${\displaystyle a}$หัวข้อที่ th สำหรับ${\displaystyle p=1,2}$.

ใน สัญลักษณ์ เมทริกซ์ เรามี

${\displaystyle Z=LF+\varepsilon }$

สังเกตว่าเมื่อเพิ่มมาตราส่วนเป็นสองเท่าสำหรับ "ความฉลาดทางภาษา" ซึ่งเป็นองค์ประกอบแรกในแต่ละคอลัมน์ของ${\displaystyle F}$—มีการวัดค่า และในขณะเดียวกัน การลดค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยสำหรับสติปัญญาทางวาจาลงครึ่งหนึ่งก็ไม่มีผลกระทบต่อแบบจำลอง ดังนั้น การสมมติว่าค่าเบี่ยงเบนมาตรฐานของปัจจัยสำหรับสติปัญญาทางวาจาคือ จึงไม่ทำให้สูญเสียความทั่วไปไป${\displaystyle 1}$เช่นเดียวกันกับความฉลาดทางคณิตศาสตร์ นอกจากนี้ ด้วยเหตุผลที่คล้ายคลึงกัน การสมมติว่าปัจจัยทั้งสองไม่มีความสัมพันธ์กันก็ไม่ได้ทำให้เสียความทั่วไปไปแต่อย่างใด กล่าวอีกนัยหนึ่งคือ:

${\displaystyle \sum _{i}F_{pi}F_{qi}=\delta _{pq}}$

ที่ไหน${\displaystyle \delta _{pq}}$คือเดลต้าโครเนกเกอร์ (${\displaystyle 0}$เมื่อไร${\displaystyle p\neq q}$และ${\displaystyle 1}$เมื่อไร${\displaystyle p=q}$ข้อผิดพลาดเหล่านี้ถือว่าไม่ขึ้นอยู่กับปัจจัยต่างๆ:

${\displaystyle \sum _{i}F_{pi}\varepsilon _{ai}=0}$

เนื่องจากการหมุนของคำตอบใดๆ ก็ถือเป็นคำตอบเช่นกัน ทำให้การตีความปัจจัยต่างๆ เป็นเรื่องยาก ดูข้อเสียด้านล่าง ในตัวอย่างนี้ หากเราไม่ทราบล่วงหน้าว่าสติปัญญาทั้งสองประเภทนั้นไม่สัมพันธ์กัน เราก็ไม่สามารถตีความปัจจัยทั้งสองว่าเป็นสติปัญญาที่แตกต่างกันสองประเภทได้ แม้ว่าพวกมันจะไม่สัมพันธ์กัน เราก็ไม่สามารถบอกได้ว่าปัจจัยใดสอดคล้องกับสติปัญญาด้านภาษา และปัจจัยใดสอดคล้องกับสติปัญญาด้านคณิตศาสตร์โดยปราศจากข้อโต้แย้งภายนอก

ค่าของน้ำหนักบรรทุก${\displaystyle L}$ค่าเฉลี่ย${\displaystyle \mu }$และความแปรปรวนของ "ข้อผิดพลาด"${\displaystyle \varepsilon }$ต้องทำการประมาณค่าโดยพิจารณาจากข้อมูลที่สังเกตได้${\displaystyle X}$และ${\displaystyle F}$(สมมติฐานเกี่ยวกับระดับของปัจจัยต่างๆ นั้นคงที่สำหรับค่าที่กำหนด)${\displaystyle F}$). "ทฤษฎีบทพื้นฐาน" สามารถอนุมานได้จากเงื่อนไขข้างต้น:

${\displaystyle \sum _{i}z_{ai}z_{bi}=\sum _{j}\ell _{aj}\ell _{bj}+\sum _{i}\varepsilon _{ai}\varepsilon _{bi}}$

คำทางด้านซ้ายคือ${\displaystyle (a,b)}$-เทอมของเมทริกซ์สหสัมพันธ์ (a)${\displaystyle p\times p}$เมทริกซ์ที่ได้มาจากผลคูณของ${\displaystyle p\times N}$เมทริกซ์ของการสังเกตที่ได้มาตรฐาน (พร้อมทรานสโพส) ของข้อมูลที่สังเกตได้ และเมทริกซ์นั้น${\displaystyle p}$องค์ประกอบแนวทแยงจะเป็น${\displaystyle 1}$s. พจน์ที่สองทางด้านขวาจะเป็นเมทริกซ์แนวทแยงที่มีค่าในพจน์น้อยกว่าหนึ่ง พจน์แรกทางด้านขวาคือ "เมทริกซ์สหสัมพันธ์ลดรูป" ซึ่งจะเท่ากับเมทริกซ์สหสัมพันธ์ ยกเว้นค่าในแนวทแยงซึ่งจะมีค่าน้อยกว่าหนึ่ง ค่าในแนวทแยงของเมทริกซ์สหสัมพันธ์ลดรูปนี้เรียกว่า "ค่าร่วม" (ซึ่งแสดงถึงสัดส่วนของความแปรปรวนในตัวแปรที่สังเกตได้ซึ่งอธิบายได้ด้วยปัจจัยต่างๆ)

${\displaystyle h_{a}^{2}=1-\psi _{a}=\sum _{j}\ell _{aj}\ell _{aj}}$

ข้อมูลตัวอย่าง${\displaystyle z_{ai}}$ผลลัพธ์อาจไม่เป็นไปตามสมการพื้นฐานที่กล่าวมาข้างต้นอย่างแม่นยำ เนื่องจากข้อผิดพลาดในการสุ่มตัวอย่าง ความไม่เหมาะสมของแบบจำลอง ฯลฯ เป้าหมายของการวิเคราะห์แบบจำลองข้างต้นคือการค้นหาปัจจัยต่างๆ${\displaystyle F_{pi}}$และการโหลด${\displaystyle \ell _{ap}}$ซึ่งให้ "ความพอดีที่ดีที่สุด" กับข้อมูล ในการวิเคราะห์ปัจจัย ความพอดีที่ดีที่สุดจะถูกกำหนดเป็นค่าต่ำสุดของข้อผิดพลาดกำลังสองเฉลี่ยในส่วนที่เหลือที่อยู่นอกแนวทแยงของเมทริกซ์สหสัมพันธ์: ^{[ 3 ]}

${\displaystyle \varepsilon ^{2}=\sum _{a\neq b}\left[\sum _{i}z_{ai}z_{bi}-\sum _{j}\ell _{aj}\ell _{bj}\right]^{2}}$

สิ่งนี้เทียบเท่ากับการลดส่วนประกอบนอกแนวทแยงของความแปรปรวนร่วมของข้อผิดพลาด ซึ่งในสมการแบบจำลองจะมีค่าที่คาดหวังเป็นศูนย์ สิ่งนี้จะแตกต่างจากการวิเคราะห์ส่วนประกอบหลักซึ่งพยายามลดข้อผิดพลาดกำลังสองเฉลี่ยของส่วนที่เหลือทั้งหมด^{[ 3 ]}ก่อนการมาถึงของคอมพิวเตอร์ความเร็วสูง ความพยายามอย่างมากถูกทุ่มเทให้กับการค้นหาวิธีแก้ปัญหาโดยประมาณ โดยเฉพาะอย่างยิ่งในการประมาณค่าความสัมพันธ์ร่วมกันโดยวิธีการอื่น ซึ่งจะทำให้ปัญหาง่ายขึ้นอย่างมากโดยการให้เมทริกซ์สหสัมพันธ์ที่ลดลงที่ทราบ จากนั้นจึงใช้เมทริกซ์นี้ในการประมาณปัจจัยและค่าสัมประสิทธิ์ ด้วยการมาถึงของคอมพิวเตอร์ความเร็วสูง ปัญหาการลดค่าสามารถแก้ไขได้แบบวนซ้ำด้วยความเร็วที่เพียงพอ และค่าความสัมพันธ์ร่วมกันจะถูกคำนวณในกระบวนการ แทนที่จะต้องทราบล่วงหน้า อัลกอริทึม MinResเหมาะสมอย่างยิ่งสำหรับปัญหานี้ แต่ก็ไม่ใช่เพียงวิธีการวนซ้ำเดียวในการหาคำตอบ

หากอนุญาตให้ปัจจัยการแก้ปัญหามีความสัมพันธ์กัน (เช่นในการหมุนแบบ 'oblimin' เป็นต้น) แบบจำลองทางคณิตศาสตร์ที่เกี่ยวข้องจะใช้พิกัดเฉียงแทนที่จะใช้พิกัดตั้งฉาก

พารามิเตอร์และตัวแปรของการวิเคราะห์ปัจจัยสามารถตีความได้ในเชิงเรขาคณิต ข้อมูล (${\displaystyle z_{ai}}$ปัจจัย (${\displaystyle F_{pi}}$) และข้อผิดพลาด (${\displaystyle \varepsilon _{ai}}$) สามารถมองได้ว่าเป็นเวกเตอร์ใน${\displaystyle N}$ปริภูมิยุคลิดมิติ (ปริภูมิของตัวอย่าง) แสดงได้ดังนี้${\displaystyle \mathbf {z} _{a}}$,${\displaystyle \mathbf {F} _{p}}$และ${\displaystyle {\boldsymbol {\varepsilon }}_{a}}$ตามลำดับ เนื่องจากข้อมูลได้รับการทำให้เป็นมาตรฐานแล้ว เวกเตอร์ข้อมูลจึงมีความยาวหนึ่งหน่วย (${\displaystyle ||\mathbf {z} _{a}||=1}$เวกเตอร์ปัจจัยกำหนด${\displaystyle k}$ระนาบย่อยเชิงเส้นมิติ - ในปริภูมินี้ ซึ่งเวกเตอร์ข้อมูลถูกฉายลงบนระนาบย่อยนี้ในแนวตั้งฉาก ซึ่งเป็นผลมาจากสมการแบบจำลอง

${\displaystyle \mathbf {z} _{a}=\sum _{p}\ell _{ap}\mathbf {F} _{p}+{\boldsymbol {\varepsilon }}_{a}}$

และความเป็นอิสระของปัจจัยและข้อผิดพลาด:${\displaystyle \mathbf {F} _{p}\cdot {\boldsymbol {\varepsilon }}_{a}=0}$ในตัวอย่างข้างต้น ไฮเปอร์เพลนเป็นเพียงระนาบ 2 มิติที่กำหนดโดยเวกเตอร์ปัจจัยสองตัว การฉายภาพของเวกเตอร์ข้อมูลลงบนไฮเปอร์เพลนนั้นกำหนดโดย

${\displaystyle {\hat {\mathbf {z} }}_{a}=\sum _{p}\ell _{ap}\mathbf {F} _{p}}$

และข้อผิดพลาดคือเวกเตอร์จากจุดที่ฉายไปยังจุดข้อมูลและตั้งฉากกับระนาบไฮเปอร์เพลน เป้าหมายของการวิเคราะห์ปัจจัยคือการหาระนาบไฮเปอร์เพลนที่ "เหมาะสมที่สุด" กับข้อมูลในบางแง่ ดังนั้นจึงไม่สำคัญว่าเวกเตอร์ปัจจัยที่กำหนดระนาบไฮเปอร์เพลนนี้จะถูกเลือกอย่างไร ตราบใดที่เวกเตอร์เหล่านั้นเป็นอิสระและอยู่ในระนาบไฮเปอร์เพลน เราสามารถระบุเวกเตอร์เหล่านั้นว่าเป็นแบบตั้งฉากและแบบปกติได้ (${\displaystyle \mathbf {F} _{p}\cdot \mathbf {F} _{q}=\delta _{pq}}$) โดยไม่สูญเสียความเป็นทั่วไป หลังจากที่พบชุดปัจจัยที่เหมาะสมแล้ว ปัจจัยเหล่านั้นอาจถูกหมุนอย่างอิสระภายในระนาบไฮเปอร์เพลนได้เช่นกัน ดังนั้นการหมุนเวกเตอร์ของปัจจัยใดๆ ก็จะกำหนดระนาบไฮเปอร์เพลนเดียวกัน และยังคงเป็นคำตอบได้เช่นกัน ผลก็คือ ในตัวอย่างข้างต้น ซึ่งระนาบไฮเปอร์เพลนที่เหมาะสมเป็นสองมิติ หากเราไม่ทราบล่วงหน้าว่าสติปัญญาทั้งสองประเภทนั้นไม่มีความสัมพันธ์กัน เราก็ไม่สามารถตีความปัจจัยทั้งสองว่าเป็นสติปัญญาที่แตกต่างกันสองประเภทได้ แม้ว่าปัจจัยเหล่านั้นจะไม่มีความสัมพันธ์กัน เราก็ไม่สามารถบอกได้ว่าปัจจัยใดสอดคล้องกับสติปัญญาด้านภาษา และปัจจัยใดสอดคล้องกับสติปัญญาด้านคณิตศาสตร์ หรือว่าปัจจัยเหล่านั้นเป็นผลรวมเชิงเส้นของทั้งสองอย่าง โดยปราศจากข้อโต้แย้งภายนอก

เวกเตอร์ข้อมูล${\displaystyle \mathbf {z} _{a}}$มีความยาวหนึ่งหน่วย ค่าในเมทริกซ์สหสัมพันธ์สำหรับข้อมูลกำหนดโดย${\displaystyle r_{ab}=\mathbf {z} _{a}\cdot \mathbf {z} _{b}}$เมทริกซ์สหสัมพันธ์สามารถตีความในเชิงเรขาคณิตได้ว่าเป็นค่าโคไซน์ของมุมระหว่างเวกเตอร์ข้อมูลทั้งสอง${\displaystyle \mathbf {z} _{a}}$และ${\displaystyle \mathbf {z} _{b}}$องค์ประกอบแนวทแยงจะชัดเจน${\displaystyle 1}$และองค์ประกอบนอกแนวทแยงจะมีค่าสัมบูรณ์น้อยกว่าหรือเท่ากับหนึ่ง "เมทริกซ์สหสัมพันธ์ลดรูป" ถูกกำหนดดังนี้

${\displaystyle {\hat {r}}_{ab}={\hat {\mathbf {z} }}_{a}\cdot {\hat {\mathbf {z} }}_{b}}$.

เป้าหมายของการวิเคราะห์ปัจจัยคือการเลือกไฮเปอร์เพลนที่เหมาะสมเพื่อให้เมทริกซ์สหสัมพันธ์ที่ลดลงสามารถจำลองเมทริกซ์สหสัมพันธ์ได้ใกล้เคียงที่สุด ยกเว้นองค์ประกอบแนวทแยงของเมทริกซ์สหสัมพันธ์ซึ่งทราบว่ามีค่าเป็นหนึ่ง กล่าวอีกนัยหนึ่ง เป้าหมายคือการจำลองความสัมพันธ์ไขว้ในข้อมูลให้แม่นยำที่สุดเท่าที่จะเป็นไปได้ โดยเฉพาะอย่างยิ่งสำหรับไฮเปอร์เพลนที่เหมาะสม ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยในองค์ประกอบนอกแนวทแยงจะต้องอยู่ในเกณฑ์ที่กำหนด

${\displaystyle \varepsilon ^{2}=\sum _{a\neq b}\left(r_{ab}-{\hat {r}}_{ab}\right)^{2}}$

ค่านี้จะต้องถูกทำให้มีค่าน้อยที่สุด ซึ่งทำได้โดยการทำให้ค่านี้มีค่าน้อยที่สุดเมื่อเทียบกับชุดเวกเตอร์ตัวประกอบเชิงตั้งฉากกัน จะเห็นได้ว่า

${\displaystyle r_{ab}-{\hat {r}}_{ab}={\boldsymbol {\varepsilon }}_{a}\cdot {\boldsymbol {\varepsilon }}_{b}}$

เทอมทางด้านขวาคือค่าความแปรปรวนร่วมของข้อผิดพลาด ในแบบจำลอง ค่าความแปรปรวนร่วมของข้อผิดพลาดระบุว่าเป็นเมทริกซ์แนวทแยง ดังนั้นปัญหาการหาค่าต่ำสุดข้างต้นจะให้ผลลัพธ์ที่ "เหมาะสมที่สุด" กับแบบจำลอง กล่าวคือ จะให้ค่าประมาณตัวอย่างของค่าความแปรปรวนร่วมของข้อผิดพลาดที่มีส่วนประกอบนอกแนวทแยงมีค่าน้อยที่สุดในแง่ของค่าเฉลี่ยกำลังสอง จะเห็นได้ว่าเนื่องจาก${\displaystyle {\hat {z}}_{a}}$เวกเตอร์ข้อมูลเหล่านี้คือภาพฉายเชิงตั้งฉาก ซึ่งความยาวของภาพฉายเหล่านี้จะน้อยกว่าหรือเท่ากับความยาวของเวกเตอร์ข้อมูลที่ฉาย ซึ่งก็คือหนึ่ง กำลังสองของความยาวเหล่านี้ก็คือองค์ประกอบแนวทแยงของเมทริกซ์สหสัมพันธ์ที่ลดรูปแล้ว องค์ประกอบแนวทแยงของเมทริกซ์สหสัมพันธ์ที่ลดรูปแล้วนี้เรียกว่า "ค่าร่วม" (communalities):

${\displaystyle {h_{a}}^{2}=||{\hat {\mathbf {z} }}_{a}||^{2}=\sum _{p}{\ell _{ap}}^{2}}$

ค่าสัมประสิทธิ์ความร่วมมือ (communalities) ที่สูงจะบ่งชี้ว่าระนาบการปรับให้เหมาะสม (fitting hyperplane) นั้นจำลองเมทริกซ์ความสัมพันธ์ได้อย่างแม่นยำ นอกจากนี้ ค่าเฉลี่ยของปัจจัยต่างๆ จะต้องเป็นศูนย์ ซึ่งหมายความว่าค่าเฉลี่ยของค่าความคลาดเคลื่อนก็จะเป็นศูนย์เช่นกัน

การวิเคราะห์องค์ประกอบหลัก (PCA) เป็นวิธีการที่ใช้กันอย่างแพร่หลายสำหรับการสกัดปัจจัย ซึ่งเป็นขั้นตอนแรกของ EFA ^{[ 4 ]}น้ำหนักปัจจัยจะถูกคำนวณเพื่อสกัดความแปรปรวนสูงสุดที่เป็นไปได้ โดยการแยกปัจจัยจะดำเนินต่อไปจนกว่าจะไม่มีความแปรปรวนที่มีความหมายเหลืออยู่^{[ 4 ]}จากนั้นแบบจำลองปัจจัยจะต้องถูกหมุนเพื่อการวิเคราะห์^{[ 4 ]}

การวิเคราะห์ปัจจัยเชิงแคนอนิก หรือที่เรียกว่าการวิเคราะห์ปัจจัยเชิงแคนอนิกของราโอ เป็นวิธีการคำนวณแบบจำลองที่แตกต่างจาก PCA ซึ่งใช้วิธีแกนหลัก การวิเคราะห์ปัจจัยเชิงแคนอนิกจะค้นหาปัจจัยที่มีความสัมพันธ์เชิงแคนอนิกสูงสุดกับตัวแปรที่สังเกตได้ การวิเคราะห์ปัจจัยเชิงแคนอนิกจะไม่ได้รับผลกระทบจากการปรับขนาดข้อมูลโดยพลการ

การวิเคราะห์ปัจจัยร่วม หรือที่เรียกว่าการวิเคราะห์ปัจจัยหลัก (PFA) หรือการวิเคราะห์ปัจจัยแกนหลัก (PAF) คือการค้นหาปัจจัยน้อยที่สุดที่สามารถอธิบายความแปรปรวนร่วม (ความสัมพันธ์) ของชุดตัวแปรได้

การวิเคราะห์ภาพนั้นอาศัยเมทริกซ์ความสัมพันธ์ของตัวแปรที่คาดการณ์ไว้ แทนที่จะเป็นตัวแปรจริง โดยที่แต่ละตัวแปรจะถูกคาดการณ์จากตัวแปรอื่นๆ โดยใช้การถดถอยพหุคูณ

การหาค่าตัวประกอบอัลฟา (Alpha factoring) อาศัยหลักการเพิ่มความน่าเชื่อถือของค่าตัวประกอบให้สูงสุด โดยสมมติว่าตัวแปรต่างๆ ถูกสุ่มเลือกมาจากกลุ่มตัวแปรทั้งหมด วิธีการอื่นๆ ทั้งหมดนั้นสมมติว่ากรณีต่างๆ ถูกสุ่มเลือกมา และตัวแปรต่างๆ คงที่

แบบจำลองการถดถอยปัจจัยเป็นแบบจำลองเชิงผสมของแบบจำลองปัจจัยและแบบจำลองการถดถอย หรืออีกทางหนึ่ง สามารถมองได้ว่าเป็นแบบจำลองปัจจัยแบบผสม^{[ 5 ]}ซึ่งปัจจัยต่างๆ เป็นที่ทราบเพียงบางส่วน

ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัย

ค่า Communality คือค่ากำลังสองของค่าสัมประสิทธิ์การถ่วงน้ำหนักภายนอกที่ได้มาตรฐานของตัวแปรนั้นๆ คล้ายกับ ค่า r -squared ของ Pearson ค่ากำลังสองของค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัยคือเปอร์เซ็นต์ของความแปรปรวนในตัวแปรบ่งชี้ที่อธิบายได้ด้วยปัจจัยนั้น ในการหาเปอร์เซ็นต์ของความแปรปรวนในตัวแปรทั้งหมดที่อธิบายได้ด้วยแต่ละปัจจัย ให้บวกผลรวมของค่ากำลังสองของค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัยสำหรับปัจจัยนั้น (คอลัมน์) แล้วหารด้วยจำนวนตัวแปร (จำนวนตัวแปรเท่ากับผลรวมของความแปรปรวนของตัวแปรเหล่านั้น เนื่องจากความแปรปรวนของตัวแปรที่ได้มาตรฐานคือ 1) ซึ่งก็เหมือนกับการหารค่าeigenvalue ของปัจจัย ด้วยจำนวนตัวแปรนั่นเอง

ในการตีความผลลัพธ์จากการวิเคราะห์ปัจจัยเชิงยืนยัน ตามหลักการคร่าวๆ ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยควรอยู่ที่ 0.7 หรือสูงกว่า เพื่อยืนยันว่าตัวแปรอิสระที่ระบุไว้ล่วงหน้าได้รับการแสดงโดยปัจจัยนั้นๆ โดยมีเหตุผลว่าระดับ 0.7 สอดคล้องกับความแปรปรวนประมาณครึ่งหนึ่งของตัวบ่งชี้ที่ถูกอธิบายโดยปัจจัยนั้น อย่างไรก็ตาม มาตรฐาน 0.7 เป็นมาตรฐานที่สูง และข้อมูลในชีวิตจริงอาจไม่ตรงตามเกณฑ์นี้ ซึ่งเป็นเหตุผลว่าทำไมผู้วิจัยบางคน โดยเฉพาะอย่างยิ่งเพื่อวัตถุประสงค์ในการสำรวจ จะใช้ระดับที่ต่ำกว่า เช่น 0.4 สำหรับปัจจัยหลัก และ 0.25 สำหรับปัจจัยอื่นๆ ไม่ว่าในกรณีใด ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยจะต้องได้รับการตีความโดยพิจารณาจากทฤษฎี ไม่ใช่จากระดับการตัดที่กำหนดขึ้นเองโดยพลการ

ใน การหมุน แบบเฉียงนักวิจัยสามารถตรวจสอบได้ทั้งเมทริกซ์รูปแบบและเมทริกซ์โครงสร้าง เมทริกซ์โครงสร้างเป็นเพียงเมทริกซ์การโหลดปัจจัยเช่นเดียวกับการหมุนแบบตั้งฉาก ซึ่งแสดงถึงความแปรปรวนในตัวแปรที่วัดได้ซึ่งอธิบายโดยปัจจัยทั้งในส่วนของการมีส่วนร่วมที่ไม่ซ้ำกันและการมีส่วนร่วมร่วมกัน ในทางตรงกันข้าม เมทริกซ์รูปแบบประกอบด้วยสัมประสิทธิ์ซึ่งแสดงถึงการมีส่วนร่วมที่ไม่ซ้ำกันเท่านั้น ยิ่งมีปัจจัยมากเท่าใด สัมประสิทธิ์รูปแบบก็จะยิ่งต่ำลงตามหลักการ เนื่องจากจะมีส่วนร่วมร่วมกันมากขึ้นในการอธิบายความแปรปรวน สำหรับการหมุนแบบเฉียง นักวิจัยจะพิจารณาทั้งสัมประสิทธิ์โครงสร้างและสัมประสิทธิ์รูปแบบเมื่อกำหนดป้ายกำกับให้กับปัจจัย หลักการของการหมุนแบบเฉียงสามารถได้มาจากทั้งเอนโทรปีไขว้และเอนโทรปีคู่^{[ 6 ]}

ความเป็นชุมชน

ผลรวมของกำลังสองของค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยทั้งหมดสำหรับตัวแปรที่กำหนด (แถว) คือความแปรปรวนของตัวแปรนั้นที่อธิบายได้โดยปัจจัยทั้งหมด ค่าสัมประสิทธิ์ความร่วมมือ (Communality) วัดเปอร์เซ็นต์ของความแปรปรวนในตัวแปรที่กำหนดซึ่งอธิบายได้โดยปัจจัยทั้งหมดร่วมกัน และอาจตีความได้ว่าเป็นความน่าเชื่อถือของตัวบ่งชี้ในบริบทของปัจจัยที่กำลังกล่าวถึง

วิธีแก้ปัญหาที่ไม่ถูกต้อง

หากค่าความสัมพันธ์ร่วม (communality) เกิน 1.0 แสดงว่ามีคำตอบที่ไม่ถูกต้อง ซึ่งอาจเกิดจากขนาดตัวอย่างที่เล็กเกินไป หรือการเลือกสกัดปัจจัยมากเกินไปหรือน้อยเกินไป

ความเป็นเอกลักษณ์ของตัวแปร

ค่าความแปรปรวนของตัวแปร ลบด้วยค่าร่วมของตัวแปรนั้น

ค่าลักษณะเฉพาะ/รากคุณลักษณะ

ค่าไอเกน (Eigenvalues) เป็นตัววัดปริมาณความแปรปรวนในตัวอย่างทั้งหมดที่แต่ละปัจจัยสามารถอธิบายได้ อัตราส่วนของค่าไอเกนคืออัตราส่วนของความสำคัญในการอธิบายของปัจจัยเมื่อเทียบกับตัวแปร หากปัจจัยใดมีค่าไอเกนต่ำ แสดงว่าปัจจัยนั้นมีส่วนช่วยในการอธิบายความแปรปรวนของตัวแปรน้อย และอาจถูกละเลยได้เนื่องจากมีความสำคัญน้อยกว่าปัจจัยที่มีค่าไอเกนสูงกว่า

ผลรวมการสกัดของค่ากำลังสอง

ค่าไอเกนเริ่มต้นและค่าไอเกนหลังการสกัด (แสดงใน SPSS ว่า "ผลรวมกำลังสองของค่าสัมประสิทธิ์การสกัด") จะเหมือนกันสำหรับการสกัดแบบ PCA แต่สำหรับวิธีการสกัดอื่นๆ ค่าไอเกนหลังการสกัดจะต่ำกว่าค่าเริ่มต้น SPSS ยังแสดง "ผลรวมกำลังสองของค่าสัมประสิทธิ์การหมุน" และแม้แต่สำหรับ PCA ค่าไอเกนเหล่านี้ก็จะแตกต่างจากค่าไอเกนเริ่มต้นและค่าไอเกนหลังการสกัด แม้ว่าผลรวมทั้งหมดจะเท่ากันก็ตาม

คะแนนปัจจัย

คะแนนองค์ประกอบ (ใน PCA)

คะแนนของแต่ละกรณี (แถว) ในแต่ละปัจจัย (คอลัมน์) ในการคำนวณคะแนนปัจจัยสำหรับกรณีที่กำหนดสำหรับปัจจัยที่กำหนด จะทำได้โดยการนำคะแนนมาตรฐานของกรณีนั้นในแต่ละตัวแปร มาคูณด้วยค่าสัมประสิทธิ์การถ่วงน้ำหนักที่สอดคล้องกันของตัวแปรสำหรับปัจจัยที่กำหนด แล้วนำผลคูณเหล่านั้นมาบวกกัน การคำนวณคะแนนปัจจัยช่วยให้สามารถค้นหาค่าผิดปกติของปัจจัยได้ นอกจากนี้ คะแนนปัจจัยยังสามารถใช้เป็นตัวแปรในการสร้างแบบจำลองในขั้นตอนต่อไปได้

นักวิจัยต้องการหลีกเลี่ยงเกณฑ์การคงไว้ซึ่งปัจจัยที่เป็นอัตวิสัยหรือตามอำเภอใจ เช่น "มันสมเหตุสมผลสำหรับฉัน" วิธีการที่เป็นกลางหลายวิธีได้รับการพัฒนาขึ้นเพื่อแก้ปัญหานี้ ทำให้ผู้ใช้สามารถกำหนดช่วงของโซลูชันที่เหมาะสมในการตรวจสอบได้^{[ 7 ]}อย่างไรก็ตาม วิธีการที่แตกต่างกันเหล่านี้มักไม่สอดคล้องกันในเรื่องจำนวนปัจจัยที่ควรคงไว้ ตัวอย่างเช่นการวิเคราะห์แบบขนานอาจแนะนำ 5 ปัจจัย ในขณะที่ MAP ของ Velicer แนะนำ 6 ปัจจัย ดังนั้นนักวิจัยอาจขอโซลูชันทั้งแบบ 5 และ 6 ปัจจัย และอภิปรายแต่ละแบบในแง่ของความสัมพันธ์กับข้อมูลภายนอกและทฤษฎี

ผลลัพธ์ของ PCA จะเน้นการอธิบายความแปรปรวนของปัจจัยแรกให้มากที่สุดก่อน จากนั้นจึงเป็นปัจจัยที่สอง และต่อไปเรื่อยๆ ข้อเสียของวิธีการนี้คือ คำถามส่วนใหญ่จะมีค่าการถ่วงน้ำหนัก (loading) สูงในปัจจัยแรกๆ ในขณะที่มีคำถามเพียงไม่กี่ข้อเท่านั้นที่มีค่าการถ่วงน้ำหนักสูงในตัวแปรหลังๆ ทำให้การตีความปัจจัยโดยการอ่านรายการคำถามและค่าการถ่วงน้ำหนักทำได้ยาก เนื่องจากคำถามทุกข้อมีความสัมพันธ์อย่างมากกับองค์ประกอบแรกๆ ในขณะที่มีคำถามเพียงไม่กี่ข้อเท่านั้นที่มีความสัมพันธ์อย่างมากกับองค์ประกอบสุดท้ายๆ

การหมุนช่วยให้ผลลัพธ์ตีความได้ง่ายขึ้น โดยการเลือกฐานที่แตกต่างกันสำหรับส่วนประกอบหลักเดียวกันกล่าวคือ การเลือกปัจจัยที่แตกต่างกันเพื่อแสดงโครงสร้างความสัมพันธ์เดียวกันจะทำให้สามารถสร้างตัวแปรที่ตีความได้ง่ายขึ้น  

การหมุนอาจเป็นแบบตั้งฉากหรือแบบเฉียง การหมุนแบบเฉียงช่วยให้ปัจจัยต่างๆ มีความสัมพันธ์กัน^{[ 24 ]}ความยืดหยุ่นที่เพิ่มขึ้นนี้หมายความว่าสามารถหมุนได้มากขึ้น ซึ่งบางการหมุนอาจทำได้ดีกว่าในการบรรลุเป้าหมายที่กำหนดไว้ อย่างไรก็ตาม สิ่งนี้อาจทำให้การตีความปัจจัยต่างๆ ยากขึ้น เนื่องจากข้อมูลบางส่วนถูก "นับซ้ำ" และรวมอยู่ในส่วนประกอบต่างๆ หลายครั้ง ปัจจัยบางอย่างอาจดูเหมือนเป็นของซ้ำกันด้วยซ้ำ

การวิเคราะห์ปัจจัยลำดับสูงเป็นวิธีการทางสถิติที่ประกอบด้วยขั้นตอนซ้ำๆ ได้แก่ การวิเคราะห์ปัจจัย – การหมุนแบบเฉียง – การวิเคราะห์ปัจจัยของปัจจัยที่หมุนแล้ว ข้อดีของวิธีนี้คือช่วยให้นักวิจัยเห็นโครงสร้างลำดับชั้นของปรากฏการณ์ที่ศึกษา การตีความผลลัพธ์นั้น สามารถทำได้โดยการคูณเมทริกซ์รูปแบบปัจจัยหลักด้วยเมทริกซ์รูปแบบปัจจัยลำดับสูง (Gorsuch, 1983) และอาจใช้การหมุนแบบ Varimaxกับผลลัพธ์ (Thompson, 1990) หรือโดยการใช้โซลูชัน Schmid-Leiman (SLS, Schmid & Leiman, 1957 หรือที่รู้จักกันในชื่อการแปลง Schmid-Leiman) ซึ่งกำหนดความแปรปรวนจากปัจจัยหลักไปยังปัจจัยลำดับที่สอง

Fabrigar et al. (1999) ^{[ 34 ]}กล่าวถึงเหตุผลหลายประการที่ใช้ในการแนะนำว่า PCA ไม่เทียบเท่ากับการวิเคราะห์ปัจจัย:

1. It is sometimes suggested that PCA is computationally quicker and requires fewer resources than factor analysis. Fabrigar et al. suggest that readily available computer resources have rendered this practical concern irrelevant.
2. PCA and factor analysis can produce similar results. This point is also addressed by Fabrigar et al.; in certain cases, whereby the communalities are low (e.g. 0.4), the two techniques produce divergent results. In fact, Fabrigar et al. argue that in cases where the data correspond to assumptions of the common factor model, the results of PCA are inaccurate results.
3. There are certain cases where factor analysis leads to 'Heywood cases'. These encompass situations whereby 100% or more of the variance in a measured variable is estimated to be accounted for by the model. Fabrigar et al. suggest that these cases are actually informative to the researcher, indicating an incorrectly specified model or a violation of the common factor model. The lack of Heywood cases in the PCA approach may mean that such issues pass unnoticed.
4. Researchers gain extra information from a PCA approach, such as an individual's score on a certain component; such information is not yielded from factor analysis. However, as Fabrigar et al. contend, the typical aim of factor analysis – i.e. to determine the factors accounting for the structure of the correlations between measured variables – does not require knowledge of factor scores and thus this advantage is negated. It is also possible to compute factor scores from a factor analysis.

Factor analysis takes into account the random error that is inherent in measurement, whereas PCA fails to do so. This point is exemplified by Brown (2009),^[38] who indicated that, in respect to the correlation matrices involved in the calculations:

"In PCA, 1.00s are put in the diagonal meaning that all of the variance in the matrix is to be accounted for (including variance unique to each variable, variance common among variables, and error variance). That would, therefore, by definition, include all of the variance in the variables. In contrast, in EFA, the communalities are put in the diagonal meaning that only the variance shared with other variables is to be accounted for (excluding variance unique to each variable and error variance). That would, therefore, by definition, include only variance that is common among the variables."

For this reason, Brown (2009) recommends using factor analysis when theoretical ideas about relationships between variables exist, whereas PCA should be used if the goal of the researcher is to explore patterns in their data.

ความแตกต่างระหว่าง PCA และการวิเคราะห์ปัจจัย (FA) ได้รับการอธิบายเพิ่มเติมโดย Suhr (2009): ^{[ 35 ]}

• PCA ให้ผลลัพธ์เป็นส่วนประกอบหลักที่สามารถอธิบายความแปรปรวนสูงสุดของตัวแปรที่สังเกตได้ ในขณะที่ FA อธิบายถึง ความแปรปรวน ร่วมกันในข้อมูล
• PCA จะแทรกเลข 1 ลงในแนวทแยงของเมทริกซ์สหสัมพันธ์ ในขณะที่ FA จะปรับแนวทแยงของเมทริกซ์สหสัมพันธ์ด้วยปัจจัยเฉพาะ
• PCA มีเป้าหมายเพื่อลดผลรวมของกำลังสองของระยะทางตั้งฉากกับแกนองค์ประกอบให้เหลือน้อยที่สุด ในขณะที่ FA มีเป้าหมายเพื่อประมาณปัจจัยที่มีอิทธิพลต่อการตอบสนองต่อตัวแปรที่สังเกตได้
• คะแนนองค์ประกอบใน PCA แสดงถึงการรวมกันเชิงเส้นของตัวแปรที่สังเกตได้ โดยถ่วงน้ำหนักด้วยเวกเตอร์ลักษณะเฉพาะในขณะที่ตัวแปรที่สังเกตได้ใน FA เป็นการรวมกันเชิงเส้นของปัจจัยพื้นฐานและปัจจัยเฉพาะ
• ใน PCA ส่วนประกอบที่ได้นั้นไม่สามารถตีความได้ กล่าวคือ ไม่ได้แสดงถึง 'โครงสร้าง' ที่แท้จริง ในขณะที่ใน FA โครงสร้างพื้นฐานสามารถระบุชื่อและตีความได้ง่าย หากมีการกำหนดแบบจำลองที่ถูกต้อง

Charles Spearmanเป็นนักจิตวิทยาคนแรกที่กล่าวถึงการวิเคราะห์ปัจจัยร่วม^{[ 39 ]}และได้ทำเช่นนั้นในบทความปี 1904 ของเขา^{[ 40 ]}ซึ่งให้รายละเอียดเกี่ยวกับวิธีการของเขาน้อยมากและเกี่ยวข้องกับแบบจำลองปัจจัยเดียว^{[ 41 ]}เขาค้นพบว่าคะแนนของเด็กนักเรียนในวิชาต่างๆ ที่ดูเหมือนไม่เกี่ยวข้องกันนั้นมีความสัมพันธ์เชิงบวก ซึ่งทำให้เขาสันนิษฐานว่าความสามารถทางจิตทั่วไปเพียงอย่างเดียว หรือgนั้นเป็นพื้นฐานและกำหนดรูปแบบการทำงานทางปัญญาของมนุษย์

การพัฒนาเบื้องต้นของการวิเคราะห์ปัจจัยร่วมที่มีหลายปัจจัยนั้นได้รับการนำเสนอโดยLouis Thurstoneในเอกสารสองฉบับในช่วงต้นทศวรรษ 1930 ^{[ 42 ] [ 43 ]}ซึ่งสรุปไว้ในหนังสือของเขาในปี 1935 เรื่องThe Vector of Mind [ ^{44 ] Thurstone}ได้แนะนำแนวคิดการวิเคราะห์ปัจจัยที่สำคัญหลายประการ รวมถึงความเป็นอันหนึ่งอันเดียวกัน ความเป็นเอกลักษณ์ และการหมุน^{[ 45 ]}เขาสนับสนุน "โครงสร้างที่เรียบง่าย" และพัฒนาวิธีการหมุนที่สามารถใช้เป็นวิธีในการบรรลุโครงสร้างดังกล่าวได้^{[ 39 ]}

ในระเบียบวิธี Qวิลเลียม สตีเฟนสันนักศึกษาของสเปียร์แมน แยกแยะระหว่าง การวิเคราะห์ปัจจัย Rซึ่งมุ่งเน้นไปที่การศึกษาความแตกต่างระหว่างบุคคล และ การวิเคราะห์ปัจจัย Qซึ่งมุ่งเน้นไปที่ความแตกต่างภายในบุคคลเชิงอัตวิสัย^{[ 46 ] [ 47 ]}

เรย์มอนด์ แคทเทลล์เป็นผู้สนับสนุนอย่างแข็งขันของการวิเคราะห์ปัจจัยและจิตวิทยาการวัดและใช้ทฤษฎีหลายปัจจัยของเธอร์สโตนเพื่ออธิบายสติปัญญา แคทเทลล์ยังได้พัฒนาแบบทดสอบสกรีและสัมประสิทธิ์ความคล้ายคลึงกัน อีกด้วย

การวิเคราะห์ปัจจัยใช้เพื่อระบุ "ปัจจัย" ที่อธิบายผลลัพธ์ที่หลากหลายในแบบทดสอบต่างๆ ตัวอย่างเช่น งานวิจัยด้านสติปัญญาพบว่า คนที่ได้คะแนนสูงในแบบทดสอบความสามารถทางภาษา มักจะทำได้ดีในแบบทดสอบอื่นๆ ที่ต้องใช้ความสามารถทางภาษาเช่นกัน นักวิจัยอธิบายเรื่องนี้โดยใช้การวิเคราะห์ปัจจัยเพื่อแยกปัจจัยหนึ่งออกมา ซึ่งมักเรียกว่า สติปัญญาทางภาษา ซึ่งแสดงถึงระดับที่บุคคลสามารถแก้ปัญหาที่เกี่ยวข้องกับทักษะทางภาษาได้

การวิเคราะห์ปัจจัยในทางจิตวิทยา มักเกี่ยวข้องกับการวิจัยด้านสติปัญญาเป็นส่วนใหญ่ อย่างไรก็ตาม ยังมีการนำไปใช้ค้นหาปัจจัยในหลากหลายสาขา เช่น บุคลิกภาพ ทัศนคติ ความเชื่อ เป็นต้น การวิเคราะห์ปัจจัยมีความเชื่อมโยงกับจิตวิทยาการวัด (psychometrics ) เนื่องจากสามารถประเมินความถูกต้องของเครื่องมือวัดได้ โดยตรวจสอบว่าเครื่องมือวัดนั้นวัดปัจจัยที่ตั้งสมมติฐานไว้จริงหรือไม่

• การลดจำนวนตัวแปร โดยการรวมตัวแปรสองตัวขึ้นไปเข้าเป็นปัจจัยเดียว ตัวอย่างเช่น ความสามารถในการวิ่ง การขว้างลูกบอล การตีลูก การกระโดด และการยกน้ำหนัก สามารถรวมเข้าเป็นปัจจัยเดียว เช่น ความสามารถทางกีฬาโดยทั่วไป โดยปกติแล้ว ในเมทริกซ์แบบรายการต่อบุคคล ปัจจัยจะถูกเลือกโดยการจัดกลุ่มรายการที่เกี่ยวข้อง ในเทคนิคการวิเคราะห์ปัจจัย Q เมทริกซ์จะถูกสลับตำแหน่ง และสร้างปัจจัยโดยการจัดกลุ่มบุคคลที่เกี่ยวข้อง ตัวอย่างเช่น กลุ่มเสรีนิยม กลุ่มเสรีนิยมสุดโต่ง กลุ่มอนุรักษ์นิยม และกลุ่มสังคมนิยม อาจรวมกันเป็นกลุ่มแยกต่างหาก
• การระบุกลุ่มของตัวแปรที่เกี่ยวข้องกัน เพื่อดูว่าตัวแปรเหล่านั้นมีความสัมพันธ์กันอย่างไร ตัวอย่างเช่น แครอลใช้การวิเคราะห์ปัจจัยเพื่อสร้างทฤษฎีสามระดับ ของเขา เขาพบว่าปัจจัยที่เรียกว่า "การรับรู้ทางสายตาในวงกว้าง" เกี่ยวข้องกับความสามารถของแต่ละบุคคลในการทำงานด้านการมองเห็น เขายังพบปัจจัย "การรับรู้ทางการได้ยินในวงกว้าง" ซึ่งเกี่ยวข้องกับความสามารถในการทำงานด้านการได้ยิน นอกจากนี้ เขายังพบปัจจัยโดยรวมที่เรียกว่า "g" หรือสติปัญญาทั่วไป ซึ่งเกี่ยวข้องกับทั้ง "การรับรู้ทางสายตาในวงกว้าง" และ "การรับรู้ทางการได้ยินในวงกว้าง" นั่นหมายความว่าบุคคลที่มีค่า "g" สูง มีแนวโน้มที่จะมีความสามารถทั้งด้าน "การรับรู้ทางสายตา" และ "การรับรู้ทางการได้ยิน" สูง และ "g" จึงอธิบายได้ดีว่าทำไมบุคคลนั้นจึงเก่งหรือไม่เก่งในทั้งสองด้านนี้

• "...การวางแนวแต่ละแบบนั้นยอมรับได้ทางคณิตศาสตร์เท่าเทียมกัน แต่ทฤษฎีแฟกทอเรียลที่แตกต่างกันนั้นพิสูจน์แล้วว่าแตกต่างกันมากในแง่ของการวางแนวของแกนแฟกทอเรียลสำหรับโซลูชันที่กำหนด เช่นเดียวกับในแง่ของสิ่งอื่นใด ดังนั้นการปรับแบบจำลองจึงไม่เป็นประโยชน์ในการแยกแยะระหว่างทฤษฎีต่างๆ" (Sternberg, 1977 ^{[ 48 ]} ) ซึ่งหมายความว่าการหมุนทั้งหมดแสดงถึงกระบวนการพื้นฐานที่แตกต่างกัน แต่การหมุนทั้งหมดเป็นผลลัพธ์ที่ถูกต้องเท่าเทียมกันของการเพิ่มประสิทธิภาพการวิเคราะห์ปัจจัยมาตรฐาน ดังนั้นจึงเป็นไปไม่ได้ที่จะเลือกการหมุนที่เหมาะสมโดยใช้การวิเคราะห์ปัจจัยเพียงอย่างเดียว
• การวิเคราะห์ปัจจัยจะดีได้ก็ต่อเมื่อข้อมูลเอื้ออำนวยเท่านั้น ในสาขาจิตวิทยา ซึ่งนักวิจัยมักต้องพึ่งพามาตรวัดที่มีความถูกต้องและน่าเชื่อถือน้อยกว่า เช่น การรายงานตนเอง นี่อาจเป็นปัญหาได้
• การตีความการวิเคราะห์ปัจจัยขึ้นอยู่กับการใช้ "ฮิวริสติก" ซึ่งเป็นวิธีแก้ปัญหาที่ "สะดวกแม้ว่าจะไม่ถูกต้องอย่างแน่นอน" ^{[ 49 ]}อาจมีการตีความมากกว่าหนึ่งแบบสำหรับข้อมูลเดียวกันที่วิเคราะห์ปัจจัยในลักษณะเดียวกัน และการวิเคราะห์ปัจจัยไม่สามารถระบุสาเหตุได้

ขั้นตอนการเก็บรวบรวมข้อมูลมักดำเนินการโดยผู้เชี่ยวชาญด้านการวิจัยการตลาด แบบสอบถามจะขอให้ผู้ตอบให้คะแนนตัวอย่างผลิตภัณฑ์หรือคำอธิบายแนวคิดของผลิตภัณฑ์ในด้านคุณลักษณะต่างๆ โดยอาจเลือกคุณลักษณะตั้งแต่ห้าถึงยี่สิบข้อ ซึ่งอาจรวมถึงสิ่งต่างๆ เช่น ความง่ายในการใช้งาน น้ำหนัก ความแม่นยำ ความทนทาน สีสัน ราคา หรือขนาด คุณลักษณะที่เลือกจะแตกต่างกันไปขึ้นอยู่กับผลิตภัณฑ์ที่ศึกษา คำถามเดียวกันนี้จะถูกถามกับผลิตภัณฑ์ทั้งหมดในการศึกษา ข้อมูลสำหรับผลิตภัณฑ์หลายรายการจะถูกเข้ารหัสและป้อนเข้าสู่โปรแกรมทางสถิติ เช่นR , SPSS , SAS , Stata , STATISTICA , JMP และ SYSTAT

การวิเคราะห์จะแยกปัจจัยพื้นฐานที่อธิบายข้อมูลโดยใช้เมทริกซ์ของความสัมพันธ์^{[ 52 ]}การวิเคราะห์ปัจจัยเป็นเทคนิคการพึ่งพาซึ่งกันและกัน ชุดความสัมพันธ์ที่พึ่งพาซึ่งกันและกันทั้งหมดจะถูกตรวจสอบ ไม่มีการระบุตัวแปรตาม ตัวแปรอิสระ หรือความเป็นเหตุเป็นผล การวิเคราะห์ปัจจัยสมมติว่าข้อมูลการให้คะแนนทั้งหมดเกี่ยวกับคุณลักษณะต่างๆ สามารถลดลงเหลือเพียงมิติสำคัญไม่กี่มิติ การลดลงนี้เป็นไปได้เพราะคุณลักษณะบางอย่างอาจมีความสัมพันธ์กัน การให้คะแนนที่ให้กับคุณลักษณะใดคุณลักษณะหนึ่งเป็นผลมาจากอิทธิพลของคุณลักษณะอื่นๆ บางส่วน อัลกอริทึมทางสถิติจะแยกการให้คะแนน (เรียกว่าคะแนนดิบ) ออกเป็นส่วนประกอบต่างๆ และสร้างคะแนนบางส่วนขึ้นใหม่เป็นคะแนนปัจจัยพื้นฐาน ระดับความสัมพันธ์ระหว่างคะแนนดิบเริ่มต้นและคะแนนปัจจัยสุดท้ายเรียกว่าค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัย

• สามารถใช้ได้ทั้งคุณลักษณะเชิงวัตถุวิสัยและเชิงอัตวิสัย โดยมีเงื่อนไขว่าคุณลักษณะเชิงอัตวิสัยนั้นสามารถแปลงเป็นคะแนนได้
• การวิเคราะห์ปัจจัยสามารถระบุถึงมิติหรือโครงสร้างแฝงที่การวิเคราะห์โดยตรงอาจไม่สามารถระบุได้
• มันง่ายและไม่แพง

• ประโยชน์ของงานวิจัยขึ้นอยู่กับความสามารถของนักวิจัยในการรวบรวมคุณลักษณะของผลิตภัณฑ์ให้เพียงพอ หากคุณลักษณะที่สำคัญถูกละเลยหรือมองข้ามไป คุณค่าของกระบวนการก็จะลดลง
• หากชุดของตัวแปรที่สังเกตได้มีความคล้ายคลึงกันมากและแตกต่างจากรายการอื่นๆ การวิเคราะห์ปัจจัยจะกำหนดปัจจัยเดียวให้กับชุดเหล่านั้น ซึ่งอาจบดบังปัจจัยที่แสดงถึงความสัมพันธ์ที่น่าสนใจกว่าได้
• การตั้งชื่อปัจจัยอาจต้องอาศัยความรู้ทางทฤษฎี เนื่องจากคุณลักษณะที่ดูเหมือนแตกต่างกันอาจมีความสัมพันธ์กันอย่างมากด้วยเหตุผลที่ไม่ทราบแน่ชัด

• ปัจจัย- ซอฟต์แวร์วิเคราะห์ปัจจัยฟรีที่พัฒนาโดยมหาวิทยาลัย Rovira i Virgili